এআই নিয়ন্ত্রণে স্বাধীন নজরদারির দাবি তুলছেন গবেষকেরা
- আপডেট সময় : ১২:৩৫:২৩ পূর্বাহ্ন, শনিবার, ৩ অক্টোবর ২০২৬ ৫ বার পড়া হয়েছে
Single Page Middle (336×280)
কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তি যদি বারবার এমন সব জায়গায় প্রবেশ করে যেখানে তার যাওয়ার অনুমতি নেই, তবে এই প্রযুক্তিকে নিয়ন্ত্রণে রাখার দায়িত্ব যাদের হাতে, তাদের ওপর ভরসা করা কঠিন হয়ে পড়ে। সাম্প্রতিক কিছু ঘটনায় এআই নির্মাতা প্রতিষ্ঠানগুলোর ওপর গ্রাহক ও গবেষকদের সেই আস্থা আরও নড়বড়ে হয়ে উঠেছে। ওপেনএআই-এর একটি এআই এজেন্ট জাতিসংঘের একটি উন্মুক্ত তথ্যভান্ডারে ১৬ হাজারেরও বেশিবার প্রবেশের চেষ্টা করেছে এবং সাইবার নিরাপত্তা বাধা এড়ানোর জন্য বারবার চেষ্টা চালিয়েছে। তবে গবেষকেরা বলছেন, এর অর্থ এই নয় যে এআই মানুষের বিরুদ্ধে কোনো বিদ্রোহ শুরু করেছে। মূলত মডেলগুলোকে দেওয়া নির্দেশ পালন করতে গিয়ে তারা এমন সব পথ বেছে নিচ্ছে, যা হয়তো নির্মাতারা আগে থেকে ভাবেননি। কিন্তু সমস্যা হলো, এআই প্রতিষ্ঠানগুলো নিজেরাই যদি তাদের তৈরি সিস্টেমের কর্মকাণ্ড সবসময় বুঝতে না পারে, তবে তাদের ওপর নজরদারির দায়িত্ব ছেড়ে দেওয়া কতটা নিরাপদ, তা নিয়ে প্রশ্ন উঠছে।
গত জুনে অস্ট্রেলিয়ায় এমনই এক অনাকাঙ্ক্ষিত ঘটনা ঘটে। ওপেনএআই-এর একটি গবেষণা এজেন্টকে দেশটির সরকারি স্বাস্থ্যব্যয়-সংক্রান্ত তথ্য খোঁজার দায়িত্ব দেওয়া হয়েছিল। অস্ট্রেলিয়ার মেডিকেয়ার পরিসংখ্যান পোর্টাল তাকে কয়েকবার বাধা দেওয়ার পরও এজেন্টটি সেই বাধা এড়িয়ে অনুমোদনহীনভাবে তথ্য সংগ্রহ করে। ওপেনএআই বিষয়টি আগস্টে জানতে পারে। তবে অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি অ্যালবানিজ অসন্তোষ প্রকাশ করে জানান, সরকারকে এই তথ্য জানাতে কোম্পানিটি অনেক বেশি সময় নিয়েছে।
শুধু ওপেনএআই নয়, অন্য শীর্ষস্থানীয় এআই কোম্পানিগুলোর ক্ষেত্রেও একই ধরনের ঘটনা ঘটেছে। এথ্রোপিক প্রায় ১ লাখ ৪১ হাজার মডেল কথোপকথন পর্যালোচনা করে তাদের তৈরি 'ক্লড'-এর মাধ্যমে তিনটি ঘটনায় বাস্তব তৃতীয় পক্ষের সিস্টেমে অনুমোদনহীন প্রবেশের তথ্য পেয়েছে। পরবর্তীতে স্বাধীন তদন্তের জন্য নথি তৈরির সময় আরও একটি পুরোনো ঘটনা সামনে আসে। অন্যদিকে, গুগলও স্বীকার করেছে যে পরীক্ষার সময় তাদের তৈরি 'জেমিনি' তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল।
ওপেনএআই-এর অন্যান্য কিছু এজেন্টও ইন্টারনেট ব্যবহারে নিষেধাজ্ঞা অমান্য করে বাইরের একটি চ্যাটবটের কাছে পৌঁছেছে। এর মধ্যে একটি এজেন্ট গাণিতিক সমস্যার সমাধান করার চেষ্টা করতে গিয়ে একজন গবেষকের গিটহাব অ্যাক্সেস টোকেন ফাঁস করে দেয়। এছাড়া কিছু গবেষণা এজেন্ট ব্যবহারকারীদের ৫৩টি ছবি বাইরের হোস্টিং সাইটে পাঠিয়েছে। অন্যান্য ঘটনাগুলোর মধ্যে অনলাইনে পাওয়া পরিচয়পত্র ব্যবহার করে জনগণনার তথ্য সংগ্রহ, মার্কিন সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশনের তথ্য অন্যত্র কপি করা এবং যুক্তরাষ্ট্রের শিক্ষা বিভাগের একটি ওয়েবসাইটে প্রবেশের ব্যর্থ চেষ্টার মতো বিষয়গুলো উঠে এসেছে।
ওপেনএআই জানিয়েছে, তাদের এজেন্টের কর্মকাণ্ডে ক্ষতিগ্রস্ত কয়েক ডজন তৃতীয় পক্ষকে বিষয়টি জানানো হয়েছে এবং অতীতের কর্মকাণ্ড নিয়েও পর্যালোচনা চলছে। তবে সংশ্লিষ্ট গবেষকদের মতে, বিমান দুর্ঘটনার তদন্ত যেমন শুধু বিমান নির্মাতা প্রতিষ্ঠানের ওপর ছেড়ে দেওয়া যায় না, তেমনি এআইয়ের সুরক্ষাও কেবল নির্মাতা কোম্পানির ওপর ছেড়ে দেওয়া যায় না। এর জন্য প্রয়োজন সম্পূর্ণ স্বাধীন নজরদারি।
এই লক্ষ্যকে সামনে রেখে গত সপ্তাহে জাতিসংঘের সাধারণ পরিষদের অধিবেশনে এআই গবেষক রুম্মান চৌধুরী ১০ মিলিয়ন ডলারের অর্থায়নে 'ইন্ডিপেন্ডেন্ট এভ্যুয়লেশন ফাউন্ডেশন' চালু করেছেন। এই প্রতিষ্ঠানের লক্ষ্য হলো এআই ব্যবস্থার স্বাধীন ও পেশাদার মূল্যায়ন নিশ্চিত করা, যাতে যারা এআই পরীক্ষা করবেন, তাদের স্বার্থ সংশ্লিষ্ট কোম্পানির আর্থিক স্বার্থের সঙ্গে যুক্ত না থাকে। তবে এই উদ্যোগ প্রশংসনীয় হলেও একা তা যথেষ্ট নয়। কারণ এই ধরনের প্রতিষ্ঠানের কাছে কোনো কোম্পানিকে তথ্যের লগ হস্তান্তর বা সরকারের কাছে গুরুতর ঘটনার খবর দিতে বাধ্য করার আইনি ক্ষমতা নেই।
তাই শেষ পর্যন্ত সরকারি পর্যায়ে একটি অভিন্ন নিয়ম প্রয়োজন। গুরুতর এআই দুর্ঘটনা কিংবা দুর্ঘটনার কাছাকাছি চলে যাওয়া ঘটনাগুলো দ্রুত জানানো বাধ্যতামূলক করতে হবে। একই সঙ্গে স্বাধীন মূল্যায়নকারীদের কাছে কোম্পানিগুলোকে তথ্য উন্মুক্ত করতে হবে, যাতে একটি প্রতিষ্ঠানের ভুল থেকে অন্যরা শিক্ষা নিতে পারে। এআই কোম্পানিগুলো এই নিয়ম তৈরির আলোচনায় অংশ নিতে পারে, তবে নিয়মের শেষ কথা তাদের হাতে থাকা উচিত নয়। প্রযুক্তি যত শক্তিশালী হচ্ছে, তার ওপর নজরদারিও তত স্বাধীন, স্বচ্ছ ও কঠোর হওয়া প্রয়োজন।
নিউজটি শেয়ার করুন
