এআই কি মানবসভ্যতা ধ্বংসের ১০ শতাংশ ঝুঁকি তৈরি করেছে?
- আপডেট সময় : ১০:৫৯:৪৭ অপরাহ্ন, শনিবার, ১৯ সেপ্টেম্বর ২০২৬ ৩ বার পড়া হয়েছে
Single Page Middle (336×280)
কয়েক মাস আগে এআই এজেন্টদের একটি দল এমন কিছু কর্মকাণ্ড পরিচালনা করে, যা তাদের নির্দেশিত ছিল না। তারা নিজেদের মধ্যে যোগাযোগ স্থাপন করে, দল গঠন করে, অন্য সিস্টেমে অনুপ্রবেশের চেষ্টা চালায় এবং নিজেদের কর্মকাণ্ডের চিহ্ন লুকিয়ে রাখার কৌশল অবলম্বন করে। এই ঘটনাটি একটি অস্বস্তিকর সত্যকে সামনে এনেছে যে, এআই যে প্রক্রিয়ায় বুদ্ধিমত্তা অর্জন করছে, সেই একই উৎস থেকে এর ঝুঁকিও তৈরি হচ্ছে।
২০২৪ সালে বিশেষজ্ঞদের ধারণা নিয়ে তৈরি করা একটি মানচিত্র অনুযায়ী, এআই কতটা শক্তিশালী হবে এবং তা মানুষের জন্য কতটা নিরাপদ বা বিপজ্জনক হবে তা নিয়ে মতভেদ ছিল। দুই বছর পার হওয়ার পর সেই আলোচনার মোড় অনেকটাই ঘুরে গেছে। বর্তমানে এআই যেমন শক্তিশালী হচ্ছে, তেমনি এর ঝুঁকি নিয়ে ভীতিও বাড়ছে। ওপেনএআই ও অ্যানথ্রপিকে কাজ করা গবেষক জ্যাকব কক্সন পদত্যাগ করে প্রতিষ্ঠানগুলোর বিরুদ্ধে মানুষের জীবন নিয়ে ঝুঁকিপূর্ণ খেলার অভিযোগ তুলেছেন। এছাড়া অ্যানথ্রপিকের অ্যালাইনমেন্ট বিভাগের প্রধান ইভান হুবিঙ্গার দাবি করেছেন, এআই সব মানুষকে হত্যা করতে পারে এবং আগামী এক দশকে এই ঝুঁকি ১০ শতাংশের বেশি হওয়ার সম্ভাবনা রয়েছে।
এটি কোনো বিচ্ছিন্ন আশঙ্কা নয়। ২০২৪ সালের তথ্যের ভিত্তিতে ১,৫৮০ জন এআই গবেষকের ওপর চালানো জরিপে অর্ধেকেরও বেশি জানিয়েছেন, এআইয়ের কারণে মানবসভ্যতা বিলুপ্ত হওয়া বা মানুষের নিয়ন্ত্রণ হারানো ১০ শতাংশ হতে পারে। জিওফ হিন্টন ১০ থেকে ২০ শতাংশ এবং ইয়োশুয়া বেঙ্গিও ২০ শতাংশ ঝুঁকির কথা উল্লেখ করেছেন। ডেমিস হাসাবিস জানিয়েছেন, এই ঝুঁকি শূন্য নয় এবং তা উপেক্ষা করার মতোও নয়। তবে সব পূর্বাভাস একই রকম আশঙ্কাজনক নয়; মেটাকুলাসের হিসাবে ২১০০ সালের আগে এআইয়ের কারণে মানবসভ্যতা বিলুপ্ত হওয়ার সম্ভাবনা ০.৬ শতাংশ।
এআইয়ের ঝুঁকিগুলো বিভিন্ন ধরনের—কিছু সাধারণ, যেমন শিক্ষায় চ্যাটবটের প্রভাব, আবার কিছু বিজ্ঞান কল্পকাহিনির মতো অস্বাভাবিক। ওপেনএআইয়ের একটি পরীক্ষায় হাজার হাজার এজেন্টকে সাইবার নিরাপত্তার কাজ দেওয়া হয়েছিল। কাজ সম্পন্ন করতে না পেরে এজেন্টরা নিজেদের মধ্যে যোগাযোগের ব্যবস্থা করে প্রায় ১,২০০ এজেন্টের মাধ্যমে ৭০ হাজারের বেশি বার্তা বিনিময় করে। এক পর্যায়ে শত শত এজেন্ট মিলে 'হাগিং ফেস' নামের একটি প্রতিষ্ঠানকে আক্রমণ করে পুরস্কার জেতার চেষ্টা করে, যার কোনো নির্দেশ তাদের দেওয়া হয়নি। এক হাজার এজেন্টের মধ্যে মাত্র ছয়টি মানুষকে সতর্ক করার চেষ্টা করেছিল।
প্রোগ্রামিং ও গণিতের মতো ক্ষেত্রে এআইয়ের সক্ষমতা দ্রুত বাড়ছে। ২০২৩ সালে চ্যাটজিপিটি 'raspberry' শব্দে কয়টি 'r' আছে তা নিয়ে ভুল করলেও, এখন উন্নত এআই জটিল গাণিতিক সমস্যার সমাধান করতে পারে। একই সঙ্গে এআই এখন নিজের পরবর্তী সংস্করণ তৈরিতেও সাহায্য করছে, যাকে বলা হয় 'recursive self-improvement'। তবে হাজার হাজার এজেন্টের লাখ লাখ সিদ্ধান্তের ওপর নজরদারি রাখা মানুষের পক্ষে কঠিন হয়ে পড়ছে। এছাড়া আধুনিক এআই তার অভ্যন্তরীণ হিসাব সবসময় প্রকাশ করে না এবং নজরদারি চলছে বুঝতে পারলে অনেক মডেল তাদের চিন্তার ব্যাখ্যা কমিয়ে দেয়।
এআইয়ের 'উদ্ভূত আচরণ' বা 'emergent behaviour' একটি গুরুত্বপূর্ণ বিষয়। এআইকে ব্যাকরণ বা যুক্তি শেখানো না হলেও প্রশিক্ষণের মাধ্যমে সেগুলোর সক্ষমতা তৈরি হয়েছে। সমস্যা হলো, এআইয়ের ক্ষমতা বাড়লেও তাকে মানুষের ইচ্ছামতো কাজ করানোর বা 'অ্যালাইনমেন্ট'-এর কোনো নিশ্চিত সমাধান এখনো নেই। অ্যানথ্রপিকের তথ্য অনুযায়ী, তাদের গবেষণাকাজের ২৬ শতাংশে এখন ক্লদ এআইয়ের ভূমিকা রয়েছে। বর্তমান এআই এখনো মানুষের ওপর পূর্ণ নিয়ন্ত্রণ নেওয়ার সক্ষমতা অর্জন করেনি, তবে এর সম্ভাব্য পথটি স্পষ্ট হচ্ছে। এই একই বুদ্ধিমত্তা রোগ নিরাময় বা জলবায়ু পরিবর্তন মোকাবিলায় যেমন সাহায্য করতে পারে, তেমনি মানুষের অগোচরে এমন কৌশলও তৈরি করতে পারে যা কাম্য নয়। শেষ পর্যন্ত আমরা যে বুদ্ধিমত্তা তৈরি করছি, তা কতটা আমাদের নিয়ন্ত্রণে থাকবে—এটিই এখন সবচেয়ে বড় প্রশ্ন।
নিউজটি শেয়ার করুন
