এআই নিরাপত্তা নিয়ে উদ্বেগ, ওপেনএআই ছাড়লেন নিরাপত্তাকর্মী

কৃত্রিম বুদ্ধিমত্তা বা এআই উন্নয়নের নিরাপত্তা ঝুঁকি নিয়ে উদ্বেগ প্রকাশ করে ওপেনএআইয়ের এক সাবেক নিরাপত্তাকর্মী পদত্যাগ করেছেন। রয়টার্সের প্রতিবেদনে জানানো হয়েছে, ডেভিড রবিনসন নামে ওই কর্মী সম্প্রতি প্রতিষ্ঠানটি ছেড়েছেন। শনিবার দ্য আটলান্টিকে প্রকাশিত এক নিবন্ধে তিনি বলেন, উন্নত এআই সিস্টেম তৈরির ক্ষেত্রে বিশেষ করে ওপেনএআইয়ের উচিত নিরাপত্তা গবেষণা এবং বিশেষজ্ঞদের মতামতকে অধিক গুরুত্ব দেওয়া। রবিনসনের মতে, এআই নিয়ে পরীক্ষা-নিরীক্ষার সময় এখন শেষ হয়েছে।

উন্নত এআই ব্যবস্থার নিরাপত্তার জন্য পারমাণবিক বিদ্যুৎ কিংবা উড়োজাহাজ শিল্পের মতো কঠোর নিয়ম অনুসরণ করা প্রয়োজন বলে তিনি মনে করেন। ওপেনএআই বর্তমানে ‘ইটারেটিভ ডিপ্লয়মেন্ট’ বা ধাপে ধাপে এআই উন্মোচনের যে পদ্ধতি অনুসরণ করছে, শক্তিশালী এআই সিস্টেমের ক্ষেত্রে তা পর্যাপ্ত নয় বলে রবিনসনের দাবি।

প্রায় সাড়ে তিন বছর ওপেনএআইয়ে কর্মরত ছিলেন রবিনসন। এই সময়ে তিনি প্রতিষ্ঠানের ‘প্রিপেয়ার্ডনেস ফ্রেমওয়ার্ক’ তৈরিতে কাজ করার পাশাপাশি ১২টি অত্যাধুনিক এআই মডেল উন্মোচনের নিরাপত্তা প্রতিবেদন তদারকির দায়িত্বে ছিলেন। তার অভিযোগ, নতুন নতুন মডেল উন্মোচনের প্রতিযোগিতায় ওপেনএআই যথাযথ সতর্কতা বজায় রাখতে ব্যর্থ হচ্ছে। একই সঙ্গে তিনি সতর্ক করে বলেছেন, এআইয়ের সক্ষমতা গবেষকদের ‘এআই অ্যালাইনমেন্ট’ বোঝার ক্ষমতার চেয়েও দ্রুতগতিতে এগিয়ে যাচ্ছে। মানুষের লক্ষ্য ও মূল্যবোধের সঙ্গে এআইয়ের আচরণ সামঞ্জস্য রাখার এই প্রক্রিয়াটি এখন বড় চ্যালেঞ্জের মুখে।

রবিনসনের এই মন্তব্যের প্রেক্ষিতে ওপেনএআই জানিয়েছে, এআই মডেলগুলো যাতে নিয়ন্ত্রণ ও সুরক্ষার সক্ষমতার চেয়ে বেশি শক্তিশালী না হয়ে ওঠে, তা নিশ্চিত করতে তারা কাজ করছে। প্রতিষ্ঠানটির ভাষ্যমতে, প্রয়োজনবোধে তারা কোনো মডেলের প্রশিক্ষণ বন্ধ করা কিংবা সেটির উন্মোচন পিছিয়ে দেওয়ার মতো সিদ্ধান্তও গ্রহণ করে থাকে। শক্তিশালী এআই মডেলের দ্রুত উন্নয়নের পাশাপাশি এই প্রযুক্তির নিরাপত্তা নিয়ে বিশ্বজুড়ে ক্রমবর্ধমান উদ্বেগের মধ্যেই রবিনসনের এই পদত্যাগের ঘটনাটি সামনে এল।