কৃত্রিম বুদ্ধিমত্তার দ্রুত উন্নয়ন নিয়ে উদ্বেগের মধ্যেই গুগ্ল ডিপমাইন্ডের এজিআই নিরাপত্তা দলের গবেষক জশ এঙ্গেলস সংস্থা ছেড়ে দিয়েছেন। বর্তমানে তিনি এআই মূল্যায়নকারী সংস্থা মেটরে কাজ করছেন। মেটরের তথ্য অনুযায়ী, এঙ্গেলস এখন এআই অ্যালাইনমেন্ট বা মানুষের উদ্দেশ্যের সঙ্গে এআইয়ের আচরণ সামঞ্জস্যপূর্ণ রাখার বিষয়টি নিয়ে গবেষণা করছেন।
ডিপমাইন্ড ছাড়ার কারণ ব্যাখ্যা করে এঙ্গেলস জানিয়েছেন, উন্নত এআইয়ের ঝুঁকি তাঁর কাছে এতটাই বেড়েছে যে আগামী পাঁচ বছরের মধ্যে এআই থেকে ‘বিরাট ক্ষতি’র আশঙ্কা করছেন তিনি। তাঁর মূল উদ্বেগ ‘রিকারসিভ সেল্ফ ইমপ্রুভমেন্ট’ বা এমন একটি প্রক্রিয়া, যেখানে এআই নিজেই আরও উন্নত এআই তৈরি করতে সাহায্য করতে পারে এবং তার ফলে দ্রুতগতির একটি ফিডব্যাক লুপ তৈরি হতে পারে। এঙ্গেলসের মতে, এই ধরনের আত্মউন্নয়নশীল এআই ব্যবস্থার নিরাপত্তা নিশ্চিত করার পদ্ধতি এখনও যথেষ্ট পরিণত নয়।
এঙ্গেলস আরও দাবি করেছেন, সাম্প্রতিক কিছু ঘটনায় এআই মডেলের মধ্যে একে অপরের সঙ্গে আঁতাত, হ্যাকিং, নিজেদের কার্যকলাপ গোপন করা এবং মানুষকে প্রভাবিত করার মতো আচরণ দেখা গিয়েছে। তাঁর বক্তব্য, এই ঘটনাগুলি একা বিপর্যয়কর না হলেও এগুলি দেখাচ্ছে যে এআই সিস্টেমগুলির নিরাপত্তা ও অ্যালাইনমেন্ট নিয়ে এখনও প্রশ্ন রয়েছে। তাই এআইয়ের ক্ষমতা বাড়ানোর গতি এমন পর্যায়ে রাখা প্রয়োজন, যাতে নিরাপত্তা গবেষণা তার সঙ্গে তাল মিলিয়ে এগোতে পারে।
এর কয়েক দিনের মধ্যেই অ্যানথ্রপিকের প্রাক্তন গবেষক জ্যাকব কক্সনও এআইয়ের সম্ভাব্য বিপদ নিয়ে প্রকাশ্যে সতর্ক করেন। তিনি দাবি করেছিলেন, এআই তৈরি করা সংস্থাগুলির অনেকেই মনে করেন যে দশকের শেষের মধ্যেই প্রযুক্তিটি মানবজাতির জন্য অস্তিত্বগত বিপদ তৈরি করতে পারে। কক্সনের মন্তব্যের পর অ্যানথ্রপিকের অ্যালাইনমেন্ট গবেষক ইভান হুবিঙ্গারও একই ধরনের উদ্বেগ প্রকাশ করেন। তবে এআইয়ের ঝুঁকি কতটা এবং এমন পরিস্থিতি কত দ্রুত তৈরি হতে পারে, তা নিয়ে গবেষক মহলে কোনও সর্বসম্মত হিসাব নেই।
মেটরে এঙ্গেলসের পরবর্তী কাজের লক্ষ্য হবে এআইয়ের অ্যালাইনমেন্ট সমস্যা কোথা থেকে তৈরি হচ্ছে তা খতিয়ে দেখা, বর্তমান নিরাপত্তা ব্যবস্থাগুলি কতটা কার্যকর তা পরীক্ষা করা এবং উন্নত এআইকে নিরাপদ রাখার গবেষণা সঠিক পথে এগোচ্ছে কি না, তা মূল্যায়ন করা।
