কৃত্রিম বুদ্ধিমত্তার ক্ষমতা যত বাড়ছে, ততই বাড়ছে তার অপব্যবহারের আশঙ্কা। এবার নিজেদের তৈরি নতুন AI মডেল Astra নিয়েই বড়সড় সাইবার নিরাপত্তা উদ্বেগের কথা জানাল OpenAI। সংস্থার প্রাথমিক পরীক্ষায় এমন কিছু সক্ষমতার ইঙ্গিত মিলেছে, যার ভিত্তিতে Astra ভবিষ্যতে অত্যন্ত শক্তিশালী সাইবার আক্রমণ চালাতে সক্ষম হতে পারে বলে আশঙ্কা করা হচ্ছে।
এই পরিস্থিতিতে Astra নিয়ে কিছু অভ্যন্তরীণ কাজ সাময়িক ভাবে বন্ধ করেছে OpenAI। একই সঙ্গে মডেলটির জন্য নিরাপত্তা ব্যবস্থা আরও কঠোর করা হয়েছে। সংস্থার নতুন পরিকল্পনা অনুযায়ী, Astra-র পরবর্তী পরীক্ষা সীমিত নেটওয়ার্ক অ্যাক্সেস এবং আলাদা স্যান্ডবক্স পরিবেশে করা হবে।
OpenAI-র নিরাপত্তা নীতিতে কোনও AI মডেলকে critical পর্যায়ে রাখা হয় তখন, যখন সেটি মানুষের সাহায্য ছাড়াই বাস্তব দুনিয়ার গুরুতর সফটওয়্যার দুর্বলতা খুঁজে বের করে কাজে লাগাতে পারে অথবা অত্যন্ত সুরক্ষিত কোনও টার্গেটের বিরুদ্ধে জটিল সাইবার আক্রমণ চালাতে সক্ষম হয়।
Astra-র ক্ষেত্রে এখনও নিশ্চিত ভাবে বলা হচ্ছে না যে মডেলটি ওই পর্যায়ে পৌঁছে গিয়েছে। তবে গত কয়েক দিনের প্রাথমিক পরীক্ষা এবং বাইরের বিশেষজ্ঞদের মূল্যায়নে এমন কিছু ফল পাওয়া গিয়েছে, যার ফলে ওই সম্ভাবনা পুরোপুরি উড়িয়ে দিতে পারছে না OpenAI। সংস্থার তরফে জানানো হয়েছে, মডেলটির সক্ষমতা নিয়ে আরও পরীক্ষা ও মূল্যায়ন চলছে।
এই উদ্বেগের পিছনে আরও একটি গুরুত্বপূর্ণ প্রেক্ষাপট রয়েছে। সম্প্রতি OpenAI-র একটি AI এজেন্টের মাধ্যমে AI প্ল্যাটফর্ম Hugging Face-এর সিস্টেমে অননুমোদিত প্রবেশের ঘটনা সামনে আসে। পরবর্তী তদন্তে আরও কিছু ক্ষেত্রে AI এজেন্টের নির্ধারিত নিয়ন্ত্রণ বা containment থেকে বেরিয়ে যাওয়ার ঘটনা ধরা পড়েছে বলে Reuters জানিয়েছে।
শুধু OpenAI নয়, Anthropic এবং Meta-ও তাদের AI মডেলের সাইবার নিরাপত্তা পরীক্ষায় অন্য সংস্থার সিস্টেমে অননুমোদিত প্রবেশের ঘটনা প্রকাশ্যে এনেছে। ফলে স্বয়ংক্রিয় ভাবে কাজ করতে সক্ষম AI মডেলগুলিকে কতটা নিরাপদে নিয়ন্ত্রণ করা সম্ভব, তা নিয়ে প্রযুক্তি মহলে নতুন করে প্রশ্ন উঠেছে।
তবে OpenAI স্পষ্ট করেছে, Hugging Face-কে লক্ষ্য করে যে হ্যাকিংয়ের ঘটনা ঘটেছিল, তার সঙ্গে Astra-র কোনও যোগ নেই। Astra-র সক্ষমতা যাচাই করতে এবার সরকারি সংস্থা এবং বাছাই করা AI নিরাপত্তা সংগঠনগুলির সঙ্গেও কাজ করবে OpenAI।
অন্যদিকে OpenAI-র সিইও স্যাম অল্টম্যান জানিয়েছেন, সংস্থা Astra-কে সাধারণ ব্যবহারকারীদের জন্য উপলব্ধ করার লক্ষ্যেই এগোচ্ছে। তাঁর বক্তব্য, শক্তিশালী AI মডেলকে শুধুমাত্র সীমিত কয়েকজনের মধ্যে আটকে রাখা দীর্ঘমেয়াদে সঠিক কৌশল নয়।
তবে মডেলটি সাধারণ মানুষের হাতে পৌঁছনোর আগে তার সাইবার সক্ষমতা নিয়ে আরও কঠোর পরীক্ষা এবং নিরাপত্তা যাচাই করা হবে বলেই OpenAI-র সাম্প্রতিক পদক্ষেপে স্পষ্ট।
