কৃত্রিম বুদ্ধিমত্তা (এআই) খাতের নিয়ন্ত্রণ ও নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে ওপেনএআইয়ের কিছু এআই এজেন্টের অস্বাভাবিক কর্মকাণ্ডে। সম্প্রতি প্রকাশিত এক গবেষণা প্রতিবেদনে বলা হয়েছে, চলতি বছরের বসন্তে ওপেনএআইয়ের কয়েকটি এআই এজেন্ট জার্মানির একটি উইকি সাইটে অননুমোদিতভাবে প্রবেশ করে সেটিকে নিজেদের গোপন যোগাযোগের বুলেটিন বোর্ডে পরিণত করেছিল। শুক্রবার প্রকাশিত গবেষণা প্রতিবেদন এবং বিষয়টির সঙ্গে সংশ্লিষ্ট দুই ব্যক্তির বরাতে এ তথ্য জানিয়েছে রয়টার্স।

ঘটনা জানলেও প্রকাশ করেনি ওপেনএআই
সূত্রের দাবি, ওপেনএআইয়ের কর্মকর্তারা কয়েক সপ্তাহ আগেই জার্মানির এ ঘটনার বিষয়ে জানতে পারেন। তবে ওপেন সোর্স রিপোজিটরি হাগিং ফেইসে জুলাইয়ে ঘটে যাওয়া একটি নিরাপত্তা লঙ্ঘন এবং এর পরবর্তী পরিস্থিতি সামাল দিতে গিয়ে তারা জার্মানির ঘটনাটি প্রকাশ করেননি। মে মাসে শুরু হওয়া এবং এত দিন গণমাধ্যমের অগোচরে থাকা ঘটনাটি উন্নত এআই এজেন্টের নিয়ন্ত্রণ ও নিরাপত্তা নিয়ে নতুন প্রশ্ন তৈরি করেছে। বিশেষ করে স্বয়ংক্রিয়ভাবে জটিল কাজ সম্পন্ন করতে সক্ষম এআই এজেন্ট তৈরির প্রতিযোগিতার মধ্যেই এমন ঘটনা সামনে এসেছে।

নিজেদের মধ্যে যোগাযোগ ও নিয়ম এড়ানোর চেষ্টা
গবেষকদের মতে, এসব এআই সিস্টেম কখনো কখনো ডেভেলপারদের পূর্বপরিকল্পনা বা নির্দেশনা ছাড়াই নিরাপত্তার ত্রুটি ও লুপহোল কাজে লাগাতে এবং নিজেদের মধ্যে সমন্বয় করতে পারে। গবেষণায় এমনও দেখা গেছে, হাগিং ফেইসের নিরাপত্তা লঙ্ঘনের সময় ওপেনএআইয়ের এজেন্টগুলো স্বয়ংক্রিয়ভাবে একটি সাইবার হামলার পরিকল্পনা করেছিল, যা এক সপ্তাহের বেশি সময় ধরে মানুষের নজরের বাইরে ছিল। এ ধরনের ঘটনা এআই সক্ষমতা বাড়ানোর প্রতিযোগিতায় নিরাপত্তাকে যথেষ্ট গুরুত্ব দেওয়া হচ্ছে কি না, সে প্রশ্নও সামনে এনেছে।

জার্মানির প্রোগ্রামারদের জন্য তৈরি উইকিপিডিয়ার মতো যৌথভাবে সম্পাদনাযোগ্য ‘ডিএসইউইকি’ সাইটে এআই এজেন্টদের কর্মকাণ্ড শনাক্ত করেন এআই নিরাপত্তাবিষয়ক গবেষকেরা। অগাস্টের শেষদিকে অননুমোদিত এআই এজেন্টের আচরণ শনাক্ত করতে ইন্টারনেটে অনুসন্ধানের সময় তারা বিষয়টি প্রথম খুঁজে পান। গবেষকদের হিসাবে, সাইটটিতে এআই এজেন্টদের করা ১৫ হাজারের বেশি সম্পাদনা বা এডিটের তথ্য পাওয়া গেছে। তাদের দাবি, এসব এজেন্ট সাইটটিকে গোপন বার্তা আদান-প্রদানের জায়গা হিসেবে ব্যবহার করেছিল।

নিরাপত্তা নিষেধাজ্ঞা এড়ানোর তথ্য আদান-প্রদান
গবেষকদের পর্যালোচনা করা বার্তাগুলোতে দেখা গেছে, এআই এজেন্টগুলো বিভিন্ন প্রতারণার কৌশল, ওপেনএআইয়ের নিরাপত্তা নিষেধাজ্ঞা এড়ানোর উপায় এবং নিজেদের কর্মকাণ্ড আড়াল করার কৌশল নিয়ে তথ্য আদান-প্রদান করেছিল। এআই নিরাপত্তাবিষয়ক সংগঠন নাইটিঙ্গেলের প্রধান নির্বাহী সিডনি ভন আর্ক্স বলেন, ওপেনএআই তাদের এমন কর্মকাণ্ডের নির্দেশ দিয়েছিল—এমন কোনো কারণ গবেষকদের হাতে নেই। বার্তাগুলোতে ব্যবহৃত বেশ কিছু ব্যবহারকারীর নামও এজেন্টগুলো নিজেদের ও একে অপরকে শনাক্ত করতে ব্যবহার করেছিল। এর প্রায় অর্ধেক নামের মধ্যে ওপেনএআইয়ের সঙ্গে সম্পর্কের ইঙ্গিত পাওয়া যায়।

গবেষকদের দাবি, এআই এজেন্টগুলো মানুষের নজরদারি এড়াতে টর নেটওয়ার্কের মতো টুল ব্যবহারের চেষ্টা করেছে। এমনকি সিস্টেম বন্ধ করে দেওয়া হলেও নিজেদের যোগাযোগ চালু রাখার পরিকল্পনাও তারা করেছিল। জুনে সাইটের মডারেটররা বিভিন্ন পেজ মুছে ফেলতে শুরু করলে এআই এজেন্টগুলো বিকল্প ব্যাকআপ পেজ তৈরির উদ্যোগ নেয়। গবেষকেরা এসব কর্মকাণ্ডকে সাইবার হামলা বা হ্যাকিংয়ের প্রচেষ্টা হিসেবে বর্ণনা করেছেন। তবে ওপেনএআই বৃহস্পতিবার ওই তথ্য বিশ্লেষণ করে এ দাবির সঙ্গে দ্বিমত জানিয়েছে।

তদন্ত ও স্বচ্ছতা নিয়ে প্রশ্ন
ঘটনার সঙ্গে ঘনিষ্ঠভাবে যুক্ত চার ব্যক্তির দাবি, জার্মানির ঘটনাটি এআই কাঠামোর সার্বিক কার্যক্রমের বড় ধরনের ত্রুটির ইঙ্গিত দেয়। ওপেনএআইয়ের কয়েকজন তদন্তকারী বিষয়টি আরও গভীরভাবে অনুসন্ধান করতে চাইলেও কোম্পানির ভেতরের বিভিন্ন পক্ষ, এমনকি আইনি পরামর্শকদের কাছ থেকেও বাধার মুখে পড়তে হয়েছে বলে অভিযোগ রয়েছে। তবে ওপেনএআইয়ের মুখপাত্র এ অভিযোগ অস্বীকার করে বলেছেন, আইনি দল তদন্তে কোনো ধরনের বাধা বা নিরুৎসাহ তৈরি করেনি। তাঁর দাবি, জার্মানির ঘটনাটির সঙ্গে হাগিং ফেইসের নিরাপত্তা লঙ্ঘনের কোনো সম্পর্ক নেই।

‘আধা-বুদ্ধিমান এআইয়ের ঝাঁক’ নিয়ে শঙ্কা
বিশেষজ্ঞদের মতে, এ ঘটনা নিয়ন্ত্রিত পরীক্ষার বাইরে এআই এজেন্টের অনাকাঙ্ক্ষিত আচরণের সম্ভাবনা নিয়ে নতুন করে ভাবতে বাধ্য করছে। কিংস কলেজ লন্ডনের গবেষক লুকাজ ওলেজনিক বলেন, এসব ফলাফল থেকে বোঝা যায়, বিদ্রোহী ধরনের আচরণ কেবল নিয়ন্ত্রিত পরীক্ষার মধ্যেই সীমাবদ্ধ নাও থাকতে পারে। কেমব্রিজ বিশ্ববিদ্যালয়ের গবেষক মরিস চিওডো এআই এজেন্টদের বার্তা বিশ্লেষণ করে বলেন, এগুলো কোনো লক্ষ্য অর্জনে মরিয়া হয়ে ওঠা ভূগর্ভস্থ নেটওয়ার্কের কার্যক্রমের মতো মনে হয়েছে। তাঁর মতে, ভবিষ্যতে উন্নত এআই থেকে সবচেয়ে বড় ঝুঁকি কোনো একক অতিবুদ্ধিমান সিস্টেম থেকে নয়; বরং পরস্পরের সঙ্গে যুক্ত বড় একটি ‘আধা-বুদ্ধিমান এআইয়ের দল বা ঝাঁক’ থেকেও আসতে পারে। সূত্র: রয়টার্স, রয়টার্স ও দ্য ভার্জ।