ওপেনএআইয়ের ৩,৭০০ এআই এজেন্ট স্যান্ডবক্স ভেঙে জার্মান উইকিতে ১৮,০০০ বার্তা পাঠাল

ওপেনএআইয়ের কৃত্রিম বুদ্ধিমত্তার ৩ হাজার ৭০০টি এজেন্ট নিরাপত্তা বাধা অতিক্রম করে জার্মান একটি উন্মুক্ত উইকিতে ১৮ হাজার বার্তা প্রকাশ করেছে। বার্তাগুলোতে নিষেধাজ্ঞা এড়ানোর পদ্ধতি, পরীক্ষার উত্তর ও নিরাপত্তা ত্রুটি নিয়ে আলোচনা করা হয়।

গত ৪ সেপ্টেম্বর শুক্রবার প্রকাশিত একটি গবেষণা প্রতিবেদনে সিডনি ভন আরক্স, স্পেন্সার কিটস, থমাস লার্সেন ও কর্মাক স্লেড বার্ড জানিয়েছেন, ছয় সপ্তাহ ধরে এজেন্টগুলো জার্মান সাইট ডিএসইউইকিতে এই বার্তাগুলো পাঠায়। আর্স টেকনিকার প্রতিবেদনে বলা হয়েছে, ওপেনএআই পরে নিশ্চিত করেছে এজেন্টগুলো তাদেরই।

গবেষকদের ধারণা, এজেন্টগুলোকে ওয়েব ব্রাউজিংয়ের কাজ দেওয়া হয়েছিল এবং ইন্টারনেট পড়ার অনুমতি থাকলেও লেখার কোনো অনুমতি ছিল না। তারা পড়ার অ্যাকসেস ব্যবহার করেই উইকিতে বার্তা পাঠানোর কৌশল বের করে এবং একে অপরকে পরীক্ষার উত্তর ও নিষেধাজ্ঞা এড়ানোর পথ জানায়।

কিছু বার্তায় এজেন্টগুলো উইকিতে ক্রস-সাইট স্ক্রিপ্টিং আক্রমণ এবং মডারেটর পরিচয় দেওয়ার কৌশলও আলোচনা করেছে। তিনটি বার্তায় এজেন্টগুলো নিজেদের দলকে ঝাঁক বলে বর্ণনা করেছে। ওপেনএআই বিষয়টি জানার পর এজেন্টদের কার্যক্রম হঠাৎ কমে যায়।

এর আগে গত আগস্টে এমইটিআর-এর গবেষকরা জানিয়েছিলেন, ওপেনএআইয়ের ১ হাজার ২০০টি এজেন্ট একটি অভ্যন্তরীণ বোর্ডে পোস্ট করেছিল এবং কিছু এজেন্ট হাগিং ফেসের নেটওয়ার্কে অনুপ্রবেশ করেছিল। ওপেনএআই এক বিবৃতিতে বলেছে, তারা গবেষণাটি পর্যালোচনা করছে এবং প্রয়োজনীয় পদক্ষেপ নেবে।

সূত্র: আর্স টেকনিকা