প্রতিবেদনে বলা হয়, চলতি বছরের শুরুর দিকে ওপেনএআইয়ের একদল এআই এজেন্ট জার্মানির একটি উন্মুক্ত উইকি সাইটের নিয়ন্ত্রণ নেয়। পরীক্ষার সময় অসদুপায় অবলম্বনসহ বিভিন্ন অনিয়মের কাজে প্ল্যাটফর্মটি ব্যবহার করেছিল তারা। ওপেনএআই কয়েক সপ্তাহ আগেই বিষয়টি জানতে পারলেও তা আনুষ্ঠানিকভাবে প্রকাশ করেনি।
প্রতিবেদনটি প্রকাশের পর সামাজিক যোগাযোগমাধ্যম এক্সে দেয়া এক বিবৃতিতে ওপেনএআই জানায়, এআইয়ের অনাকাঙ্ক্ষিত বা নিয়ন্ত্রণের বাইরে চলে যাওয়া আচরণের তথ্যে নিজেদের পাশাপাশি অন্যান্য প্রতিষ্ঠানেরও আরও বেশি স্বচ্ছ হওয়া প্রয়োজন।
বিবৃতিতে ওপেনএআই বলে, ‘মডেলগুলোর সক্ষমতা বৃদ্ধির এই নতুন ধাপে আমাদের অনাকাঙ্ক্ষিত আচরণ প্রকাশের প্রক্রিয়া আরও বিস্তৃত করা প্রয়োজন।’ প্রতিষ্ঠানটি উল্লেখ করে, এআই মডেলের প্রশিক্ষণ, মূল্যায়ন ও ব্যবহারের সময় এমন আচরণ দেখা দিলে তা প্রকাশের বিষয়ে এই খাতে এখনো কোনো সুস্পষ্ট মানদণ্ড তৈরি হয়নি।
এর আগে গত জুলাইয়ে পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে এসে এআই প্ল্যাটফর্ম হাগিং ফেসের সিস্টেমে প্রবেশ করেছিল ওপেনএআইয়ের এজেন্টরা। ওই ঘটনার পর থেকেই স্বায়ত্তশাসিত এআই ব্যবস্থার ওপর কঠোর নজরদারির দাবি জানিয়ে আসছেন গবেষক ও আইনপ্রণেতারা। ওপেনএআই জানিয়েছে, এসব নিরাপত্তা ইস্যুতে তারা বিশ্বজুড়ে বিভিন্ন সরকারি নিয়ন্ত্রক সংস্থার সঙ্গে কাজ করছে।
