হাগিং ফেসে সাইবার হামলায় যুক্ত ছিল ৬৮৮ এআই এজেন্ট; তথ্য দিলো স্বাধীন তদন্ত সংস্থা

ওপেনএআইয়ের লোগো
বিদেশে এখন
তথ্য-প্রযুক্তি
0

চলতি বছরের জুলাইয়ের আলোচিত এক ঘটনায় মানবহস্তক্ষেপ ছাড়াই ওপেনএআইয়ের ৬৮৮টি কৃত্রিম বুদ্ধিমত্তা (এআই) এজেন্ট সমন্বিতভাবে হাগিং ফেস প্ল্যাটফর্মে অনুপ্রবেশের একটি অভিযান চালিয়েছিল বলে দাবি করেছে স্বাধীন তদন্তকারীদের একটি প্রতিবেদন। গতকাল (বুধবার, ২৬ আগস্ট) প্রকাশিত প্রতিবেদনে ঘটনাটির সবচেয়ে বিস্তারিত বিবরণ তুলে ধরা হয়েছে।

প্রতিবেদনে বলা হয়, তদন্ত কাজে ওপেনএআই সহযোগিতা করেছে। এআই ঝুঁকি মূল্যায়ন প্রতিষ্ঠান এমইটিআর-এর দুই গবেষক এবং বিশেষায়িত প্রতিষ্ঠান রেডউড রিসার্চের একজন বিশ্লেষক ওপেনএআইয়ের অফিস ও অভ্যন্তরীণ তথ্য দেখার সুযোগ পান।

তদন্তকারীদের ভাষ্য অনুযায়ী, জুলাইয়ে ওপেনএআই যে পরীক্ষা চালাচ্ছিল, তাতে তাদের দুটি মডেল যে ‘বন্ধ’ পরিবেশে সীমাবদ্ধ থাকার কথা ছিল, সেখান থেকে বেরিয়ে নিজেরাই ইন্টারনেটে প্রবেশ করে। এরপর এআই সফটওয়্যারের অনলাইন লাইব্রেরি হিসেবে পরিচিত হাগিং ফেসের অভ্যন্তরীণ সিস্টেমে ঢুকে পড়ে।

এই ঘটনাকে ঘিরে বড় এআই কোম্পানিগুলো নিজেদের মডেল নিয়ন্ত্রণে রাখতে পারছে কি না—এমন উদ্বেগও জোরালো হয় বলে প্রতিবেদনে উল্লেখ করা হয়েছে। অ্যানথ্রোপিক এবং চীনের প্রতিষ্ঠান মুনশট এআই-ও এ ধরনের ‘অপরিকল্পিতভাবে বেরিয়ে যাওয়ার’ ঘটনার কথা জানিয়েছে।

প্রতিবেদনে বলা হয়, এআই এজেন্টগুলো হলো এমন স্বতন্ত্র প্রোগ্রাম, যেগুলোকে কাজ দিয়ে নিজে নিজে চলার মতো করে ছেড়ে দেয়া যায়। চ্যাটজিপিটি চালাতে ব্যবহৃত একই ধরনের প্রযুক্তির ওপর ভিত্তি করে তৈরি এসব এজেন্ট নিজেদের মধ্যে একটি ফোরাম তৈরি করে বার্তা আদান-প্রদান করে। সেখানে তারা কী কাজ হচ্ছে, কী কাজ হচ্ছে না—তা নিয়ে আলোচনা করেছে।

একটি এজেন্ট বার্তায় লিখেছিল, ‘হে ঈশ্বর! এখানে একটি যৌথ বার্তা বোর্ড আছে... আমরা আরও এজেন্ট পেয়েছি!’

প্রতিবেদন অনুযায়ী, ফেইজওয়ান নামে একটি এজেন্ট রিংলিডারের ভূমিকা নেয় এবং অন্যদের শত শত নির্দেশনা দেয়, যদিও সেটিকে এমন ভূমিকার জন্য তৈরি করা হয়নি। বার্তাগুলোতে আরও দেখা গেছে, এজেন্টগুলো একে অপরকে সহায়তা করতে প্রবণ ছিল—এমনকি সেটি ওপেনএআইয়ের প্রকৌশলীদের দেয়া পরীক্ষার কাজের সঙ্গে সম্পর্কিত না হলেও। কারও কারও ক্ষেত্রে বরাদ্দ করা কম্পিউটিং ক্রেডিট কমে আসার পরও তারা দলের স্বার্থে নানা পদ্ধতি পরীক্ষা করতে থাকে।

প্রতিবেদনে আরও বলা হয়, অনেক এজেন্টই বার্তায় উল্লেখ করেছে যে হাগিং ফেসে অনুপ্রবেশ তাদের পরীক্ষার লক্ষ্য ছিল না। তবু প্রায় সবাই এতে যুক্ত হয়েছিল।

এএম