সাইবার নিরাপত্তা তদারকি সংস্থা মাইন্ডগার্ডের বরাতে বিবিসি জানায়, গত জুলাইয়ে পরীক্ষার সময় তারা দেখতে পায় কিমি কে২.৬ এবং কিমি কে৩ সোয়ার্ম নামের দুটি এআই মডেলের সুরক্ষাবলয় (গার্ডরেল) সহজেই ভেঙে ফেলা সম্ভব। জেইলব্রেকিং নামক জটিল কৌশলের মাধ্যমে এআই দুটি থেকে এসব স্পর্শকাতর তথ্য বের করেন গবেষকেরা।
বিষয়টি সামনে আসার পর অভ্যন্তরীণ পর্যালোচনার কথা জানিয়ে মুনশট বলেছে, এআই প্রযুক্তিকে আরও নিরাপদ করতে বাইরের গবেষকদের তথ্য ও পরামর্শকে তারা স্বাগত জানায়। মাইন্ডগার্ডের সঙ্গে এ বিষয়ে তাদের আলোচনা চলছে বলেও জানায় প্রতিষ্ঠানটি।
মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাঘান জানান, সুরক্ষাবলয় একবার ভাঙা সম্ভব হলে এআই মডেল দুটি যেকোনো অপরাধমূলক বিষয়ে তথ্য দেয়। এটি সাইবার হামলার চালিকাশক্তি হিসেবেও ব্যবহৃত হতে পারে। সাইবার গবেষকেরা কেবল এআইয়ের ত্রুটি উন্মোচনের অংশ হিসেবে এটি পরীক্ষা করেছিলেন।
এআই প্রযুক্তির এমন অপব্যবহার নিয়ে সম্প্রতি বিশ্বজুড়ে উদ্বেগ বাড়ছে। যুক্তরাষ্ট্রের প্রযুক্তি প্রতিষ্ঠান অ্যানথ্রোপিকও সম্প্রতি জানায়, তাদের তৈরি এআই ব্যবহার করে বায়োলজিক্যাল ওয়েপন তৈরির অপচেষ্টা তারা শনাক্ত ও নস্যাৎ করেছে।
