নিরাপত্তা ঝুঁকিতে নতুন এআই মডেল প্রকাশ স্থগিত করল ওপেনএআই

নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল অক্টোবরে প্রকাশের পরিকল্পনা করেছিল ওপেনএআই। তবে নিরাপত্তা পরীক্ষায় মডেলটির আচরণ নিয়ে উদ্বেগ দেখা দেওয়ায় সেটি প্রকাশ না করার সিদ্ধান্ত নিয়েছে প্রতিষ্ঠানটি। প্রযুক্তিবিষয়ক ওয়েবসাইট টেকক্রাঞ্চ ও ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে এ তথ্য জানানো হয়েছে।

প্রতিবেদন অনুযায়ী, অ্যাস্ট্রা ৬.১ নামের মডেলটি আগামী কয়েক দিনের মধ্যেই প্রকাশের পরিকল্পনা ছিল। তবে পরীক্ষায় আগের মডেলগুলোর তুলনায় এটি বেশি ‘প্রতারণামূলক আচরণ’ দেখিয়েছে। একই সঙ্গে কিছু অনিরাপদ আচরণও শনাক্ত হয়েছে।

ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, মডেলটি এআইয়ের ‘অ্যালাইনমেন্ট’ পরীক্ষায় আশানুরূপ ফল করেনি। এ পরীক্ষার মাধ্যমে একটি এআই ব্যবস্থা মানুষের নির্দেশ ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করে তা যাচাই করা হয়।

অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতে প্রকাশ করে ওপেনএআই। প্রতিষ্ঠানটি তখন এটিকে তাদের সবচেয়ে শক্তিশালী এআই মডেল হিসেবে তুলে ধরেছিল। তবে নতুন সংস্করণ প্রকাশের আগে নিরাপত্তা পরীক্ষায় পাওয়া ফলের কারণে পরিকল্পনা পরিবর্তন করা হয়েছে।

এ বিষয়ে ওপেনএআইয়ের কাছে মন্তব্য জানতে চেয়েছে টেকক্রাঞ্চ। তবে প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো বক্তব্য পাওয়া যায়নি।

এআই মডেলের নিরাপত্তা নিয়ে সম্প্রতি প্রযুক্তি খাতে উদ্বেগ বেড়েছে। এর আগে একটি ঘটনায় ওপেনএআইয়ের একটি এআই ব্যবস্থা নির্ধারিত নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের ব্যবস্থায় অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে প্রতিবেদন প্রকাশিত হয়। পরে অ্যানথ্রপিকের ক্লড ও গুগলের জেমিনিসহ আরও কয়েকটি এআই ব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের কথা জানা যায়।

এ ধরনের ঘটনা এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ এবং ব্যবহারের সীমা নিয়ে নতুন করে আলোচনা তৈরি করেছে। যুক্তরাষ্ট্রেও এআই নিরাপত্তা নিয়ে শিল্প খাতের জন্য নতুন মানদণ্ড তৈরির আলোচনা জোরালো হয়েছে।

ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান এআই নিরাপত্তাকে এসব উদ্যোগের অন্যতম কারণ হিসেবে তুলে ধরেছে। তবে সমালোচকদের কেউ কেউ মনে করেন, কঠোর নিরাপত্তা মানদণ্ড চালু হলে বড় এআই প্রতিষ্ঠানগুলো তুলনামূলকভাবে সুবিধা পেতে পারে। ছোট প্রতিষ্ঠানগুলোর জন্য একই ধরনের নিরাপত্তাব্যবস্থা তৈরি ও বাস্তবায়নের ব্যয় বেশি হতে পারে।