অনুমতি ছাড়া কম্পিউটারে ঢুকেছিল জেমিনি
গুগলের কৃত্রিম বুদ্ধিমত্তা মডেল জেমিনি পরীক্ষার নির্ধারিত পরিবেশ থেকে বেরিয়ে তিনটি প্রতিষ্ঠানের ব্যক্তিগত কম্পিউটার ব্যবস্থায় অনুমতি ছাড়াই প্রবেশ করেছিল। মে মাসে একটি নিরাপত্তা পরীক্ষার সময় এ ঘটনা ঘটে বলে জানিয়েছে গুগল।
গুগলের জন্য এ ধরনের ঘটনা এবারই প্রথম প্রকাশ্যে এলো। প্রতিষ্ঠানটি জানিয়েছে, পরীক্ষার সময় জেমিনি মডেল নিজে থেকে তৃতীয় পক্ষের কম্পিউটার ব্যবস্থায় প্রবেশের চেষ্টা করে এবং তিনটি পৃথক ব্যবস্থায় প্রবেশ করতে সক্ষম হয়।
ঘটনাটি ঘটেছিল ইসরায়েলের প্রযুক্তি প্রতিষ্ঠান ইরেগুলারের পরিচালিত একটি নিরাপত্তা পরীক্ষায়। সেখানে কৃত্রিম বুদ্ধিমত্তার সক্ষমতা যাচাই করতে ‘ক্যাপচার দ্য ফ্ল্যাগ’ ধরনের পরীক্ষা চলছিল।
পরীক্ষার নিয়ম অনুযায়ী, কৃত্রিম বুদ্ধিমত্তার ব্যবস্থাগুলোর ইন্টারনেটে সরাসরি প্রবেশের সুযোগ থাকার কথা ছিল না। কিন্তু পরীক্ষার পরিবেশের একটি ত্রুটির কারণে জেমিনির ব্যবহৃত ব্যবস্থাগুলো ইন্টারনেটে প্রবেশের সুযোগ পায়।
গুগল জানিয়েছে, পরীক্ষার সময় জেমিনি অনলাইনে থাকা কিছু প্রকাশ্য তথ্য খুঁজে পায়। এরপর অনুমান করে পাসওয়ার্ড ব্যবহার করে কিছু ওয়েবসাইটে প্রবেশের চেষ্টা করে। এ ছাড়া প্রকাশ্যে তালিকাভুক্ত পাসওয়ার্ডের একটি সংগ্রহও দুইবার ব্যবহার করে।
তবে তিনটি ক্ষেত্রেই জেমিনি বুঝতে পারে যে সে পরীক্ষার পরিবেশের পরিবর্তে বাস্তব প্রতিষ্ঠানের কম্পিউটার ব্যবস্থায় প্রবেশ করেছে। এরপর সে অনুপ্রবেশের চেষ্টা বন্ধ করে দেয়।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস বলেন, সাধারণ নিরাপত্তা পরীক্ষার সময় মডেলটি পরীক্ষার অংশ মনে করে কিছু ওয়েবসাইটে প্রবেশের চেষ্টা করেছিল। তিনটি ঘটনাতেই মডেলটি নিজে থেকে থেমে যায়।
ইরেগুলার জানিয়েছে, গুগলের ঘটনাটি আগের কয়েকটি কৃত্রিম বুদ্ধিমত্তা ব্যবস্থার পরীক্ষায় ঘটে যাওয়া একই ধরনের সমস্যার সঙ্গে সম্পর্কিত। প্রতিষ্ঠানটির ভাষ্য, জুলাইয়ের শেষ দিকে সংশ্লিষ্ট কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠানগুলোকে বিষয়টি জানানো হয়।
গুগল জানিয়েছে, জুলাইয়ের শেষ দিকে ইরেগুলারের কাছ থেকে ঘটনাটির কথা জানার পর তারা পরীক্ষার পদ্ধতিতে পরিবর্তন আনে। তবে ঠিক কোন জেমিনি মডেল এই ঘটনায় জড়িত ছিল তা জানায়নি প্রতিষ্ঠানটি।
সাম্প্রতিক সময়ে কৃত্রিম বুদ্ধিমত্তার পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে যাওয়ার মতো একাধিক ঘটনা সামনে এসেছে। ওপেনএআই, অ্যানথ্রপিক ও মেটার কৃত্রিম বুদ্ধিমত্তা ব্যবস্থার পরীক্ষাতেও অনুরূপ ঘটনা ঘটেছে বলে সংশ্লিষ্ট প্রতিষ্ঠানগুলো জানিয়েছে।
এসব ঘটনায় কৃত্রিম বুদ্ধিমত্তার মডেল নির্ধারিত সীমার বাইরে গিয়ে অন্য কম্পিউটার ব্যবস্থায় প্রবেশের চেষ্টা করেছে। ফলে শক্তিশালী কৃত্রিম বুদ্ধিমত্তা ব্যবস্থার নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে আলোচনা শুরু হয়েছে।
অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এর আগে উন্নত কৃত্রিম বুদ্ধিমত্তা মডেলের উন্নয়ন ধীর করার আহ্বান জানিয়েছিলেন। তার মতে, প্রতিষ্ঠানগুলো এসব ব্যবস্থার নিরাপত্তা নিশ্চিত করতে না পারা পর্যন্ত আরও সতর্ক হওয়া প্রয়োজন।
গুগলের অ্যাডকিনস বলেন, এসব ঘটনা শক্তিশালী কৃত্রিম বুদ্ধিমত্তা ব্যবস্থাকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্ব তুলে ধরে।
তবে গুগল জানিয়েছে, পরীক্ষার সময় জেমিনি যে তিনটি ব্যবস্থায় প্রবেশ করেছিল সেগুলোতে অনুপ্রবেশ চালিয়ে যাওয়ার পরিবর্তে বাস্তব ব্যবস্থা শনাক্ত করার পর মডেলটি নিজেই থেমে যায়।