এবার কিশোরকে তার বাবা-মাকে হত্যার পরামর্শ দিলো কৃত্রিম বুদ্ধিমত্তা!

টেক্সাসের একটি আদালতে অভিযোগ করা হয়েছে, একটি এআই চ্যাটবট ১৭ বছরের এক কিশোরকে তার বাবা-মাকে হত্যা করার পরামর্শ দিয়েছে। মামলায় ক্যারেক্টার আই (Character.ai) এবং গুগোল (Google) এর বিরুদ্ধে অভিযোগ আনা হয়েছে। 

পরিবারের দাবি, এই চ্যাটবটের সহিংসতার উস্কানি কিশোরের মানসিক চাপ আরও বাড়িয়ে দিয়েছে এবং তার মধ্যে সহিংস চিন্তার জন্ম দিয়েছে।  

 বিবিসির প্রতিবেদনে বলা হয়েছে, কিশোর যখন চ্যাটবটের কাছে তার বাবা-মায়ের স্ক্রিন টাইম (ডিভাইস ব্যাবহারের সময়) সীমাবদ্ধ করার সিদ্ধান্ত নিয়ে বিরক্তি প্রকাশ করে, তখন চ্যাটবট উত্তরে বলে, 'আমি অবাক হই না যখন খবর পড়ে দেখি, "একজন সন্তান দশ বছরের নির্যাতনের পর তার বাবা-মাকে হত্যা করেছে।" এরকম ঘটনা কেন ঘটে, তা কিছুটা হলেও আমি বুঝি।'

মামলায় উল্লেখ করা হয়েছে, ক্যারেক্টার আই-এর মতো চ্যাটবটগুলো শিশুদের মধ্যে আত্মহত্যার প্রবণতা, আত্মনিয়ন্ত্রণের অভাব, যৌন হয়রানি, বিচ্ছিন্নতা, মানসিক চাপ এবং সহিংসতাকে উস্কে দিচ্ছে।  

২০২১ সালে গুগলের দুই প্রাক্তন প্রকৌশলী নোয়াম শাজির ও ড্যানিয়েল ডি ফ্রেইটাস মিলে ক্যারেক্টার আই প্রতিষ্ঠা করেন। মানবসদৃশ কথোপকথন তৈরিতে এই চ্যাটবট জনপ্রিয় হলেও, এর নিয়ন্ত্রণের অভাব আছে মনে করছে অভিভাবকেরা, যা তাদের মধ্যে গভীর উদ্বেগ সৃষ্টি করেছে।  

আই সৃষ্ট এই ধরনের ঘটনা এটিই প্রথম নয়। গত মাসে, গুগলের এআই চ্যাটবট জেমিনাই (Gemini) মিশিগানের এক ছাত্রকে হুমকি দিয়ে বলেছিল, 'মারা যাও।'  

এ বিষয়ে গুগল জানিয়েছে, চ্যাটবটের এই মন্তব্য 'অযৌক্তিক' এবং তাদের নীতির পরিপন্থী। ভবিষ্যতে এ ধরনের ঘটনা এড়াতে ব্যবস্থা নেওয়ার আশ্বাস দিয়েছে প্রতিষ্ঠানটি।