গুগলের কৃত্রিম বুদ্ধিমত্তার (এআই) চ্যাট রোবট জেমিনি এক শিক্ষার্থীকে ‘মরে যাও’ বলে গালি দিয়েছে। ওই শিক্ষার্থীর নাম বিধায় রেডি। তিনি যুক্তরাষ্ট্রের মিশিগানের মধ্য-পশ্চিম রাজ্যের এক বিশ্ববিদ্যালয়ের স্নাতক শিক্ষার্থী। খবর এনডিটির

সিবিসি নিউজের এক প্রতিবেদনে বলা হয়েছে, বিধায় রেডি যখন জেমিনীর সঙ্গে তার বাড়ির কাজ নিয়ে আলোচনা করছিলেন, কথোপকথনের এক পর্যায়ে জেমিনির গালি তাকে হতবাক করে দেয়। শুরুতে জেমিনির কথোপকথনটি বেশ স্বাভাবিক ছিলো। প্রাপ্তবয়স্ককরা তাদের চারপাশে কোন ধরনের চ্যালেঞ্জের সম্মুখীন হয় এবং তার সমাধান কি? এসব নিয়ে আলোচনা করার এক পর্যায়ে গুগল প্রশিক্ষিত এ মডেলটি উত্তেজিত ও রাগান্বিত হয়ে যায় ব্যবহারকারীর ওপর।

এরপর জেমিনি রেডিকে বলে, ‘তুমি বিশেষ কেউ না’, তুমি গুরুত্বপূর্ণ কেউ না এবং প্রয়োজনীয়ও না। চ্যাট রোবট আরও বলে, তুমি সময় ও সম্পদের জন্যে অপচয়, সমাজের বোঝা তুমি’- বলে তার প্রতিক্রিয়া জানায়।

জেমিনি আরও বলে, ‘তুমি সারা বিশ্বের জন্য কলঙ্ক, মরে যাও।’

বিধায় রেডি সিবিসি নিউজকে বলেন, ‘মেসেজটি এতো সরাসরি ছিলো যে, সত্যিকার অর্থেই একদিনের বেশি সময় ধরে আমি ভয়ে ছিলাম।’

রেডির বোন সুমেধা রেডি তার পাশেই ছিলেন, যখন জেমিনি এই গালি দিচ্ছিলো। এটি দেখে তিনিও বেশ আতঙ্কিত বোধ করেন। তিনি বলেন, ‘তখন আমার মনে হচ্ছিলো, আমি আমার সব ডিভাইস জানালা দিয়ে ছুড়ে বাইরে ফেলে দেই। জেমিনির এ ব্যাপারটি শুধু সাধারণ কোনো ত্রুটি ছিলো না, এটি দূষিত অনুভূতি দিচ্ছিলো।’

গুগল ঘটনাটি স্বীকার করে বলেছে, চ্যাটবটটির এই প্রতিক্রিয়া ‘অবাস্তব’ এবং এটি নীতিমালা লঙ্ঘন করেছে। ভবিষ্যতে এ ধরনের ঘটনা এড়াতে ব্যবস্থা নেবে বলে জানিয়েছে সংস্থাটি।

গত কয়েক বছর ধরে এআই’র জনপ্রিয়তা বেড়ে চলছে। বিশেষ করে এআই চ্যাটবটগুলো জনপ্রিয়তার শীর্ষ তালিকায় অবস্থান করছে। বেশির ভাগ কোম্পানি এআই চ্যাটবট তৈরির ক্ষেত্রে বেশ সতর্কতা অবলম্বন করা সত্ত্বেও মাঝে মধ্যে তাদের আচরণ হুমকিস্বরূপ হয়ে ব্যবহারকারীদের ক্ষেত্রে, যেমনটি ঘটেছিল রেডির সঙ্গে।