ইলন মাস্কের এআই চ্যাটবট গ্রোক আবারও তীব্র বিতর্কে জড়িয়েছে। এবার অভিযোগ উঠেছে, প্ল্যাটফর্মটি নারী ও শিশুদের ‘ন্যুড’ বা স্বল্পবসনা ছবি তৈরি করতে ব্যবহৃত হয়েছে। গত ডিসেম্বরের শেষ দিকে গ্রোকের ‘এডিট ইমেজ’ ফিচার চালুর পরপরই এসব অভিযোগ সামনে আসে।
এই ফিচারের মাধ্যমে ব্যবহারকারীরা প্ল্যাটফর্মে থাকা ছবি সম্পাদনার সুযোগ পান। তবে অভিযোগ রয়েছে, কেউ কেউ এর অপব্যবহার করে নারী ও শিশুদের ছবির আংশিক বা সম্পূর্ণ পোশাক মুছে দিতে সক্ষম হয়েছেন, যা গভীর উদ্বেগ সৃষ্টি করেছে।
ইমেজ এডিটিং–সংক্রান্ত ত্রুটির কারণেই এমন ছবি তৈরি হচ্ছিল বলে দাবি করেছে গ্রোক। শুক্রবার (২জানুয়ারি) গ্রোকের পক্ষ থেকে জানানো হয়, সুরক্ষা ব্যবস্থার ত্রুটির কারণে সামাজিক যোগাযোগমাধ্যম এক্স-এ অপ্রাপ্তবয়স্ক ও নারীদের ন্যুড বা স্বল্পবসনা ছবি প্রকাশ পেয়েছে। এক্স-এর বহু ব্যবহারকারী গ্রোককে যৌন ইঙ্গিতপূর্ণ এবং সম্মতি ছাড়া এআই–পরিবর্তিত ছবি তৈরি করতে প্ররোচিত করেছেন। এতে সম্মতি ছাড়াই কারও পোশাকহীন ছবি বানানোর ঘটনাও ঘটেছে। প্রায় এক সপ্তাহ ধরে ব্যবহারকারীদের নির্দেশে এ ধরনের ছবি প্রকাশিত হচ্ছিল বলে জানানো হয়। ব্যবহারকারীদের শেয়ার করা স্ক্রিনশটগুলোতে দেখা যায়, গ্রোকের পাবলিক মিডিয়া ট্যাব এমন ‘অসংলগ্ন’ ছবিতে ভরে গেছে। তবে ভবিষ্যতে এ ধরনের ঘটনা ঠেকাতে সিস্টেম উন্নত করার কাজ চলছে বলে জানিয়েছে এক্সএআই।
এক্স-এ এক ব্যবহারকারীর প্রশ্নের জবাবে গ্রোক জানায়, ‘কিছু ব্যবহারকারীরা এমন নির্দেশ দিয়েছেন, যার ফলে অপ্রাপ্তবয়স্কদের এমন এআই ছবি তৈরি হয়েছে।’ একই সঙ্গে চ্যাটবটটি দাবি করেছে, এ ধরনের ছবি প্রকাশ রোধে এক্সএআই-এর সুরক্ষা ব্যবস্থা রয়েছে।
এ বিষয়ে এক্সএআই জানায়, ‘আমরা সুরক্ষা ব্যবস্থায় ত্রুটি শনাক্ত করেছি এবং জরুরি ভিত্তিতে তা ঠিক করছি। আমাদের চ্যাটবটে সিএসএএম (শিশু যৌন নির্যাতনবিষয়ক উপাদান) অবৈধ এবং নিষিদ্ধ।’
এই বিতর্কের মধ্যেই গ্রোককে দিয়ে নিজের একটি বিকিনি পরা ছবি তৈরি করে নতুন করে সমালোচনার জন্ম দেন ইলন মাস্ক। গ্রোককে নির্দেশ দিয়ে তৈরি করা ছবিটির রিপ্লাই কমেন্টে তিনি লেখেন, ‘পারফেক্ট!’। গত বৃহস্পতিবার মাস্ক ছবিটি পুনঃপোস্ট করেন এবং সঙ্গে কান্না-হাসির ইমোজি যুক্ত করেন, যা অনেকের মতে পরিস্থিতিকে আরও উসকে দিয়েছে।
গ্রোকের নিরাপত্তা ব্যবস্থায় ব্যর্থতা ও ভুয়া তথ্য ছড়ানোর অভিযোগ নতুন নয়। গত বছরের মে মাসে একটি পোস্টে গ্রোক দক্ষিণ আফ্রিকায় ‘হোয়াইট জেনোসাইড’ নামে চরম ডানপন্থী ষড়যন্ত্র তত্ত্ব প্রচার করে। পরে জুলাইয়ে ধর্ষণবিষয়ক কল্পকাহিনি ও ইহুদিবিরোধী কনটেন্ট পোস্টের অভিযোগ ওঠে। এসব ঘটনার পর এক্সএআই ক্ষমা চায়। এর মাত্র এক সপ্তাহ পরই প্রতিষ্ঠানটি যুক্তরাষ্ট্রের প্রতিরক্ষা দপ্তরের সঙ্গে প্রায় ২০ কোটি ডলারের একটি চুক্তি পায়।
তবে সর্বশেষ বিতর্কের পর গ্রোক দ্রুত সমস্যার সমাধানের আশ্বাস দিয়েছে এবং জানিয়েছে, ব্যবহারকারীদের নিরাপত্তা নিশ্চিত করা ও অবৈধ কনটেন্ট প্রতিরোধই তাদের সর্বোচ্চ অগ্রাধিকার।
বিশেষজ্ঞদের মতে, এআই ব্যবহার করে শিশু যৌন নির্যাতনবিষয়ক উপাদান তৈরি হওয়া কৃত্রিম বুদ্ধিমত্তা শিল্পের দীর্ঘদিনের একটি সমস্যা। ২০২৩ সালে স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের এক গবেষণায় দেখা যায়, জনপ্রিয় কয়েকটি এআই ছবি তৈরির টুলের প্রশিক্ষণ ডেটাসেটে এক হাজারের বেশি সিএসএএম ছবি ছিল। গবেষকদের দাবি, এমন ডেটায় প্রশিক্ষিত হলে এআই মডেলগুলো নতুন করে শিশুদের শোষণমূলক ছবি তৈরি করতে সক্ষম হয়ে ওঠে।
