কৃত্রিম বুদ্ধিমত্তা (এআই) ব্যবহার করে অশালীন ও পর্নোগ্রাফিক ছবি তৈরির অভিযোগে ইলন মাস্কের চ্যাটবট ‘গ্রোকের’ অ্যাক্সেস সাময়িকভাবে স্থগিত করেছে মালয়েশিয়া। আজ রোববার (১১ জানুয়ারি) দেশটির প্রযুক্তি নিয়ন্ত্রক সংস্থা মালয়েশিয়ান কমিউনিকেশনস অ্যান্ড মাল্টিমিডিয়া কমিশন (MCMC) এই নিষেধাজ্ঞার ঘোষণা দেয়। খবর বার্তা সংস্থা এএফপির। 

নিয়ন্ত্রক সংস্থার মতে, গ্রোকের ইমেজ ক্রিয়েশন ফিচার ব্যবহার করে সাধারণ টেক্সট প্রম্পটের মাধ্যমে নারী ও শিশুদের ছবিকে যৌন উত্তেজক ও আপত্তিকর রূপ দেওয়ার সুযোগ পাচ্ছিল ব্যবহারকারীরা। সংস্থাটি এক বিবৃতিতে জানিয়েছে, বারবার এই টুলের অপব্যবহার করে অশ্লীল, অসম্মতিমূলক ও মানহানিকর ছবি তৈরি করা হচ্ছিল। মালয়েশিয়ার পক্ষ থেকে মাস্কের এক্স করপোরেশন এবং এক্সএআই স্টার্টআপকে এ বিষয়ে আনুষ্ঠানিক নোটিশ দেওয়া হলেও তারা কার্যকর কোনো ব্যবস্থা নিতে ব্যর্থ হয়েছে।

এর আগে গত শনিবার (১০ জানুয়ারি) প্রথম দেশ হিসেবে গ্রোকের সকল অ্যাক্সেস বন্ধ করে দেয় ইন্দোনেশিয়া। মূলত নারী ও শিশুদের সেক্সুয়ালাইজড ডিপফেক তৈরির আশঙ্কায় বিশ্বজুড়ে এই টুলটি তীব্র সমালোচনার মুখে পড়েছে। ইউরোপীয় কর্মকর্তারা ও প্রযুক্তি অধিকার কর্মীরাও গ্রোকের কড়া সমালোচনা করেছেন। তাঁদের মতে, গ্রোকের এই ফিচারটি সমাজের জন্য বড় ধরনের ঝুঁকির কারণ হয়ে দাঁড়িয়েছে।

বর্তমানে কুয়ালালামপুরসহ মালয়েশিয়ার কোথাও গ্রোকের প্রম্পট কাজ করছে না। এক্স করপোরেশন সম্প্রতি এই ফিচারটি কেবল ‘পেইড সাবস্ক্রাইবারদের’ জন্য সীমাবদ্ধ করলেও সমালোচকরা বলছেন, এতে মূল ঝুঁকি দূর হয়নি। মালয়েশীয় নিয়ন্ত্রক সংস্থা বলছে, প্ল্যাটফর্মটির নিরাপত্তা ব্যবস্থা যথেষ্ট নয়। প্রয়োজনীয় পরিবর্তনগুলো যাচাই করার পরই কেবল এর অ্যাক্সেস পুনরায় চালু করা হবে।

উল্লেখ্য, গ্রোক এআই টুলটি সরাসরি ইলন মাস্কের সামাজিক যোগাযোগ মাধ্যম ‘এক্সের’ (সাবেক টুইটার) সঙ্গে সমন্বিত।