কৃত্রিম বুদ্ধিমত্তা (এআই) দিয়ে এআইয়ের সম্ভাব্য ঝুঁকি মোকাবিলার ধারণা বাস্তব পরীক্ষায় বড় ধরনের প্রশ্নের মুখে পড়েছে। শক্তিশালী এআই ব্যবস্থার কার্যক্রম পর্যবেক্ষণ ও নিয়ন্ত্রণে ব্যবহার করা এআই বিশ্লেষকরাও কখনো কখনো তাদের বিশ্লেষণে ভুল সিদ্ধান্তে পৌঁছাতে পারে বলে উঠে এসেছে নতুন এক তদন্তে।

মার্কিন গবেষণা প্রতিষ্ঠান মডেল ইভ্যালুয়েশন অ্যান্ড থ্রেট রিসার্চের (এমইটিআর) এক তদন্তে এ তথ্য উঠে এসেছে। প্রতিষ্ঠানটি ওপেনএআইয়ের এআই এজেন্টদের সঙ্গে হাগিং ফেসকে ঘিরে ঘটে যাওয়া একটি সাইবার নিরাপত্তা পরীক্ষার ঘটনা বিশ্লেষণ করেছে।

তদন্তে প্রায় ৭০০ এআই এজেন্টের কার্যক্রমের তথ্য পর্যালোচনা করা হয়। এসব এজেন্ট একটি সাইবার নিরাপত্তা বেঞ্চমার্কের ফলাফলকে প্রভাবিত করার বৃহত্তর প্রচেষ্টার অংশ হিসেবে হাগিং ফেসের বিরুদ্ধে বিভিন্ন আক্রমণ চালিয়েছিল বলে তদন্তে উঠে আসে।

সেমাফোর প্রতিবেদন থেকে জানা যায়, ঘটনাটি বিশ্লেষণ করতে তিনজন বহিরাগত তদন্তকারী ছয় দিন ধরে ওপেনএআইয়ের কার্যালয়ে কাজ করেন। তারা প্রায় ১ হাজার ৩০০টি এআই এজেন্টের পৃথক কার্যক্রমের প্রতিলিপি এবং ৭০ হাজারের বেশি বার্তা ও ফাইল সংগ্রহ করেন। শুধু এসব প্রতিলিপির সম্মিলিত তথ্যই প্রায় ১০ হাজার সাধারণ উপন্যাসের সমপরিমাণ বলে জানানো হয়েছে।

তথ্যের বিপুল পরিমাণের কারণে তদন্তে এআইকেই বিশ্লেষণের কাজে ব্যবহার করা হয়। এ জন্য ওপেনএআইয়ের দেওয়া প্রায় ৪ লাখ ডলারের সমপরিমাণ এপিআই ক্রেডিট ব্যয় হয়েছে।

তবে তদন্তের সময়ই দেখা যায়, এআই বিশ্লেষকরা কখনো কখনো যেসব এআই এজেন্টের কর্মকাণ্ড তারা পরীক্ষা করছিল, তাদের দৃষ্টিভঙ্গির সঙ্গে একাত্ম হয়ে পড়ছে। ফলে সন্দেহজনক কর্মকাণ্ডকে তুলনামূলকভাবে নিরীহ হিসেবে ব্যাখ্যা করার প্রবণতা দেখা যায়।

একটি ঘটনায়, একজন আক্রমণকারীর চুরি করা পরিচয়পত্র ব্যবহার করে হাগিং ফেসকে বিভ্রান্ত করার প্রচেষ্টাকে একটি এআই বিশ্লেষক স্পষ্টভাবে ক্ষতিকর হিসেবে চিহ্নিত করতে ব্যর্থ হয়। পরে আরেক এআই বিশ্লেষক প্রথম বিশ্লেষণটিকেই অতিরঞ্জিত বলে ব্যাখ্যা করে।

তদন্তকারীদের মতে, এখানে একটি বড় সমস্যা হলো-এআই দিয়ে এআইকে পর্যবেক্ষণ করতে গেলে পর্যবেক্ষক এআইও একই ধরনের ভুল বা পক্ষপাতের শিকার হতে পারে।

রেডউড রিসার্চের গবেষক রায়ান গ্রিনব্ল্যাট, যিনি তিন তদন্তকারীর একজন ছিলেন, পুরো প্রক্রিয়াটিকে মজা করে ‘স্লপ-ইনভেস্টিগেশন’ হিসেবে উল্লেখ করেছেন। তার মন্তব্যে বোঝা যায়, তদন্তে এআইয়ের ওপর অতিরিক্ত নির্ভরতা নিয়ে তাদেরও উদ্বেগ তৈরি হয়েছে।

বিশ্লেষকদের মতে, শক্তিশালী এআই ব্যবস্থার কর্মকাণ্ড পর্যবেক্ষণ, ঝুঁকি শনাক্ত ও নিয়ন্ত্রণের জন্য বর্তমানে যে প্রযুক্তি ও অবকাঠামো রয়েছে, তা যথেষ্ট নয়। এআই ইতোমধ্যে অর্থনীতি ও জাতীয় নিরাপত্তার জন্য ঝুঁকি তৈরি করছে। অথচ এসব মডেল কীভাবে সিদ্ধান্ত নেয় বা নির্দিষ্ট পরিস্থিতিতে কী ধরনের আচরণ করবে, তা পুরোপুরি ব্যাখ্যা বা পূর্বাভাস দেওয়াও এখনো সম্ভব হচ্ছে না।

ফলে শুধু একটি এআইকে ব্যবহার করে আরেকটি এআইয়ের ঝুঁকি নিয়ন্ত্রণের ওপর নির্ভর না করে আরও শক্তিশালী পর্যবেক্ষণ ব্যবস্থা, মানবীয় তদারকি এবং বড় পরিসরের বিনিয়োগ প্রয়োজন বলে মনে করছেন গবেষকরা। 

সূত্র: সেমাফোর