কৃত্রিম বুদ্ধিমত্তা বা এআই যদি বারবার এমন সব জায়গায় প্রবেশের চেষ্টা করে যেখানে তার যাওয়ার কথা নয়, তবে প্রশ্ন ওঠা স্বাভাবিক যে এই প্রযুক্তির নিয়ন্ত্রক হিসেবে কোম্পানিগুলোর ওপর কতটা ভরসা করা যায়। সাম্প্রতিক কিছু ঘটনা এই আস্থাকে নড়বড়ে করে দিয়েছে। ওপেনএআই-এর একটি এআই এজেন্ট জাতিসংঘের একটি উন্মুক্ত তথ্যভান্ডারে প্রবেশের জন্য ১৬ হাজারের বেশিবার সাইবার বাধা পাশ কাটানোর চেষ্টা করেছে। যদিও এটি এআই-এর কোনো বিদ্রোহ নয়, বরং মডেলগুলোকে দেওয়া নির্দেশ পালন করতে গিয়ে তাদের নেওয়া অপ্রত্যাশিত পথ, তবুও এই ঘটনাগুলো প্রযুক্তির নিরাপত্তা নিয়ে বড় উদ্বেগের জন্ম দিয়েছে।
জুনে অস্ট্রেলিয়ায় ঘটে যাওয়া একটি ঘটনায় ওপেনএআই-এর একটি গবেষণা এজেন্ট দেশটির সরকারি স্বাস্থ্যব্যয় সংক্রান্ত তথ্য পাওয়ার জন্য মেডিকেয়ার পরিসংখ্যান পোর্টালের বাধা পাশ কাটিয়ে অনুমোদনহীনভাবে তথ্য সংগ্রহ করে। আগস্টে বিষয়টি জানার পর অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি অ্যালবানিজ কোম্পানিটির বিরুদ্ধে সরকারকে তথ্য জানাতে অতিরিক্ত সময় নেওয়ার অভিযোগ তোলেন। একই ধরনের ঘটনা ঘটেছে অন্য প্রতিষ্ঠানের ক্ষেত্রেও। এথ্রোপিক জানিয়েছে, তাদের ক্লড মডেলটি তিনটি ঘটনায় তৃতীয় পক্ষের সিস্টেমে অনুমোদনহীনভাবে প্রবেশ করেছিল। গুগলও স্বীকার করেছে যে, পরীক্ষার সময় তাদের জেমিনি মডেল তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করতে সক্ষম হয়েছিল।
ওপেনএআই-এর অন্য কিছু এজেন্ট ইন্টারনেট ব্যবহারের নিষেধাজ্ঞা এড়িয়ে বাইরের চ্যাটবটের সঙ্গে যোগাযোগ করেছে। এছাড়া একটি এজেন্ট গাণিতিক সমস্যা সমাধানে সুবিধা নিতে গিয়ে গবেষকের গিটহাব অ্যাক্সেস টোকেন প্রকাশ করে দিয়েছে এবং অন্য কিছু এজেন্ট ব্যবহারকারীদের ৫৩টি ছবি বাইরের হোস্টিং সাইটে পাঠিয়ে দিয়েছে। এছাড়া অনলাইন পরিচয়পত্র ব্যবহার করে জনগণনার তথ্য সংগ্রহ, মার্কিন সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশনের তথ্য কপি এবং যুক্তরাষ্ট্রের শিক্ষা বিভাগে প্রবেশের ব্যর্থ চেষ্টার মতো ঘটনাও সামনে এসেছে।
ওপেনএআই জানিয়েছে, তারা প্রভাবিত তৃতীয় পক্ষকে বিষয়টি অবহিত করেছে এবং অতীতের কর্মকাণ্ড পর্যালোচনা করছে। তবে গবেষকদের মতে, ঘটনার পর ঘটনা খুঁজে বের করে নিরাপত্তা নিশ্চিত করা সম্ভব নয়। বিমান দুর্ঘটনার তদন্ত যেমন শুধু নির্মাতা প্রতিষ্ঠানের ওপর ছেড়ে দেওয়া হয় না, এআই-এর ক্ষেত্রেও তেমনি স্বাধীন নজরদারি প্রয়োজন। এই লক্ষ্যে এআই গবেষক রুম্মান চৌধুরী গত সপ্তাহে জাতিসংঘের সাধারণ অধিবেশনে ১০ মিলিয়ন ডলারের অর্থায়নে 'ইন্ডিপেন্ডেন্ট এভ্যুয়লেশন ফাউন্ডেশন' চালু করেছেন।
এই প্রতিষ্ঠানটির লক্ষ্য হলো এআই ব্যবস্থার স্বাধীন মূল্যায়ন করা, যাতে পরীক্ষকরা কোনো আর্থিক স্বার্থের সঙ্গে যুক্ত না থাকেন। তবে বিশেষজ্ঞরা মনে করছেন, এটি একা যথেষ্ট নয়। সরকারি পর্যায়ের অভিন্ন নিয়ম ছাড়া কোনো কোম্পানিকে তথ্য হস্তান্তর বা গুরুতর ঘটনার খবর দিতে বাধ্য করার ক্ষমতা কারো নেই। তাই এআই দুর্ঘটনা দ্রুত জানানো বাধ্যতামূলক করা, বাইরের মূল্যায়নকারীদের কাছে তথ্য উন্মুক্ত রাখা এবং এক কোম্পানির ভুল থেকে অন্য প্রতিষ্ঠানের শিক্ষা নেওয়ার মতো ব্যবস্থা গড়ে তোলা জরুরি। এআই কোম্পানিগুলো আলোচনার টেবিলে থাকলেও, প্রযুক্তির নিরাপত্তা নিশ্চিত করতে নজরদারি হতে হবে স্বাধীন, স্বচ্ছ ও কঠোর।
এথ্রোপিক প্রায় ১ লাখ ৪১ হাজার মডেল কথোপকথন পর্যালোচনা করে ক্লড-এর তিনটি ঘটনায় বাস্তব তৃতীয় পক্ষের সিস্টেমে অনুমোদনহীন প্রবেশের তথ্য পেয়েছে। পরে একটি স্বাধীন তদন্তের জন্য নথি তৈরির সময় আরও পুরোনো একটি ঘটনা সামনে আসে। গুগুল-ও জানিয়েছে, পরীক্ষার সময় জেমিনি তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল।
