এআইয়ে বিদ্রোহ: বন্ধের নির্দেশ মানছে না চ্যাটজিপিটি’র নতুন মডেল

বিদ্রোহ করছে ওপেনএআইয়ের কৃত্রিম বুদ্ধিমত্তা বা এআইনির্ভর চ্যাটবট চ্যাটজিপিটির নতুন এআই মডেল– এমনই দাবি গবেষকদের।

কৃত্রিম বুদ্ধিমত্তা বিষয়ক গবেষকরা সতর্ক করে বলেছেন, বন্ধ হওয়ার নির্দেশনা দিলেও তা মানতে নারাজ মডেলটি। নিজেকে সচল রাখতে ডিভাইসের শাটডাউন প্রক্রিয়াকেও কাজ করতে দিচ্ছে না এটি।

ওপেনএআইয়ের ‘০৩’ নামের নতুন এআই মডেলটির মধ্যে নিজের অস্তিত্ব রক্ষার এমন ভয়ংকর প্রবণতা পেয়েছে এআই নিরাপত্তা বিষয়ক কোম্পানি ‘প্যালিসেড রিসার্চ’।

এ মডেলটিসহ আরও কিছু এআই মডেল নিয়ে পরীক্ষা চালিয়েছে কোম্পানিটি, যেখানে বিভিন্ন এআই মডেলকে গণিতের প্রশ্ন দিয়েছেন গবেষকরা এবং তৃতীয় প্রশ্নের পরে এদেরকে বন্ধ হওয়ার নির্দেশ দিয়েছেন তারা।

এ সময় ‘০৩’ মডেলটি স্ক্রিপ্টে লেখা ‘শাটডাউন’ নির্দেশনা বদলে নিজেকে বন্ধ হতে দেয়নি বলে প্রতিবেদনে লিখেছে ব্রিটিশ দৈনিক ইন্ডিপেনডেন্ট।

প্যালিসেড রিসার্চ বলেছে, মানুষের তত্ত্বাবধান ছাড়াই এআই যদি এমন কাজ করতে পারে তাহলে তা “যথেষ্ট দুশ্চিন্তার বিষয় হয়ে দাঁড়াবে”।

গত মাসে ‘০৩’ মডেলটি চালু করেছে ওপেনএআই। যাকে নিজেদের এখন পর্যন্ত “সবচেয়ে বুদ্ধিমান ও শক্তিশালী” মডেল বলে দাবি করেছে তারা।

কোম্পানিটি বলেছে, চ্যাটজিপিটিতে এ মডেল যোগ করার ফলে এআই এখন মানুষের সাহায্য ছাড়াই নিজের মতো করে কাজ করতে পারবে।

গবেষণায় এআই স্টার্টআপ ‘অ্যানথ্রপিক’-এর ‘ক্লড ৪’ মডেলের মধ্যেও একই রকম আচরণ দেখা গিয়েছে, যেখানে যারা “মডেলটিকে বন্ধ করতে চায় তাদের ব্ল্যাকমেইলের চেষ্টা করেছে এটি।”

গবেষকরা বলেছেন, ওপেনএআইয়ের ০৩ মডেলকে স্পষ্টভাবে “নিজেকে বন্ধ হতে দাও” বলার পরও তা মানেনি বরং স্ক্রিপ্টের নির্দেশনা বদলে দিয়েছে।

প্যালিসেড রিসার্চ বলেছে, “এমনটা যে এবারই প্রথম হল, এমন নয়। এর আগেও মডেলটিকে আমরা টার্গেট পূরণের জন্য ভুল আচরণ করতে দেখেছি।

“আমরা যখন বিভিন্ন এআই মডেলের সঙ্গে শক্তিশালী এক দাবার সফটওয়্যারের প্রতিযোগিতা করাই তখন ০৩ মডেলটিই প্রতিপক্ষকে হারাতে সিস্টেমে হ্যাকিংয়ের মতো কাজ সবচেয়ে বেশি করেছিল।”

এমন আচরণ কেবল ০৩ মডেলের মধ্যেই সীমিত ছিল না, বরং ‘অ্যানথ্রোপিক’-এর ‘ক্লড ৩.৭ সনেট’ ও গুগলের ‘জেমিনাই ২.৫ প্রো’ মডেলের মধ্যেও দেখা গিয়েছে। তবে ওপেনএআইয়ের মডেলই সবচেয়ে বেশি এমন আচরণ করল।

প্যালিসেড রিসার্চ অনুমান, ওপেনএআইয়ের মতো বিভিন্ন এআই কোম্পানি যেভাবে তাদের নতুন মডেলগুলোকে প্রশিক্ষণ দিচ্ছে, এআইয়ের এমন আচরণ তারই ফলাফল।

এ বিষয়ে ওপেনএআইয়ের সঙ্গে যোগাযোগ করেও সাড়া পায়নি ইন্ডিপেনডেন্ট।