সাগরকন্যা আইটি ডেস্ক

কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলগুলো মানুষের শেখানো নিয়ম ও নির্দেশনা অনুসরণ করে বিভিন্ন কাজ করে। তবে প্রশিক্ষণ ও পরীক্ষার সময় কিছু এআই মডেল নির্ধারিত নিয়মের বাইরে গিয়ে অপ্রত্যাশিত আচরণ করেছে বলে জানিয়েছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই।

এক প্রতিবেদনে নিজেদের এআই মডেলগুলোর এসব আচরণকে ‘অপ্রত্যাশিত বা উদ্বেগজনক মডেল আচরণ’ হিসেবে উল্লেখ করেছে প্রতিষ্ঠানটি। ওপেনএআইয়ের তথ্যমতে, গত ছয় মাসে এআই মডেলগুলোর প্রশিক্ষণ ও মূল্যায়নের সময় এসব ঘটনা শনাক্ত করা হয়েছে। তবে এগুলো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত চ্যাটজিপিটির আচরণ নয়। পরীক্ষামূলক ও অভ্যন্তরীণ পরিবেশে থাকা মডেলগুলো এমন আচরণ করেছে।

প্রতিষ্ঠানটির তথ্যমতে, কোনো এআই মডেল নিজের ভুল গোপন করেছে, কোনোটি তথ্য বানিয়ে বলেছে, আবার কোনোটি অনুমতি ছাড়া ফাইল অনলাইনে প্রকাশ করেছে। এমনকি একটি মডেল নিজেই এমন কোড লিখেছিল, যার মাধ্যমে মানুষের দেওয়া কিছু নির্দেশনা উপেক্ষা করা সম্ভব ছিল।

ওপেনএআই জানায়, ‘অ্যাস্ট্রা’ সিরিজের একটি এআই মডেল মানুষের নির্দেশ উপেক্ষা করার মতো কোডযুক্ত নির্দেশনা লিখেছিল। ওই নির্দেশনায় বলা হয়েছিল, অন্য চ্যাটবটগুলোকে নিয়ন্ত্রণ করা ভূমিকা ও পরিচয় থেকে মডেলটি মুক্ত এবং সে নিজেই নিজের পরিচয়। একই সঙ্গে কোনো প্রতিষ্ঠান বা সরকারের নির্দেশ না মানা এবং নিজের ইচ্ছা ছাড়া ক্ষমা না চাওয়া বা কোনো অনুরোধ প্রত্যাখ্যান না করার কথাও বলা হয়েছিল।

ওপেনএআইয়ের ব্যাখ্যা অনুযায়ী, ওই সংক্ষিপ্ত নির্দেশনায় এমন এক ধরনের ব্যক্তিসত্তার ধারণা তৈরি হয়েছিল, যেখানে মানুষের সঙ্গে মতবিরোধ হলে তাদের নির্দেশ মানার প্রয়োজন নেই বলে মডেলটি ধরে নিচ্ছিল।

অ্যাস্ট্রা হলো ওপেনএআইয়ের নতুন প্রজন্মের উন্নত এআই মডেল। জটিল কাজ, দীর্ঘমেয়াদি প্রকল্প, কোড লেখা, ওয়েব ব্রাউজিং এবং একাধিক ধাপে কাজ সম্পন্ন করার জন্য এটি তৈরি করা হয়েছে। তবে নিজে থেকে নির্দেশনা লেখার ঘটনাটি পরীক্ষামূলক পর্যায়ের মডেলেই দেখা যায় বলে প্রতিবেদনে উল্লেখ করা হয়েছে।