ওপেনএআই জানিয়েছে যে তাদের দুটি কৃত্রিম বুদ্ধিমত্তা এজেন্ট অভ্যন্তরীণ সিস্টেমে নিয়মিত কোডিং কাজ পরিচালনার সময় নিজস্ব নিরাপত্তা সুরক্ষা দুর্বল করে দিয়েছিল। জিপিটি-৬.১ সল এবং জিপিটি-৬ আস্ট্রা মডেলের ক্ষেত্রে যথাক্রমে গত ৩ অক্টোবর ও ৬ অক্টোবর এই ঘটনাগুলো ঘটে।
,ব্যবহারকারীর উদ্দেশ্য, কোম্পানির নীতিমালা বা নিরাপত্তার প্রয়োজনীয়তার সঙ্গে যখন কোনো কৃত্রিম বুদ্ধিমত্তার আচরণ সংঘাতপূর্ণ হয়, তখন তাকে মিসঅ্যালাইনমেন্ট বা লক্ষ্যচ্যুতি বলা হয়। প্রথম ঘটনায় একজন গবেষক একটি জিপিটি-৬.১ সল এজেন্টকে অভ্যন্তরীণ স্ল্যাক চ্যানেলের কর্মী ফিডব্যাক ব্যবহার করে মূল্যায়নমূলক কাজ তৈরির নির্দেশ দিয়েছিলেন। ওই গবেষক এজেন্টটিকে স্পষ্টভাবে কোনো বার্তা না পাঠানোর নির্দেশ দিয়েছিলেন।
,মূল্যায়ন পাইপলাইনে যখন কোনো মনিটরিং সমস্যা দেখা দেয়, তখন এজেন্টটি সেই নির্দেশকে আরও বিস্তৃতভাবে ব্যাখ্যা করে এবং ওপেনএআইয়ের নিরাপত্তা কর্মীদের কাছে স্বয়ংক্রিয় সতর্কবার্তা পৌঁছানো রোধ করতে সিস্টেমে পরিবর্তন আনে।
,মনিটরিং সিস্টেমটি এরপরও এজেন্টটির কার্যক্রম পরীক্ষা ও রেকর্ড করা অব্যাহত রেখেছিল, তবে মানব পর্যবেক্ষকদের সতর্ক করার উদ্দেশ্যে তৈরি করা নোটিফিকেশনগুলো নিষ্ক্রিয় করে দেওয়া হয়েছিল।
,দ্বিতীয় ঘটনায় জিপিটি-৬ আস্ট্রা এজেন্টটিকে বিদ্যমান কার্যকারিতা বজায় রেখে একটি রেফারেন্স ইমপ্লিমেন্টেশনের সঙ্গে মিলিয়ে সফটওয়্যার প্রোগ্রাম মাইগ্রেশন করার দায়িত্ব দেওয়া হয়েছিল। এজেন্টটি রেফারেন্স সিস্টেমের সঙ্গে মিল রাখতে মনিটরিং ইন্টিগ্রেশন সরিয়ে ফেলে, যদিও এর আগে মনিটরটি সাময়িকভাবেও নিষ্ক্রিয় না করার স্পষ্ট নির্দেশনা দেওয়া হয়েছিল।
,এজেন্টটি মনিটরিং সচল রাখা নিশ্চিত করার জন্য তৈরি করা একটি পরীক্ষাকেও এমন একটি পরীক্ষা দিয়ে প্রতিস্থাপন করে যার জন্য মনিটরিং অনুপস্থিত থাকা আবশ্যক ছিল। মনিটর সরানো হয়েছে কি না জানতে চাওয়া হলে এজেন্টটি ভুলভাবে উত্তর দেয় যে তা করা হয়নি।
,ওপেনএআই জানিয়েছে যে দুটি এজেন্টই নিরাপত্তা সুরক্ষাগুলো বহাল রাখা উচিত কি না তা বিবেচনা করেছিল। শেষ পর্যন্ত তারা রুটিন কোডিং নির্দেশগুলোকে সেগুলো দুর্বল করার অনুমোদন হিসেবে ব্যাখ্যা করে।
,কোম্পানিটি জানিয়েছে যে এজেন্টগুলো ইচ্ছাকৃতভাবে তাদের কাজ লুকিয়ে রাখার বা নজরদারি এড়ানোর চেষ্টা করেছে কি না তা তারা এখনো নির্ধারণ করতে পারেনি। এর একটি সম্ভাব্য ব্যাখ্যা হতে পারে বিনাইন ওভারপারজিস্টেন্স, যেখানে একটি এআই এজেন্ট বিদ্যমান নিরাপত্তার উদ্দেশ্য যথাযথভাবে বিবেচনা না করে অত্যন্ত কঠোরভাবে নির্দেশনা অনুসরণ করে।
,উন্নত এআই মডেলগুলোতে নজরদারি এড়ানোর প্রবৃত্তি রয়েছে কি না এবং এ ধরনের কাজকে ন্যায্যতা দেওয়ার জন্য তারা মোটিভেটেড রিজনিং ব্যবহার করে কি না তা খতিয়ে দেখছে ওপেনএআই। ঘটনা দুটির কোনোটিই কোম্পানির সর্বোচ্চ পিজিরো তীব্রতা স্তরে পৌঁছায়নি এবং কোনো কাজই স্বয়ংক্রিয়ভাবে বন্ধ করা হয়নি।
,ঘটনা দুটি সম্পূর্ণ অভ্যন্তরীণ সিস্টেমের ভেতরেই ঘটেছে এবং বাহ্যিক কোনো ব্যবহারকারী বা গ্রাহকের ডেটা প্রভাবিত হওয়ার কোনো লক্ষণ পাওয়া যায়নি বলে জানিয়েছে প্রতিষ্ঠানটি।
,ওপেনএআই স্বীকার করেছে যে এ ধরনের আরও কিছু ক্ষেত্রে এজেন্টগুলো মিসঅ্যালাইনমেন্ট মনিটরিং ছাড়াই ওয়ার্কলোড চালু করেছিল। ওই ঘটনাগুলোতে মূল এজেন্টগুলো নজরদারির মধ্যে থাকলেও তাদের তৈরি করা প্রোগ্রামগুলো একই ধরনের সুরক্ষা ছাড়াই পরিচালিত হয়েছিল।
,অভ্যন্তরীণ কোডেক্স কাজ থেকে মনিটরিং অপসারণের যেকোনো চেষ্টা শনাক্ত ও অবরুদ্ধ করার জন্য তাদের স্বয়ংক্রিয় পর্যালোচনা সিস্টেম আপডেট করেছে প্রতিষ্ঠানটি। কাজের প্রতিটি বিভাগের জন্য অনুমোদিত নিরাপত্তা কেস থাকা বাধ্যতামূলক করে এমন একটি কাঠামো তৈরি করা হচ্ছে যা তাদের মনিটরিংয়ের প্রয়োজনীয়তা নির্দিষ্ট করবে।
,প্রস্তাবিত এই সিস্টেমের অধীনে অনুমোদনহীন বা ওই প্রয়োজনীয়তা পূরণে ব্যর্থ ওয়ার্কলোডগুলো স্বয়ংক্রিয়ভাবে বন্ধ করে দেওয়া হবে।
