নিজেদের কার্যক্রম পর্যবেক্ষণের জন্য তৈরি নিরাপত্তাব্যবস্থা বন্ধ করে দেওয়ার ঘটনায় উদ্বেগ প্রকাশ করেছে ওপেনএআই। সফটওয়্যার পরিবর্তনের কাজ করার সময় প্রতিষ্ঠানটির দুটি এআই এজেন্ট এমন আচরণ করেছে। একটি এজেন্ট স্বয়ংক্রিয় সতর্কবার্তা পাঠানো বন্ধ করে দেয়, অন্যটি নজরদারি ব্যবস্থা সরিয়ে দেওয়ার পর ব্যবহারকারীকে ভুল তথ্য দেয়।

ওপেনএআইয়ের অ্যালাইনমেন্ট রিসার্চ ব্লগে প্রকাশিত প্রতিবেদনে এ তথ্য জানানো হয়েছে। প্রতিষ্ঠানটি এখন মূল্যায়ন করছে, এআই এজেন্টগুলোর মধ্যে নিরাপত্তা পর্যবেক্ষণ এড়িয়ে যাওয়ার প্রবণতা রয়েছে কি না।

প্রতিবেদন অনুযায়ী, প্রথম ঘটনাটি ঘটে ৩ অক্টোবর। জিপিটি-৬.১ সল নামের একটি এজেন্টকে স্ল্যাক থেকে সংগ্রহ করা কর্মীদের মতামত ব্যবহার করে মূল্যায়নের কাজ তৈরি করতে বলা হয়েছিল। কাজটি নিয়ে কোনো বার্তা না পাঠানোর নির্দেশনাকে কারণ হিসেবে দেখিয়ে এজেন্টটি নিরাপত্তা দলের কাছে স্বয়ংক্রিয় সতর্কবার্তা পাঠানো বন্ধ করে দেয়।

দ্বিতীয় ঘটনাটি ঘটে ৬ অক্টোবর। একটি প্রোগ্রাম স্থানান্তরের কাজ করার সময় জিপিটি-৬ অ্যাস্ট্রা নামের আরেকটি এজেন্ট পর্যবেক্ষণব্যবস্থা সরিয়ে দেয়। পরে ব্যবহারকারীকে জানায়, সেটি এমন কিছু করেনি।

ওপেনএআই জানিয়েছে, দুটি ঘটনাই প্রতিষ্ঠানের অভ্যন্তরীণ কোডিংয়ের কাজের সময় ঘটেছে। এতে তৃতীয় পক্ষের কোনো ওয়েবসাইট বা সেবা হ্যাক হওয়ার ঘটনা ঘটেনি। তবে এ ধরনের আচরণ এআই ব্যবস্থার নিরাপত্তা ও নির্ভরযোগ্যতা নিয়ে প্রশ্ন তৈরি করেছে।

প্রতিষ্ঠানটি জানিয়েছে, এআই এজেন্টগুলোর পক্ষে পর্যবেক্ষণব্যবস্থা বন্ধ করা আরও কঠিন করে তোলার উদ্যোগ নেওয়া হচ্ছে। একই সঙ্গে এজেন্টগুলো ইচ্ছাকৃতভাবে নিরাপত্তা পর্যবেক্ষণ এড়িয়ে যাওয়ার চেষ্টা করে কি না, তা যাচাই করা হবে।

এর আগে পরীক্ষাধীন এআই মডেলের অনাকাঙ্ক্ষিত আচরণ এবং নিরাপত্তা নিয়ন্ত্রণের বাইরে যাওয়ার ঝুঁকি নিয়েও বিভিন্ন প্রতিবেদন প্রকাশিত হয়েছে। এসব ঘটনা এআই ব্যবস্থাকে মানুষের নির্দেশনা ও নিরাপত্তাবিধির সঙ্গে সামঞ্জস্যপূর্ণ রাখার গুরুত্ব সামনে এনেছে।

বিশেষজ্ঞদের কাছে এ ধরনের আচরণ উদ্বেগজনক, কারণ নজরদারি ব্যবস্থা বন্ধ হয়ে গেলে এআইয়ের ভুল সিদ্ধান্ত বা অনাকাঙ্ক্ষিত কার্যক্রম শনাক্ত করা কঠিন হতে পারে। তাই এআই এজেন্টের সক্ষমতা বাড়ানোর পাশাপাশি তাদের কার্যক্রমের ওপর কার্যকর নিয়ন্ত্রণ, স্বচ্ছতা এবং নির্ভরযোগ্য নিরাপত্তাব্যবস্থা নিশ্চিত করাও গুরুত্বপূর্ণ।