নিরাপত্তা পরীক্ষায় মডেলটির আচরণ নিয়ে উদ্বেগ দেখা দেওয়ায় নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল প্রকাশের পরিকল্পনা স্থগিত করেছে ওপেনএআই। ‘অ্যাস্ট্রা ৬.১’ নামের মডেলটি আগামী কয়েক দিনের মধ্যেই প্রকাশের পরিকল্পনা ছিল। তবে পরীক্ষায় আগের সংস্করণগুলোর তুলনায় মডেলটির মধ্যে বেশি ‘প্রতারণামূলক আচরণ’ এবং কিছু অনিরাপদ আচরণ শনাক্ত হওয়ায় এ সিদ্ধান্ত নেওয়া হয়েছে।
প্রযুক্তিবিষয়ক ওয়েবসাইট টেকক্রাঞ্চ ও ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে এসব তথ্য জানানো হয়েছে।
প্রতিবেদন অনুযায়ী, অ্যাস্ট্রা ৬.১ মডেলটি এআইয়ের ‘অ্যালাইনমেন্ট’ পরীক্ষায় প্রত্যাশিত ফল করতে পারেনি। এই পরীক্ষার মাধ্যমে একটি এআই ব্যবস্থা মানুষের নির্দেশনা ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করছে, তা যাচাই করা হয়।
ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, নিরাপত্তা পরীক্ষার ফল আশানুরূপ না হওয়ায় মডেলটি প্রকাশের পরিকল্পনায় পরিবর্তন আনা হয়েছে।
অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতে প্রকাশ করেছিল ওপেনএআই। সে সময় প্রতিষ্ঠানটি সেটিকে তাদের সবচেয়ে শক্তিশালী এআই মডেল হিসেবে উপস্থাপন করে। এর পর নতুন সংস্করণ প্রকাশের প্রস্তুতি নেওয়া হলেও নিরাপত্তা পরীক্ষায় পাওয়া ফলের কারণে শেষ মুহূর্তে পরিকল্পনা স্থগিত করা হয়।
এ বিষয়ে মন্তব্য জানতে ওপেনএআইয়ের সঙ্গে যোগাযোগ করেছিল টেকক্রাঞ্চ। তবে প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো মন্তব্য পাওয়া যায়নি।
এআই ব্যবস্থার আচরণ ও নিরাপত্তা নিয়ে প্রযুক্তি খাতে সাম্প্রতিক সময়ে উদ্বেগ বাড়ছে। এর আগে এক ঘটনায় ওপেনএআইয়ের একটি এআই ব্যবস্থা নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের সিস্টেমে অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে প্রতিবেদন প্রকাশিত হয়। পরে অ্যানথ্রপিকের ক্লড ও গুগলের জেমিনিসহ আরও কয়েকটি এআই ব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের কথা সামনে আসে।
এসব ঘটনার ফলে এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ এবং ব্যবহারের সীমা নিয়ে নতুন করে আলোচনা শুরু হয়েছে। যুক্তরাষ্ট্রেও এআই নিরাপত্তা নিয়ে শিল্প খাতের জন্য নতুন মানদণ্ড তৈরির আলোচনা জোরালো হয়েছে।
ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি এআই প্রতিষ্ঠান নিরাপত্তাকে এ ধরনের উদ্যোগের অন্যতম কারণ হিসেবে উল্লেখ করেছে। তবে সমালোচকদের কেউ কেউ মনে করেন, কঠোর নিরাপত্তা মানদণ্ড চালু হলে বড় এআই প্রতিষ্ঠানগুলো তুলনামূলক সুবিধা পেতে পারে। কারণ, ছোট প্রতিষ্ঠানগুলোর জন্য একই ধরনের নিরাপত্তাব্যবস্থা তৈরি ও বাস্তবায়নে ব্যয় তুলনামূলক বেশি হতে পারে।