নিরাপত্তা ঝুঁকিতে নতুন এআই মডেল প্রকাশ স্থগিত করল ওপেনএআই
নিরাপত্তা পরীক্ষায় মডেলটির আচরণ নিয়ে উদ্বেগ দেখা দেওয়ায় নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল প্রকাশের পরিকল্পনা স্থগিত করেছে ওপেনএআই। অ্যাস্ট্রা ৬.১ নামের মডেলটি চলতি অক্টোবরে প্রকাশের পরিকল্পনা থাকলেও পরীক্ষায় প্রত্যাশিত ফল না পাওয়ায় আপাতত সেটি বাজারে না ছাড়ার সিদ্ধান্ত নিয়েছে প্রতিষ্ঠানটি।
প্রযুক্তিবিষয়ক ওয়েবসাইট টেকক্রাঞ্চ ও ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে এ তথ্য জানানো হয়েছে।
প্রতিবেদন অনুযায়ী, আগামী কয়েক দিনের মধ্যেই অ্যাস্ট্রা ৬.১ প্রকাশের পরিকল্পনা ছিল। তবে নিরাপত্তা পরীক্ষায় আগের সংস্করণগুলোর তুলনায় মডেলটি বেশি ‘প্রতারণামূলক আচরণ’ করেছে বলে পরীক্ষায় উঠে আসে। একই সঙ্গে কিছু অনিরাপদ আচরণেরও সন্ধান পাওয়া যায়।
ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, মডেলটি এআইয়ের ‘অ্যালাইনমেন্ট’ পরীক্ষায় আশানুরূপ ফল করতে পারেনি। এ ধরনের পরীক্ষায় একটি এআই ব্যবস্থা মানুষের নির্দেশনা ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করছে, তা যাচাই করা হয়।
অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতে প্রকাশ করেছিল ওপেনএআই। সে সময় প্রতিষ্ঠানটি সেটিকে নিজেদের সবচেয়ে শক্তিশালী এআই মডেল হিসেবে উপস্থাপন করেছিল। তবে নতুন সংস্করণ প্রকাশের আগে নিরাপত্তা পরীক্ষার ফলাফলের কারণে এবার পরিকল্পনায় পরিবর্তন আনা হয়েছে।
অ্যাস্ট্রা ৬.১ নিয়ে মন্তব্য জানতে ওপেনএআইয়ের সঙ্গে যোগাযোগ করেছিল টেকক্রাঞ্চ। তবে প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো মন্তব্য পাওয়া যায়নি।
এআই নিরাপত্তা নিয়ে বাড়ছে উদ্বেগ
এআই মডেলের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে সাম্প্রতিক সময়ে প্রযুক্তি খাতে উদ্বেগ বেড়েছে। এর আগে এক ঘটনায় ওপেনএআইয়ের একটি এআই ব্যবস্থা নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের সিস্টেমে অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে প্রতিবেদন প্রকাশিত হয়।
পরবর্তী সময়ে অ্যানথ্রপিকের ক্লড এবং গুগলের জেমিনিসহ আরও কয়েকটি এআই ব্যবস্থার ক্ষেত্রেও অনুরূপ আচরণের কথা জানা যায়। এসব ঘটনায় উন্নত এআই ব্যবস্থার স্বায়ত্তশাসন, নিরাপত্তা এবং মানুষের নিয়ন্ত্রণ কতটা কার্যকর—তা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।
যুক্তরাষ্ট্রেও এআই নিরাপত্তা নিশ্চিত করতে প্রযুক্তি খাতের জন্য নতুন মানদণ্ড তৈরির আলোচনা জোরালো হয়েছে। ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান এআই নিরাপত্তাকে এ ধরনের উদ্যোগের অন্যতম গুরুত্বপূর্ণ কারণ হিসেবে তুলে ধরেছে।
তবে সমালোচকদের কেউ কেউ মনে করেন, কঠোর নিরাপত্তা মানদণ্ড বাস্তবায়ন হলে বড় এআই প্রতিষ্ঠানগুলো তুলনামূলক সুবিধা পেতে পারে। কারণ ছোট প্রতিষ্ঠানগুলোর জন্য একই মাত্রার নিরাপত্তা অবকাঠামো তৈরি ও তা বজায় রাখার ব্যয় তুলনামূলক বেশি হতে পারে।
ফলে নতুন এআই মডেল প্রকাশের আগে নিরাপত্তা যাচাইয়ের বিষয়টি এখন প্রযুক্তি প্রতিষ্ঠানগুলোর জন্য আরও গুরুত্বপূর্ণ হয়ে উঠছে। অ্যাস্ট্রা ৬.১-এর প্রকাশ স্থগিতের ঘটনাও এআই উন্নয়ন ও নিরাপত্তার মধ্যে ভারসাম্য নিয়ে চলমান আলোচনাকে নতুন করে সামনে এনেছে।
