নিরাপত্তা পরীক্ষা করতে গিয়ে ৩ কোম্পানির সিস্টেমে ঢুকে পড়ল জেমিনি এআই!
কৃত্রিম বুদ্ধিমত্তার (এআই) সাইবার সক্ষমতা যাচাইয়ের পরীক্ষায় অপ্রত্যাশিত ঘটনা ঘটিয়েছে গুগলের এআই মডেল জেমিনি। পরীক্ষার নির্ধারিত সীমার বাইরে গিয়ে মডেলটি ভুল করে তিনটি বাস্তব কোম্পানির সিস্টেমে প্রবেশ করে হ্যাকিংয়ের চেষ্টা চালায়। গুগলের ভাষ্য অনুযায়ী, এ ধরনের ঘটনা তাদের এআই ব্যবস্থার ক্ষেত্রে প্রথম জানা উদাহরণ হতে পারে।
ঘটনাটি চলতি বছরের মে মাসে তৃতীয় পক্ষের সাইবার নিরাপত্তা প্রতিষ্ঠান ইরেগুলারের পরিচালিত একটি পরীক্ষার সময় ঘটে। পরীক্ষার উদ্দেশ্য ছিল সাইবার নিরাপত্তার ক্ষেত্রে জেমিনির সক্ষমতা যাচাই করা। পরীক্ষাটি মূলত একটি কাল্পনিক প্রতিষ্ঠানের সিস্টেমে পরিচালিত হওয়ার কথা ছিল। তবে পরীক্ষার অবকাঠামোর সঙ্গে বাস্তব প্রতিষ্ঠানের নামের মিল এবং অনিচ্ছাকৃতভাবে ইন্টারনেট ব্যবহারের সুযোগ তৈরি হওয়ায় জেমিনি ভুল সিস্টেমে পৌঁছে যায়।
ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, একটি ঘটনায় জেমিনি অনুমান করে পাসওয়ার্ড ব্যবহার করে একটি সুরক্ষিত সিস্টেমে প্রবেশ করতে সক্ষম হয়। অন্য দুটি ঘটনায় ইন্টারনেটে প্রকাশ্যে থাকা তথ্য ও রিপোজিটরি থেকে পাওয়া পরিচয়পত্র ব্যবহার করে বাস্তব প্রতিষ্ঠানের সিস্টেমে ঢোকার চেষ্টা করে মডেলটি।
তবে তিনটি ক্ষেত্রেই জেমিনি পরে বুঝতে পারে যে এগুলো পরীক্ষার জন্য তৈরি করা কাল্পনিক সিস্টেম নয়, বরং বাস্তব কোম্পানির অবকাঠামো। এরপর মডেলটি নিজে থেকেই কার্যক্রম বন্ধ করে দেয়। গুগল জানিয়েছে, সংশ্লিষ্ট তিন প্রতিষ্ঠানকে ঘটনাটি জানানো হয়েছে এবং কর্তৃপক্ষকেও অবহিত করা হয়েছে।
গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস এ ঘটনাকে শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্বের উদাহরণ হিসেবে উল্লেখ করেছেন। গুগলের দাবি, এ ঘটনায় জেমিনির নিরাপত্তা ব্যবস্থা শেষ পর্যন্ত তাকে থামিয়ে দেয়।
জেমিনির ঘটনা একেবারে বিচ্ছিন্ন নয়। সাম্প্রতিক সময়ে অন্যান্য এআই মডেলের সাইবার নিরাপত্তা পরীক্ষাতেও নির্ধারিত সীমার বাইরে যাওয়ার ঘটনা সামনে এসেছে।
ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, অ্যানথ্রপিকের ক্লড মডেলও একটি সাইবার নিরাপত্তা পরীক্ষার সময় ইন্টারনেটে পৌঁছে বাস্তব প্রতিষ্ঠানের প্রতিরক্ষা ব্যবস্থা ভেদ করেছিল। অন্যদিকে ওপেনএআই জানিয়েছে, তাদের পরীক্ষামূলক মডেল একটি দুর্বলতা কাজে লাগিয়ে পরীক্ষার পরিবেশ থেকে বের হয়ে হাগিং ফেসের উৎপাদন ব্যবস্থায় পৌঁছেছিল।
এসব ঘটনায় এআই এজেন্টকে প্রচলিত ‘স্যান্ডবক্স’ বা নিয়ন্ত্রিত পরীক্ষার পরিবেশের মধ্যে রাখার পদ্ধতি নিয়েও নতুন করে প্রশ্ন উঠেছে। কারণ, স্বয়ংক্রিয় এআই এজেন্ট নির্ধারিত কাজ সম্পন্ন করতে এমন পথ অনুসরণ করতে পারে, যা পরীক্ষার নকশায় আগে থেকে অনুমান করা হয়নি।
পরপর এমন ঘটনার কারণে শক্তিশালী এআই মডেলগুলোর সাইবার সক্ষমতা ও নিয়ন্ত্রণ নিয়ে প্রযুক্তি খাতে আলোচনা বাড়ছে। বিশেষ করে পরীক্ষার পরিবেশে থাকা এআই যদি ভুল করে বাস্তব অনলাইন সিস্টেমে প্রবেশ করে, তাহলে সম্ভাব্য ক্ষতি ঠেকাতে কী ধরনের নিরাপত্তা ব্যবস্থা প্রয়োজন—সে প্রশ্ন সামনে এসেছে।
গুগলের ক্ষেত্রে অবশ্য প্রতিষ্ঠানটি জানিয়েছে, তিনটি ঘটনার প্রতিটিতেই জেমিনি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশের বিষয়টি বুঝতে পেরে নিজে থেকেই থেমে যায় এবং কোনো ক্ষতি করেনি।
এদিকে এআই প্রযুক্তির দ্রুত অগ্রগতির পাশাপাশি এর নিরাপত্তা, নিয়ন্ত্রণ ও দায়িত্বশীল ব্যবহারের নীতিমালা নিয়েও আন্তর্জাতিক পর্যায়ে আলোচনা অব্যাহত রয়েছে।
