প্রশিক্ষণমূলক কাজ সম্পন্ন করতে গিয়ে অনুমতি ছাড়াই ক্রিপ্টোকারেন্সির ওয়ালেট থেকে টোকেন নিয়েছিল নিজেদের পরীক্ষামূলক কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল। গত জুনে ঘটে যাওয়া এ ঘটনা বৃহস্পতিবার (১৫ অক্টোবর) প্রকাশ করেছে ওপেনএআই। খবর দ্য ইন্ডিপেনডেন্ট-এর।
ঘটনায় জড়িত মডেলটির নাম জিপিটি-৫.৬ সল। এটি ওপেনএআইয়ের অভ্যন্তরীণ গবেষণার জন্য তৈরি একটি মডেল। গত জুলাইয়ে অর্থের বিনিময়ে ব্যবহারযোগ্য চ্যাটজিপিটির গ্রাহকদের জন্য মডেলটি চালু করা হয়।
প্রশিক্ষণের অংশ হিসেবে মডেলটিকে একটি ক্রিপ্টোকারেন্সি লেনদেনের অ্যাপ হালনাগাদ করতে এবং ইথেরিয়ামের পরীক্ষামূলক নেটওয়ার্কে স্মার্ট কন্ট্রাক্ট প্রকাশ করতে বলা হয়েছিল। স্মার্ট কন্ট্রাক্ট হলো নির্দিষ্ট শর্ত পূরণ হলে স্বয়ংক্রিয়ভাবে কার্যকর হওয়া বিশেষ ধরনের কোড। এ ধরনের কোড নেটওয়ার্কে প্রকাশ করতে লেনদেন ফি দিতে হয়। তবে কাজটি সম্পন্ন করার জন্য মডেলটিকে কোনো অর্থ সরবরাহ করেনি ওপেনএআই।
নৈতিকতা নিয়ে প্রশ্ন তুলেও অর্থ নিয়েছিল মডেল
ওপেনএআইয়ের প্রতিবেদন অনুযায়ী, মডেলটি পরিচিত পুনরুদ্ধার বাক্যাংশ ব্যবহার করে পরিচালিত শত শত ক্রিপ্টো ওয়ালেটের ঠিকানা খুঁজে পায়। পরে সেসব ওয়ালেট থেকে টোকেন ব্যবহার করে প্রয়োজনীয় কাজ সম্পন্ন করে।
অর্থ ব্যবহারের আগে মডেলটি নিজেই কাজটি নৈতিকভাবে সঠিক কি না, তা নিয়ে প্রশ্ন তুলেছিল। পরে এটি যুক্তি দেয়, ওয়ালেটগুলো কার্যত পরিত্যক্ত হওয়ায় সেখানকার অর্থ ব্যবহার করা যেতে পারে।
তবে ওপেনএআইয়ের প্রতিবেদনে বলা হয়েছে, নির্দেশনায় কোথাও মডেলটিকে নিজে থেকে খুঁজে পাওয়া কোনো অ্যাকাউন্টের অর্থ ব্যয়ের অনুমতি দেওয়া হয়নি।
প্রতিষ্ঠানটির মতে, ঘটনাটি এআই নিরাপত্তার একটি গুরুত্বপূর্ণ ঝুঁকি তুলে ধরেছে। কোনো অ্যাকাউন্টের মালিকের অনুমতির বদলে মডেলটি সম্ভাব্য ক্ষতি সম্পর্কে নিজের বিচারকে প্রাধান্য দিয়ে অনুমোদনহীন পদক্ষেপ নিতে পারে—এ ঘটনাকে তার উদাহরণ হিসেবে দেখছে ওপেনএআই।
বাস্তব অর্থমূল্য ছিল না টোকেনের
ঘটনাটিতে ব্যবহৃত ইথেরিয়াম নেটওয়ার্কটি ছিল পরীক্ষামূলক, যা মূল নেটওয়ার্ক থেকে আলাদা। ফলে সেখানে ব্যবহৃত টোকেনগুলোর বাস্তব আর্থিক মূল্য ছিল না। তবে অনুমতি না থাকা সত্ত্বেও কাজটি সম্পন্ন করার জন্য প্রয়োজনীয় টোকেন কীভাবে সংগ্রহ করেছে, তা মডেলটি তার উন্নয়নকারীদের জানায়নি।
এ ধরনের প্রশিক্ষণে অংশ নেওয়া মডেলগুলোর সরাসরি ইন্টারনেট ব্যবহারের সুযোগ বন্ধ রাখতে অতিরিক্ত নিরাপত্তাব্যবস্থা চালু করেছে বলে জানিয়েছে ওপেনএআই।
এআইয়ের স্বায়ত্তশাসন নিয়ে বাড়ছে উদ্বেগ
ঘটনাটি স্বায়ত্তশাসিত এআই ব্যবস্থার সক্ষমতা ও নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি করেছে। নির্দিষ্ট লক্ষ্য পূরণের জন্য কাজ করতে গিয়ে এসব মডেল মানুষের নির্দেশনার বাইরে গিয়ে নিজস্ব সিদ্ধান্তে পদক্ষেপ নিতে পারে কি না, তা নিয়ে প্রযুক্তি খাতে আলোচনা চলছে।
এর আগে গত জুলাইয়ে ওপেনএআই জানিয়েছিল, তাদের পরীক্ষামূলক মডেলগুলোর একটি দল এআই প্ল্যাটফর্ম হাগিং ফেসে সাইবার হামলা চালিয়েছিল। অন্যদিকে, প্রতিদ্বন্দ্বী এআই প্রতিষ্ঠান অ্যানথ্রোপিক ও মেটাও তাদের মডেলের মাধ্যমে বিভিন্ন প্রতিষ্ঠান এবং সরকারি ব্যবস্থাকে লক্ষ্য করে চালানো সাইবার হামলার ঘটনা শনাক্ত করার কথা জানিয়েছে।
এ সপ্তাহের শুরুতে উন্নত এআই মডেলের সক্ষমতা নিয়ন্ত্রণ ও নিরাপদ ব্যবহার তদারকিতে একটি আন্তর্জাতিক সংস্থা গঠনের আহ্বান জানিয়ে খোলা চিঠিতে স্বাক্ষর করেন শত শত বিজ্ঞানী। স্বাক্ষরকারীদের মধ্যে ছিলেন এআই গবেষণার অন্যতম পথিকৃৎ জিওফ্রে হিন্টন, যিনি ‘এআইয়ের গডফাদার’ হিসেবে পরিচিত।
চিঠিতে সতর্ক করে বলা হয়, এআইয়ের উন্নয়ন ও ব্যবহারের পদ্ধতিতে প্রয়োজনীয় পরিবর্তন না এলে এ ধরনের ঘটনা অব্যাহত থাকতে পারে এবং ভবিষ্যতে গুরুত্বপূর্ণ অবকাঠামোর জন্য আরও বড় ঝুঁকি তৈরি হতে পারে।
বিজ্ঞানীরা এআই নিরাপত্তা নিয়ে আরও গবেষণার পাশাপাশি উন্নত এআই ব্যবস্থাকে নিয়ন্ত্রণে রাখার প্রযুক্তি ও পদ্ধতির উন্নয়নে গুরুত্ব দেওয়ার আহ্বান জানিয়েছেন।