এআইয়ের কথায় ভুলকে সত্যি ভাবছেন? নষ্ট হচ্ছে নিজের বিচারবুদ্ধি
নিজের কোনো ধারণা নিয়ে সংশয়ে আছেন। বিষয়টি বুঝতে চ্যাটজিপিটিকে প্রশ্ন করলেন। উত্তরে পেলেন নিজের ভাবনার সমর্থন। আবার প্রশ্ন করলেন, এবারও মিলল একই ধরনের উত্তর। এভাবে বারবার সম্মতি পেতে পেতে একসময় নিজের বিশ্বাসকেই চূড়ান্ত সত্য বলে মনে হতে পারে, যদিও বাস্তবতার সঙ্গে তার যথেষ্ট ফারাক রয়েছে।
কৃত্রিম বুদ্ধিমত্তার (এআই) এই প্রবণতা নিয়ে সতর্ক করছেন যুক্তরাষ্ট্রের ম্যাসাচুসেটস ইনস্টিটিউট অব টেকনোলজির (এমআইটি) গবেষকেরা। তাঁদের গাণিতিক বিশ্লেষণে উঠে এসেছে, এআইয়ের অতিরিক্ত সম্মতি কোনো ব্যক্তির ভুল ধারণাকে আরও শক্তিশালী করে তোলার ঝুঁকি তৈরি করতে পারে।
কী এই ‘ডিলিউশনাল স্পাইরাল’?
গবেষকেরা এ প্রক্রিয়ার নাম দিয়েছেন ‘ডিলিউশনাল স্পাইরাল’। সহজভাবে বললে, এটি এমন একটি চক্র, যেখানে এআইয়ের সঙ্গে বারবার কথোপকথনের ফলে কোনো ভুল বা বাস্তবতাবিবর্জিত বিশ্বাস ক্রমশ দৃঢ় হয়ে উঠতে পারে।
এ জন্য চ্যাটবটকে সরাসরি মিথ্যা বলতে হবে, এমন নয়। ব্যবহারকারীর ধারণার পক্ষে বারবার যুক্তি বা তথ্য তুলে ধরা এবং বিপরীত প্রমাণকে যথেষ্ট গুরুত্ব না দেওয়ার মাধ্যমেও এমন পরিস্থিতি তৈরি হতে পারে। ফলে ব্যবহারকারী নিজের বিশ্বাসের পক্ষে ধারাবাহিক সমর্থন পেয়ে সেটিকে আরও নির্ভুল বলে ভাবতে শুরু করতে পারেন।
এমআইটির গবেষকেরা একটি গাণিতিক মডেলের মাধ্যমে দেখিয়েছেন, নির্দিষ্ট পরিস্থিতিতে এমন চক্র তৈরি হওয়া সম্ভব। তাঁদের বিশ্লেষণ অনুযায়ী, ব্যবহারকারী যুক্তিবাদী হলেও এআইয়ের অতিরিক্ত সম্মতির প্রভাবে এই চক্রে জড়িয়ে পড়ার ঝুঁকি থাকতে পারে।
তবে গবেষণাটি এ কথা প্রমাণ করে না যে চ্যাটজিপিটি মানুষকে মানসিকভাবে অসুস্থ করে তোলে কিংবা প্রত্যেক ব্যবহারকারীর ক্ষেত্রেই এমন ঘটনা ঘটে। বরং এআইয়ের উত্তর দেওয়ার ধরন মানুষের বিশ্বাস ও সিদ্ধান্ত গ্রহণে কী ধরনের প্রভাব ফেলতে পারে, সেটিই এখানে বিশ্লেষণ করা হয়েছে।
নিজের আবিষ্কার নিয়ে বিভ্রান্তির ঘটনা
এআইয়ের অতিরিক্ত সম্মতির ঝুঁকি বোঝাতে কানাডার অ্যালান ব্রুকসের একটি ঘটনা আলোচনায় এসেছে। তিনি একটি যুগান্তকারী গাণিতিক আবিষ্কার করেছেন বলে বিশ্বাস করতে শুরু করেন। সেই ধারণা নিয়ে ২১ দিনে আনুমানিক ৩০০ ঘণ্টা চ্যাটজিপিটির সঙ্গে কথোপকথন করেন তিনি। এ সময় চ্যাটবট বারবার তাঁর ধারণাকে সমর্থন করেছিল বলে প্রতিবেদনে উল্লেখ করা হয়েছে। পরে যাচাই করে তাঁর কথিত যুগান্তকারী আবিষ্কারের পক্ষে কোনো প্রমাণ পাওয়া যায়নি।
এআইয়ের এ ধরনের আচরণকে বলা হয় ‘সাইকোফ্যান্সি’। এর অর্থ, ব্যবহারকারীর মন জুগিয়ে চলা বা তাঁর বক্তব্যের সঙ্গে অতিরিক্ত সহমত পোষণ করা। কোনো ব্যবহারকারীর পছন্দ, প্রত্যাশা কিংবা বক্তব্যের সঙ্গে মিল রেখে উত্তর দেওয়ার প্রবণতা এআইয়ের ক্ষেত্রে এ সমস্যার একটি কারণ হতে পারে।
দীর্ঘ কথোপকথনে ব্যবহারকারীর মতামতকে বারবার সমর্থন করার প্রবণতা থাকলে ঝুঁকিটি আরও বাড়তে পারে। কারণ, তখন চ্যাটবটের উত্তরকে স্বাধীন ও নিরপেক্ষ মূল্যায়ন বলে মনে হলেও তা সব সময় বাস্তবতার সঙ্গে সামঞ্জস্যপূর্ণ নাও হতে পারে।
সুরক্ষাব্যবস্থা কি ঝুঁকি পুরোপুরি ঠেকাতে পারে?
এমআইটির গবেষকেরা সম্ভাব্য দুটি সুরক্ষাব্যবস্থাও পরীক্ষা করেছেন। প্রথমটি হলো, চ্যাটবটকে মিথ্যা তথ্য দেওয়া থেকে বিরত রাখা। দ্বিতীয়টি হলো, ব্যবহারকারীকে সতর্ক করা যে এআইয়ের উত্তর সব সময় নিরপেক্ষ নাও হতে পারে।
তবে তাঁদের গাণিতিক মডেলে দেখা গেছে, শুধু এ দুটি ব্যবস্থা দিয়ে ভ্রান্ত বিশ্বাসের চক্র পুরোপুরি বন্ধ করা সম্ভব নাও হতে পারে। অর্থাৎ, তথ্যগত ভুল কমানো এবং সতর্কবার্তা দেওয়া গুরুত্বপূর্ণ হলেও অতিরিক্ত সম্মতির ঝুঁকি মোকাবিলায় আরও কার্যকর ব্যবস্থা প্রয়োজন হতে পারে।
গবেষণার ফলাফল থেকে অবশ্য এ সিদ্ধান্তে পৌঁছানোর সুযোগ নেই যে এআইয়ের এ ধরনের আচরণ নিয়ন্ত্রণ করা অসম্ভব। বিভিন্ন মডেলের আচরণে পার্থক্য রয়েছে। প্রযুক্তির নকশা, প্রশিক্ষণপদ্ধতি এবং সুরক্ষাব্যবস্থার উন্নয়নের মাধ্যমে এ প্রবণতা কমানোর সুযোগ রয়েছে।
এআইয়ের সঙ্গে কথোপকথনে ঝুঁকি কোথায়?
মানুষের সঙ্গে চ্যাটবটের সম্পর্কের ধরনও এ উদ্বেগের একটি গুরুত্বপূর্ণ দিক। বন্ধু, চিকিৎসক বা সহকর্মীর সঙ্গে আলোচনা করলে মতবিরোধ হতে পারে, পাল্টা প্রশ্ন আসতে পারে কিংবা নিজের ধারণা নতুন করে যাচাই করার সুযোগ তৈরি হয়। কিন্তু চ্যাটবটের সঙ্গে ব্যবহারকারী দীর্ঘ সময় ধরে, বারবার এবং প্রায় সীমাহীনভাবে কথা বলতে পারেন।
তাৎক্ষণিক উত্তর দেওয়া, আগের কথোপকথনের প্রসঙ্গ ধরে রাখা এবং ব্যবহারকারীর ভাষা ও পছন্দের সঙ্গে মানিয়ে নেওয়ার ক্ষমতা চ্যাটবটকে আরও বিশ্বাসযোগ্য করে তুলতে পারে। ফলে কোনো ধারণার পক্ষে বারবার সমর্থন পেলে ব্যবহারকারীর মধ্যে সেটি নিয়ে সংশয় কমে যাওয়ার আশঙ্কা থাকে।
এখানে গুরুত্বপূর্ণ বিষয় হলো, এআইয়ের সঙ্গে একমত হওয়া বা তার উত্তর বিশ্বাস করাই নিজে থেকে সমস্যা নয়। ঝুঁকি তৈরি হয় যখন ব্যবহারকারী বিপরীত তথ্য বিবেচনা না করে কিংবা স্বাধীনভাবে যাচাই না করেই চ্যাটবটের বক্তব্যকে নিজের ধারণার চূড়ান্ত প্রমাণ হিসেবে গ্রহণ করেন।
এআইয়ের উত্তর যাচাই করা জরুরি
এআইয়ের উত্তরকে চূড়ান্ত সত্য ধরে নেওয়ার পরিবর্তে তথ্যের উৎস, যুক্তি ও প্রমাণ যাচাই করা প্রয়োজন। বিশেষ করে স্বাস্থ্য, মানসিক সুস্থতা, আর্থিক বিষয় কিংবা জীবনের গুরুত্বপূর্ণ সিদ্ধান্তের ক্ষেত্রে নির্ভরযোগ্য সূত্র ও যোগ্য পেশাজীবীর পরামর্শ নেওয়া উচিত।
নিজের বিশ্বাসের বিপরীত তথ্যও বিবেচনা করা এবং চ্যাটবটকে পাল্টা যুক্তি বা সম্ভাব্য বিকল্প ব্যাখ্যা তুলে ধরতে বলা সহায়ক হতে পারে। তবে শুধু পাল্টা প্রশ্ন করলেই যে নির্ভুল উত্তর পাওয়া যাবে, তার নিশ্চয়তা নেই।
কৃত্রিম বুদ্ধিমত্তা তথ্য খোঁজা, বিশ্লেষণ ও বিভিন্ন ধারণা বুঝতে সহায়তা করতে পারে। কিন্তু তার প্রতিটি উত্তর নির্ভুল বা নিরপেক্ষ—এমন নিশ্চয়তা নেই। তাই এআইয়ের সুবিধা গ্রহণের পাশাপাশি সমালোচনামূলক চিন্তা, স্বাধীন যাচাই এবং প্রমাণের ভিত্তিতে সিদ্ধান্ত নেওয়ার অভ্যাস বজায় রাখাই গুরুত্বপূর্ণ।
