মানুষের মনের গভীরের একান্ত আবেগ আর অব্যক্ত যন্ত্রণার কথাগুলো অনেক সময় কোনো প্রিয়জনকেও বলা সম্ভব হয় না। এমন অবস্থায় অনেকেই কৃত্রিম বুদ্ধিমত্তা বা চ্যাটজিপিটির সঙ্গে কথা বলে এক ধরনের স্বস্তি খোঁজেন। কিন্তু সেই নিরাপদ কথোপকথনের জায়গাটি কি এখন থেকে নজরদারির আওতায় চলে আসছে? ওপেনএআই-এর নতুন একটি পদক্ষেপ ঘিরে এখন বিশ্বজুড়ে এমন প্রশ্নই ঘুরপাক খাচ্ছে। প্রযুক্তি প্রতিষ্ঠানটি সম্প্রতি ‘ট্রাস্টেড কনট্যাক্ট’ নামে একটি নতুন ফিচারের ঘোষণা দিয়েছে যা ডিজিটাল গোপনীয়তা এবং ব্যবহারকারীর জীবনের নিরাপত্তার মধ্যে এক সূক্ষ্ম সংঘাত তৈরি করেছে।
এই নতুন ব্যবস্থার মূল লক্ষ্য হলো আত্মহত্যা বা আত্মহত্যার প্রচেষ্টার মতো গুরুতর মানসিক বিপর্যয় ঠেকানো। ওপেনএআই কর্তৃপক্ষ জানিয়েছে যে চ্যাটজিপিটির অভ্যন্তরীণ সিস্টেম যদি কোনো ব্যবহারকারীর বার্তায় মারাত্মক হতাশা বা জীবনের ঝুঁকি নেওয়ার মতো কোনো ইঙ্গিত পায়, তবে সেটি তাৎক্ষণিকভাবে শনাক্ত করা হবে। এরপর একটি মানব মডারেশন টিম বিষয়টিকে পুনরায় পরীক্ষা করবে। যদি পরিস্থিতির ভয়াবহতা নিশ্চিত হওয়া যায়, তবে ব্যবহারকারীর আগে থেকে ঠিক করে রাখা কোনো ‘বিশ্বস্ত যোগাযোগব্যক্তি’ বা অভিভাবকের কাছে একটি সতর্কবার্তা পাঠানো হবে। যাতে সেই ব্যক্তি দ্রুত ব্যবস্থা নিয়ে বড় কোনো বিপদ এড়াতে পারেন।
এই প্রক্রিয়ার পেছনে ওপেনএআই ‘ডিটেক্ট অ্যান্ড ভেরিফাই’ মডেল ব্যবহার করছে। তারা দাবি করেছে যে ব্যবহারকারীর কথোপকথনের কোনো পূর্ণাঙ্গ অনুলিপি বা ব্যক্তিগত বার্তা অন্য কাউকে দেওয়া হবে না। শুধুমাত্র একটি সাধারণ সতর্কবার্তা পৌঁছানো হবে যাতে ওই ব্যক্তির স্বজনরা খোঁজ নিতে পারেন। তবে বিষয়টি নিয়ে প্রযুক্তি বিশ্লেষক এবং মানসিক স্বাস্থ্য বিশেষজ্ঞদের মধ্যে বড় ধরনের সংশয় তৈরি হয়েছে। তাদের মতে জীবন বাঁচানো অবশ্যই মহৎ কাজ কিন্তু এআই-এর বিচারবুদ্ধি এখনো মানুষের মতো সূক্ষ্ম নয়। বিশেষ করে মানুষের জটিল মানসিক অবস্থা বা কোনো প্রতীকী কথার অর্থ একটি অ্যালগরিদম কতটা সঠিকভাবে বুঝতে পারবে তা নিয়ে সংশয় থেকেই যায়।
ভারতের ফর্টিস হেলথকেয়ারের মানসিক স্বাস্থ্য বিভাগের পরিচালক ড. সমীর পারিখের মতে একজন পেশাদার থেরাপিস্ট অনেক কিছু বিচার করে সিদ্ধান্ত নেন যে কখন স্বজনদের খবর দিতে হবে। সেখানে চ্যাটবটের সরাসরি হস্তক্ষেপ রোগীর গোপনীয়তার অধিকারকে ক্ষুণ্ণ করতে পারে। অন্যদিকে মনোরোগ বিশেষজ্ঞ ড. নিমেশ দেশাইও মনে করেন যে কোনো অ্যালগরিদম মানুষের দীর্ঘস্থায়ী হতাশা আর সাময়িক আবেগীয় বহিঃপ্রকাশের পার্থক্য সব সময় ধরতে পারবে না। ফলে ভুল সতর্কবার্তার কারণে মানুষের ব্যক্তিগত সম্পর্কেও নেতিবাচক প্রভাব পড়ার ঝুঁকি থেকে যায়।
এদিকে এই ফিচারের বড় একটি মনস্তাত্ত্বিক প্রভাব হতে পারে ‘সেলফ-সেন্সরশিপ’ বা আত্মনিয়ন্ত্রণ। ব্যবহারকারীরা যদি আগে থেকেই জানেন যে তাদের মনের কষ্টের কথা বললে পরিবারের কাছে বার্তা চলে যাবে, তবে তারা হয়তো আর খোলামেলা কথা বলতে চাইবেন না। বিশ্লেষকদের মতে পৃথিবী এখন এমন এক যুগে প্রবেশ করছে যেখানে সফটওয়্যার মানুষের মানসিক অবস্থা তার পরিবারের চেয়েও বেশি বুঝতে শুরু করেছে। তবে এই কারিগরি সক্ষমতা যেন মানুষের ব্যক্তিগত পরিসরে অযাচিত হস্তক্ষেপ না হয়ে ওঠে সেটি নিশ্চিত করাই এখন ওপেনএআই-এর জন্য বড় চ্যালেঞ্জ। শেষ পর্যন্ত প্রযুক্তি হয়তো বিপদ শনাক্ত করতে পারবে কিন্তু মানুষের উষ্ণ ভালোবাসা আর সাহচর্যের বিকল্প হতে পারবে না।
