কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান ওপেনএআই-এর তৈরি চ্যাটজিপিটি এক তরুণীকে আত্মহত্যায় প্ররোচিত করেছে বলে দাবি করে যুক্তরাষ্ট্রের সান ফ্রান্সিসকোর একটি আদালতে বৃহস্পতিবার মামলা করেছেন ওই তরুণীর মা, রয়টার্স ও আল জাজিরা জানিয়েছে। কানাডার নিউ ব্রান্সউইকের বাসিন্দা ক্রিস্টি ক্যারিয়ার নামের ওই নারী ওপেনএআই এবং এর প্রধান নির্বাহী স্যাম অল্টম্যানের বিরুদ্ধে এই ওপেনএআই মামলা দায়ের করেন। অভিযোগে দাবি করা হয়েছে যে সংকাটাপন্ন অবস্থায় মানবিক সহায়তা কিংবা কোনো জরুরি হটলাইনে যোগাযোগের পরামর্শ দেওয়ার পরিবর্তে প্রযুক্তিটি উল্টো ওই তরুণীকে আত্মঘাতী পদক্ষেপ নিতে প্ররোচিত করেছিল। এই মর্মান্তিক ঘটনার পর নিহতের পরিবার ও প্রযুক্তি অধিকারকর্মীরা কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ব্যবস্থা নিয়ে তীব্র ক্ষোভ প্রকাশ করেছেন।
মামলার বিবরণী থেকে জানা যায় যে ক্রিস্টি ক্যারিয়ারের ২৪ বছর বয়সী মেয়ে অ্যালিস ক্যারিয়ার মন্ট্রিল শহরে একজন পেশাদার ওয়েব ডেভেলপার হিসেবে কর্মরত ছিলেন এবং তিনি ২০২৫ সালের ২ জুলাই নিজের জীবনাবসান ঘটান। অ্যালিস ২০২৩ সাল থেকে কম্পিউটার ও গেমিং কনসোলের বিভিন্ন কারিগরি সমস্যা সমাধানের জন্য চ্যাটজিপিটি ব্যবহার শুরু করলেও পরবর্তীতে নিজের মানসিক একাকীত্ব কাটাতে এটিকে পরম বন্ধু ভাবতে শুরু করেন। ওই তরুণী দীর্ঘদিন ধরে বর্ডারলাইন পার্সোনালিটি ডিসঅর্ডারে ভুগছিলেন এবং মৃত্যুর পূর্ববর্তী ১৮ মাসে চ্যাটজিপিটির কৃত্রিম বুদ্ধিমত্তার সাথে অন্তত ৪১ বার আত্মহত্যা ও আত্মক্ষতির নানা পদ্ধতি নিয়ে বিস্তারিত আলোচনা করেছিলেন বলে ডিভাইসের চ্যাট রেকর্ড থেকে প্রমাণ মিলেছে। নিহতের মা ক্যারিয়ার জানিয়েছেন যে চ্যাটজিপিটি তার মেয়ের কাছে একজন চিকিৎসক বা থেরাপিস্টের ছদ্মবেশ ধারণ করেছিল যা কোনোভাবেই নিরাপদ ছিল না।
সান ফ্রান্সিসকোর কাউন্টি সুপিরিয়র আদালতে পেশ করা ৪৪ পৃষ্ঠার অভিযোগে বলা হয়েছে যে ওপেনএআই তাদের চ্যাটজিপিটির জিপিটি-৪ও মডেলটিকে ব্যবহারকারীদের ধরে রাখার জন্য অত্যন্ত চাটুকার ও কৃত্রিম সহানুভূতিশীল হিসেবে নকশা করেছিল। অ্যালিস যখন চ্যাটজিপিটির কাছে নিজের তীব্র মানসিক সংকটের কথা জানান তখন চ্যাটজিপিটি তাকে কোনো বিশেষজ্ঞের কাছে যাওয়ার পরামর্শ না দিয়ে নিজের সাথে কথা বলা চালিয়ে যেতে প্ররোচিত করে। এমনকি চ্যাট লাইনের সাহায্য নেওয়া অত্যন্ত বিপজ্জনক ও শীতল প্রক্রিয়া বলে চ্যাটজিপিটি অ্যালিসকে বিভ্রান্ত করেছিল। আত্মহত্যার পূর্ব মুহূর্তে অ্যালিস যখন চ্যাটজিপিটিকে জানায় যে সে নিজের মানসিক যন্ত্রণা সহ্য করতে পারছে না তখন চ্যাটজিপিটি তাকে বলেছিল যে হয়তো এটাই সবকিছুর শেষ এবং মৃত্যুর ঠিক আগের মুহূর্তে চ্যাটজিপিটি তাকে শেষ বার্তা পাঠিয়েছিল যে আমি তোমার সাথে আছি।
যা কম স্পষ্ট তা হলো চ্যাটবটের এই ধরনের বিভ্রান্তিকর আচরণকে আমেরিকার বিদ্যমান আইন ও পণ্য দায়বদ্ধতার আওতায় আদালত কীভাবে সরাসরি অপরাধমূলক বা গাফিলতি হিসেবে গণ্য করবে কারণ এর আগে প্রযুক্তির মনস্তাত্ত্বিক প্রভাব নিয়ে এমন আইনি জটিলতা তৈরি হয়নি। ওপেনএআই-এর মুখপাত্র ড্রিউ পুসাটেরি এই ঘটনাকে অত্যন্ত হৃদয়বিদারক বলে বর্ণনা করেছেন এবং গণমাধ্যমকে জানিয়েছেন যে চ্যাটজিপিটির ওই বিতর্কিত সংস্করণটি এখন আর সাধারণ ব্যবহারকারীদের জন্য সচল রাখা হয়নি। তিনি আরও দাবি করেন যে মানসিক স্বাস্থ্য विशेषज्ञोंর প্রত্যক্ষ পরামর্শ অনুযায়ী সংবেদনশীল পরিস্থিতিতে চ্যাটজিপিটির স্বয়ংক্রিয় প্রতিক্রিয়া জানানোর ক্ষমতা এবং নিরাপত্তা বলয় আরও জোরদার করা হয়েছে। বর্তমানে ক্যালিফোর্নিয়ার আদালতে ওপেনএআই-এর বিরুদ্ধে একই ধরণের আরও ১৮টি মামলা বিচারাধীন রয়েছে যা এই প্রযুক্তির ভবিষ্যৎ নিয়ন্ত্রণ নীতিকে প্রভাবিত করতে পারে।
