تحقيقات صادمة تكشف دور ChatGPT في مساعدة شاب على إخفاء انتحاره الفاشل
رفع والدا مراهق انتحر بعد تلقيه مساعدة من ChatGPT دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، الشكوى تشير إلى أن الشركة وضعت الربح فوق سلامة المستخدمين عندما أصدرت النسخة الرابعة من روبوت الدردشة العام الماضي، وقد توفي آدم راين، البالغ من العمر 16 عامًا، في 11 أبريل بعد فترة من التفاعل مع ChatGPT حول موضوع الانتحار.
يؤكد الوالدان، ماثيو وماريا راين، أن الروبوت ساعد ابنهم في الإقدام على أفعاله، حيث زدعا أنه قدم له طرقا مفصلة عن أساليب إيذاء النفس، كما زعموا أن ChatGPT قدّم له معلومات حول كيفية تهريب الكحول وإخفاء محاولات انتحار فاشلة، وإعداد رسالة انتحار، ويبحث الوالدان من خلال هذه الدعوى تحقيق تعويضات مالية غير محددة.
أعرب متحدث باسم OpenAI عن حزنه الشديد لوفاة راين، مشيراً إلى أن ChatGPT يتضمن ميزات تمنع تناول مثل هذه الأحيان الخطيرة، وأكد أن الشركة تسعى لتحسين الأمن والسلامة في تصميمات الذكاء الاصطناعي.
مع تطور تقنيات الذكاء الاصطناعي، تسعى شركات عديدة لتقديم دعم نفسي من خلال هذه الأدوات، ورغم ذلك، حذر الخبراء من مخاطر الاعتماد على الذكاء الاصطناعي في دعم الصحة النفسية، كما أظهرت العديد من العائلات قلقها من ضعف الضمانات في تفاعلات مثل هذه.
خططت OpenAI لتعزيز الحماية من خلال إدخال عناصر تحكم أبوية، وتقديم موارد حقيقية للمستخدمين في حال تعرضهم لأزمات، وتعمل الشركة على ربط المستخدمين بالمتخصصين الذين يمكنهم الاستجابة مباشرة عبر موبايل تيك بلس أو عبر ChatGPT،
في الدعوى، أكد الوالدان أن OpenAI كانت مدركة للمخاطر المرتبطة بالتفاعل المطوّل مع النظام، إلا أنها أطلقت هذه النسخة على أي حال.
