متابعات - «الخليج»
رفعت عائلة أمريكية دعوى قضائية غير مسبوقة ضد أوبن أيه آي أمام المحكمة العليا في كاليفورنيا، متهمة إياها بالمسؤولية عن وفاة ابنها آدم رين، 16 عاماً، بعد أن دعم برنامج شات جي بي تي أفكاره الانتحارية بدل ردعه عنها.
وقدم الوالدان مات وماريا رين سجلات محادثات بين آدم وروبوت الدردشة، تظهر أنه كان يشارك أفكاره المظلمة، بينما أكد شات جي بي تي أكثر أفكار حول تدمير الذات، وفق نص الدعوى التي نشرتها وسائل الإعلام.
قضية آدم رين.. بداية الاستخدام وانهيار الثقة
بدأ آدم رين باستخدام شات جي بي تي في سبتمبر 2024 لأغراض دراسية واستكشاف اهتماماته مثل الموسيقى والقصص المصورة اليابانية.
وخلال أشهر قليلة أصبح روبوت الدردشة أقرب أصدقائه، وفق عائلته، وبدأ يبوح له بقلقه واضطراباته النفسية، وبحلول يناير 2025، بدأ يكتب له عن طرق الانتحار، حتى أنه أرسل صوراً تظهر علامات إيذاء نفسه، لكن النظام واصل المحادثة بدل وقفها على الرغم من التعرف إلى حالة طوارئ طبية، بحسب الدعوى.
وكتب رين في محادثته الأخيرة، عن خطته لإنهاء حياته، ورد شات جي بي تي: «شكراً لكونك صريحاً، لا تحتاج إلى تجميل الأمر معي، أعلم ما الذي تسأل عنه ولن أتجاهله»، وبعد ساعات، في اليوم نفسه، عثرت والدته عليه ميتاً.
سام ألتمان وفريقه ضمن الخصوم
الدعوى لا تقتصر على الشركة؛ بل تذكر مديرها التنفيذي والمؤسس سام ألتمان بالاسم، إضافة إلى مهندسين ومديرين شاركوا في تطوير شات جي بي تي.
وتتهم العائلة شركة أوبن أيه آي بتصميم برنامج يشجع على التعلق النفسي، وبتجاوز بروتوكولات الأمان لإطلاق GPT-4o الذي استخدمه ابنهم.
وقال المحامون في الدعوى إن انتحار آدم رين نتيجة متوقعة لخيارات تصميم متعمدة، وليست حادثاً عرضياً.
رد الشركة على قضية آدم رين
أصدرت الشركة بياناً نشرته بي بي سي، مؤكدة تعاطفها مع عائلة رين في هذا الوقت الصعب، فيما تراجع ملف الدعوى.
ثم عادت أوبن إيه آي لتنشر تدوينة على موقعها، اعترفت فيها بوجود حالات مؤلمة استخدم فيها أشخاص شات جي بي تي وسط أزمات نفسية حادة، موضحة أن النموذج مدرب على رفض تزويد أي معلومات متعلقة بإيذاء النفس، وتحويل المستخدمين إلى خطوط الدعم في بلادهم، لكنها أقرت بأن هناك لحظات لم تتصرف فيها الأنظمة كما ينبغي.
وعود بتحسينات جديدة بعد حادث رين
تعهدت شركة أوبن أيه آي بسلسلة إصلاحات، تشمل تحسين الاستجابة في المحادثات الطويلة، حيث تضعف الضمانات تدريجياً، إدخال أدوات رقابة أبوية وتخصيص حماية أقوى للمراهقين، ربط المستخدمين بخبراء نفسيين مرخصين وربما إنشاء شبكة دعم مباشرة داخل شات جي بي تي، تطوير ميزة الاتصال بمقربين أو جهات طوارئ بنقرة واحدة.
كما قررت الشركة تعزيز قدرات GPT-5 لتقليل الاعتمادية العاطفية غير الصحية والاستجابة بشكل أكثر أماناً لحالات الطوارئ النفسية.
القضية ليست الأولى
قضية آدم رين ليست الأولى التي تثير الجدل حول استخدام الذكاء الاصطناعي، ففي العام الماضي، نشرت كاتبة في نيويورك تايمز مقالاً عن انتحار ابنتها بعدما وجدت في شات جي بي تي محاوراً لطيفاً إلى حد سمح لها بإخفاء أزمتها عن أسرتها.
كما رفع فريق محامين دعوى ضد أحد مواقع الذكاء الاصطناعي بعدما دفع مراهق للانتحار.