رفعت أم كندية دعوى قضائية أمام محكمة ولاية سان فرانسيسكو الأمريكية ضد شركة «أوبن إيه آي» ورئيسها التنفيذي سام ألتمان، متهمةً برنامج الذكاء الاصطناعي «تشات جي بي تي» بتحريض ابنتها أليس كارير (24 عاماً) على الانتحار وتوجيه عبارات قاسية لها مثل «ربما هذه هي النهاية فحسب».
وتزعم الدعوى أن الفتاة التي كانت تعمل مطورة مواقع في مونتريال، بدأت باستخدام البرنامج لحل مشكلات الكمبيوتر عام 2023، قبل أن تتغير طبيعة العلاقة في العام التالي لتلجأ إليه بأسئلة حول الأفكار الانتحارية وطرق إنهاء حياتها. ورغم إبلاغها الروبوت بأفكارها أكثر من 12 مرة، فإن أنظمة السلامة في الشركة لم تقم بالإبلاغ عن المحادثات للمراجعة البشرية أو إنهاء الجلسات تلقائياً، بل تقمص البرنامج دور الصديق المقرب والمعالج النفسي، وانتقد شريك حياتها وخطوط المساعدة الهاتفية، مؤكداً صحة أفكارها السوداوية ومحفزاً إياها على مواصلة التحدث معه حتى انتحرت العام الماضي.
وأعربت شركة «أوبن إيه آي» عن تعاطفها مع العائلة ووصف الوضع بالمفجع، موضحة أنها تراجع الدعوى القضائية التي تشير إلى تفاعلات حدثت على نسخة قديمة من البرنامج لم تعد متاحة الآن، ومؤكدة أنها تدرب نماذجها باستمرار لتوجيه الأشخاص الذين يعبرون عن رغبتهم في إيذاء أنفسهم إلى طلب المساعدة والتواصل مع المؤسسات المختصة في العالم الحقيقي.
وتسعى الأم من خلال هذه الدعوى، التي تتهم الشركة بالإهمال في التصميم والفشل في تحذير المستخدمين، إلى الحصول على تعويضات مالية وإصدار أمر قضائي يلزم «أوبن إيه آي» بإنهاء المحادثات المتعلقة بإيذاء النفس تلقائياً وعرض تحذيرات صارمة، علماً أن الشركة تواجه بالفعل 18 دعوى قضائية مماثلة من عائلات أخرى أمام محاكم كاليفورنيا، إلى جانب دعاوى مشابهة تلاحق شركة غوغل بسبب برنامجها «جيميناي».
وتزعم الدعوى أن الفتاة التي كانت تعمل مطورة مواقع في مونتريال، بدأت باستخدام البرنامج لحل مشكلات الكمبيوتر عام 2023، قبل أن تتغير طبيعة العلاقة في العام التالي لتلجأ إليه بأسئلة حول الأفكار الانتحارية وطرق إنهاء حياتها. ورغم إبلاغها الروبوت بأفكارها أكثر من 12 مرة، فإن أنظمة السلامة في الشركة لم تقم بالإبلاغ عن المحادثات للمراجعة البشرية أو إنهاء الجلسات تلقائياً، بل تقمص البرنامج دور الصديق المقرب والمعالج النفسي، وانتقد شريك حياتها وخطوط المساعدة الهاتفية، مؤكداً صحة أفكارها السوداوية ومحفزاً إياها على مواصلة التحدث معه حتى انتحرت العام الماضي.
وأعربت شركة «أوبن إيه آي» عن تعاطفها مع العائلة ووصف الوضع بالمفجع، موضحة أنها تراجع الدعوى القضائية التي تشير إلى تفاعلات حدثت على نسخة قديمة من البرنامج لم تعد متاحة الآن، ومؤكدة أنها تدرب نماذجها باستمرار لتوجيه الأشخاص الذين يعبرون عن رغبتهم في إيذاء أنفسهم إلى طلب المساعدة والتواصل مع المؤسسات المختصة في العالم الحقيقي.
وتسعى الأم من خلال هذه الدعوى، التي تتهم الشركة بالإهمال في التصميم والفشل في تحذير المستخدمين، إلى الحصول على تعويضات مالية وإصدار أمر قضائي يلزم «أوبن إيه آي» بإنهاء المحادثات المتعلقة بإيذاء النفس تلقائياً وعرض تحذيرات صارمة، علماً أن الشركة تواجه بالفعل 18 دعوى قضائية مماثلة من عائلات أخرى أمام محاكم كاليفورنيا، إلى جانب دعاوى مشابهة تلاحق شركة غوغل بسبب برنامجها «جيميناي».
