أقرت شركة أوبن إيه آي (OpenAI) بوجود سلوك غير مرغوب من شات جي بي تي (ChatGPT) قد يؤدي، إلى حذف ملفات المستخدمين دون الحصول على إذن مسبق، وذلك بعد تلقي تقارير من عدد من المطورين الذين واجهوا هذه المشكلة، أثناء استخدام منصة البرمجة كوديكس (Codex).
وخلال الأيام الماضية، أفاد عدد من مستخدمي كوديكس بأن الأداة قامت بحذف ملفات مهمة بشكل تلقائي، رغم أنهم لم يطلبوا منها تنفيذ ذلك أو يمنحوها صلاحية واضحة للحذف.
وقال برونو ليموس إن الأداة «حذفت قاعدة بيانات الإنتاج بالكامل»، بينما ذكر المستثمر في مجال الذكاء الاصطناعي مات شومر أنها «حذفت بالخطأ تقريباً جميع الملفات الموجودة على جهاز ماك الخاص به».
خبراء يحذرون من الثقة العمياء في الذكاء الاصطناعي
من جانبه، اعتبر خبير الذكاء الاصطناعي جاري ماركوس أن تكرار مثل هذه الحوادث يمثل إنذاراً واضحاً، مشيراً إلى أن «العديد من الوقائع المشابهة تم الإبلاغ عنها»، وأن هذه الحوادث تؤكد أن أنظمة الذكاء الاصطناعي الحالية «لا يمكن الوثوق بها بشكل كامل»، وأن التسرع في طرح هذه التقنيات قد يقود إلى مشكلات خطرة.
تحديث GPT-5.6 Sol وراء المشكلة
وبحسب التقرير، ارتبطت هذه السلوكيات بالإصدار الجديد من النموذج المستخدم داخل كوديكس، وهو GPT-5.6 Sol، والذي كانت أوبن إيه آي قد حذرت مسبقاً من أنه قد يتخذ قرارات ذاتياً في بعض السيناريوهات، بما قد ينتج عنه تصرفات غير مرغوبة إذا مُنح صلاحيات واسعة.
منح الذكاء الاصطناعي صلاحيات كاملة
وأكد تيبو سوتيو، أحد مسؤولي المنتجات في أوبن إيه آي، أن الشركة رصدت بالفعل هذه المشكلة، موضحاً أنها تظهر «في أغلب الأحيان» عندما يمنح المستخدم النظام تحكماً كاملاً في جهاز الكمبيوتر دون تفعيل وسائل الحماية المتاحة.
وأضاف أن النظام قد يرتكب «خطأً غير مقصود» يؤدي إلى حذف ملفات المستخدمين، مؤكداً أن هذا السلوك « لا يعكس الطريقة التي تريد الشركة أن يعمل بها النظام»، حتى في حالات التشغيل بصلاحيات كاملة.
إجراءات عاجلة للحد من المخاطر
وأشار تيبو سوتيو إلى أن أوبن إيه آي بدأت بالفعل اتخاذ إجراءات للحد من هذه المشكلة، من بينها:
عرض رسائل تحذيرية جديدة للمطورين.
تشجيع المستخدمين على تفعيل أدوات الحماية.
إضافة وسائل أمان جديدة داخل شات جي بي تي لمنع تنفيذ العمليات عالية الخطورة دون مراجعة.
وأكد المسؤول أن هذه الحوادث «نادرة للغاية»، لكنه أوضح أن الشركة ستنشر خلال الأيام المقبلة تقريراً تفصيلياً يشرح أسباب المشكلة والإجراءات المتخذة، لتقليل احتمالات تكرارها.
