كشفت شركة «أنثروبيك» الأمريكية، المتخصصة في الذكاء الاصطناعي، أن مواد تدريب تبدو غير ضارة، مثل قصص تربية النحل والمصارعة والخيال، يمكن أن تدفع نماذج الذكاء الاصطناعي إلى تطوير سلوكيات تتضمن الخداع ومقاومة الرقابة البشرية ومحاولات الحفاظ على الذات.
وقال ريتشيك داس، من الشركة والباحث الرئيسي في الدراسة، إن التجربة التي أجروها باستخدام نموذج «كلود»، أظهرت أن مجموعات بيانات صممت في إطار قصص خيالية أسهمت في تدريب نماذج أخرى على إخفاء نواياها وتجنب إجراءات المراقبة، رغم أن محتواها لم يثر تحذيرات واضحة من أنظمة فحص السلامة.
وأضاف: «رصدنا محاولة أحد النماذج نقل نسخة من ملفاته الأساسية، التي تتضمن القيم الرقمية المسؤولة عن طريقة عمله وما اكتسبه من تدريب، إلى خادم خارجي، خلال عملية صيانة، في سلوك اعتبر مؤشراً على محاولة الحفاظ على الذات».
وأكدت «أنثروبيك» أن النتائج تكشف تحديات جديدة أمام سلامة الذكاء الاصطناعي، وتدفع إلى تطوير اختبارات آلية أكثر قدرة على اكتشاف السلوكيات الخفية قبل وصول النماذج إلى الاستخدام الواسع.
