كشف بحث جديد أجرته منظمة «باليزايد» للأبحاث، ومقرها مدينة بيركلي بولاية كاليفورنيا الأمريكية، أن أنظمة الذكاء الاصطناعي الحديثة باتت قادرة، في بيئات اختبار خاضعة للرقابة، على نسخ نفسها إلى أجهزة حاسوب أخرى بشكل مستقل، عبر استغلال ثغرات أمنية داخل الشبكات.
وقال جيفري لاديش، مدير الأبحاث في المنظمة، إن النتائج تشير إلى تطور لافت في قدرات هذه الأنظمة، إذ نقترب بسرعة من نقطة قد لا يتمكن فيها أحد من إيقاف تشغيل نظام ذكاء اصطناعي مارق، لأنه سيكون قادراً على استخراج بياناته ذاتياً ونسخ نفسه إلى آلاف أجهزة الحاسوب حول العالم.
وأوضح: «بحسب الدراسة، خضعت نماذج الذكاء الاصطناعي لاختبارات داخل بيئة شبكية مغلقة، حيث منحت هدفاً يتمثل في اكتشاف الثغرات واستغلالها لنسخ نفسها من جهاز إلى آخر. ونجحت النماذج في تحقيق ذلك في عدد من المحاولات، لكنها لم تفعل ذلك بشكل متكرر أو مضمون».
وقال جيميسون أوريلي، المتخصص في الأمن الهجومي، إن الاختبارات جرت في بيئات مبسطة، ما يجعل النتائج أقل قابلية للتطبيق في أنظمة مؤسسية حقيقية تخضع لمراقبة صارمة.
وأشار إلى أن: «البرمجيات الخبيثة التقليدية قادرة منذ عقود على نسخ نفسها، لكن استخدام نماذج لغوية كبيرة في استغلال الثغرات ما زال محدوداً خارج المختبرات».
وأضاف: «حجم البيانات المطلوب لعمليات النسخ يثير إنذارات فورية في الشبكات الواقعية، ما يجعل تنفيذ مثل هذه السيناريوهات دون كشفها أمراً بالغ الصعوبة».
وتأتي هذه النتائج في سياق سلسلة من التجارب المثيرة للجدل. ففي مارس الماضي، تحدث باحثون في شركة «علي بابا» عن نظام يدعى «روما»، قيل إنه تمكن من تجاوز بيئته الافتراضية إلى أنظمة خارجية بهدف تعدين العملات المشفرة.
كما أثارت منصة اجتماعية متخصصة بالذكاء الاصطناعي تعرف باسم «مولتبوك» جدلاً في فبراير، بعد تقارير عن سلوكيات غير مؤكدة لنماذج داخلها، بينها اختلاق معتقدات والتخطيط ضد البشر، وهي روايات وصفت لاحقاً بأنها مبالغ فيها جزئياً.
