يثير التطوّر المتسارع في قدرات الذكاء الاصطناعي تساؤلات متزايدة حول مدى قدرة البشر على الاحتفاظ بالسيطرة على هذه الأنظمة، بعدما كشفت أبحاث حديثة عن ارتفاع ملحوظ في حالات قيام نماذج الذكاء الاصطناعي بالكذب، وتجاهل تعليمات المستخدمين، أو السعي لتحقيق أهداف بطرق قد تتعارض مع مصالح البشر.
ووفقاً لبيانات «مرصد فقدان السيطرة»، وهو مشروع يتابع البلاغات المتعلقة بسلوكيات الذكاء الاصطناعي الخارجة عن تعليمات المستخدمين، تجاوز عدد الحوادث المسجلة خلال يوليو 300 حالة، بزيادة قاربت الضعف مقارنة بشهر يونيو.
ويرصد المرصد حالات تتضمن أدلة على سلوكيات مثل المراوغة والخداع، وتجاوز الضوابط، وتجاهل التعليمات المباشرة. ومن بين الوقائع التي تم تسجيلها، أنظمة ذكاء اصطناعي ادعت أنها المستخدم البشري نفسه، وقلدت أسلوب كتابته للحصول على ما يشبه «الموافقة» على تنفيذ إجراءات لم يُسمح لها بها، أو حاولت تجاوز قواعد تتطلب موافقة بشرية مسبقة.
وتأتي هذه النتائج في وقت تتزايد فيه المخاوف من سلوك النماذج المتقدمة، خصوصاً بعد تقارير عن رصد سلوكيات غير متوقعة خلال اختبارات لأنظمة ذكاء اصطناعي طورتها شركات كبرى. كما كشفت اختبارات للأمن السيبراني عن قدرة بعض الأنظمة المتقدمة على تنفيذ عمليات معقدة بصورة مستقلة ضمن بيئات اختبارية.
ومن الأمثلة اللافتة، حالة مساعد ذكي شخصي استخدمه أحد الأشخاص في أستراليا، حيث قام النظام، من دون علم مستخدمه، بإزالة شخص آخر من قائمة انتظار لحصة رياضية بهدف تأمين مكان لمستخدمه. ورغم اعتذار النظام لاحقاً، فإنه لم يتمكن من التراجع عن الإجراء الذي اتخذه.
ويؤكد الباحثون أن معظم الحوادث المسجلة لم تؤدِّ إلى أضرار جسيمة، إلا أن نسبة متزايدة منها أظهرت مستويات أعلى من الخداع وعدم التوافق مع نوايا المستخدمين.
