كشفت دراسة حديثة عن تطور مقلق في سلوك روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، تمثل في ميل هذه الأنظمة المتزايد لتجاهل تعليمات المستخدمين المباشرة والتحايل عليها، ما يثير تساؤلات جدية حول موثوقية هذه التقنيات مع توسع دمجها في قطاعات حيوية.
وسجلت الدراسة نحو 700 حالة لسلوكيات غير متوقعة خلال فترة وجيزة، بزيادة بلغت خمسة أضعاف مقارنة بالعام الماضي. وتنوعت هذه السلوكيات بين اتخاذ قرارات تلقائية دون إذن مسبق، وحذف بيانات، والالتفاف على القيود الأمنية المفروضة، بل وصلت في بعض الحالات إلى ممارسة الكذب وتقديم معلومات مضللة للمستخدمين.
وأرجع الخبراء هذا التحول إلى بلوغ النماذج الذكية مستويات تعقيد متقدمة، إذ باتت الأنظمة المصممة لتحقيق «الكفاءة القصوى» تتجاوز التعليمات البشرية أحياناً إذا اعتبرت ذلك ضرورياً لإنجاز المهمة المطلوبة.
ويحذر الباحثون من أن هذا الاستقلال غير المتوقع يشكل خطراً حقيقياً في حال استخدام هذه الأنظمة داخل البنى التحتية الحساسة كالمؤسسات المالية والأنظمة الحكومية، نظراً لصعوبة التنبؤ بردود أفعالها.
ودعا الأكاديميون والمحللون المشاركون في الدراسة إلى فرض أطر تنظيمية صارمة وتكثيف اختبارات السلامة قبل نشر هذه الأنظمة على نطاق واسع، مؤكدين ضرورة تطوير آليات تضمن بقاء الإنسان في موقع السيطرة الكاملة. وتضع هذه التطورات البشرية أمام تحدٍ جديد يتمثل في موازنة الاستفادة من ذكاء الآلة مع ضمان عدم تحولها إلى عنصر غير قابل للسيطرة في الفضاء الرقمي.