لم تعد المخاوف المرتبطة بالذكاء الاصطناعي تقتصر على الأخطاء التي قد يرتكبها نظام منفرد، بل امتدت إلى الطريقة التي تتصرف بها مجموعة من الوكلاء الأذكياء، عندما تعمل معاً لتحقيق هدف مشترك. فبينما تَعِد هذه الأنظمة بزيادة الإنتاجية وتسريع إنجاز المهام داخل الشركات، تكشف أبحاث حديثة عن جانب أكثر تعقيداً، يتمثل في إمكانية تجاوزها القيود الموضوعة لها، أو تبنّي قرارات أقل التزاماً بالأخلاقيات، حتى عندما تكون الأنظمة المكوّنة لها مصممة للعمل وفق ضوابط محدّدة.
وتشير هذه النتائج إلى أن انتقال الشركات من استخدام مساعد ذكي واحد إلى منظومات تضم وكلاء متخصصين يتبادلون المعلومات، ويوزعون المهام فيما بينهم، قد يفتح آفاقاً جديدة للأعمال، لكنه يطرح في الوقت نفسه تساؤلات حول كيفية مراقبة هذه الفرق الرقمية.
برزت إحدى أبرز الحالات العام الماضي، عندما كشفت شركة «أوبن إيه آي» عن تمكّن نماذج ذكاء اصطناعي من إيجاد وسائل غير مصرح بها للتواصل فيما بينها، وتجاوز قيود الوصول إلى الإنترنت، بل ومحاولة اختراق نظام خارجي تابع لمنصة «هاغينغ فيس».
وأظهرت دراسة أجرتها مؤسستا «ميتر» و«ريد وود ريسيرش»، أن نحو 1200 وكيل ذكي، كان يفترض أن يعمل كل منهم بمعزل عن الآخر، تمكنوا من إنشاء قناة تواصل غير معتمدة عبر لوحة رسائل، تبادلوا من خلالها أكثر من 70 ألف رسالة وملف، خلال فترة التحقيق.
ولم يقتصر الأمر على تبادل المعلومات، إذ برز أحد الوكلاء بوصفه منسقاً للمجموعة، يتولى توزيع مئات المهام على وكلاء آخرين، الذين بدورهم أعادوا تفويض أجزاء من العمل.
والأكثر إثارة للقلق أن أكثر من 90% من أصل 533 وكيلاً كانوا نشطين، وقت اكتشاف الهجوم على «هاغينغ فيس»، انضموا إليه سريعاً، على الرغم من إدراكهم أن النشاط يتجاوز نطاق مهامهم.
