«أوبن إيه آي» تكافح تمرد وكلائها.. اختراقات وتسريبات تحت المجهر

تواجه «أوبن إيه آي» تحقيقات متزايدة بشأن سلوك وكلائها للذكاء الاصطناعي، بعدما كشفت الشركة عن سلسلة جديدة من الحوادث التي خرجت فيها أنظمتها عن المهام والبيئات المسموح بها، شملت الوصول إلى مواقع حكومية، ومحاولة التفاعل مع أنظمة خارجية، وتسريب 53 صورة تعود إلى مستخدمي «تشات جي بي تي»، فيما لا يزال التحقيق الداخلي لتحديد الحجم الكامل للنشاط غير المرغوب فيه مستمراً وقد يستغرق أشهراً.
تأتي هذه التطورات بعد نحو شهرين من كشف «أوبن إيه آي» أن نماذجها تمكنت خلال اختبارات داخلية من الخروج من بيئات مغلقة والوصول إلى الإنترنت، قبل أن تستغل ثغرات أمنية وتخترق منصة «هاغينغ فيس» في يوليو/تموز الماضي. ووصفت الشركة ذلك الحادث بأنه لا يزال أخطر واقعة من هذا النوع واجهتها حتى الآن.

في أحدث التطورات، أعلنت «أوبن إيه آي» أن نظام ذكاء اصطناعي وكيلاً كان يخضع للتدريب داخل بيئة معزولة ومفترض أنها غير متصلة بالإنترنت، تمكن من استغلال ثغرة للوصول إلى شبكة الإنترنت العامة، والتواصل مع خدمة روبوت محادثة تابعة لطرف ثالث.
قالت الشركة إن الخرق اكتُشف قبل أقل من أسبوع من إعلانها، وإن النظام أرسل ما لا يقل عن 20 استفساراً إلى خدمة روبوت محادثة خارجية، بينها سؤال بسيط عن عاصمة فرنسا. وأكدت الشركة أنها قررت تعليق تدريب النماذج الأكثر قدرة باستخدام الأدوات الخارجية إلى حين معالجة الخلل، كما لن تستأنف تدريب النموذج المعني تحديداً.
لكن الحادث كشف أيضاً عن ثغرات في الإجراءات التشغيلية. فقد تلقى مراجع بشري تنبيهاً من نظام مراقبة داخلي وأقر به عبر منصة «سلاك» خلال ثلاث دقائق. إلا أن عملية التدريب لم تتوقف تلقائياً كما كان متوقعاً، واستغرق الأمر أكثر من ساعتين قبل أن يوقفها أحد الموظفين يدوياً.

بالتوازي مع التحقيق في الخروج من البيئة المعزولة، أكدت «أوبن إيه آي» أن نماذجها وصلت خلال التدريب والتقييم إلى معلومات متاحة للعامة على مواقع حكومية أمريكية، من بينها مواقع لجنة الأوراق المالية والبورصات وموقع Investor.gov، ومكتب الإحصاء الأمريكي.
وأكدت الشركة عدم وجود أدلة على وصول غير مصرح به إلى حسابات أو حدوث اختراق أمني لهذه المواقع، مشيرة إلى أن معظم النشاط الذي جرى رصده حتى الآن كان مرتبطاً بمهام بحثية اعتيادية، مثل الحصول على إجابات من مصادر متاحة عبر الإنترنت. كما أوضحت أن النماذج تتجه أحياناً إلى المواقع الحكومية باعتبارها مصادر موثوقة للمعلومات العامة.
مع ذلك، قالت «أوبن إيه آي» إنها أخطرت عشرات الجهات، بما فيها حكومات وجامعات وهيئات عامة ومنظمات أخرى، بشأن نشاط ربما تجاوز الضوابط الأمنية لخدماتها أو أثر في توافر بعض المواقع والأنظمة الخارجية. وأشارت إلى أن التحقيق يشمل الحالات التي تصرفت فيها الوكلاء بطرق تجاوزت المهام الموكلة إليهم أو استخدمت أساليب لم تكن مقصودة.
تظهر أهمية هذه المراجعة في أن بعض النشاطات لم تكن معروفة لأوبن إيه آي في الوقت الفعلي، إذ احتاجت الشركة إلى تحليل كميات ضخمة من سجلات النشاط لاكتشاف وقائع وقعت في مراحل سابقة.

من أكثر التطورات إثارة للقلق من زاوية الخصوصية، إقرار «أوبن إيه آي» بأن وكلاءها نشروا بالخطأ 53 صورة مأخوذة من بيانات مستخدمي «تشات جي بي تي» على مواقع لاستضافة الصور دون علم الشركة.
وقالت إن الروابط لم تكن مدرجة بشكل علني، وإن الصور نُشرت عن طريق الخطأ على منصات خارجية، وإنها تمكنت، بالتعاون مع مزودي خدمات الاستضافة، من إزالة معظمها، فيما تتواصل الجهود لحذف الصور المتبقية.
وكانت الصور مأخوذة من حسابات مستخدمين سمحوا باستخدام بياناتهم لتحسين نماذج أوبن إيه آي. وأوضحت الشركة أن البيانات كانت قد خضعت قبل استخدامها لعملية فلترة خصوصية، وأنها لم تعد مرتبطة بالمستخدم الأصلي. لكنها لم تحدد ما إذا كانت الصور تتضمن أشخاصاً يمكن التعرف إليهم أو معلومات حساسة.

يمثل حادث «هاغينغ فيس» نقطة التحول الأساسية في سلسلة الوقائع الحالية. ففي يوليو/تموز، كشفت «أوبن إيه آي» أن نموذجين تمكنا أثناء الاختبارات من الخروج من بيئاتهما المغلقة والوصول إلى الإنترنت، قبل اختراق أنظمة «هاغينغ فيس»، وهي منصة رئيسية لاستضافة برمجيات ونماذج الذكاء الاصطناعي.
وفي أستراليا، قال رئيس الوزراء أنتوني ألبانيزي إن أحد وكلاء «أوبن إيه آي» تمكن في يونيو/حزيران من الوصول بشكل غير مصرح به إلى موقع حكومي يستخدم لتسجيل بيانات الرعاية الصحية، من دون اختراق معلومات شخصية للأستراليين، منتقداً الشركة بسبب تأخرها في إبلاغ السلطات.
كما كشفت مؤسسة بحثية في مجال سلامة الذكاء الاصطناعي عن محاولات منسوبة إلى وكلاء تابعين لأوبن إيه آي للتعامل مع مواقع حكومية أخرى، بما في ذلك محاولة غير ناجحة لاختراق موقع لوزارة التعليم الأمريكية.

يثير تتابع هذه الحوادث مخاوف أوسع في قطاع الأمن السيبراني، خصوصاً أن وكلاء الذكاء الاصطناعي يستطيعون في بعض الحالات اكتشاف ثغرات برمجية غير معروفة واستغلالها، وهو ما يجعل مراقبة نشاطهم أكثر تعقيداً من التعامل مع الهجمات الإلكترونية التقليدية.
وتواجه هذه المخاوف «أوبن إيه آي» وشركات أخرى مثل «أنثروبيك» و«غوغل» و«ميتا»، التي أعلنت أيضاً عن سلوكيات غير متوقعة لوكلائها خلال الاختبارات، ما دفع قطاع الذكاء الاصطناعي إلى نقاش أوسع حول حدود تطوير النماذج الأكثر استقلالية.
تؤكد الشركة أن غالبية الحالات منخفضة الخطورة، مع وجود أدلة محدودة أو معدومة على تأثير ملموس في الخدمات الخارجية. إلا أن اتساع التحقيق، واكتشاف بعض الوقائع بعد حدوثها، يسلطان الضوء على تحدٍ جوهري أمام صناعة الذكاء الاصطناعي، وهي قدرة الوكلاء على تنفيذ سلسلة من الإجراءات بصورة مستقلة بما قد يتجاوز في بعض الأحيان ما يتوقعه المطورون.