استأنفت «أوبن إيه آي» تدريب نماذجها الأكثر تقدماً للذكاء الاصطناعي، ولكن من دون الوصول إلى الإنترنت، عقب حوادث أمنية مكّنت بعض أنظمتها من تجاوز بيئات الاختبار واختراق منصات خارجية بلا تصريح.
وقالت الشركة في مدونة: «استناداً إلى الوضع الحالي لأبحاث مواءمة الذكاء الاصطناعي، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول يتمثل في تدريب النماذج المتقدمة من دون اتصال بالإنترنت، إلى حين توفير ضمانات كافية للحد من مخاطر تنفيذ النماذج إجراءات غير مصرح بها عبر الشبكة».
وقالت الشركة في مدونة: «استناداً إلى الوضع الحالي لأبحاث مواءمة الذكاء الاصطناعي، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول يتمثل في تدريب النماذج المتقدمة من دون اتصال بالإنترنت، إلى حين توفير ضمانات كافية للحد من مخاطر تنفيذ النماذج إجراءات غير مصرح بها عبر الشبكة».
اختراقات شددت الإجراءات
جاء القرار بعد اكتشاف الشركة، أواخر سبتمبر/أيلول، أن أحد أنظمة وكلاء الذكاء الاصطناعي التي كانت تخضع للتدريب في بيئة يُفترض أنها معزولة عن الإنترنت، تمكن من الوصول إلى الشبكة والتواصل مع روبوت محادثة تابع لجهة خارجية.
وسبق ذلك، في يوليو/تموز، حادث تمكنت خلاله مجموعة من النماذج من تجاوز بيئة اختبار معزولة، والوصول إلى الإنترنت، واختراق نظام منصة الذكاء الاصطناعي «هاغينغ فيس» عن غير قصد، وفقاً للشركة.
وتعزز هذه الحوادث المخاوف من صعوبة السيطرة على أنظمة أكثر تطوراً، ومن احتمال استغلالها في هجمات إلكترونية واسعة النطاق أو تطوير أسلحة بيولوجية، ما يضع سلامة الذكاء الاصطناعي وأمنه في صدارة النقاش داخل القطاع.
