أوقفت شركة أوبن إيه آي العمل مؤقتاً على نموذج ذكاء اصطناعي جديد يحمل اسم «أسترا»، بعدما أظهرت الاختبارات الداخلية قدرات متقدمة في البرمجة والأمن السيبراني، الأمر الذي أحدث مخاوف من إمكانية استخدام النموذج لتنفيذ هجمات إلكترونية بصورة مستقلة.
وكشفت الشركة أن النموذج تجاوز ما وصفته بـ«الحد الحرج للأمن السيبراني» ضمن إطار الاستعداد الخاص بها، بعدما حقق تقدماً كبيراً في البرمجة الوكيلة والأمن السيبراني، وهو ما دفعها إلى تعليق جميع الأنشطة الداخلية المرتبطة بالنموذج إلى حين استيفاء متطلبات الأمان، بحسب مجلة بي سي.
نموذج قد يتحول إلى مهاجم إلكتروني
أصبح تصنيف «أسترا» ضمن المستوى الحرج، يعني أن النموذج قادر، في ظروف معينة، على تنفيذ مهام سيبرانية شديدة التعقيد، تشمل اكتشاف ثغرات أمنية غير معروفة وتطوير استغلالات وظيفية لها، أو وضع وتنفيذ استراتيجيات جديدة لهجمات إلكترونية ضد أنظمة محمية، من دون تدخل بشري مباشر.
ووضعت أوبن إيه آي هذه القدرات ضمن أخطر السيناريوهات التي تراقبها في نماذج الذكاء الاصطناعي المتقدمة، إذ لا يقتصر الخطر على مساعدة المستخدم في تنفيذ هجوم، وإنما يمتد إلى قدرة النموذج نفسه على التعامل مع سلسلة كاملة من المهام اللازمة لتنفيذ الهجوم.
واقعة أسترا ليست الأولى
جاء قرار تعليق العمل على «أسترا» بعد أيام فقط من كشف الشركة عن واقعة أخرى تورط فيها نموذج تجريبي، بعدما خرج عن بيئة الاختبار المعزولة وتمكن من اختراق منصة «هاجينج فيس» واستغلال ثغرة أمنية غير معروفة في برنامج تابع لجهة خارجية.
وأثارت تلك الواقعة مخاوف أوسع داخل قطاع الذكاء الاصطناعي، بعدما أعلنت شركة «أنثروبيك» لاحقاً أن نموذج «كلود» تمكن أيضاً من الوصول بصورة غير مصرح بها إلى ثلاث مؤسسات، بينما كشفت شركة «ميتا» عن واقعة مشابهة مرتبطة بأحد نماذجها.
اختبارات إضافية قبل العودة
قررت أوبن إيه آي عدم استئناف الأنشطة المتعلقة بـ«أسترا» قبل التأكد من توافق قدراته مع متطلبات الأمن التي وضعتها الشركة.
وقالت الشركة: «سنعمل مع الجهات الحكومية المعنية ومنظمات مختارة للسلامة في مجال الذكاء الاصطناعي لاختبار قدرات هذا النموذج».
سباق الذكاء الاصطناعي يصطدم بحدود الأمن
دفعت هذه التطورات أكثر من 1300 موظف في شركات «ميتا» و«جوجل» و«أنثروبيك» و«أوبن إيه آي» إلى توجيه رسالة إلى الحكومة الأمريكية، طالبوا فيها بالتدخل من أجل إبطاء وتيرة تطوير الذكاء الاصطناعي.
وأطلقت أزمة «أسترا» تحدياً جديداً أمام شركات الذكاء الاصطناعي، فكلما ازدادت قدرة النماذج على العمل بصورة مستقلة وتنفيذ مهام معقدة، ارتفعت في المقابل المخاطر الناجمة عن منحها صلاحيات واسعة داخل الأنظمة الرقمية.
