أوقفت «أوبن إيه آي» بعض أعمالها الداخلية المتعلقة بأحد نماذج الذكاء الاصطناعي المقبلة، (نموذج أسترا)، لتطبيق إجراءات حماية أكثر صرامة، بعدما تبيّن أن النظام يتمتع بكفاءة أعلى بشكل ملحوظ في مهام الأمن السيبراني.
وقالت الشركة المطورة لـ«ChatGPT»، الجمعة، إنها لا تستبعد أن يصل نموذج «أسترا»، الذي لم يُطرح بعد، إلى عتبة الأمن السيبراني الحرجة، بما يعني قدرته على تحديد وتطوير ثغرات أمنية غير معروفة (ثغرات اليوم الصفر) من دون تدخّل بشري.
وأوضحت أنها تعمل على تعزيز ضوابط الأمان لتطوير واختبار النماذج الجديدة، وأوقفت الأنشطة الداخلية المتعلقة بـ«أسترا» التي لا تستوفي متطلبات ضوابط الأمان المعززة.
وخلال الأسبوعين الماضيين، أقرت «أوبن إيه آي» و«أنثروبيك» علناً، باختراق أنظمتهما، عن غير قصد، لأنظمة عدد من المؤسسات، بينها «هاغينغ فيس»، أثناء اختبار نماذجهما، فيما أعلنت «ميتا بلاتفورمز»، الأربعاء، أن نموذجها المطروح حديثاً اخترق نظام حاسوب تابعاً لجهة خارجية.
وتعد هذه الوقائع دليلاً جديداً على قدرة أنظمة الذكاء الاصطناعي على العمل بشكل مستقل بطرق يصعب حتى على الباحثين المتخصصين توقعها، بما يؤكد الحاجة إلى إجراءات فحص أمني أكثر صرامة، وبيئات اختبار أكثر موثوقية.
وفي مدوّنتها، ذكرت «أوبن إيه آي» أنها ستتعاون مع الجهات الحكومية ومنظمات سلامة الذكاء الاصطناعي لاختبار قدرات نموذج «أسترا»، كما تعتزم تقديم توصيات لشركاء الاختبار من جهات خارجية حول كيفية تقييم نماذجها الأكثر تطوراً بأمان.
