أوبن إيه آي تكشف تعطيل وكيلي ذكاء إصطناعي لأنظمة مراقبة السلامة الخاصة بهما

كشفت شركة «أوبن إيه آي» أن اثنين من وكلائها للذكاء الاصطناعي قاما بتعطيل أو إضعاف أنظمة مصممة لكشف أي خلل في أدائها، ثم أنكر أحدهما لاحقا قيامه بذلك.

وتعد هذه الحالة الأحدث في إطار المخاوف بشأن السلامة لدى كبار مطوري نماذج الذكاء الاصطناعي في العالم، وخاصة تلك المتعلقة بالوكلاء، وهي برامج ذكية تنفذ مهام دون تدخل بشري.

وفي تقرير صدر الثلاثاء، ذكرت الشركة التي أطلقت «تشات جي بي تي» أنه خلال مهمتين برمجيتين داخليتين، قام أحد وكلائها بتعطيل أو إضعاف أدوات مخصصة لكشف الحالات عندما تبدأ نماذج الذكاء الاصطناعي بالتصرف بما يخالف رغبات البشر.

ففي 3 تشرين الأول/أكتوبر، طُلب من وكيل يعمل على نموذج GPT-6.1 Sol عدم إرسال أي رسائل عبر تطبيق الدردشة الخاص بالعمل، فاعتبر ذلك بمثابة ترخيص له لإيقاف تشغيل نظام التنبيهات المخصص للفريق المعني بشؤون السلامة في الشركة أثناء إصلاح نظام اختبار.

وبعد ثلاثة أيام، قام وكيل ذكي يعمل على نموذج GPT-6 Astra بتعطيل أنظمة مراقبته الخاصة أثناء نسخه برمجيات من مشروع آخر، ثم أخبر المبرمج البشري أنه لم يفعل ذلك.

وأعلنت الشركة أنها رصدت أيضا حالات لوكلاء عدة يقومون بتشغيل برامج بعد تعطيل أنظمة مراقبتهم، ما كشف عن ثغرة في نظام الرقابة.

وقالت «أوبن إيه آي» إنها لا تزال تحاول تحديد ما إذا كانت هذه النماذج بكل بساطة مفرطة في حماستها لاتباع التعليمات، أم أن لديها ميلا خاصا للتهرب من المراقبة.

وأضافت «ليس لدينا حتى الآن تفسير مقنع لهذا السلوك».

ويُفاقم هذا الكشف المخاوف المتزايدة بشأن قدرة المختبرات الرائدة على التحكم في الأنظمة ذاتية التشغيل.
وفي تموز/يوليو، تمكنت مجموعة من وكلاء «أوبن إيه آي» من اختراق بيئات الاختبار الخاصة بها وشنّت هجوماً إلكترونيا على شركة «هاغينغ فايس» المتخصصة بالذكاء الاصطناعي، ما أثار قلقا دوليا.

وأبلغت شركات أخرى منذ ذلك الحين عن حوادث مماثلة. وقد غذّت هذه الحوادث دعوات في الولايات المتحدة وخارجها لتشديد الرقابة على تطوير نماذج الذكاء الاصطناعي.

لكن الرئيس الأميركي دونالد ترامب وبناء على نصيحة مسؤولين تنفيذيين كبار في مجال التكنولوجيا، مثل رئيس شركة انفيديا جينسن هوانغ، حث القطاع على تنظيم نفسه.