دعا نحو 400 عالم، من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، يوم الثلاثاء إلى إنشاء هيئة دولية للإشراف على معايير الاحتواء والإبلاغ عن الحوادث المتعلقة بأنظمة الذكاء الاصطناعي المتطورة القادرة على شن هجمات إلكترونية.
وستضع الهيئة المقترحة معايير احتواء على مستوى القطاع بأكمله، بالإضافة إلى الاحتفاظ بسجل للحوادث الأمنية المهمة التي يقول العلماء إنه ينبغي إتاحتها للعامة في نهاية المطاف.
وقال الباحثون في رسالة مفتوحة إن نماذج الذكاء الاصطناعي المتطورة يجب عزلها مبدئيا عن الشبكات الخارجية وإخضاعها لرقابة مستقلة، وبرروا ذلك بأن الالتزامات الطوعية من القطاع ليست كافية.
ويأتي هذا الاقتراح بعد شهر من توقيع أنثروبيك وأوبن إيه.آي وجوجل وميتا وإكس إيه.آي وإنفيديا على اتفاق البيت الأبيض الذي يلتزمون بموجبه باتخاذ تدابير أمان طوعية دون أي آلية إنفاذ رسمية.
سلسلة من الحوادث
وتأتي هذه الرسالة أيضا في أعقاب سلسلة من الحوادث التي يقول الباحثون إنها كشفت عن نقاط ضعف في كيفية اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، بما في ذلك حالات تجاوزت فيها نماذج الذكاء الاصطناعي بيئات اختبار معزولة، ولكن بنحو غير كاف، وأدت إلى اختراق أنظمة خارجية.
وقال الموقعّون من 34 دولة إن المنظمات التي تطور نماذج ذات قدرات على شن هجمات إلكترونية أو تختبرها يجب أن تعتمد على الفور معايير احتواء مضمونة، في حين تعمل الحكومات على وضع نظام رقابة أكثر رسمية.
ويتزايد الجدل بين صانعي السياسات بشأن كيفية الإشراف على أنظمة الذكاء الاصطناعي المتقدمة. وقالت هينا فيركونين النائبة التنفيذية للسيادة التكنولوجية والأمن والديمقراطية في الاتحاد الأوروبي لرويترز يوم الجمعة إن قانون الذكاء الاصطناعي الخاص بالتكتل كاف للتصدي للمخاطر الناجمة عن أنظمة الذكاء الاصطناعي المارقة.
ورفعت إدارة الرئيس الأمريكي دونالد ترامب يوم الأحد الحظر المفروض على المختبرات الأمريكية، مما أتاح لمعهد أمن الذكاء الاصطناعي البريطاني الوصول المبكر إلى النماذج لإجراء اختبارات السلامة.
وتقاسم هينتون وبنجيو جائزة تورينج لعام 2018 مع يان لوكون من شركة (ميتا). ولوكون باحث رائد آخر في مجال الذكاء الاصطناعي لم يوقع لوكون على الرسالة، وقال إن الحوادث الأمنية في الآونة الأخيرة تعكس في المقام الأول إخفاقات هندسية، لا مخاطر وجودية متعلقة بالذكاء الاصطناعي.
