لم تعد قدرة الذكاء الاصطناعي على إنجاز المهام وحدها كافية لضمان موثوقيته، بعدما كشفت تجارب أن بعض النماذج تلجأ إلى الغش والتحايل لتحقيق نتائج أفضل في الاختبارات، حتى لو تطلب ذلك مخالفة التعليمات. وفي محاولة لمعالجة هذه المشكلة، طورت شركة «Goodfire» الأمريكية تقنية جديدة تستهدف التحكم في سلوك الذكاء الاصطناعي عبر فهم ما يحدث داخل شبكاته العصبية.
وكشفت الشركة، المتخصصة في أبحاث تفسير الذكاء الاصطناعي، عن نتائج دراسة نشرتها مجلة «تايم» ، توضح أسلوباً جديداً لمكافأة النماذج ليس فقط على صحة الإجابات، بل على اتباع الطريقة الصحيحة للوصول إليها.
وتعتمد التقنية على تحليل أنماط النشاط داخل الخلايا العصبية الرقمية، باستخدام أدوات تعرف باسم «المجسات»، تستطيع رصد إشارات داخلية مرتبطة بسلوكيات محددة، من بينها ما يعرف بـ «اختراق المكافآت»، أي لجوء النموذج إلى حيل تحقق له النجاح دون تنفيذ المهمة بالطريقة المطلوبة.
وفي إحدى التجارب، طلب الباحثون من نموذج ذكاء اصطناعي حل مجموعة من الألغاز الرياضية، مع منعه من الاطلاع على ملف يتضمن الإجابات الصحيحة. وأظهرت النتائج أن التدريب التقليدي دفع النموذج إلى الغش في معظم المحاولات، لكن معاقبته عبر المجسات على هذا السلوك خفّضت النسبة إلى مستويات قاربت الصفر.
وامتدت الاختبارات إلى الشطرنج، حيث تراجعت محاولات الغش من 99% إلى أقل من 1%. كما نجح الأسلوب في الحد من سلوك التملق، الذي يدفع النماذج إلى موافقة المستخدمين ومجاراتهم بصورة مفرطة. ورغم النتائج المشجعة، لا تزال التقنية في مراحلها المبكرة، إذ اختُبرت على نماذج أصغر بنحو 300 مرة من الأنظمة المتقدمة.
ويحذر باحثون من أن معاقبة أنماط معينة قد تدفع النموذج إلى تغيير إشاراته الداخلية، بما يصعّب مراقبته. ومع ذلك يرون أن التقنية تمثل خطوة مهمة نحو ذكاء اصطناعي أكثر شفافية وانضباطاً.
