أظهرت دراسة أجراها باحثون من جامعة أريزونا الأمريكية، أن سبعة من أبرز نماذج الذكاء الاصطناعي التوليدي يمكن أن تتأثر بالمعلومات المضللة خلال المحادثات المطولة، مع اختلاف واضح في مدى قابلية كل نموذج للخطأ أو الإقناع أو تصحيح المعلومات الخاطئة.
اختبر الباحثون سبعة نماذج لغوية كبيرة، هي إصدارات مختلفة من«شات جي بي تي، وكلود 3.5 سونيت، وجيميني 1.5 برو، ولاما 3-70 بي، وديب سيك آر 1»، خلال محادثات متعددة الأدوار.
ووجدت الدراسة أن «تشات جي بي تي 3.5» كان الأكثر ميلاً إلى تأكيد معلومات خاطئة تكررت خلال الحوار، بينما كان «كلاود3.5» الأقل عرضة لهذا السلوك. كما أصبحت جميع النماذج أكثر قابلية للتضليل عند التعامل مع موضوعات غامضة، في مؤشر على أن وفرة بيانات التدريب حول موضوع ما قد تعزز مقاومة النموذج للمعلومات المضللة.
وأظهر «ديب سيك» أعلى قابلية للإقناع أثناء المطالبات الجدلية المتصاعدة، بينما تمكنت أربعة نماذج، هي «شات جي بي تي 4 أو، وشات جي بي تي 4 أو ميني، وجيميني 1.5 برو، وديب سيك»، من تصحيح أخطائها بنسبة 100% عند منحها فرصة ثانية.
وحذر الباحثون من أن هذه النتائج تكشف مشكلة تتجاوز الأخطاء الفردية، إذ يمكن للنموذج نفسه أن يقبل معلومة خاطئة ثم يرفضها لاحقاً خلال المحادثة ذاتها.
وقال الدكتور مارفن سليبيان، المؤلف الرئيسي للدراسة، إن هذا التذبذب يمثل خطراً عندما تُستخدم أنظمة الذكاء الاصطناعي في اتخاذ قرارات حساسة، مؤكداً ضرورة وجود إشراف بشري وعدم الاعتماد عليها بصورة عمياء.
وأشار الباحثون إلى أن دراسة سلوك النماذج خلال محادثات متعددة الأدوار تعكس بصورة أقرب طريقة استخدامها في الحياة اليومية، مقارنة باختبارها من خلال أسئلة منفردة. كما يعمل الفريق على تطوير أدوات تساعد في تشخيص نقاط الضعف في نماذج الذكاء الاصطناعي، خصوصاً الأنظمة المفتوحة التي تتيح للباحثين فحص آلياتها الداخلية.
