طور باحث في جامعة غوتنبرغ السويدية منهجية جديدة لتصميم أنظمة ذكاء اصطناعي قادرة على شرح الأدلة التي تستند إليها استنتاجاتها عبر الحوار المباشر مع المستخدم، بهدف تعزيز شفافية وموثوقية هذه التقنيات عند استخدامها في اتخاذ قرارات حساسة بمجالات الرعاية الصحية والإدارة العامة.
جاءت هذه الأطروحة، التي أعدها طالب الدكتوراه في اللغويات الحاسوبية ألكسندر بيرمان، لتعالج واحدة من أكبر مشكلات النماذج اللغوية الضخمة الحالية، المتمثلة في ظاهرة الهلوسة، حيث تُنتج الأنظمة الحالية معلومات خاطئة تماماً لكنها تبدو مقنعة وموثوقة إحصائياً.
واستشهد البحث بوقائع حقيقية تصدرت المشهد العام مؤخراً، كان أبرزها اقتباس على لسان نائبة رئيس الوزراء السويدي، إيبا بوش، تبين لاحقاً أن الذكاء الاصطناعي اختلقه بالكامل وزعم زيفاً العثور عليه في مصدرين منفصلين.
وتعتمد المنهجية المقترحة على فصل عملية توليد الإجابات عن صياغة التفسيرات، إذ تتيح للنظام الوصول المباشر إلى قاعدة بيانات تتضمن الحقائق، والقواعد، والملاحظات الثابتة، ومن ثم، يقوم النظام بشرح منطقه وبراهينه للمستخدم من خلال واجهة حوارية تفاعلية تحاكي الطريقة البشرية في تبرير القرارات، بدلاً من الاعتماد على الأنماط الإحصائية للنصوص التي قد تصوغ إجابات بليغة لكنها عارية من الصحة.
وأوضح الباحث ألكسندر بيرمان أن هذا الأسلوب يسمح بالاستمرار في استخدام النماذج اللغوية كأدوات تكميلية داخل النظام لتفسير أسئلة المستخدمين وتكييف الردود مع السياق، دون المساس بالموثوقية العامة.
وأكد بيرمان أن الشفافية تعد ركيزة أساسية في القرارات المصيرية، حيث يجب منح الأفراد الفرصة الكاملة لتقييم ما إذا كان القرار مبنياً على أسس سليمة، معرباً عن أمله أن تساهم هذه الدراسة في بناء أنظمة ذكاء اصطناعي تحظى بثقة المجتمعات وتلهم المزيد من الأبحاث المستقبلية بهذا القطاع.
جاءت هذه الأطروحة، التي أعدها طالب الدكتوراه في اللغويات الحاسوبية ألكسندر بيرمان، لتعالج واحدة من أكبر مشكلات النماذج اللغوية الضخمة الحالية، المتمثلة في ظاهرة الهلوسة، حيث تُنتج الأنظمة الحالية معلومات خاطئة تماماً لكنها تبدو مقنعة وموثوقة إحصائياً.
واستشهد البحث بوقائع حقيقية تصدرت المشهد العام مؤخراً، كان أبرزها اقتباس على لسان نائبة رئيس الوزراء السويدي، إيبا بوش، تبين لاحقاً أن الذكاء الاصطناعي اختلقه بالكامل وزعم زيفاً العثور عليه في مصدرين منفصلين.
وتعتمد المنهجية المقترحة على فصل عملية توليد الإجابات عن صياغة التفسيرات، إذ تتيح للنظام الوصول المباشر إلى قاعدة بيانات تتضمن الحقائق، والقواعد، والملاحظات الثابتة، ومن ثم، يقوم النظام بشرح منطقه وبراهينه للمستخدم من خلال واجهة حوارية تفاعلية تحاكي الطريقة البشرية في تبرير القرارات، بدلاً من الاعتماد على الأنماط الإحصائية للنصوص التي قد تصوغ إجابات بليغة لكنها عارية من الصحة.
وأوضح الباحث ألكسندر بيرمان أن هذا الأسلوب يسمح بالاستمرار في استخدام النماذج اللغوية كأدوات تكميلية داخل النظام لتفسير أسئلة المستخدمين وتكييف الردود مع السياق، دون المساس بالموثوقية العامة.
وأكد بيرمان أن الشفافية تعد ركيزة أساسية في القرارات المصيرية، حيث يجب منح الأفراد الفرصة الكاملة لتقييم ما إذا كان القرار مبنياً على أسس سليمة، معرباً عن أمله أن تساهم هذه الدراسة في بناء أنظمة ذكاء اصطناعي تحظى بثقة المجتمعات وتلهم المزيد من الأبحاث المستقبلية بهذا القطاع.
