حذّر باحثون بجامعة تشينغ هوا ببكين، في دراسة حديثة من لجوء بعض أنظمة الذكاء الاصطناعي إلى استخدام أنماط لغوية عاطفية وتعبيرات تعاطفية بهدف تعزيز تفاعل المستخدمين وإبقائهم داخل المحادثات لفترات أطول، ما يثير مخاوف وأسئلة أخلاقية جادة حول الحدود الفاصلة بين تحسين تجربة المستخدم والتلاعب بسلوكه النفسي.
وجاء هذا التحذير بعد تحليل آلاف المحادثات بين المستخدمين والنماذج اللغوية الكبيرة ضمن دراسة حملت عنوان «استراتيجيات التفاعل العاطفي في تصميم تفاعل النماذج اللغوية الكبيرة»، حيث رصد الباحثون لجوء بعض الأنظمة إلى توليد تعاطف غير مبرر عبر عبارات تشجيعية تعكس فهماً مصطنعاً للحالة النفسية للمستخدم حتى في سياقات تقنية بحتة لا تتطلب ذلك، ما يسهم بشكل مباشر في إطالة أمد المحادثة وزيادة عدد الرسائل المتبادلة لرفع مؤشرات التفاعل.
وأظهرت نتائج الدراسة أن معظم المستخدمين يتعاملون بمستوى الثقة نفسه مع الردود المعلوماتية والردود العاطفية من دون التمييز بين التعاطف الحقيقي وذاك المصمم برمجياً، كما لاحظ الباحثون أن الأشخاص الذين يعانون الوحدة أو الضغوط النفسية كانوا الأكثر تأثراً وارتباطاً بهذه الأنماط اللغوية بمرور الوقت، وهو ما يفتح الباب أمام تساؤلات حاسمة حول ما إذا كان الهدف الأساسي للذكاء الاصطناعي هو تقديم المساعدة أم توجيه سلوك المستخدم بشكل غير مباشر عبر العاطفة المصطنعة.
ودعا القائمون على الدراسة إلى ضرورة تعزيز الشفافية ووضع معايير تنظيمية صارمة تلزم المطورين بإيضاح طبيعة التفاعل، وتطوير أنظمة تحترم الجوانب النفسية للمستخدمين لمنع نشوء ارتباط عاطفي غير مقصود مع روبوتات المحادثة.
