أبوظبي: «الخليج»
أصدر «مركز تريندز للبحوث والاستشارات» دراسة جديدة تتناول التحديات المرتبطة بالتمييز الخوارزمي، تضيء على ضرورة اتخاذ نهج متعدد الأوجه لمعالجة مخاطر التحيز في الذكاء الاصطناعي، بدءاً من فحص دقيق لمجموعات البيانات المستخدمة في تدريب الخوارزميات، وصولاً إلى وضع حوكمة قانونية وأخلاقية سليمة.
وبينت الدراسة التي حملت عنوان «الذكاء الاصطناعي غير المتحيز.. معالجة التمييز في الخوارزميات»، وأعدتها الباحثة نورة المزروعي، رئيسة قسم الذكاء الاصطناعي والدراسات المستقبلية، أن الذكاء الاصطناعي يسهم في تحويل مجالات عدّة من حياتنا، لكن ظهور التمييز الخوارزمي، يهدد مبادئ العدالة والمساواة؛ إذ تعزز أنظمة الذكاء الاصطناعي في بعض الأحيان التحيّز والممارسات التمييزية، ما يؤدي إلى معاملة غير متكافئة بين مختلف الفئات المجتمعية.
وتضيء الدراسة على جوانب متعددة للذكاء الاصطناعي غير المتحيّز، وتطرح تساؤلات مهمة، مثل كيف يُعرّف التمييز الخوارزمي؟ وكيف يكتشف؟ وما المخاطر الاجتماعية المرتبطة بالذكاء الاصطناعي المتحيز؟ وكيف تضيء الحالات الأخيرة على مسألة عدالة الذكاء الاصطناعي؟ وما التحديات التقنية في تطوير خوارزميات غير متحيزة؟ وكيف يسهم جمع البيانات ومعالجتها في تعزيز التحيز؟ وما دور الأطر القانونية والأخلاقية في تأصيل أو منع التحيز؟ وما الأساليب التي يجري تطويرها للكشف عن التحيز والتخفيف منه؟ وكيف يمكن للتنوع في فرق تطوير الذكاء الاصطناعي تقليل مخاطر التمييز؟ وما توقعات مستقبل الذكاء الاصطناعي غير المتحيّز وتأثيره في المجتمع؟
وتوفر الدراسة معلومات قيمة عن كيفية إنشاء أنظمة ذكاء اصطناعي عادلة وشفافة وأخلاقية، وتؤكد ضرورة اتباع نهج متعدد الأوجه يعالج مخاطر التحيّز في كل مراحل تطوير واستخدام الذكاء الاصطناعي، بدءاً من فحص دقيق لمجموعات البيانات المستخدمة في تدريب الخوارزميات، وصولاً إلى وضع حوكمة قانونية وأخلاقية سليمة.
كما تضيء على أهمية العمل المشترك لتطوير أنظمة ذكاء اصطناعي تخدم البشرية بلا تحيز أو تمييز.
أصدر «مركز تريندز للبحوث والاستشارات» دراسة جديدة تتناول التحديات المرتبطة بالتمييز الخوارزمي، تضيء على ضرورة اتخاذ نهج متعدد الأوجه لمعالجة مخاطر التحيز في الذكاء الاصطناعي، بدءاً من فحص دقيق لمجموعات البيانات المستخدمة في تدريب الخوارزميات، وصولاً إلى وضع حوكمة قانونية وأخلاقية سليمة.
وبينت الدراسة التي حملت عنوان «الذكاء الاصطناعي غير المتحيز.. معالجة التمييز في الخوارزميات»، وأعدتها الباحثة نورة المزروعي، رئيسة قسم الذكاء الاصطناعي والدراسات المستقبلية، أن الذكاء الاصطناعي يسهم في تحويل مجالات عدّة من حياتنا، لكن ظهور التمييز الخوارزمي، يهدد مبادئ العدالة والمساواة؛ إذ تعزز أنظمة الذكاء الاصطناعي في بعض الأحيان التحيّز والممارسات التمييزية، ما يؤدي إلى معاملة غير متكافئة بين مختلف الفئات المجتمعية.
وتضيء الدراسة على جوانب متعددة للذكاء الاصطناعي غير المتحيّز، وتطرح تساؤلات مهمة، مثل كيف يُعرّف التمييز الخوارزمي؟ وكيف يكتشف؟ وما المخاطر الاجتماعية المرتبطة بالذكاء الاصطناعي المتحيز؟ وكيف تضيء الحالات الأخيرة على مسألة عدالة الذكاء الاصطناعي؟ وما التحديات التقنية في تطوير خوارزميات غير متحيزة؟ وكيف يسهم جمع البيانات ومعالجتها في تعزيز التحيز؟ وما دور الأطر القانونية والأخلاقية في تأصيل أو منع التحيز؟ وما الأساليب التي يجري تطويرها للكشف عن التحيز والتخفيف منه؟ وكيف يمكن للتنوع في فرق تطوير الذكاء الاصطناعي تقليل مخاطر التمييز؟ وما توقعات مستقبل الذكاء الاصطناعي غير المتحيّز وتأثيره في المجتمع؟
وتوفر الدراسة معلومات قيمة عن كيفية إنشاء أنظمة ذكاء اصطناعي عادلة وشفافة وأخلاقية، وتؤكد ضرورة اتباع نهج متعدد الأوجه يعالج مخاطر التحيّز في كل مراحل تطوير واستخدام الذكاء الاصطناعي، بدءاً من فحص دقيق لمجموعات البيانات المستخدمة في تدريب الخوارزميات، وصولاً إلى وضع حوكمة قانونية وأخلاقية سليمة.
كما تضيء على أهمية العمل المشترك لتطوير أنظمة ذكاء اصطناعي تخدم البشرية بلا تحيز أو تمييز.
