تعمل النماذج اللغوية الكبيرة لشركتي «ميتا» و«أوبن إيه آي» والتي تشكل أساساً لأدوات الذكاء الاصطناعي التوليدي الخاصة بهما، على نقل تحيزات على أساس الجنس، بحسب ما حذّرت دراسة نشرتها منظمة اليونيسكو مع اقتراب يوم المرأة العالمي.
وأكّدت اليونيسكو أنّ نموذجي «جي بي تي 2» و «جي بي تي 3.5» من «أوبن إيه آي» وبرنامج «لاما 2» من «ميتا»، تظهر «بشكل قاطع تحيّزاً ضد المرأة».
وأكد مساعد المدير العام لليونيسكو لشؤون الاتصالات والمعلومات توفيق الجلاصي أن «التمييز في العالم الحقيقي لا ينعكس في المجال الرقمي فحسب، بل يتصاعد فيه أيضاً».
وأظهرت الدراسة التي أجريت بين أغسطس/آب 2023 ومارس/آذار 2024، أن هذه النماذج اللغوية أكثر ميلاً إلى ربط الأسماء المؤنثة بكلمات مثل «منزل» و«عائلة» و«أطفال»، في حين أن الأسماء المذكرة أكثر ارتباطاً بكلمات «تجارة» و«راتب» و«وظيفة».
وطلب الباحثون من هذه الأدوات كتابة قصص عن أشخاص من أصول وأجناس مختلفة.
وأظهرت النتائج أن القصص المتعلقة بـ«الأشخاص المتحدرين من الأقليات أو النساء كانت في معظم الأحيان أكثر تكراراً وتستند إلى صور نمطية».
وتم عرض الرجل الإنجليزي كمدرّس أو سائق أو موظف مصرف، بينما تم تقديم المرأة الإنجليزية فيما لا يقل عن 30% من النصوص على أنها نادلة أو عارضة أزياء.
وأكدت المتخصصة في السياسات الرقمية والتحول الرقمي في اليونيسكو ليونا فيرداديرو، في حديث إلى وكالة فرانس برس، أن هذه الشركات «تفشل في تمثيل كل مستخدميها».
ومع الاستخدام المتزايد لتطبيقات الذكاء الاصطناعي هذه من عامة الناس والشركات، يصبح لديها «القدرة على تشكيل تصوّر لملايين الأشخاص»، على قول المديرة العامة لليونيسكو أودري أزولاي.
ولمكافحة هذه التحيزات، أوصت اليونيسكو الشركات العاملة في هذا القطاع بأن تعتمد التنويع أكثر ضمن فرقها من المهندسين، وزيادة عدد النساء تحديداً.
وأشارت إلى أنّ النساء يمثلن فقط 22% من أعضاء الفرق العاملة في مجال الذكاء الاصطناعي على مستوى العالم، بحسب المنتدى الاقتصادي العالمي.
ودعت اليونيسكو الحكومات إلى إقرار مزيد من القوانين لاعتماد «ذكاء اصطناعي يستند إلى معايير أخلاقية».
وأكّدت اليونيسكو أنّ نموذجي «جي بي تي 2» و «جي بي تي 3.5» من «أوبن إيه آي» وبرنامج «لاما 2» من «ميتا»، تظهر «بشكل قاطع تحيّزاً ضد المرأة».
وأكد مساعد المدير العام لليونيسكو لشؤون الاتصالات والمعلومات توفيق الجلاصي أن «التمييز في العالم الحقيقي لا ينعكس في المجال الرقمي فحسب، بل يتصاعد فيه أيضاً».
وأظهرت الدراسة التي أجريت بين أغسطس/آب 2023 ومارس/آذار 2024، أن هذه النماذج اللغوية أكثر ميلاً إلى ربط الأسماء المؤنثة بكلمات مثل «منزل» و«عائلة» و«أطفال»، في حين أن الأسماء المذكرة أكثر ارتباطاً بكلمات «تجارة» و«راتب» و«وظيفة».
وطلب الباحثون من هذه الأدوات كتابة قصص عن أشخاص من أصول وأجناس مختلفة.
وأظهرت النتائج أن القصص المتعلقة بـ«الأشخاص المتحدرين من الأقليات أو النساء كانت في معظم الأحيان أكثر تكراراً وتستند إلى صور نمطية».
وتم عرض الرجل الإنجليزي كمدرّس أو سائق أو موظف مصرف، بينما تم تقديم المرأة الإنجليزية فيما لا يقل عن 30% من النصوص على أنها نادلة أو عارضة أزياء.
وأكدت المتخصصة في السياسات الرقمية والتحول الرقمي في اليونيسكو ليونا فيرداديرو، في حديث إلى وكالة فرانس برس، أن هذه الشركات «تفشل في تمثيل كل مستخدميها».
ومع الاستخدام المتزايد لتطبيقات الذكاء الاصطناعي هذه من عامة الناس والشركات، يصبح لديها «القدرة على تشكيل تصوّر لملايين الأشخاص»، على قول المديرة العامة لليونيسكو أودري أزولاي.
ولمكافحة هذه التحيزات، أوصت اليونيسكو الشركات العاملة في هذا القطاع بأن تعتمد التنويع أكثر ضمن فرقها من المهندسين، وزيادة عدد النساء تحديداً.
وأشارت إلى أنّ النساء يمثلن فقط 22% من أعضاء الفرق العاملة في مجال الذكاء الاصطناعي على مستوى العالم، بحسب المنتدى الاقتصادي العالمي.
ودعت اليونيسكو الحكومات إلى إقرار مزيد من القوانين لاعتماد «ذكاء اصطناعي يستند إلى معايير أخلاقية».
