أصدر «تريندز للبحوث والاستشارات» العدد الثاني من سلسلة «اتجاهات الذكاء الاصطناعي» تحت عنوان «الحوكمة الخوارزمية وشرعية القرارات المدعومة بالذكاء الاصطناعي في القطاع العام»، وينطلق العدد من إشكالية رئيسية تتمثل في اتساع الفجوة بين التوظيف الحكومي المستمر للذكاء الاصطناعي، وبين بطء تطور الأطر التنظيمية والمؤسسية الضامنة للشرعية.
وترى الدراسة أن شرعية القرارات الخوارزمية في القطاع العام لم تعد مسألة قانونية صلبة فحسب، بل أصبحت مفهوماً متعدد الأبعاد يدمج بين القانون والتقنية والإدارة والمؤسسات والثقة المجتمعية، وكشفت الدراسة عن أن تحديات الشرعية لا تعود إلى قصور تقني فقط، بل ترتبط بالحوكمة المؤسسية، وفي مقدمتها إشكالية «الصندوق الأسود»، ومحدودية الشفافية وقابلية التفسير، والتحيزات الخوارزمية، وضبابية المساءلة والمسؤولية القانونية، وخطر انتهاك الخصوصية.
وتقترح الدراسة إطاراً عربياً شاملاً للحوكمة يقوم على سن تشريعات متخصصة، وإنشاء هياكل رقابية، وإلزامية تقييم الأثر الخوارزمي قبل تشغيل الأنظمة مرتفعة المخاطر، وضمان الإشراف البشري والتدقيق المستقل، تحقيقاً للتوازن المنشود بين تشجيع الابتكار وحماية الحقوق وسيادة القانون.
وتوضح الدراسة أن تحقيق الشرعية يعتمد على التكامل المتناغم بين خمسة أبعاد مترابطة: قانونية، وإجرائية، وتقنية، ومؤسسية، ومجتمعية.
وتؤكد الدراسة أن القطاع العام يشهد تحولاً جذرياً في أنماط صنع القرار نتيجة التوسع المتسارع في استخدام تقنيات الذكاء الاصطناعي والخوارزميات، ولكن على الرغم من الإمكانات الكبيرة لهذه التقنيات في رفع الكفاءة التشغيلية وتسريع الإجراءات، فإنها فرضت تحديات قانونية ومؤسسية وأخلاقية جديدة طرحت إشكاليات حول شرعية القرارات الحكومية المؤثرة بصورة مباشرة في حقوق الأفراد وحرياتهم ومصالحهم الأساسية.
وخلصت الدراسة إلى أن الخوارزميات أصبحت طرفاً مؤثراً في إنتاج القرار الإداري، وأصبح السؤال لم يعد يقتصر على مدى كفاءة هذه الأنظمة وحسب، بل تعداه إلى شرعية القرارات التي تنتج عنها.
