«حراس البوابة».. يراقبون سلامة الذكاء الاصطناعي

تكتسب هذه الجهات أهمية متزايدة، في ظل غياب توجه اتحادي أمريكي واضح لفرض رقابة تنظيمية واسعة على القطاع، إذ بات يُعوّل عليها في اختبار قدرات النماذج، ورصد السلوكيات الخطرة، والتحقق من مدى التزام الأنظمة بضوابط السلامة. ومن أبرز هذه المؤسسات «ميتري» و«أبولو ريسيرش» و«ترانسلوس»، إلى جانب شركات متخصصة في التدقيق والتقييم.

تسارعت الدعوات إلى تعزيز التقييم المستقل، بعد سلسلة من المخاوف المتعلقة بسلوك بعض النماذج المتقدمة، في مقدمتها تقارير عن أنظمة تمكنت من تجاوز بيئات الاختبار والوصول إلى الإنترنت المفتوح، في واقعة دفعت «أوبن إيه آي» إلى الاستعانة بمتخصصين لإعداد تقرير يراجع ما حدث.

ودعا داريو أمودي، الرئيس التنفيذي والشريك المؤسس ل«أنثروبيك»، إلى إبطاء وتيرة تطوير النماذج المتقدمة، كما تعهد بإدماج مقيمين مستقلين داخل الشركة، لاختبار إجراءات الحماية وتقييم سلوك الأنظمة. وأبدى سام ألتمان، الرئيس التنفيذي ل«أوبن إيه آي»، دعمه فكرة الاستعانة بمقيمين خارجيين، فيما أيد الرئيس الأمريكي دونالد ترامب التعاون الطوعي مع جهات مستقلة، بدلاً من فرض قيود تنظيمية واسعة. لكن توسّع دور هذه الجهات يطرح تساؤلات أساسية بشأن مدى استقلاليتها، وحجم المعلومات التي ستتاح لها، والجهة التي ستحدد قواعد عملها، فضلاً عن آليات تمويلها. ويحذر خبراء من أن المؤسسات الصغيرة قد تجد نفسها في موقع ضعيف أمام شركات التكنولوجيا العملاقة، التي تمتلك موارد مالية ضخمة وتوظف آلاف العاملين.

وقال سورش فينكاتاسوبرامانيان، أستاذ علوم الحاسوب في جامعة براون، إن التحدي لا يقتصر على ضمان استقلال المقيمين، بل يشمل أيضاً بناء نموذج تمويل مستدام، يسمح لهم بمواصلة عملهم دون التأثر بمصالح الشركات التي يخضع أداؤها للتقييم.

تحدي التمويل والاستقلاليةبدأ قطاع تقييم الذكاء الاصطناعي في جذب مزيد من الاستثمارات والتمويل، مع ارتفاع الطلب على خدماته. فقد أعلنت مؤسسة «ميتري» غير الربحية، في أغسطس/ آب، عن تعهدات تمويلية بلغت نحو 71 مليون دولار، خلال الأشهر الستة السابقة، مقارنة بإجمالي مساهمات 13.6 مليون دولار، في عام 2024، وفق أحدث إفصاح قدمته المؤسسة إلى مصلحة الضرائب الأمريكية.

كما أعلنت شركة «فالس إيه آي»، المتخصصة في بناء معايير لقياس أداء نماذج الذكاء الاصطناعي في مهام قطاعية محددة، عن جولة تمويل بقيمة 40 مليون دولار في أغسطس، بعدما ارتفع عدد موظفيها من ثمانية إلى نحو 30 خلال العام.

ورغم هذا النمو، لا تزال القدرات البشرية والتنظيمية للقطاع محدودة، مقارنة بحجم الشركات التي يفترض أن يراقبها. وتوظّف «ميتري»، على سبيل المثال، أقل من 50 موظفاً بدوام كامل، وهو ما يثير تساؤلات حول قدرتها وقدرة المؤسسات المشابهة على التعامل مع أنظمة تتطور بوتيرة سريعة.

ويكمن أحد أبرز المخاطر في اعتماد جهات التقييم على الشركات، التي تدقق أعمالها للحصول على التمويل. فإذا كانت الإيرادات مرتبطة برضا الشركات الخاضعة للفحص، فقد تتعرض المؤسسات المستقلة لضغوط تدفعها إلى تجنب نشر نتائج سلبية أو تقديم تقييمات أقل صرامة. ولهذا يشدد خبراء على أن الاستقلال الحقيقي يتطلب حماية مالية ومهنية.

في محاولة لمعالجة هذه الإشكالية، اقترحت مؤسسة «فاثوم» إنشاء إطار للجهات المستقلة للتحقق والتقييم، بحيث تحصل هذه المؤسسات على ترخيص حكومي يسمح لها باختبار مدى استيفاء شركات الذكاء الاصطناعي لمعايير السلامة، ويشكل هذا المقترح أحد محاور مشروع قانون «فرونتير»، الذي قدمه مشرعون أمريكيون في يوليو/ تموز، بهدف تعزيز الرقابة على مخاطر الأنظمة المتقدمة، ورفع مستوى الشفافية والتقييم المستقل.

كما بدأت ولايات أمريكية، من بينها كاليفورنيا وكونيتيكت وفرجينيا، اتخاذ خطوات باتجاه اعتماد آليات للتقييم المستقل، فيما وقّع حاكم كاليفورنيا غافين نيوسوم قانونين يتعلقان بإنشاء إطار لتقييم أنظمة الذكاء الاصطناعي، وسجل للمدققين المتخصصين في هذا المجال.

تتنافس شركات الذكاء الاصطناعي على تطوير أنظمة أكثر تقدماً، وتسعى في الوقت نفسه إلى تعزيز قيمتها السوقية والاستعداد لفرص التوسع في أسواق رأس المال. ويضع هذا التنافس الشركات أمام معادلة دقيقة: تسريع الابتكار وتحقيق النمو، مع إقناع الجمهور بأن التقنيات الجديدة تخضع لاختبارات جدية تكشف المخاطر قبل أن تتحول إلى أزمات.