أشعل فصل ثلاثة باحثين سابقين في شركة أوبن إيه آي، المطورة لبرنامج «شات جي بي تي»، جدلاً جديداً حول سلامة الذكاء الاصطناعي، بعدما اتهموا الشركة بإنهاء عملهم نتيجة إثارتهم مخاوف بشأن المخاطر المحتملة للتقنيات المتقدمة، في حين تتمسك الإدارة بروايتها بأن قرارات الفصل جاءت نتيجة مخالفات حساسة.
باحثون سابقون يكشفون أسباب فصلهم
وقال الباحث السابق ميكيتا باليسني، في رسالة مفتوحة نُشرت اليوم وشارك في إعدادها مع زميليه السابقين توميك كورباك وجاسمين وانغ، أن فصلهم جاء بسبب إعطاء الأولوية لسلامة الذكاء الاصطناعي على المصالح المؤسسية قصيرة الأجل لشركة أوبن إيه آي.
وأوضح الباحثون أنهم عملوا حتى وقت قريب في مجالات السلامة ومواءمة الذكاء الاصطناعي، وهي الجهود التي تستهدف جعل سلوك الأنظمة متوافقاً مع القيم والمبادئ البشرية، والحد من احتمالات تصرفها بطرائق غير مرغوبة.
وأشاروا إلى أن قرارات الفصل أثارت، بحسب رسالتهم، مخاوف من أن يصبح الموظفون أكثر تردداً في التعبير عن آرائهم أو إثارة تساؤلات بشأن سلامة التقنيات التي يعملون على تطويرها.
أوبن إيه آي ترد باتهامات مخالفة الإجراءات
في المقابل، نفت الشركة أن يكون فصل الباحثين مرتبطاً بإثارة مخاوف تتعلق بالسلامة أو التعبير عن آرائهم.
وكان متحدث باسم أوبن إيه آي قد أكد، في تصريحات لهيئة الإذاعة البريطانية في الثاني من أكتوبر، أن تحقيقاً داخلياً خلص إلى أن الأشخاص المعنيين أساؤوا التعامل مع معلومات حساسة خارج الإجراءات المعتمدة داخل الشركة.
وجدد مسؤولون عن الأبحاث في الشركة هذا الموقف، مؤكدين أن التحقيق كشف، وفقاً لروايتهم، عن خرق كبير للثقة، وأن الإدارة تتمسك بقرار إنهاء عمل الباحثين.
وبذلك، يتمسك كل طرف برواية مختلفة بشأن أسباب الفصل، إذ يربط الباحثون القرار بمخاوفهم المهنية، بينما تقول الشركة إنه جاء نتيجة مخالفات داخلية.
تحذيرات من صعوبة مراقبة وكلاء الذكاء الاصطناعي
ومن بين أبرز المخاوف التي أثارها الباحث توميك كورباك، تراجع القدرة على مراقبة ما يجري داخل أنظمة وكلاء الذكاء الاصطناعي، واعتبر أن متابعة هذه العمليات تمثل إحدى الأدوات المهمة لاكتشاف السلوك غير المرغوب فيه.
وقال كورباك إنه أثار هذه المخاوف على مدار أشهر، وإنه يعتقد أنها كانت وراء فصله من الشركة، دون أن يعني ذلك ثبوت صحة هذا الربط بصورة مستقلة.
وتكتسب هذه المسألة أهمية مع تطور أنظمة الذكاء الاصطناعي وزيادة قدرتها على تنفيذ المهام بصورة مستقلة، الأمر الذي يثير تساؤلات حول كيفية مراقبة قراراتها واكتشاف الأخطاء أو السلوكيات الخطرة مبكراً.
هل تهدد الأزمة حرية التعبير داخل الشركة؟
وحذرت جاسمين وانغ من أن عدم اتخاذ الموظفين موقفاً من الإجراءات التي تحدثت عنها قد يؤدي إلى تكرارها، مشيرة إلى اعتقادها أن آخرين غادروا الشركة في ظروف وصفتها بالمريبة.
وفي المقابل، أعلنت أوبن إيه آي أنها تعمل على استكمال التعاقدات مع جهات مستقلة لتقييم سلامة أنظمتها، على أن تكشف عن مزيد من التفاصيل خلال الأسابيع المقبلة.
