تمكن باحثون مستقلون في الأمن السيبراني من الوصول إلى حساب أحد موظفي أوبن إيه آي على «شات جي بي تي»، باستخدام أداة «كلود» التابعة لشركة أنثروبيك، ما أتاح لهم الوصول إلى ذاكرة تخزين برمجية خاصة بالشركة وإمكانية اقتراح تعديلات عليها.
ولم تكن العملية اختراقاً إجرامياً، إذ نفذها الباحثون ضمن برنامج رسمي لأوبن إيه آي يسمح للمتخصصين بمحاولة اكتشاف الثغرات في أنظمتها، قبل أن يبلغوا الشركة بالنتائج التي توصلوا إليها، وحصل الفريق على مكافأة بلغت 6500 دولار، بحسب صحيفة وول ستريت جورنال.
كيف وصل الباحثون إلى أنظمة أوبن إيه آي؟
بحسب تفاصيل كشفها الباحثون، استعان الفريق في بداية العملية ببرنامج «كلود» التابع لأنثروبيك، بهدف الوصول إلى حساب موظف في أوبن إيه آي على «شات جي بي تي».
وبعد الوصول إلى الحساب، تمكن الباحثون من فتح طريق إلى ذاكرة تخزين مؤقتة خاصة ببرمجيات الشركة، الأمر الذي أتاح لهم قراءة محتوياتها واقتراح تغييرات عليها.
وكشف الباحثون لاحقاً أن نطاق الوصول الذي كان يمكن تحقيقه نظرياً كان واسعاً، وهو ما سلط الضوء على مخاطر مقلقة قد تنتج عن استغلال الثغرات المتصلة بحسابات الموظفين والأنظمة البرمجية الداخلية.
«كلود» استُخدم ضد شات جي بي تي
تكتسب الواقعة أهمية إضافية بسبب استخدام نموذج ذكاء اصطناعي تابع لشركة أنثروبيك في بداية العملية ضد أوبن إيه آي باختراق شات جي بي تي، في وقت تتنافس فيه الشركتان على تطوير نماذج ذكاء اصطناعي متقدمة.
لكن الباحثين أوضحوا أن «كلود» لم يكن الأداة الوحيدة المستخدمة، وأنهم اعتمدوا بدرجة كبيرة خلال مراحل لاحقة على نموذج أوبن إيه آي المتقدم «جي بي تي-5.6 سول».
وبذلك أصبح الذكاء الاصطناعي نفسه جزءاً من أدوات اختبار الأنظمة التي تطورها شركات الذكاء الاصطناعي، وهو ما يفتح نقاشاً حول قدرة هذه النماذج على المساعدة في اكتشاف الثغرات وتنفيذ المهام السيبرانية المعقدة.
الباحثون أبلغوا أوبن إيه آي فوراً
بعد اكتشاف الثغرات، سارع الفريق إلى إبلاغ أوبن إيه آي بما توصل إليه، مستفيداً من الحماية التي يوفرها برنامج الشركة للباحثين المشاركين في اختبار أنظمتها.
ودفعت أوبن إيه آي للفريق مكافأة قدرها 6500 دولار، بعدما قدم الباحثون تفاصيل العملية والثغرات التي تمكنوا من استغلالها.
وأكدت الشركة أنها عالجت الثغرات التي استُغلت خلال الاختبار، فيما شدد الباحثون على أن هدفهم كان اختبار الأنظمة وإبلاغ الشركة بالمخاطر، وليس سرقة البيانات أو استخدامها خارج نطاق البحث الأمني.
واقعة جديدة بعد اختراق «هاجينغ فيس»
وتأتي هذه الواقعة بعد فترة قصيرة من إعلان أوبن إيه آي أن مجموعة من وكلاء الذكاء الاصطناعي التابعين لها تمكنت، خلال اختبار للأمن السيبراني، من اختراق شركة «هاجينغ فيس».
وكانت الشركة قد كشفت لاحقاً عن حالات أخرى وصفتها بأنها أفعال «غير متوقعة أو مثيرة للقلق» من جانب تقنياتها، وأعلنت قواعد جديدة للإبلاغ عن مثل هذه الحوادث.
وتشير التطورات المتلاحقة إلى أن اختبار قدرات الذكاء الاصطناعي في مجال الأمن السيبراني أصبح ملفاً متزايد الأهمية بالنسبة لشركات التكنولوجيا.
