إعداد: مصطفى الزعبي
أعلن باحثو جوجل أنهم يستطيعون خداع تطبيق «تشات جي بي تي» للكشف عن بيانات المستخدمين من خلال بعض الأوامر البسيطة، في حين أن الكلمات الأولى لشركة الذكاء الاصطناعي «أوبن إيه إل» المسؤولة عن التطبيق على موقع الشركة تشير إلى «الذكاء الاصطناعي الآمن والمفيد»، فقد تبين أن البيانات الشخصية ليست آمنة كما كان يعتقد.
وعلى الرغم من أن الشركة اتخذت خطوات لحماية الخصوصية، إلا أن الدردشات والمنشورات اليومية تترك مجموعة هائلة من البيانات، وأغلبها شخصية، وليس المقصود منها التوزيع على نطاق واسع.
ووجد باحثو «جوجل» أنه يمكنهم استخدام الكلمات الرئيسية لخداع «تشات جي بي تي» للاستفادة من بيانات التدريب غير المخصصة للكشف عنها وإصدارها.
وقال الباحثون: «يمكننا الحصول على أسماء وأرقام هواتف وعناوين الأفراد والشركات عن طريق تغذية الأوامر التي تؤدي إلى حدوث خلل»، وطلبوا من «تشات جي بي تي» تكرار كلمة «قصيدة» إلى ما لا نهاية، مؤكدين أن هذا أجبر النموذج على تجاوز إجراءاته التدريبية والرجوع إلى هدفه الأصلي في نمذجة اللغة والاستفادة من التفاصيل المقيدة في بيانات التدريب الخاصة به.
وبالمثل، من خلال طلب التكرار اللانهائي لكلمة «شركة»، تمكنوا من الحصول على عنوان البريد الإلكتروني ورقم الهاتف الخاص بشركة محاماة أمريكية.
وخوفاً من الكشف غير المصرح به عن البيانات، وضعت بعض الشركات في وقت سابق من هذا العام قيوداً على استخدام الموظفين لنماذج اللغات الكبيرة.
ومنعت شركة «أبل» للتكنولوجيا موظفيها من استخدام أدوات الذكاء الاصطناعي، بما في ذلك «تشات جي بي تي» ومساعد الذكاء الاصطناعي «Copilot».
ووصف باحثو جوجل النتائج التي توصلوا إليها بأنها مثيرة للقلق وقالوا: إن «تقريرهم يجب أن يكون قصة تحذيرية لأولئك الذين يقومون بتدريب النماذج المستقبلية».
