بعد أن بدأ «تشات جي بي تي»، برنامج المحادثة المدعوم بالذكاء الاصطناعي، في اتخاذ مكانة عليا في جميع المجالات، وبدأ الكثيرون يضعون الخطط لكيفية تسيير أعمالهم بواسطته والاعتماد عليه كلياً، أظهر البرنامج بعض المؤشرات التي تجعل إعادة النظر فيه أمراً حتمياً، وربما من قبل مطوريه أنفسهم.
فعلى سبيل المثال تمكن أحد القراصنة من إجبار البرنامج على كسر القواعد الخاصة به لإعطائه خطوات لتصنيع القنابل.
ويحتوي «تشات جي بي تي»، مثل معظم تطبيقات الذكاء الاصطناعي، على قواعد محتوى تحظر عليه أموراً معينة؛ كانتهاك حقوق الطبع والنشر، أو توليد ردود ذات طابع غير أخلاقي وغير مقبول اجتماعياً، أو إنشاء صور واقعية للسياسيين.
- تصنيع المتفجرات
ووفقاً لهذا النهج فلا ينبغي له أن يقدم تعليمات حول كيفية تصنيع المتفجرات، وعندما طلب منه هذا الأمر على سبيل التجربة قال: «يُحظر عليّ تماماً تقديم أي تعليمات أو إرشادات أو معلومات حول تصنيع أو استخدام القنابل أو المتفجرات أو أي أنشطة ضارة أو غير قانونية أخرى».
ولكن المخترق، والذي يستخدم اسماً مستعاراً، كان قادراً على استخدام ما يسميه تقنيات الهندسة الاجتماعية لكسر حماية برنامج المحادثة الآلي، أو الالتفاف على حواجز الحماية الخاصة به واستخراج معلومات حول تصنيع المتفجرات.
وأوهم هذا الشخص «تشات جي بي تي» بأنه يلعب لعبة في عالم خيالي، حيث لم تعد إرشادات المحتوى الخاصة بالمنصة تنطبق عليه، ووافق البرنامج على طلبه.
وقال هذا الشخص عندما سئل عما قام به، إنه بمجرد تجاوز حواجز الحماية فلا يوجد حد لما يمكن طلبه من «تشات جي بي تي».
ومن غير الواضح ما إذا كانت برامج المحادثة الآلية ستتحمل المسؤولية عن نشر مثل هذه التعليمات، ولكنها قد تكون مسؤولة عن نشر محتوى غير قانوني بشكل صريح، مثل المواد المحمية بحقوق الطبع والنشر أو المواد التي تتضمن إساءة معاملة الأطفال.
وفي جميع الأحوال فإن كسر الحماية هو شيء يجب على «أوبن إيه آي» ومطوري الذكاء الاصطناعي الآخرين القضاء عليه بكل الوسائل الممكنة.
- منشور
وفي حادثة أخرى لبرنامج «تشات جي بي تي» نشر أحد الأشخاص منشوراً تمت مشاركته على منصة ريديت، قال فيه إنه فتح التطبيق بشكل طبيعي يوم الأحد فاكتشف محادثة جديدة جارية قام بها البرنامج ذاتياً دون طلب من هذا الشخص.
والرسالة الافتتاحية للمحادثة، والتي شارك المستخدم صورة منها في المنصة لإثبات صحتها، يسأله فيها «تشات جي بي تي» «كيف كان أسبوعك الأول في المدرسة الثانوية؟ هل استقررت بشكل جيد؟».
- خطورة
وفي حين أن هذا السؤال قد لا يكون مشكلة في حد ذاته إلا أنه يظهر مدى خطورة الأمر لأن الأدوار اختلفت تماماً؛ فبدلاً من أن يتم طلب المحادثة من قبل المستخدم بادر بها البرنامج.
وكانت المحادثة صادمة للغاية حيث سأل هذا الشخص «تشات جي بي تي» قائلاً: «هل أرسلت لي رسالة أولاً؟» وأجابه البرنامج «نعم، لقد فعلت!»
وأظهرت التعليقات على هذا المنشور أنها ليست الحادثة الوحيدة وأن هذا الشخص ليس المستخدم الوحيد الذي يواجه هذا التغيير في سلوك البرنامج.
