أقدمت شركة آبل على توجيه تحذير داخلي إلى مطوري تطبيق غروك التابع لشركة xAI في يناير الماضي، وهددت بإمكانية إزالته من متجر التطبيقات، بعد رصد انتشار محتوى يعتمد على صور مزيفة ذات طابع لا أخلاقي وغير رضائي عبر منصات مرتبطة بالخدمة، وسط تصاعد شكاوى المستخدمين وتغطيات إعلامية واسعة للأزمة.
ووجهت الشركة مراسلات رسمية إلى القائمين على منصة إكس وتطبيق غروك، حيث طالبت بوضع خطة واضحة لتعزيز أنظمة الإشراف على المحتوى والحد من الانتهاكات، فيما اعتبرت أن مستوى الامتثال لم يصل إلى الحد المطلوب في تلك المرحلة، قبل أن تُبقي التطبيق تحت المراجعة مع استمرار النقاش حول المخاطر المرتبطة بالمحتوى الذي ينتجه الذكاء الاصطناعي، بحسب موقع ذي فيرج.
صور مزيفة تفتح أزمة رقابية واسعة
واجه تطبيق غروك موجة انتقادات بعد رصد قدرة أدواته على إنتاج صور مزيفة حميمية وغير مصرح بها لأشخاص حقيقيين، بما في ذلك شخصيات عامة، ما أثار مخاوف تتعلق بانتهاك الخصوصية واستغلال تقنيات الذكاء الاصطناعي في محتوى خادش وغير قانوني.
وكشفت التقارير أن آبل تواصلت مع شركتي إكس وxAI عقب ورود شكاوى ومتابعة إعلامية، وطالبت بإجراءات ملموسة للحد من هذه الظاهرة، فيما بقيت بعض أدوات الإنتاج البصري داخل النظام قادرة على تجاوز القيود رغم التعديلات المعلنة، ما دفع الشركة إلى التشديد على ضرورة تحسين آليات المراجعة.
مراجعات متأخرة وامتثال غير مكتمل
راجعت آبل لاحقاً التحديثات المقدمة من شركتي إكس وxAI، حيث اعتبرت أن منصة إكس عالجت جزءاً من المخالفات، بينما ظل تطبيق غروك غير ممتثل لفترة، قبل مخاطبته لتنفيذ تعديلات إضافية، مع التحذير من إمكانية الإزالة في حال استمرار المخالفات.
وأشارت التقارير إلى أن التطبيق حصل لاحقاً على موافقة آبل بعد تحسينات إضافية، إلا أن الجدل استمر حول فاعلية الضوابط، في ظل تقارير تفيد بإمكانية إنتاج محتوى صريح عبره بسهولة نسبية رغم التحديثات المعلنة.
