أعلنت شركة «بروف بوينت»، المتخصصة في الأمن السيبراني والامتثال عن إطلاق Proofpoint AI Security، أحدث حلولها الأمنية المصممة لحماية استخدام الذكاء الاصطناعي داخل المؤسسات، من خلال دمج تحليل مقاصد الاستخدام، ونقاط تحكم متعددة، وإطار تنفيذ متكامل. ويستند الحل إلى إطار Agent Integrity Framework الذي يحدد آليات تشغيل وكلاء الذكاء الاصطناعي، ضمن ضوابط واضحة، مع نموذج نضج من خمس مراحل يبدأ بالاكتشاف وينتهي بفرض السياسات أثناء التشغيل.
وبدأت تظهر مخاطر فعلية مثل تصعيد الصلاحيات والهجمات القائمة على حقن الأوامر دون تفاعل مباشر. طلب واحد من الذكاء الاصطناعي قد يؤدي إلى تنفيذ عشرات العمليات عبر أنظمة متعددة وبسرعة تفوق الإشراف البشري. الأدوات الأمنية الحالية تراقب الحركة والصلاحيات، لكنها تعجز عن تقييم ما إذا كان سلوك الذكاء الاصطناعي يعكس المقاصد التشغيلية الأصلية. وتشير أبحاث Acuvity إلى أن 70% من المؤسسات تفتقر إلى حوكمة فعالة للذكاء الاصطناعي، فيما تتوقع 50% منها وقوع خسائر بيانات مرتبطة به خلال 12 شهراً، ما يعكس الحاجة الملحّة لتعزيز الحماية.
وقال سوميت دهوان، الرئيس التنفيذي للشركة: «أصبح الذكاء الاصطناعي جزءاً أساسياً من بيئة العمل، ما يتطلب تطوراً موازياً في منظومات الأمن. يعمل الأفراد ووكلاء الذكاء الاصطناعي اليوم ضمن المنظومة نفسها، اذ يمكن التلاعب بكليهما وقد ينفّذان إجراءات تنحرف عن الغرض المحدد». ويمكن للمؤسسات اكتشاف أدوات الذكاء الاصطناعي المعتمدة وغير المعتمدة المستخدمة من قبل الأفراد والوكلاء