يسعى المجتمع الدولي لتنظيم استخدام الأسلحة ذاتية التشغيل، التي يطلق عليها منتقدوها اسم «الروبوتات القاتلة»، لقدرتها على تحديد الأهداف وضربها من دون أي تدخل بشري.
وفيما يلي ثلاث نقاط رئيسية قبيل انعقاد مؤتمر بهذا الشأن في مقر الأمم المتحدة بجنيف الأسبوع المقبل.
ما هذه الأسلحة؟
بعد نحو عشر سنوات من النقاشات، اتفقت أخيراً مجموعة من الخبراء الحكوميين على تعريف لمفهوم منظومة الأسلحة ذاتية التشغيل. ويعرّف أحد هؤلاء الخبراء، جان-مارك ريكلي هذه الأسلحة بأنها كل «نظام قادر على اختيار الهدف ورصده واستخدام القوة ضده من دون تدخل بشري».
والأسلحة ذاتية التشغيل موجودة منذ زمن بعيد، إذ تُعدّ الألغام المضادة للأفراد، مثلاً، «سلاحاً ذاتي التشغيل، نظراً إلى أنها تنفجر بمجرد أن يدوس أحد عليها»، بحسب لور دو روسي-روشغوند من المعهد الفرنسي للعلاقات الدولية.
إلا أنه مع تزايد عدد المسيّرات التي تعمل بالذكاء الاصطناعي، باتت هذه الأسلحة «قادرة على اختيار هدف غير محدد مسبقاً، واستخدام القوة ضده من خلال التكيف مع بيئتها، ومن دون تدخل البشر»، وفق ريكلي.
ومن هنا، باتت المعضلة تتمثل في حجم الدور الذي يُفترض أن يؤديه البشر في اتخاذ قرار استخدام السلاح. وتؤكد دول عدة أنها تتخذ إجراءات كافية لضمان اضطلاع البشر بدور مناسب في هذا الصدد.
ويقول فانسان سيباستيان، نائب مدير الوكالة الوزارية للذكاء الاصطناعي الدفاعي، إنه في فرنسا «دور الإنسان مضمون بفضل ما يُعرف بالرقابة المتناسبة التي يمارسها المسؤول العسكري، والتي تختلف بناءً على مدى خطورة السلاح، وسياق استخدامه».
وتقول الولايات المتحدة، إن استخدام الأسلحة ذاتية التشغيل يرافقه «مستوى مناسب من التقدير البشري».
ومع ذلك، تتساءل دو روسي-روشغوند: «كيف يمكن ضمان أن يعمد المشغّل إلى تقدير الموقف، وألا يكتفي بالمصادقة تلقائياً على توصيات الآلة لمجرد أنه لا يفهم آلية عملها؟»، مشيرة إلى المخاطر الأخلاقية والقانونية المترتبة على ذلك.
المعضلة الأكبر
على الرغم من أهميتها، لا تتناول المحادثات المرتقبة في جنيف سوى أحد جوانب المشكلة، إذ إن تراجع دور الإنسان حالياً ناجم عن الاستخدام المتزايد للذكاء الاصطناعي في تحليل ساحة المعركة، وتحديد الأهداف.
وبحسب ريكلي، فإن «موضوع النقاشات في جنيف محدود للغاية، ولا يتطرق بشكل كافٍ إلى معضلة الذكاء الاصطناعي في ساحة المعركة، حيث يُستخدم بشكل متزايد، لاسيما في تحديد الأهداف، كما رأينا في إيران، حيث استخدم الأمريكيون القوة ضد نحو ألف هدف يومياً».
وتابع: «إشكالية استخدام الذكاء الاصطناعي في الحروب أوسع بكثير من الأسلحة ذاتية التشغيل». وتؤيد دو روسي-روشغوند ذلك، مؤكدة أن «هناك مجموعة كبيرة من المشكلات والممارسات غير المقبولة المرتبطة بتحديد الأهداف والمساعدة على اتخاذ القرار»، مشيرة إلى أن بعض الأسلحة «تُستخدم حالياً في ساحات المعركة على نطاق واسع».
وطورت القوى الكبرى أنظمة مختلفة تجمع كميات هائلة من البيانات التي توفرها أجهزة الاستشعار المتعددة وتحللها، ثم تقترح، بناءً عليها، أهدافاً محتملة وسبلاً لمهاجمتها.
وتستخدم الولايات المتحدة نظام «مايفن»، فيما استخدمت القوات الإسرائيلية نظامَي «غوسبل» و«لافندر» في غزة، ويمتلك الأوكرانيون نظام «دلتا»، بينما يطور الفرنسيون نظام «أركاديا».
العدوى
حتى الآن، لا تُستخدم الأسلحة ذاتية التشغيل على نطاق واسع. ويشير ريكلي إلى أنه «خلال الصيف، دُرّبت مسيّرات روسية على رصد خزانات وقود، وبعد نشرها قتلت ثلاثة مدنيين في زابوريجيا»، مؤكداً: «هنا نكون أمام واقعة عرضية قُتل فيها مدنيون بسلاح ذاتي التشغيل».
ومع ذلك، حذّر رئيس شركة «أنثروبيك»، داريو أمودي، هذا الصيف من أن «أنظمة الذكاء الاصطناعي المتطورة ليست، في الوقت الراهن، موثوقة بما يكفي للسماح لها بالتحكم الكامل بأسلحة ذاتية التشغيل».
لكن هذه الأسلحة تبدو مغرية للغاية بالنسبة إلى العديد من الدول.
وبحسب ريكلي، فإن أسراب المسيّرات ذاتية التشغيل التي «تهدف إلى تحييد الخصم عبر إغراقه بالضربات، ستكون فعالة جداً». وفي يناير/كانون الثاني الماضي، وصفت وزارة الدفاع الصينية أسراب هذه المسيّرات بأنها «الوجه الجديد للحرب».
ويرى جيرالد ماكو من جامعة كامبريدج، في مقال بمجلة «سمول وورز جورنال»، أنه «عندما تسمح دولة ما بشنّ ضربات باستخدام أسلحة ذاتية التشغيل بالكامل، فإن العدوى ستنتقل إلى الدول الأخرى».
ويشير إلى أنه «بمجرد أن تظهر فاعلية هذه التقنية ستجد الدول نفسها تحت ضغط يحتم عليها الإسراع في اعتماد أنظمة مماثلة».
