من تداعيات التطور التقني ودخولنا حقبة الذكاء الاصطناعي وتوظيفه في كثير من المهام والأعمال، والتي يُتوقع أن تتزايد، أن المسؤولية عند وقوع الخطأ باتت متعددة؛ فلم تعد مثل السابق محصورةً فيمن يقوم بالمهمة، بل هناك برنامجٌ، ومبرمجٌ، والمنفذُ أو المشغلُ.
ويمكن أن تكون الصورة أوضح في عمل شاركت في تنفيذه آلة ووقع خطأ، فيظهر سؤال: من المسؤول؟ والإجابة تكمن إما في الآلة التي أخطأت، أو في الذي صنعها وبرمجها، أو في الذي شغلها واستخدمها، وهو الطرف الذي تقع عليه المسؤولية في معظم الأوقات لأنه الأقرب ولأن له اسماً ويمكن استدعاؤه، وهذا تنتج عنه مشكلة من الممكن شرحها من خلال تصميم السيارات التي يوضع فيها مكان يسمى «منطقة الانسحاق»، وهي مقدمة السيارة التي تُصنع لتنهار عند الاصطدام لتمتص الصدمة وتحمي من هم في داخل السيارة من الركاب. ومن هذه الآلية استعارت الباحثة مادلين إيليش هذه الصورة، ووصفت ما يحدث في الأنظمة الآلية وأطلقت عليه مسمى: «منطقة الانسحاق الأخلاقية»، وقالت: «إن منطقة الانسحاق في السيّارة تحمي الإنسان، أما هذه فتحمي سلامة النظام على حساب أقرب إنسان إليه».
وهذا يعني أن مكان الإنسان في آخر السلسلة هدفه تلقي اللوم حين يقع خلل ما، أما النظام فيبقى في مكانه بلا مراجعة. ولو أننا سألنا: هل يملك هذا الإنسان فعلاً القدرة أو الصلاحيات أو المهارات لمنع الخطأ؟ لكانت الإجابة: لا؛ لأن مكانته التلقي ولا يملك الوقت ليقرر، ولا يعرف أصلاً كيف يشتغل النظام ولا كيف يستنتج، وأين يخطئ...إلخ. وكما ذكرت في مقال الأمس، فإن انتباه وتركيز الإنسان يتراجع حين تعمل الآلة، ومن هنا يتضح لنا أننا وضعنا هذا الإنسان في مكان يصعب من خلاله النجاح، والمشكلة أننا نحاسبه.
والحقيقة أن في الموضوع مشكلة أخرى قد تكون أوسع في أثرها وتتجاوز تحميل الإنسان المسؤولية، إلى عدم الاستفادة من الخطأ ومعالجته، حيث يقال إن الخطأ بشري ويتم تجاوزه، وهو ما يؤدي إلى بقاء الخطأ في النظام دون أي إصلاح. ولا أقصد أن يُعفى الإنسان من المسؤولية، بل أن تكون واضحة ومحددة، لأن السؤال ليس من الذي نلومه عندما يقع الخطأ، بل من نعطيه القدرة والصلاحية على منع الخطأ قبل أن يقع؟
هذا واحد من الموضوعات التي تدور حول الذكاء الاصطناعي؛ لأنه من المتوقع جداً أن يرتكب الأخطاء، وقد تكون كبيرة، ومن المهم فهم كيف ستتم المعالجة وعلى من تقع المسؤولية؟.
