حذر خبراء ومسؤولون علميون من أن التطور السريع لأنظمة الذكاء الاصطناعي بدأ يتجاوز بشكل مقلق قدرة البشر على فهمها واستيعاب طريقة عملها، في وقت تتسع فيه قدرة هذه الأنظمة على قراءة وفهم السلوك البشري بدقة غير مسبوقة.
وجاء هذا التحذير من إريك هورفيتز، كبير المسؤولين العلميين في شركة «مايكروسوفت»، وروبرت ويست، الباحث في المعهد الفدرالي السويسري للتكنولوجيا في لوزان. وأوضح الباحثان أن التكنولوجيا الحالية تندفع نحو مستويات من الغموض عبر ثلاثة اتجاهات رئيسية: أولها «الذكاء الاصطناعي المصمم ذاتياً»، حيث تقوم الأنظمة بتطوير وتحسين أنظمة أخرى داخل مساحات معقدة تعجز العقول البشرية عن ملاحقتها.
وثانيها نشوء بيئات تواصل وتفاعل معقدة بين الآلات وبعضها بلغات ومنطق يبتعد تدريجياً عن الإدراك البشري.
أما الاتجاه الثالث والأخطر، فهو نجاح الأنظمة التكيفية في بناء نماذج نفسية وسلوكية مفصلة للبشر، تفهم دوافعهم العميقة كالخوف، والشك، والحاجة للانتماء، بصورة قد تفوق فهم البشر لأنفسهم.
وشدد الباحثان على أهمية إلزام أنظمة الذكاء الاصطناعي بشرح خياراتها وآلياتها الداخلية بطرق مبسطة.
