توهّم من الذكاء الاصطناعي كاد يتسبب في عملية عسكرية أمريكية

كانت طائرات عسكرية موجودة بالفعل في الجو هذا الربيع عندما توصل مسؤولون أمريكيون إلى اكتشاف مثير للقلق: أن المعلومات الاستخباراتية التي دفعت عملية عسكرية ضد سفينة صينية كانت نتاج توهّم من روبوت محادثة يعمل بالذكاء الاصطناعي، بحسب ما ذكرته شبكة CNN يوم الجمعة. وأُلغيت العملية في اللحظة الأخيرة، ما جنّب البلدين بالكاد نزاعاً محتملاً مع الصين. وأشار التقرير الاستخباراتي، الذي تداولته الجهات المعنية خلال الحرب مع إيران، إلى أن السفينة كانت تحمل مكونات لبرنامج أسلحة نووية.

ونشأت هذه المعلومات الاستخباراتية الخاطئة من محلل في قيادة العمليات الخاصة استخدم روبوت محادثة يعمل بالذكاء الاصطناعي لدمج بيانات مفتوحة المصدر مع معلومات استخباراتية إشارية مصنَّفة سرية؛ فأخطأ الروبوت في تحديد بيان شحنة السفينة. واستخدم المحلل الأداة مرة ثانية لصياغة النتائج الخاطئة في ملخص يبدو رسمياً، تم تداوله عبر قنوات القيادة. وتسلط هذه الحادثة الضوء على قلق متزايد بين المسؤولين العسكريين والخبراء الخارجيين: فمع تزايد اعتماد صانعي القرار على الذكاء الاصطناعي، يمكن أن تنتقل الأخطاء التي تنتجها هذه الأنظمة عبر سلسلة القيادة قبل أن يتم التشكيك فيها.

وتأتي هذه الحادثة القريبة من الوقوع في وقت يسارع فيه الجيش الأمريكي إلى دمج الذكاء الاصطناعي لتسريع اتخاذ القرار والحفاظ على تقدمه على الصين. وقد وصفت وزارة الدفاع الأمريكية (البنتاغون) الذكاء الاصطناعي بأنه يوفر ميزة كبيرة في تسريع “سلسلة القتل” الخاصة بها ليتمكن القادة من الاستجابة في الوقت المناسب - لكن السرعة نفسها التي تجعل الذكاء الاصطناعي جاذباً قد تسمح أيضاً بانتشار التوهمات في ظل رقابة بشرية غير كافية. وقال Jake Steckler، الباحث في GovAI والضابط المتقاعد في الجيش الأمريكي، في رد كتابي لـTechCrunch: “من المهم أن يفهم أفراد القوات العسكرية عدم اليقين الملازم لنماذج اللغة الكبيرة (LLM). لكن هذا أمر بالغ الأهمية بشكل خاص بالنسبة لأي قرارات قد تؤدي إلى استخدام القوة، مثل تحديد الأهداف، أو تحليل المعلومات الاستخباراتية، أو التخطيط العملياتي. فهذه القرارات لها عواقب تتعلق بالحياة والموت”. ومع ذلك، قال Steckler إن الحادثة ينبغي أن تكون دعوة لإضافة ضوابط أمان أكثر للذكاء الاصطناعي، وليست سبباً لتجنبه: “يمكن أن تكون هذه الأدوات مفيدة في السياقات المناسبة ومع وجود ضوابط الأمان الصحيحة. لكن تفضيل سرعة التبني على كل شيء آخر سيؤدي على الأرجح إلى حوادث تجعل فقط أفراد القوات العسكرية يفقدون الثقة في هذه الأنظمة، وهو ما سيؤدي في النهاية فقط إلى تأخير تبنيها”.

لماذا يهم

إن كون بيان شحنة متوهَّم كاد يتسبب في هجوم يُظهر أن أخطاء الذكاء الاصطناعي في سلاسل المعلومات الاستخباراتية العسكرية يمكن أن تتصاعد أسرع من قدرة المراجعة البشرية على رصدها، ما يرفع حجم المخاطر المرتبطة بسرعة تبني الجيوش لأدوات الذكاء الاصطناعي في تحديد الأهداف وتحليل المعلومات الاستخباراتية.