لم تعد المخاوف المرتبطة بالذكاء الاصطناعي في المجال العسكري محصورة في احتمال امتلاك الجيوش أسلحة أكثر دقة أو أنظمة أكثر قدرة على جمع المعلومات وتحليلها، فالخطر الأعمق يتمثل في ظهور أنظمة قادرة على العمل بدرجات متزايدة من الاستقلالية، بما يسمح لها برصد التهديدات، وتحليل كميات هائلة من البيانات، وتحديد الأهداف، وتنسيق العمليات، والاستجابة في فترات زمنية قد تصبح أقصر من أن تسمح بالتدخل البشري الفعال.

وهنا تتغير طبيعة الحرب نفسها، فكلما ازدادت سرعة اتخاذ القرار العسكري، تقلصت المساحة الزمنية المتاحة للإنسان للتثبت، والمراجعة، وطلب التوضيح، والتراجع عن القرار، وقد يؤدي ذلك إلى نشوء حلقة تصعيد متسارعة تشمل نظام يفسر تحركاً معيناً باعتباره تهديداً، فيستجيب؛ فيلتقط النظام المقابل الاستجابة باعتبارها تهديداً جديداً، فيرد عليها؛ ثم تتوالى القرارات بسرعة قد تجعل السيطرة البشرية على مسار التصعيد أكثر صعوبة.

وهذا يعني أن الذكاء الاصطناعي قد لا يجعل الحرب أكثر دقة فحسب، بل قد يجعلها أسرع وأكثر اتساعاً وأقل قابلية للسيطرة، والأخطر من ذلك أن هذه الديناميكية قد تمتد إلى مجال أسلحة الدمار الشامل، فالنظام الدولي قام تاريخياً على مجموعة من الحواجز السياسية والقانونية والمؤسسية والتقنية التي تهدف إلى منع الاستخدام المتسرع للأسلحة الأكثر تدميراً، وفي مقدمتها الأسلحة النووية والكيميائية والبيولوجية، لكن كلما دخلت أنظمة ذاتية العمل في سلاسل الإنذار المبكر، وتقييم المخاطر، واتخاذ القرار العسكري، برز سؤال جوهري يتمحور حول ماذا يحدث إذا أصبحت سرعة الآلة أكبر من سرعة الضمانات التي صممها الإنسان لمنع الكارثة؟

والمشكلة هنا ليست أن الذكاء الاصطناعي «سيتخذ قراراً نووياً» بالضرورة، وإنما أن إدخاله في أجزاء متزايدة من منظومة القيادة والسيطرة والإنذار والاستجابة قد يضغط على الوقت المتاح لصانع القرار البشري، ويزيد مخاطر الخطأ في التقدير أو سوء تفسير البيانات أو الإنذار الكاذب أو التصعيد غير المقصود.
وهذا يفرض إعادة التفكير في مفهوم السيطرة البشرية الفعالة، فوجود إنسان في نهاية سلسلة القرار لا يكفي بالضرورة إذا كان الزمن المتاح أمامه لا يسمح له بفهم المعطيات أو اختبارها أو رفض توصية النظام بصورة حقيقية.

ومن منظور القانون الدولي لحقوق الإنسان والقانون الدولي الإنساني (قانون الحرب)، تتضاعف أهمية المسألة، فمبادئ التمييز والتناسب وقواعد الاشتباك والاحتياط في الهجوم تفترض وجود قدرة فعلية على تقييم الظروف المحيطة بالهجوم، وليس مجرد قدرة تقنية على معالجة البيانات، كما أن المسؤولية القانونية لا يمكن أن تختفي خلف عبارة "الخوارزمية قررت".

فالآلة لا تتحمل المسؤولية القانونية عن نتائجها؛ المسؤولية تقع في النهاية على البشر والدول والجهات التي صممت النظام أو نشرته أو استخدمته أو سمحت له بالعمل ضمن بيئة لا تضمن السيطرة والمساءلة، ولذلك فإن التحدي الحقيقي ليس طرح السؤال "هل نستخدم الذكاء الاصطناعي في الحرب؟" بل السؤال الأكثر خطورة هو "ما الحدود التي يجب ألا يسمح للآلة بتجاوزها عندما يتعلق الأمر بالحياة البشرية والسلام والأمن الدوليين؟".

إن العالم يحتاج إلى قواعد تضمن ألا تتحول السرعة إلى بديل عن التحقق، وألا تتحول الاستقلالية التقنية إلى استقلالية في استخدام القوة، وألا يصبح الإنسان مجرد «موافق أخير» على قرارات اتخذتها منظومات لا يستطيع فهمها أو إيقافها في الوقت المناسب.

وفي عصر الذكاء الاصطناعي، قد لا يكون أخطر سلاح هو السلاح الأكثر تدميراً، وإنما المنظومة التي تستطيع اتخاذ قرار استخدام القوة بسرعة تفوق قدرة الإنسان على إدراك أنه ارتكب خطأً، وهنا تكمن المفارقة المتمثلة في أن التكنولوجيا التي تعد بجعل الحرب أكثر دقة قد تجعل بدايتها أسهل، وتصعيدها أسرع، وإيقافها أصعب.