هل يشعل الذكاء الاصطناعي حربا بسبب إنذار خاطئ؟

قد لا تبدأ أخطر لحظات الحرب حين يقرر قائد شن الهجوم، بل حين يعتقد أن الهجوم أصبح وشيكا. ففي أوقات التوتر العسكري، قد يكون الفرق بين الاستعداد لهجوم محتمل وتفسير تحرك على أنه بداية هجوم فعلي ضيقا، خصوصا عندما تتدفق المعلومات بسرعة ويُطلب من القادة اتخاذ قرارات في وقت محدود.

تخيل أن نظاما للذكاء الاصطناعي يرصد تحركات غير مألوفة لطائرات أو سفن عسكرية، ويصنفها بوصفها مؤشرا على تهديد محتمل. قد يكون الرصد صحيحا، لكن تفسير هذه التحركات باعتبارها استعدادا لهجوم وشيك يظل غير مؤكد. وإذا دفعت التوصية الآلية القيادة إلى رفع حالة التأهب أو إعادة تموضع قواتها، فقد يفسر الطرف الآخر هذه الخطوات على أنها استعداد للهجوم، ويتخذ إجراءات مضادة.

في هذه الحالة، لا يكون الذكاء الاصطناعي قد اتخذ قرار الحرب، لكنه يكون أسهم في تغيير سلوك الأطراف وطريقة تفسيرها لتحركات بعضها. وهنا يبرز سؤال يتجاوز قدرة الأنظمة على تحليل المعلومات: ماذا لو لم يكن الخطر في أن يتخذ الذكاء الاصطناعي القرار، بل في أن يدفع الإنسان إلى اتخاذه قبل أن يمتلك الوقت الكافي للتحقق؟

لا يعني اكتشاف تحرك عسكري فهم الغرض منه. فقد يرصد النظام نشاطا غير معتاد بدقة، لكنه لا يستطيع الجزم وحده بما إذا كان مناورة أو إجراء احترازيا أو استعدادا لعملية هجومية. وفي بيئة يسودها التوتر وانعدام الثقة، قد تتحول فرضية غير مؤكدة إلى تقدير تهديد تتعامل معه القيادة باعتباره حقيقة.

وهذا الخطر تم تناوله مؤخرا في بحث بعنوان "الذكاء الاصطناعي واتخاذ القرار العسكري: عندما يسبق الإنذار الفهم" (AI and Military Decision-Making: When Warning Outruns Understanding)، صادر عن معهد "إس راجاراتنام للدراسات الدولية" (RSIS) في سنغافورة.

وفي هذا البحث يناقش دينيس فوا، المتخصص في الدراسات الإستراتيجية والأمن، الأخطار الناشئة عن سبق سرعة الإنذار القدرة على فهم الموقف.

وفي حديثه للجزيرة نت، يوضح فوا -وهو طالب ماجستير في المعهد- أن الإنذار الصادر عن الذكاء الاصطناعي لا يحتاج إلى أن يكون خاطئا كليا حتى يصبح خطرا، فقد يرصد النظام تحركات جوية أو بحرية غير مألوفة على نحو صحيح، بينما يظل الاستنتاج بأن الهجوم وشيك أمرا غير مؤكد، إذ قال: "عند هذه النقطة، يكون الإنذار قد بدأ في تغيير الوضع الذي كان من المفترض أن يقيّمه".

فإذا رفعت حكومة مستوى التأهب خشية أن تتعرض لهجوم، فقد يرى الطرف المقابل التحركات الناتجة عن ذلك من دون أن يعرف أسبابها، فيفسرها باعتبارها استعدادا لعمل هجومي، ويتخذ بدوره إجراءات احترازية، وقد تنظر الحكومة الأولى إلى هذه الإجراءات بوصفها دليلا إضافيا على وجود نيات عدائية.

ويصبح الخطر أشد، بحسب فوا، عندما تكون الإجراءات الاحترازية مرئية للطرف الآخر، ويصعب التراجع عنها، وتُتخذ قبل اختبار تفسيرات بديلة. وعندما يبدأ كل من الطرفين الاستجابة لتحركات الآخر، قد لا يكفي تصحيح التقدير الأولي وحده لاحتواء الأزمة.

وتكشف حوادث الإنذار العسكري السابقة حساسية القرارات المبنية على معلومات ملتبسة. ففي عام 1983، لم يعتبر الضابط السوفياتي ستانيسلاف بيتروف إنذار نظام الإنذار المبكر، الذي أشار إلى إطلاق صواريخ أمريكية، دليلا كافيا على وقوع هجوم. وفي عام 1995، أثار إطلاق صاروخ علمي نرويجي مخاوف داخل روسيا من احتمال وقوع هجوم صاروخي.

لم تنتج الحادثتان عن الذكاء الاصطناعي، لكنهما توضحان كيف يمكن لتفسير إشارة غير مكتملة أن يضع صانع القرار أمام خيارات خطرة. فالمشكلة لا تكمن في وجود إنذار فحسب، بل في كيفية تقييمه قبل الاستجابة له.

يتزايد دمج الذكاء الاصطناعي في الأنظمة العسكرية المخصصة للإنذار ودعم القرار. ففي عام 2024، أجرت شركات اتفاقية "أوكوس" (Aukus) تجارب ضمن مبادرة لتطوير تقنيات الذكاء الاصطناعي المرنة والمستقلة، لاستكشاف القدرات العسكرية المستقلة والمدعومة بهذه التقنيات.

وفي السياق نفسه، واصلت الولايات المتحدة تطوير نظام "مافن الذكي" (Maven Smart System)، الذي يدعم دمج بيانات المستشعرات واكتشاف الأجسام وتتبعها، إلى جانب دعم اتخاذ القرار.

لكن معالجة البيانات بسرعة لا تحسم وحدها جودة التقدير الناتج عنها. فالمسألة تشمل أيضا كيفية اختبار النظام، ومعرفة الظروف التي قد يخطئ فيها، وإمكان مراجعة مخرجاته قبل الاستناد إليها في قرار عسكري.

وتتناول دراسة "إعادة التفكير في التفاعل بين الإنسان والآلة وحوكمة الذكاء الاصطناعي في المجال العسكري" (Re-thinking human-machine interaction and the governance of AI in the military domain) التي نشرتها مجلة "نيتشر ماشين إنتليجنس" (Nature Machine Intelligence) عام 2026 هذه المسألة، حيث يرى الباحثون أن السيطرة البشرية لا ينبغي أن تُفهم باعتبارها إجراء يحدث لحظة اتخاذ القرار النهائي فقط، بل يجب أن تشمل دورة حياة النظام، من تطويره واختباره إلى تقييمه والتحقق من صلاحيته.

وتشمل التوصيات آليات للاعتراض والتحقق، ومقارنة مخرجات الذكاء الاصطناعي بمصادر أخرى، وتدريب المستخدمين على سيناريوهات غير متوقعة وبيانات محدودة، إلى جانب توثيق الإجراءات والقرارات.

وتعني هذه المقاربة أن وجود إنسان في نهاية سلسلة القرار لا يكفي وحده لضمان الرقابة الفعلية. إذ ينبغي أن يمتلك القدرة على فهم التوصية واختبارها والاعتراض عليها، لا أن يقتصر دوره على الموافقة عليها.

تظهر صعوبة أخرى عندما يتلقى المسؤول إنذارا في وقت حساس، بينما تظل المعلومات اللازمة لفهمه ناقصة أو قابلة لتفسيرات مختلفة. فقد يبدو الانتظار لجمع معلومات إضافية مخاطرة، في حين ينطوي اتخاذ إجراء فوري على احتمال الاستناد إلى تقدير غير دقيق.

ولا ينبغي افتراض أن البشر يقبلون توصيات الأنظمة الآلية دائما أو يرفضونها تلقائيا. فالسؤال هو كيف يتعاملون معها في ظروف مختلفة، ومتى يثقون بها أو يشككون فيها، وكيف تؤثر تكلفة الخطأ في أحكامهم.

وتتناول دراسة "حرب الصندوق الأسود: الحكم البشري واتخاذ القرار العسكري في عصر الذكاء الاصطناعي" (Black Box Warfare: Human Judgment and Military Decision-making in the Age of AI)، العلاقة بين التوصيات الخوارزمية والحكم البشري في القرارات العسكرية. وتكتسب هذه المسألة أهميتها من ضرورة فهم كيفية تفاعل صانعي القرار مع مخرجات الأنظمة، بدل افتراض أن وجود توصية آلية يقود بالضرورة إلى قبولها أو أن وجود مسؤول بشري يضمن مراجعتها بصورة كافية.

ويؤكد فوا أن الموافقة البشرية وحدها لا تضمن وجود رقابة فعلية، قائلا: "موافقة شخص بشري على القرار النهائي لا تكفي إذا لم تتح له فرصة حقيقية لمراجعة التقدير والاعتراض عليه".

ويحتاج صانعو القرار، بحسبه، إلى التمييز بين ما رصده النظام فعلا وما استنتجه بشأن نية الخصم، ومعرفة المعلومات الناقصة والتفسيرات البديلة التي لا تزال محتملة، والتحقق مما إذا كانت هناك مصادر مستقلة تؤكد الإنذار.

وعندما يسمح الوقت، ينبغي أن يتولى تقييم استخباري منفصل اختبار تفسير النظام والتشكيك فيه، بدلا من مجرد تكرار استنتاجاته.

إذ لا تتعلق الرقابة البشرية بمجرد وجود شخص يوافق على التوصية، بل بقدرته على طلب معلومات إضافية ورفض التقدير أو تعديل الاستجابة بناء على الأدلة المتاحة.

لا يقتصر القلق من الذكاء الاصطناعي على احتمال إساءة تحليل المعلومات العسكرية بل يمتد إلى الطريقة التي يمكن أن تؤثر بها مخرجاته في تصور القادة للأزمة والخيارات المتاحة أمامهم، خصوصا في السياقات النووية التي قد تكون فيها عواقب الخطأ شديدة.

وفي هذا السياق، تناقش دراسة بعنوان "الذكاء الاصطناعي التوليدي والاستشراف الاصطناعي عند حافة الهاوية: مستقبل اتخاذ القرار في الأزمات النووية" (GenAI and Synthetic Foresight at the Brink: The Future of Nuclear Crisis Decision-Making)، دور الذكاء الاصطناعي التوليدي في تشكيل تصورات القادة عن نية الخصم ومسارات التصعيد المحتملة.

ويطلق على هذه العملية مفهوم "الاستشراف الاصطناعي" (Synthetic Foresight)، لوصف إنتاج تصورات خوارزمية عن سيناريوهات مستقبلية يمكن أن تؤثر في القرارات التي تُتخذ استعدادا لها.

وتطرح الدراسة أخطارا عدة، من بينها أن يؤدي تكرار محاكاة سيناريوهات شديدة الخطورة إلى منحها وزنا أكبر في التخطيط، وأن تدفع الثقة في التقديرات الآلية إلى تفسير التحركات الملتبسة بوصفها دليلا على نية عدائية.

أما الخطر الثالث، فيتمثل في حلقات التغذية الراجعة، إذ قد تؤثر السيناريوهات التي ينتجها النظام في قرارات أحد الأطراف، ثم تصبح هذه القرارات نفسها مؤشرات يفسرها الطرف الآخر باعتبارها دليلا على تهديد. وهكذا قد يسهم التقدير الأول في تشكيل التطورات التي تبدو لاحقا وكأنها تؤكده.

ولتوضيح هذه الآلية، تعرض الدراسة سيناريو افتراضيا لأزمة بين الهند وباكستان عام 2029، تبدأ بعد تفجير في كشمير. في هذا السيناريو، يقدر نظام ذكاء اصطناعي هندي احتمال استعداد باكستان لإرسال إشارة نووية، بينما يفسر نظام باكستاني التحركات الهندية باعتبارها استعدادا لضربة استباقية. وتؤدي إجراءات رفع الجاهزية التي يتخذها الطرفان إلى تعزيز شكوك كل منهما تجاه الآخر، إذ تقرأ التحركات الدفاعية باعتبارها مؤشرات على نوية هجومية.

ومع تزايد الاعتماد على التقديرات الآلية وضيق الوقت المتاح لاتخاذ القرار، تتراجع مساحة التفسيرات البديلة وفرص التواصل الدبلوماسي، بما قد يدفع الأزمة نحو تصعيد خطير.

وتؤكد الدراسة أن هذا السيناريو افتراضي، ولا يمثل وصفا لحادثة وقعت بالفعل أو دليلا على أن الذكاء الاصطناعي تسبب في أزمة نووية. وإنما يوضح كيف يمكن للمخرجات الخوارزمية، إذا عوملت باعتبارها تقديرات مؤكدة، أن تؤثر في تصورات القادة وقراراتهم، فتُسهم في خلق الظروف التي تجعل السيناريوهات التحذيرية أقرب إلى التحقق.

إذا أسهم تقدير آلي في دفع قرار عسكري نحو التصعيد، فإن المساءلة لا تتعلق فقط بما إذا كان النظام قد أخطأ، بل تشمل أيضا من صممه واختبره، ومن قرر استخدامه، وكيف عُرضت مخرجاته على المسؤولين، وما إذا كانت هناك آليات لمراجعتها قبل اتخاذ الإجراء.

وفي تقرير نشرته وكالة رويترز في 17 سبتمبر/أيلول 2026، تناول خبراء أمنيون أمريكيون وصينيون مقترحات لوضع ضمانات للحد من أخطار الذكاء الاصطناعي، مستلهمة من بعض مبادئ الضوابط النووية. وشملت المقترحات خطوطا حمراء تتعلق بدمج الذكاء الاصطناعي في الأنظمة النووية، والإبقاء على السيطرة البشرية على الهجمات السيبرانية ذات العواقب الخطيرة، وإنشاء قناة اتصال للتعامل مع الحوادث المرتبطة بأنظمة الذكاء الاصطناعي المستقلة.

وأشار التقرير إلى أن الرئيس الأمريكي جو بايدن والرئيس الصيني شي جين بينغ أكدا عام 2024 مبدأ أن يظل البشر، لا الذكاء الاصطناعي، أصحاب القرار بشأن استخدام الأسلحة النووية. لكن الاتفاق على المبدأ لا يحسم وحده كيفية تطبيقه عمليا، ولا يضمن توافر الوقت والمعلومات اللازمين لمراجعة التقديرات أثناء الأزمات.

ويؤكد فوا أهمية وضع إجراءات الاستجابة مسبقا، بحيث تميز المؤسسات العسكرية بين الإنذارات الداخلية والتدابير الاحترازية القابلة للتراجع من جهة، والتحركات العسكرية الظاهرة أو التهديدات العلنية والالتزامات التي قد تغير حسابات الطرف الآخر من جهة أخرى.

وقبل اتخاذ خطوات أكثر تأثيرا، ينبغي أن يعرف القادة من يملك صلاحية الاعتراض على الاستجابة، أو إيقافها، وما الأدلة الجديدة التي تستوجب إعادة التقييم، ومتى يجب مراجعة القرار، وفق فوا.

ويضيف المتخصص في الدراسات الإستراتيجية والأمن أن بعض الأزمات قد تجعل الانتظار خطرا، ولذلك يجب وضع الضمانات واختبارها مسبقا، لا انتظار اندلاع الأزمة لمعرفة مدى فاعليتها.

ويلخص فوا هذه المفارقة بقوله: "الإنذارات الأسرع يمكن أن تمنح القادة وقتا أطول لاتخاذ قرارات جيدة، لكن فقط إذا كانت عملية اتخاذ القرار تسمح لهم باستخدام ذلك الوقت". ويعرّف السيطرة البشرية الفعلية بأنها "الحفاظ على القدرة على التشكيك في الإنذار، والاختيار بين بدائل حقيقية، وتغيير المسار مع تطور الأدلة".

لا يثبت كل ما سبق أن الذكاء الاصطناعي تسبب في اندلاع حرب بسبب إنذار خاطئ، لكنه يكشف كيف يمكن أن يسهم في ظروف التصعيد، حين يتحول رصد صحيح لتحرك عسكري إلى استنتاج غير مؤكد بشأن نية الخصم، ثم يدفع هذا الاستنتاج إلى قرار متسرع يفسره الطرف الآخر باعتباره تهديدا.

لذلك، لا يتوقف الخطر على دقة الأنظمة، بل على قدرة المؤسسات العسكرية على اختبار تقديراتها ومراجعتها قبل أن تتحول إلى تحركات يصعب التراجع عنها. فقد لا تبدأ الحرب بقرار تتخذه الآلة، بل بسلسلة من القرارات البشرية التي تتعامل مع إنذار غير محسوم كما لو أنه حقيقة.