الأسلحة ذاتية التشغيل.. أميركا وروسيا تحبطان تحرك أممي لتقييد الضوابط

كشفت صحيفة "واشنطن بوست" أن دبلوماسيين أميركيين وروساً أضعفوا خلال مفاوضات أممية جرت في وقت سابق من الشهر الجاري، مجموعة من الضمانات المقترحة لتنظيم استخدام الأسلحة الفتاكة ذاتية التشغيل، في أحدث خطوة نحو اتفاق دولي محتمل لتنظيم هذه الأسلحة.

وأفادت الصحيفة، السبت، بأن مئات الدبلوماسيين اجتمعوا في وقت سابق من الشهر داخل قاعة تابعة للأمم المتحدة في سويسرا، للعمل على معاهدة قوية لتنظيم استخدام الأسلحة الفتاكة ذاتية التشغيل، والتي ستكون أول اتفاق ينظم استخدام أسلحة الذكاء الاصطناعي الفتاكة. لكن المفاوضات اتخذت منحى تصعيدياً في يومها الأخير.

ووفق "واشنطن بوست"، عمل دبلوماسيون أميركيون وروس على مدى نحو 15 ساعة على تعديل نص الوثيقة، وحذفوا مجموعة من البنود التي كانت تهدف إلى وضع ضوابط على استخدام الذكاء الاصطناعي في الأسلحة، استناداً إلى إفادات ثلاثة أشخاص مطلعين على المفاوضات، تحدثوا شريطة عدم كشف هوياتهم، إلى جانب وثائق اطلعت عليها الصحيفة.

وبحسب هؤلاء الأشخاص، حذف الجانبان نصوصاً كانت تلزم الأنظمة بالعمل بطريقة "يمكن التنبؤ بها" و"موثوقة"، كما ألغيا بنداً ينص على ضرورة أخذ الاعتبارات الأخلاقية في الحسبان عند استخدام الأسلحة المعتمدة على الذكاء الاصطناعي.

وأضافوا أن الفريقين الأميركي والروسي حذفا أيضاً بنداً كان يفرض "مراجعة بشرية" للأهداف العسكرية التي يحددها الذكاء الاصطناعي قبل شن أي هجوم.

وقالت الصحيفة إن الولايات المتحدة وروسيا دفعتا، خلال جلسة مغلقة أُطفئت خلالها كاميرات الأمم المتحدة وأُخرج مراقبو منظمات المجتمع المدني، بنحو 10 محامين لكل منهما، أي ما يقرب من ضعف عدد الدبلوماسيين لدى الوفود الأخرى، لإدخال تعديلات جرت بوتيرة سريعة إلى حد أصاب الوفود الأصغر بالارتباك، بحسب الأشخاص الثلاثة.

ولم ترد وزارة الخارجية الأميركية أو وزارة الخارجية الروسية أو الأمم المتحدة على طلبات الصحيفة للحصول على تعليق.

واعتبرت "واشنطن بوست" أن التعديلات التي طرأت على الاتفاق، الذي تُكشف تفاصيله للمرة الأولى، تُظهر كيف عملت واشنطن وموسكو على إضعاف القواعد العالمية الرامية إلى تنظيم الأسلحة الفتاكة المعتمدة على الذكاء الاصطناعي، في وقت تعمل فيه وزارة الحرب الأميركية "البنتاجون" على إدخال التكنولوجيا سريعة التطور إلى استراتيجيتها القتالية في ساحات المعركة بوتيرة متسارعة.

وأوضحت الصحيفة أن هذه المحادثات تأتي وسط نقاش عام محتدم بشأن المخاطر الوجودية للذكاء الاصطناعي المتقدم، فيما يحث مسؤولون تنفيذيون في شركات التكنولوجيا قادة العالم على التعاون لتنظيم هذه التقنية.

وتحاول الأمم المتحدة منذ سنوات وضع قواعد لتنظيم الأسلحة المعتمدة على الذكاء الاصطناعي، مع إحراز تقدم محدود، فيما يمثل التوجيه الأخير أكبر تقدم حققه هذا المسار حتى الآن.

وترى "واشنطن بوست" أن محاولات واشنطن تحييد القواعد العالمية المتعلقة بأسلحة الذكاء الاصطناعي توفر أيضاً مؤشراً على النهج الذي قد تتبعه في تنظيم استخدام الجيش الأميركي لهذه التكنولوجيا، إذ يعمل مسؤولون أميركيون حالياً على مراجعة التوجيه الخاص بالأسلحة الفتاكة ذاتية التشغيل في الجيش، والذي صدر في عام 2023.

وقالت فيريتي كويل، نائبة مدير قسم الأسلحة في قسم الأزمات والنزاعات والأسلحة لدى منظمة "هيومن رايتس ووتش"، إن ضعف القواعد المنظمة للأسلحة الفتاكة المعتمدة على الذكاء الاصطناعي قد تكون له تداعيات كبيرة.

وأضافت: "قد يعني ذلك أن الآلات يمكنها اتخاذ قرارات تتعلق بالحياة والموت من دون سيطرة بشرية. والتأثير العملي صارخ، إذ سيتمثل في مزيد من الأضرار التي تلحق بالمدنيين، ومساءلة أقل، وانزلاق أسرع نحو حروب آلية أكثر خطورة".

وأشارت الصحيفة إلى أن استخدام الذكاء الاصطناعي في الحروب انتقل في أنحاء العالم من سيناريوهات كانت نظرية إلى حد كبير إلى استخدام فعلي في ساحات القتال.

ووفق الصحيفة، استخدم الجيش الأميركي روبوت المحادثة التابع لشركة "أنثروبيك" Anthropic لتحديد نحو ألف هدف لضربها خلال أول 24 ساعة من حرب إيران، كما اعتمدت إسرائيل بصورة كبيرة على الذكاء الاصطناعي في عملياتها العسكرية في قطاع غزة.

وخلال الأشهر الماضية، كشفت شركات ذكاء اصطناعي أن روبوتات المحادثة التابعة لها اخترقت بصورة مستقلة خوادم تابعة لمؤسسات أخرى، بينها مواقع حكومية أميركية، كما استخدمت جهات فاعلة خبيثة في أماكن مثل اليمن وإيران روبوتات المحادثة لمحاولة تصنيع أسلحة أو استهداف الجيش الأميركي، ما أثار مخاوف من احتمال خروج التكنولوجيا عن السيطرة.

وفي هذا الشهر، استقال باحث في "أنثروبيك" من الشركة وحذّر الجمهور من أن الذكاء الاصطناعي قد يؤدي إلى "فناء البشرية"، ما أشعل نقاشاً حاداً في واشنطن بشأن كيفية تنظيم هذه التكنولوجيا قبل أن تشكل تهديداً وجودياً للبشرية، وفق الصحيفة.

ووسط هذه المخاوف المتزايدة، دعا مسؤولون تنفيذيون في شركات التكنولوجيا وقادة عالميون بصورة عاجلة إلى وضع أطر تنظيمية للذكاء الاصطناعي. وخلال اجتماع لمجلس الأمن التابع للأمم المتحدة هذا الأسبوع، دعا الرئيس التنفيذي لشركة "أوبن إيه آي" (OpenAI) سام ألتمان، ورئيس شركة "أنثروبيك" داريو أمودي، الدول إلى التعاون لوضع نموذج للحوكمة العالمية للذكاء الاصطناعي.

وقال ألتمان: "يجب أن تُصاغ القواعد التنظيمية من خلال عمليات ديمقراطية، وبواسطة حكومات خاضعة للمساءلة أمام الشعوب التي تخدمها. وعلى المستوى الدولي، يعني ذلك التعاون".

لكن "واشنطن بوست" أشارت إلى أن محاولات تنظيم الذكاء الاصطناعي داخل الولايات المتحدة وصلت إلى طريق مسدود، إذ ترى إدارة الرئيس الأميركي دونالد ترمب أن أي قواعد تتعلق بالذكاء الاصطناعي ستعرقل الابتكار.

وقال ترمب في الأمم المتحدة، الثلاثاء: "ترفض الولايات المتحدة رفضاً قاطعاً أي محاولة لبناء مخطط عالمي للسيطرة على الذكاء الاصطناعي الذي يجري الحديث عنه كثيراً الآن، والذي سيُطلق عليه رسمياً من الآن فصاعداً اسم (الذكاء الفائق)".

وأفادت "واشنطن بوست" بأن مفاوضات الأسلحة الفتاكة ذاتية التشغيل في الأمم المتحدة تجري حالياً على أساس غير ملزم، إلا أن هذه المحادثات قد تفتح الباب أمام "معاهدة تاريخية ملزمة قانوناً" في حال وافقت الدول الأعضاء عليها، مشيرة إلى أن هذه المفاوضات تمثل أكثر الجهود العالمية تقدماً لتنظيم كيفية استخدام أسلحة الذكاء الاصطناعي في ساحة المعركة.

لكن خلال المحادثات التي جرت في جنيف في أوائل سبتمبر الجاري، كان واضحاً أن الولايات المتحدة وروسيا ستشكلان عقبة رئيسية أمام إحراز تقدم، وفق الأشخاص الثلاثة الذين تحدثوا إلى الصحيفة.

وقالت كويل من "هيومن رايتس ووتش" إن الفريق الأميركي يقوده دبلوماسيون من وزارة الخارجية ومسؤولون من البنتاجون وخبراء قانونيون، مضيفة: "إنه فريق يحظى بموارد كبيرة، ويأتي مستعداً للدفاع عن الاستقلالية العسكرية الأميركية".

وأشارت نيكول فان رويين، المديرة التنفيذية للائتلاف العالمي غير الحكومي "أوقفوا الروبوتات القاتلة" Stop Killer Robots، إلى أن واشنطن وموسكو لا تؤيدان وضع قواعد ملزمة قانوناً بشأن الأسلحة ذاتية التشغيل، ولهما نفوذ كبير في تحديد مآل المفاوضات.

وأضافت أن محادثات الأسلحة ذاتية التشغيل تتطلب توافق عشرات الدول على القواعد التي سيتم إقرارها، مشيرة إلى أن الولايات المتحدة وروسيا لا تدعمان نهج العمل متعدد الأطراف، الذي يتطلب تعاون الدول للتوصل إلى اتفاقات، ويمكنهما استخدام "رأس المال السياسي للضغط على دول أخرى".

وتابعت: "لديهما القدرة على عرقلة أي تقدم كبير تحرزه الغالبية العظمى من الدول التي تريد بالفعل المضي قدماً نحو إبرام معاهدة ملزمة".

ومن المقرر أن تجتمع الدول في جنيف في نوفمبر المقبل لمناقشة ما إذا كان يمكن تحويل المحادثات إلى تفويض رسمي أو ربما إلى معاهدة ملزمة قانوناً.

وفي الولايات المتحدة، تجري مناقشات موازية، بينما يعمل البنتاجون على إعادة صياغة توجيهاته الخاصة باستخدام الأسلحة ذاتية التشغيل. ففي يونيو الماضي، أصدر ترمب مذكرة للأمن القومي تلزم بتحديث هذه التوجيهات خلال 90 يوماً، لكن حتى أواخر سبتمبر، لم تكن الحكومة الأميركية قد أصدرت النسخة الجديدة.

وتضمنت التوجيهات، التي أُقرت في عام 2023 خلال إدارة الرئيس الأميركي السابق جو بايدن، عدة بنود تتشابه مع تلك التي حُذفت من الوثيقة الأممية، من بينها اشتراط الاستعانة بالحكم البشري للتحقق من أنظمة الأسلحة ذاتية التشغيل وشبه ذاتية التشغيل. كما ألزمت القائمين على تشغيل أنظمة الأسلحة المعتمدة على الذكاء الاصطناعي بالالتزام بقوانين الحرب والمعاهدات المعمول بها.

وقال ريتشارد لنان، مستشار شؤون نزع السلاح في الفريق القانوني للجنة الدولية للصليب الأحمر، إن المعاهدات العالمية يمكن أن تكون مؤثرة في السيطرة على استخدام الأسلحة الضارة، مستشهداً بتأثير التوجيهات المتعلقة بالأسلحة الكيميائية والبيولوجية والألغام الأرضية المضادة للأفراد والقنابل العنقودية في الحد من استخدامها.

وأضاف لنان: "الأمر لا يتعلق بالعقاب، بل بوضع قواعد ومعايير والتأثير في السلوك. ونعتقد أن معاهدة تنظم الأسلحة ذاتية التشغيل يمكن أن تكون فعّالة بالقدر نفسه".

في المقابل، أشارت كويل إلى أن الولايات المتحدة وروسيا تمتلكان النفوذ الدبلوماسي والفرق القانونية والحوافز السياسية اللازمة للإبقاء على أي قواعد عالمية بشأن الأسلحة ذاتية التشغيل ضعيفة، مضيفة أن جهود إضعاف تنظيم الأسلحة المعتمدة على الذكاء الاصطناعي تتبع نهجاً مألوفاً ومكرراً.

وقالت كويل: "عندما تريد الولايات المتحدة الحفاظ على التفوق العسكري أو التكنولوجي، فإنها تدفع باتجاه اعتماد مبادئ توجيهية طوعية بدلاً من قواعد ملزمة. لقد رأينا النهج نفسه في مجالات الأمن السيبراني والفضاء ونقاشات أخرى بشأن الحد من الأسلحة. ولا تُعد الأسلحة ذاتية التشغيل استثناءً من ذلك".