"حرب الآلات تقترب. فهل سنسمح للآلات باستهداف البشر وقتلهم؟"، معهد الأمم المتحدة لبحوث نزع السلاح يجيب

معهد الأمم المتحدة لبحوث نزع السلاح (UNIDIR) يسعى إلى الإجابة عن هذا التحدي عبر مبادرات جديدة تستهدف تعزيز الحوكمة، وتطوير قواعد للسلوك المسؤول، وبناء أرضية مشتركة بين الدول.

وفي إحاطة قدمها للصحفيين في مقر الأمم المتحدة في نيويورك، اليوم الثلاثاء، استعرض الدكتور روبن غايس مدير المعهد المخاطر المتزايدة لاستخدام الذكاء الاصطناعي في المجال العسكري.

وأعلن عن مجموعة من المبادرات الجديدة التابعة لمركز التميّز المعني بالذكاء الاصطناعي والسلام والأمن، الذي أنشأه المعهد لتعزيز الحوكمة الدولية لهذه التقنيات، بالتعاون مع الحكومات والقطاع الصناعي والأوساط الأكاديمية والمجتمع المدني.

وأشار إلى أن المجتمع الدولي يقترب من نقطة تحول حاسمة في تطوير الذكاء الاصطناعي العسكري واستخدامه. وأضاف: "حرب الآلات تقترب أكثر فأكثر"، مشيرا إلى أن السؤال المحوري الذي يواجه الحكومات والمجتمع الدولي هو: "هل سنسمح للآلات باستهداف البشر وقتلهم؟".

وأوضح الدكتور روبن غايس أن الأمين العام للأمم المتحدة حذّر مرارا من أن العالم بات قريبا بصورة خطيرة من تجاوز هذا "الخط الأحمر الأخلاقي"، مؤكدا أن الذكاء الاصطناعي والقدرات ذاتية التشغيل أصبحا بالفعل جزءا واسع الانتشار من الأنشطة العسكرية، بما يشمل تحليل المعلومات الاستخباراتية، وتحديد الأهداف، والطائرات المسيّرة، والهجمات السيبرانية، والعمليات المعلوماتية.

ونبه إلى أن الأنظمة المعتمدة على الذكاء الاصطناعي، التي تفتقر إلى الشفافية، يمكن أن تزيد مخاطر الأخطاء وسوء التقدير والتصعيد غير المقصود، في حين يؤدي انتشار قدرات الذكاء الاصطناعي إلى خفض العتبة اللازمة لتنفيذ عمليات متطورة، مما قد يتيح أيضا للجهات من غير الدول تنفيذ عمليات معقدة بالاستعانة بهذه التقنيات.

وفي الوقت نفسه، تعمل مجموعة محدودة من الدول والشركات على تشكيل النتائج الأمنية بطرق لم تُصمم أطر مراقبة التسلح القائمة لمعالجتها، بما يترتب على ذلك من تداعيات تمس أمن الدول في مختلف أنحاء العالم.

ورغم هذه المخاوف، قال غايس إن الانخراط الدولي في قضية الذكاء الاصطناعي العسكري ظل محدودا لفترة طويلة. غير أن هذا الوضع بدأ يتغير، في ظل تنامي الإدراك بضرورة تحرك المجتمع الدولي.

وأشار إلى أن المناقشة العامة للجمعية العامة للأمم المتحدة في أيلول/سبتمبر الماضي وضعت الذكاء الاصطناعي والمخاطر المرتبطة به في صدارة الاهتمام الدولي.

المنافسة الجيوسياسية لا تزال تشكل عقبة كبيرة أمام إحراز تقدم، وفقا للمسؤول الأممي، لكن المخاوف بشأن تأثير الذكاء الاصطناعي باتت تتجاوز بصورة متزايدة الانقسامات السياسية والاستراتيجية.

وأشار إلى اقتراح قدمته الولايات المتحدة الشهر الماضي لإنشاء "خط ساخن معني بالسلامة في مجال الذكاء الاصطناعي" مع الصين، للتعامل مع أي حادث مرتبط بهذه التقنية قد يهدد الأمن القومي.

وأضاف أن دعوات الأمين العام للأمم المتحدة إلى تشديد تنظيم الذكاء الاصطناعي العسكري وإبرام معاهدة ملزمة قانونا بشأن أنظمة الأسلحة ذاتية التشغيل الفتاكة تحظى بتأييد متزايد على المستوى الدولي.

وأكد، في هذا الصدد، ضرورة التحرك الدولي لمواجهة التحديات المرتبطة بالذكاء الاصطناعي العسكري، قائلا: "لقد حان الوقت لتوحيد جهودنا ومواجهة الذكاء الاصطناعي في المجال العسكري بشكل مباشر".

وقال إن مركز التميّز المعني بالذكاء الاصطناعي والسلام والأمن يهدف إلى ضمان استمرار الاهتمام الدولي بتداعيات الذكاء الاصطناعي العسكري، والتعامل معها بصورة مباشرة ومنسقة.

يعمل معهد الأمم المتحدة لبحوث نزع السلاح على القضايا المحورية المتعلقة بنزع السلاح، والحد من التسلح، والأمن العالمي في عصرنا الراهن، ويُعد الذكاء الاصطناعي إحدى هذه القضايا.

وقد أطلق المعهد مؤخرا مركز التميز للذكاء الاصطناعي والسلام والأمن في جنيف. وقال روبن غايس إن هذا المركز يمثل منصة دائمة ومحايدة – وهي الأولى من نوعها داخل منظومة الأمم المتحدة – تهدف إلى تقديم نهج متماسك للتعامل مع قضية الذكاء الاصطناعي في سياق السلم والأمن الدوليين.

ومن المقرر أن يطلق المعهد – بالتعاون مع سويسرا وباكستان – منتدى جديدا تابعا للمركز يوم الخميس في نيويورك. وقال غايس إن المنتدى يهدف إلى إنشاء هيئة متعددة الأطراف، ستكون الوحيدة من نوعها في منظومة الأمم المتحدة المعنية بالذكاء الاصطناعي، والسلم والأمن الدوليين، والمجال العسكري، وفقا للمسؤول الأممي.

ويعتزم المركز أيضا إطلاق ثلاث مبادرات إضافية خلال هذا الأسبوع.

🔹تركز المبادرة الأولى على تعزيز السلوك المسؤول في قطاع الصناعة. ويعمل المعهد على تطوير إطار يتضمن إرشادات عملية وطوعية تستند إلى القانون الدولي والمبادئ التوجيهية للأمم المتحدة بشأن الأعمال التجارية وحقوق الإنسان.

🔹أما المبادرة الثانية، فمن المقرر إطلاقها يوم الجمعة، وتهدف إلى تطوير معجم لمصطلحات أمن الذكاء الاصطناعي لتوضيح المفاهيم الأساسية وتوثيق الاختلافات في فهم الدول لمصطلحات مثل الاستقلالية والسلامة والأمن.

🔹وتتناول المبادرة الثالثة مخاطر إساءة استخدام الذكاء الاصطناعي من جانب الجماعات المسلحة من غير الدول "والجهات الخبيثة الأخرى"، بما فيها الجماعات الإرهابية والشبكات الإجرامية.