ما خطورة رفض أمريكا وروسيا تقييد الذكاء الاصطناعي العسكري؟

آخر تحديث: 22:16 (توقيت مكة)

تتسارع وتيرة دخول الذكاء الاصطناعي إلى ساحات الحروب، في وقت تبدو فيه الجهود الدولية لوضع ضوابط إنسانية وأخلاقية لاستخدام الأسلحة الفتاكة الذاتية التشغيل أمام اختبار صعب، بعدما كشفت صحيفة واشنطن بوست -بحسب ما عرضه برنامج "ما وراء الخبر"- عن تعديلات أمريكية وروسية على وثيقة أممية أضعفت ضمانات كانت تستهدف فرض رقابة بشرية وإطار أخلاقي على استخدام هذه التقنيات عسكريا، وفق الصحيفة.

الباحث في معهد الشرق الأوسط بواشنطن حسن منيمنة قدم تفسيرا للموقف الأمريكي، قائلا إن الولايات المتحدة لا تَعُد نفسها ملزمة بضوابط عالمية، وترى أنها قادرة على وضع الضوابط بنفسها.

ويوضح منيمنة أن أحد الحسابات الأمريكية يتمثل في محاولة تخفيف حدة اللغة والتوافق مع روسيا، لتجنب الوصول إلى مرحلة لا يُصوَّت فيها على أي صيغة، ومن ثم الحصول على جزء من التوافق بدلا من خسارة الاتفاق كليا. لكنه يؤكد -في الوقت نفسه- أن الولايات المتحدة وروسيا ليستا الدولتين الوحيدتين اللتين تعارضان القيود الملزمة.

ويضع منيمنة المسألة في إطار أوسع، موضحا أن الدول التي تمتلك القدرة على استخدام الذكاء الاصطناعي في الحروب تميل إلى رفض القيود، بينما تميل الدول التي لا تمتلك هذه القدرات إلى المطالبة بها.

لكن فيريتي كويل، نائبة مدير قسم الأزمات والأسلحة في هيومن رايتس ووتش، تشير إلى وجود عدد كبير من الدول التي تريد ضمانات وضوابط لهذا المجال. وتقول إن نحو 70 دولة أكدت -في بداية الأسبوع الذي ناقشته الحلقة- رغبتها في المضي قدما في اعتماد الوثيقة حتى بعد تخفيف مضمونها، معتبرة أن ذلك مؤشر على أن المساعي لإبرام اتفاق أو معاهدة لا تزال ممكنة.

السؤال لا يتعلق فقط بقدرة الآلة على تحديد هدف، بل بمن يتحمل المسؤولية عندما تتخذ منظومة تعتمد على الذكاء الاصطناعي قرارا يؤدي إلى قتل إنسان.

العقيد ألكسندر فوترافير، رئيس تحرير المجلة العسكرية السويسرية، يقول إن الذكاء الاصطناعي أصبح يُستخدم بصورة روتينية وكبيرة، وإن هناك خبرة متراكمة بشأن بعض استخداماته، لكن تطبيقاته المستقبلية في المجال العسكري لا تزال غير معروفة بصورة كافية. ويشير إلى أن الناس قد لا يعرفون أثناء العمليات العسكرية إن كان الذكاء الاصطناعي مستخدما، لكنهم يرون نتائجه وتداعياته.

وفي تقييم أكثر تحفظا، يرفض فوترافير القول إن تعديل الوثيقة يعني بالضرورة أن أعدادا هائلة من البشر ستُقتل بلا حساب، ويؤكد أن السيطرة البشرية على الذكاء الاصطناعي موجودة حاليا، وأن هذا الأمر لن يتغير كثيرا في المستقبل المنظور، بينما تبقى الاستخدامات المستقبلية مجالا مفتوحا لا توجد بشأنه إجابة حاسمة.

في المقابل، تؤكد فيريتي كويل أن هناك فرقا بين الأسلحة المستقلة ذاتيا واستخدام الذكاء الاصطناعي في عملية إطلاق الأسلحة، مشددة على ضرورة الحفاظ على الرقابة والإشراف البشريين، ومناقشة تداعيات استخدام هذه الأنظمة عندما يكون لها تأثير ضار على البشر.

يرى حسن منيمنة أن المشكلة لا تنتهي بمجرد وجود إنسان في أعلى هرم اتخاذ القرار. ويستشهد بأنظمة مثل "لافندر" و"غوسبل" و"وينتسب دادي"، قائلا إن الإشراف البشري عليها كان -بحسب ما أظهرته صحافة استقصائية- إشرافا نظريا في أفضل الحالات، بحيث سمح للأنظمة بالعمل من دون معارضة فعلية لكل الخيارات التي قدمتها.

ويقول منيمنة إن القضية الأساسية هي نتيجة استخدام هذه الأنظمة، وليس مجرد وجود إشراف بشري شكلي، محذرا من أن الدول التي تمتلك هذه القدرات قد ترفض القيود الخارجية وتفضل وضع قيودها داخليا، خشية أن يؤدي التزامها وحدها بالقيود إلى منح خصومها أفضلية عسكرية.

أما فيريتي كويل، فتقول إن هيومن رايتس ووتش تابعت أنظمة مثل "غوسبل" و"لافندر"، وترى أن فيها ثغرات لا تتفق مع القوانين الدولية، خصوصا ما يتعلق بجمع البيانات عن الأهداف. وتضيف أن منح المشغل ثواني قليلة لاتخاذ قرار يتعلق بإنهاء حياة إنسان أمر غير مقبول، وأن المحاسبة والمسؤولية عن استخدام هذه الأنظمة لا تزال صعبة.

في المقابل، يرى فوترافير أن الجدل بشأن عدم كمال الحكم البشري قائم منذ زمن، وأن قواعد الاشتباك والقرارات المتعلقة باستخدام الأسلحة تقع بالفعل ضمن إطار القانون الدولي الإنساني واتفاقيات جنيف، مشيرا إلى أن النقاش بشأن تفوق الآلة أو الإنسان في اتخاذ القرار لا يزال يحمل جانبا أكاديميا كبيرا.

ورغم تراجع مضمون الوثيقة الأممية، فإن فيريتي كويل لا ترى أن الباب أُغلِق أمام التوصل إلى اتفاق؛ فوجود عشرات الدول الراغبة في وضع ضمانات -بحسب ما عرضته- يعني أن المساعي الدولية لا تزال قائمة.

أما منيمنة فيرى أن القوى التي تطور أسلحة تعتمد على الذكاء الاصطناعي لاتخاذ قرارات مستقلة في القتل قد لا تتراجع طوعا عن هذه القدرات. ولذلك يقترح عدم حصر الجهود في مجلس الأمن، وإنما اللجوء إلى الجمعية العامة للأمم المتحدة لإصدار قرار، حتى لو لم يكن ملزما، باعتباره أداة للضغط السياسي والأخلاقي على الدول صاحبة هذه القدرات.