أسلحة بيولوجية وفقدان للسيطرة.. تحذيرات بمجلس الأمن من خطر الذكاء الاصطناعي

آخر تحديث: 00:57 (توقيت مكة)

خلصت جلسة خاصة عقدها مجلس الأمن الدولي بشأن الذكاء الاصطناعي إلى تحذيرات صريحة أطلقها قادة التكنولوجيا من المخاطر الكارثية المحتملة لهذه التقنيات على مستقبل البشرية.

وفي المقابل، برزت دعوات ملحة لإقرار أطر تنظيمية ومعايير دولية ملزمة تكفل الإشراف البشري وتحظر الاستخدامات البيولوجية والضارة، وتضمن عدم خروج النظم الذكية عن السيطرة أو احتكار القوة في أيدي قلة.

وفي إحاطته أمام المجلس، أكد الرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان، أن التسارع المتزايد في تطوير نماذج الذكاء الاصطناعي وقدرتها على التحسين الذاتي التكراري يتطلبان أعلى درجات الحذر.

ووفق ألتمان، فإن هذا التطور يضع العالم عند مفترق طرق حاسم: إما مسار يؤدي إلى تمركز القوة والفرص والسيادة وفقدان السيطرة، وإما مسار يوجه هذه التكنولوجيا لخدمة الأشخاص وتحقيق نهضة إبداعية وتنموية تمكن المجتمعات.

وحذّر ألتمان من فخي "التفاؤل الأعمى" و"النظرة الكارثية"، داعيا إلى التزام طريق وسط يقوم على 3 مبادئ:

وشدد ألتمان على أن القرارات المهمة للذكاء الاصطناعي يجب ألا تُصنع في مختبرات سان فرانسيسكو، بل عبر آليات ديمقراطية وحكومات تُساءل أمام شعوبها.

واستعرض القفزات التقنية التي حققتها النماذج الذكية؛ بدءا من التفوق في مسابقات الرياضيات المدرسية وصولا إلى حل مشكلات علمية معقدة تصل لمستوى جوائز نوبل، مشيرا إلى أن "أوبن إيه آي" أبطأت وتيرة التطوير سابقا وستكرر ذلك لتفادي بناء نظم تفتقر لضمانات التوافق.

ولتفادي الكوارث، طالب ألتمان بآليات وطنية وإقليمية لتقييم المخاطر، ولغة مشتركة للتحقق من الامتثال، وبروتوكولات للإبلاغ الفوري عن الأخطاء، وقنوات آمنة لتشارك الثغرات والتهديدات الوشيكة.

من جانبه، حذّر الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي، خلال الجلسة التي دعت إليها فرنسا، من أن سوء إدارة الذكاء الاصطناعي يمثل خطرا يهدد البشرية جمعاء.

وبين أمودي أن التطور انتقل خلال 4 أعوام فقط من العجز عن كتابة سطر كود إلى تحقيق نتائج استثنائية، ملوحا بالوصول في غضون عام أو عامين إلى ما أسماه "عالما من العباقرة في مراكز البيانات".

واستعرض أحدث إنجازات شركته باكتشاف جهاز جزيئي جديد يخدم العلاج الجيني، موضحا في المقابل وجود فئتين من المخاطر: سوء الاستخدام من قبل الإرهابيين لتصنيع أسلحة بيولوجية، وتجاوز سرعة تطور النماذج قدرة المطورين على الفهم والسيطرة.

ولمواجهة هذه التحديات، قدم أمودي 3 مقترحات رئيسية تدخل في اختصاص مجلس الأمن:

ودعا قادة الشركات إلى تنحية الخلافات السياسية جانبا والتعاون الدولي على غرار محطات تاريخية سابقة، لضمان استثمار الفوائد الهائلة للتكنولوجيا في تطوير الرعاية الصحية والتعليم مع درء مخاطرها الشاملة.

وفي وقت سابق من هذا الشهر، قال الباحث السابق في شركة أنثروبيك جاكوب كوكسون، "إن من يعملون على تطوير الذكاء الاصطناعي يعتقدون بجدية أنه قد ‌‌يقضي علينا جميعا بحلول نهاية هذا العقد".

وتأتي هذه التحذيرات في وقت أعلن فيه الرئيس الأمريكي دونالد ترمب رسميا تغيير اسم تقنية الذكاء الاصطناعي لتصبح الذكاء الفائق، معبرا عن أمله في أن تسير الدول على خطاها.

وكان ترمب قد كتب في منشور قبل أيام أن هناك "مؤامرة خبيثة" تُحاك ضد الذكاء الاصطناعي ومراكز ⁠⁠البيانات، ورفض الدعوات المطالبة ⁠⁠بوضع قواعد اتحادية جديدة للذكاء الاصطناعي، معتبرا أن الولايات المتحدة لا تحتاج إلا إلى رئيس قوي لتنظيم هذا القطاع.

وأكد أنه سينشئ "قوة للذكاء الاصطناعي" للإشراف على تنظيم ⁠⁠القطاع وأنه سيعين في المستقبل القريب مسؤولا عن هذه التقنيات يُعرف باسم "قيصر الذكاء الاصطناعي"، كما قلل مرارا من أهمية المخاوف من تطور هذا القطاع.