قادة الذكاء الاصطناعي يحذرون مجلس الأمن من مخاطر تسارع تطور التقنية

دعا مسؤولون بارزون في شركات الذكاء الاصطناعي، الأربعاء، إلى توخي مزيد من الحذر في تطوير هذه التكنولوجيا، فيما تعهد المدير التنفيذي لشركة "أنثروبيك" داريو أمودي بإبطاء وتيرة العمل إذا اقتضت الضرورة لضمان سلامة الإصدارات الجديدة.

وجاءت الدعوات خلال جلسة استثنائية لمجلس الأمن الدولي خُصصت لمناقشة تطورات الذكاء الاصطناعي والمخاطر المرتبطة به، في ظل مخاوف متزايدة من احتمال خروج بعض الأنظمة المتطورة عن السيطرة.

وقال الرئيس التنفيذي لشركة "أوبن إيه آي" المطورة لـ"تشات جي بي تي" سام ألتمان أمام المجلس إن "هذه اللحظة تتطلب عناية دقيقة"، محذرا من أن تطور قدرات أنظمة الذكاء الاصطناعي واستقلاليتها قد يجري بوتيرة أسرع من قدرة المؤسسات على مواكبتها، أو يؤدي إلى تركّز هذه القدرات في أيدي عدد محدود من الأطراف.

وأضاف ألتمان أمام أعضاء المجلس الـ15 أنه لا ينبغي للقطاع "أن يقبل قدرا مفرطا من المخاطر التكنولوجية لمجرد أن الفوائد عظيمة ومهمة إلى درجة لا تسمح بإبطاء الوتيرة".

وشدد في الوقت نفسه على أن "أوبن إيه آي" ستسعى إلى اتباع "طريق وسط"، قائلا "لا نريد أن نقع في فخ التفاؤل الأعمى"، لكنه حذر أيضا من "النزعة الكارثية".

اتفاق على الحد من مخاطر الذكاء الاصطناعي.. ما الدلالات؟

لعرض هذا المحتوى من اليوتيوب من الضروري السماح بجمع نسب المشاهدة وإعلانات اليوتيوب.

يبدو أن إحدى التطبيقات الموجودة في متصفح الإنترنت الذي تستخدمه تمنع تحميل مشغل الفيديو. لتتمكن من مشاهدة هذا المحتوى، يجب عليك إلغاء استخدامه.

من جهته، أكد أمودي، الذي سبق أن أثار هذا الشهر نقاشا بشأن إمكان كبح سرعة تطوير الذكاء الاصطناعي، أن ازدياد قوة النماذج يستوجب اعتماد معايير سلامة أكثر صرامة.

وقال عبر اتصال بالفيديو إن "أنثروبيك"، المطورة لنموذج "كلود"، تعمل على تعزيز قدرتها على منع إساءة استخدام التكنولوجيا، مضيفا "سنبطئ العمل بقدر ما يلزم للتأكد من أن كل جيل جديد من تقنيات الذكاء الاصطناعي نطرحه آمن بالفعل".

وشارك في الجلسة أيضا كليمان دولانغ من شركة "هاغينغ فيس"، التي تعرضت أخيرا لهجوم سيبراني نفذه برنامج مستقل طورته "أوبن إيه آي"، في إحدى الحوادث التي أثارت مخاوف بشأن التطور السريع لهذه التكنولوجيا.

وأوضح دولانغ أن شركته استخدمت الذكاء الاصطناعي نفسه للتصدي للهجمات التي استهدفتها، معتبرا أن "العالم يحتاج إلى ذكاء اصطناعي مفتوح المصدر أكثر من أي وقت مضى للدفاع عن نفسه".

ويدعو ألتمان وأمودي ومسؤولون آخرون في القطاع منذ فترة إلى وضع آليات رقابة عالمية على الذكاء الاصطناعي، فيما طالبت "أوبن إيه آي" الولايات المتحدة بقيادة جهد دولي لوضع معايير لهذه التكنولوجيا.

لكن واشنطن وبكين، الرائدتين في هذا المجال، تعارضان فرض تنظيمات أو قيود من شأنها تقييد شركاتهما الوطنية في السباق على تطوير الذكاء الاصطناعي.