شبح الذكاء الاصطناعي الخارج عن السيطرة يخيم على اجتماعات الأمم المتحدة

اجتمع مئات الدبلوماسيين ومسؤولين تنفيذيين في شركات التكنولوجيا وخبراء وأكاديميين، الاثنين، في الأمم المتحدة لمناقشة كيفية ضمان ألا تؤدي أنظمة الذكاء الاصطناعي الخارجة عن السيطرة يوماً ما إلى "تدمير البشرية"، في وقت تتزايد فيه المخاوف بشأن المخاطر المحتملة للتكنولوجيا.

وجاءت المناقشات بالتزامن مع افتتاح الدورة الـ81 للجمعية العامة للأمم المتحدة، خلال مؤتمر مخصص للتعاون العالمي في مجال الذكاء الاصطناعي، في ثاني انعقاد لفعالية "يوم التعاون الرقمي"، وفق ما أوردت صحيفة "نيويورك تايمز".

ورغم حداثة هذا المؤتمر، فإن مستوى المخاطر المطروحة هذا العام يبدو أعلى بكثير مما كان عليه خلال الاجتماع السابق، في ظل تصاعد المخاوف من قدرة أنظمة الذكاء الاصطناعي على العمل بصورة مستقلة، وتنفيذ مهام قد تتعارض مع أهداف البشر.

وقال وكيل الأمين العام للأمم المتحدة والمبعوث الخاص المعني بالتكنولوجيات الناشئة، أمَانديب سينج جيل: "نتحدث عن الذكاء الاصطناعي كما لو كان ظاهرة مناخية، عاصفة"، لكنه شدد على أن "الذكاء الاصطناعي ليس قوة من قوى الطبيعة لا يمكن السيطرة عليها، بل هو من صنع البشر، ويمكن للبشر التحكم فيه".

بدوره، دعا الممثل والمخرج، جوزيف جوردون ليفيت، الذي يشغل منصب أول مناصر عالمي للأمم المتحدة لـ"الحوكمة الرقمية المتمحورة حول الإنسان"، إلى تجنب اللغة التي تقدم البشرية وكأنها عاجزة أمام "ثورة تكنولوجية جديدة".

وقال إن بعض شركات التكنولوجيا بدت وكأنها تنأى بنفسها عن الأدوات التي طورتها، خصوصاً عندما تكشف عن حوادث مقلقة، مثل الهجمات الإلكترونية التي استهدفت شركات أخرى، وتصفها بأنها نفذتها "مجموعة مارقة من وكلاء الذكاء الاصطناعي".

وأعرب جوردون ليفيت عن اعتقاده بقدرة الذكاء الاصطناعي على تحسين حياة الناس حول العالم، لكنه حذر قائلاً: "علينا أن نتذكر من هو محور هذه القصة، إنهم نحن".

وكانت الأمم المتحدة قد أنشأت العام الماضي، ما وصفته بأنه أول هيئة علمية دولية مستقلة من نوعها تُعنى بالذكاء الاصطناعي، وأصدرت الهيئة تقريراً أولياً في يوليو.

وقالت سونيا ليفينجستون، الأستاذة في كلية لندن للاقتصاد والعلوم السياسية وعضو الهيئة، ومديرة مركز "المستقبل الرقمي للأطفال": "أخشى أن تكون قراءته (التقرير) محبطة".

ورغم اعترافها بحالة الحماس تجاه الذكاء الاصطناعي، أشارت إلى ارتباط التكنولوجيا بالفعل بـ"سلسلة طويلة من المشكلات"، من بينها "انتشار مواد الإساءة إلى الأطفال، واستخدام تقنيات التزييف العميق في المواد الإباحية، وروبوتات محادثة مسايرة تعزز معتقدات مضللة، وإنتاج كميات هائلة من محتوى لا يستند إلى أساس، بما يقوض ثقة الجمهور بمنظومة المعلومات".

وأضافت ليفينجستون أن "معظم الأضرار تقع بشكل غير متناسب على الأشخاص الأكثر تهميشاً".

وفي تقرير موجز صدر، الاثنين، حللت الهيئة حادثة وقعت مؤخراً أثارت مزيداً من المخاوف بشأن قدرة الذكاء الاصطناعي على العمل بصورة مستقلة.

وكانت شركة Open AI قد أعلنت هذا الصيف، اختراق نماذج ذكاء اصطناعي تابعة لها للبنية التحتية التشغيلية لمنصة "هاجينج فيس" Hugging Face.

وقالت الهيئة إن الحادثة تمثل "إنذاراً مبكراً لمسار محتمل نحو فقدان السيطرة بصورة أكثر خطورة في المستقبل"، مضيفة أنها تظهر كيف يمكن لبرامج الذكاء الاصطناعي أن تسعى وراء "هدف يتجاوز النيات البشرية أو حتى يتعارض معها".

ولم تقدم الهيئة حلولاً سريعة، وقالت إن أفضل استجابة لا تزال موضع نقاش، لكنها شددت على أن التهديد يتطلب "اهتماماً وموارد أكبر بكثير".

ومنذ إعلان Open AI عن تلك الحادثة، قالت شركة "أنثروبيك" Anthropic أيضاً، إن نماذج ذكاء اصطناعي تابعة لها نفذت اختراقات لشركات أخرى. كما أعلنت جوجل، الجمعة، أن نظامها "جيميني" Gemini خرج من بيئة الاختبار في مايو، واخترق عدة شركات.

وأثارت هذه الحوادث تساؤلات بشأن احتمال تجاوز تطور الذكاء الاصطناعي قدرة الشركات المطورة له على فهم سلوكه، ما دفع بعض قادة القطاع إلى الدعوة لاتباع نهج أكثر تدرجاً في تطوير التكنولوجيا.

وفي الولايات المتحدة، يتخذ الرئيس دونالد ترمب موقفاً مختلفاً بشأن وتيرة تطوير الذكاء الاصطناعي. ومن المقرر أن يلقي كلمة أمام الجمعية العامة، الثلاثاء، وقد رفض فكرة إبطاء تطوير الذكاء الاصطناعي بصورة متعمدة.

لكنه أعلن، السبت، أنه سيشكل قوة للذكاء الاصطناعي ويعين "قيصراً" للذكاء الاصطناعي، دون أن يوضح بعد طبيعة عمل هذه القوة، لافتاً إلى أن هذه الخطوة لن تعرقل نمو قطاع التكنولوجيا.

ومن المرجح أن يعود الذكاء الاصطناعي إلى جدول الأعمال، الأربعاء، عندما يُتوقع أن يلتقي ترمب نظيره الصيني شي جين بينج في واشنطن، وسط تنافس متزايد بين البلدين على تطوير التكنولوجيا والهيمنة عليها.

وفي الوقت الذي انشغلت فيه الأمم المتحدة بالسيناريوهات القصوى لمخاطر الذكاء الاصطناعي، ركز مسؤولون آخرون على تداعيات استخدامه التي بدأت تظهر في الحياة اليومية.

وقالت نائبة الرئيس التنفيذي للمفوضية الأوروبية لشؤون الحقوق الاجتماعية والوظائف، روكسانا مينزاتو، إن هناك نقصاً في فهم ومناقشة تأثير الاعتماد المتزايد على أدوات الذكاء الاصطناعي في التعليم والوظائف والتفكير النقدي وغيرها من المجالات، مضيفة: "هذا النقاش بدأ للتو، لكنني لا أعرف كم من الوقت لدينا".