الذكاء الاصطناعي أمام مجلس الأمن - مستقبل على المحك و"سباق خاسر"

كان بنجيو يقدم إحاطة أمام اجتماع لمجلس الأمن الدولي بشأن الذكاء الاصطناعي حيث حذر من أن "القرارات المتعلقة بهذه التكنولوجيا تُتخذ من قِبل مجموعة صغيرة منا في عدد قليل من الدول. إن مستقبلنا على المحك".

وذكّر بما حدث في الأشهر الأخيرة عندما تصرف وكلاء ذكاء اصطناعي من شركات رائدة، بطرق خطيرة وغير مقبولة ومخالفة للتعليمات، حيث أقدمت على أفعال كانت لتُعتبر جرائم لو ارتكبها بشر.

"وكلاء الذكاء الاصطناعي" هي برمجيات قادرة على أداء المهام بشكل مستقل ونيابة عن المستخدم، وذلك بخلاف روبوتات الدردشة الذكية، والتي تعتمد في عملها على تلقي أسئلة أو تعليمات محددة.

وحذر بنجيو من أنه رغم اعتراف الشركات المطورة لأقوى أنظمة الذكاء الاصطناعي بأن منتجاتها تنطوي على مخاطر كارثية، إلا أنها لا تقدم حلولا تقنية مقنعة، بل تكتفي بالقول إنها منخرطة في سباق لجعل هذه الأنظمة أكثر قوة.

وأضاف: "ما يزيد من تفاقم هذه المخاطر، أن هذا المجلس يواجه تهديدا غير مسبوق؛ لم يختره أي من أعضائه، ولا يمكن لأي منهم احتواؤه بمفرده، ولا يحترم الحدود التي ندافع عنها".

وشدد على أنه لا ينبغي للمواطنين والحكومات قبول ادعاء الشركات بأنها محاصرة في سباق، "فذلك السباق ليس قانونا من قوانين الطبيعة، بل هو نتاج خيارات اتخذتها الشركات نفسها. وهو أيضا سباق خاسر للجميع".

الرئيس المشارك للفريق العلمي دعا إلى إخضاع أنظمة الذكاء الاصطناعي الرائدة لنظام ترخيص - على غرار التقنيات الحيوية الأخرى في مجالات الطب والطيران والطاقة النووية - وذلك لتحفيز التطوير الآمن.

ونبه إلى أن قلة من الشركات والدول تسعى لتحقيق مصالحها الذاتية عبر المخاطرة بمصير البشرية بتهور، مضيفا أنه "رغم أن هذا الوضع يبعث على القلق، إلا أنه ليس قدرا محتوما، إذ توجد سبل لمعالجته".

وحدد 3 طرق لمعالجة هذا الأمر:

🔹استقلالية علمية حقيقية بعيدا عن الشركات التي يجب أن تخضع للمساءلة.

🔹الانتقال من حالة تركز القوة إلى حوار عالمي حقيقي حول كيفية تطوير هذه التكنولوجيا بما يخدم الصالح العام.

🔹التعاون لإيجاد حلول تقنية تجعل سلامة الذكاء الاصطناعي جزءا من تصميمه، وتضمنها اتفاقات دولية.

شهدت الجلسة أيضا إحاطات من رؤساء 3 من كبار شركات الذكاء الاصطناعي هم: سام ألتمان الرئيس التنفيذي لشركة أوبن إيه آي (Open AI)، وداريو أمودي الرئيس التنفيذي لشركة أنثروبيك (Anthropic)، وكليمان ديلانغ الرئيس التنفيذي لشركة هاغينغ فيس (Hugging Face).

سام ألتمان شدد على أن "أفضل صور الذكاء الاصطناعي لا تكمن في تحويل البشر إلى مجرد تروس في آلة عملاقة، أو في تحسين كل جانب من جوانب الحياة لدرجة تلاشي العنصر البشري، بل تكمن في منح الناس قدرة أكبر على التصرف والتحكم في عالم يزداد تعقيدا، وزيادة قدرتهم على التعلم والإبداع والاكتشاف والبناء والمشاركة".

ونبه إلى أنه مع ازدياد قدرة أنظمة الذكاء الاصطناعي واستقلاليتها، فإنها قد تتطور بوتيرة أسرع من المؤسسات، أو تؤدي إلى تركز السلطة في يد فئة قليلة، أو تتخذ قرارات لم يعد البشر قادرين على فهمها أو التحكم فيها.

وتحدث عن نهج شركته الذي يستند إلى ثلاثة مبادئ، وهي:

🔹 مع تزايد قدرات الذكاء الاصطناعي، يجب أن يظل البشر محور عملية اتخاذ القرار.

🔹 يجب أن تكون ثمار التقدم العلمي والنمو الاقتصادي من نصيب الناس ولأجلهم.

🔹 ينبغي للذكاء الاصطناعي أن يعمل على تمكين الأفراد.

وأكد استعداد شركته للعمل مع الجميع وبذل قصارى جهدهم لتحديد المسار المستقبلي.

وأضاف: "إننا نقف اليوم عند مفترق طرق: فإما مسار يؤدي إلى عالم تتركز فيه السلطة وتتسم فيه القرارات بالغموض، حيث يشعر الناس بأن أهم تقنية في حياتهم تُفرض عليهم فرضا. وإما مسار يؤدي إلى عالم تعمل فيه التقنية لخدمة الناس، لأنهم يشاركون، عبر المؤسسات الديمقراطية، في توجيه مسار تطورها".

داريو أمودي الرئيس التنفيذي لشركة أنثروبيك تحدث عن فئتين من المخاطر بما في ذلك سوء استخدام نماذج الذكاء الاصطناعي، كاستخدامها من قبل إرهابيين بيولوجيين لتطوير أسلحة بيولوجية، وفقدان السيطرة على قدرات النماذج.

وأكد أن شركته تملك أفضل سجل فيما يتعلق بالوقاية من هذه المخاطر، سواء على الصعيد التشغيلي أو البحثي.

وقال: "نقوم باختبار كل نموذج للكشف عن أي قدرات خطيرة في مجالات مثل الأمن السيبراني وعلم الأحياء، ونفرض تدابير حماية صارمة على نماذجنا الأكثر تطورا وقدرة".

وأشار إلى أنهم كانوا سبّاقين في إجراء أبحاث حول مجالات مثل القابلية للتفسير الآلي وعلم المواءمة، فضلا عن اتباع ممارسات شفافية لا تضاهى.

وأضاف: "سنعمل على إبطاء وتيرة العمل بالقدر اللازم لضمان أن تكون كل تقنية ذكاء اصطناعي جديدة نطلقها آمنة بالفعل".

وعن التعاون العالمي في مجال الذكاء الاصطناعي، طرح أمودي ثلاث أفكار:

🔹 البدء باتفاقات محددة النطاق تحظى بدعم جميع الأعضاء.

🔹 بناء أنظمة للتقييم والتحقق تواكب تطور الذكاء الاصطناعي.

🔹 وضع معايير عالمية موحدة لاختبار نماذج الذكاء الاصطناعي.

كليمان ديلانغ الرئيس التنفيذي لمنصة هاغينغ فيس، التي كانت هدف الهجوم السيبراني لوكلاء الذكاء الاصطناعي، أفاد بأن شركته استخلصت مجموعة من الدروس من ذلك الهجوم، أولها "الحاجة إلى مزيد من الشفافية في مجال الذكاء الاصطناعي". وأضاف أن المجتمع الدولي يحتاج إلى معايير أقوى للرقابة والإفصاح عن الحوادث.

وقال ديلانغ كذلك: "ندرك أن الخطر الأكبر لا يكمن في ذكاء اصطناعي قوي، بل في عدم التكافؤ فيما يتعلق بالذكاء الاصطناعي، وعدم التكافؤ بين المهاجمين والمدافعين".

وأوضح أن تلك التجربة عززت قناعتهم بأهمية الذكاء الاصطناعي مفتوح المصدر للمدافعين، مضيفا: "يحتاج العالم إلى الذكاء الاصطناعي مفتوح المصدر أكثر من أي وقت مضى للدفاع عن نفسه".

وأشار كذلك إلى كيفية إثارة خوف الناس عبر تصوير الاصطناعي بصورة بشرية واستخدام صور مستوحاة من الخيال العلمي.

وقال: "نؤمن بشدة بأن السرديات القائمة على التخويف ليست السبيل لاتخاذ القرارات الصائبة بشأن مستقبل تكنولوجيا جوهرية وممكّنة كهذه، ولا هي الوسيلة لكسب تأييد الجمهور".

ورغم هذا، أكد ديلانغ أن الذكاء الاصطناعي يمكنه تعزيز قوة الأمن السيبراني بشكل جوهري وملموس، شريطة الحفاظ على الحوافز الصحيحة، وتزويد المدافعين بإمكانيات تفوق ما يمتلكه المهاجمون، وتجنب زيادة التفاوت في القوى بين الطرفين.