شركة أنثروبيك تقترح وقفا مؤقتا لتطوير نماذج الذكاء الاصطناعي قبل خروجها عن سيطرة الإنسان

مع ظهور مؤشرات على إمكانية خروج أحدث نماذج الذكاء الاصطناعي عن سيطرة الإنسان، اقترحت شركة أنثروبيك المتخصصة في المجال الخميس، وقفا مؤقتا لتطوير أقوى تلك الأنظمة.

واعتبرت الشركة التي تتخذ من سان فرانسيسكو مقرا وتقف وراء نموذج "كلود" في تقرير، أن تباطؤا عالميا في تطوير الذكاء الاصطناعي المتقدم "سيكون على الأرجح أمرا إيجابيا"، لكنها حذرت من أنه في حال توقفت شركة واحدة فقط، فسيتسابق المنافسون لتجاوزها.

مجموعة "ميتا" تبدأ تسريح آلاف الموظفين ضمن إعادة هيكلة تركز على الذكاء الاصطناعي

وأوضحت أن تحقيق وقف فعلي في الوقت نفسه يتطلب موافقة العديد من شركات الذكاء الاصطناعي الكبرى في دول متعددة، ولا سيما الولايات المتحدة والصين، وفقا لقواعد يمكن للجميع التحقق منها.

وواجهت الشركة معارضة من جهات أخرى في القطاع ومسؤولين في البيت الأبيض يرون أن تركيزها على أسوأ السيناريوهات يحمل مبالغة في تقدير المخاطر، مع اتهامها باتباع استراتيجية لإبطاء المنافسين تحت غطاء إثارة المخاوف.

ومع ذلك، أقر البيت الأبيض نموذج "ميثوس" الخاص بشركة أنثروبيك والذي لم يُطرح أمام الجمهور بعد بسبب قدراته في مجال الأمن السيبراني واختراق أقوى الأنظمة الإلكترونية، وهو يستخدم حاليا فقط في عدد محدود من المؤسسات.

ويواجه هذا المقترح صعوبة بالغة في واشنطن ووادي السيليكون، حيث اعتبر مسؤولون أميركيون ومديرو شركات بأن أي تباطؤ في تطوير الذكاء الاصطناعي يهدد بمنح الصين ميزة التقدم.

وقارنت أنثروبيك المشكلة بمعاهدات الحد من الأسلحة النووية، لكنها قالت إن تدريب نماذج الذكاء الاصطناعي بسرية أسهل بكثير من إخفاء الصواريخ، وإغراء الاستمرار في الخفاء سيكون هائلا.

وقالت الشركة إنها تخطط لجمع مسؤولين حكوميين وعلماء وشركات ذكاء اصطناعي متنافسة في الأشهر المقبلة لمعرفة كيفية إنشاء مثل هذا النظام.

وأضافت أنثروبيك أن الدعوة إلى التنسيق تأتي جنبا إلى جنب مع البيانات الداخلية التي تظهر أن الذكاء الاصطناعي يعمل على تسريع تطوير الذكاء الاصطناعي نفسه بشكل كبير.

وحذرت أنثروبيك من أن هذا التسارع قد يؤدي في النهاية إلى ما يسميه الباحثون "التحسين الذاتي المتكرر"، بحيث يصبح نظام الذكاء الاصطناعي قادرا على تعليم نفسه بنفسه دون مساعدة بشرية كبيرة.

وجاء في التقرير "لم نصل إلى هناك بعد، والتحسين الذاتي المتكرر ليس أمرا حتميا"، لكنه حذر من أنه قد يحدث في وقت أقرب مما تتخيله معظم الحكومات والمؤسسات.

ولفتت أنثروبيك إلى أن "الأدلة تشير إلى أن الدور البشري يتقلص في كل خطوة من خطوات عملية تطوير الذكاء الاصطناعي".