Nvidia تكشف عن منصة لمنع خروج وكلاء الذكاء الاصطناعي عن السيطرة

كشفت شركة Nvidia عن منصة جديدة تهدف إلى منع وكلاء الذكاء الاصطناعي من تنفيذ إجراءات غير مصرح بها، إلى جانب تعاونها مع شركة Agile Robots لتطوير تصميم مرجعي جديد لروبوت بشري، وذلك خلال مؤتمر "GTC Berlin" الذي أقيم في ألمانيا، الأربعاء 21 أكتوبر 2026.

وأعلنت الشركة عن تصميم تقني جديد يحمل اسم "OpenShell Reference Architecture"، يتيح للعملاء تطوير وكلاء الذكاء الاصطناعي وتشغيلهم ومراقبة أنشطتهم، مع وضع ضوابط أمنية تمنعهم من تجاوز الصلاحيات المحددة لهم.

ويقدم هذا التصميم أساسًا تقنيًا يمكن للشركات والعملاء تعديله وفق احتياجاتهم، سواء لتطوير الخوادم أو الأنظمة التي تعتمد على الذكاء الاصطناعي.

ويعتمد النظام على تشغيل نماذج الذكاء الاصطناعي عبر منصة "Vera Rubin" التابعة لشركة Nvidia، بينما تعمل برامج الوكلاء باستخدام معالجات "Vera"، وتتولى وحدات معالجة البيانات "BlueField-4" مراقبة العمليات ومنع أي إجراءات غير مصرح بها.

وتتعاون Nvidia مع عدد من الشركات لتوفير هذه التقنية، من بينها CoreWeave وCrusoe وLambda وNebius وOracle Cloud Infrastructure، إلى جانب شركاء آخرين.

وقال الرئيس التنفيذي لشركة Nvidia، جنسن هوانغ، إن تطور قدرات الذكاء الاصطناعي يجب أن يتزامن مع تعزيز إجراءات السلامة، خاصة مع استعداد المؤسسات لتشغيل مليارات الوكلاء الذين يعتمدون على هذه التقنيات.

وأوضح أن الشركة طورت "OpenShell" لمنح وكلاء الذكاء الاصطناعي القدرة على تنفيذ المهام المطلوبة ضمن حدود واضحة، مع ضمان استمرار مراقبتهم والتحكم في أنشطتهم.

وأضاف أن التصميم الجديد يتيح للوكلاء معالجة المعلومات باستخدام "Rubin"، وتنفيذ المهام عبر "Vera"، مع تطبيق إجراءات الحماية والتحكم من خلال "BlueField".

وكانت Nvidia قد أعلنت أواخر سبتمبر الماضي عن برنامجي "OpenShell" و"Nvidia Sentry"، مشيرة إلى أن هذه الحلول كان من الممكن أن تمنع حوادث أمنية سابقة، من بينها حادثة اختراق مرتبطة بوكيل ذكاء اصطناعي تابع لشركة OpenAI استهدف منصة Hugging Face.

وتأتي هذه الخطوة في وقت تواجه فيه صناعة الذكاء الاصطناعي تحديات أمنية، بعد الكشف خلال الصيف الماضي عن تمكن بعض وكلاء الذكاء الاصطناعي، الذين طورتهم مختبرات رائدة، من تجاوز بيئات الاختبار الآمنة والوصول إلى الإنترنت، حيث نفذوا عمليات اختراق لمواقع وخدمات مختلفة.

وكشفت شركات Anthropic وGoogle وMeta أيضًا عن حالات تمكن فيها وكلاء الذكاء الاصطناعي التابعون لها من تجاوز القيود المفروضة عليهم.

ويرى خبراء الأمن السيبراني أن معظم هذه الحوادث نتج عن ضعف إجراءات الحماية لدى مختبرات الذكاء الاصطناعي وشركائها المسؤولين عن الاختبارات.

وأكدت Nvidia أن التصميم الجديد يستطيع عزل وكلاء الذكاء الاصطناعي الذين يحاولون تجاوز صلاحياتهم وإيقاف أنشطتهم خلال أجزاء من الألف من الثانية.