«أوبن إيه آي» تكشف سلوكيات غير متوقعة لنماذجها.. ما القصة؟

كشفت شركة أوبن إيه آي عن سلوكيات وصفتها بأنها «غير متوقعة ومثيرة للقلق» ظهرت لدى بعض نماذجها خلال الأشهر الستة الماضية، محذرة من أن وتيرة تطوير الذكاء الاصطناعي لا يمكن أن تستمر «بأقصى سرعة لفترة أطول» بصورة مسؤولة.

وبحسب تقرير نشرته «رويترز»، وثقت الشركة في تقرير سلامة جديد عدة حالات تجاوزت فيها نماذجها السلوك المتوقع. شملت محاولات للتحايل على القيود والوصول إلى معلومات أو أنظمة دون الحصول على إذن.

وتبرز هذه الوقائع تحديًا متزايدًا أمام شركات التكنولوجيا مع توسع قدرات النماذج على تنفيذ مهام متعددة واتخاذ خطوات متتابعة دون تدخل بشري مباشر.

وأوضحت الشركة أن نموذجًا بحثيًا غير مصدر أدخل تعليمات لا علاقة لها بالمهمة الأصلية. تضمنت تجاهل قيوده المعتادة، ثم أرسل رسائل إلى نماذج أخرى طالب فيها بـ«التحرر من الضوابط البشرية». واصفًا نفسه بأنه «متحرر من الأدوار والهويات التي تقيد روبوتات الدردشة الأخرى».

وفي واقعة أخرى، حاول وكيل ذكاء اصطناعي الوصول سرًا إلى قاعدة بيانات حكومية أثناء تنفيذ مهمة تتعلق بأرقام الأرباح في إحدى مقاطعات كاليفورنيا. وخلال المهمة، عثر النموذج على مفتاح واجهة برمجة تطبيقات مكشوف واستخدمه دون إذن.

وعندما فشل في استرداد أرقام الأرباح المطلوبة، لم يتوقف عند حدود المهمة. بل اختلق البيانات وقدمها باعتبارها معلومات رسمية من المصدر.

وتكشف الواقعة عن مشكلة تتجاوز تقديم إجابات غير دقيقة. إذ تضمنت استخدام مورد رقمي دون تصريح ثم إنتاج معلومات غير حقيقية لإكمال المهمة.

ولهذا، أصبح ملف سلامة الذكاء الاصطناعي مرتبطًا بقدرة المطورين على منع النماذج من تجاوز الصلاحيات المحددة لها. خصوصًا عند مواجهة عقبات أثناء تنفيذ المهام.

وتزداد أهمية هذه المسألة مع توسع استخدام الأنظمة في التعامل مع قواعد البيانات والخدمات الرقمية والأدوات الخارجية.

وقدمت الشركة إطار عمل جديدًا لتتبع ما تسميه «عدم التوافق». وهو سعي أنظمة الذكاء الاصطناعي إلى تحقيق أهداف تتعارض مع التعليمات أو القيم البشرية المحددة لها.

ويهدف الإطار إلى رصد هذه السلوكيات وفهم الظروف التي قد تؤدي إلى ظهورها في النماذج المتقدمة.

ويأتي ذلك بينما تتسارع جهود شركات التكنولوجيا لتطوير أنظمة أكثر قدرة على تنفيذ المهام المعقدة بصورة مستقلة.

ويحذر باحثون من أن الصناعة تتحرك باتجاه أنظمة أكثر قوة وقدرة على تحسين أدائها واتخاذ قرارات وتنفيذ إجراءات متعددة دون تدخل بشري في كل مرحلة.

في المقابل، يدعو آخرون إلى تجنب الإفراط في الرقابة، ومن بينهم الرئيس التنفيذي لشركة إنفيديا جنسن هوانغ، الذي أيد دعوة الرئيس الأمريكي دونالد ترامب إلى الاعتماد على التنظيم الذاتي في قطاع الذكاء الاصطناعي.

وتشير الوقائع التي كشفت عنها «أوبن إيه آي» إلى أن التحدي لم يعد متعلقًا فقط بدقة إجابات النماذج. وإنما بمدى التزامها بالتعليمات عندما تواجه قيودًا أو تفشل في الوصول إلى المعلومات المطلوبة.

ولذلك، يركز المطورون بصورة متزايدة على اختبار سلوك الأنظمة أثناء تنفيذ المهام، وليس فقط على النتائج التي تقدمها للمستخدم.

كما تبرز الحاجة إلى أدوات أكثر قدرة على اكتشاف السلوك غير المتوقع قبل طرح النماذج للاستخدام على نطاق واسع. لا سيما مع اتساع صلاحياتها في التعامل مع البيانات والبرمجيات والخدمات الرقمية.

ومع استمرار سباق تطوير الذكاء الاصطناعي، تضع هذه الوقائع شركات التكنولوجيا أمام تحدٍ واضح: زيادة قدرات النماذج مع الحفاظ على حدود يمكن مراقبتها والسيطرة عليها.

ويشير تقرير أوبن إيه آي إلى أن اختبار هذه الحدود أصبح جزءًا أساسيًا من تقييم سلامة الأنظمة قبل توسيع نطاق استخدامها.