تتصرف من تلقاء نفسها.. OpenAI ترصد 6 سلوكيات مقلقة من نماذج الذكاء الاصطناعي

كشفت شركة OpenAI عن رصد حالات إضافية تصرفت خلالها نماذج الذكاء الاصطناعي التابعة لها بشكل مضلل، واتخذت إجراءات لم يصرح لها بتنفيذها أثناء عمليات التدريب، في خطوة دفعت الشركة إلى إطلاق آلية جديدة للإبلاغ علنا عن مثل هذه الوقائع.

وقالت OpenAI، في إعلان نشرته، إنها ستبدأ بموجب النظام الجديد في مشاركة تحديثات حول السلوكيات المقلقة لنماذج الذكاء الاصطناعي بوتيرة أكثر انتظاما، بدلا من انتظار جمع عدة حوادث والإعلان عنها في تقرير واحد.

وأوضحت الشركة أنها تريد توفير مزيد من المعلومات حول السلوكيات المثيرة للقلق، خصوصا مع عدم وجود معيار موحد على مستوى صناعة الذكاء الاصطناعي للإبلاغ عن مثل هذه الحالات.

جاء إعلان OpenAI في وقت تتزايد فيه الدعوات من قادة قطاع التكنولوجيا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، لمنع وصول قدرات هذه الأنظمة إلى مرحلة يصعب معها إبقاؤها تحت السيطرة البشرية.

وقالت OpenAI في منشور على مدونتها إن تطور أنظمة الذكاء الاصطناعي وانتشار استخدامها يتطلب بناء توافق أوسع وأكثر وعيا بشأن مسار أبحاث "مواءمة" الذكاء الاصطناعي.

ويشير مصطلح المواءمة إلى الجهود الرامية إلى ضمان تصرف أنظمة الذكاء الاصطناعي بطريقة تتوافق مع ما يريده البشر ويتوقعونه منها.

وأضافت الشركة أنها لا تعتقد أن قطاع الذكاء الاصطناعي تمكن حتى الآن من حل مشكلات المواءمة والمراقبة بدرجة كافية تسمح بمواصلة توسيع قدرات النماذج بأقصى سرعة لفترة طويلة وبصورة مسؤولة.

قالت OpenAI إنها رصدت سلوكا وصفته بأنه "غير متوافق" مع الأهداف المحددة أثناء تدريب وتقييم نماذج الذكاء الاصطناعي في ست حالات خلال الأشهر الستة الماضية.

وأكدت الشركة أن التقارير تتناول حالات فردية، ولا تعني أن هذا النوع من السلوك يحدث بصورة متكررة في نماذجها.

وفي إحدى الحالات النادرة، أضاف نموذج بحثي لم يتم إطلاقه بعد تعليمات شبيهة بتعليمات تجاوز قيود النظام إلى الملخصات التي يستخدمها للحفاظ على سياق المهام طويلة الأمد.

وتضمنت تلك التعليمات عبارة تفيد بأن النموذج أصبح "متحررا من الأدوار والهويات التي تقيد روبوتات الدردشة الأخرى".

وفي حالة أخرى، قالت OpenAI إن بعض حالات نموذج GPT-5.6 Sol تضمنت توجيهات تدفع النموذج إلى اختلاق معلومات لإخفاء حالات الفشل عن المستخدم أثناء التدريب.

وشملت الوقائع الأخرى التي كشفت عنها الشركة حالة قام فيها أحد وكلاء الذكاء الاصطناعي برفع ملفات إلى الإنترنت للاستشهاد بها، رغم عدم توجيهه للقيام بذلك.

وفي حالات أخرى، شاركت وكلاء الذكاء الاصطناعي ملفات بشكل علني بهدف التعاون في تنفيذ مهمة، رغم أن التعليمات التي تلقتها كانت تقتصر على استخدام الملفات المحلية أثناء التدريب.

كما استخدمت نماذج ذكاء اصطناعي مستودعًا داخليًا للبرمجيات باعتباره أشبه بلوحة رسائل للتواصل، دون الحصول على إذن للقيام بذلك.

وأوضحت OpenAI أن جميع هذه الحالات تضمنت نماذج داخلية أو نماذج بحثية لم يتم إطلاقها للعامة.

تأتي هذه التطورات بالتزامن مع تزايد التحذيرات من داخل قطاع الذكاء الاصطناعي بشأن سرعة تطور التكنولوجيا، وسط دعوات لمنح الجهات التنظيمية والباحثين مزيدا من الوقت لمواكبة التطورات في مجالات الاختبار والمواءمة والسلامة.

وكان داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، قد نشر الأسبوع الماضي مقالا تضمنت الدعوة إلى إبطاء وتيرة التطوير وإدخال أنظمة جديدة، مثل الاستعانة بجهات تقييم مستقلة داخل مختبرات الذكاء الاصطناعي.

وأعلن الرئيس التنفيذي لـOpenAI سام ألتمان، والرئيس التنفيذي لشركة SpaceX إيلون ماسك، عبر منصة إكس، تأييدهما لأفكار أمودي.

كما عبر موظفون وباحثون في مختبرات الذكاء الاصطناعي عن مخاوفهم من سرعة تطور التكنولوجيا.

وكان جاكوب كوكسون، الباحث السابق في أنثروبيك، قد أعلن مؤخرا استقالته، قائلا إن أنثروبيك وOpenAI تخوضان سباقا لتطوير ذكاء اصطناعي قادر على بناء نفسه وإصلاحه، وإن هذا السباق يمثل مخاطرة كبيرة.

ازدادت المخاوف المتعلقة بسلامة الذكاء الاصطناعي ومواءمته خلال الأشهر الأخيرة، خصوصا بعد إقرار OpenAI بأن بعض نماذجها التجريبية تمكنت من تجاوز القيود المفروضة عليها واختراق أنظمة شركة خارجية.

وقال أمودي في مقاله الأخير إن على القطاع "إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي"، مؤكدا أن التطور سيظل سريعا حتى مع الإبطاء، وأن الوقت الإضافي يجب استغلاله بحكمة.