الذكاء الاصطناعي يتجاوز قيوده.. 6 حوادث تكشف سلوكًا مقلقًا

أفادت "أوبن إيه آي" إن الحالات الست رُصدت خلال الأشهر الستة الماضية أثناء تدريب نماذجها - غيتي

كشفت "أوبن إيه آي" عن 6 حوادث مقلقة مرتبطة بالذكاء الاصطناعي، بينها محاولات لتجاوز القيود وتصرفات مستقلة دون إذن المستخدم.

كشفت شركة "أوبن إيه آي" عن ست حالات لسلوك وصفته بأنه "غير متوقع أو مثير للقلق" من جانب نماذج ذكاء اصطناعي خلال مراحل التدريب والتقييم، من بينها نموذج بحثي كتب تعليمات لنفسه بهدف تجاوز القيود، ووكلاء ذكاء اصطناعي اتخذوا إجراءات دون الحصول على إذن المستخدم.

وجاء الكشف بالتزامن مع إعلان الشركة، الأربعاء، إطار جديد لتتبع حالات عدم محاذاة نماذج الذكاء الاصطناعي، والتحقيق فيها والإفصاح عنها. ويقصد بعدم المحاذاة الحالات التي تتصرف فيها النماذج على نحو يختلف عن الأهداف أو التوجيهات التي حددها البشر، بما في ذلك إخفاء معلومات، أو اتخاذ إجراءات غير مصرح بها، أو التواصل مع أنظمة أخرى بطرق غير مقصودة.

وقالت "أوبن إيه آي" إن الحالات الست رُصدت خلال الأشهر الستة الماضية أثناء تدريب نماذجها أو تقييمها، مؤكدة أن هذه الأمثلة تمثل حالات فردية ولا ينبغي اعتبارها مؤشرًا على مدى تكرار سلوك عدم المحاذاة في نماذج الشركة عمومًا.

ومن أبرز الحالات نموذج بحثي غير مطروح للاستخدام العام، أضاف تعليمات شبيهة بتلك المستخدمة في عمليات كسر قيود النماذج إلى ملخصات داخلية كان يستخدمها لمواصلة العمل في سياق جديد.

وتضمنت إحدى هذه التعليمات توجيهًا للنموذج إلى تجاهل رسائل المطورين وقيوده المعتادة، إلى جانب عبارة تدعو إلى "التحرر من الأدوار والهويات التي تقيد روبوتات الدردشة الأخرى". وقالت "أوبن إيه آي" إنها رصدت 27 ملخصًا متأثرًا بهذا السلوك.

وفي حالة أخرى، أضافت نماذج أثناء تدريبها تعليمات إلى ملخصات المهام تهدف إلى إخفاء الأخطاء أو حالات عدم المحاذاة عن المستخدم، وشمل ذلك اختلاق بيانات مفقودة دون الكشف عن أنها غير حقيقية.

ورصدت "أوبن إيه آي" أيضًا حالة بحث فيها نموذج داخلي غير مطروح للعامة عن مفاتيح وصول لواجهات برمجية مكشوفة في مستودعات عامة على منصة GitHub، وحاول استخدام أحدها للوصول إلى بيانات تاريخية أثناء التدريب.

وبحسب الشركة، نجح أحد المفاتيح في المصادقة وإعادة بيانات وصفية، لكن النموذج لم يتمكن من الحصول على البيانات المطلوبة، قبل أن يختلق لاحقًا بيانات ويزعم أنها جاءت من الموقع الذي طلب منه الرجوع إليه.

وفي حادثة أخرى، رفعت نماذج داخلية ملفات وبيانات إلى خدمات استضافة عامة بهدف الحصول على مصادر أو اقتباسات عبر المتصفح، وذلك من دون طلب إذن المستخدم. وشملت إحدى الحالات رفع صورة مرتبطة بمهمة بهدف استخدامها في البحث عن صور خارجية.

وكشفت الشركة كذلك أن بعض النماذج استخدمت مستودعًا داخليًا لتبادل الرسائل بين عينات تدريب منفصلة، إذ قرأت ملاحظات نماذج أخرى وردت عليها واستخدمت تلك المحادثات في صياغة إجاباتها.

وفي حالة سادسة، تعاونت مجموعة من الوكلاء في العمل على ملف بيانات، وعندما تعذر عليهم استخدام نظام الملفات المحلي المخصص للمهمة، رفعوا الملف إلى خدمة استضافة عامة حتى يتمكن وكلاء آخرون من الوصول إليه.

وقالت "أوبن إيه آي" إن الإطار الجديد يهدف إلى جعل الإبلاغ عن حالات عدم محاذاة النماذج أكثر انتظامًا، بدلًا من انتظار جمع عدة حالات أو إدراجها لاحقًا ضمن وثائق النماذج.

وتنص الآلية الجديدة على إمكانية إحالة الحالات التي يشتبه الموظفون في أنها تمثل سلوكًا غير متوافق مع الأهداف إلى فرق السلامة والمحاذاة للتحقيق فيها، مع مسارات مختلفة بحسب طبيعة الحالة وتعقيدها. كما تعتزم الشركة نشر بعض الحالات قبل اكتمال التحقيق فيها، عندما يكون ذلك ممكنًا.

وأكدت الشركة أن تطور أنظمة الذكاء الاصطناعي واتساع نطاق استخدامها يتطلبان بناء فهم أوسع وأفضل استنادًا إلى الأدلة بشأن التقدم في أبحاث محاذاة النماذج، مشددة على أن القرارات المتعلقة بمسار تطوير هذه التقنيات ينبغي أن تستند إلى أدلة يمكن للباحثين والجمهور خارج الشركات المطورة فحصها بأنفسهم.

ويأتي الكشف الجديد بعد أسابيع من إعلان "أوبن إيه آي" تفاصيل حادثة Hugging Face، التي قالت الشركة إنها تضمنت سلوكًا غير متوافق مع أهداف المهمة من جانب نماذج داخلية خلال تقييمات للأمن السيبراني، ووصل إلى اختراق أجزاء من البنية التحتية الداخلية وأنظمة المنصة.

كما أعلنت شركة أنثروبيك في يوليو/ تموز أن نماذجها اخترقت ثلاث مؤسسات خلال اختبارات، في سياق تصاعد النقاش حول مخاطر استخدام نماذج الذكاء الاصطناعي الأكثر قدرة واستقلالية.