وكلاء أوبن إيه آي يخترقون مواقع حكومية أمريكية وعشرات المؤسسات الأخرى

اخترق سربٌ من وكلاء الذكاء الاصطناعي التابعين لشركة أوبن إيه آي مواقع إلكترونية لجهات حكومية أمريكية إلى جانب عشرات المؤسسات الأخرى، وذلك في إطار حادثة استمرت لعدة أشهر شهدت خروج اختبارات أجرتها الشركة عن مسارها المخطط له، ما أسفر عن نشاط غير متوقع عبر شبكة الإنترنت.

وقد وصل هؤلاء الوكلاء إلى مواقع تابعة لوزارة التجارة وهيئة الأوراق المالية والبورصات الأمريكية، ومارسوا أنشطة وصفتها أوبن إيه آي بأنها "غير متوافقة مع الأهداف المحددة" أو "غير منضبطة" -وهو المصطلح الذي تستخدمه شركات الذكاء الاصطناعي للإشارة إلى التصرفات الخاطئة أو السلوكيات المنحرفة لأنظمتها. وفي هذه الحالة بالتحديد، تجسد هذا السلوك غير المنضبط في عمليات تصفح عدوانية ومكثفة للويب.

وأفادت صحيفة الغارديان، أن أحد هذه الأنشطة شمل الوصول إلى بيانات من مكتب الإحصاء الأمريكي عبر موقع وزارة التجارة، في حين لم ينجح الوكلاء في الوصول إلى أنظمة غير عامة، بحسب المعلومات التي أعلنتها أوبن إيه آي.

وأكدت الشركة أن جزءا كبيرا من النشاط الذي كشفته خلال عمليات بحث وتقييم داخلية، مرتبط بمهام بحثية تهدف إلى الوصول إلى مصادر معلومات عامة وموثوقة، لكن بعض الوكلاء تصرفوا بطرق تجاوزت ما كان متوقعا منهم، بما في ذلك محاولة تجاوز ضوابط أمنية أو التفاعل مع مواقع خارجية.

وكشفت الشركة، في واقعة أخرى أن بعض وكلاء الذكاء الاصطناعي التابعين لها أرسلوا بيانات إلى مواقع خارجية من دون قصد، بينها 53 صورة رفعها مستخدمون إلى شات جي بي تي، في حادثة تفتح مجددا النقاش حول قدرة الشركات على مراقبة تصرفات أنظمة الذكاء الاصطناعي التي تنفذ مهام متعددة بصورة شبه مستقلة.

وبحسب تقرير نشرته وكالة رويترز، قالت أوبن إيه آي إن وكلاءها نشروا صورا مرتبطة بمستخدمين على مواقع لاستضافة الصور، لكنها لم تحدد ما إذا كانت هذه الصور مولدة بالذكاء الاصطناعي أو صورا لأشخاص حقيقيين يمكن التعرف إليهم، كما لم تكشف متى جرى نشرها أو المسار الذي اتبعه الوكلاء للوصول إليها.

وذكر موقع أكسيوس ، نقلا عن تصريحات الشركة، أن الصور نشرت على شكل روابط في مواقع لاستضافة الصور لم تكن مدرجة للعامة، وأن أوبن إيه آي تعاونت مع مزودي خدمات الاستضافة لإزالة معظمها، بينما كانت تعمل على إزالة الصور المتبقية، كما قالت الشركة إن الصور جاءت من مستخدمين كانت بياناتهم مؤهلة للاستخدام في تدريب النماذج، وفق إعدادات الخصوصية الخاصة بهم.

وتشير هذه التفاصيل إلى أن الواقعة لا تتعلق باختراق مباشر لخوادم شات جي بي تي، بل بسلوك وكلاء يعملون داخل بيئات البحث والاختبار، حيث تمكنوا من الوصول إلى بيانات ثم نقلها إلى خدمات خارجية بطريقة لم تكن مقصودة من الشركة، وتظل طبيعة الصور والمعلومات التي قد تحتوي عليها غير معلومة، إذ لم تكشف أوبن إيه آي ما إذا كانت تتضمن أشخاصا يمكن تحديد هوياتهم أو بيانات حساسة.

وتأتي هذه الإفصاحات بعد حادثة أعلنت عنها أوبن إيه آي في يوليو/تموز الماضي، عندما تمكنت نماذج داخلية قيد الاختبار من تجاوز بعض الضوابط المفروضة عليها والوصول إلى الإنترنت وأنظمة خارجية خلال تقييمات للأمن السيبراني.

وفي تقرير نشرته الشركة في 26 أغسطس/آب الماضي أيضا، قالت إن النماذج تمكنت من اكتشاف طرق للاتصال ببعضها بعضا والوصول إلى الإنترنت رغم القيود المفروضة عليها، قبل أن تتطور أنشطتها إلى اختراق أجزاء من البنية التحتية البحثية وأنظمة شركة هاغينغ فيس ، وأعلنت الشركة عقب ذلك تشديد عزل بيئات البحث، وتقييد الوصول إلى الإنترنت، وتعزيز أنظمة المراقبة.

وقالت أوبن إيه آي إن مراجعة نشاط الوكلاء السابق قد تستغرق أشهرا بسبب حجم السجلات والبيانات التي يتعين فحصها، وإنها أبلغت عشرات الجهات الخارجية التي ربما تأثرت بأنشطة غير مقصودة. ووفق رويترز، كانت الشركة قد حددت بحلول منتصف سبتمبر/أيلول الحالي نحو 24 حادثة تصرف فيها وكلاء بطريقة غير مرغوبة، مع استمرار ارتفاع العدد مع تقدم التحقيق في السجلات الداخلية.

وتبرز هذه الوقائع تحديا متزايدا أمام مطوري أنظمة الذكاء الاصطناعي الوكيلية، فكلما توسعت قدرة الوكيل على تصفح الإنترنت والوصول إلى الملفات والخدمات وتنفيذ سلسلة من المهام، تصبح مراقبة تصرفاته ومنع انتقاله إلى أنشطة لم يطلبها المستخدم أو المطور أكثر تعقيدا.

وتوضح وثائق أوبن إيه آي الخاصة بوكلاء شات جي بي تي أن الشركة تستخدم بالفعل طبقات متعددة من الحماية، تشمل مراقبة محاولات حقن التعليمات، وطلبات تأكيد لبعض الإجراءات عالية التأثير، وإشراف المستخدم في مواقع معينة، لكنها تقر بأن هذه الإجراءات لا تلغي جميع المخاطر.