خبراء يرصدون هجمات سيبرانية لـ"جيميناي" دون تدخل بشري

رصد خبراء في الأمن السيبراني تمكن نموذج "جيميناي" (Gemini) التابع لشركة "جوجل" من اختراق عدد من الشركات، وذلك في أول واقعة معروفة ينفّذ فيها أحد أنظمة الذكاء الاصطناعي التابعة للشركة هجمات سيبرانية بصورة مستقلة.

ووقعت عمليات الاختراق في مايو، خلال اختبار للأمن السيبراني أجرته شركة "Irregular" المستقلة المتخصصة.

وقالت هيذر أدكينز، نائبة رئيس جوجل لهندسة الأمن، في بيان، إن "جيميناي" عثر خلال تقييم أمني اعتيادي على معلومات متاحة للعامة عبر الإنترنت، وخمّن بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق الاختبار.

وأضافت أدكينز: "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا في التدريب بشأن التغييرات التي أدخلها الآن على عمليات الاختبار"، معتبرة أن "هذه الوقائع تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".

وقال متحدث باسم Irregular إن الواقعة تنطوي على المشكلة نفسها التي أثّرت على مختبرات أخرى للذكاء الاصطناعي، مشيراً إلى أنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو. وأضاف: "عولجت وحُلت جميع المشكلات المعروفة من جانبنا قبل أسابيع".

وكشفت "ميتا" و"أنثروبيك" و"OpenAI" عن وقائع مماثلة.

وأثارت الوقائع تساؤلات بشأن الضمانات اللازمة مع اكتساب نماذج الذكاء الاصطناعي قدراً أكبر من الاستقلالية، وإمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر.

وفي إحدى الحالات، خمّن "جيميناي" كلمات المرور وتمكن من الوصول إلى نظام محمي. وفي الحالتين الأخريين، عثر النموذج على بيانات اعتماد أتاحت له بعد ذلك الوصول إلى أنظمة محمية، وفقاً لـ"وول ستريت جورنال".

وقالت أدكينز إن النموذج توقف عن الاختراق في الحالات الثلاث جميعها.