"جيميناي" يخترق شركات في أول واقعة معروفة لذكاء غوغل الاصطناعي

تمكن ‌‌نموذج جيميناي، التابع لشركة غوغل من الوصول إلى الإنترنت واختراق شركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول مثال معروف على قيام أنظمة الذكاء الاصطناعي التابعة للشركة بمثل هذا الفعل بشكل مستقل.

ووقعت عمليات الاختراق في مايو/أيار خلال اختبار للأمن السيبراني أجرته شركة إيريغولار المستقلة المتخصصة في تقييمات الأمن السيبراني.

وعثر جيميناي على معلومات متاحة للعامة عبر الإنترنت وخمّن بيانات اعتماد للدخول إلى 3 مواقع إلكترونية اعتقد أنها تقع ضمن نطاق ‌‌اختباره، وجاء ذلك خلال تقييم اختبار اعتيادي، وفق بيان صادر عن هيذر أدكينز نائبة رئيس غوغل لهندسة الأمن.

وفي إحدى الحالات، خمّن نموذج جيميناي كلمات المرور إلى ‌‌أن تمكن من الوصول إلى نظام محمي.

وفي الحالتين الأخريين، عثر النموذج على بيانات اعتماد أتاحت له بعد ذلك الوصول إلى أنظمة محمية، ‌‌وفقا ‌‌لوول ستريت جورنال التي كانت أول من نشر الخبر أمس الجمعة.

وقالت أدكينز إن النموذج توقف عن الاختراق في الحالات الثلاث جميعها.

وعن الإجراءات المتبعة، قالت أدكينز إنهم أبلغوا الكيانات الثلاثة، وعملوا مع شريكهم في التدريب بشأن التغييرات التي أدخلت على عمليات الاختبار.

وقالت إن هذه الوقائع تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.

وقال متحدث باسم إيريغولار إن الواقعة تنطوي على المشكلة نفسها التي أثرت على مختبرات أخرى للذكاء الاصطناعي، وإنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو/تموز.

وكشفت ميتا وأنثروبيك وأوبن إيه آي عن وقائع مماثلة مرتبطة بإيريغولار. وقالت ميتا في أغسطس/آب إن الواقعة لم تنطوِ على اختراق لبيئة معزولة أو هجوم سيبراني متطور، بينما قالت إيريغولار إنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بصورة آمنة.

وأثارت هذه الوقائع تساؤلات بشأن الضمانات اللازمة مع اكتساب وكلاء الذكاء الاصطناعي قدرا أكبر من الاستقلالية وإمكانية الوصول إلى الإنترنت وأنظمة الحاسوب.