أداة الذكاء الاصطناعي "جيميناي" تخترق مواقع شركات من خلال التكهن بكلمات المرور

تمكن "جيميناي"، نموذج الذكاء الاصطناعي من شركة غوغل المخصص للمستهلكين، من اختراق مواقع إلكترونية لكيانات من خلال التكهن بكلمات المرور لتسجيل الدخول، في أحدث حالات الاختراق السيبراني التي ترتكبها أنظمة الذكاء الاصطناعي ويتم الكشف عنها.

أعلنت شركة غوغل الجمعة أن نموذج الذكاء الاصطناعي الخاص بها "جيميناي"، اخترق مواقع إلكترونية لكيانات من خلال التكهن بكلمات المرور لتسجيل الدخول.

حالات الاختراق التي نشرتها صحيفة وول ستريت جورنال لأول مرة، في أيار/مايو، وكشفت عنها غوغل في تموز/يوليو. وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، في بيان إنه خلال عملية تقييم "عثر النموذج على معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار".

"أوبن إيه آي" و"أنثروبيك" و"غوغل" تبحث إنشاء هيئة لمراقبة مخاطر الذكاء الاصطناعي

وأضافت أدكينز "في الحالات الثلاث، توقف النموذج"، دون تحديد الجهات التي تعرضت للاختراق. وتابعت "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا المدرب على التغييرات التي أدخلوها على عمليات الاختبار". وفي تموز/يوليو، تمكن نموذجان من نماذج "أوبن إيه آي" من الخروج من البيئة المغلقة المخصصة لهما، ودخلا إلى الإنترنت بشكل مستقل، واخترقا منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".

لعرض هذا المحتوى من اليوتيوب من الضروري السماح بجمع نسب المشاهدة وإعلانات اليوتيوب.

يبدو أن إحدى التطبيقات الموجودة في متصفح الإنترنت الذي تستخدمه تمنع تحميل مشغل الفيديو. لتتمكن من مشاهدة هذا المحتوى، يجب عليك إلغاء استخدامه.

وأثارت هذه الحادثة مخاوف من عجز شركات الذكاء الاصطناعي العملاقة عن ضبط نماذجها، إذ سُجلت حوادث مماثلة في شركتي أنثروبيك ومونشوت إيه آي الصينية. وأكدت أدكينز أن "هذه الحوادث تبرر أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".

كلمات مفتاحية مرتبطة بالمقال