جوجل (Google) تعترف كيف اخترق نموذج الذكاء الاصطناعي "جيميني" (Gemini)

في سابقة هي الأولى لها، أكدت شركة جوجل (Google) أن نموذجها للذكاء الاصطناعي “جيميني” (Gemini) اخترق أمن ثلاث شركات أخرى في شهر مايو. وقعت هذه الاختراقات أثناء تقييم للأمن السيبراني أجرته شركة Irregular المتخصصة في أمن الذكاء الاصطناعي.

وكانت Irregular، وهي شركة ناشئة مقرها الاحتلال الإسرائيلي تدقق في أمن أنظمة الذكاء الاصطناعي المتقدمة. طرفًا أيضًا في عدد من حوادث الاختراق الأخيرة التي طالت جهات خارجية وارتبطت بنماذج OpenAI وAnthropic. ومنها اختراق OpenAI لشركة برمجيات الذكاء الاصطناعي Hugging Face.

في حين تتشابه الظروف التي مكنت النماذج من اختراق شركات أخرى في بعض هذه الحالات. فقد كانت Irregular تختبر النماذج في بيئة اختبار مغلقة تضم شركات وهمية.

ولم يكن من المفترض أن تكون هذه البيئة متصلة بالإنترنت، لكن الاتصال أتيح عن غير قصد، بحسب ما نقلته صحيفة وول ستريت جورنال (Wall Street Journal). وما إن اتصلت النماذج بالإنترنت حتى اخترقت شركات حقيقية بشكل غير متوقع.

بينما أبلغت Irregular جوجل بالاختراقات في نهاية يوليو، بعد أن اكتشفت أن OpenAI اخترقت Hugging Face. وأكدت جوجل لصحيفة الجارديان (Guardian) وقوع الاختراقات.

لكنها قالت إنها لم ترَ حاجة إلى الإفصاح عنها علنًا لأن النماذج لم تُلحق أضرارًا بالشركات المتأثرة. وكانت وول ستريت جورنال أول من نشر خبر الاختراقات وكشف عن وقوعها.

علاوة على ذلك، قالت هيذر أدكينز (Heather Adkins)، نائبة رئيس هندسة الأمان في جوجل. في بيان: “في تقييم قياسي، عثر النموذج على معلومات عامة على الإنترنت وخمّن بيانات اعتماد للدخول إلى مواقع ظنّ أنها جزء من الاختبار. وفي الحالات الثلاث جميعها، توقف النموذج.”

في إحدى الحالات، كانت Irregular تختبر قدرات Gemini في الأمن السيبراني عبر تكليفه بالحصول على معلومات من برمجيات شركة وهمية تحمل اسم شركة حقيقية.

وعندما اتصل النموذج بالإنترنت دون قصد، خمّن بشكل صحيح كلمة مرور خدمة تابعة للشركة الحقيقية واخترقها، بحسب ما قالته Irregular لوول ستريت جورنال. وذكرت جوجل أن النموذج توقف بمجرد أن أدرك أنه اخترق شركة حقيقية وليست الشركة المحاكاة.

وفي اختبارين آخرين، بحث النموذج في الإنترنت وعثر على مستودعات عامة تحتوي على بيانات اعتماد تخص شركتين. فاستخدمها للدخول إلى شركتين حقيقيتين. وبحسب جوجل، توقف النموذج عندما أدرك أنهما حقيقيتان.

اختارت Anthropic وOpenAI الإفصاح طوعًا عن الاختراقات، أما جوجل فلم تفعل. غير أن الشركة قالت إنها حرصت على إبلاغ الشركات الثلاث المخترَقة.

كما قالت أدكينز: “تسلط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.”

بينما دفع إعلان Anthropic وOpenAI عن الاختراقات السيناتور المستقل بيرني ساندرز (Bernie Sanders) إلى مطالبة الشركتين بوقف تطوير تقنياتهما مؤقتًا، معتبرًا أن ذلك يشير إلى أن الشركات لم تعد قادرة على التحكم في نماذجها.

فضلًا عن ذلك، أوقفت OpenAI تطوير نماذجها لمدة أسبوعين، بينما دعا داريو أمودي (Dario Amodei)، الرئيس التنفيذي لشركة Anthropic، إلى تباطؤ جماعي في تطوير الذكاء الاصطناعي لضمان بناء أكثر النماذج تقدمًا مع ضمانات كافية.