شركة إسرائيلية في قلب اختراقات الذكاء الاصطناعي.. كيف ذلك؟

في يوليو/تموز، خرجت شركة "هاغينغ فيس " في إعلان أثار ضجة عالمية وكشف عن حادثة كانت الأولى من نوعها آنذاك، إذ تعرضت المنصة لاختراق نفذه وكلاء ذكاء اصطناعي كان مجهولا في ذلك الوقت، وخلال أيام، أعلنت شركة "أوبن إيه آي" الأمريكية أن نموذجها خرج عن السيطرة وأدى إلى هذا الاختراق.

ومنذ تلك اللحظة، توالت الأنباء عن حوادث اختراق نفذها وكلاء الذكاء الاصطناعي لكبرى الشركات التقنية، وصدرت إعلانات من "أنثروبيك" و "ميتا" و "غوغل" بوجود حوادث مماثلة.

ورغم الاهتمام العالمي الذي أحاط بهذه الحوادث وتحذيرات الخبراء، فإنها لم تتوقف واستمرت في الحدوث بوتيرة متزايدة، لتصل في الوقت الحالي إلى مهاجمة المواقع الحكومية الأمريكية دون أن يطلب منها أحد ذلك، وفق أحدث بيانات "أوبن إيه آي ".

ويجمع كل هذه الاختراقات التي جاءت من نماذج ذكاء اصطناعي مختلفة وشركات مختلفة خيط واحد رئيسي هو شركة إسرائيلية مسؤولة عن اختبار النماذج تعرف باسم "إيريغولار"، وفق تقرير موقع "ذا فيرج" التقني الأمريكي.

وفي حديثه مع الموقع التقني الأمريكي، أوضح عمر نيفو المدير التقني والمؤسس المشارك في الشركة أنه لم يكن من المفترض أن يحصل وكلاء الذكاء الاصطناعي في الاختبارات على وصول إلى الإنترنت المفتوح، ولكنه كان متاحا "عن غير قصد"، حسب قوله.

وأكد أيضا في حديثه أن هذه المشكلة نفسها كانت وراء الحوادث التي تورطت فيها نماذج "أوبن إيه آي" و"أنثروبيك" وغوغل وميتا ، نظرا لأن الشركة تعمل معهم جميعا.

ولكن نيفو نفى ارتباط الشركة بجميع حوادث الاختراقات التي نفذتها نماذج الذكاء الاصطناعي، مشيرا إلى أن اختراق "هاغينغ فيس" على سبيل المثال، وهي منصة عالمية للمبرمجين لتطوير واستضافة نماذج الذكاء الاصطناعي وتعلم الآلة مفتوحة المصدر، لم يكن لاختبارات "إيريغولار" دور فيه، وكذلك الكثير من الحالات الأخرى، وذلك رغم أنها تتبع نفس القالب العام للاختراقات التي حدثت من الشركة.

في واقعة "هاغينغ فيس"، تمكن وكلاء الذكاء الاصطناعي من الوصول إلى الإنترنت والاعتماد على سرب ضخم من الوكلاء لشن مجموعة من الهجمات المنظمة، فضلا عن اختبار الدفاعات الأمنية للمنصة قبل البدء في الهجوم الفعلي الذي حدث في يوليو/تموز.

كما أن وكلاء الذكاء الاصطناعي اخترقوا موقعا ألمانيا واستغلوه كآلية تواصل سريعة بينهم، وذلك في محاولة منهم للعثور على معلومات والإجابة عن أسئلة اختبارية متنوعة.

وتدعى آلية الاختبار التي تطلب من وكلاء الذكاء الاصطناعي الإجابة عن أسئلة والبحث عن أجوبتها في شبكات الاختبار المغلقة بتمارين "التقاط العلم"، كما جاء في تقرير "ذا فيرج".

وتعد تمارين "التقاط العلم" إحدى آليات التدريب الشائعة لاختبار قدرات الاختراق التي يملكها كل نموذج ذكاء اصطناعي، وهي تطلب من النموذج البحث عن الأجوبة المخفية في شبكات الاختبار المغلقة التي تحاكي آلية عمل شبكات الإنترنت المفتوحة.

وتقف آلية الاختبار هذه خلف أغلب الاختراقات التي قام بها الذكاء الاصطناعي، بما فيها الاختراق الأخير الذي حدث لمنظومة الصحة الأسترالية "ميديكير"، إذ كان الوكلاء يبحثون عن إجابات في أماكن لا يجب عليهم الوصول إليها.

وتتبع شركة "إيريغولار" آلية الاختبار ذاتها في اختبار العديد من نماذج الذكاء الاصطناعي، نظرا لأنها تعمل مع عدد كبير من مختبرات الذكاء الاصطناعي العالمية مثل "أنثروبيك" و "ميتا" وحتى نماذج "غوغل"، وفق تقرير صحيفة نيويورك تايمز الأمريكية المنشور في نهاية أغسطس/آب الماضي.

لم تنف "إيريغولار" في حديث مديرها التقني نيفو مع "ذا فيرج" أو حتى حديث رئيسها التنفيذي دان لاهاف مع صحيفة "نيويورك تايمز" مسؤوليتها عن اختراقات وكلاء الذكاء الاصطناعي بشكل عام، إذ أقرت دورها في بعض هذه الاختراقات رغم تشابه آلية الاختراق بين الحوادث التي أقرتها وتلك التي نفتها.

ولكن، تكمن الأزمة في الحوادث التي اعترفت الشركة بها، إذ أخطأت الشركة في إعداد الاختبارات الخاصة بها والبيئات المحمية التي تحدث بها هذه الاختبارات، وفق تصريحات لاهاف مع نيويورك تايمز.

وتكشف هذه التصريحات عن أزمة حقيقية في آلية الاختبار، إذ أخطأ موظفو الشركة ومنحوا النماذج وصولا مباشرا إلى الإنترنت في حين كان يجب ألا يحصلوا عليه، ثم طلبوا من النماذج البحث عن معلومات واختراق شركات وكيانات كانوا يعتقدون أنها وهمية، لكن تبين أن أسماء تلك الشركات والكيانات الوهمية تشابهت مع أسماء كيانات ومؤسسات حقيقية مما تسبب في تلك الاختراقات.

ويربط تقرير "نيويورك تايمز " بين اختبارات "إيريغولار" وبعض حوادث الاختراق التي نفذتها نماذج "أوبن إيه آي" و"أنثروبيك" وميتا وغوغل، وذلك رغم أن تقرير "ذا فيرج" يؤكد أن الشركة تعمل على اختبار نماذج ذكاء اصطناعي من خارج الولايات المتحدة، وتحديدا الصين.

ويؤكد التقرير المنفصل أن "إيريغيولار" تعمل على اختبار نماذج لشركات صينية مثل "كيمي كيه 3″ و"جي إل إم 5.2" وحتى "زي إيه آي"، ولكنها لم تسفر عن حوادث اختراق مماثلة في العالم الحقيقي، بناء على تصريحات نيفو.

وتابع نيفو قائلا: "الملاحظة وحدها لا ينبغي تفسيرها كدليل على أن هذه النماذج أقل عرضة لهذا النوع من السلوك".

بالطبع، أكدت "إيريغولار" أنها أصلحت الخطأ الذي كان يشوب اختباراتها وشددت ضوابط الوصول إلى الإنترنت، فضلا عن توسيعها نطاق المراقبة والمراجعة اليدوية بعد اكتشاف الحوادث، في إشارة منها إلى أن كل الحوادث التي تكتشفها الشركات اليوم وتعلن عنها أو ستكتشفها لاحقا هي نتائج اختبارات قديمة أجرتها الشركة.

وفي حديثه مع مجلة "فوربس" الأمريكية، قال لاهاف: "إن الأخطاء الناجمة عن الإشراف البشري يمكن أن تحدث، وعلينا أن نتعلم منها ونتحمل المسؤولية عنها"، وذلك أثناء حديثه عن السبب الذي أدى إلى حدوث هذه الاختراقات.

ويجادل منتقدو "إيريغولار" بأن تدابير بسيطة كانت كفيلة بمنع هذه الحوادث من الأساس، إذ إن التأكد من عدم قدرة النماذج على الوصول إلى الإنترنت لا يتطلب أكثر من مراجعة ضوابط الاختبارات، وفق تقرير فوربس.

ولكن لاهاف يرى عكس ذلك، إذ يؤكد أن زيادة المراقبة لن تكون كافية لمنع وقوع عمليات اختراق مماثلة مجددا، ويشير إلى دور مختبرات تطوير الذكاء الاصطناعي في إجراء تحليلات جنائية رقمية للهجمات لفهم سلوكها، مضيفا: "علينا أن نتكيف مع الواقع المعقد".

ومن جانبه، أوضح جيفري لاديش مدير مؤسسة "باليساد ريسيرش " وهي منظمة غير ربحية أمريكية تدرس قدرات الهجوم للذكاء الاصطناعي، أن النماذج الجديدة باتت تدخل "النطاق الخارق للبشر"، مشيرا إلى الحاجة إلى وجود ضمانات أفضل لكل المختبرين والجهات التنظيمية الحكومية.

ويعكس فشل اختبارات "إيريغولار" ضرورة وجود شركات اختبار ومعامل اختبار مختلفة وفك احتكار شركة بعينها لهذه المعامل، إذ إن خطأ واحدا في شركة اختبار واحدة يفتح الباب أمام العشرات من حالات الاختراق التي تطال كافة شركات الذكاء الاصطناعي في العالم.