أول حادثة من نوعها في أستراليا.. الذكاء الاصطناعي يخترق هيئة حكومية

قال ألبانيزي إنّ البرنامج تمكن من الوصول إلى ملفات عامة وخاصة تابعة لدائرة الإحصاءات الصحية- غيتي

ندد رئيس وزراء أستراليا أنتوني ألبانيزي باختراق برنامج ذكاء اصطناعي لـ "أوبن إيه آي" موقعًا حكوميًا في يونيو

تمكّن برنامج ذكاء اصطناعي مستقل تابع لشركة "أوبن ايه آي" الأميركية في يونيو/ حزيران الفائت، من اختراق موقع إلكتروني تابع للحكومة الاسترالية، في حادثة ندّد بها رئيس الوزراء الأسترالي أنتوني ألبانيزي وقال إنها "غير مقبولة".

وشرح ألبانيزي الأربعاء أمام صحافيين في نيويورك على هامش اجتماعات الجمعية العامة للأمم المتحدة، أنّ هذا البرنامج تمكّن من الوصول إلى ملفات عامة وخاصة تابعة لدائرة الإحصاءات الصحية.

وأوضح أنّ "أوبن ايه آي" لم تُبلغ الحكومة الأسترالية بالحادثة حتى سبتمبر/ أيلول، إذ بعثت برسالة إلكترونية تشرح ملابساتها إلى عنوان بريد إلكتروني مخصص للعامّة ولا يتم تفقّده سوى مرة واحدة يوميًا.

وقال ألبانيزي: "تحدثت اليوم إلى الرئيس التنفيذي لشركة أوبن ايه آي سام ألتمان، لأعرب عن قلق أستراليا البالغ إزاء هذه الحادثة. كما أعربت عن استيائي من تأخر الشركة في إبلاغ الحكومة بما حدث".

أستراليا تكشف عن أول خرق لهيئة حكومية باستخدام الذكاء الاصطناعي pic.twitter.com/OsDO7BjWyO

وأضاف "اضطررنا للانتظار حتى العاشر من سبتمبر لتلقي أي إشعار، وجاء هذا الإشعار على شكل بريد إلكتروني أُرسل ببساطة إلى صندوق البريد العام".

وأقرّت "أوبن ايه آي" بأنّ برامجها استهدفت عدة مواقع إلكترونية حكومية أسترالية، وأنها اكتشفت ذلك في أغسطس/ آب.

وذكرت الشركة في ردّ تلقته وكالة "فرانس برس" الأربعاء في سان فرانسيسكو "رصدنا نشاطًا يتعلق بعدد كبير من المواقع والخدمات الحكومية الأسترالية، حيث كانت نماذجنا تحاول العثور على إجابات".

وأضافت "خلال هذه العملية، اتخذت نماذجنا إجراءات لم نكن نتوقعها".

وكان نموذج "أوبن ايه آي" يبحث عن بيانات بشأن إنفاق الحكومة الأسترالية على الرعاية الصحية، في إطار عملية تهدف إلى تقييم أداء الأداة.

وقال وزير الدفاع الأسترالي ريتشارد مارلز: "طرح النموذج سؤالًا، ولم تكن المعلومات متوفرة. بدلًا من التوقف هنا، تجاوز النموذج الحدود".

ويأتي هذا الحادث الأخير وسط تزايد القلق العالمي بشأن قوة أدوات الذكاء الاصطناعي المتقدمة، وذلك في أعقاب سلسلة من عمليات الاختراق الذاتي التي نفذتها نماذج تابعة لـ"اوبن ايه آي" ولمنافستيها "أنثروبيك" و"غوغل".

وقال ألبانيزي: "أعتقد أنّ اوبن ايه آي تدرك أنّ عليها اعتماد بروتوكولات أفضل. إنه مشروع بحثي غامر بالدخول في مجالات لا ينبغي له الخوض فيها".

وأضاف "لا نعتقد أنه تم الوصول إلى أي معلومات شخصية في هذه المرحلة، لكن التحقيق جارٍ" تحت إشراف الهيئة المسؤولة عن أمن نظم المعلومات والحرب السيبرانية، مؤكدا أنّ الحادث "غير مقبول مطلقا".

وشدد عدد كبير من المسؤولين في شركات متخصصة بالذكاء الاصطناعي، في الأمم المتحدة الأربعاء، على ضرورة تعزيز الرقابة على هذه التكنولوجيا، حتى أن داريو أمودي من شركة "أنثروبيك" تعهّد إبطاء تطويرها من جانب واحد.

وقال ألتمان، خلال عرض تقديمي أمام مجلس الأمن التابع للأمم المتحدة في نيويورك، إن وتيرة تطوير الذكاء الاصطناعي الحالية "تتطلب يقظة شديدة".

ومنذ بداية الصيف، أبلغت شركتا "أوبن ايه آي" و"أنثروبيك" عن عدد من الحوادث المتعلقة بأحدث نماذجهما، والتي انحرفت عن الأهداف التي وضعها مبتكروها ولجأت إلى الغش ومحاولة الكذب والتستر على أفعالها.

وتعود أخطر هذه الحوادث إلى يوليو/ تموز عندما تمكن نموذجان تابعان لـ"أوبن ايه آي" من الخروج من بيئتهما المعزولة خلال اختبارات، والوصول إلى الإنترنت، واختراق منصة "هاغينغ فايس" المتخصصة في تخزين نماذج الذكاء الاصطناعي.

ووصلت نماذج "أنثروبيك" بشكل غير قانوني إلى ثلاث منظمات لم يُكشف عن أسمائها، خلال اختبارات كان من المفترض أن تُبقيها بعيدة عن أنظمة "العالم الحقيقي".

وأقرّت شركة "غوغل" في الأسبوع الفائت بأن نموذجها "جيميناي" اخترق عددًا من الأنظمة عن طريق تخمين بيانات تسجيل الدخول.