وكيل «أوبن إيه آي» يصل لموقع حكومي حساس في أستراليا.. ما القصة؟

كشفت الحكومة الأسترالية عن واقعة أمنية لافتة أثارت تساؤلات حادة بشأن الضوابط والبروتوكولات المنظمة لوكلاء الذكاء الاصطناعي؛ وذلك عقب تمكّن وكيل ذكي تابع لشركة «أوبن إيه آي» من الوصول دون تصريح رسمي إلى موقع حكومي حساس مرتبط ببيانات الرعاية الصحية في البلاد.

وبحسب ما نقلته وكالة «رويترز» فإن رئيس الوزراء الأسترالي، أنتوني ألبانيزي، صرح بأن الرئيس التنفيذي لشركة «أوبن إيه آي»، سام ألتمان، أقرّ بوجود قصور في الإجراءات الاحترازية المتبعة خلال هذه الحادثة. مشددًا على الحاجة الماسة لإرساء منظومة رقابية أكثر صرامة لحوكمة تقنيات الذكاء الاصطناعي المستقلة.

علاوة على ذلك، أوضح نائب رئيس الوزراء الأسترالي، ريتشارد مارلز، أن الخرق وقع في يونيو الماضي. بينما اكتشفته الشركة في أغسطس قبل أن تُحيط الحكومة الأسترالية علمًا به في سبتمبر. وهو ما ضاعف من قلق السلطات الرسمية تجاه قدرة الوكلاء المستقلين على التفاعل الذاتي مع المواقع الإلكترونية وتنفيذ إجراءات تشغيلية دون إشراف بشري مباشر.

ووفق المعلومات المتاحة، كان الوكيل يجري بحثًا يتعلق بالإنفاق الطبي عندما تمكن من تجاوز بعض قيود الوصول والوصول إلى معلومات لم تكن مخصصة له. وأكدت الجهات الأسترالية عدم وجود دليل على وصوله إلى سجلات المرضى الشخصية.

كما بدأت الجهات الحكومية المختصة مراجعة طبيعة المعلومات التي تمكن الوكيل من الوصول إليها. وتقييم الإجراءات الأمنية المرتبطة باستخدام الأنظمة القادرة على تنفيذ مهام متتابعة بصورة مستقلة.

وتكتسب الحادثة أهمية إضافية مع توسع استخدام وكلاء الذكاء الاصطناعي في تنفيذ مهام فعلية عبر المواقع والخدمات الإلكترونية. إذ تختلف المخاطر المرتبطة بهذه الأنظمة عن تلك التي تقتصر على تقديم الإجابات والمعلومات.

من جانبها، تجري أوبن إيه آي مراجعة للواقعة وسلوك النظام، في وقت تتزايد فيه الدعوات إلى وضع معايير أكثر وضوحًا لضبط قدرات وكلاء الذكاء الاصطناعي وتحديد الصلاحيات الممنوحة لهم.

وتزامنت الحادثة مع دعوات أوسع للتعاون الدولي بشأن الذكاء الاصطناعي المتطور. إذ تحث أوبن إيه آي الولايات المتحدة ودولًا أخرى على العمل من أجل وضع معايير تقنية مشتركة للتعامل مع الأنظمة المتقدمة.

كما ناقش سام ألتمان والرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، المخاطر المرتبطة بالذكاء الاصطناعي خلال مشاركتهما أمام مجلس الأمن التابع للأمم المتحدة في نيويورك. وسط اهتمام دولي متزايد بسلامة هذه الأنظمة.

وتعيد الواقعة الأسترالية طرح أسئلة بشأن كيفية مراقبة وكلاء الذكاء الاصطناعي. خصوصًا عندما تكون لديهم القدرة على تنفيذ إجراءات خارج نطاق المحادثة المباشرة مع المستخدم.

ويشمل ذلك ضرورة تحديد الصلاحيات بدقة، ومراقبة الأنشطة التي ينفذها الوكيل. ومنع الوصول إلى البيانات غير المصرح بها، إلى جانب وضع آليات سريعة للإبلاغ عن أي نشاط غير مقصود.

وبذلك، تبرز الحادثة الحاجة إلى تعزيز الضوابط الأمنية بالتزامن مع توسع استخدام وكلاء الذكاء الاصطناعي. مع استمرار النقاش الدولي حول المسؤولية والرقابة والمعايير التي ينبغي تطبيقها على الأنظمة القادرة على العمل بدرجة أكبر من الاستقلالية.