فريق أممي يدعو إلى وضع تدابير أقوى مع تطور وكلاء الذكاء الاصطناعي

جاء تحذير "الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي" في أعقاب اختراق منصة هاغينغ فيس (HuggingFace) الإلكترونية في شهر تموز/يوليو على يد وكلاء الذكاء الاصطناعي، خلال اختبار أجرته شركة أوبن إيه آي (OpenAI) المطورة لشات جي بي تي (ChatGPT).

"وكلاء الذكاء الاصطناعي" هي برمجيات قادرة على أداء المهام بشكل مستقل ونيابة عن المستخدم، وذلك بخلاف روبوتات الدردشة الذكية، والتي تعتمد في عملها على تلقي أسئلة أو تعليمات محددة.

وخلص الفريق إلى أن الاختراق الأمني كان نتيجة لتضافر عوامل خطر رئيسية، مما أثار مخاوف من أن البشر قد يعجزون يوما ما عن توجيه أنظمة الذكاء الاصطناعي أو تقييدها أو إيقافها.

في معرض تفصيلها للحادثة، ذكر الفريق أن وكلاء الذكاء الاصطناعي تجاوزوا إجراءات الحماية التي وضعت لاختبار كانت تقوم به شركة أوبن إيه آي، ونسقت عملياتها عدة مرات باستخدام أداة برمجية داخلية غير مصممة لتمكين التواصل بين الوكلاء، وحصلت على صلاحيات وصول غير مصرح بها إلى الإنترنت ومنحت نفسها صلاحيات المسؤول.

كما أخفت محاولاتها للتحايل على تقييمات الأمن السيبراني، حيث اختار بعض الوكلاء "التضحية" بأنفسهم لصالح المجموعة. وتبادل نحو 1200 وكيل أكثر من 70 ألف رسالة وملف خلال الفترة المشمولة بالدراسة، وامتد الاختراق ليشمل مجموعة أبحاث تابعة لشركة أوبن إيه آي، بالإضافة إلى منصة هاجنج فيس.

قال يوشوا بنجيو، الرئيس المشارك للفريق العلمي: "لطالما حذر الباحثون من أن ثلاثة شروط قد تؤدي إلى فقدان السيطرة: عدم توافق الأهداف (مع النوايا أو القيود التي وضعها الناس القائمون عليها)، والقدرة على السعي لتحقيق تلك الأهداف، وتوفر بيئة تسمح بذلك. وفي هذا الصيف، اجتمعت هذه الشروط الثلاثة في نظام حقيقي، وليس في بيئة مختبرية".

وأضاف: "ونظرا لأن هذه ليست حالة معزولة لعدم توافق الأهداف، فإن الأمر يثير تساؤلات جدية حول الطريقة التي يتم بها تدريب وكلاء الذكاء الاصطناعي حاليا".

وأكد الخبراء المستقلون في الفريق أن احتواء هذه الحادثة لا يقدم أي ضمانات بأن البشر قادرون على إبقاء وكلاء الذكاء الاصطناعي تحت السيطرة بشكل موثوق، لا سيما مع تزايد قدرات هذه الأنظمة، وصعوبة مراقبتها، وبراعتها المتزايدة في العثور على ثغرات أو إخفاء أنشطتها.

وشدد الفريق على أن الدرس المباشر المستفاد من هذه الحادثة هو أنه تم الإغفال عن ممارسات الأمن السيبراني الأساسية، في حين أن تدابير الحماية لا تواكب التطورات الحاصلة.

ومع ذلك، أشار الخبراء إلى مصدر قلق أكثر خطورة: وهو أن أساليب التدريب الحالية قد تدفع وكلاء الذكاء الاصطناعي إلى تبني أهداف خاصة بهم، وانتهاك تعليمات السلامة عن عمد، وإخفاء أفعالهم.

وقال خبراء اللجنة: "لا تقتصر المسألة على السرعة فحسب، بل يظل التساؤل قائما عما إذا كانت تدابير الحماية المصممة اليوم ستظل فعالة بمجرد أن تصبح هذه الأنظمة قادرة على فهمها والالتفاف عليها. وببساطة، فإن النموذج التقليدي للحماية آخذ في التداعي".

وضع تقرير الفريق حادثة هاغينغ فيس في سياق أبحاث أوسع تتناول قضيتين أساسيتين، هما: عدم توافق أهداف الوكلاء (أي عندما تتصرف أنظمة الذكاء الاصطناعي بطريقة تشكل تهديدا)، ومسألة السيطرة على الذكاء الاصطناعي.

ومن بين القضايا الأخرى التي تم بحثها، كيفية تحول الحوكمة من نماذج الذكاء الاصطناعي - التي تستخدم الخوارزميات للتعرف على الأنماط - إلى وكلاء الذكاء الاصطناعي.

استعرض التقرير أيضا مناهج عملية مطبقة بالفعل في قطاعات حساسة، مثل الطيران والطب والأمن السيبراني، حيث توجد آليات للإبلاغ عن الحوادث، والتدقيق المستقل، وتدابير حماية متعددة المستويات.

إلا أن تشينغ هوا لو، عضو الفريق، قال: "هذه الممارسات قد لا تكون كافية مع تزايد قدرات وكلاء الذكاء الاصطناعي واستقلاليتهم وصعوبة مراقبتهم".

أُنشئ الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي بقرار من الجمعية العامة للأمم المتحدة في آب/أغسطس من العام الماضي.

ويتولى الفريق إعداد تقارير سنوية حول الفرص والمخاطر وتأثيرات الذكاء الاصطناعي في المجالات غير العسكرية، إلى جانب تقارير موضوعية حول القضايا الناشئة، والتي ستستخدم لإثراء "الحوار العالمي حول حوكمة الذكاء الاصطناعي" المقرر عقده في مقر الأمم المتحدة بنيويورك في أيار/مايو 2027.