في منتدى اليونسكو: النموذج السعودي لإدارة مخاطر الذكاء الاصطناعي أمام خبراء العالم

استعرضت المملكة، خلال منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي في الرياض، تجربتها في الانتقال من المبادئ والأطر النظرية إلى التطبيق العملي في التعامل مع مخاطر تقنيات الذكاء الاصطناعي، من خلال "الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي" الذي أصدرته الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا".

ويقدم الإطار خارطة طريق إرشادية تساعد الجهات على تبني تقنيات الذكاء الاصطناعي بصورة آمنة ومسؤولة، من خلال منهجية متكاملة لتحديد المخاطر وتقييمها ومعالجتها ومراقبتها، بما يحقق التوازن بين تسارع الابتكار ومتطلبات الحوكمة والسلامة.

تختلف المخاطر المرتبطة بالذكاء الاصطناعي عن تلك التي تواجه الأنظمة البرمجية التقليدية؛ إذ قد تمتد آثارها إلى مستويات تنظيمية ومجتمعية أوسع، كما يمكن أن تظهر بعض المخاطر أثناء تشغيل الأنظمة واستخدامها بصورة لم تكن متوقعة مسبقًا؛ ومن هنا تبرز الحاجة إلى أطر متخصصة تتعامل مع طبيعة هذه التقنيات، ولا تكتفي بالأساليب التقليدية المستخدمة في إدارة مخاطر الأنظمة البرمجية.

وخلال جلسة بعنوان "من الإطار إلى التطبيق"، اطّلع خبراء ومختصون دوليون على تجربة "سدايا" في إدارة مخاطر الذكاء الاصطناعي، وأهمية دمج إدارة المخاطر ضمن منظومة الحوكمة منذ مراحل تطوير الأنظمة الذكية وحتى استخدامها وتشغيلها.

يمثل "الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي" وثيقة إرشادية تهدف إلى تحويل المبادئ والتوصيات الأخلاقية والدولية إلى ممارسات وسياسات قابلة للتطبيق داخل المؤسسات، ويستهدف الإطار بناء منهجية وطنية موحدة للتعامل مع مخاطر تقنيات الذكاء الاصطناعي في القطاعين الحكومي والخاص، بما يساعد الجهات على تحديد المخاطر وتقييمها ومعالجتها ومراقبتها، ويدعم في الوقت نفسه التحول الرقمي والتنافسية الاقتصادية للمملكة بما يتوافق مع مستهدفات رؤية السعودية 2030.

كما يركز على التعامل الاستباقي مع المخاطر، وتصنيف أنظمة الذكاء الاصطناعي وفق مستويات الخطورة، بما يتيح للجهات اتخاذ الإجراءات المناسبة بحسب طبيعة كل نظام واستخداماته وتأثيراته المحتملة.

يغطي الإطار مراحل متعددة لإدارة المخاطر، تبدأ بتهيئة بيئة الحوكمة المناسبة داخل الجهة، مرورًا بتحديد سيناريوهات المخاطر وتقييمها وتحديد المستوى المقبول منها، وصولًا إلى وضع آليات للرصد والمتابعة والاستجابة، وتهدف هذه المنهجية إلى الحد من الأضرار المحتملة وتعزيز الاستفادة الآمنة من حلول الذكاء الاصطناعي، مع توفير قدر من المرونة يسمح للجهات بتطبيق الإطار بما يتناسب مع طبيعة أعمالها ومستوى نضجها الرقمي.

ويشمل ذلك الأنظمة والتطبيقات ذات التأثير المرتفع على الأفراد والأصول والعمليات، ومن بينها النماذج التنبؤية، وتقنيات معالجة اللغات الطبيعية، وتحليل الصور ومقاطع الفيديو، والأتمتة الذكية، ونماذج الذكاء الاصطناعي ذات الاستخدام العام.

حوكمة للذكاء الاصطناعي وبناء للقدرات وتعاون دولي يوحّد الجهود؛ أبرز ما استعرضه ضيوف الإيجاز الصحفي الذي نظمته وزارة الإعلام في منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي. pic.twitter.com/RRUfimQIWm

يركز الإطار بصورة أساسية على الجانب التطبيقي لإدارة مخاطر الذكاء الاصطناعي داخل المؤسسات، ودعم اتخاذ القرارات المتعلقة بالحوكمة والتنظيم والتشغيل، ولا يضع الإطار معايير تقنية تفصيلية لقياس أداء نماذج الذكاء الاصطناعي، وإنما يقدم منهجيات وأدوات استرشادية تساعد المؤسسات على تطوير سياساتها الداخلية لتحديد المخاطر وتقييمها والتعامل معها أو قبولها وفق طبيعة أعمالها ومستويات المخاطر لديها.

يخاطب الإطار الوطني ثلاث فئات رئيسية داخل منظومة الذكاء الاصطناعي، وتشمل الفئة الأولى مطوري الأنظمة، بهدف دمج اعتبارات السلامة وإدارة المخاطر منذ مراحل التصميم والتدريب والاختبار وقبل إطلاق الأنظمة، أما الفئة الثانية فتشمل مشغلي الأنظمة، من خلال وضع سياسات واضحة للتشغيل والمراقبة، وتحديد المسؤوليات وآليات التعامل مع الحوادث، فيما تشمل الفئة الثالثة صناع السياسات، لمساعدتهم على تقييم جاهزية الأطر التنظيمية والقانونية وتطوير سياسات وتشريعات تدعم الابتكار مع إدارة المخاطر المحتملة وحماية المجتمع.

يستند الإطار إلى سبعة مبادئ أخلاقية أساسية تتوافق مع توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي الصادرة عام 2021.

وتشمل هذه المبادئ النزاهة والإنصاف للحد من التحيز، والخصوصية والأمن لحماية البيانات، والإنسانية لضمان توظيف التقنيات لخدمة البشر، إلى جانب تحقيق المنافع الاجتماعية والبيئية وتعزيز الاستدامة.

كما تتضمن الموثوقية والسلامة، والشفافية وقابلية التفسير لفهم القرارات التي تتخذها الأنظمة المؤتمتة، إضافة إلى المساءلة والمسؤولية من خلال تحديد أدوار المطورين والمشغلين وضمان وجود الإشراف البشري.