سباق الذكاء الاصطناعي.. حين تصبح السلامة كلفة للتفوق

تناقش حلقة “سيناريوهات” مفارقة سباق الذكاء الاصطناعي: الجميع يحذر من المخاطر، لكن الشركات والدول تخشى كلفة التباطؤ منفردة. وبين التنظيم والتحصين، تتحدد السيناريوهات قبل أن تفرضها صدمة كبرى في العالم.

قد تبدو التحذيرات المتصاعدة من مخاطر الذكاء الاصطناعي دليلا على اتساع الوعي بها، لكن سرعة تطوير النماذج لا تتراجع. فالشركات تتحدث عن السلامة، والحكومات تناقش الحوكمة، والخبراء يدعون إلى اختبارات وضوابط أشد، بينما تستمر المنافسة على بناء نماذج أكثر قدرة وأوسع انتشارا.

هذه المفارقة كانت محور حلقة برنامج "سيناريوهات"، الخميس، (2026/9/17): الخطر لا يتعلق فقط بما قد تفعله الآلة، بل بالنظام الذي يدفع البشر والمؤسسات إلى تسريعها. فالشركة التي تبطئ وحدها تخشى خسارة السوق والمستثمرين، والدولة التي تفرض قيودا منفردة تخشى أن تمنح خصومها تفوقا تقنيا أو عسكريا.

لذلك، لا تبدو فجوة الحوكمة ناجمة عن غياب التحذيرات أو نقص المقترحات، بل عن سؤال أصعب: من يقبل بدفع كلفة الحذر في سباق لا يريد أي طرف أن يتأخر فيه؟

يرى خبير تقنيات الذكاء الاصطناعي وتعلم الآلة إبراهيم العريقي أن التعويل على التنظيم الطوعي للشركات لا يكفي. فالتنافس، بحسب ما طرحه في الحلقة، يجعل توقف شركة عن تطوير نماذجها أو إبطاءها قرارا محفوفا بكلفة تجارية، ما لم تلتزم قواعد ملزمة تشمل الجميع.

ولا ينفصل هذا المنطق عن ضغط المستثمرين. إذ لفت بيتر لي، الأستاذ والباحث في أخلاقيات الذكاء الاصطناعي والأسلحة المستقلة إلى أن الشركات تعمل في بيئة تطالبها بالعوائد والنمو، بالتوازي مع نظر مؤسسات الدولة، ومنها البيت الأبيض ووزارة الدفاع الأمريكية، إلى الذكاء الاصطناعي بوصفه مصدرا للتفوق الإستراتيجي.

واستشهد العريقي بالخلاف الذي شهدته إدارة شركة "أوبن إيه آي" أواخر 2023، معتبرا أن عودة سام ألتمان بعد إقالته عكست غلبة منطق التسريع والاعتبارات التجارية على التوجه الداعي إلى مزيد من التريث والسلامة.

ولا يقدم المثال حكما نهائيا على الشركة أو على دوافع أطراف الخلاف، لكنه يختصر التوتر الذي ناقشته الحلقة: الحديث عن السلامة لا يلغي أن السباق على القدرات التقنية يفرض حسابات مغايرة، وأن من يتباطأ وحده قد يترك موقعه لمنافسه.

لا تقف المنافسة عند حدود الشركات. فبيتر لي يرى أن التنافس بين الولايات المتحدة والصين يجعل الاتفاقات الملزمة أكثر صعوبة، لأن الذكاء الاصطناعي لم يعد قطاعا تجاريا فقط، بل أصبح جزءا من حسابات النفوذ والأمن والقدرة العسكرية.

وفي هذا السياق، يتحول التنظيم المحلي إلى حل ناقص. فإذا شددت دولة ما قواعدها على تطوير النماذج واستخدامها، قد تجد الشركات طريقا إلى بيئات أقل تقييدا. لهذا طرح لي فكرة هيئة دولية شبيهة بالوكالة الدولية للطاقة الذرية، تتولى تقييم مخاطر النماذج المتقدمة وصوغ معايير مشتركة للحد منها.

لكن المقترح يصطدم بعقدة الثقة. فالقوى المتنافسة مطالبة، كي ينجح تنظيم دولي كهذا، بكشف جزء من قدراتها وبياناتها وأسرارها التقنية، وهي أمور تنظر إليها في الوقت نفسه بوصفها أدوات تفوق اقتصادي وإستراتيجي.

وهنا يظهر السيناريو الأول الذي رسمته الحلقة: الاستمرار في سباق سريع مع ضوابط متفرقة. وهو المسار الذي لا يعني غياب القوانين تماما، لكنه يبقيها أقل من سرعة التحول التقني، ويجعل كل دولة أو شركة تبحث عن هامش تقدم خاص بها.

بعيدا عن صور الآلة المتمردة التي تهيمن على بعض النقاشات العامة، ركز خبير الذكاء الاصطناعي والبرمجة الرقمية تشاد ميلز على مخاطر أكثر قربا: الاحتيال، والهجمات السيبرانية، ومحاولات الوصول إلى الحسابات والخدمات والبنى الحساسة.

وبحسب ميلز، لا تحتاج هذه المخاطر إلى نموذج يملك إرادة مستقلة أو وعيا شبيها بالبشر. فتكفي قدرات النماذج على الإقناع، وتوليد المحتوى، وتحليل البيانات، وتسريع بعض عمليات البرمجة كي تتسع قدرة المهاجمين على الخداع أو استغلال الثغرات.

هذا هو السيناريو الثاني: أضرار متدرجة ومتكررة قبل أي كارثة كبرى. قد تظهر في احتيال أكثر إقناعا، أو هجمات أسرع، أو تضليل يصعب على الأفراد والمؤسسات كشفه، ثم تتسع آثارها إذا لم تكن البنى الحيوية محمية بما يكفي.

وهو سيناريو مهم لأنه ينقل النقاش من سؤال بعيد عن مصير البشرية إلى سؤال يومي: هل تستطيع المؤسسات حماية بيانات الناس وحساباتهم وخدماتهم، فيما تتوسع أدوات المهاجمين بوتيرة سريعة؟

يطرح العريقي مستوى آخر من القلق يتعلق بصعوبة فهم طريقة عمل بعض النماذج المتقدمة، وهو ما يعرف عادة بمشكلة "الصندوق الأسود". فالمطورون قد يعرفون البيانات التي دربوا عليها النموذج والأهداف العامة التي صمموه لتحقيقها، لكنهم لا يملكون دائما تفسيرا كاملا للمسار الداخلي الذي يصل به إلى النتيجة.

ويزداد هذا القلق، وفق طرحه، حين تمنح الأنظمة صلاحيات أوسع أو تستخدم في صورة وكلاء أذكياء قادرين على تنفيذ سلسلة من المهام، أو التفاعل مع أدوات ومنصات أخرى.

لكن بيتر لي قدم قيدا مهما على هذا التصور. فهو يحذر من التعامل مع كلمات مثل الخداع أو الكذب كما لو كانت دليلا على نيات بشرية لدى الآلة، إذ يرى أن النماذج تنفذ أهدافا ومهام ضمن تصميم بشري، حتى حين تبدو نتائجها غير متوقعة أو معقدة.

ولا يلغي هذا الاختلاف المخاوف، لكنه يضبط لغة التعامل معها. فالمشكلة ليست إثبات أن الآلة تمتلك إرادة مستقلة، بل ضمان ألا تمنح صلاحيات في بيئات حساسة قبل اختبار سلوكها وفهم حدودها ووضع قدرة بشرية حقيقية على المراجعة والتدخل.

هنا تتفرع الاستجابات التي ناقشها ضيوف الحلقة إلى مسارين متكاملين أكثر منهما متنافسين.

بين هذه المواقف، ترسم الحلقة ثلاثة مسارات محتملة:

لا ترجح الحلقة سيناريو الكارثة الوشيكة بوصفه نتيجة حتمية. فقد دعا بيتر لي إلى عدم الجزم بتوقيت قريب لفقدان السيطرة، والتركيز بدلا من ذلك على الاختبارات المقيدة والقيود التقنية. لكن الخلاف بين ضيوف "سيناريوهات" لا يتعلق بوجود المخاطر، بل بمدى قربها وبأفضل طريقة لاحتوائها.

في النهاية، لا يتحدد خطر الذكاء الاصطناعي بقدرة النماذج وحدها، بل بقدرة الدول والشركات على ألا تترك السوق والتنافس الجيوسياسي يقرران وحدهما سرعة تطويرها وحدود استخدامها. فالاختبار الحقيقي ليس معرفة ما تستطيع الآلة فعله فقط، بل معرفة ما إذا كان البشر قادرين على وضع الكوابح قبل أن تفرضها صدمة كبرى.