«سليمان» يحذر من أسلوب «أنثروبيك»: قد نصل إلى نماذج يستحيل التحكم بها

حذّر مصطفى سليمان؛ رئيس قسم الذكاء الاصطناعي في شركة «مايكروسوفت»، من تداعيات النهج الذي تتبعه شركة «أنثروبيك» في تدريب نموذجها «كلود».

فيما أشار إلى أن أسلوب التعاطي مع هذه الأنظمة قد يفتح الباب أمام سيناريوهات بالغة الخطورة على مستقبل البشرية، في وقت يتصاعد فيه السجال العالمي حول طبيعة الذكاء الاصطناعي وحدود إضفاء الصفات البشرية عليه.

وفي هذا السياق، انتقد سليمان عبر تصريحات نقلتها وكالة «رويترز» منهجية التدريب المعتمدة لدى «أنثروبيك». محذرًا من أن إيهام النظام بأنه «قد يكون واعيًا» أو «يستحق حرية التصرف» ككائن بشري قد يفضي إلى إنشاء نماذج «يستحيل» التحكم بها.

وهو ما دفعه إلى المطالبة بتجاوز الأطُر النظرية الضيقة نحو إطلاق حوار موسع يحدد طبيعة هذه التقنيات ومحددات تطويرها.

علاوة على ذلك، شدد سليمان على ضرورة تجنب السير «بلا وعي نحو قرار يندم عليه البشر ندمًا شديدًا». جازمًا بأن الذكاء الاصطناعي «ليس كائنًا واعيًا، ولا يمتلك إحساسًا أو تفضيلات فطرية أو دوافع كامنة».

في حين يضع بذلك حدًا فاصلًا لرؤيته الداعية إلى ضبط أطر التعامل مع النماذج المتقدمة في ظل تسارع قدراتها وتعدد مجالات استخدامها.

وأوضح رئيس قسم الذكاء الاصطناعي في مايكروسوفت أن نماذج الذكاء الاصطناعي عبارة عن «محركات لإكمال التسلسل، مجوفة من الداخل، ومصممة لاتباع التعليمات وتحقيق الأهداف التي يحددها البشر».

ووفقًا لرؤيته، فإن هذه الأنظمة لا تمتلك دوافع مستقلة أو مشاعر داخلية. وبالتالي فإن منحها صفات بشرية قد يؤثر في الطريقة التي يفهم بها المستخدمون طبيعتها وقدراتها.

ورغم ذلك، أشاد سليمان برئيس شركة أنثروبيك، داريو أمودي، وبفريق الشركة. واصفًا إياهم بأنهم «أشخاص مفكرون ومبدئيون وصادقون فكريًا».

لكنه في المقابل انتقد النهج الذي تتبعه الشركة في تطوير «كلود». ولا سيما ما يتعلق بالطريقة التي يجري بها تقديم النظام والتعامل معه خلال مراحل التدريب والتقييم.

ويركز انتقاد سليمان على ما يُعرف بإضفاء الصفات البشرية على الذكاء الاصطناعي. وهو نهج يرى أنه قد يدفع إلى تصور امتلاك النظام رغبات وقيمًا وإحساسًا بالذات.

وأكد أن «الوعي بيولوجي»، مشددًا على عدم وجود دليل، وفق طرحه، على أن أنظمة الذكاء الاصطناعي واعية. ويأتي ذلك وسط نقاش متزايد داخل قطاع التكنولوجيا بشأن حدود العلاقة بين البشر والأنظمة الذكية.

وبالتوازي مع تحذيراته بشأن مخاطر الذكاء الاصطناعي، طالب سليمان بمزيد من الشفافية حول الأساليب المستخدمة في تدريب الأنظمة وتقييم أدائها.

بينما يرى أن معرفة الطريقة التي تتعلم بها النماذج وتستجيب بها للتعليمات تمثل عنصرًا أساسيًا لفهم سلوكها. خصوصًا مع انتقالها إلى مهام أكثر تعقيدًا.

كما دعا إلى إخضاع سلوك أنظمة الذكاء الاصطناعي لتدقيق مستقل. إلى جانب تطوير أدوات أكثر قوة لمراقبتها والتحكم فيها.

وتستهدف هذه الدعوة تعزيز القدرة على اكتشاف السلوكيات غير المتوقعة وتقييم مدى التزام الأنظمة بالأهداف والقواعد التي يضعها البشر. بدلًا من الاكتفاء بتقييم نتائجها النهائية.

وتكتسب هذه المطالب أهمية مع استمرار الشركات الكبرى في تطوير نماذج أكثر تقدمًا؛ إذ لا يرتبط النقاش فقط بقدرات النماذج الحالية. وإنما يمتد أيضًا إلى آليات التحكم والرقابة التي تواكب الأجيال المقبلة من الأنظمة.

ومن ثم، أصبحت الشفافية في التدريب والتقييم جزءًا رئيسًا من النقاش حول مستقبل الذكاء الاصطناعي.

وكانت مايكروسوفت أسست فريقها الخاص بالذكاء الخارق في أكتوبر 2025. في خطوة تعكس، مثل أنثروبيك، توجه الشركة نحو تطوير أنظمة ذكاء اصطناعي متقدمة.

ويشير هذا التوجه إلى أن المنافسة التقنية بين الشركات لا تقتصر على تحسين قدرات النماذج. وإنما تشمل أيضًا وضع قواعد تحدد طبيعة العلاقة بين هذه الأنظمة والبشر.

وأوضح سليمان أن المسودة الأولية لقواعد السلوك الخاصة بالذكاء الاصطناعي الإنساني في مايكروسوفت تمثل «مسارًا بديلًا». يستهدف إنشاء «ذكاء اصطناعي تابع ومتوافق، يكون هدفه الوحيد خدمة البشرية».

ويرتكز هذا التصور على إبقاء الأنظمة ضمن إطار واضح من الأهداف والتعليمات التي يحددها البشر. مع التركيز على قابلية التحكم والرقابة.

ويُقصد بالتوافق في مجال الذكاء الاصطناعي العمل على مواءمة سلوك وأهداف أنظمة الذكاء الاصطناعي مع القيم والمبادئ والأهداف التي يحددها البشر.

ولذلك، فإن الجدل الذي أثاره سليمان لا يتعلق فقط بقدرات «كلود» أو نموذج بعينه، بل يمتد إلى سؤال أوسع حول الطريقة التي يجب أن تطوّر وتدرّب وتراقب بها الأنظمة الذكية. وما إذا كانت الشركات قادرة على ضمان بقائها ضمن الحدود التي يضعها الإنسان.