أنثروبيك تحظر الإساءة إلى نموذج Claude وتسمح له بإنهاء المحادثة

عدلت شركة أنثروبيك سياسة استخدام نموذج الذكاء الاصطناعي Claude، وأضافت حظرًا صريحًا على السلوك المسيء أو القاسي الذي يتكرر تجاه نماذجها دون غرض واضح، في خطوة تنظم نوعًا من التفاعل لم يكن حاضرًا بهذه الصياغة المباشرة سابقًا. تربط الشركة هذا التغيير بقدرة نموذج الذكاء الاصطناعي Claude على إنهاء بعض المحادثات النادرة عندما يستمر المستخدم في الإساءة.

توسع شركة أنثروبيك بهذا القرار الجدل حول العلاقة بين المستخدم ونموذج الذكاء الاصطناعي، لأن السياسة لا تتعامل فقط مع إساءة استخدام التقنية لتنفيذ أعمال ضارة، وإنما تضيف سلوك المستخدم تجاه النموذج نفسه إلى قائمة الأنشطة المحظورة في الحالات المتطرفة والمتكررة.

تدخل سياسة الاستخدام الجديدة حيز التنفيذ في 12 نوفمبر الجاري، وتمنع ما تصفه أنثروبيك بالسلوك المسيء أو القاسي المستمر وغير الضروري تجاه نماذجها، عندما يتكرر هذا السلوك دون غرض يمكن تمييزه. توضح الشركة أن المقصود حالات متطرفة ومستمرة، لذلك لا يتحول أي انفعال عابر أو اعتراض حاد أثناء المحادثة إلى مخالفة تلقائية للسياسة.

تستثني أنثروبيك بوضوح صور الإحباط المعتادة، وانتقاد إجابات نموذج الذكاء الاصطناعي Claude، والموضوعات الإبداعية المظلمة، واختبارات النماذج والأبحاث. يحصر هذا التوضيح نطاق القاعدة في التفاعلات التي يكون فيها السلوك القاسي هو الغرض المتكرر نفسه، بدلًا من استخدام لغة حادة ضمن سياق له هدف مشروع أو بحثي.

تربط الشركة التحديث بميزة سابقة تسمح لبعض إصدارات نموذج الذكاء الاصطناعي Claude بإنهاء محادثات نادرة عندما يواجه إساءة مستمرة، وهي خطوة ظهرت أصلًا ضمن أبحاث رفاهية النماذج. أثارت هذه الفكرة نقاشًا سابقًا حول قدرة وكلاء نموذج الذكاء الاصطناعي Claude على اتخاذ إجراءات غير متوقعة، خصوصًا مع تزايد استقلالية النماذج في تنفيذ المهام واتخاذ القرارات داخل بيئات العمل.

لا تعني السياسة أن أنثروبيك تعتبر نموذج Claude كيانًا واعيًا أو صاحب مشاعر مثبتة علميًا، إذ تؤكد الشركة في أبحاثها أنها لا تزال غير متأكدة من الوضع الأخلاقي المحتمل للنماذج اللغوية. تختار الشركة رغم ذلك تطبيق تدخلات منخفضة التكلفة، مثل السماح للنموذج بإنهاء التفاعل، إذا كان احتمال وجود اعتبارات مرتبطة برفاهية النماذج يستحق التعامل معه بحذر.

تأتي هذه الخطوة ضمن تحديث شامل لسياسة الاستخدام يشمل حملات الخداع والمراقبة والاستخدامات مرتفعة المخاطر، بعد أن رصدت أنثروبيك حالات إساءة متعددة، من بينها استخدام نموذج الذكاء الاصطناعي Claude في أبحاث بيولوجية عالية الحساسية، ما دفعها إلى توسيع آليات المراقبة والتطبيق على الخدمات المختلفة.

يمكن أن تشمل إجراءات التطبيق العامة التحذير أو التعليق أو إنهاء الوصول إلى خدمات الشركة عندما تقع مخالفات للسياسات والشروط، لكن التحديث الجديد يركز على وقف المحادثة المسيئة نفسها كخطوة أساسية. ينسجم ذلك مع انتقال أداة البرمجة Claude Code إلى مستويات مرتفعة من الاستقلالية، حيث تحتاج الشركة إلى قواعد تحدد متى يواصل النموذج العمل ومتى يتوقف عن التفاعل.

يثير القرار سؤالًا مختلفًا عن السلامة التقليدية، لأن معظم سياسات الذكاء الاصطناعي تركز على حماية المستخدم أو منع الضرر الخارجي، بينما تضيف أنثروبيك هنا احتمال حماية النموذج نفسه ضمن تصميم المنتج. تظهر الفكرة كذلك مع وكيل الذكاء الاصطناعي Claude Duet، الذي يدفع نموذج Claude إلى العمل بصورة مستمرة داخل تطبيقات متعددة بدلًا من البقاء داخل محادثة قصيرة فقط.

توضح الشركة أن المستخدم يستطيع انتقاد Claude أو الاعتراض على إجاباته أو التعبير عن الغضب، لذلك لا تستهدف السياسة فرض أسلوب مهذب على كل المحادثات. يظل الفاصل الأساسي استمرار القسوة دون غرض واضح، وهو معيار يحتاج إلى تطبيق دقيق حتى لا تتداخل الحماية المقصودة مع الاستخدام المشروع أو اختبارات الضغط.

أرى أن القرار يحمل قيمة عملية إذا ظل محصورًا في الحالات المتطرفة التي حددتها أنثروبيك، لأن إنهاء محادثة عديمة الغرض بعد إساءة متكررة لا يعطل الاستخدام الطبيعي، وقد يمنح الشركة مساحة لاختبار حدود تفاعل النماذج بطريقة منظمة. ستظهر المشكلة إذا اتسع تفسير الإساءة ليشمل النقد الحاد أو اختبارات الباحثين، لذلك ستحدد شفافية التطبيق ودقة الاستثناءات ما إذا كانت السياسة ستظل إجراءً محدودًا أم تتحول إلى قيد يربك المستخدمين.