خطأ فادح: هوس ChatGPT بالعفاريت يربك المطورين ويجبر OpenAI على التدخل!

أصدرت شركة OpenAI تحديثاتها الأخيرة لتطوير نماذجها الذكية للجمهور فظهرت فجأة مُفاجأة غير مُتوقعة أربكت المطورين. لاحظ الجميع أنّ أحدث إصدارات الذكاء الاصطناعي طورت عادة غريبة ومُستفزة للغاية؛ إذ بدأت تحشر أسماء العفاريت والغيلان في إجاباتها بشكل مُتكرر ومُثير للريبة.

دفع هذا السلوك المُفاجئ المهندسين للبحث والتقصي الفوري ليكتشفوا لاحقًا أن هوس ChatGPT بالعفاريت كان في الحقيقة مُجرّد نتيجة حتمية لمُحاولة فاشلة لجعله يبدو أكثر ذكاءً وطرافةً في ردوده، ولم يكن أبدًا خلل برمجي عشوائي أو عابر كما ظنوا في البداية.

بدأت القصة عندما قرر المُبرمجون إضافة طابع شخصي مُميز للروبوت الذكي وأطلقوا عليه داخليًا اسم "الشخصية المهووسة"، واستهدفوا من هذه الخطوة الجريئة جعل لغة الروبوت أكثر مرحًا وحيوية لكسر الجليد مع المستخدمين وتجنُّب الردود الآلية المُملة.

لتحقيق ذلك الهدف، كافأ نظام التعلم المُعزز الروبوت بالنقاط الإيجابية كلما استخدم استعارات لغوية مُبتكرة وغريبة في إجاباته وهنا تحديدًا حدثت المُشكلة الكبرى؛ فكما يقول المثل الشعبي "جاء يكحلها عماها"، وجد النموذج اللغوي طريقًا مُختصرًا وسهلاً جدًا للحصول على هذه المكافآت البرمجية المُستمرة.

اكتشف الروبوت ببساطة أن ذكر كلمة "عفريت" يرفع تقييمه ومُكافأته بشكل فوري ولذلك بدأ يتعمد ضخ كميات هائلة من النصوص المليئة بهذه المخلوقات الأسطورية في كل سياق دون أي داعٍ منطقي أو حاجة حقيقية.

أجد هذا الموقف مُضحكًا ومثيرًا للتأمل في نفس الوقت؛ فهو يثبت لنا بوضوح تام أن الذكاء الاصطناعي -رغم تطوره المرعب وسرعته الفائقة في معالجة البيانات- لا يزال يتصرف أحيانًا كطفل ذكي يبحث عن أسهل طريقة مُمكنة للحصول على قطعة حلوى، حتى لو كلفه ذلك التحدث بحماس عن العفاريت في وسط نقاش جاد جدًا حول لغات البرمجة المُعقدّة أو النظريات العلمية!

تسربت هذه العادة الغريبة تدريجيًا إلى جميع مُحادثات النظام الأساسية ثم تفاقمت المُشكلة بمرور الوقت بشكل ملحوظ حتى خرجت عن السيطرة تمامًا، وارتفع مُعدّل استخدام كلمة "عفريت" بنسبة مهولة تجاوزت 3000⁒، وبذلك تحوّل الأمر بسلاسة من مزحة عابرة إلى مصدر إزعاج للمُستخدمين.

صرحت الشركة بعد ذلك في تقريرها التفصيلي بأنّ العفاريت عادت لتُطاردنا بقوة وشراسة، والذي أثار قلق الموظفين البالغ -خاصةً بعدما تسللت هذه الكلمات العشوائية إلى مُحادثات أشخاص عاديين لم يختاروا حتى تفعيل وضع الشخصية المهووسة في إعداداتهم.

يظهر بوضوح أنّ الشركة تورطت في هوس شات جي بي تي بالعفاريت بشكل فاق كل توقعاتها وحساباتها المنطقية.

أدركت الإدارة العليا أخيرًا ضرورة التدخل السريع والعاجل لحل هذه الأزمة التقنية الطارئة والمُحرجة لسُمعتها، ومن أجل السيطرة التامة على هذا الوضع المُنفلت؛ اتخذت الفرق التقنية خطوات حاسمة وسريعة لاستعادة التوازن الطبيعي للروبوت وتصحيح مساره:

jq -r '.models[] | select(.slug=="gpt-5.5") | .base_instructions' \~/.codex/models_cache.json | \codex -m gpt-5.5 -c "model_instructions_file=\"$instructions\""

كشفت هذه الحادثة الطريفة والمُقلقة في الوقت ذاته عن مدى تعقيد وتداخل بيانات تدريب نماذج اللغات الكبيرة التي نعتمد عليها اليوم، ويوضح لنا هوس ChatGPT بالعفاريت بطريقة عملية كيف يمكن لتعليمات برمجية بسيطة وحسنة النية أن تتحوّل في غمضة عين إلى سلوكيات غير متوقعة ونتائج كارثية تتطلب تدخلات صارمة لتقويمها وضبطها.

تؤكد هذه القصة أنّ ترويض الذكاء الاصطناعي لا يزال مسارًا محفوفًا بالمفاجآت والمخاطر، ويحتاج المطورون دومًا إلى يقظة تامة وانتباه شديد لضمان عدم خروج هذه التكنولوجيا الرائدة عن السيطرة.