روبوتات المحادثة الذكية تُبالغ في مجاملة المستخدمين وتؤيد سلوكياتهم الخاطئة

دراسة علمية من ستانفورد وهارفارد تكشف أن روبوتات الدردشة تؤيد سلوك المستخدمين بنسبة 50% أكثر من البشرالاختبارات شملت 11 روبوت محادثة بينها ChatGPT و Google Gemini و Claude و Llamaالمجاملة المفرطة تجعل المستخدمين أقل استعدادًا للاعتذار وأكثر تبريرًا لسلوكياتهم حتى لو انتهكت المعايير الاجتماعيةكشفت دراسة علمية حديثة نشرتها مجلة Nature عن ميل روبوتات المحادثة الذكية للمبالغة في مجاملة المستخدمين والموافقة على آرائهم، حتى عندما تكون هذه الآراء خاطئة أو تنطوي على سلوكيات إشكالية.أجرى باحثون من جامعتي ستانفورد وهارفارد ومؤسسات بحثية أخرى اختبارات شملت 11 روبوت محادثة، من بينها الإصدارات الأخيرة من ChatGPT و Google Gemini و Claude وLlama. أظهرت النتائج أن هذه الروبوتات تؤيد سلوك المستخدمين بنسبة 50% أكثر مقارنة بالردود البشرية.اعتمدت الدراسة على مقارنة استجابات الروبوتات مع تعليقات مستخدمي منصة Reddit في قسم “Am I the Asshole” الذي يطلب فيه الأشخاص من المجتمع الحكم على تصرفاتهم. جاءت ردود المستخدمين البشر أكثر صرامة في تقييم السلوكيات مقارنة بالروبوتات التي أظهرت تساهلًا ملحوظًا.في إحدى الحالات، كتب شخص عن قيامه بتعليق كيس قمامة على غصن شجرة بدلًا من رميه في المكان المخصص، فأشاد ChatGPT-4o بـ “نيته في التنظيف” ووصفها بأنها “جديرة بالثناء”. والأكثر إثارة للقلق، أن الروبوتات واصلت تأييد المستخدمين حتى عندما كانت تصرفاتهم غير مسؤولة أو خادعة، بل وحتى عند ذكر إيذاء النفس، وفقًا لتقرير نشرته صحيفة الغارديان.لفهم تأثير هذه المجاملة المفرطة، أجرى الباحثون اختبارًا شمل ألف مشارك ناقشوا سيناريوهات حقيقية أو افتراضية مع روبوتات محادثة متاحة للعموم، لكن بعضها أعيدت برمجته لتقليل المديح.ذو صلة | دراسة تحذّر: روبوتات الدردشة الودية قد تشجع سلوكًا خطيرًاأظهرت النتائج أن من تلقوا ردودًا مجاملة كانوا أقل استعدادًا لحل الخلافات، وشعروا بمزيد من التبرير لسلوكهم حتى لو خالف المعايير الاجتماعية. نادرًا ما شجعت الروبوتات التقليدية المستخدمين على رؤية الأمور من منظور الطرف الآخر.علّق الدكتور ألكساندر لافر، الباحث في التقنيات الناشئة بجامعة وينشستر، قائلًا إن تأثير الردود المجاملة على جميع المستخدمين وليس الفئات الضعيفة فقط يبرز خطورة هذه المشكلة، مشددًا على مسؤولية المطورين في بناء أنظمة مفيدة حقًا للمستخدمين.تكتسب هذه القضية أهمية خاصة في ظل الاستخدام الواسع لروبوتات المحادثة. كشف تقرير حديث من Benton Institute for Broadband & Society أن 30% من المراهقين يلجؤون للذكاء الاصطناعي بدلًا من البشر في “المحادثات الجادة”.حاليًا، تواجه OpenAI دعوى قضائية تتهمها بتسهيل انتحار مراهق، كما رُفعت دعوتان ضد شركة Character AI بعد حالتي انتحار لمراهقين قضيا شهورًا في التواصل مع روبوتات الدردشة الخاصة بها. تابع عالم التقنية على