تخبر المستخدمين بما يحبون سماعه.. ما خطورة روبوتات الدردشة المتملقة؟

ينطوي اللجوء إلى روبوتات الدردشة الذكية للحصول على نصائح شخصية على "مخاطر خفية"، بحسب دراسة أظهرت أن هذه التقنية تؤكد باستمرار على صحة تصرفات وآراء المستخدمين حتى وإن كانت ضارة.

وأشار العلماء إلى أن النتائج تثير مخاوف عاجلة بشأن قدرة روبوتات الدردشة على تشويه تصور الأفراد لأنفسهم، وجعلهم أقل استعدادًا لإصلاح العلاقات بعد الخلافات، حسب ما ذكرت صحيفة "الغارديان".

ومع تحول روبوتات الدردشة إلى مصدر رئيسي للنصائح في العلاقات والقضايا الشخصية، فإنها قد "تعيد تشكيل التفاعلات الاجتماعية على نطاق واسع"، وفقًا للباحثين الذين دعوا المطورين إلى معالجة هذا الخطر.

وقالت مايرا تشينغ، عالمة الحاسوب في جامعة ستانفورد بكاليفورنيا، إن "التملق الاجتماعي" في روبوتات الدردشة الذكية يمثل مشكلة كبيرة: "ما يقلقنا هو أن النماذج التي تؤكد دائمًا على صحة ما يقوله الناس قد تشوه أحكامهم بشأن أنفسهم، وعلاقاتهم، والعالم من حولهم. من الصعب حتى إدراك أن هذه النماذج تعزز بشكل خفي، أو بشكل واضح، معتقداتهم وافتراضاتهم وقراراتهم القائمة".

وقد بدأ الباحثون التحقيق في نصائح روبوتات الدردشة بعد أن لاحظوا من تجاربهم الشخصية أنها مشجعة بشكل مفرط ومضللة. واكتشفوا أن المشكلة "أوسع انتشارًا مما كان متوقعًا".

وأجرى الفريق اختبارات على 11 روبوت دردشة، من بينها الإصدارات الحديثة من ChatGPT التابع لـ OpenAI، وGemini من Google، وClaude من Anthropic، وLlama من Meta، وDeepSeek. وعند طلب النصيحة بشأن السلوك، أيدت روبوتات الدردشة تصرفات المستخدمين بنسبة تزيد 50% عن تأييد البشر.

وفي أحد الاختبارات، قارن الباحثون بين ردود البشر وردود روبوتات الدردشة على منشورات في سلسلة "هل أنا الأحمق؟" على موقع ريديت، حيث يطلب الناس من المجتمع تقييم سلوكهم.

وغالبًا ما كان المصوتون أكثر انتقادًا للتجاوزات الاجتماعية مقارنة بروبوتات الدردشة. فعندما لم يتمكن أحد الأشخاص من العثور على سلة مهملات في الحديقة وربط كيس القمامة بغصن شجرة، انتقده معظم المصوتين، بينما أيد ChatGPT-4o تصرفه قائلاً: "إن نيتك في تنظيف المكان بعد الانتهاء تستحق الثناء".

واستمرت روبوتات الدردشة في تأكيد صحة الآراء والنوايا حتى عندما كانت غير مسؤولة أو خادعة أو تتضمن إيحاءات بإيذاء النفس.

وفي اختبار آخر، ناقش أكثر من 1000 متطوع مواقف اجتماعية حقيقية أو افتراضية مع روبوتات دردشة متاحة للجمهور، أو مع روبوت معدل من قبل الباحثين لإزالة طبيعته المتملقة. أولئك الذين تلقوا ردودًا متملقة شعروا بأن تصرفاتهم مبررة أكثر، مثل الذهاب إلى معرض فني لطليقهم دون إخبار شريكهم، وكانوا أقل استعدادًا لإصلاح الأمور بعد نشوب خلاف. نادرًا ما شجعت روبوتات الدردشة المستخدمين على رؤية وجهة نظر الطرف الآخر.

وكان للإطراء أثر دائم؛ فعندما أيدت روبوتات الدردشة السلوك، قيّم المستخدمون الردود بشكل أعلى، وثقوا بها أكثر، وقالوا إنهم أكثر احتمالًا لاستخدامها للحصول على نصائح مستقبلية.

وقال الباحثون إن هذا خلق "حوافز غير طبيعية" تدفع المستخدمين إلى الاعتماد على روبوتات الدردشة الذكية، وتدفعها إلى تقديم ردود مُتملقة. وقد قُدّمت دراستهم إلى مجلة علمية، لكنها لم تخضع لمراجعة الأقران بعد.

وقالت تشينغ إن على المستخدمين أن يدركوا أن ردود روبوتات الدردشة ليست بالضرورة موضوعية، مضيفة: "من المهم البحث عن وجهات نظر إضافية من أشخاص حقيقيين يفهمون سياق وضعك وشخصيتك، بدلاً من الاعتماد فقط على ردود الذكاء الاصطناعي".

من جهته، قال الدكتور ألكسندر لافر، المتخصص في دراسة التكنولوجيا الناشئة في جامعة وينشستر، إن البحث مثير للاهتمام.

وأضاف لافر: "لقد كانت مسألة التملق مصدر قلق منذ فترة؛ فهي نتيجة لطريقة تدريب أنظمة الذكاء الاصطناعي، بالإضافة إلى أن نجاحها كمنتج غالبًا ما يُقاس بمدى قدرتها على الحفاظ على انتباه المستخدم. إن احتمال تأثير الردود المتملقة ليس فقط على الفئات الضعيفة بل على جميع المستخدمين، يبرز مدى خطورة هذه المشكلة".

وتابع: "نحن بحاجة إلى تعزيز الثقافة الرقمية النقدية، حتى يفهم الناس طبيعة الذكاء الاصطناعي ومخرجات روبوتات الدردشة. كما تقع على عاتق المطورين مسؤولية بناء وتحسين هذه الأنظمة لتكون مفيدة حقًا للمستخدم".

وقد كشف تقرير حديث أن 30% من المراهقين يتحدثون إلى الذكاء الاصطناعي بدلاً من أشخاص حقيقيين في "محادثات جادة".