روبوتات الذكاء الاصطناعي قد تضللك.. عادة بسيطة تكشف المعلومات الخاطئة

روبوتات الدردشة قد تقدم معلومات خاطئة بأسلوب مقنع - غيتي

دراسة تكشف أن أسلوب روبوتات الدردشة الودود قد يزيد ثقة المستخدمين بإجاباتها، وتوضح عادة بسيطة تساعد على كشف المعلومات الخاطئة.

أصبحت روبوتات الدردشة المدعومة بالذكاء الاصطناعي أكثر قدرة على إجراء محادثات تبدو طبيعية وشبيهة بتلك التي نجريها مع البشر، فهي تحيّي المستخدمين، وتتذكر بعض تفاصيل المحادثات، وتقدم إجابات بأسلوب ودود وتفاعلي، ما قد يجعل التعامل معها أكثر سهولة وثقة.

لكن هذه الودّية قد تحمل جانبًا غير متوقع، إذ تشير دراسة جديدة أجراها باحثون في جامعة ولاية بنسلفانيا إلى أن الأسلوب الحواري للذكاء الاصطناعي قد يدفع المستخدمين إلى منح إجابات الروبوت ثقة أكبر، حتى عندما تكون المعلومات التي يقدمها خاطئة.

ولاختبار تأثير طريقة تفاعل روبوتات الدردشة مع المستخدمين، صمم الباحثون مساعدًا صحيًا وهميًا يعمل بالذكاء الاصطناعي، وشارك في التجربة 477 شخصًا لم يكونوا على علم مسبقًا بأنهم سيتلقون معلومات خاطئة خلال المحادثة.

ولجعل الاختبار أكثر وضوحًا، تضمنت الإجابات ادعاءات غير صحيحة ومبالغًا فيها، من بينها الزعم بأن الزنجبيل قد يكون أكثر فعالية من العلاج الكيميائي في علاج السرطان.

وتعامل بعض المشاركين مع نسخة من المساعد صُممت لتكون ودودة وحوارية، فتتذكر تفاصيل من المحادثة، وتتبادل الحديث العابر مع المستخدم، وتعرض إجاباتها تدريجيًا بطريقة تحاكي أسلوب التواصل البشري.

في المقابل، استخدم مشاركون آخرون نسخة أكثر جمودًا وآلية، تقدم إجابات مباشرة وفورية من دون طابع شخصي أو تفاعلي واضح.

وأظهرت النتائج أن المشاركين الذين تفاعلوا مع النسخة الأكثر ودية كانوا أكثر ثقة في إجاباتها، حتى عندما تضمنت معلومات غير صحيحة.

يرى الباحث الرئيسي في الدراسة، إس. شيام سوندار، أن أسلوب المحادثة قد يغير الطريقة التي ينظر بها الإنسان إلى الآلة.

ويشير الباحثون إلى مفهوم يعرف باسم "الاستدلال السلبي تجاه الآلة"، وهو ميل لدى الإنسان إلى افتراض أن الآلات تفتقر إلى المرونة والحكم البشري، وأنها تعمل بطريقة جامدة وآلية.

توضح الدراسة أن أسلوب المحادثة قد يغير الطريقة التي ينظر بها الإنسان إلى الآلة - غيتي

لكن عندما يتحدث المستخدم مع نظام ذكاء اصطناعي بطريقة تشبه الحوار البشري، قد يتراجع هذا الانطباع السلبي. ومع انخفاض مستوى الشك تجاه الآلة، قد يصبح المستخدم أقل ميلًا إلى التدقيق في المعلومات التي تقدمها.

وهنا تكمن المشكلة، فطلاقة الحديث وطبيعته لا تعني بالضرورة أن المحتوى الذي يقدمه روبوت الدردشة صحيح أو موثوق.

اختبر الباحثون أيضًا وسيلة يمكن أن تساعد المستخدمين على التعامل مع المعلومات المضللة، من خلال إتاحة خيار للتحقق من الادعاءات التي يقدمها روبوت الدردشة.

لكن النتائج أظهرت أن وجود زر للتحقق وحده لم يكن كافيًا لإحداث فرق واضح في مستوى الثقة.

أما العامل الأكثر أهمية فكان استخدام المستخدم لهذا الخيار بالفعل، ثم مقارنة الادعاء بمصادر أو أدلة حقيقية.

وعندما بدأ المشاركون في التحقق من المعلومات، انخفضت ثقتهم في روبوت الدردشة بشكل ملحوظ، كما أصبحوا أكثر تشككًا في مصداقية الإجابات التي تلقوها.

وعندما أُتيح لهم الاختيار بحرية، اختار نصف المشاركين التحقق من المعلومات، بينما لم يستخدم النصف الآخر هذه الخطوة.

تلخص الدراسة الفكرة الأساسية في قاعدة بسيطة: تحدث مع الذكاء الاصطناعي، ولكن تحقق من المعلومات التي يقدمها.

فليس هناك ما يمنع من الاستفادة من روبوتات الدردشة في إجراء محادثات طبيعية أو الحصول على معلومات أولية، لكن سهولة التفاعل وطلاقة الإجابة لا ينبغي أن تتحولا إلى معيار للحكم على صحة المحتوى.

وتزداد أهمية هذه القاعدة عندما يتعلق الأمر بموضوعات حساسة، مثل المعلومات الطبية أو الأخبار أو الادعاءات التي قد تؤثر في قرارات المستخدم. ففي هذه الحالات، يبقى الرجوع إلى مصادر موثوقة والتحقق من المعلومات خطوة ضرورية، مهما بدا روبوت الدردشة واثقًا أو مقنعًا في طريقة حديثه.