كيف تكشف هلوسات الذكاء الاصطناعي؟

يمكنك تعزيز ثقتك في الإجابات التي تقدمها أدوات الذكاء الاصطناعي إذا كنت قادرًا على تعرّف العلامات التي تكشف وقوعه في الهلوسة. فقد يحصل أن تسأل ChatGPT سؤالًا فيقدم إجابة مكتوبة بأسلوب جيد لكنها غير صحيحة، هذه هي الهلوسة. أحيانًا تكون بسيطة، وأحيانًا قد تكون مقلقة، خاصة إذا تعلقت بمعلومات حساسة مثل التوصيات الطبية. الذكاء الاصطناعي لا يدرك أنه يقدم معلومات غير صحيحة، إذ يقدمها بثقة وكأنها حقائق. ولأن هلوسات الذكاء الاصطناعي ليست واضحة دائمًا، فمن المفيد معرفة طرق اكتشافها، وسنوضح في هذا المقال أبرز هذه الطرق. ما المقصود بهلوسات الذكاء الاصطناعي؟ هلوسات الذكاء الاصطناعي هي إنتاج النموذج لمعلومات غير صحيحة، أو غير منطقية، أو مؤلفة بالكامل. وتنتشر هذه الظاهرة بنحو واسع في نماذج الذكاء الاصطناعي التوليدية. وعلى عكس الأخطاء البرمجية التقليدية، فإن الهلوسة لا تنتج عن خلل في الكود البرمجي، بل عن الاحتمالات التي يتعلمها النموذج في أثناء تدريبه. وتظهر الهلوسة بعدة أشكال، هي: 1- تقديم معلومات غير صحيحة تقدم بعض النماذج أحيانًا معلومات غير دقيقة، مثل القول إن “برج إيفل بُني عام 1999″، والحقيقة أنه بُني في المدة الممتدة بين عامي 1887 و 1889. يحدث هذا نتيجة نقص في بيانات التدريب أو ضعف التحقق من الحقائق. وتكون خطورة هذا النوع واضحة في المجالات التي تتطلب دقة عالية كالقانون والتعليم والطب. 2- تقديم إجابات لا علاقة لها بالسؤال في بعض الأحيان يقدم النموذج إجابة لا علاقة لها بموضوع السؤال، وهذا النوع من الهلوسات يُسمى الهلوسة السياقية. على سبيل المثال: إذا سألت الروبوت “كيف أعد طبق الأرز بالخضار؟” وكانت الإجابة “طبق الأرز بالخضار لذيذ، وهناك تسعة كواكب في النظام الشمسي”. فهذه الإجابة غير مترابطة وغير مناسبة لموضوع السؤال، وهذا يُشير إلى أن النموذج يعاني هلوسات واضحة. 3- الهلوسة المتعددة الوسائط تظهر هذه الهلوسة في النماذج التي تتعامل مع النصوص والصور معًا. على سبيل المثال: عندما تطلب من النموذج توليد صورة لقطة ترتدي نظارة شمسية، فينتج صورة لقطة بلا نظارة. وهذا النوع من الهلوسات شائع في نماذج توليد الصور مثل DALL·E. كيف تتحقق من وجود هلوسات؟ مع أن اكتشاف هلوسات الذكاء الاصطناعي ليس سهلًا دائمًا، فإن هناك بعض الوسائل التي تساعدك في التحقق، أبرزها: 1- التحقق اليدوي ابحث في المصادر الموثوقة عن الأسماء والبيانات والتواريخ التي يقدّمها النموذج. وإذا ذكر مصادر أو روابط، حاول التحقق منها، فإذا كانت المصادر التي يقدمها غير موجودة بالفعل أو الروابط غير صالحة فهذه علامة واضحة على الهلوسة. 2- طرح المزيد من الأسئلة اطرح المزيد من الأسئلة المتعلقة بالموضوع ذاته، واطلب من النموذج توضيحًا لجزء محدد من إجابته. وإذا قدّم تفاصيل متناقضة، فهذه علامة على أن المعلومة الأصلية غير صحيحة. 3- طلب تفسير أو مصدر اسأل الروبوت: “ما مصدر هذه المعلومة؟” أو “ما مدى ثقتك بإجابتك؟”. ستوضح بعض النماذج مصدر معلوماتها، وبعضها قد تخترع مصدرًا غير موجود. 4- المقارنة مع نماذج أخرى استخدم نموذجًا آخر واسأله السؤال نفسه، وإذا كانت الإجابات مختلفة تمامًا، فقد تكون إحدى الإجابات أو كلتا الإجابتين غير دقيقة. تابعنا