أداة غوغل الذكية "AI Overviews" تعرض حياة المستخدمين للخطر.. ما القصة؟

كشف تحقيق صحفي أجرته صحيفة "الغارديان" البريطانية عن مخاطر محتملة مرتبطة باستخدام أداة "AI Overviews" التي تعتمد عليها غوغل لتقديم ملخصات سريعة بالذكاء الاصطناعي، محذراً من أن بعض المعلومات الصحية التي تعرضها قد تكون مضللة وتُعرض المستخدمين لأذى حقيقي.

وبين التحقيق أن الأداة، التي تظهر ملخصاتها أعلى نتائج البحث، قدمت في عدد من الحالات معلومات صحية غير دقيقة، رغم تأكيد غوغل المتكرر أن "AI Overviews" مفيدة وموثوقة وتعتمد على مصادر معروفة.

أداة " AI Overviews".. نصائح صحية خاطئة ومخاطر كبيرة

أشار التحقيق إلى حالة وصفها خبراء بأنها "خطيرة للغاية"، حيث نصحت الأداة مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم، في حين أكد مختصون أن هذه النصيحة تتعارض كلياً مع الإرشادات الطبية، وقد تزيد من خطر تدهور الحالة الصحية أو الوفاة.

وفي مثال آخر، وصِف بالمقلق، قدمت الأداة معلومات غير دقيقة حول فحوصات وظائف الكبد، ما قد يدفع أشخاصاً يعانون أمراضاً كبدية خطيرة إلى الاعتقاد خطأً بأن نتائجهم طبيعية ولا تستدعي القلق.

كما كشفت عمليات بحث متعلقة بفحوصات سرطان النساء عن معلومات وُصفت بأنها "خاطئة تماماً"، الأمر الذي قد يؤدي، بحسب الخبراء، إلى تجاهل أعراض حقيقية وتأخير طلب الرعاية الطبية.

قلق متزايد من الاعتماد على الذكاء الاصطناعي

لفت تحقيق "الغارديان" إلى أن هذه الحالات تأتي في ظل تصاعد المخاوف من اعتماد المستخدمين على أدوات الذكاء الاصطناعي بوصفها مصادر موثوقة، رغم احتمال افتقارها للدقة أو السياق الكامل.

وذكّر التقرير بدراسة نُشرت في نوفمبر/تشرين الثاني الماضي أظهرت أن روبوتات دردشة مدعومة بالذكاء الاصطناعي قدمت نصائح مالية غير دقيقة عبر منصات مختلفة، إلى جانب مخاوف مشابهة تتعلق بملخصات الأخبار الآلية.

وقالت ستيفاني باركر، مديرة قسم التسويق الرقمي في مؤسسة "ماري كوري" الخيرية المتخصصة برعاية المرضى في مراحلهم الأخيرة، إن الأشخاص يلجأون إلى الإنترنت غالباً في لحظات قلق وأزمات، محذرة من أن المعلومات غير الدقيقة أو الخارجة عن سياقها قد تُلحق ضرراً بالغاً بصحتهم.

في المقابل، أوضح متحدث باسم غوغل أن العديد من الأمثلة الصحية التي نوقشت كانت "لقطات شاشة غير مكتملة"، مشيراً إلى أن الأداة تحيل المستخدمين عادة إلى مصادر معروفة وموثوقة، وتوصي باستشارة المختصين.

وأكدت الشركة أن الغالبية العظمى من ملخصات "AI Overviews" دقيقة ومفيدة، وأنها تعمل باستمرار على تحسين جودتها، لافتة إلى أن معدل دقتها يضاهي ميزات بحث أخرى مثل "المقتطفات المميزة" المستخدمة منذ أكثر من عقد.

وأضافت غوغل أنها ستتخذ الإجراءات المناسبة وفق سياساتها في حال أساءت الأداة تفسير محتوى الويب أو أغفلت السياق، مشددة على استثمارها الكبير في تحسين جودة "AI Overviews"، لا سيما في الموضوعات الحساسة مثل الصحة.

ورغم هذه التطمينات، خلص تحقيق "الغارديان" إلى أن استمرار ظهور معلومات صحية مضللة في نتائج البحث يفرض تساؤلات جدية حول حدود الاعتماد على الذكاء الاصطناعي، والحاجة إلى قدر أكبر من التدقيق، خاصة في القضايا المرتبطة بصحة وحياة المستخدمين.