أدوات كشف المحتوى المُولد بالذكاء الاصطناعي.. كيف تعمل وهل يمكن الوثوق بها؟

مع الانتشار الواسع لأدوات الذكاء الاصطناعي واعتماد الأفراد والمؤسسات عليها في إنجاز الأعمال اليومية، أصبحت الحاجة ملحّة لفهم كيفية التحقق من دقة المحتوى الذي تنتجه، خصوصاً بعد سلسلة حوادث أظهرت مخاطر الثقة المطلقة بهذه التقنيات من دون مراجعة بشرية.

فقد اضطرت شركة "Deloitte"(link is external) إلى دفع مبالغ للحكومة الأسترالية بعد اكتشاف أخطاء وردت في تقرير رسمي تم الاعتماد فيه على الذكاء الاصطناعي.

وفي واقعة أخرى، خضع محام في ولاية فكتوريا الأسترالية(link is external) لإجراءات تأديبية بعد استخدامه استشهادات قانونية غير صحيحة ولدها أحد نماذج الذكاء الاصطناعي، كما عبّرت جامعات عديدة عن قلقها من اعتماد الطلاب على الذكاء الاصطناعي في كتابة أبحاثهم.

وهذه الحوادث دفعت إلى تطوير وانتشار ما يُعرف بـ أدوات كشف المحتوى المُولد بالذكاء الاصطناعي، لكن يبقى السؤال: كيف تعمل؟ وهل يمكن الوثوق بنتائجها؟

كيف تعمل أدوات الكشف عن المحتوى المولد بالذكاء الاصطناعي؟

تختلف آليات الكشف بحسب نوع المحتوى، وتشمل ثلاث فئات رئيسية:

1- كشف النصوص

تعتمد هذه الأدوات على تحليل الأنماط الكتابية التي تميز النصوص المولدة آلياً، مثل:

تكرار الجُمل أو الصياغات.

اعتماد أسلوب موحد لا يعكس تباين الأسلوب البشري.

استخدام كلمات وعبارات شائعة لدى النماذج اللغوية الحديثة.

لكن مع التطور السريع للنماذج مثل GPT وGemini، أصبحت النصوص أقرب بكثير إلى الأسلوب البشري، ما جعل دقة أدوات الكشف تتراجع باستمرار.

2- كشف الصور المولدة بالذكاء الاصطناعي

تستند أدوات التحقق من الصور المولدة آلياً إلى مجموعة من الأساليب التقنية، أبرزها تحليل البيانات الوصفية (Metadata) التي تُرفق تلقائياً ببعض الصور الناتجة عن نماذج التوليد، إذ تحمل هذه البيانات إشارات قد تدل على أصل الصورة.

وتعتمد أدوات أخرى على مقارنة الصورة بقاعدة بيانات واسعة تضم صوراً مزيفة أو مولدة سابقاً، لرصد أنماط بصرية تشير إلى أنها غير حقيقية.

3- العلامات المائية الخفية

اتجه عدد من مطوري نماذج الذكاء الاصطناعي إلى تضمين علامات مائية غير مرئية داخل الصور المنتَجة، بحيث يمكن اكتشافها لاحقاً عبر أدوات متخصصة.

لكن هذه التقنية ما تزال محصورة داخل منظومات الشركات نفسها، وليست متاحة للاستخدام العام.

وعلى سبيل المثال، تستطيع أداة SynthID(link is external) من غوغل التعرّف إلى الصور التي تولدها نماذج الشركة مثل Imagen، لكنها تبقى عاجزة عن كشف الصور المنتجة عبر منصات أخرى مثل ChatGPT، كما أنها غير متاحة للجمهور حتى الآن.

هل يمكن الوثوق بأدوات الكشف عن المحتوى المولد بالذكاء الاصطناعي؟

فعالية أدوات الكشف تختلف تبعاً لعدة عوامل:

النموذج المستخدم لتوليد المحتوى.

مستوى التعديل الذي أُدخل على النص أو الصورة بعد التوليد.

جودة بيانات التدريب التي بُنيت عليها أداة الكشف.

ومن السهل التحايل على كثير من الأدوات عبر:

تقليل جودة الصورة أو إضافة ضوضاء إليها.

إعادة صياغة النص المولد.

تعديل مقاطع الصوت بنحو بسيط.

وتعاني معظم الأدوات من غياب الشفافية؛ فهي تقدم "نسبة ثقة" من دون شرح كيفية التوصل إليها.

اختبارات متعددة كشفت أيضاً أن أداء أدوات كشف التزييف العميق (Deepfake Detection) ينخفض بشدة عندما تُعرض عليها مقاطع جديدة بأساليب لم تتدرب عليها سابقاً.

مشكلات إضافية قد تنجم عن الاعتماد على هذه الأدوات

قد تؤدي الأخطاء في تحديد ما إذا كان المحتوى مولداً آلياً إلى نتائج خطيرة، مثل:

اتهام طالب بالغش رغم أنه كتب بحثه بنفسه.

تجاهل تقرير أو وثيقة رسمية اعتماداً على حكم خاطئ من أداة الكشف.

التشكيك بصحة رسائل إلكترونية أو محتوى شرعي تم إنتاجه بشرياً.

هذه الإشكالات تؤكد أن أدوات الكشف ما تزال غير جاهزة للاعتماد الكامل، وأن دورها اليوم يجب أن يكون مساعداً فقط، لا حكماً نهائياً.