قلق عالمي بسبب محتوى إباحي على "إكس".. والمفوضية الأوروبية تتحرك

أثارت تقارير عن محتوى جنسي فاضح تم توليده عبر روبوت الدردشة "جروك"، التابع لمنصة "إكس" المملوكة لإيلون ماسك، موجة قلق وانتقادات واسعة من حكومات وهيئات تنظيمية حول العالم، وسط مطالب متزايدة باتخاذ إجراءات قانونية وتشديد الرقابة على أدوات الذكاء الاصطناعي.

ودفعت هذه التطورات عدداً من الجهات الرسمية إلى فتح تحقيقات رسمية، ما زاد الضغوط على منصة "إكس" للكشف عن الإجراءات المتبعة لمنع إنتاج وتداول المحتوى غير القانوني، خاصة المحتوى الذي يتضمن إساءات جنسية أو انتهاكات للخصوصية.

قيود جديدة من الشركة المشغلة

أعلنت الشركة المشغلة لـ"جروك"، الخميس، حصر إمكانيات توليد الصور وتعديلها على الاشتراكات المدفوعة فقط، وذلك بعد إقرارها في الثاني من يناير/كانون الثاني بسد ثغرات أمنية سمحت، في حالات محدودة، بإنتاج محتوى جنسي تضمن صوراً لأطفال بملابس فاضحة.

وسبق لإيلون ماسك أن حذر عبر منصة "إكس" من أن أي شخص يستخدم "جروك" لإنتاج محتوى غير قانوني سيواجه العواقب نفسها المترتبة على نشر محتوى مخالف للقانون على المنصة.

تحركات أوروبية وتحقيقات رسمية

مددت المفوضية الأوروبية، الخميس، أمراً سابقاً يُلزم منصة "إكس" بالاحتفاظ بجميع الوثائق والبيانات الداخلية المرتبطة بروبوت "جروك" حتى نهاية عام 2026، في ظل مخاوف من محتوى جنسي فاضح جرى توليده عبر الأداة.

وفي بريطانيا، أعلنت هيئة تنظيم الاتصالات "أوفكوم" في الخامس من يناير/كانون الثاني أنها أجرت تواصلاً عاجلاً مع "إكس" وشركة "إكس.إيه.آي"، وبدأت تقييماً سريعاً لمدى التزام الخدمة بواجباتها القانونية لحماية المستخدمين وفق قانون السلامة على الإنترنت.

أما في فرنسا، فأحال وزراء، في الثاني من يناير، عدداً من حالات المحتوى الجنسي الفاضح الذي أنتجه "جروك" إلى الادعاء العام، إلى جانب إخطار الجهة المنظمة لوسائل الإعلام للتحقق من التزام "إكس" بقانون الخدمات الرقمية للاتحاد الأوروبي.

وفي ألمانيا، دعا وزير الإعلام فولفرام فايمر، في السادس من يناير، المفوضية الأوروبية إلى اتخاذ إجراءات قانونية، مؤكداً أن تشريعات الاتحاد الأوروبي توفر أدوات واضحة لمكافحة المحتوى غير القانوني على المنصات الرقمية.

تحذيرات من انتهاكات الخصوصية

حذرت هيئة حماية البيانات الإيطالية من أن استخدام الذكاء الاصطناعي لإنتاج صور مزيفة عالية الدقة وفاضحة لأشخاص حقيقيين دون موافقتهم يشكل انتهاكات خطيرة للخصوصية، وقد يرقى في بعض الحالات إلى جرائم جنائية.

وفي السويد، ندد سياسيون بمحتوى جنسي فاضح أنتجه "جروك"، بعد تقارير عن ظهور صور مزيفة لنائبة رئيس الوزراء السويدي استناداً إلى أوامر من أحد المستخدمين.

إجراءات في آسيا

في الهند، أرسلت وزارة تكنولوجيا المعلومات مذكرة رسمية إلى "إكس" في الثاني من يناير، طالبت فيها بإزالة محتوى جنسي فاضح جرى توليده عبر "جروك"، وتقديم تقرير خلال 72 ساعة حول الإجراءات المتخذة.

وأعلنت إندونيسيا حظر الوصول إلى "جروك"، موضحة أن القرار يهدف إلى حماية النساء والأطفال من المحتوى الإباحي المزيف، استناداً إلى قوانين صارمة لمكافحة تداول المواد الإباحية.

كما فرضت ماليزيا حظراً مؤقتاً على الأداة، الأحد، بسبب إساءة استخدامها المتكررة في إنتاج صور جنسية فاضحة ومسيئة، بعضها يتضمن نساءً وقاصرين، ومن دون موافقة أصحاب الصور.

تحركات في أوقيانوسيا

قالت هيئة السلامة الإلكترونية في أستراليا، في السابع من يناير، إنها تحقق في صور جنسية رقمية مزيفة عالية الدقة تم إنتاجها باستخدام "جروك"، وتُقيم محتوى إباحياً في إطار برنامجها المخصص لمكافحة الانتهاكات عبر الصور.

وأوضحت الهيئة أن الأمثلة المتعلقة بالأطفال التي جرى فحصها حتى الآن لا ترقى إلى الحد القانوني الذي يصنفها كمواد تمثل انتهاكات جنسية للأطفال بموجب القانون الأسترالي، مع استمرار التحقيقات.

وتعكس هذه التطورات تصاعد المخاوف العالمية من إساءة استخدام أدوات الذكاء الاصطناعي، في وقت تتزايد فيه الدعوات إلى تشريعات أكثر صرامة توازن بين الابتكار التكنولوجي وحماية الخصوصية والأمن المجتمعي.