قلق حول العالم بسبب محتوى جنسي على "جروك".. وإكس: نعمل على سد الثغرات

نددت حكومات وهيئات تنظيمية في أنحاء العالم بمحتوى جنسي فاضح ينتجه روبوت الدردشة جروك، التابع لشركة "إكس"، الذي يملكه إيلون ماسك.

وفتحت بعض الجهات تحقيقات في هذا الصدد، في خطوة تضيف ضغوطاً على المنصة للكشف عما تفعله لمنع وإزالة المحتوى غير القانوني.

وقالت الشركة المشغلة لجروك، الخميس، إنها قررت حصر إمكانية توليد الصور وتعديلها على الاشتراكات المدفوعة، بعدما أعلنت في 2 يناير أنها تعمل على سد ثغرات الحماية التي سمحت، في حالات منفردة، بإنتاج محتوى جنسي تضمن صوراً لأطفال بملابس فاضحة.

وكتب ماسك في وقت سابق، على منصة إكس أن أي شخص يستخدم جروك لصنع محتوى غير قانوني سيواجه العواقب نفسها المترتبة على رفع محتوى غير قانوني.

انتقادات حول العالم

وتنوعت ردود الفعل من الحكومات والهيئات التنظيمية حول العالم، إذ مددت المفوضية الأوروبية، الخميس، أمر احتفاظ أرسلته إلى إكس، العام الماضي، يلزمها بالاحتفاظ بجميع الوثائق والبيانات الداخلية المتعلقة بجروك حتى نهاية عام 2026، وسط قلق بشأن صور جنسية فاضحة أنتجها الروبوت.

وقالت هيئة تنظيم الاتصالات البريطانية (أوفكوم) في 5 يناير، إنها أجرت تواصلاً عاجلاً مع إكس، وإكس.إيه.آي، وستجري تقييماً سريعاً لما إذا كانت الخدمة تفي بواجباتها القانونية لحماية المستخدمين بموجب إطار عمل قانون السلامة على الإنترنت في بريطانيا.

وفي فرنسا، قال وزراء في 2 يناير، إنهم أحالوا بعض المحتوى الجنسي الفاضح الذي أنتجه جروك على منصة إكس إلى ممثلي الادعاء العام، وأبلغوا أيضاً الجهة المنظمة لوسائل الإعلام الفرنسية للتحقق مما إذا كانت المنصة ملتزمة بقانون الخدمات الرقمية للاتحاد الأوروبي.

في ألمانيا، دعا وزير الإعلام فولفرام فايمر، في 6 يناير، المفوضية الأوروبية إلى اتخاذ إجراءات قانونية، قائلاً إن قواعد الاتحاد الأوروبي توفر أدوات لمكافحة المحتوى غير القانوني.

"انتهاكات خطيرة للخصوصية"

وحذرت هيئة حماية البيانات الإيطالية، الخميس، من أن استخدام أدوات الذكاء الاصطناعي لإنشاء صور مزيفة عالية الدقة، وفاضحة لأشخاص حقيقيين دون موافقتهم يشكل انتهاكات خطيرة للخصوصية، وربما يشكل في بعض الحالات أيضاً جرائم جنائية.

وفي السويد، ندد سياسيون، الخميس، بالمحتوى الجنسي الفاضح الذي أنتجه جروك، بعد ورود تقارير عن ظهور صور لنائبة رئيس الوزراء السويدي نتيجة لأمر من أحد المستخدمين.

ردود فعل في آسيا

في قارة آسيا، أرسلت وزارة تكنولوجيا المعلومات في الهند مذكرة رسمية إلى إكس في 2 يناير، بشأن اتهامات بإنتاج صور جنسية فاضحة باستخدام إمكانيات جروك وتداولها، وطالبت بإزالة المحتوى وتقديم تقرير عن الإجراءات التي ستُتخذ خلال 72 ساعة.

وقالت وزارة الاتصالات والشؤون الرقمية في إندونيسيا، السبت، إنها حظرت الوصول إلى جروك، في خطوة قالت الوزيرة ميوتيا حفيظ إنها تهدف إلى حماية النساء والأطفال من المحتوى الإباحي المزيف الذي ينتجه الذكاء الاصطناعي، استناداً إلى قوانين البلاد الصارمة لمكافحة تداول المواد الإباحية.

وأعلنت ماليزيا فرض حظر مؤقت على جروك، الأحد، بسبب إساءة الاستخدام المتكرر للأداة لتوليد صور جنسية فاضحة وغير لائقة ومسيئة بشكل صارخ، تم التلاعب بها ودون موافقة، بما في ذلك محتوى يشمل النساء والقصر.

منطقة الأوقيانوس

قالت الهيئة المعنية بالسلامة الإلكترونية على الإنترنت في أستراليا (إي سيفتي)، في 7 يناير، إنها تحقق في صور جنسية رقمية فاضحة جرى إنتاجها بتزييف بالغ الدقة بواسطة جروك، وتقيّم محتوى إباحياً بموجب برنامجها المخصص لمكافحة الانتهاكات عبر الصور.

وأشارت إلى أن الأمثلة الحالية المتعلقة بالأطفال التي راجعتها لا تفي بالحد القانوني لمواد تمثل انتهاكات جنسية للأطفال بموجب القانون الأسترالي.