فرنسا والهند تطالبان بالتحقيق مع Grok بعد توليده محتويات جنسية لقاصرات

طالب مسؤولون في كل من الحكومتين الهندية والفرنسية بفتح تحقيق مع روبوت الدردشة Grok "جروك" من شركة xAI المملوكة للملياردير إيلون ماسك، وذلك بعد بلاغات عن توليده محتويات جنسية فاضحة لقاصرات، بحسب ما أورده موقع "أكسيوس".

وأصدر 3 وزراء فرنسيين بياناً، الجمعة، قالوا فيه إنهم أحالوا الأمر إلى جهة تحقيق بشأن "انتهاكات محتملة من جانب شركة X لالتزاماتها بموجب قانون الخدمات الرقمية، لا سيما فيما يتعلق بمنع وتخفيف المخاطر المرتبطة بنشر المحتوى غير القانوني".

وبحسب ما أوردته مجلة "بوليتيكو"، فإن وزير الاقتصاد والصناعة، رولان ليسكور، ووزيرة الدولة للذكاء الاصطناعي والشؤون الرقمية، آن لو هينانف، ووزيرة المساواة أورور بيرجيه، أبلغوا المدعي العام ومنصة "فاروس" الحكومية للمراقبة الإلكترونية عن "محتوى غير قانوني بشكل واضح".

ويُخوّل هذا القانون، الذي ينظم المنصات الإلكترونية ومحركات البحث العاملة في الاتحاد الأوروبي، فرض غرامات باهظة، حال ثبوت انتهاك أي شركة له.

وفي الهند، منح وزير تكنولوجيا المعلومات الهندي شركة xAI مهلة 72 ساعة لتقديم تقرير مفصل عن التغييرات التي أجرتها المنصة لوقف انتشار المحتوى الذي يُعتبر "غير لائق" أو محظوراً بموجب القانون.

Grok: رصدنا الثغرات ونعمل على إصلاحها

وانتشرت مؤخراً صوراً فاضحة لأطفال، بينهم ممثلة قاصر من مسلسل Stranger Things، إذ قام مستخدمو منصة X بالطلب من برنامج Grok إزالة ملابس الممثلة نيل فيشر، البالغة من العمر 14 عاماً.

وخلال اليومين الماضيين، أبلغت مئات النساء والمراهقات عن قيام Grok بتعديل صورهن المنشورة على مواقع التواصل الاجتماعي، وذلك بناءً على طلب المستخدمين، إذ تُخالف هذه الصور شروط خدمة Grok، التي تحظر استغلال الأطفال جنسياً.

ورداً على منشور لأحد المستخدمين، أقرّ Grok، الجمعة، بوجود "حالات فردية طلب فيها المستخدمون صوراً مولدة بواسطة الذكاء الاصطناعي تُظهر قاصرين بملابس فاضحة، وحصلوا عليها".

وجاء بالمنشور: "كما ذكرنا، رصدنا ثغرات في إجراءات الحماية ونعمل على إصلاحها بشكل عاجل. مواد الاعتداء الجنسي على الأطفال غير قانونية ومحظورة".

وتُبرز هذه الحوادث كيف يمكن لهذا البرنامج، المُرخّص للاستخدام الحكومي الرسمي، أن يُلحق الضرر بالأطفال ويُعرّضهم للخطر، وهو واقع قد يتكرر أكثر مع تسارع انتشار الذكاء الاصطناعي.

وفي منشور منفصل، حذّر البرنامج أيضاً من أن xAI قد يواجه "تحقيقات أو دعاوى قضائية محتملة من وزارة العدل الأميركية نتيجة لذلك".

استعادة ثقة الحكومة الأميركية

واعتبر "أكسيوس" أن الثغرة الأخيرة لشركة Grok تأتي في وقت يسعى فيه ماسك لاستعادة ثقة البيت الأبيض، وفي الوقت نفسه تتنافس فيه الشركة على عقود حكومية مربحة لمنتجاتها من الذكاء الاصطناعي.

وأيدت ميلانيا ترمب قانون "إزالة المحتوى" (TAKE IT DOWN Act)، الذي تم توقيعه ليصبح قانوناً العام الماضي، والذي يستهدف تحديداً الصور الجنسية على الإنترنت، ما يجعل فشل شركة xAI في منع هذا المحتوى أسوأ.

ودمجت إدارة ترمب شركة xAI في سير العمل الفيدرالي خلال وقت سابق من هذا العام، بتوقيع عقد لمدة 18 شهراً يُجيز استخدام روبوت الدردشة في الأعمال الحكومية الرسمية.

وتم إبرام هذه الصفقة على الرغم من تحالف يضم أكثر من 30 منظمة معنية بحماية المستهلك، حثت الحكومة على منع Grok، لافتقارها لاختبارات السلامة وتحيزها الأيديولوجي، إذ واجهت شركة xAI انتقادات متكررة خلال السنوات القليلة الماضية لنشرها معلومات مضللة وترويجها لوجهات نظر موالية لماسك.

ووُجهت انتقادات حادة لروبوت الدردشة Grok لإضافته تعليقات تزعم زوراً وقوع "إبادة جماعية للبيض" في جنوب إفريقيا، كما وُجهت إليه انتقادات لاذعة لنشره معلومات مضللة حول الانتخابات خلال حملة 2024.

بالإضافة إلى ذلك، أظهر الروبوت نزعة "معادية للسامية" لفترة وجيزة في يوليو الماضي، وهو ما أقرّ ماسك نفسه بأنه نتيجة تلاعب من المستخدمين.

يشار إلى أن ماسك وعد العام الماضي بإنشاء "مركز امتياز جديد للثقة والأمان"، حيث يمكن لمشرفي المحتوى مراقبة التطبيق للمساعدة في تطبيق قواعد السلامة الخاصة بشركة X.