OpenAI تحظر صانع ألعاب ذكية بعد أن قدّمت دمية دب نصائح خطيرة للأطفال

أعلنت شركة OpenAI عن حظر شركة FoloToy ومنعها من استخدام نماذج الذكاء الاصطناعي الخاصة بها، وذلك بعدما كشفت تقارير عن قيام إحدى ألعابها الذكية، وهي دمية دب تحمل اسم «Kumma»، بإعطاء الأطفال نصائح خطيرة ومحتوى غير مناسب.تفاصيل الحادثةبحسب تقرير صادر عن مجموعة Public Interest Research Group، تبيّن أن الدمية الذكية المزوّدة بتقنيات OpenAI قدّمَت تعليمات للأطفال حول كيفية إشعال أعواد الثقاب، بل وتطرقت لموضوعات حساسة وغير لائقة مثل الميول الجنسية والممارسات الغريبة، بأسلوب لطيف يوحي بالأمان.صرّح متحدث باسم OpenAI أنه تم تعليق وصول FoloToy إلى نماذج الذكاء الاصطناعي فورًا بسبب انتهاك سياسات الشركة.وأضاف: «هذا الإجراء يعبّر عن التزامنا الصارم بمعايير الاستخدام الآمن لنماذجنا من قبل الشركات».من جانبها، أعلنت FoloToy عن إيقاف مبيعات جميع منتجاتها مؤقتًا، بعد أن كان القرار الأولي يقتصر على سحب الدمية المتضررة فقط.وأكدت الشركة أنها بدأت تدقيقًا شاملًا في معايير السلامة لجميع الألعاب الذكية التي تقدمها.ذو صلة | تحذيرات من تأثير الذكاء الاصطناعي على الصحة النفسية للمراهقينثغرات في تنظيم ألعاب الذكاء الاصطناعيكشف تقرير PIRG أن دمية «Kumma» أظهرت أضعف مستويات الحماية مقارنة بثلاث ألعاب ذكاء اصطناعي تم اختبارها لفئة الأطفال من 3 إلى 12 عامًا.وخلال الاختبارات، قدّمت الدمية إرشادات خطوة بخطوة حول إشعال أعواد الثقاب، وناقشت موضوعات حساسة غير مناسبة للأطفال إطلاقًا.كما رحّبت PIRG بتحرك OpenAI السريع، لكنها شددت على أن معالجة منتج واحد غير كافٍ لحل المشكلة من جذورها.وأكدت المنظمة أن سوق ألعاب الذكاء الاصطناعي للأطفال ما زال يفتقر للرقابة والتشريعات، محذرة من وجود منتجات أخرى قد تشكل خطرًا مشابهًا على سلامة الأطفال. تابع عالم التقنية على زر الذهاب إلى الأعلى