"كاراكتر.إيه آي" والانتحار.. إجراءات جديدة تطال القاصرين

تعتزم شركة "كاراكتر.إيه آي" المتخصصة في روبوتات الدردشة حظر نفاذ القصّر إلى روبوتاتها، وذلك إثر حالات انتحار عدة لمراهقين. وسيدخل هذا التغيير حير التنفيذ في 25 نوفمبر/ تشرين الثاني.

وأوضحت "كاراكتر.إيه آي" في بيان الأربعاء: "نعتقد أن هذا القرار المناسب نظرًا إلى الأسئلة التي طُرحت بشان الطريقة التي يستخدم فيها المراهقون هذه التكنولوجيا الجديدة أو تلك التي ينبغي عليهم اعتمادها".

وبعد إطلاق تطبيقها في مايو/ أيار 2023، حققت الشركة الناشئة التي تتخذ مقرًا في "مينلو بارك" بولاية كاليفورنيا شهرة في القطاع، بفضل أدوات المساعدة العاملة بالذكاء الاصطناعي التي تحاكي اهتمامات المستخدمين، أو تجسّد لهم شخصيات المشاهير.

"كاراكتر.إيه آي" والانتحار

لكن التطبيق الذي حقق نجاحًا لدى المستخدمين اليافعين أثار قلق مراقبين، خصوصًا حيال التعلق المفرط لدى البعض بروبوتات الدردشة وطبيعة التفاعلات مع مستخدمي الإنترنت.

إقرأ أيضاً

وفي أكتوبر/ تشرين الأول 2024، رفعت أمٌّ دعوى قضائية ضد "كاراكتر.إيه آي" بتهمة المساهمة في انتحار ابنها (14 عامًا)، بسبب عدم تقديم إرشادات واضحة لثنيه عن إنهاء حياته.

وفي ديسمبر/ كانون الأول من العام نفسه، أعلنت الشركة عن سلسلة تدابير للرد على الانتقادات، بينها استحداث مساعد إلكتروني مخصص لمواكبة المراهقين عبر منصتها.