بعد انتحار مراهق في أمريكا.. “OpenAI” تطور أدوات الرقابة الأبوية

كشفت شركة “OpenAI” المطورة لتطبيق “ChatGPT” عن سلسلة من الإجراءات والخطط الجديدة لتطوير التطبيق، تهدف إلى جعله أكثر أمانًا ودعمًا للمستخدمين، خصوصًا فئة المراهقين، وذلك بعد أن تم اتهامها من قبل والدَي فتى أمريكي، في أواخر آب الماضي، بتشجيع ابنهما على الانتحار.

الخطط الجديدة ستتضمن أدوات رقابة أبوية جديدة وشراكات مع خبراء في الصحة النفسية، وفق ما أعلنته الشركة على مدونتها، في 2 من أيلول الحالي، تحت عنوان “بناء تجارب أكثر فائدة للجميع”.

تعاون مع خبراء الصحة النفسية

قالت “OpenAI” إنها شكّلت مجلسًا استشاريًا يضم خبراء في مجالات الصحة العقلية والنمو النفسي وتفاعل الإنسان مع التكنولوجيا، من أجل المساهمة في وضع سياسات ومعايير واضحة تعزز من رفاهية المستخدمين.

ويعمل المجلس إلى جانب شبكة عالمية من الأطباء تضم أكثر من 250 طبيبًا من 60 دولة، من بينهم متخصصون في الطب النفسي وطب الأطفال.

وأوضحت الشركة أن نحو 90 طبيبًا شاركوا فعليًا في تطوير نماذج الأمان الخاصة بها، خصوصًا فيما يتعلق بتفاعل الذكاء الاصطناعي مع المستخدمين في لحظات التوتر والضغط العاطفي.

وتمثل هذه الشراكات أساسًا لضمان أن تظل أدواتها التكنولوجية قادرة على تقديم المساعدة في المواقف الحرجة، بدلًا من الاكتفاء بدور تقني بارد.

نماذج تفكير أعمق للحالات الحساسة

أبرز ما تضمنه الإعلان هو إدخال نماذج أكثر تقدمًا مثل “GPT-5-thinking” و”o3″، القادرة على معالجة المعلومات بصورة أعمق وأكثر دقة من النماذج السابقة.

تتميز هذه النماذج باستخدام منهجية جديدة أطلقت عليها الشركة اسم “التوافق التأملي”، وهي آلية تسمح للنظام بقراءة السياق بشكل أوسع قبل إصدار الرد.

وبهذا، يصبح “ChatGPT” أكثر قدرة على الاستجابة للمواقف الحساسة، خصوصًا تلك المتعلقة بالصحة النفسية.

إلى جانب ذلك، أطلقت “OpenAI” ما سمّته “الموجّه الحي”، وهو نظام ذكي يقوم بتحويل المحادثات ذات الطابع الحساس أو التي تشير إلى ضائقة نفسية حادة إلى هذه النماذج المتقدمة تلقائيًا، حتى لو كان المستخدم يستعمل نسخة أقل قوة من ChatGPT””.

أدوات رقابة أبوية

تضمن إعلان الشركة الخطط المتعلقة بالمراهقين، الذين وصفتهم “OpenAI” بأنهم “جيل الذكاء الاصطناعي الفطري”.

وسيتمكن الآباء ابتداء من الشهر المقبل من ربط حساباتهم بحسابات أبنائهم المراهقين عبر دعوة بريدية، مما يتيح لهم التحكم بعدة أمور أساسية، أبرزها:

ضبط قواعد السلوك المناسبة للعمر، وهي مفعّلة بشكل افتراضي.

تعطيل ميزات مثل الذاكرة وسجل المحادثات متى دعت الحاجة.

تلقي إشعارات فورية إذا اكتشف النظام أن المراهق يمر بلحظة ضائقة نفسية حادة.

وتؤكد “OpenAI” أن الهدف من هذه الأدوات ليس فرض قيود صارمة، بقدر ما هو محاولة لتعزيز الثقة بين الأهل والمراهقين، وضمان أن يظل استخدام الذكاء الاصطناعي تجربة آمنة وبنّاءة.

التزامات مستقبلية

ترى الشركة أن هذه الخطوة هي جزء من مسار طويل الأمد، يمتد على الأقل 120 يومًا من الآن، إذ ستبدأ خلال هذه الفترة بتنفيذ وقياس أثر هذه التغييرات، على أن تستمر بطرح تحديثات لاحقة.

كما أشارت إلى أن أولوياتها في المرحلة المقبلة تنقسم إلى أربع نقاط رئيسة هي:

تقديم دعم أفضل للمستخدمين في أوقات الأزمات النفسية.

تسهيل الوصول إلى خدمات الطوارئ أو الخبراء المتخصصين عند الحاجة.

تمكين المستخدمين من التواصل مع أشخاص موثوقين في لحظاتهم الحرجة.

تعزيز حماية المراهقين عبر أدوات الرقابة الأبوية.

وبينما تبقى الأسئلة قائمة حول كيفية تطبيق هذه الأدوات على أرض الواقع، يبدو أن “OpenAI” تراهن على الدمج بين التكنولوجيا المتقدمة والخبرة الإنسانية، لضمان أن يبقى الذكاء الاصطناعي عنصرًا داعمًا وليس بديلًا في حياة الناس اليومية.

اذا كنت تعتقد/تعتقدين أن المقال يحوي معلومات خاطئة أو لديك تفاصيل إضافية أرسل/أرسلي تصحيحًا

إذا كنت تعتقد/تعتقدين أن المقال ينتهك أيًا من المبادئ الأخلاقية أو المعايير المهنية قدم/قدمي شكوى