ممارسات السلامة في شركات الذكاء الاصطناعي لا تفي بالمعايير العالمية
الذكاء الاصطناعي
كشف إصدار جديد لمؤشر سلامة الذكاء الاصطناعي، الذي يصدره معهد “مستقبل الحياة” (فيوتشر أوف لايف)، أن إجراءات السلامة التي تتخذها شركات الذكاء الاصطناعي الكبرى، بما في ذلك أنثروبيك وأوبن إيه.آي وإكس إيه.آي وميتا، لا تزال “أدنى بكثير من المعايير العالمية الناشئة”.
وأوضح المعهد أن لجنة مستقلة من الخبراء خلصت، خلال تقييمها لإجراءات السلامة، إلى أن الشركات رغم تسابقها لتطوير أنظمة فائقة الذكاء، فإن أيا منها لا يمتلك استراتيجية قوية للسيطرة على هذه النماذج المتقدمة.
وتأتي هذه النتائج في ظل تزايد القلق العام بشأن التأثيرات الاجتماعية للأنظمة الأكثر ذكاء من البشر القادرة على التفكير المنطقي واتخاذ قرارات معقدة. ورُبطت بعض حالات الانتحار وإيذاء النفس بتفاعلات مع روبوتات دردشة تعمل بالذكاء الاصطناعي.
وقال ماكس تيجمارك الأستاذ في معهد ماساتشوستس للتكنولوجيا ورئيس معهد مستقبل الحياة “رغم الضجة المثارة في الآونة الأخيرة حول القرصنة القائمة على الذكاء الاصطناعي ومخاطر دفع هذه الأنظمة المستخدمين إلى الإصابة بالذهان أو إيذاء النفس، لا تزال شركات الذكاء الاصطناعي الأمريكية أقل تنظيما من المطاعم وتواصل ممارسة ضغوط ضد معايير السلامة الملزمة”.
ويعتبر معهد مستقبل الحياة منظمة غير ربحية تُحذر من المخاطر الوجودية المحتملة للذكاء الاصطناعي. وتأسس المعهد عام 2014 وكان الرئيس التنفيذي لشركة تسلا إيلون ماسك من أوائل الداعمين له.
ودعت مجموعة تضم العالمين جيفري هينتون ويوشوا بينجيو في أكتوبر تشرين الأول إلى حظر تطوير الذكاء الاصطناعي فائق الذكاء حتى يطالب الجمهور بذلك ويمهد العلم الطريق الآمن للمضي قدما.
وقال متحدث باسم (جوجل ديب مايند) إن الشركة “ستواصل الابتكار في مجال السلامة والحوكمة بما يتماشى مع القدرات” مع تطور نماذجها، بينما قالت شركة إكس.إيه.آي إن “وسائل الإعلام القديمة تكذب” فيما بدا وكأنه رد آلي.
وقال متحدث باسم شركة أوبن إيه.آي “نحن نشارك أطر السلامة والتقييمات والأبحاث الخاصة بنا للمساعدة في تطوير معايير الصناعة، ونعمل باستمرار على تعزيز إجراءات الحماية لدينا للاستعداد للقدرات المستقبلية”.
وأضاف المتحدث أن الشركة تستثمر بكثافة في أبحاث السلامة في المستقبل وتختبر نماذجها “بدقة”.
ولم ترد شركات أنثروبيك وميتا وزد.إيه.آي وديب سيك وعلي بابا كلاود بعد على طلبات رويترز للتعليق على نتائج الدراسة.
زر الذهاب إلى الأعلى
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
اقرأ أيضاً
8 إضافات لـ Google Docs تُغيّر طريقة عملك
منذ ساعة واحدة
