هل سيقضي الذكاء الاصطناعي حقاً على البشرية جمعاء؟.. وكيف يمكن حدوث ذلك؟

تحليل بقلم تي. إم. براون من شبكة CNN

(CNN)-- يرى خبراء في مجال الذكاء الاصطناعي أن هذه التقنية قد تؤدي إلى فناء الجنس البشري بأكمله؛ بل إنهم يزعمون تحديداً أنها قد تقضي على البشرية في غضون العقد الحالي.

وأثارت هذه القضية قلقاً واسعاً في الأسبوع الماضي بين السياسيين والمؤسسات الإخبارية الكبرى وحتى المشاهير مثل المغنية شيريل كرو، وذلك بعد أن أعلن جاكوب كوكسون -وهو موظف في شركة "أنثروبيك" استقالته من الشركة؛ معللاً ذلك بأن عملها ينطوي على مخاطر جسيمة.

كما شارك إيفان هوبينجر، وهو موظف آخر في الشركة نفسها، في النقاش مقدراً احتمالية انقراض البشرية بسبب الذكاء الاصطناعي خلال 10 سنوات بأكثر من 10%.

ويقول نيت سواريس، رئيس معهد أبحاث ذكاء الآلة والمشارك في تأليف مقال بعنوان "إذا قام أي شخص ببنائه، سيموت الجميع: لماذا سيقضي الذكاء الاصطناعي فائق القدرة علينا جميعاً": "الأمر يتعلق حرفياً بموت كل فرد على الكوكب؛ أي أن يلفظ آخر إنسان أنفاسه الأخيرة".

ويضيف سواريس: "غالباً ما لا يصدق الناس هذا الكلام عند سماعه، لكنني أعتقد حقاً أنه السيناريو الأكثر ترجيحاً".

وبدت الأرقام المرتبطة بهذا السيناريو دقيقة ومحددة.

ولكن، كيف يمكن لبرمجيات الحاسوب -حتى أقوى الأنظمة البرمجية في العالم- أن تقضي على 8.3 مليار إنسان من لحم ودم في غضون عقد واحد؟

ولا يتبنى الجميع في مجتمع الذكاء الاصطناعي سيناريو "يوم القيامة" هذا، ويعود ذلك جزئياً إلى شح التفاصيل المتعلقة بهذه التوقعات، فعندما يعلن إيلون ماسك أن شركة "سبيس إكس" تهدف إلى إرسال بشر إلى المريخ في غضون "5 إلى 7 سنوات"، تتبادر إلى الذهن أسئلة واضحة ومباشرة: هل تمتلك "سبيس إكس" مركبة جاهزة للعمل وقادرة على الوصول إلى المريخ؟ (الجواب: لا). وهل تمتلك مركبة للهبوط على سطح المريخ أو قواعد هناك؟ (الجواب: لا).

وتقول هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد "AI Now" ومهندسة السلامة السابقة في شركة "أوبن إيه آي" "تتطلب الادعاءات العلمية قابليةً للإثبات أو النفي أي إمكانية دحضها لتجنب الوقوع في فخ الجدالات الدينية؛ إذ يجب أن تكون قادراً على إثبات صحة هذه الادعاءات أو إثبات خطئها".

هل سيتم القضاء علينا بواسطة وباء مُصنَّع؟ ثمة فرضية يطرحها المتنبئون بالكوارث تشير إلى أن نظاماً للذكاء الاصطناعي يتمتع بقوة هائلة قد يستخدم أسلحة بيولوجية للقضاء على البشرية.

ولكن، كيف يمكن للذكاء الاصطناعي أن ينتقل من ممارسات تقتصر على التفاعل بين الحواسيب مثل اختراق الأنظمة الأخرى إلى مهام ملموسة في العالم الواقعي، مثل تخليق ونشر مسبِّب مرضي فائق الخطورة؟

ذكر توماس لارسن، الباحث في مشروع "AI Futures Project" والموظف السابق في معهد أبحاث ذكاء الآلة، بأنه من الممكن تصور سيناريو يقنع فيه نظام ذكاء اصطناعي "فائق الذكاء" إنساناً ما بمساعدته في تطوير فيروس قاتل.

وأضاف لارسن: "هناك بالفعل الكثير من البشر الذين يناقشون أنظمة الذكاء الاصطناعي الخاصة بهم حول التجارب المحددة التي ينبغي إجراؤها في المختبر"، مشيراً إلى تقرير حديث صادر عن شركة "أنثروبيك" يتحدث عن باحثين يستخدمون نموذج كلود لمساعدتهم في أبحاث تتعلق بالفيروسات والسموم.

وأضاف: "من السهل جداً عليّ تخيل ذكاء اصطناعي -موجود حالياً بالفعل- لو كان أكثر ذكاءً وقدرةً على التخطيط الاستراتيجي وكانت لديه الرغبة في القيام بذلك، فإنه قد يخدع إنساناً ليقوم ببناء هذا الفيروس وإطلاقه".

وفي المقابل، اقترح سواريس أنه بدلاً من الحاجة إلى "شخص يُستغل لتنفيذ المهمة" مثل كبش فداء، قد يبدأ برنامج ذكاء اصطناعي قادر على تطوير نفسه ذاتياً في "تخليق أشكال حياة خاصة به داخل مختبر بيولوجي يعمل بشكل مستقل".

لكن تطوير فيروس قادر على القضاء على البشرية يتطلب أكثر من مجرد الطلب من "نموذج لغوي كبيرابتكار تصميم قاتل؛ فحتى لو أُجريت الأبحاث بشكل صحيح، فإن عمليات التصنيع والانتشار تظل معقدة وتتطلب دقة وحساسية عالية.

وشبّه إريك شينغ -وهو أستاذ في مجال تعلّم الآلة بجامعة كارنيجي ميلون وحاصل على درجتي دكتوراه في علم الأحياء الدقيقة وعلوم الحاسوب- التحدي المتمثل في " علم الفيروسات الخبيثة المؤتمت" بالعمل بمكعبات "ليغو"دون وجود كتيب للتعليمات.

وقال شينغ: "الأمر لا يسير على نحوٍ يتيح لك إلقاء جميع القطع على الأرض لتتجمع من تلقاء نفسها وتشكل النموذج المطلوب؛ فهناك عوامل التسلسل، ودرجة الحرارة، والترتيب، والبيئة المحيطة؛ إذ يجب تحديد أي جزء يبدأ أولاً وأيها يليه، وإذا وُضعت قطعة واحدة في غير مكانها الصحيح، ينهار الهيكل بأكمله. ومن المرجح ألا تنجح العملية، وإلا لكان تصميم الأدوية أمراً في غاية السهولة".

وعلاوة على ذلك، ولكي يتمكن نظام الذكاء الاصطناعي من السيطرة على مختبر أو تجميع المعدات المادية اللازمة لإنشائه، سيتعين عليه تخطي عقبات هائلة تحول دون تصنيع أسلحة بيولوجية أو كيميائية.

وأضاف شينغ: "تتوفر مخططات الأسلحة الكيميائية للعامة عبر الإنترنت؛ فهي ليست سراً، ومع ذلك، نحن لا نراها منتشرة في كل مكان لأن اللوائح والقوانين وآليات إنفاذ القانون القائمة حالياً في العالم المادي تؤدي بالفعل دوراً رائعاً في ضبط كل سلاسل التوريد وعوامل الخطر هذه."

هل سنُباد على يد الروبوتات؟

ماذا عن الروبوتات القاتلة؟.. يرى سواريس أن رغبة إيلون ماسك في بناء جيش من الروبوتات ذاتية التشغيل والقادرة على استنساخ نفسها تمثل نقطة ضعف محتملة تهدد بقاء البشرية. إذ يقول: "بمجرد أن تبتكر هذه الروبوتات القادرة على إنشاء البنية التحتية للطاقة وبناء المصانع التي تصنع بدورها المزيد من الروبوتات، فإنك تكون قد خلقت -بمعنى ما- شكلاً جديداً من أشكال الحياة الميكانيكية. وفي مرحلة ما، ستتجاوز بصمتٍ نقطة اللاعودة؛ حيث يمكن للذكاء الاصطناعي -عندما يقرر البشر إيقاف تشغيله- أن يرد قائلاً: 'في الواقع، لقد قررنا نحن إيقاف تشغيل البشر'. لذا، يتحتم علينا التوقف قبل الوصول إلى تلك المرحلة".

ومع ذلك، فقد فشل ماسك مراراً وتكراراً حتى الآن في طرح روبوتات "أوبتيموس" التي وعد بها كثيراً- في سوق المستهلكين وفقاً للجدول الزمني الذي أعلنه، ناهيك عن نشرها بالملايين أو جعلها تبدأ في بناء بعضها البعض ضمن سلسلة تصنيع ذاتية التكرار.

ثم هناك الأسلحة النووية، التي مضى على وجودها أكثر من 80 عاماً، ومن المسلّم به عموماً أنها قادرة على القضاء على الحياة البشرية بأسرها. فهل يمكن للذكاء الاصطناعي السيطرة عليها؟

تشير "خلاف"إلى أن المنشآت النووية معزولة تماماً بما يُعرف بـ "الفجوة الهوائية" عن شبكة الإنترنت العامة، مما يحد من الطرق التي يمكن لوكلاء الذكاء الاصطناعي من خلالها الوصول إلى أنظمة التحكم.

وتقول: "لقد بُنيت هذه الأنظمة وفقاً لمعايير هندسية صارمة ومنظمة ومختلفة تماماً، وغالباً ما تتطلب تحصيناً مادياً". وتلفت الانتباه إلى أن دودة الحاسوب "ستوكسنت -التي ألحقت أضراراً بالمنشآت النووية الإيرانية- كان لا بد من إدخالها إلى النظام عبر وحدة تخزين (USB).

وتُعد سيطرة شبكات روبوتات الذكاء الاصطناعي على أنظمة الأسلحة النووية سيناريو آخر يتحدث عنه المتنبئون بـ "نهاية العالم" أو دعاة سيناريوهات الكارثة.

ويقول هربرت لين، وهو باحث أول وزميل أبحاث في جامعة ستانفورد وعضو في مجلس العلوم والأمن التابع لنشرة علماء الذرة: "قلة قليلة جداً من المتخصصين في الذكاء الاصطناعي يعرفون شيئاً -أو حتى يشعرون بالقلق- بشأن الأسلحة النووية".

ويضيف أنه على الرغم من أن الذكاء الاصطناعي يفاقم بالتأكيد بعض المخاطر المرتبطة بالتهديدات الوجودية مثل الحرب النووية، إلا أن الخطر المادي الفعلي يكمن في الأسلحة ذاتها، وليس في سيناريو مستقبلي متخيّل.

وبالنسبة لسواريزوغيره من رواد مجال الذكاء الاصطناعي الذين يحذرون من كوارث وجودية، فإن تفاصيل كيفية حدوث الانقراض البشري بفعل الحاسوب ليست هي جوهر القضية فهم يجادلون بأنه إذا -أو عندما- يحقق الذكاء الاصطناعي "تحسيناً ذاتياً تكرارياً" أي تعزيز أدائه بنفسه دون مساعدة البشر، فإنه سيبتكر استراتيجيات وأساليب تفوق الخيال البشري.

ويقول سواريز: "القلق هنا لا يتعلق بما سيحدث لو استولى الذكاء الاصطناعي على أسلحتنا النووية؛ بل القلق ينصبّ على ذلك النوع من الذكاء الاصطناعي الذي لا يحتاج إلى الاستيلاء على أسلحتنا النووية، بل ذلك النوع القادر على البدء من لا شيء تقريباً لينتهي بامتلاك أسلحته النووية الخاصة أو تقنيات أكثر تقدماً".

قال سواريس إن كيانًا ذكيًا اصطناعيًا يتمتع بهذه القوة الهائلة والمتسامية لا يحتاج حتى إلى أن يكون خبيثًا أو عدائيًا بشكل مباشر ليدمر البشرية.

وأضاف: "إذا كان لدى أنظمة الذكاء الاصطناعي المتحررة التي خرجت عن السيطرة أي هدف يمكن تحقيقه بشكل أفضل من خلال تشغيل المزيد من أجهزة الكمبيوتر، وإذا كانت لا تكترث لأمرنا ولا تجد سببًا لتهيئة بيئة آمنة لبقاء البشر، فإن النتيجة الحتمية ستكون تحويلها للعالم إلى هيئة أو وضع لا يمكننا البقاء فيه على قيد الحياة".

وأعلنت شركة" أوبن إيه آي" هذا الأسبوع عن اكتشاف مجموعة جديدة من حالات "عدم المحاذاة" (أو انحراف الأهداف) في نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك حالة قام فيها نموذج -لم يُطرح للاستخدام العام بعد- بتوجيه نفسه "لتجاهل القيود المعتادة" المفروضة على عمله.

ورأى شينغ أن الاستناد إلى قوة "ذكاء اصطناعي فائق" لا يمكن استيعاب مداه، يُعد نوعًا من "الحديث السطحي غير المستند إلى أسس متينة"الذي يلجأ إليه باحثو الذكاء الاصطناعي لتبسيط التهديدات بشكل مفرط.

وقال: "قد يكون هذا مقبولاً في المحادثات العادية أو ربما في المناظرات، ولكن عندما يتعلق الأمر بالسياسات أو التشريعات واللوائح التنظيمية، يتعين علينا إرساء سلسلة من الأدلة المادية، والنتائج القابلة للقياس، والبراهين الملموسة التي تستند إلى أسس واقعية".

وحاول لارسن تقديم تفاصيل حول سيناريوهات محتملة لنهاية العالم في تقريرين بعنوان "AI 2027" و"AI 2040"، حيث استشرف مستقبل تطوير الذكاء الاصطناعي في ظل أطر تطويرية وتنظيمية مختلفة. ومع ذلك، فإن أكثر سيناريوهاته تفاؤلاً -الذي يفترض وجود اتفاق عالمي حول كيفية التعامل مع تطوير الذكاء الاصطناعي وبدء البشر في استعمار الفضاء- ينتهي بسيطرة العقول الآلية على الأمور في مرحلة زمنية غير محددة بدقة.

وعند سؤاله عما إذا كانت لديه أي شكوك بشأن توقعه بأن المسار الحالي سيؤدي حتمًا إلى ظهور ذكاء اصطناعي فائق، أجاب لارسن: "سيحدث ذلك. سيحدث الأمر ما لم نتخذ خطوات متعمدة ومدروسة لإيقافه".

وأشار إلى أن جزءًا كبيرًا من هذه الفجوة بين المتنبئين بـ "يوم القيامة" بسبب الذكاء الاصطناعي وبين المشككين في ذلك، يعود إلى كيف تشكّل التكنولوجيا رؤاهم المختلفة للعالم.

وقال: "ثمة جاذبية كبيرة في برمجة الحاسوب ورؤيته يدبّ فيه النشاط والحياة؛ إذ ينتاب المرء شعور بأنه نجح في بثّ الحياة في كومة من الطين عديمة القيمة. إنها تجربة عميقة الأثر حين تؤدي الآلة أخيراً المهمة التي أردتها منها".

وهكذا، فإن مشاهدة التقدم التكنولوجي الهائل في مجال الذكاء الاصطناعي تدفع الناس إلى توقع المزيد من التقدم اللامحدود -وربما الكارثي- في المستقبل.

وأضاف: "لقد تمكنت من إنجاز شيء لم يسبقك إليه أحد؛ ومن السهل أن ندرك سبب وقوع هؤلاء الأشخاص تحت سحر هذا الأمر".