من يتحمل المسؤولية عندما يتخذ الذكاء الاصطناعي القرار؟

مع تولي الذكاء الاصطناعي مزيدًا من القرارات التي تحمل اسمك. يصبح التحدي الحقيقي هو بناء مستوى كافٍ من الشفافية يتيح لك الدفاع عن تلك القرارات وتبريرها.

قبل بضع سنوات، إذا حدث خطأ في التواصل مع أحد العملاء، أو فات موعد تسليم. أو أُرسلت رسالة في توقيت غير مناسب، كان من الممكن عادةً تتبع المشكلة إلى قرار اتخذه شخص بعينه.

أما اليوم، فقد يكون النظام هو صاحب القرار؛ إذ يحدد توقيت التواصل. ويصوغ الرسالة، ويختار الأشخاص الذين ينبغي التواصل معهم والوقت المناسب لذلك. ومع ذلك، يظل اسمك مرتبطًا بالنتيجة النهائية.

في حين أن هذه الفجوة بين الشخص المسؤول عن النتيجة. والجهة التي نفذت العمل فعليًا أصبحت أحد أكثر مصادر الضغط النفسي إغفالًا في بيئات العمل الحديثة. ولم يحدد معظم القادة طبيعة هذه المشكلة حتى الآن، فضلًا عن وضع آليات لمعالجتها.

بينما وجدت دراسة حديثة أجرتها شركة «آي بي إم» أن ثلثي كبار مسؤولي المعلومات. وكبار مسؤولي التكنولوجيا باتوا مسؤولين عن أنظمة ذكاء اصطناعي لا يملكون السيطرة الكاملة عليها.

فيما قال 77% منهم إن أطر الحوكمة تتخلف بالفعل عن وتيرة تبني هذه التكنولوجيا.

كما تحدثت مع عدد كافٍ من الأشخاص الذين يديرون أنظمة مؤتمتة لأدرك أن هناك شعورًا بعدم الارتياح يتجاوز ما تتناوله معظم النقاشات بشأن تبني الذكاء الاصطناعي.

في حين عبّر ستيفان دانيجان، نائب رئيس تجربة العملاء في شركة «جريفون» (Gryphon). المتخصصة في حلول حوكمة الاتصالات، عن ذلك قائلًا: «السؤال الأول يأتي عادةً بصيغة من قبيل: إذا حدث خطأ، فمن يكون اسمه مرتبطًا به؟ لا يشعر الموظفون بالقلق من أن يحل النظام محلهم، بل يخشون أن يتحملوا مسؤولية قرار لم يتخذوه، وربما لا يستطيعون تفسير أسبابه».

وهذا نوع مختلف من القلق عن ذلك الذي تسعى معظم المناقشات بشأن الأتمتة إلى معالجته. فنحن نتحدث باستمرار عن الكفاءة ومعدلات تبني التكنولوجيا، لكننا لا نتحدث بما يكفي عن شعور الشخص بأنه مطالب بالدفاع عن قرار لم يتخذه ولا يستطيع إعادة بناء تفاصيله بالكامل.

كذلك من المغري الاعتقاد بأن الحل يكمن في إبطاء وتيرة التغيير أو التراجع عنه. من خلال تقليل الاعتماد على الأتمتة والإبقاء على مزيد من القرارات في أيدي البشر.

لكن ما يساعد فعليًا هو تعزيز الشفافية وإمكانية الاطلاع على كيفية اتخاذ القرارات. إذ يستطيع الأشخاص تحمل مسؤولية قرار اتخذه النظام، ما دام بإمكانهم معرفة ما فعله النظام والأسباب التي دفعته إلى ذلك.

أما إذا غابت هذه الرؤية، فإنك تضع شخصًا تحت طائلة المساءلة من دون أن تمنحه أيًا من صلاحيات التأثير في القرار التي كانت تصاحب مسؤوليته سابقًا.

فما المقصود بالشفافية عمليًا؟

يوضح دانيجان أن الأمر يتلخص في ثلاثة عناصر: «ما المعلومات التي اطلع عليها النظام، والقاعدة التي طبقها، وما الذي كان يؤدي إلى نتيجة مختلفة؟».

وهو صريح بشأن ما يحدث عند غياب هذه العناصر، إذ يقول: «إذا لم تتمكن، بعد ستة أشهر أو عام أو عامين، من إعادة بناء تفاصيل تفاعل محدد وإثبات سبب السماح به، فأنت لا تملك رقابة حقيقية، بل مجرد تفاؤل».

ظلت هذه العبارة عالقة في ذهني. فقد يساعد التفاؤل المؤسسات على اجتياز المراحل الأولى من تبني التكنولوجيا الجديدة، لكنه لن يكون كافيًا عندما يطلب أحدهم تفسير قرار اتخذه النظام.

وتتفق نتائج الأبحاث مع هذا الاستنتاج؛ إذ وجدت دراسة نُشرت عام 2025 أن زيادة شفافية أنظمة الذكاء الاصطناعي تعزز بصورة متسقة ثقة الأشخاص بهذه الأنظمة، واطمئنانهم إليها، وفهمهم للخيارات التي تتخذها.

إذا كنت قائدًا يستعد لإسناد مزيد من القرارات إلى نظام ذكي، فهناك نقاش ينبغي أن تجريه أولًا: من يتحمل المسؤولية عندما يخطئ النظام؟ وما المعلومات التي يتمكن هذا الشخص من الاطلاع عليها فعليًا؟

ولاحظ دانيجان أن هذا النقاش غالبًا ما يتم تجاهله، قائلًا: «تحاول معظم الفرق الإجابة عن هذه الأسئلة بعد ظهور مشكلة، وهذا أسوأ توقيت ممكن للقيام بذلك».

ومحاولة تحديد المسؤوليات بعد وقوع المشكلة تعني أن شخصًا ما يجد نفسه يتحمل مسؤولية لم يوافق عليها مسبقًا، عن قرار لم يشارك في صياغته أو توجيهه.

فيما لا يقتصر الأمر على مسؤولية القيادات وحدها. فإذا كنت الشخص الذي يرتبط اسمه بنتائج لم يشارك بنفسه في تحديدها، فمن المفيد أن تطرح هذه الأسئلة قبل أن تجد نفسك مضطرًا إلى الدفاع عن قرار لم يكن لك دور في اتخاذه.

من السهل تصنيف كل هذه المسائل تحت عنوان «الحوكمة» ثم الانتقال إلى موضوع آخر. لكن آثارها تتجاوز ذلك، وتمس الأشخاص بصورة مباشرة.

بينما تحمّل المسؤولية دون امتلاك قدرة حقيقية على التأثير في النتائج يمثل في حد ذاته عاملًا يؤدي إلى الاحتراق الوظيفي. و

كذلك أظهرت الأبحاث المتعلقة بنموذج متطلبات العمل والتحكم فيه منذ فترة طويلة. أن انخفاض القدرة على التحكم، بالتزامن مع ارتفاع متطلبات العمل، يسبب أضرارًا أكبر من عبء العمل المرتفع وحده.

كما أن معالجة هذا التآكل في قدرة الموظف على التحكم تصبح أكثر صعوبة بعدما يترسخ.

أما المؤسسات التي تتعامل مع هذه المسألة على نحو صحيح، فهي تلك التي حسمت منذ وقت مبكر، وبوضوح، معنى المساءلة عندما يصبح النظام جزءًا من عملية اتخاذ القرار، ثم أنشأت آليات تتيح للموظفين الاطلاع على تفاصيل القرارات وأسبابها.

وفي المقابل، لا تكتشف المؤسسات الأخرى حجم المشكلة إلا بالطريقة الصعبة، وغالبًا بعد وقوع الخطأ بالفعل.

وإذا كنت تبني فريقًا يستخدم الذكاء الاصطناعي لاتخاذ قرارات فعلية، أو تقود فريقًا بدأ يعتمد عليه في هذا المجال، فلا تنتظر وقوع أول خطأ لفتح هذا النقاش.

اطرحه الآن، بينما لا يزال بإمكانك تحديد شكل المساءلة وآلياتها، بدلًا من توزيع المسؤوليات بعد وقوع المشكلة.