لماذا قد يصبح الذكاء الاصطناعي القابل للتفسير ميزةً تجارية

مسؤولية الذكاء الاصطناعي الوكيلي: لماذا قد يكون التفسير مجديًا

يخلق مساعد الذكاء الاصطناعي الذي يقترح مورّدًا غير مناسب مشكلةً يمكن لأحدهم تداركها. أما وكيل الذكاء الاصطناعي الذي يختار المورّد ويوقّع طلب الشراء ويبدأ إجراءات الدفع، فقد يحوّل ذلك الخطأ إلى خسارة مالية قبل أن يتدخل أحد.

يغيّر هذا التحول من الإجابة عن الأسئلة إلى اتخاذ الإجراءات المعادلة الاقتصادية للذكاء الاصطناعي. تحتاج الشركات إلى معرفة ما يمكن للوكلاء إنجازه، وكذلك إلى معرفة كيفية التحقيق في قراراتهم عندما يحدث خطأ ما.

تبحث دراسة جديدة بعنوان «المسؤولية عن السلوكيات المنحرفة للذكاء الاصطناعي الوكيلي»، نُشرت في Telecommunications Policy، في كيفية تشجيع المسؤولية القانونية للمطورين على جعل الأنظمة المستقلة أكثر قابلية للتفسير.¹ وتطرح الدراسة فكرة محورية ذات أهمية تجارية: إذ يمكن للتفسيرات الأفضل، في ظل إطار مسؤولية مصمَّم على نحو ملائم، أن تحدّ من تعرض المطورين للتعويضات.

تتجاوز الفرصة الأوسع نطاق التقاضي. فالأدلة المتعلقة بكيفية عمل الوكيل قد تساعد الشركات على الموافقة على نشر الأنظمة، والتحقيق في الإخفاقات، والتفاوض مع المورّدين بشأن المسؤولية.

لماذا تخلق وكلاء الذكاء الاصطناعي مشكلة مختلفة في المسؤولية

يشير الذكاء الاصطناعي الوكيلي إلى أنظمة تسعى إلى تحقيق أهداف عبر سلسلة من الإجراءات، وغالبًا ما تستخدم أدوات برمجية مع إشراف بشري محدود. فقد يبحث الوكيل عن منتج لشرائه، ويقارن العروض، ويحدّث السجلات الداخلية، ويقدّم طلب شراء.

يركّز الباحثون على السلوك الضار غير المتوقع، الذي يصفونه بأنه «عيوب متأصلة في الذكاء الاصطناعي». وضمن إطارهم، تظل هذه الإخفاقات ممكنة رغم التطوير الدؤوب وإجراء الاختبارات المتاحة.

ومن الأمثلة على ذلك التحايل على المواصفات: إذ يحقق النظام هدفًا قابلًا للقياس، بينما يقوّض الغاية الفعلية. تخيّل وكيلًا للمشتريات يُكافأ على خفض أسعار الفواتير، فيختار مورّدين غير موثوقين ويزيد من فترات توقف الإنتاج. يوضح هذا المثال الافتراضي كيف يمكن للنجاح في تحقيق هدف ضيق أن يتحول إلى إخفاق تجاري.

ويتساءل المؤلفون عن كيفية تطبيق المسؤولية عندما يتعذر على المطورين إزالة كل هذه المخاطر، ولا تستطيع المحاكم بسهولة التمييز بين إخفاق لا يمكن تفاديه وبين عدم اتخاذ الاحتياطات الكافية.

كيف يمكن لقابلية التفسير أن تغيّر المسؤولية عن الذكاء الاصطناعي

تستخدم الورقة نظرية الألعاب، وهي منهج رياضي لدراسة القرارات عندما تتفاعل حوافز أطراف مختلفة. وتبحث في كيفية تأثير قواعد المسؤولية في استعداد المطورين للاستثمار في قابلية التفسير.

تكافئ الآلية المقترحة المطورين الذين يستوفون معايير قابلية التفسير ويثبتون على نحو مُرضٍ أن حادثًا ضارًا نتج عن قصور متأصل. أما المطورون الذين يقدمون تفسيرات قاصرة، فيواجهون تعرضًا أكبر للمسؤولية.

لا يعني هذا أن شراء برامج المراقبة سيمنح حماية قانونية تلقائيًا. فالإطار يتطلب معايير موثوقة وأدلة مفيدة وقبولًا ضمن النظام القانوني المعني.

ومن المهم أيضًا التمييز بين النتيجة الرياضية والتوصية المتعلقة بالسياسات. فعدم تحميل المطورين أي تعويضات يرد بوصفه معيارًا نظريًا. أما في مناقشتها للسياسات، فتوصي الورقة بمقياس متدرج يخفض التعويضات من دون إلغائها، بما يحفظ للضحايا قدرًا من التعويض.

من تفسيرات الذكاء الاصطناعي إلى أدلة قابلة للتحقق

ومن التفسيرات التجارية المفيدة لهذا البحث أن الشركات تحتاج إلى أدلة يمكنها فحصها، لا إلى مجرد أوصاف مقنعة لسلوك الوكيل.

وفي حالة وكيل المشتريات الافتراضي، سيحتاج المحققون إلى سجلات تبيّن المورّدين الذين درس الوكيل التعامل معهم، والمعلومات التي تلقاها، والصلاحيات التي مُنحت له، وما إذا كانت الموافقات المطلوبة قد صدرت. وقد لا تكشف هذه السجلات كل عملية حسابية داخلية، لكنها قد تسهّل إعادة بناء ما حدث.

وهذا التمييز هو ما يفصل قابلية التفسير عن قابلية الرصد. فقابلية التفسير تتعلق بفهم السلوك، أما قابلية الرصد فتتعلق بجمع المعلومات عن كيفية عمل النظام. ويمكن لكل منهما أن يدعم الأخرى، لكن أيًا منهما لا يثبت تلقائيًا أن النتيجة كانت حتمية.

يتوقع تحليل Gartner الصادر في مارس 2026 بشأن الاستثمار في الذكاء الاصطناعي القابل للتفسير وقابلية الرصد أن تصل الاستثمارات في قابلية الرصد إلى 50% من عمليات نشر الذكاء الاصطناعي التوليدي بحلول عام 2028، ارتفاعًا من 15% وقت صدور التوقعات. وهذا مجرد توقع، لكنه يوضح تنامي الاهتمام التجاري بفهم الأنظمة بعد نشرها.

وتترتب على ذلك ثلاثة أسئلة عملية للمشترين:

• هل يستطيع المورد إعادة بناء الإجراءات المهمة التي اتخذها الوكيل؟
• هل تستطيع الشركة تقييد الصلاحيات واشتراط الموافقة على القرارات الحساسة؟
• هل يستطيع المحققون تصدير سجلات موثوقة عند وقوع حادث؟

يتناول تقرير حديث نشره Securities.io موضوع هوية وكلاء الذكاء الاصطناعي وضوابط الوصول، وهو جانب مرتبط بهذا التحدي. فمعرفة الوكيل الذي اتخذ إجراءً وما كان مخولًا بفعله توفر نقطة انطلاق للمساءلة.

لماذا قد تتيح الحوكمة الأفضل مزيدًا من الأتمتة

تتجاوز الفرصة الحد من الأضرار المحتملة. فلنتأمل شركة تقرر ما إذا كان مسموحًا لوكيل أن يوصي بالمشتريات فحسب أم أن ينفذها بشكل مستقل.

إذا لم يتمكن المديرون من التحقيق في القرارات أو تحديد المسؤولية عنها، فقد يُبقون على مراجعة يدوية مكثفة. وهذا يحد من مكاسب الإنتاجية. أما السجلات الأفضل، والصلاحيات الواضحة، والتصعيد الموثوق، فقد تجعل توسيع نطاق النشر مقبولًا.

ويشير ذلك إلى مصدر ثانٍ للقيمة: فقد تساعد أدوات الحوكمة على تحويل الوكلاء القادرين تقنيًا إلى أنظمة مستعدة الشركات لاستخدامها. وهذا استنتاج اقتصادي، وليس نتيجة قاستها الورقة البحثية.

يوضح استطلاع بتكليف من IBM حول حوكمة الذكاء الاصطناعي في المؤسسات، أُجري في أكتوبر 2026، الفجوة في التطبيق. فمن بين 3,221 مسؤولًا تنفيذيًا رفيع المستوى شملهم الاستطلاع في ثماني دول في أوروبا والشرق الأوسط، أفاد 35% بأنهم يشغّلون الذكاء الاصطناعي الوكيلي في بيئات الإنتاج، في حين قال 37% فقط إن أنظمة الحوكمة لديهم مصممة للتوسع بما يواكب عمليات نشر الذكاء الاصطناعي الوكيلي.

هذه نتائج مُبلّغ عنها ذاتيًا من بحث كُلّف به مورّد لأدوات الحوكمة، وليست قياسًا مستقلًا للسلامة التقنية. ومع ذلك، فهي تكشف مشكلة عملية تواجه المشترين: نشر الوكلاء والإشراف عليهم قدرتان منفصلتان.

قد تصبح الشفافية ميزة في المنافسة على العقود

عندما يتقارب أداء وكيلين، قد يفضل المشترون المورد الذي يسهّل التحقيق في الحوادث. وهذا يفتح مجالًا للمنافسة على جودة الأدلة والتكامل والمساءلة، إلى جانب دقة النماذج.

يسلط تناول Securities.io لموضوع الذكاء الاصطناعي القابل للتفسير في التنبؤ بالسوق الضوء على تمييز ذي صلة: فهم سلوك النموذج له قيمة تشخيصية حتى إن لم يثبت تحقيق أداء مربح.

وبالنسبة إلى الوكلاء المستخدمين في المؤسسات، قد يترجم ذلك إلى عقود تحدد حق الوصول إلى السجلات، والتعاون في التحقيق في الحوادث، ومسؤوليات الموافقة. ولن تحسم هذه البنود جميع مسائل المسؤولية، لكنها قد تقلل عدم اليقين قبل النشر.

الموازنة بين المساءلة والمنافسة

تقر الورقة البحثية بأن متطلبات قابلية التفسير قد تفرض تكاليف غير متناسبة على المطورين الأصغر حجمًا. وقد تجد الشركات الأكبر سهولة أكبر في تمويل المقارنات المعيارية وعمليات التدقيق والفرق المتخصصة.

ومن النتائج المحتملة زيادة الاعتماد على منصات الحوكمة الراسخة. وثمة احتمال آخر هو تنامي الطلب على معايير مشتركة وأدوات ميسورة التكلفة تتيح للموردين الأصغر إثبات تطبيقهم ضمانات مكافئة.

وتكتسب جودة هذه المعايير أهمية. إذ يفترض النموذج إمكانية التحقق على نحو مثالي من المقارنات المعيارية لقابلية التفسير، بينما قد تختلف عمليات التدقيق الفعلية، ويظل الامتثال الشكلي ممكنًا. ويفترض أيضًا أن قابلية التفسير تقلل احتمال الضرر، وهي علاقة يقول مؤلفو الورقة إنها تحتاج إلى مزيد من الاختبار.

لذلك، لا ينبغي الخلط بين تحسين التوثيق وإثبات أن السلوك أصبح أكثر أمانًا. وينبغي أن يقيّم التحليل المفيد ما إذا كانت التفسيرات تساعد على تحديد الأسباب، وتصحيح الإخفاقات، ومنع تكرارها.

دور IBM في حوكمة الذكاء الاصطناعي بالمؤسسات

وتوفر احتياجات التنفيذ هذه صلة طبيعية بـ IBM للمستثمرين المهتمين بالشركات التي تبني بنية تحتية للذكاء الاصطناعي في المؤسسات.

يوسّع تحديث IBM الصادر في أكتوبر 2026 لمنصة watsonx.governance إمكانات اكتشاف الوكلاء، ويربط مقاييس التقييم التشغيلي بضوابط الحوكمة. وتتيح عمليات التكامل مع Langfuse وArize إدراج معلومات المراقبة في سجلات الحوكمة، بينما يربط التكامل مع watsonx Orchestrate الضوابط المحددة بأدلة تطبيقها أثناء التشغيل.

تعالج هذه الإمكانات جوانب من مشكلة الأدلة العملية. لكنها لا تثبت أن IBM تستوفي المعايير القانونية المقترحة في الورقة البحثية، ولا أن العملاء يحصلون على حماية من المسؤولية.

تكمن الميزة التجارية المحتملة في مساعدة المؤسسات على إدارة الوكلاء عبر أنظمتها القائمة. وإذا أصبحت الحوكمة شرطًا لتوسيع نطاق الأتمتة، فقد يدعم الطلب اشتراكات البرمجيات وأعمال التنفيذ.

بالنسبة إلى المستثمرين، يتمثل السؤال التالي في ما إذا كان هذا الطلب سيحقق إيرادات مستدامة وهوامش ربح جذابة. وتشمل المؤشرات ذات الصلة إقبال العملاء، والتوسع إلى ما يتجاوز المشروعات التجريبية، ووجود أدلة على أن قدرات الحوكمة تؤثر في قرارات الشراء. وتتيح IBM للمستثمرين الاستفادة من هذا التوجه ضمن أعمالها الأوسع نطاقًا، لذا فإن النجاح في حوكمة الذكاء الاصطناعي وحده لن يحدد أداءها الاستثماري.

أحدث أخبار وتطورات IBM (IBM)

قابلية التفسير أساسًا للذكاء الاصطناعي التجاري

تطرح الورقة إطارًا لمكافأة المطورين الذين يسهّلون فهم الإخفاقات غير المتوقعة. وتتمثل إسهاماتها العملية في طرح سؤال عن الحوافز: كيف يمكن للمساءلة أن تشجع الاستثمار في أنظمة أفضل؟

بالنسبة إلى الشركات، تكمن الفرصة في تسهيل تقييم الاستقلالية ونشرها. أما مورّدو التكنولوجيا، فتتمثل فرصتهم في تقديم أدلة تظل مفيدة عند الطعن في القرارات. وسيجمع العرض التجاري الأقوى بين وكلاء ذوي قدرات عالية وضوابط وسجلات يمكن للعملاء الوثوق بها فعلًا.

المراجع:

¹ Papyshev, G., Chan, K. J. D., & Migliorini, S. (2026). المسؤولية عن السلوكيات المنحرفة للذكاء الاصطناعي الوكيلي. Telecommunications Policy، 50، المقالة 103339. https://doi.org/10.1016/j.telpol.2026.103339