Fintech أخبار
مخاطر نماذج الذكاء الاصطناعي المالية: التحقق من الصحة، والانحراف، والرقابة
دليل تأسيسي لمخاطر نماذج الذكاء الاصطناعي المالية، يشمل سلسلة التشغيل، والاقتصاديات، والسجلات المعتمدة، وأنماط الإخفاق، والأدلة التي ينبغي للمستثمرين أو المشغّلين التحقق منها.
أضف Securities.io إلى مصادرك المفضلة على Google
تأمل هذا الموقف: يستخدم أحد البنوك نموذجًا للذكاء الاصطناعي لترتيب تنبيهات الأنشطة المشبوهة حسب الأولوية. وما يحدث بعد ذلك يعتمد على أكثر من مجرد التكنولوجيا؛ فالجهة المخوّلة، والسيولة، وأولوية السجلات، والطرف الذي يتحمل تبعات أي استثناء، كلها عوامل تحدد ما إذا كانت النتيجة ستصمد أمام التدقيق.
تنطوي مخاطر نماذج الذكاء الاصطناعي المالية على احتمال وقوع عواقب سلبية بسبب مخرجات النماذج غير الصحيحة أو المسيئة الاستخدام أو سيئة الفهم. وقد يكون النموذج سليمًا من الناحية الإحصائية، ومع ذلك يفشل لأن الاستخدام المقصود غير واضح، أو لأن بيانات الإدخال تنحرف، أو لأن التنفيذ يختلف عن التصميم، أو لأن المستخدمين يفرطون في الاعتماد عليه، أو لأن الحوكمة لا تستطيع اكتشاف التدهور والحد منه.
لا يقتصر التحقق من الصحة على اختبار معياري واحد قبل الإطلاق؛ بل يشمل سلامة المفهوم، ومراجعة البيانات والتنفيذ، وتحليل النتائج، والرصد المستمر، والتحدي الفعّال بما يتناسب مع الأهمية النسبية. ولا يعفي الاستعانة بمورّد للذكاء الاصطناعي المؤسسة المالية من مسؤوليتها عن فهم الاستخدام والحدود والأداء.
لإدراج مخاطر نماذج الذكاء الاصطناعي المالية ضمن التغطية الأوسع التي يقدمها Securities.io، قارن بين الذكاء الاصطناعي في إدارة الثروات، والذكاء الاصطناعي في الإقراض وقرارات الائتمان، والأسواق التنبؤية في التمويل. وتوضح هذه الأدلة مجتمعة كيف يتغير السؤال نفسه المتعلق بالذكاء الاصطناعي في التمويل بتغير الجهة المُصدرة أو الأصل أو حقوق المستثمر أو البنية التحتية التشغيلية.
من تحديد الاستخدام المقصود إلى الرصد والمعالجة: سلسلة مخاطر نماذج الذكاء الاصطناعي المالية
تحدد مرحلة تحديد الاستخدام المقصود القرار والفئة السكانية والعواقب والمستخدم والقيود والإخفاق المقبول. ثم يصبح الناتج مدخلًا لمرحلة التطوير والتوثيق، التي يُثبت فيها مصدر البيانات ومسارها، والتصميم، والافتراضات، والتدريب، والاختبار، والقيود. وتمثل عملية التسليم هذه أول موضع لاختبار مخاطر نماذج الذكاء الاصطناعي المالية: إذ يجب أن يتمكن الطرف المتلقي من التمييز بين تغيير مكتمل في الحالة وبين رسالة أو تقدير أو سجل مؤقت. وينطبق الاختبار نفسه عند كل انتقال لاحق، إلى أن تنتج مرحلة الرصد والمعالجة نتيجة يمكن مطابقتها بصورة مستقلة.
اقرأ المخطط عكسيًا، بدءًا من الرصد والمعالجة. ينبغي أن تقود الحالة النهائية إلى سجل الجرد، والغرض، ومسار البيانات والرموز البرمجية، والتحقق من الصحة، والموافقات، وسلوك المستخدم، والمقاييس الفعلية، وسجلات الانحرافات والحوادث، والمعالجة؛ ثم إلى الصلاحيات المستخدمة عند النشر ضمن حدود، والتعرض للمخاطر الذي كشفه التحقق المستقل، والمدخلات المقبولة عند تحديد الاستخدام المقصود. وإذا انقطعت هذه السلسلة، فقد يبدو الإفراط في مواءمة النموذج مع الاختبارات المعيارية كأنه معاملة مكتملة، حتى عندما لا يعمم الأداء القوي في الاختبارات على الحالات الفعلية. ويبقي هذا التتبع العكسي التحليل منصبًا على القرار المقصود للنموذج، وقاعدة الأدلة، والاستخدام الخاضع للضوابط، والنتيجة المتحققة، بدلًا من اسم المورّد أو حالة الواجهة.
من يتحكم في السجلات الأساسية لمخاطر نماذج الذكاء الاصطناعي المالية؟
| الجهة المشاركة أو المتغير | ما الذي يتغير | الأدلة المطلوب التحقق منها |
|---|---|---|
| مالك النموذج | يحدد الاستخدام ويظل مسؤولًا عن الأداء. | الغرض، والأهمية النسبية، والضوابط، والرصد، والقبول. |
| المطوّر أو المورّد | يبني النموذج ويقدم الأدلة الفنية. | البيانات، والرموز البرمجية، والإصدار، والاختبارات، والحدود، وسجل التغييرات، والدعم. |
| جهة التحقق المستقلة | تفحص النموذج وتنفيذه بصورة نقدية. | النطاق، والأساليب، والنتائج، ودرجة الخطورة، وأدلة الإغلاق. |
| مستخدم الأعمال | يفسر المخرجات ويتخذ القرارات أو يراجعها. | التدريب، والإجراءات، والتجاوزات، ومبرراتها، والتعليقات. |
| مجلس الإدارة وحوكمة المخاطر | يحدد مستوى التحمل ويحسم الاستثناءات الجوهرية. | الجرد، والتصنيف حسب المستوى، والموافقات، والمخاطر الإجمالية، وإعداد التقارير. |
يقع مالك النموذج والمطوّر أو المورّد على جانبين مختلفين من سلسلة التشغيل. يحدّد مالك النموذج الاستخدام ويظل مسؤولًا عن الأداء، بينما يبني المطوّر أو المورّد النموذج ويقدّم الأدلة التقنية. وينبغي أن تتفق سجلاتهما — الغرض، والأهمية النسبية، والضوابط، والمراقبة، والقبول من جهة؛ والبيانات، والشفرة البرمجية، والإصدار، والاختبارات، والحدود، وسجل التغييرات، والدعم من جهة أخرى — على الواقعة نفسها، من دون أن تكون نسخًا من قاعدة بيانات واحدة لدى المورّد. وتضيف جهة التحقق المستقلة، ومستخدم الأعمال، ومجلس الإدارة وحوكمة المخاطر قرارات أو أدلة متميزة؛ والتعامل مع هذه الوظائف كما لو كانت قابلة للتبادل يحجب المواضع التي تدخل فيها السلطة التقديرية أو السيولة أو المسؤولية القانونية.
يمثّل انقطاع الخدمة لدى مستخدم الأعمال اختبارًا عمليًا للمساءلة في ما يتعلق بمخاطر نماذج الذكاء الاصطناعي في القطاع المالي. فهو يفسّر المخرجات ويتخذ القرارات أو يراجعها. والسؤال هو ما إذا كان مالك النموذج والمطوّر أو المورّد لا يزالان قادرين على إعادة بناء الموقف بالاستناد إلى التدريب والإجراءات والتجاوزات والأسباب والملاحظات. قد توزّع العقود المهام، لكن الطرف المسؤول عن الوفاء بوعود المؤسسة للعميل أو عن الأصل أو الالتزام لا يمكنه أن يستعيض عن الأدلة ببند للاستعانة بمصادر خارجية. ويحدّد التصميم المرن السجل البديل والشخص المخوّل بحسم أي اختلاف.
ثلاث حالات كثيرًا ما يقع الخلط بينها في مخاطر نماذج الذكاء الاصطناعي في القطاع المالي
يعني انحراف البيانات تغيّر توزيع المدخلات أو معناها مقارنةً بمرحلة التطوير؛ أما انحراف المفهوم فيعني تغيّر العلاقة بين المدخلات والنتيجة المالية. ويضيف انحراف الاستخدام حالة ثالثة: تطبيق النموذج على منتج أو فئة سكانية أو قرار أو مستوى من الاستقلالية جديد. وتكتسب هذه الفروق أهميتها لأن مستخدمَين قد يريان تأكيدًا متشابهًا، مع اختلاف الحقوق التي يتمتعان بها أو المواعيد التي يواجهانها أو المؤسسات التي يعتمدان عليها. وفي سياق مخاطر نماذج الذكاء الاصطناعي في القطاع المالي، ينبغي أن تحدّد المقارنة المفيدة السجل المعتمد والطرف الذي يتحمل الخسارة في كل حالة.
قارن انحراف البيانات وانحراف المفهوم وانحراف الاستخدام وفق مقياس موحّد: المبلغ، والوقت، والسيولة المستهلكة، وإمكانية التراجع، والمطالبة القانونية، والخسارة المتبقية. وفي سياق مخاطر نماذج الذكاء الاصطناعي في القطاع المالي، لا يعني التصنيف الأسرع تلقائيًا أن الحالة أكثر نهائية، كما أن العائد المعلن بسلاسة أكبر لا يعني تلقائيًا انخفاض المخاطر الاقتصادية. ويحول استخدام إطار قياس موحّد دون الخلط بين اختلافات التوقيت أو المحاسبة والتحسن الحقيقي.
كيف تتغير حالة مخاطر نماذج الذكاء الاصطناعي في القطاع المالي عمليًا
1. تحديد الاستخدام المقصود: تحديد الحالة الابتدائية لمخاطر نماذج الذكاء الاصطناعي في القطاع المالي
حدّد القرار والفئة السكانية والعواقب والمستخدم والقيود والإخفاق المقبول. وفي هذه المرحلة من إدارة مخاطر نماذج الذكاء الاصطناعي في القطاع المالي، تحدد الخطوة الظروف التي يمكن أن يستند إليها تطوير النموذج وتوثيقه. ويؤدي مالك النموذج دورًا محوريًا لأنه يحدد الاستخدام ويظل مسؤولًا عن الأداء. وينبغي أن يحفظ سجل العمل الغرض والأهمية النسبية والضوابط والمراقبة والقبول.
يتمثل الإخفاق في التحدي هنا في الإفراط في مواءمة المعايير المرجعية: فالأداء القوي في الاختبارات لا يعمم على الحالات الفعلية. ولاختبار هذه المرحلة، سجّل النتيجة باستخدام الوقت والنطاق والشروط الحاكمة نفسها، ثم غيّر افتراضًا واحدًا قبل مرحلة التطوير والتوثيق. وفي سياق مخاطر نماذج الذكاء الاصطناعي في القطاع المالي، تحدد عملية التسليم التي يمكن الدفاع عنها من وافق على النموذج، والسجل الذي تغيّر، وما لا يزال قابلًا للتراجع، ومن يتحمل الخسارة إذا رفض المشارك التالي الأدلة.
2. التطوير والتوثيق: تحديد قاعدة القرار في سياق مخاطر نماذج الذكاء الاصطناعي في القطاع المالي
حدّد مصدر البيانات وتصميم النموذج وافتراضاته وتدريبه واختباره وحدوده. وفي هذه المرحلة من إدارة مخاطر نماذج الذكاء الاصطناعي في القطاع المالي، تفحص الخطوة الظروف التي يمكن أن يستند إليها التحقق المستقل. ويؤدي المطوّر أو المورّد دورًا محوريًا لأنه يبني النموذج ويقدّم الأدلة التقنية. وينبغي أن يحفظ سجل العمل البيانات والشفرة البرمجية والإصدار والاختبارات والحدود وسجل التغييرات والدعم.
يتمثل الإخفاق في التحدي هنا في غموض المورّد: إذ لا تستطيع المؤسسة إعادة إنتاج نموذج حاسم أو تحديه أو مراقبته. ولاختبار هذه المرحلة، أعد حساب النتيجة باستخدام الوقت والنطاق والشروط الحاكمة نفسها، ثم غيّر افتراضًا واحدًا قبل التحقق المستقل. وفي سياق مخاطر نماذج الذكاء الاصطناعي في القطاع المالي، تحدد عملية التسليم التي يمكن الدفاع عنها من وافق على النموذج، والسجل الذي تغيّر، وما لا يزال قابلًا للتراجع، ومن يتحمل الخسارة إذا رفض المشارك التالي الأدلة.
3. إجراء تحقق مستقل: قياس انتقال المخاطر في سياق مخاطر نماذج الذكاء الاصطناعي في القطاع المالي
تحدَّ المفهوم والتنفيذ والأداء والمتانة والإنصاف والضوابط. وفي هذه المرحلة من إدارة مخاطر نماذج الذكاء الاصطناعي في القطاع المالي، تعيد الخطوة توزيع الظروف التي يمكن أن يستند إليها النشر ضمن حدود. وتؤدي جهة التحقق المستقلة دورًا محوريًا لأنها تتحدى النموذج وطريقة تنفيذه. وينبغي أن يحفظ سجل العمل النطاق والأساليب والنتائج ومستوى الخطورة وأدلة إغلاق الملاحظات.
الإخفاق في التحدي هنا هو انحياز الأتمتة: يقبل المستخدمون المخرجات رغم تعارضها مع الأدلة. ولاختبار هذه المرحلة، اختبر النتيجة تحت الظروف نفسها من حيث التوقيت والنطاق والشروط الحاكمة، ثم غيّر افتراضًا واحدًا قبل النشر ضمن ضوابط. وفي سياق مخاطر نماذج الذكاء الاصطناعي المالي، تحدد عملية التسليم التي يمكن الدفاع عنها هوية من وافق عليها، والسجل الذي تغيّر، وما لا يزال قابلًا للتراجع عنه، والجهة التي تتحمل الخسارة إذا رفض المشارك التالي الأدلة.
4. النشر ضمن ضوابط: مواءمة السجل المعتمد لمخاطر نماذج الذكاء الاصطناعي المالي
طبّق الموافقات والمراجعة البشرية والبدائل الاحتياطية والتجاوزات وضوابط الوصول والتحكم في الإصدارات. وفي هذا الجزء من مخاطر نماذج الذكاء الاصطناعي المالي، توائم هذه الخطوة الشروط التي قد تستند إليها المراقبة والمعالجة. ويؤدي مستخدم الأعمال دورًا محوريًا لأنه يفسر المخرجات ويتخذ القرارات أو يراجعها. وينبغي أن يحفظ السجل العملي بيانات التدريب والإجراءات والتجاوزات وأسبابها والملاحظات الواردة.
الإخفاق في التحدي هنا هو حلقة التغذية الراجعة: تغيّر قرارات النموذج البيانات المستقبلية وتعزز النمط الذي تتبعه. ولاختبار هذه المرحلة، قارن النتيجة في ظل الظروف نفسها من حيث التوقيت والنطاق والشروط الحاكمة، ثم غيّر افتراضًا واحدًا قبل المراقبة والمعالجة. وفي سياق مخاطر نماذج الذكاء الاصطناعي المالي، تحدد عملية التسليم التي يمكن الدفاع عنها هوية من وافق عليها، والسجل الذي تغيّر، وما لا يزال قابلًا للتراجع عنه، والجهة التي تتحمل الخسارة إذا رفض المشارك التالي الأدلة.
5. المراقبة والمعالجة: اختبار النتيجة النهائية لمخاطر نماذج الذكاء الاصطناعي المالي
ارصد الانحراف والحوادث والتجاوزات والأضرار، وحدد العتبات التي تستدعي تقييد النموذج أو إيقافه. وفي هذا الجزء من مخاطر نماذج الذكاء الاصطناعي المالي، تستكمل هذه الخطوة الشروط التي قد تستند إليها النتيجة المسجلة. ويؤدي مجلس الإدارة والحوكمة المعنية بالمخاطر دورًا محوريًا في تحديد مستوى تقبل المخاطر والبت في الاستثناءات الجوهرية. وينبغي أن يحفظ السجل العملي قائمة النماذج وتصنيفها إلى مستويات والموافقات والمخاطر الإجمالية والتقارير.
الإخفاق في التحدي هنا هو التحديث غير المنضبط: تتغير الأوزان أو الموجّهات أو الأدوات أو البيانات من دون تحقق وموافقة. ولاختبار هذه المرحلة، أثبت صحة النتيجة في ظل الظروف نفسها من حيث التوقيت والنطاق والشروط الحاكمة، ثم غيّر افتراضًا واحدًا قبل تسجيل النتيجة. وفي سياق مخاطر نماذج الذكاء الاصطناعي المالي، تحدد عملية التسليم التي يمكن الدفاع عنها هوية من وافق عليها، والسجل الذي تغيّر، وما لا يزال قابلًا للتراجع عنه، والجهة التي تتحمل الخسارة إذا رفض المشارك التالي الأدلة.
تكاليف مخاطر نماذج الذكاء الاصطناعي المالي وحوافزها وآثارها في الميزانية العمومية
لا يُبرَّر تعقيد النموذج إلا إذا تجاوزت القيمة الإضافية للقرارات تكاليف التطوير والتحقق والبيانات والحوسبة والمراقبة وقابلية التفسير والإخفاق. وقد يكون النموذج الأبسط أفضل اقتصاديًا، حتى لو كانت دقته على مجموعة الاختبار أقل قليلًا.
تحدّ الضوابط، مثل الحدود والمراجعة البشرية وهوامش التحوط المتحفظة، من الخسائر، لكنها قد تقلل أيضًا من فوائد الأتمتة. وينبغي موازنة تكلفتها مع عدم اليقين في النموذج والعواقب المحتملة، ثم تعديلها مع تراكم الأدلة المستمدة من التشغيل الفعلي.
تكتسب المخاطر الإجمالية أهمية لأن نماذج كثيرة قد تعتمد على المورّد نفسه أو البيانات ذاتها أو الافتراض الاقتصادي نفسه. وقد تجتاز عمليات التحقق الفردية، فيما تظل المؤسسة مكشوفة لتركيز المخاطر في نمط إخفاق واحد.
مواضع إخفاق مخاطر نماذج الذكاء الاصطناعي المالي وما ينبغي اختباره أولًا
- الإفراط في التكيّف مع مجموعة الاختبار: لا يعمم الأداء القوي في الاختبارات على الحالات الفعلية. أوقف مرحلة تحديد الاستخدام المقصود، مع بقاء الالتزام المعتاد على عاتق مالك النموذج، ثم تحقق مما إذا كان انحراف البيانات لا يزال يحمل المعنى الموضح أعلاه.
- غموض المورّد: لا تستطيع المؤسسة إعادة إنتاج نموذج جوهري أو تحديه أو مراقبته. أوقف مرحلة التطوير والتوثيق، مع بقاء الالتزام المعتاد على عاتق المطوّر أو المورّد، ثم تحقق مما إذا كان انحراف المفهوم لا يزال يحمل المعنى الموضح أعلاه.
- انحياز الأتمتة: يقبل المستخدمون المخرجات رغم تعارضها مع الأدلة. أوقف مرحلة التحقق المستقل، مع بقاء الالتزام المعتاد على عاتق المُتحقِّق المستقل، ثم تحقق مما إذا كان انحراف الاستخدام لا يزال يحمل المعنى الموضح أعلاه.
- حلقة التغذية الراجعة: تغيّر قرارات النموذج البيانات المستقبلية وتعزز النمط الذي تتبعه. أوقف مرحلة النشر ضمن ضوابط، مع بقاء الالتزام المعتاد على عاتق مستخدم الأعمال، ثم تحقق مما إذا كان انحراف البيانات لا يزال يحمل المعنى الموضح أعلاه.
- التحديث غير المنضبط: تتغير الأوزان أو الموجّهات أو الأدوات أو البيانات من دون تحقق وموافقة. أوقف مرحلة المراقبة والمعالجة، مع بقاء الالتزام المعتاد على عاتق مجلس الإدارة والحوكمة المعنية بالمخاطر، ثم تحقق مما إذا كان انحراف المفهوم لا يزال يحمل المعنى الموضح أعلاه.
يجمع اختبار ضغط مفيد لمخاطر نماذج الذكاء الاصطناعي في القطاع المالي بين الإفراط في مواءمة النموذج مع معايير القياس وانحياز الأتمتة، بدلاً من اختبار كل منهما على حدة. جمّد مرحلة التحقق المستقل أو أجّلها، واجعل مستخدم الأعمال غير متاح، وألزم مجلس الإدارة والجهات المعنية بحوكمة المخاطر بمطابقة النتيجة مع سجل الجرد، وتصنيف مستويات المخاطر، والموافقات، والمخاطر الإجمالية، والتقارير. ولا يجتاز التصميم الاختبار إلا إذا أفضت مرحلة المراقبة والمعالجة إلى حالة واحدة قابلة للتفسير، وحافظت على الحقوق المرتبطة بانحراف المفهوم، وأسندت أي قصور وفق قواعد وُضعت قبل الاضطراب.
مثال عملي: تتبّع واقعة واحدة من مخاطر نماذج الذكاء الاصطناعي في القطاع المالي من بدايتها إلى نهايتها
يستخدم أحد البنوك نموذجاً للذكاء الاصطناعي لترتيب تنبيهات الأنشطة المشبوهة حسب الأولوية. ويكشف التحقق أن ترتيب النموذج جيد في المتوسط، لكن أداءه ضعيف في قناة دفع جديدة. فيقصر البنك استخدام النموذج على المنتجات التي جرى التحقق منها، ويُبقي على قواعد حتمية للحالات العالية المخاطر، ويفحص عيّنات من التنبيهات ذات التصنيف الأدنى، ويراقب معدلات اكتشاف الحالات والسلبيات الكاذبة، ويشترط الموافقة قبل تغيير النموذج أو الموجّه. وهذا الإجراء مناسب لأن النموذج يساعد في الفرز الأولي من دون أن يستبعد بصمت حالات لا تغطيها الأدلة المتاحة.
يمكن دحض المثال بتغيير الافتراض الخاضع للضبط في مرحلة التطوير والتوثيق، أو بإزالة الأدلة التي قدمها المدقق المستقل. تتبّع التغيير عبر مراحل التحقق المستقل، والنشر ضمن حدود محددة، والمراقبة والمعالجة؛ ولا تنتقل مباشرة من المدخلات إلى النتيجة الرئيسية. وإذا تعذّر إعادة إنتاج النتيجة الجديدة لمخاطر نماذج الذكاء الاصطناعي في القطاع المالي استناداً إلى سجل الجرد، والغرض، وتسلسل مصدر البيانات والرموز البرمجية، والتحقق، والموافقات، وسلوك المستخدم، والمقاييس الفعلية، وسجلات الانحراف والحوادث، والمعالجة، فهذا يعني أن العملية تعتمد على حكم أو سجل غير موثق.
لماذا تكتسب مخاطر نماذج الذكاء الاصطناعي في القطاع المالي أهمية الآن؟
في أبريل 2026، أصدرت الجهات المصرفية الأمريكية إرشادات منقحة بشأن مخاطر النماذج، تشدد على نهج قائم على المخاطر ومصمم وفق خصائص النموذج وحجمه وتعقيده. وتعمل NIST أيضاً على مراجعة إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF). ويتمثل التوجه في حوكمة متناسبة ومستمرة: توجيه التدقيق الأشد إلى النماذج التي قد يؤدي إخفاقها إلى تحويل الأموال، أو حرمان أشخاص من الوصول، أو عرض المخاطر على نحو غير دقيق، أو التأثير في عدد كبير من العملاء.
الدرس المستدام بشأن مخاطر نماذج الذكاء الاصطناعي في القطاع المالي هو أن تحديد الاستخدام المقصود والمراقبة والمعالجة ليسا حدثاً واحداً. فالقرارات المتخذة بينهما هي التي تحدد القرار المقصود من النموذج، وأساس الأدلة، والاستخدام الخاضع للضوابط، والنتيجة الفعلية؛ في حين قد لا يطّلع مالك النموذج والجهات المعنية بحوكمة المخاطر ومجلس الإدارة إلا على أجزاء مختلفة من السجل. وتكون الأتمتة مفيدة عندما تقلل كلفة التحقق من تلك القرارات، لكنها تصبح خطرة عندما تختزلها في حالة واحدة تحجب التحديث غير الخاضع للضوابط.
الأدلة التي تستند إليها مخاطر نماذج الذكاء الاصطناعي في القطاع المالي
تستند الأدلة الأساسية بشأن مخاطر نماذج الذكاء الاصطناعي في القطاع المالي إلى إرشادات الاحتياطي الفيدرالي المنقحة بشأن مخاطر النماذج، وإطار NIST لإدارة مخاطر الذكاء الاصطناعي، ومركز موارد الذكاء الاصطناعي التابع لـ NIST. وينبغي قراءتها بوصفها طبقات متكاملة: قواعد وتعريفات، وبنية مؤسسية أو سوقية، وأدلة تشغيلية لازمة لاختبار ادعاء واقعي. ولا ينبغي اعتبار أي منها بديلاً عن مستندات المنتجات أو الحسابات أو سجلات المعاملات المذكورة أعلاه.
أسئلة ينبغي طرحها قبل الاعتماد على نماذج الذكاء الاصطناعي في القطاع المالي
- هل يستطيع مالك النموذج إثبات الغرض، والأهمية النسبية، والضوابط، والمراقبة، والقبول قبل مرحلة التطوير والتوثيق؟
- أي سجل يُعتد به إذا اختلف المطوّر أو المورّد مع مستخدم الأعمال؟
- من يمول أو يتحمل المخاطر الناشئة في مرحلة التحقق المستقل؟
- ما الذي يميز انحراف المفهوم عن انحراف البيانات من الناحيتين القانونية والاقتصادية؟
- كيف سيكتشف النظام غموض المورّد قبل مرحلة المراقبة والمعالجة؟
- ماذا يحدث إذا تعذّر الاستعانة بمدقق مستقل أو أصبحت أدلته قديمة؟
- هل يستطيع مراجع مستقل مطابقة النتيجة مع سجل الجرد، والغرض، وتسلسل مصدر البيانات والرموز البرمجية، والتحقق، والموافقات، وسلوك المستخدم، والمقاييس الفعلية، وسجلات الانحراف والحوادث، والمعالجة؟
فيما يتعلق بمخاطر نماذج الذكاء الاصطناعي في القطاع المالي، استبدل عبارات مثل «تتولى المنصة الأمر» بحسابات محددة، وعقود، وطوابع زمنية، وقواعد للموافقة، وجهات مسؤولة. وينبغي أن تتيح الإجابة الكاملة للمراجع الرجوع من مرحلة المراقبة والمعالجة إلى مرحلة تحديد الاستخدام المقصود، وتعيين مالك كل سجل، وحساب الجهة التي تتحمل الخسارة قبل وقوع أي استثناء.
المبدأ الأساسي وراء مخاطر نماذج الذكاء الاصطناعي في القطاع المالي
يتضح تقييم مخاطر نماذج الذكاء الاصطناعي في القطاع المالي أكثر عندما يتتبع التحليل القرار المقصود من النموذج، وأساس الأدلة، والاستخدام الخاضع للضوابط، والنتيجة الفعلية عبر مراحل التشغيل الخمس، ويتحقق من النتيجة بالرجوع إلى سجل الجرد، والغرض، وتسلسل مصدر البيانات والرموز البرمجية، والتحقق، والموافقات، وسلوك المستخدم، والمقاييس الفعلية، وسجلات الانحراف والحوادث، والمعالجة. يوضح مسار العمل ما يتغير؛ ويحدد جدول المشاركين من يملك صلاحية إقرار ذلك التغيير؛ ويمنع تحليل الحالات الثلاث الخلط بين ادعاءات غير متكافئة؛ وتبين خريطة الإخفاقات المواضع التي ينبغي أن تنخفض فيها الثقة. وهذا المزيج هو ما يميز التحسن الحقيقي من الاحتكاك أو المخاطر التي نُقلت إلى طبقة أقل وضوحاً.
المصادر الأساسية بشأن مخاطر نماذج الذكاء الاصطناعي في القطاع المالي
