دانييل فاغنر، مدير المنتج والهندسة في Q2 – سلسلة المقابلات

Daniel Wagner, مدير المنتج والهندسة في Q2، هو قائد تقني ومنتج ذو خبرة يمتلك خلفية تشمل الذكاء الاصطناعي، التعلم الآلي، منصات البيانات، الخدمات المصرفية الرقمية، وتسليم البرمجيات المؤسسية. قبل الانضمام إلى Q2 من خلال استحواذها على Sensibill، قضى فاغنر أكثر من عقد من الزمن في Sensibill، وتدرج في أدوار قيادية تشمل مدير التسليم، مدير التسليم التنفيذي، مدير الهندسة، ونائب رئيس الهندسة. قاد فرق البيانات والذكاء الاصطناعي التي تطور مشاريع التعلم الآلي، وأشرف على حلول الهواتف المحمولة للمؤسسات المالية الكبرى، ومؤخرًا قاد الهندسة لمنصة بيانات العملاء التي تركز على إثراء البيانات والرؤى. في بداية مسيرته المهنية، شارك فاغنر في تأسيس وإدارة العمليات البرازيلية لشركة Itelios، وهي شركة تطوير تطبيقات تم الاستحواذ عليها لاحقًا من قبل Capgemini، بعد أن بدأ مسيرته كمهندس برمجيات. استحوذت Q2 على Sensibill في عام 2022 لتعزيز قدراتها في البيانات والتعلم الآلي للمؤسسات المالية.

Q2 هي شركة تكنولوجيا مالية تقدم حلولًا مصرفية رقمية وإقراضًا للبنوك، الاتحادات الائتمانية، شركات التكنولوجيا المالية، ومزودي التمويل البديل. تغطي منصتها الخدمات المصرفية للأفراد والشركات الصغيرة والتجارية، إلى جانب الانضمام الرقمي، التمويل المدمج، تسعير العلاقات، إدارة المخاطر والاحتيال، والتخصيص القائم على البيانات. Q2 تدمج الذكاء الاصطناعي بشكل متزايد عبر مجموعة منتجاتها، بما في ذلك الأدوات المصممة لتحسين إنتاجية المصرفيين، اكتشاف الأنشطة الاحتيالية، تخصيص تجارب حاملي الحسابات، ومساعدة المؤسسات المالية على اتخاذ قرارات أسرع مستندة إلى البيانات. تخدم الشركة أكثر من 1,000 مؤسسة مالية عبر محفظتها الواسعة وتضع تقنيتها كطبقة بنية تحتية لمساعدة المؤسسات المالية على تحديث وتوسيع خدماتها الرقمية.

تركز عملك في Q2 على الصمود السيبراني وكيفية استعداد المؤسسات للتعافي من حوادث الأمن. مع بدء المؤسسات المالية في نشر وكلاء الذكاء الاصطناعي الذين يمكنهم اتخاذ إجراءات بدلاً من مجرد تحليل المعلومات، ما هي المخاطر الأمنية الجديدة التي تثير قلقك أكثر؟

الأمن السيبراني وتخفيف الاحتيال يعالجان جوانب مختلفة من المشكلة. الأمن السيبراني مسؤول عن “تأمين المحيط”، بما في ذلك ضمان حماية وصول الحساب، وضمان سلامة البرمجيات الأساسية. عملي يبدأ من تلك النقطة، بمجرد أن يخترق شخص ما هذا المحيط، ويركز على تحديد ما إذا كان هو فعلاً ما يدعي أنه.

مع صعود وكلاء الذكاء الاصطناعي، الشخص الذي يمر عبر ذلك الباب هو وكيل مفوض يعمل بسلطة شخص آخر. الخطر الذي يثير قلقي أكثر هو حقن المطالبات. يحدث ذلك عندما ي manipulates a legitimate user’s agent into taking actions that the user never authorized, and that don’t serve that user’s interests. إنها جبهة جديدة من الاحتيال يمكن أن تخلق تحديات في الكشف.

تقليديًا، بنت البنوك أنظمة الهوية وإدارة الوصول حول الأشخاص، التطبيقات، وحسابات الخدمة. هل يجب الآن اعتبار وكيل الذكاء الاصطناعي هوية مميزة خاصة به، وماذا يعني ذلك عمليًا؟

أوضح تشابه يأتي من الخدمات المصرفية للأعمال، حيث الوصول المفوض هو بالفعل ممارسة ناضجة. تُمنح الشركات عادةً للموظفين وصولًا محدودًا للقيام بمهام محددة، مثل عرض الأرصدة، دون منحهم السلطة الكاملة لمالك الحساب.

يجب على المؤسسات المالية تطبيق نفس الإطار على وكلاء الذكاء الاصطناعي. يجب أن يُعامل الوكيل كما تتعامل الشركة مع مساعد بشري، وهوية مميزة بدور محدد ومحدود. وهذا يعني بناء هوية وإدارة وصول حول أذونات الوكيل الضيقة النطاق منذ البداية، بدلاً من منح الوكلاء نفس وضع مالك الحساب.

عندما يعمل وكيل الذكاء الاصطناعي نيابة عن موظف أو عميل، كيف يجب على البنك تحديد بالضبط ما البيانات التي يمكنه الوصول إليها، أي الحسابات التي يمكنه التفاعل معها، وأي الإجراءات المالية يُسمح له بتنفيذها؟

ابدأ بالوصول للقراءة فقط كإعداد افتراضي. لدى المصارف بالفعل البنية التحتية لدعم هذا المستوى من الدقة، إلى حد كبير لأن الخدمات المصرفية للأعمال تطلب ذلك منذ سنوات. تمتلك المؤسسات المالية القدرة على أن تكون دقيقة جدًا بشأن ما يمكن للوكيل رؤيته والقيام به.

يمكن اعتبار بدء معاملة والموافقة عليها كأذونات منفصلة، ويمكن تحديد كل منهما أكثر حسب المبلغ بالدولار أو نوع المعاملة. تعتمد العديد من المؤسسات بالفعل على دورات موافقة من شخصين لحسابات الأعمال، وتنتقل تلك العملية بطبيعتها إلى الوكلاء. قد يبدأ الوكيل إجراءً، لكن الموافقة النهائية يجب أن تبقى مع صاحب الحساب، مع إبقاء شخص في الحلقة لأي شيء يتجاوز عرض المعلومات.

يصبح الوصول بأقل الصلاحيات أكثر تعقيدًا عندما قد يحتاج الوكيل إلى تنفيذ عشرات الخطوات عبر أنظمة متعددة لإكمال مهمة. كيف يمكن للمؤسسات المالية منح الوكلاء صلاحية كافية لتكون مفيدة دون منحهم أذونات مفرطة؟

لا يلزم تحريك الأموال لكي يكون الوكيل مفيدًا. معظم القيمة التي يقدمها الوكيل تأتي من استرجاع وتنظيم المعلومات، مثل التحقق من الأرصدة، تتبع الإنفاق، أو اكتشاف الاتجاهات. ذلك لا يتطلب أذونات مرتفعة وهو السبب الرئيسي في تسجيل الأشخاص لحساباتهم في المقام الأول. أي شيء يتجاوز ذلك، مثل نقل الأموال أو تغيير تفاصيل الحساب، يجب أن يكون في طبقة سلطة منفصلة، أكثر تحكمًا.

تصمم أنظمة الاحتيال لتحديد السلوك البشري المشبوه، مثل عمليات الدخول غير العادية أو نمط المعاملات. كيف يجب أن يتطور اكتشاف الاحتيال عندما قد تعمل وكلاء الذكاء الاصطناعي الشرعيون بسرعة الآلة وتظهر سلوكًا قد يبدو غير طبيعي للمستخدم البشري؟

بعض الضوابط الحالية تعتمد بشكل كبير على سرعة المعاملة كإشارة. سيتعين إعادة ضبط تلك الإشارات لعالم يمكن فيه للوكلاء الشرعيين التحرك بسرعة أيضًا. ومع ذلك، لا تزال معظم إشاراتنا السلوكية، التي تنظر إلى ما هو طبيعي لمستخدم معين ومستفيد معين، ذات صلة في كشف الاحتيال. تستطيع المؤسسات المالية تقييم السلوك بالإضافة إلى التحقق من الهوية.

في المستقبل، ستحتاج المؤسسات المالية إلى القدرة على رفع أو خفض حساسية الكشف حسب السياق، وإلى وجود الأذونات والتسجيلات التي تميز وكيل المستخدم الشرعي عن الوكيل الذي يديره محتال.

ماذا يحدث إذا اختُرق وكيل ذكاء اصطناعي، وتم تعديل تعليماته، أو خدعه للقيام بإجراء غير مصرح به؟ ما هي الإشارات التي يمكن أن تساعد المؤسسة المالية على التمييز بين إجراء ذاتي شرعي وآخر مخترق؟

في هذا السيناريو، يقوم الوكيل بفعل شيء لم يطلبه المستخدم منه، غالبًا نتيجة لهجوم حقن المطالبات. ومع ذلك، لا يتغير نهج الكشف جوهريًا. ما زلنا ننظر إلى السلوك. الإجراء الذي يخرج عن نمط المستخدم المعروف هو إشارة تستحق الإبلاغ، بغض النظر عما إذا كان إنسانًا أو وكيلًا هو من بدأه.

تحريك الأموال يمثل حالة استخدام عالية المخاطر. أين يجب على البنوك الحفاظ على موافقة بشرية إلزامية، وهل هناك أنواع معاملات أو حدود مالية تعتقد أن الوكلاء المستقلين لا يجب أن يُسمح لهم بالتصرف فيها بشكل مستقل؟

نعم، الحدود ضرورية. كما ذكرنا سابقًا، تقدم الخدمات المصرفية للأعمال سابقة يمكن تكييفها بسهولة للوكلاء الذكاء الاصطناعي. يمكن للموافقات المؤقتة السماح للوكيل ببدء إجراء، لكن يجب على إنسان مراجعة الموافقة قبل إتمامه.

عمليًا، يعني ذلك وضع حدود لكل من قيمة التحويلات الفردية وعدد التحويلات التي يمكن للوكيل بدءها خلال فترة معينة. لا ينبغي أن تقتصر الموافقة البشرية الإلزامية على تحريك الأموال فقط. على سبيل المثال، تغيير تفاصيل الدفع لمستفيد موثوق ومُثبت يمكن أن يكون محفوفًا بالمخاطر مثل نقل الأموال.

قد يتفاعل وكلاء الذكاء الاصطناعي بشكل متزايد مع وكلاء آخرين يديرهم شركات التكنولوجيا المالية، البائعون، العملاء، أو مؤسسات مالية أخرى. كيف يوسع ذلك من مخاطر الطرف الثالث، وكيف يمكن للبنك بناء الثقة عندما قد لا يتحكم في كل وكيل يشارك في سير عمل مالي؟

هناك سيناريوهان يستحقان الذكر هنا. الأول هو أن المستخدم يمنح الوكيل وصولًا إلى حسابه. هذا الوكيل يعمل نيابة عن المستخدم، وتحت سلطة ذلك المستخدم. إذا سمحوا للوكيل بالعمل وفق بروتوكول وكيل إلى وكيل، وتحت توجيه وكلاء آخرين، فإن المستخدم هو من يتحمل ذلك الخطر. كل شيء يحدث تحت تفويضه، ولن تحاول البنوك توسيع مسؤوليتها.

يتغير ملف المخاطر عندما تبني المؤسسة أو تشغل وكيلًا مملوكًا لها. في تلك الحالة، تتحمل المؤسسة مسؤولية مباشرة عن سلوك ذلك الوكيل، وهو أمر مختلف عن احترام وصول مفوض من طرف آخر. سيتعين على المؤسسات المالية إجراء العناية الواجبة على أي وكيل طرف ثالث يسمح له بالدخول في سير عمل، لكن بعض تلك المسؤولية تُنقل في النهاية إلى المستخدم النهائي. يحدد “دائرة سيطرة” العميل مدى امتداد التزام المؤسسة.

إذا ارتكب وكيل ذكاء اصطناعي مخول قرارًا غير صحيح أدى إلى خسارة مالية أو كشف بيانات أو معاملة احتيالية، كيف يجب تقسيم المسؤولية بين الموظف الذي فوض المهمة، والمؤسسة المالية، ومزود التكنولوجيا، ونموذج الوكيل الأساسي؟

قانون Reg E، القاعدة الفدرالية التي تحكم حماية المستهلك للمعاملات الإلكترونية، لا يزال ساريًا هنا. فهو يحدد حدود مسؤولية الاحتيال ومتطلبات التحقيق التي تعمل وفقها البنوك. بسبب Reg E، لا تختفي واجب المؤسسة المالية في التحقيق في معاملة متنازع عليها.

ما يتغير هو سؤال المسؤولية الأساسية. إذا كان المستخدم قد فوض الوكيل عن علم، وارتكب الوكيل قرارًا غير صحيح، فإن التزام المؤسسة بتعويض المستخدم عن الخسارة الناتجة يختلف عما كان سيكون في حالة احتيال طرف ثالث غير مصرح.

في الواقع، يعني تفويض تلك السلطة أن المستخدم يتحمل جزءًا من المخاطر المصاحبة لها. المؤسسة لن تتحمل المسؤولية التي تخص مالك الحساب لمجرد أن الخطأ ارتكبه برنامج وليس شخص.

نظرة إلى المستقبل، ما الأسس الأمنية والحكومية التي يجب أن تضعها البنوك والاتحادات الائتمانية اليوم قبل السماح للوكلاء الذكاء الاصطناعي بتمتع استقلالية أكبر على البيانات الحساسة، حسابات العملاء، والمعاملات المالية؟

أكبر فرصة هي نقل نموذج الحوكمة الموجود بالفعل في الخدمات المصرفية للأعمال إلى الخدمات المصرفية الشخصية. تمتلك حسابات الأعمال سنوات من السجل في الأذونات الدقيقة، الوصول المفوض، وسير عمل الموافقة المصمم لهذا النوع من السيناريوهات.

بدلاً من بناء إطار عمل جديد تمامًا لحوكمة الوكلاء، ينبغي للبنوك والاتحادات الائتمانية النظر إلى ما تم إثبات فعاليته بالفعل في جانب الأعمال وتكييف تلك الضوابط، مستويات الأذونات، وهياكل الموافقة لحسابات الأفراد.

شكرًا على هذه المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا Q2.