डैनियल वैगनर, क्यू2 में उत्पाद और इंजीनियरिंग निदेशक – साक्षात्कार श्रृंखला

Daniel Wagner, क्यू2 में उत्पाद और इंजीनियरिंग निदेशक, एक अनुभवी प्रौद्योगिकी और उत्पाद नेता हैं जिनका पृष्ठभूमि कृत्रिम बुद्धिमत्ता, मशीन लर्निंग, डेटा प्लेटफ़ॉर्म, डिजिटल बैंकिंग और एंटरप्राइज़ सॉफ़्टवेयर डिलीवरी तक फैला हुआ है। क्यू2 द्वारा Sensibill का अधिग्रहण करके शामिल होने से पहले, वैगनर ने Sensibill में एक दशक से अधिक समय बिताया, जहाँ उन्होंने डिलीवरी मैनेजर, डिलीवरी डायरेक्टर, निदेशक ऑफ इंजीनियरिंग और वीपी ऑफ इंजीनियरिंग सहित नेतृत्व भूमिकाएँ संभालीं। उन्होंने डेटा और एआई टीमों का नेतृत्व किया जो मशीन लर्निंग प्रोजेक्ट विकसित करती थीं, प्रमुख वित्तीय संस्थानों के लिए मोबाइल समाधान की देखरेख की, और हाल ही में डेटा समृद्धि और अंतर्दृष्टियों पर केंद्रित ग्राहक डेटा प्लेटफ़ॉर्म के इंजीनियरिंग का नेतृत्व किया। अपने करियर की शुरुआत में, वैगनर ने Itelios की ब्राज़ीलियाई संचालन की सह-स्थापना की और सीईओ के रूप में कार्य किया, जो बाद में Capgemini द्वारा अधिग्रहित एक एप्लिकेशन विकास कंपनी थी, और उन्होंने सॉफ़्टवेयर इंजीनियर के रूप में अपना करियर शुरू किया। क्यू2 ने 2022 में Sensibill का अधिग्रहण करके वित्तीय संस्थानों के लिए अपनी डेटा और मशीन लर्निंग क्षमताओं को मजबूत किया।

Q2 एक वित्तीय प्रौद्योगिकी कंपनी है जो बैंकों, क्रेडिट यूनियनों, फिनटेक कंपनियों और वैकल्पिक वित्त प्रदाताओं को डिजिटल बैंकिंग और ऋण समाधान प्रदान करती है। इसका प्लेटफ़ॉर्म उपभोक्ता, छोटे व्यवसाय और वाणिज्यिक बैंकिंग को कवर करता है, साथ ही डिजिटल ऑनबोर्डिंग, एम्बेडेड फाइनेंस, रिलेशनशिप प्राइसिंग, जोखिम और धोखाधड़ी प्रबंधन, और डेटा‑चालित निजीकरण भी शामिल है। Q2 अपने उत्पाद पोर्टफ़ोलियो में एआई को बढ़ते हुए एकीकृत कर रहा है, जिसमें ऐसे टूल शामिल हैं जो बैंकर की उत्पादकता को सुधारते हैं, धोखाधड़ी गतिविधियों का पता लगाते हैं, खाता‑धारक अनुभवों को निजीकरण करते हैं, और वित्तीय संस्थानों को तेज़, डेटा‑आधारित निर्णय लेने में मदद करते हैं। कंपनी अपने व्यापक पोर्टफ़ोलियो में 1,000 से अधिक वित्तीय संस्थानों की सेवा करती है और अपनी तकनीक को एक इन्फ्रास्ट्रक्चर लेयर के रूप में प्रस्तुत करती है जो वित्तीय संस्थानों को उनके डिजिटल सेवाओं को आधुनिक बनाने और विस्तारित करने में मदद करती है।

Q2 में आपका काम साइबर लचीलापन और संगठनों के सुरक्षा घटनाओं के लिए तैयार होने और उनसे उबरने पर केंद्रित रहा है। जैसे ही वित्तीय संस्थान AI एजेंट्स को तैनात करना शुरू करते हैं जो केवल जानकारी का विश्लेषण नहीं बल्कि कार्रवाई भी कर सकते हैं, कौन से नए सुरक्षा जोखिम आपको सबसे अधिक चिंतित करते हैं?

साइबर सुरक्षा और धोखाधड़ी शमन समस्या के विभिन्न पहलुओं को संबोधित करते हैं। साइबर सुरक्षा “परिधि को सुरक्षित करने” के लिए जिम्मेदार है, जिसमें यह सुनिश्चित करना शामिल है कि खाता पहुँच सुरक्षित है, और अंतर्निहित सॉफ़्टवेयर ठोस है। मेरा काम वहीं से शुरू होता है, जब कोई पहले से ही उस परिधि को पार कर चुका होता है, और यह निर्धारित करने पर केंद्रित है कि क्या वह वही है जो वह दावा करता है।

AI एजेंट्स के उदय के साथ, वह व्यक्ति जो उस दरवाज़े से गुजरता है, वह किसी और की अधिकारिता पर कार्य करने वाला एक प्रतिनिधि एजेंट होता है। वह जोखिम जिसके बारे में मैं सबसे अधिक चिंतित हूँ वह प्रॉम्प्ट इंजेक्शन है। यह तब होता है जब एक धोखेबाज़ वैध उपयोगकर्ता के एजेंट को ऐसी कार्रवाई करने के लिए प्रेरित करता है जो उपयोगकर्ता ने कभी अधिकृत नहीं की, और जो उपयोगकर्ता के हितों की सेवा नहीं करती। यह धोखाधड़ी का एक नया मोर्चा है जिसे पहचानना चुनौतीपूर्ण हो सकता है।

बैंक पारंपरिक रूप से पहचान और एक्सेस‑मैनेजमेंट सिस्टम लोगों, एप्लिकेशन और सर्विस अकाउंट्स के आसपास बनाते रहे हैं। क्या अब एक AI एजेंट को एक अलग पहचान के रूप में माना जाना चाहिए, और इसका व्यावहारिक अर्थ क्या होगा?

सबसे स्पष्ट तुलना व्यापार बैंकिंग से आती है, जहाँ प्रतिनिधि एक्सेस पहले से ही एक परिपक्व अनुशासन है। व्यवसाय नियमित रूप से कर्मचारियों को सीमित पहुँच प्रदान करते हैं ताकि वे विशिष्ट कार्यों को संभाल सकें, जैसे बैलेंस देखना, बिना खाता मालिक की पूरी अधिकारिता दिए।

वित्तीय संस्थानों को AI एजेंट्स पर वही ढांचा लागू करना चाहिए। एक एजेंट को उसी तरह माना जाना चाहिए जैसे एक व्यवसाय एक मानव सहायक को मानता है, यानी एक अलग पहचान जिसके पास परिभाषित, सीमित भूमिका हो। इसका मतलब है कि एजेंट अनुमतियों को प्रारंभ से ही संकीर्ण रूप से परिभाषित पहचान और एक्सेस मैनेजमेंट के तहत बनाना, न कि एजेंट को खाता मालिक के समान स्तर देना।

जब एक AI एजेंट किसी कर्मचारी या ग्राहक की ओर से कार्य करता है, तो बैंक को ठीक‑ठीक कैसे निर्धारित करना चाहिए कि वह कौन‑सा डेटा एक्सेस कर सकता है, कौन‑से खाते के साथ इंटरैक्ट कर सकता है, और कौन‑से वित्तीय कार्य करने की अनुमति है?

डिफ़ॉल्ट रूप से केवल पढ़ने‑के‑लिए पहुँच से शुरू करें। बैंकिंग में पहले से ही इस स्तर की सूक्ष्मता को समर्थन देने के लिए बुनियादी ढांचा मौजूद है, मुख्यतः क्योंकि व्यापार बैंकिंग ने वर्षों से इसकी आवश्यकता रखी है। वित्तीय संस्थानों के पास यह क्षमता है कि वे बहुत सटीक रूप से निर्धारित कर सकें कि एक एजेंट क्या देख सकता है और क्या कर सकता है।

लेन‑देन को शुरू करना और उसे अनुमोदित करना अलग‑अलग अनुमतियों के रूप में माना जा सकता है, और दोनों को डॉलर राशि या लेन‑देन प्रकार के आधार पर और अधिक सीमित किया जा सकता है। कई संस्थाएँ पहले से ही व्यापार खातों के लिए दो‑व्यक्ति अनुमोदन चक्र पर निर्भर करती हैं, और वही कार्य‑प्रवाह स्वाभाविक रूप से एजेंट्स पर लागू होता है। एक एजेंट कार्रवाई शुरू कर सकता है, लेकिन अंतिम अनुमोदन खाता‑धारक के पास रहना चाहिए, जिससे जानकारी देखने से आगे किसी भी चीज़ के लिए व्यक्ति लूप में बना रहे।

न्यूनतम‑विशेषाधिकार पहुँच अधिक जटिल हो जाता है जब एक एजेंट को कार्य पूरा करने के लिए कई सिस्टम में दर्जनों कदम उठाने पड़ते हैं। वित्तीय संस्थान कैसे एजेंट्स को पर्याप्त अधिकार दे सकते हैं ताकि वे उपयोगी हों, बिना उन्हें अत्यधिक अनुमतियाँ दिए?

एजेंट को उपयोगी होने के लिए पैसे का स्थानांतरण करने की आवश्यकता नहीं होती। अधिकांश मूल्य जो एक एजेंट प्रदान करता है वह जानकारी प्राप्त करने और व्यवस्थित करने से आता है, जैसे बैलेंस जाँचना, खर्च ट्रैक करना, या रुझानों को पहचानना। इसके लिए उन्नत अनुमतियों की आवश्यकता नहीं होती और यही कारण है कि लोग अपने खातों में लॉग‑इन करते हैं। इसके अलावा, पैसा स्थानांतरित करना या खाता विवरण बदलना जैसे कार्य एक अलग, अधिक सख्त नियंत्रण स्तर में आते हैं।

धोखाधड़ी प्रणाली संदेहास्पद मानव व्यवहार, जैसे असामान्य लॉगिन या लेन‑देन पैटर्न, की पहचान करने के लिए डिज़ाइन की गई हैं। जब वैध AI एजेंट मशीन गति से कार्य कर सकते हैं और ऐसा व्यवहार दिखाते हैं जो मानव उपयोगकर्ता के लिए असामान्य दिखेगा, तो धोखाधड़ी पहचान को कैसे विकसित होना चाहिए?

कुछ मौजूदा नियंत्रण वास्तव में लेन‑देन गति को एक संकेत के रूप में बहुत अधिक उपयोग करते हैं। इन संकेतों को उस दुनिया के लिए पुनः कैलिब्रेट करने की आवश्यकता होगी जहाँ वैध एजेंट भी तेज़ी से कार्य कर सकते हैं। फिर भी, हमारे अधिकांश व्यवहारिक संकेत, जो किसी दिए गए उपयोगकर्ता और प्राप्तकर्ता के लिए सामान्य क्या है, अभी भी धोखाधड़ी पकड़ने में प्रासंगिक हैं। वित्तीय संस्थान पहचान के साथ-साथ व्यवहार का भी मूल्यांकन कर सकते हैं।

भविष्य में, वित्तीय संस्थानों को संदर्भ के अनुसार पहचान संवेदनशीलता को बढ़ाने या घटाने की शक्ति की आवश्यकता होगी, और वैध उपयोगकर्ता के एजेंट को धोखेबाज़ द्वारा संचालित एजेंट से अलग करने के लिए आवश्यक अनुमतियों और लॉगिंग को लागू करना होगा।

यदि एक हमलावर AI एजेंट को समझौता करता है, उसकी निर्देशों को बदलता है, या उसे अनधिकृत कार्रवाई करने के लिए धोखा देता है, तो कौन‑से संकेत वित्तीय संस्थान को वैध स्वायत्त कार्रवाई और समझौता किए गए कार्य के बीच अंतर करने में मदद कर सकते हैं?

इस परिदृश्य में, एजेंट कुछ ऐसा कर रहा है जो उपयोगकर्ता ने कभी नहीं माँगा, अक्सर प्रॉम्प्ट इंजेक्शन हमले के परिणामस्वरूप। हालांकि, पहचान दृष्टिकोण मूल रूप से नहीं बदलता। हम अभी भी व्यवहार को देख रहे हैं। एक कार्रवाई जो उपयोगकर्ता के स्थापित पैटर्न से बाहर है, वह एक संकेत है जिसे फ़्लैग किया जाना चाहिए, चाहे वह मानव हो या एजेंट।

पैसे का स्थानांतरण विशेष रूप से उच्च‑जोखिम उपयोग मामला है। बैंक को अनिवार्य मानव अनुमोदन कहाँ बनाए रखना चाहिए, और क्या ऐसे लेन‑देन प्रकार या डॉलर थ्रेशोल्ड हैं जहाँ आप मानते हैं कि स्वायत्त एजेंट को स्वतंत्र रूप से कार्य करने की अनुमति नहीं होनी चाहिए?

हाँ, सीमाएँ आवश्यक हैं। जैसा कि पहले उल्लेख किया गया, व्यापार बैंकिंग एक उदाहरण प्रदान करता है जिसे AI एजेंट्स के लिए आसानी से अनुकूलित किया जा सकता है। अस्थायी अनुमोदन एजेंट को कार्रवाई शुरू करने की अनुमति दे सकते हैं, लेकिन अंतिम रूप देने से पहले एक मानव को समीक्षा और अनुमोदन करना आवश्यक है।

व्यावहारिक रूप से, इसका अर्थ है व्यक्तिगत ट्रांसफ़र के मूल्य और एक निश्चित अवधि में एजेंट द्वारा शुरू किए जा सकने वाले ट्रांसफ़र की संख्या दोनों पर थ्रेशोल्ड सेट करना। अनिवार्य मानव अनुमोदन केवल पैसे के स्थानांतरण तक सीमित नहीं होना चाहिए। उदाहरण के लिए, एक स्थापित, विश्वसनीय प्राप्तकर्ता के लिए भुगतान विवरण बदलना भी फंड स्थानांतरित करने जितना ही जोखिमपूर्ण हो सकता है।

AI एजेंट्स अन्य एजेंट्स के साथ अधिकाधिक इंटरैक्ट कर सकते हैं जो फिनटेक, विक्रेता, ग्राहक या अन्य वित्तीय संस्थानों द्वारा संचालित होते हैं। यह तीसरे‑पक्ष जोखिम को कैसे बढ़ाता है, और जब बैंक हर एजेंट को नियंत्रित नहीं कर सकता जो एक वित्तीय कार्य‑प्रवाह में भाग लेता है, तो वह विश्वास कैसे स्थापित कर सकता है?

यहाँ दो परिदृश्य उल्लेखनीय हैं। पहला वह है जहाँ उपयोगकर्ता एक एजेंट को अपने खाते तक पहुँच प्रदान करता है। यह एजेंट उपयोगकर्ता की ओर से कार्य करता है, और उपयोगकर्ता की अधिकारिता के तहत होता है। यदि वे इस एजेंट को एजेंट‑टू‑एजेंट प्रोटोकॉल के तहत काम करने की अनुमति देते हैं, और अन्य एजेंट्स के निर्देशों के तहत काम करता है, तो जोखिम उपयोगकर्ता पर ही पड़ता है। सब कुछ उनके प्राधिकरण के तहत हो रहा है, और बैंक अपनी जिम्मेदारी को विस्तारित करने का प्रयास नहीं करेगा।

जोखिम प्रोफ़ाइल तब बदलती है जब कोई संस्थान अपना स्वयं का स्वामित्व वाला एजेंट बनाता या संचालित करता है। उस बिंदु पर, संस्थान उस एजेंट के व्यवहार के लिए प्रत्यक्ष जिम्मेदारी लेता है, जो किसी अन्य पक्ष की प्रतिनिधि पहुँच को सम्मानित करने से अलग है। वित्तीय संस्थानों को किसी भी तृतीय‑पक्ष एजेंट पर उचित परिश्रम करना होगा जिसे वे कार्य‑प्रवाह में अनुमति देते हैं, लेकिन अंततः कुछ जिम्मेदारी अंत उपयोगकर्ता पर ही वापस धकेल दी जाती है। ग्राहक का “नियंत्रण का दायरा” निर्धारित करता है कि संस्थान की प्रतिबद्धता कितनी दूर तक जाती है।

यदि एक अधिकृत AI एजेंट एक गलत निर्णय लेता है जिससे वित्तीय नुकसान, डेटा एक्सपोज़र, या धोखाधड़ी लेन‑देन होता है, तो जिम्मेदारी कैसे विभाजित की जानी चाहिए—कर्मचारी जो कार्य सौंपता है, वित्तीय संस्था, प्रौद्योगिकी प्रदाता, और एजेंट के अंतर्निहित मॉडल के बीच?

Reg E, वह संघीय नियम जो इलेक्ट्रॉनिक लेन‑देन के लिए उपभोक्ता संरक्षण को नियंत्रित करता है, अभी भी यहाँ लागू होता है। यह धोखाधड़ी देयता सीमाएँ और जांच आवश्यकताएँ निर्धारित करता है जिनके तहत बैंक कार्य करते हैं। Reg E के कारण, एक वित्तीय संस्थान की विवादित लेन‑देन की जांच करने की ड्यूटी समाप्त नहीं होती।

परिवर्तन यह है कि मूल देयता प्रश्न बदलता है। यदि उपयोगकर्ता ने जानबूझकर एक एजेंट को पहुँच प्रदान की और वह एजेंट गलत निर्णय लेता है, तो संस्थान की उपयोगकर्ता को हुए नुकसान की प्रतिपूर्ति करने की प्रतिबद्धता अनधिकृत तृतीय‑पक्ष धोखाधड़ी की तुलना में अलग दिखेगी।

वास्तव में, उस अधिकार को सौंपना मतलब उपयोगकर्ता कुछ जोखिम स्वीकार कर रहा है। संस्थान खाता‑धारक के स्वामित्व वाले जोखिम को नहीं लेगा केवल इसलिए कि गलती सॉफ़्टवेयर द्वारा की गई, न कि व्यक्ति द्वारा।

आगे देखते हुए, बैंक और क्रेडिट यूनियनों को आज कौन‑से सुरक्षा और गवर्नेंस बुनियादी ढाँचे स्थापित करने चाहिए, इससे पहले कि वे AI एजेंट्स को संवेदनशील डेटा, ग्राहक खातों और वित्तीय लेन‑देन पर अधिक स्वायत्तता दें?

सबसे बड़ा अवसर यह है कि व्यापार बैंकिंग में मौजूद गवर्नेंस मॉडल को व्यक्तिगत बैंकिंग में लाया जाए। व्यापार खाते में ग्रैन्यूलर अनुमतियों, प्रतिनिधि पहुँच, और अनुमोदन कार्य‑प्रवाहों का कई वर्षों का उदाहरण है, जो ठीक इस प्रकार के परिदृश्य के लिए बनाया गया है।

पूरी तरह नया एजेंट गवर्नेंस फ्रेमवर्क बनाने के बजाय, बैंक और क्रेडिट यूनियनों को पहले से सिद्ध व्यापार‑साइड के नियंत्रण, अनुमति स्तर, और अनुमोदन संरचनाओं को व्यक्तिगत खातों के लिए अनुकूलित करना चाहिए।

उत्कृष्ट साक्षात्कार के लिए धन्यवाद, जो पाठक अधिक जानना चाहते हैं उन्हें Q2 पर जाना चाहिए।