Daniel Wagner, Direktor ng Produkto at Inhenyeriya sa Q2 – Serye ng Panayam

Daniel Wagner, Director of Product and Engineering at Q2, ay isang batikang lider sa teknolohiya at produkto na may karanasan mula sa artificial intelligence, machine learning, data platforms, digital banking, at enterprise software delivery. Bago sumali sa Q2 sa pamamagitan ng pagkuha nito sa Sensibill, nagtrabaho si Wagner nang higit sa isang dekada sa Sensibill, umakyat sa mga posisyon ng pamumuno kabilang ang Delivery Manager, Delivery Director, Director of Engineering, at VP of Engineering. Pinamunuan niya ang mga Data at AI team na nagde-develop ng mga proyektong machine learning, nangasiwa ng mga mobile solution para sa malalaking institusyong pinansyal, at kamakailan lamang pinamunuan ang engineering para sa isang customer data platform na nakatuon sa data enrichment at insights. Sa mas maagang bahagi ng kanyang karera, co‑founder at CEO siya ng Brazilian operations ng Itelios, isang kumpanya sa pag‑develop ng aplikasyon na kalaunan ay nakuha ng Capgemini, matapos magsimula bilang software engineer. Nakuha ng Q2 ang Sensibill noong 2022 upang palakasin ang kakayahan nito sa data at machine learning para sa mga institusyong pinansyal.

Q2 ay isang kompanya ng financial technology na nagbibigay ng mga solusyon sa digital banking at pagpapautang sa mga bangko, credit union, fintech na kumpanya, at mga alternatibong tagapagbigay ng pinansya. Ang platform nito ay sumasaklaw sa consumer, small business, at commercial banking, pati na rin ang digital onboarding, embedded finance, relationship pricing, risk at fraud management, at data‑driven personalization. Patuloy na isinasama ng Q2 ang AI sa buong portfolio ng produkto nito, kabilang ang mga tool na idinisenyo upang mapabuti ang produktibidad ng mga banker, matukoy ang mapanlinlang na gawain, i‑personalize ang karanasan ng mga may‑account, at tulungan ang mga institusyong pinansyal na gumawa ng mas mabilis, data‑informed na desisyon. Nagsisilbi ang kompanya sa mahigit 1,000 na institusyong pinansyal sa buong portfolio nito at inilalagay ang teknolohiya nito bilang isang infrastructure layer para tulungan ang mga institusyong pinansyal na i‑modernisa at palawakin ang kanilang mga digital na serbisyo.

Ang iyong trabaho sa Q2 ay nakatuon sa cyber resilience at kung paano naghahanda at nagbabalik ang mga organisasyon mula sa mga insidente sa seguridad. Habang nagsisimulang mag‑deploy ang mga institusyong pinansyal ng mga AI agent na maaaring magsagawa ng mga aksyon sa halip na simpleng magsuri ng impormasyon, anong mga bagong panganib sa seguridad ang pinaka‑nababalisa ka?

Ang cybersecurity at fraud mitigation ay tumutugon sa magkaibang bahagi ng problema. Ang cybersecurity ay responsable sa “pag‑seguro ng perimeter,” kabilang ang pagtiyak na protektado ang pag‑akses sa account, at matatag ang pinakapundasyong software. Ang aking trabaho ay nag‑uumpisa mula doon, kapag nakalusot na ang isang tao sa perimeter, at nakatuon sa pagtukoy kung sila nga ba ay ang sinasabing sila.

Sa pag‑usbong ng mga AI agent, ang taong pumapasok sa pintuang iyon ay isang delegated agent na kumikilos sa awtoridad ng ibang tao. Ang panganib na pinaka‑nababalisa ako ay ang prompt injection. Ito ay kapag ang isang mapanlinlang na tao ay nag‑manipula sa lehitimong agent ng gumagamit upang magsagawa ng mga aksyon na hindi kailanman pinahintulutan ng gumagamit, at hindi rin nakikinabang sa interes ng gumagamit. Ito ay isang bagong hangganan ng pandaraya na maaaring magdala ng mga hamon sa pagtuklas.

Tradisyonal na binubuo ng mga bangko ang mga sistema ng identity at access‑management sa paligid ng mga tao, aplikasyon, at service account. Dapat na bang tratuhin ngayon ang isang AI agent bilang isang natatanging identity, at ano ang magiging kahulugan nito sa praktika?

Ang pinakamalinaw na analogiya ay nagmumula sa business banking, kung saan ang delegated access ay isang ganap nang mature na disiplina. Karaniwang nagbibigay ang mga negosyo ng limitadong access sa mga empleyado upang magsagawa ng tiyak na gawain, tulad ng pagtingin sa balanse, nang hindi ibinibigay ang buong awtoridad ng may‑ari ng account.

Dapat ilapat ng mga institusyong pinansyal ang parehong balangkas sa mga AI agent. Ang isang agent ay dapat tratuhin tulad ng isang negosyo na tumatrato sa isang human assistant, isang natatanging identity na may tiyak at limitadong papel. Ibig sabihin, kailangang bumuo ng identity at access management batay sa mahigpit na saklaw ng mga permiso ng agent mula pa sa simula, sa halip na bigyan ang mga agent ng parehong katayuan tulad ng may‑ari ng account.

Kapag kumikilos ang isang AI agent sa ngalan ng isang empleyado o customer, paano dapat tukuyin ng bangko kung anong data ang maaari nitong i‑access, kung aling mga account ang maaari nitong kausapin, at kung aling mga financial action ang pinahihintulutan nitong isagawa?

Magsimula sa read‑only access bilang default. Mayroon na ang banking ng imprastruktura upang suportahan ang antas ng granularidad na ito, karamihan dahil ang business banking ay nangangailangan nito sa loob ng maraming taon. May kakayahan ang mga institusyong pinansyal na maging napaka‑tumpak sa kung ano ang maaaring makita at gawin ng isang agent.

Ang pagsisimula ng transaksyon at ang pag‑apruba nito ay maaaring ituring na magkaibang permiso, at pareho ay maaaring i‑scope pa batay sa halaga ng dolyar o uri ng transaksyon. Maraming institusyon na ang umaasa sa two‑person approval cycles para sa mga business account, at natural na naaangkop ang parehong workflow sa mga agent. Maaaring magsimula ng aksyon ang isang agent, ngunit ang huling pag‑apruba ay dapat manatili sa may‑ari ng account, na nag‑iingat ng tao sa proseso para sa anumang bagay lampas sa simpleng pag‑tingin ng impormasyon.

Naging mas kumplikado ang least‑privilege access kapag kailangang magsagawa ng dose‑dosenang hakbang ang isang agent sa maraming sistema upang makumpleto ang isang gawain. Paano maaaring bigyan ng mga institusyong pinansyal ang mga agent ng sapat na awtoridad upang maging kapaki‑pakinabang nang hindi binibigyan sila ng labis na permiso?

Hindi kailangang maglipat ng pera para maging kapaki‑pakinabang ang isang agent. Karamihan sa halaga na ibinibigay ng isang agent ay nagmumula sa pagkuha at pag‑organisa ng impormasyon, tulad ng pag‑suri ng balanse, pagsubaybay sa paggastos, o pagtuklas ng mga trend. Hindi ito nangangailangan ng mataas na permiso at ito ang pangunahing dahilan kung bakit nagla‑login ang mga tao sa kanilang mga account. Anumang bagay na lampas dito, tulad ng paglilipat ng pera o pagbabago ng detalye ng account, ay dapat mapabilang sa hiwalay, mas mahigpit na kontroladong antas ng awtoridad.

Dinisenyo ang mga fraud system upang tukuyin ang kahina‑hingang pag‑ugali ng tao, tulad ng hindi pangkaraniwang pag‑login o mga pattern ng transaksyon. Paano dapat umunlad ang fraud detection kapag ang lehitimong AI agent ay maaaring gumana sa bilis ng makina at magpakita ng pag‑ugali na mukhang abnormal para sa isang human user?

Ang ilang umiiral na kontrol ay labis na umaasa sa bilis ng transaksyon bilang senyas. Kailangan i‑recalibrate ang mga senyas na iyon para sa mundong kung saan ang lehitimong mga agent ay maaari ring kumilos nang mabilis. Gayunpaman, karamihan sa aming mga behavioral signal, na tumitingin sa kung ano ang normal para sa isang partikular na user at payee, ay nananatiling mahalaga sa pag‑dakip ng pandaraya. Kayang suriin ng mga institusyong pinansyal ang pag‑ugali bukod pa sa pag‑suri ng identity.

Sa hinaharap, kailangang magkaroon ng kakayahan ang mga institusyong pinansyal na i‑adjust ang sensitivity ng detection pataas o pababa depende sa konteksto, at magkaroon ng mga permiso at logging na magpapahintulot na makilala ang lehitimong agent ng user mula sa isang agent na pinapatakbo ng mapanlinlang.

Ano ang mangyayari kung makompromiso ang isang AI agent ng isang attacker, manipulahin ang mga utos nito, o lokohin ito upang magsagawa ng hindi awtorisadong aksyon? Anong mga senyas ang makakatulong sa isang institusyong pinansyal na makilala ang lehitimong autonomous action mula sa isang compromised na aksyon?

Sa senaryong ito, may isang agent na gumagawa ng bagay na hindi kailanman hiniling ng gumagamit, kadalasan bilang resulta ng prompt injection attack. Gayunpaman, hindi nagbabago nang fundamental ang paraan ng detection. Patuloy pa rin naming tinitingnan ang pag‑ugali. Ang isang aksyon na lumalabas sa mga nakatatag na pattern ng gumagamit ay senyas na dapat i‑flag, kahit na ito ay inisyal na ginawa ng tao o ng isang agent.

Ang paggalaw ng pera ay isang partikular na mataas na panganib na kaso. Saan dapat panatilihin ng mga bangko ang mandatory na pag‑apruba ng tao, at may mga uri ng transaksyon o threshold ng dolyar ba na sa tingin mo ay hindi dapat payagan ang mga autonomous agent na kumilos nang mag‑isa?

Opo, kinakailangan ang mga limitasyon. Tulad ng nabanggit kanina, nagbibigay ang business banking ng isang precedent na madaling i‑adapt para sa mga AI agent. Maaaring payagan ng temporary approvals ang isang agent na magsimula ng aksyon, ngunit kailangan pa rin ng tao na suriin at aprubahan ito bago ito maging pinal.

Sa praktika, ibig sabihin nito ay magtakda ng mga threshold sa parehong halaga ng indibidwal na paglilipat at bilang ng mga paglilipat na maaaring simulan ng isang agent sa loob ng takdang panahon. Ang mandatory na pag‑apruba ng tao ay hindi dapat limitado lamang sa paggalaw ng pera. Halimbawa, ang pagbabago ng detalye ng bayad para sa isang kilala at pinagkakatiwalaang payee ay maaaring kasing mapanganib ng paglilipat ng pondo.

Ang mga AI agent ay maaaring lalong makipag‑ugnayan sa iba pang mga agent na pinapatakbo ng fintechs, vendor, customer, o ibang institusyong pinansyal. Paano nito pinapalawak ang third‑party risk, at paano makakapagtatag ng tiwala ang isang bangko kung hindi nito kontrolado ang bawat agent na kasali sa isang financial workflow?

May dalawang senaryo na dapat itampok dito. Ang una ay kung ang user ay nagbibigay ng access sa isang agent sa kanilang account. Ang agent na ito ay kumikilos sa ngalan ng user, at sa ilalim ng awtoridad ng user. Kung pinapayagan nila ang agent na gumana sa ilalim ng Agent-to-Agent protocol, at sumusunod sa direksyon ng ibang mga agent, ang user mismo ang sumasalo sa panganib na iyon. Lahat ay nangyayari sa ilalim ng kanilang awtorisasyon, at hindi susubukang palawakin ng mga bangko ang kanilang responsibilidad.

Nagbabago ang risk profile kapag ang isang institusyon ay nagtatayo o nagpapatakbo ng sarili nitong proprietary agent na partikular sa kanilang bangko. Sa puntong iyon, direktang responsibilidad ng institusyon ang pag‑handle sa pag‑ugali ng agent, na iba sa paggalang sa delegated access ng ibang partido. Kailangan ng mga institusyong pinansyal na magsagawa ng due diligence sa anumang third‑party agent na papasukin nila sa workflow, ngunit ang ilang responsibilidad ay sa huli ibabalik sa end user. Ang “circle of control” ng customer ang nagtatakda kung hanggang saan umabot ang obligasyon ng institusyon.

Kung ang isang awtorisadong AI agent ay gumawa ng maling desisyon na nagdulot ng pagkawala sa pinansyal, paglabas ng data, o pandaraya sa transaksyon, paano dapat hatiin ang pananagutan sa pagitan ng empleyadong nag‑delegate ng gawain, ng institusyong pinansyal, ng technology provider, at ng underlying model ng agent?

Ang Reg E, ang pederal na patakaran na nagtatakda ng proteksyon ng consumer para sa electronic transactions, ay patuloy na naaangkop dito. Itinatakda nito ang mga limitasyon sa fraud liability at mga kinakailangan sa imbestigasyon na sinusunod ng mga bangko. Dahil sa Reg E, ang tungkulin ng institusyong pinansyal na imbestigahan ang isang pinagtatalunang transaksyon ay hindi nawawala.

Ang nagbabago ay ang tanong tungkol sa underlying liability. Kung ang isang user ay sadyang nag‑delegate ng access sa isang agent at ang agent na iyon ay gumawa ng maling desisyon, ang obligasyon ng institusyon na bayaran ang user para sa nagresultang pagkawala ay magkaiba kumpara sa kaso ng hindi awtorisadong third‑party fraud.

Epektibo, ang pag‑delegate ng awtoridad ay nangangahulugan na tinatanggap ng user ang ilang bahagi ng panganib na kaakibat nito. Ang institusyon ay hindi kokopyahin ang liability na pag-aari ng may‑ari ng account dahil lamang na ang pagkakamali ay nagawa ng software sa halip na tao.

Tumingin sa hinaharap, anong mga pundasyon sa seguridad at pamamahala ang dapat ilagay ng mga bangko at credit union ngayon bago payagan ang mga AI agent na magkaroon ng mas malaking awtonomiya sa sensitibong data, mga account ng customer, at mga financial transaction?

Ang pinakamalaking oportunidad ay dalhin ang governance model na umiiral na sa business banking papunta sa personal banking. Ang mga business account ay may taon ng precedent sa granular permissions, delegated access, at mga approval workflow na itinayo para sa ganitong uri ng senaryo.

Kaysa magtayo ng ganap na bagong balangkas para sa pamamahala ng mga agent, dapat tingnan ng mga bangko at credit union ang mga napatunayang epektibo na sa business side at i‑adapt ang parehong mga kontrol, permission tier, at approval structure para sa personal accounts.

Salamat sa mahusay na panayam, ang mga mambabasa na nais pang matuto ay dapat bumisita sa Q2.