Daniel Wagner, Q2:n tuote- ja insinööritoimiston johtaja – Haastattelusarja

Daniel Wagner, Director of Product and Engineering at Q2, on kokenut teknologi- ja tuotejohtaja, jonka taustalla on tekoäly, koneoppiminen, dataplatformat, digitaalinen pankkitoiminta ja yritysohjelmistojen toimitus. Ennen kuin hän liittyi Q2:een Sensibillin yritysoston kautta, Wagner vietti yli kymmenen vuotta Sensibillissä edeten johtotehtäviin, kuten Delivery Manager, Delivery Director, Director of Engineering ja VP of Engineering. Hän johti Data- ja AI-tiimejä, jotka kehittivät koneoppimisprojekteja, valvoi mobiiliratkaisuja suurille rahoituslaitoksille, ja viimeisimpänä johti asiakasdataplatformin insinööritiimiä, joka keskittyi tiedon rikastamiseen ja oivalluksiin. Uransa alussa Wagner perusti ja toimi Iteliosin Brasilian toiminnan toimitusjohtajana, sovelluskehitysyhtiö, jonka Capgemini myöhemmin osti, sen jälkeen kun hän aloitti uransa ohjelmistosuunnittelijana. Q2 osti Sensibillin vuonna 2022 vahvistaakseen datan ja koneoppimisen kyvykkyyksiään rahoituslaitoksille.

Q2 on rahoitusteknologiayritys, joka tarjoaa digitaalisia pankki- ja lainaratkaisuja pankeille, luottolaitoksille, fintech-yrityksille ja vaihtoehtoisille rahoituksen tarjoajille. Sen alusta kattaa kuluttaja‑, pienten yritysten että yrityspankkitoiminnan, sekä digitaalisen asiakashankinnan, upotetun rahoituksen, suhdeperusteisen hinnoittelun, riskin‑ ja petostorjunnan ja data‑pohjaisen personoinnin. Q2 integroi yhä enemmän tekoälyä tuotevalikoimaansa, mukaan lukien työkalut, jotka parantavat pankkiirien tuottavuutta, havaitsevat petollista toimintaa, räätälöivät tilinhaltijan kokemuksia ja auttavat rahoituslaitoksia tekemään nopeampia, data‑pohjaisia päätöksiä. Yritys palvelee yli 1 000 rahoituslaitosta laajemmassa portfoliostaan ja asemoituu teknologianaan infrastruktuurikerrokseksi, joka auttaa rahoituslaitoksia modernisoimaan ja laajentamaan digitaalisia palveluitaan.

Työsi Q2:lla on keskittynyt kyberkestävyyteen ja siihen, miten organisaatiot valmistautuvat ja toipuvat turvallisuusincidenteista. Kun rahoituslaitokset alkavat ottaa käyttöön AI‑agentteja, jotka voivat toimia sen sijaan että ne pelkästään analysoisivat tietoa, mitkä uudet turvallisuusriskit huolestuttavat sinua eniten?

Kyberturvallisuus ja petosten torjunta käsittelevät ongelman eri osia. Kyberturvallisuus vastaa “perimärkin” suojaamisesta, mukaan lukien tilin pääsyn turvaaminen ja taustalla olevan ohjelmiston eheys. Työni jatkaa siitä, kun joku on jo päässyt perimärkin läpi, ja keskittyy määrittämään, onko hän se, kuka väittää olevansa.

AI‑agenttien yleistyessä henkilö, joka kävelee sen läpi, on delegoitu agentti, joka toimii toisen valtuutuksella. Eniten huolestuttava riski on prompt‑injektio. Tämä tapahtuu, kun huijari manipuloi laillisen käyttäjän agenttia suorittamaan toimia, joita käyttäjä ei ole koskaan valtuuttanut eikä jotka palvelevat käyttäjän etua. Se on uusi petosten raja‑alue, jonka havaitseminen voi olla haastavaa.

Pankit ovat perinteisesti rakentaneet identiteetti‑ ja pääsynhallintajärjestelmiä ihmisten, sovellusten ja palvelutilien ympärille. Pitäisikö AI‑agentti nyt käsitellä erillisenä identiteettinä, ja mitä se merkitsisi käytännössä?

Selkein vertauskuva tulee yrityspankkitoiminnasta, jossa delegoitu pääsy on jo kypsä käytäntö. Yritykset myöntävät työntekijöilleen rajoitetun pääsyn tiettyjen tehtävien hoitamiseen, kuten saldojen tarkasteluun, ilman että heille annetaan täyttä tilinomistajan valtuutta.

Rahoituslaitosten tulisi soveltaa samaa mallia AI‑agentteihin. Agenttia tulisi kohdella kuin yritys kohtelee ihmisen avustajaa – erillisenä identiteettinä, jolla on määritelty, rajoitettu rooli. Tämä tarkoittaa identiteetti‑ ja pääsynhallinnan rakentamista kapeasti määriteltyjen agenttioikeuksien ympärille alusta alkaen sen sijaan, että agentit saisivat saman aseman kuin tilinomistaja.

Kun AI‑agentti toimii työntekijän tai asiakkaan puolesta, miten pankin tulisi määrittää tarkalleen, mitä dataa se voi käyttää, mihin tileihin se voi vaikuttaa ja mitä taloudellisia toimia se saa suorittaa?

Aloita oletuksena vain luku‑oikeudella. Pankkitoiminnassa on jo valmiudet tukea tällaista tarkkuutta, koska yrityspankkitoiminta on vaatinut sitä vuosia. Rahoituslaitoksilla on mahdollisuus olla erittäin tarkkoja sen suhteen, mitä agentti voi nähdä ja tehdä.

Transaktion aloittaminen ja sen hyväksyminen voidaan käsitellä erillisinä oikeuksina, ja molempia voidaan edelleen rajoittaa summan tai tapahtumatyypin mukaan. Moni instituutio käyttää jo kahden henkilön hyväksymissyklejä yritystileillä, ja sama työnkulku laajenee luonnollisesti agenteille. Agentti voi aloittaa toiminnon, mutta lopullisen hyväksynnän tulisi tehdä tilinomistaja, pitäen ihmisen mukana kaikessa, mikä ylittää pelkän tiedon katselun.

Vähiten oikeuksia -periaate monimutkaistuu, kun agentin on suoritettava kymmeniä askelia useissa järjestelmissä tehtävän loppuun saattamiseksi. Miten rahoituslaitokset voivat antaa agenteille riittävän valtuuden ollakseen hyödyllisiä ilman, että ne saavat liiallisia oikeuksia?

Rahan siirtämistä ei tarvitse tapahtua, jotta agentti on hyödyllinen.  Suurin osa agentin tarjoamasta arvosta tulee tiedon hakemisesta ja järjestelystä, kuten saldojen tarkastamisesta, kulutuksen seuraamisesta tai trendien havaitsemisesta. Tämä ei vaadi laajennettuja oikeuksia ja on juuri syy, miksi ihmiset kirjautuvat tileilleen alun perin. Kaikki sen ylittävä, kuten rahan siirto tai tilitietojen muuttaminen, kuuluu erilliseen, tiukemmin hallittuun valtuustasoon.

Petostekniikat on suunniteltu tunnistamaan epäilyttävää ihmiskäyttäytymistä, kuten epätavallisia kirjautumisia tai tapahtumamalleja. Miten petosten havaitsemisen on kehitettävä, kun lailliset AI‑agentit voivat toimia koneen nopeudella ja käyttäytyä tavalla, joka näyttäisi epänormaalilta ihmiskäyttäjälle?

Jotkut nykyiset kontrollit luottavat voimakkaasti tapahtumanopeuteen signaalina. Näitä signaaleja on kalibroitava uudelleen maailmassa, jossa lailliset agentitkin voivat liikkua nopeasti. Siitä huolimatta suurin osa käyttäytymisignaaleistamme, jotka tarkastelevat, mikä on normaalia tietylle käyttäjälle ja tietylle maksajalle, on edelleen relevantteja petosten havaitsemisessa. Rahoituslaitokset pystyvät arvioimaan käyttäytymistä identiteettitarkistusten lisäksi.

Tulevaisuudessa rahoituslaitosten on voitava säätää havaitsemisen herkkyyttä kontekstin mukaan sekä varmistaa, että oikeudet ja lokitiedot erottavat laillisen käyttäjän agentin sellaisesta, jota huijari käyttää.

Mitä tapahtuu, jos hyökkääjä murtaa AI‑agentin, manipuloi sen ohjeita tai houkuttaa sen tekemään valtuuttamattoman toiminnon? Mitkä signaalit auttaisivat rahoituslaitosta erottamaan laillisen autonomisen toiminnon kompromisoidusta?

Tässä skenaariossa agentti tekee jotain, mitä käyttäjä ei ole koskaan pyytänyt, usein prompt‑injektion seurauksena. Havaitsemistapa ei kuitenkaan perimmättä muutu. Tarkastelemme edelleen käyttäytymistä. Toiminto, joka poikkeaa käyttäjän vakiomalleista, on merkki, joka kannattaa merkitä, riippumatta siitä, onko sen aloittanut ihminen vai agentti.

Rahan siirto on erityisen riskialtis käyttötapaus. Missä pankkien tulisi ylläpitää pakollista ihmisen hyväksyntää, ja onko olemassa tapahtumatyyppejä tai summarajoja, joissa autonomisten agenttien ei tulisi toimia itsenäisesti?

Kyllä, rajoja on asetettava. Kuten aiemmin mainittiin, yrityspankkitoiminnassa on valmiiksi olemassa oleva esimerkki, jonka voi helposti soveltaa AI‑agentteihin. Tilapäiset hyväksynnät voivat antaa agentille mahdollisuuden aloittaa toiminto, mutta ihminen tarkistaa ja hyväksyy sen ennen lopullista toteutusta.

Käytännössä tämä tarkoittaa sekä yksittäisten siirtojen arvon että agentin tietyn ajanjakson aikana tekemien siirtojen määrän rajaamista. Pakollinen ihmisen hyväksyntä ei rajoitu pelkästään rahan siirtoon. Esimerkiksi maksutietojen muuttaminen luotetulle, jo ennestään tunnetulle maksajalle voi olla yhtä riskialtista kuin varojen siirto.

AI‑agentit voivat yhä enemmän olla vuorovaikutuksessa muiden fintech‑, toimittaja‑, asiakas‑ tai rahoituslaitos‑agenttien kanssa. Miten tämä laajentaa kolmannen osapuolen riskiä, ja miten pankki voi luoda luottamusta, kun se ei hallitse kaikkia työnkulkuun osallistuvia agenteja?

Käsiteltävänä on kaksi skenaariota. Ensimmäisessä käyttäjä antaa agentille pääsyn omaan tiliinsä. Tämä agentti toimii käyttäjän valtuutuksella. Jos käyttäjä sallii agentin toimia Agentti‑Agentti‑protokollassa ja toimia muiden agenttien ohjauksessa, riski on käyttäjän kantama. Kaikki tapahtuu käyttäjän valtuutuksen alla, eikä pankki yritä laajentaa vastuuta.

Riskiprofiili muuttuu, kun instituutio rakentaa tai operoi omaa omistamaansa agenttia, joka on räätälöity juuri sen pankille. Tällöin instituutio kantaa suoran vastuun agentin käyttäytymisestä, mikä eroaa toisen osapuolen delegoidun pääsyn kunnioittamisesta. Rahoituslaitosten on tehtävä due diligence kaikista kolmannen osapuolen agenteista, jotka pääsevät osaksi työnkulkua, mutta osa vastuusta siirtyy lopullisesti loppukäyttäjälle. Asiakkaan “hallintapiiri” määrittää, kuinka pitkälle instituution velvoitteet ulottuvat.

Jos valtuutettu AI‑agentti tekee virheellisen päätöksen, joka johtaa taloudelliseen menetykseen, tietovuotoon tai petolliseen tapahtumaan, miten vastuu jaetaan työntekijän, rahoituslaitoksen, teknologia‑toimittajan ja agentin taustamallin välillä?

Reg E, liittovaltion sääntö, joka säätelee kuluttajansuojaa sähköisissä tapahtumissa, on edelleen sovellettavissa. Se asettaa petosvastuun rajoitukset ja tutkimusvaatimukset, joiden alla pankit toimivat. Reg E:n vuoksi rahoituslaitoksen velvollisuus tutkia kiistanalainen tapahtuma ei katoa.

Muutoksena on vastuukysymys. Jos käyttäjä on tietoisesti delegoinut pääsyn agentille ja agentti tekee virheellisen päätöksen, instituution velvollisuus korvata käyttäjälle aiheutunut vahinko poikkeaa siitä, mitä tapahtuu luvattoman kolmannen osapuolen petoksessa.

Toisin sanoen, valtuuttamalla kyseisen valtuuden käyttäjä hyväksyy osan siihen liittyvästä riskistä. Instituutio ei ota vastuuta, joka kuuluu tilinomistajalle, pelkästään siksi, että virheen teki ohjelmisto eikä ihminen.

Mitä turvallisuus‑ ja hallintoperiaatteita pankkien ja luottolaitosten tulisi tänään toteuttaa ennen kuin ne sallivat AI‑agenttien toimia itsenäisemmin arkaluontoisten tietojen, asiakastilien ja taloudellisten tapahtumien parissa?

Suurin mahdollisuus on tuoda liiketoimintapankkitoiminnassa jo olemassa oleva hallintomalli henkilökohtaisiin pankkipalveluihin. Yritystileillä on vuosien kokemus tarkkojen oikeuksien, delegoidun pääsyn ja hyväksymistyönkulkujen osalta, jotka on suunniteltu juuri tällaisia tilanteita varten.

Sen sijaan, että rakennettaisiin kokonaan uusi agenttien hallintakehys, pankkien ja luottolaitosten tulisi tarkastella, mikä on jo osoittautunut toimivaksi yrityspankkitoiminnassa, ja soveltaa samoja kontrolli‑, oikeustaso‑ ja hyväksymisrakenteita henkilökohtaisiin tileihin.

Kiitos loistavasta haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa vierailla Q2:ssa.