Miksi selitettävä tekoäly voi muodostua liiketoimintaeduksi

Agenttisen tekoälyn vastuu: miksi selitettävyys voi kannattaa

Väärää toimittajaa ehdottava tekoälyavustaja aiheuttaa ongelman, jonka joku voi havaita. Toimittajan valitseva, tilauksen allekirjoittava ja maksun käynnistävä tekoälyagentti voi muuttaa virheen taloudelliseksi tappioksi, ennen kuin kukaan ehtii puuttua asiaan.

Siirtymä kysymyksiin vastaamisesta toimintaan muuttaa tekoälyn taloudellisia vaikutuksia. Yritysten on tiedettävä, mihin agentit pystyvät, mutta myös se, miten niiden päätöksiä voidaan tutkia, kun jokin menee pieleen.

Uudessa tutkimuksessa ”Vastuu agenttisen tekoälyn hallitsemattomasta toiminnasta”, joka on julkaistu lehdessä Telecommunications Policy, tarkastellaan, miten oikeudellinen vastuu voisi kannustaa kehittäjiä tekemään autonomisista järjestelmistä selitettävämpiä.¹ Tutkimuksen keskeinen väite on kaupallisesti merkittävä: asianmukaisesti suunniteltu vastuujärjestelmä voisi vähentää kehittäjien vahingonkorvausvastuuta, jos heidän tarjoamansa selitykset ovat parempia.

Mahdollisuudet ulottuvat oikeudenkäyntejä laajemmalle. Tiedot agentin toimintatavasta voisivat auttaa yrityksiä hyväksymään käyttöönottoja, selvittämään häiriöitä ja neuvottelemaan vastuista toimittajien kanssa.

Miksi tekoälyagentit aiheuttavat uudenlaisen vastuukysymyksen

Agenttisella tekoälyllä tarkoitetaan järjestelmiä, jotka pyrkivät tavoitteisiinsa toteuttamalla toimintaketjuja ja käyttävät usein ohjelmistotyökaluja ihmisen vain rajallisesti valvoessa niiden toimintaa. Agentti voi esimerkiksi selvittää ostotarpeita, vertailla tarjouksia, päivittää sisäisiä tietoja ja tehdä tilauksen.

Tutkijat keskittyvät ennalta arvaamattomaan haitalliseen toimintaan, jota he kuvaavat ”tekoälyn luontaisiksi puutteiksi”. Heidän viitekehyksessään tällaiset virheet ovat mahdollisia, vaikka kehitystyö olisi huolellista ja testausmahdollisuudet käytettäisiin.

Yksi esimerkki on tavoitteen manipulointi: järjestelmä täyttää mitattavan tavoitteen mutta vesittää varsinaisen tarkoituksen. Kuvitellaan, että ostamisesta vastaavaa agenttia palkitaan laskujen loppusummien alentamisesta. Se valitsee epäluotettavia toimittajia, mikä lisää tuotannon seisokkeja. Tämä kuvitteellinen esimerkki havainnollistaa, miten kapean tavoitteen saavuttaminen voi merkitä yritykselle epäonnistumista.

Kirjoittajat pohtivat, miten vastuuta tulisi soveltaa, kun kehittäjät eivät voi poistaa kaikkia tällaisia riskejä eivätkä tuomioistuimet pysty helposti erottamaan väistämätöntä virhettä riittämättömistä varotoimista.

Miten selitettävyys voisi muuttaa tekoälyn vastuukysymyksiä

Tutkimuksessa hyödynnetään peliteoriaa eli matemaattista lähestymistapaa, jolla tutkitaan päätöksentekoa eri osapuolten kannustimien vaikuttaessa toisiinsa. Siinä tarkastellaan, miten vastuuta koskevat säännöt vaikuttavat kehittäjien halukkuuteen panostaa selitettävyyteen.

Ehdotetussa mekanismissa palkitaan kehittäjiä, jotka täyttävät selitettävyyden vertailukriteerit ja osoittavat tyydyttävästi, että haitallinen tapahtuma johtui järjestelmän luontaisesta rajoitteesta. Puutteellisia selityksiä tarjoavat kehittäjät altistuvat suuremmalle vastuulle.

Tämä ei tarkoita, että valvontaohjelmiston ostaminen toisi automaattisesti oikeudellista suojaa. Viitekehys edellyttää uskottavia standardeja, hyödyllistä näyttöä ja sitä, että asiaankuuluva oikeusjärjestelmä hyväksyy ne.

Matemaattisen tuloksen ja poliittisen suosituksen välinen ero on myös tärkeä. Kehittäjille määrättävien vahingonkorvausten nollataso esitetään teoreettisena vertailukohtana. Politiikkaa koskevassa osuudessa tutkimuksessa suositellaan asteikkoa, joka pienentää korvauksia poistamatta niitä kokonaan ja turvaa näin uhreille jonkinasteisen korvauksen.

Tekoälyn selityksistä todennettavaan näyttöön

Tutkimuksen hyödyllinen kaupallinen tulkinta on, että yritykset tarvitsevat tarkasteltavissa olevaa näyttöä, eivät pelkästään vakuuttavia kuvauksia agentin toiminnasta.

Kuvitteellisen ostamisesta vastaavan agentin tapauksessa tutkijat haluaisivat nähdä tallenteista, mitä toimittajia se harkitsi, mitä tietoja se sai, millaiset valtuudet sillä oli ja toteutuivatko vaaditut hyväksynnät. Tallenteet eivät välttämättä paljastaisi jokaista sisäistä laskentavaihetta, mutta niiden avulla tapahtumien kulku voisi olla helpompi selvittää.

Tämä ero erottaa selitettävyyden havainnoitavuudesta. Selitettävyydessä on kyse toiminnan ymmärtämisestä, kun taas havainnoitavuudessa kerätään tietoa järjestelmän toimintatavasta. Nämä voivat tukea toisiaan, mutta kumpikaan ei yksinään todista, että lopputulos oli väistämätön.

Gartnerin maaliskuussa 2026 julkaistussa analyysissä selitettävän tekoälyn ja havainnoitavuuden investoinnit ennustetaan, että havainnoitavuuteen tehtävät investoinnit kattavat 50 % generatiivisen tekoälyn käyttöönotosta vuoteen 2028 mennessä, kun ennusteen laatimishetkellä osuus oli 15 %. Kyse on ennusteesta, mutta se havainnollistaa kasvavaa kaupallista kiinnostusta käyttöönotettujen järjestelmien toiminnan ymmärtämiseen.

Ostajien on syytä esittää kolme käytännön kysymystä:

• Pystyykö toimittaja selvittämään jälkikäteen agentin merkittävät toimet?
• Voiko yritys rajata käyttöoikeuksia ja edellyttää hyväksyntää arkaluonteisille päätöksille?
• Pystyvätkö tutkijat viemään järjestelmästä luotettavat lokitiedot, kun tapahtuu poikkeama?

Securities.io käsittelee tuoreessa artikkelissaan tekoälyagenttien identiteetin- ja käyttöoikeuksien hallintaa, joka on tämän haasteen lähiaihe. Sen tietäminen, mikä agentti toimi ja mitä se oli valtuutettu tekemään, luo pohjan vastuun selvittämiselle.

Miksi parempi hallinta voisi mahdollistaa laajemman automaation

Mahdollisuus ei rajoitu mahdollisten vahinkojen vähentämiseen. Kuvitellaan yritys, joka pohtii, saako agentti vain suositella ostoksia vai myös toteuttaa ne itsenäisesti.

Jos johtajat eivät pysty tutkimaan päätöksiä tai selvittämään vastuuta, he saattavat pitää käytössä laajan manuaalisen tarkistuksen. Tämä rajoittaa tuottavuushyötyjä. Parempi dokumentaatio, selkeät valtuudet ja luotettava eskalointimenettely voisivat tehdä laajemmasta käyttöönotosta hyväksyttävää.

Tämä viittaa toiseen arvon lähteeseen: hallintatyökalut voisivat auttaa muuttamaan teknisesti kyvykkäät agentit järjestelmiksi, joita yritykset ovat valmiita käyttämään. Tämä on taloudellinen päätelmä, ei tutkimusartikkelissa mitattu tulos.

Lokakuussa 2026 tehty IBM:n tilaama yritysten tekoälyn hallintaa koskeva kysely havainnollistaa toimeenpanon puutteita. Kahdeksassa Euroopan ja Lähi-idän maassa kyselyyn vastanneista 3 221 ylimmän johdon edustajasta 35 % ilmoitti ottaneensa agenttista tekoälyä tuotantokäyttöön, mutta vain 37 % kertoi hallintajärjestelmiensä olevan suunniteltu skaalautumaan agenttisen tekoälyn käyttöönoton mukana.

Tulokset perustuvat vastaajien omiin ilmoituksiin ja hallintaratkaisujen toimittajan tilaamaan tutkimukseen, eivät riippumattomaan teknisen turvallisuuden mittaukseen. Ne tuovat silti esiin käytännön hankintaongelman: agenttien käyttöönotto ja niiden valvonta ovat eri kyvykkyyksiä.

Läpinäkyvyydestä voi tulla kilpailuetu hankinnoissa

Jos kaksi agenttia suoriutuu samalla tavalla, ostajat saattavat suosia toimittajaa, jonka ratkaisun avulla poikkeamia on helpompi tutkia. Tämä luo tilaa kilpailla näytön laadulla, integraatioilla ja vastuun selkeydellä mallin tarkkuuden ohella.

Securities.io käsittelee selitettävää tekoälyä markkinaennusteissa ja tuo esiin siihen liittyvän eron: mallin toiminnan ymmärtämisestä on hyötyä diagnostiikassa silloinkin, kun se ei osoita mallin olevan tuottava.

Yritysten agenttien kohdalla tämä voisi tarkoittaa sopimusehtoja, joissa määritellään pääsy tietoihin, yhteistyö poikkeamatilanteissa ja hyväksyntään liittyvät vastuut. Tällaiset ehdot eivät ratkaisisi kaikkia vastuukysymyksiä, mutta ne voisivat vähentää epävarmuutta ennen käyttöönottoa.

Vastuullisuuden ja kilpailukyvyn välinen ristiriita

Tutkimusartikkelissa myönnetään, että selitettävyyttä koskevat vaatimukset voivat aiheuttaa pienille kehittäjille kohtuuttoman suuria kustannuksia. Suurten yritysten voi olla helpompi rahoittaa vertailutestejä, auditointeja ja asiantuntijatiimejä.

Yksi mahdollinen seuraus on riippuvuuden kasvu vakiintuneista hallinta-alustoista. Toisaalta kysyntä voi kasvaa yhteisille standardeille ja kohtuuhintaisille työkaluille, joiden avulla pienemmät toimittajat voivat osoittaa tarjoavansa vastaavat suojatoimet.

Standardien laadulla on merkitystä. Mallissa oletetaan, että selitettävyyden vertailutestit voidaan todentaa täydellisesti, vaikka todelliset auditoinnit voivat vaihdella ja vaatimusten näennäinen täyttäminen on edelleen mahdollista. Mallissa oletetaan myös, että selitettävyys pienentää vahingon todennäköisyyttä. Kirjoittajien mukaan tämä yhteys vaatii lisätutkimusta.

Parempaa dokumentaatiota ei siis pidä tulkita todisteeksi turvallisemmasta toiminnasta. Hyödyllisessä arvioinnissa selvitettäisiin, auttavatko selitykset tunnistamaan syitä, korjaamaan virheitä ja estämään niiden toistumista.

IBM:n rooli yritysten tekoälyn hallinnassa

Nämä toimeenpanoon liittyvät tarpeet luovat luontevan yhteyden IBM:ään sijoittajille, joita kiinnostavat yritysten tekoälyn infrastruktuuria rakentavat yhtiöt.

IBM:n lokakuussa 2026 julkaistu watsonx.governance-päivitys laajentaa agenttien löytämiseen liittyviä toimintoja ja yhdistää operatiivisen arvioinnin mittarit hallintakontrolleihin. Langfuse- ja Arize-integraatiot tuovat valvontatietoja hallintatietoihin, kun taas watsonx Orchestrate -integraatio yhdistää määritellyt kontrollit näyttöön niiden valvonnan aikaisesta täytäntöönpanosta.

Nämä ominaisuudet vastaavat osaan käytännön näyttöön liittyvistä haasteista. Ne eivät osoita, että IBM täyttää tutkimusartikkelissa ehdotetut oikeudelliset vertailukriteerit tai että asiakkaat saisivat suojaa vastuulta.

Mahdollinen kaupallinen etu perustuu siihen, että yrityksiä autetaan hallitsemaan agentteja niiden nykyisissä järjestelmissä. Jos hallinnasta tulee automaation laajentamisen edellytys, kysyntä voisi tukea ohjelmistotilauksia ja käyttöönottopalveluja.

Sijoittajien seuraava kysymys on, tuottaako tämä kysyntä kestävää liikevaihtoa ja houkuttelevia katteita. Olennaisia merkkejä ovat asiakkaiden käyttöönotto, toiminnan laajentaminen pilottihankkeiden ulkopuolelle sekä näyttö siitä, että hallintavalmiudet vaikuttavat ostopäätöksiin. IBM tarjoaa mahdollisuuden hyötyä tästä teemasta laajemman liiketoimintansa osana, joten menestys tekoälyn hallinnassa ei yksin määrittäisi sen sijoitustuottoa.

IBM:n (IBM) viimeisimmät uutiset ja kehityskulut

Selitettävyys kaupallisen tekoälyn perustana

Artikkeli esittää viitekehyksen, jonka avulla voidaan palkita kehittäjiä siitä, että he tekevät ennakoimattomista virheistä helpommin ymmärrettäviä. Käytännön kontribuutio on kannustimia koskeva kysymys: miten vastuuvelvollisuus voi kannustaa investoimaan parempiin järjestelmiin?

Yrityksille mahdollisuus piilee siinä, että autonomisia järjestelmiä on helpompi arvioida ja ottaa käyttöön. Teknologiatoimittajille mahdollisuus on tuottaa näyttöä, josta on hyötyä silloinkin, kun päätöksiä kyseenalaistetaan. Vahvimmassa kaupallisessa tarjonnassa yhdistyvät suorituskykyiset agentit sekä hallintakeinot ja dokumentaatio, joihin asiakkaat voivat todella luottaa.

Lähteet:

¹ Papyshev, G., Chan, K. J. D. ja Migliorini, S. (2026). Vastuu agenttisen tekoälyn hallitsemattomasta toiminnasta. Telecommunications Policy, 50, artikkeli 103339. https://doi.org/10.1016/j.telpol.2026.103339