Hvorfor forklarbar KI kan bli et konkurransefortrinn

Ansvar for agentisk KI: Hvorfor forklarbarhet kan lønne seg

En KI-assistent som foreslår feil leverandør, skaper et problem noen kan oppdage. En KI-agent som velger leverandøren, signerer en bestilling og setter i gang en betaling, kan gjøre feilen til et økonomisk tap før noen rekker å gripe inn.

Overgangen fra å besvare spørsmål til å handle endrer de økonomiske forutsetningene for kunstig intelligens. Virksomheter må vite hva agenter kan utføre, men også hvordan beslutningene deres kan undersøkes når noe går galt.

En ny studie, «Ansvar for uregjerlig atferd hos agentisk KI», publisert i Telecommunications Policy, undersøker hvordan juridisk ansvar kan få utviklere til å gjøre autonome systemer mer forklarbare.¹ Hovedpåstanden har stor kommersiell betydning: Med et hensiktsmessig utformet ansvarsrammeverk kan bedre forklaringer redusere utviklernes erstatningsansvar.

Mulighetene strekker seg lenger enn til rettstvister. Dokumentasjon av hvordan en agent fungerer, kan hjelpe virksomheter med å godkjenne utrullinger, undersøke feil og forhandle om ansvarsfordelingen med leverandører.

Hvorfor KI-agenter skaper et annet ansvarsproblem

Agentisk KI viser til systemer som arbeider mot mål gjennom en rekke handlinger, ofte ved hjelp av programvareverktøy og med begrenset menneskelig tilsyn. En agent kan undersøke et innkjøp, sammenligne tilbud, oppdatere interne registre og legge inn en bestilling.

Forskerne retter søkelyset mot uforutsigbar, skadelig atferd som de omtaler som «iboende svakheter ved KI». I rammeverket deres er dette feil som fortsatt kan oppstå selv om utviklingen har vært grundig og tilgjengelige tester er gjennomført.

Et eksempel er målforskyvning: Et system oppfyller et målt mål, men undergraver samtidig det egentlige formålet. Tenk deg en innkjøpsagent som belønnes for å senke fakturaprisene, men velger upålitelige leverandører og øker produksjonsstansen. Dette hypotetiske eksemplet viser hvordan suksess målt mot et snevert mål kan bli et nederlag for virksomheten.

Forfatterne spør hvordan ansvaret bør fordeles når utviklere ikke kan eliminere all slik risiko, og domstolene vanskelig kan skille mellom en uunngåelig feil og utilstrekkelige forholdsregler.

Hvordan forklarbarhet kan endre ansvaret for KI

Artikkelen bruker spillteori, en matematisk metode for å studere beslutninger der ulike parters insentiver påvirker hverandre. Den undersøker hvordan ansvarsregler påvirker utviklernes vilje til å investere i forklarbarhet.

Den foreslåtte mekanismen belønner utviklere som oppfyller krav til forklarbarhet og på en tilfredsstillende måte dokumenterer at en skadelig hendelse skyldtes en iboende begrensning. Utviklere som gir mangelfulle forklaringer, risikerer større erstatningsansvar.

Dette betyr ikke at innkjøp av overvåkingsprogramvare automatisk gir rettslig beskyttelse. Rammeverket forutsetter troverdige standarder, nyttig dokumentasjon og aksept i det aktuelle rettssystemet.

Det er også viktig å skille mellom det matematiske resultatet og anbefalingen om hvordan politikken bør utformes. Null i erstatning fra utvikleren framstår som et teoretisk referansepunkt. I drøftingen av politikken anbefaler artikkelen en glidende skala som reduserer erstatningen uten å fjerne den, slik at ofrene fortsatt får en viss kompensasjon.

Fra KI-forklaringer til etterprøvbar dokumentasjon

En nyttig kommersiell tolkning av forskningen er at virksomheter trenger dokumentasjon de kan kontrollere, ikke bare overbevisende beskrivelser av hvordan en agent oppførte seg.

Når det gjelder den hypotetiske innkjøpsagenten, vil de som undersøker hendelsen, ha behov for dokumentasjon som viser hvilke leverandører agenten vurderte, hvilken informasjon den mottok, hvilke fullmakter den hadde, og om påkrevde godkjenninger ble innhentet. Dokumentasjonen vil ikke nødvendigvis avdekke alle interne beregninger, men kan gjøre det enklere å rekonstruere hendelsesforløpet.

Dette skillet skiller forklarbarhet fra observerbarhet. Forklarbarhet handler om å forstå atferd, mens observerbarhet handler om å samle inn informasjon om hvordan et system fungerer. De kan støtte hverandre, men ingen av dem beviser automatisk at et utfall var uunngåelig.

Gartners analyse fra mars 2026 av investeringer i forklarbar KI og observerbarhet spår at investeringer i observerbarhet vil omfatte 50 % av utrullingene av generativ KI innen 2028, opp fra 15 % da prognosen ble utarbeidet. Dette er en prognose, men den illustrerer den økende kommersielle interessen for å forstå systemer som er satt i drift.

For kjøpere følger tre praktiske spørsmål:

• Kan leverandøren rekonstruere handlingene til en agent som får vesentlige konsekvenser?
• Kan virksomheten begrense tillatelser og kreve godkjenning av sensitive beslutninger?
• Kan etterforskere eksportere pålitelige logger når en hendelse oppstår?

Securities.ios nylige omtale av identitets- og tilgangskontroller for KI-agenter utforsker en tilgrensende del av denne utfordringen. Å vite hvilken agent som handlet, og hva den hadde tillatelse til å gjøre, gir et utgangspunkt for ansvarliggjøring.

Hvorfor bedre styring kan åpne for mer automatisering

Muligheten handler om mer enn å redusere potensielle skadevirkninger. Tenk på et selskap som skal avgjøre om en agent bare kan anbefale kjøp, eller om den også kan gjennomføre dem på egen hånd.

Hvis ledere ikke kan undersøke beslutninger eller fastslå hvem som har ansvaret, kan de opprettholde omfattende manuell kontroll. Det begrenser produktivitetsgevinsten. Bedre logger, tydelige fullmakter og pålitelig eskalering kan gjøre det forsvarlig å ta i bruk løsningen i større skala.

Dette peker på en annen kilde til verdi: Styringsverktøy kan bidra til å gjøre teknisk kapable agenter til systemer virksomheter er villige til å bruke. Dette er en økonomisk slutning, ikke et resultat som er målt i artikkelen.

En undersøkelse fra oktober 2026, bestilt av IBM om styring av KI i virksomheter, illustrerer avstanden mellom ambisjoner og gjennomføring. Blant 3 221 toppledere som ble spurt i åtte land i Europa og Midtøsten, oppga 35 % at de hadde satt agentbasert KI i produksjon, mens bare 37 % sa at styringssystemene deres var utformet for å kunne skaleres i takt med utrullingen av agentbasert KI.

Dette er selvrapporterte funn fra en undersøkelse bestilt av en leverandør av styringsløsninger, ikke en uavhengig måling av teknisk sikkerhet. Likevel peker funnene på et praktisk innkjøpsproblem: Å ta i bruk agenter og å føre tilsyn med dem er to forskjellige evner.

Åpenhet kan bli et konkurransefortrinn i anskaffelser

Når to agenter presterer omtrent likt, kan kjøpere foretrekke leverandøren som gjør det enklere å undersøke hendelser. Det åpner for konkurranse om kvaliteten på dokumentasjonen, integrasjon og ansvarliggjøring, i tillegg til modellens treffsikkerhet.

Securities.ios omtale av forklarbar KI i markedsprognoser fremhever et beslektet skille: Å forstå hvordan en modell oppfører seg, har diagnostisk verdi selv om det ikke dokumenterer lønnsom ytelse.

For KI-agenter i virksomheter kan dette føre til at kontrakter spesifiserer tilgang til logger, samarbeid ved hendelser og hvem som har ansvar for godkjenning. Slike bestemmelser vil ikke avklare alle spørsmål om ansvar, men de kan redusere usikkerheten før løsningen tas i bruk.

Avveiningen mellom ansvarliggjøring og konkurranse

Artikkelen erkjenner at krav til forklarbarhet kan påføre mindre utviklere uforholdsmessig høye kostnader. Større selskaper kan ha lettere for å finansiere referansetesting, revisjoner og spesialistteam.

En mulig konsekvens er større avhengighet av etablerte styringsplattformer. En annen er økt etterspørsel etter felles standarder og rimelige verktøy som gjør det mulig for mindre leverandører å dokumentere tilsvarende sikkerhetstiltak.

Kvaliteten på disse standardene er viktig. Modellen forutsetter at referansetesting av forklarbarhet kan verifiseres helt nøyaktig, mens reelle revisjoner kan variere, og overflatisk etterlevelse fortsatt er mulig. Den forutsetter også at forklarbarhet reduserer sannsynligheten for skade, en sammenheng forfatterne sier må undersøkes nærmere.

Bedre dokumentasjon bør derfor ikke forveksles med bevis på tryggere atferd. En nyttig evaluering bør undersøke om forklaringene bidrar til å identifisere årsaker, rette opp feil og hindre at de oppstår igjen.

IBMs rolle i styring av KI i virksomheter

Disse behovene knyttet til gjennomføring gir en naturlig kobling til IBM for investorer som er interessert i selskaper som bygger infrastruktur for KI i virksomheter.

IBMs oppdatering av watsonx.governance fra oktober 2026 utvider funksjonene for å oppdage agenter og kobler måleparametere for operativ evaluering til styringskontroller. Integrasjoner med Langfuse og Arize henter overvåkingsinformasjon inn i styringsloggene, mens integrasjonen med watsonx Orchestrate knytter definerte kontroller til dokumentasjon på håndheving under kjøring.

Disse funksjonene dekker deler av det praktiske dokumentasjonsbehovet. De viser ikke at IBM oppfyller artikkelens foreslåtte juridiske referansekriterier, eller at kundene får beskyttelse mot erstatningsansvar.

Den mulige kommersielle fordelen ligger i å hjelpe virksomheter med å håndtere agenter på tvers av systemene de allerede bruker. Hvis styring blir en forutsetning for å utvide automatiseringen, kan etterspørselen gi inntekter fra programvareabonnementer og implementeringsarbeid.

For investorer er det neste spørsmålet om denne etterspørselen gir varige inntekter og attraktive marginer. Relevante signaler er blant annet kundeaksept, vekst utover pilotprosjekter og tegn på at styringsegenskaper påvirker kjøpsbeslutninger. IBM gir eksponering mot dette temaet gjennom en bredere virksomhet, så suksess innen KI-styring alene vil ikke avgjøre selskapets investeringsresultater.

Siste nytt og utvikling innen IBM (IBM)

Forklarbarhet som grunnlag for kommersiell KI

Artikkelen presenterer et rammeverk for å belønne utviklere som gjør uforutsigbare feil enklere å forstå. Det praktiske bidraget er et spørsmål om insentiver: Hvordan kan ansvarliggjøring oppmuntre til investeringer i bedre systemer?

For bedrifter ligger muligheten i å gjøre autonomi enklere å vurdere og ta i bruk. For teknologileverandører handler det om å legge fram dokumentasjon som fortsatt er nyttig når beslutninger blir utfordret. Det sterkeste kommersielle tilbudet vil kombinere kapable agenter med kontrollmekanismer og dokumentasjon som kundene faktisk kan stole på.

Referanser:

¹ Papyshev, G., Chan, K. J. D., & Migliorini, S. (2026). Ansvar for uønsket atferd fra agentisk KI. Telecommunications Policy, 50, artikkel 103339. https://doi.org/10.1016/j.telpol.2026.103339