Hvorfor forklarlig AI kan blive en forretningsmæssig fordel

Erstatningsansvar for agentisk AI: Derfor kan forklarlighed betale sig

En AI-assistent, der foreslår den forkerte leverandør, skaber et problem, som nogen kan nå at opdage. En AI-agent, der udvælger leverandøren, underskriver en ordre og iværksætter en betaling, kan nå at forvandle fejlen til et økonomisk tab, før nogen griber ind.

Skiftet fra at besvare spørgsmål til at handle ændrer økonomien i brugen af kunstig intelligens. Virksomheder har brug for at vide, hvad agenter kan udrette, men også hvordan deres beslutninger kan undersøges, når noget går galt.

En ny undersøgelse, »Erstatningsansvar for agentisk AI’s uforudsigelige adfærd«, der er offentliggjort i Telecommunications Policy, undersøger, hvordan juridisk ansvar kan tilskynde udviklere til at gøre autonome systemer mere forklarlige.¹ Undersøgelsens centrale påstand har væsentlig kommerciel betydning: Med en hensigtsmæssigt udformet ansvarsramme kan bedre forklaringer mindske udviklernes risiko for at skulle betale erstatning.

Mulighederne rækker videre end retssager. Dokumentation for, hvordan en agent fungerer, kan hjælpe virksomheder med at godkende implementeringer, undersøge fejl og forhandle ansvarsfordelingen med leverandører.

Hvorfor AI-agenter skaber et andet ansvarsproblem

Agentisk AI betegner systemer, der forfølger mål gennem sekvenser af handlinger, ofte ved hjælp af softwareværktøjer og med begrænset menneskeligt tilsyn. En agent kan undersøge et indkøb, sammenligne tilbud, opdatere interne registre og afgive en ordre.

Forskerne fokuserer på uforudsigelig, skadelig adfærd, som de betegner »iboende AI-svagheder«. I deres ramme er der tale om fejl, som fortsat kan opstå trods omhyggelig udvikling og de tilgængelige testmuligheder.

Et eksempel er specifikationsspil: Et system opfylder et målbart mål, samtidig med at det modarbejder det egentlige formål. Forestil dig en indkøbsagent, der belønnes for at sænke fakturapriserne, men vælger upålidelige leverandører og øger produktionens nedetid. Dette hypotetiske eksempel viser, hvordan succes i forhold til et snævert mål kan blive en fiasko for virksomheden.

Forfatterne spørger, hvordan ansvarsregler bør fungere, når udviklere ikke kan fjerne alle sådanne risici, og domstolene har svært ved at skelne mellem en uundgåelig fejl og utilstrækkelige forholdsregler.

Hvordan forklarlighed kan ændre erstatningsansvaret for AI

Artiklen anvender spilteori, en matematisk metode til at undersøge beslutninger, hvor forskellige parters incitamenter påvirker hinanden. Den undersøger, hvordan ansvarsregler påvirker udvikleres villighed til at investere i forklarlighed.

Den foreslåede ordning belønner udviklere, der opfylder målestandarder for forklarlighed og på tilfredsstillende vis påviser, at en skadelig hændelse skyldtes en iboende begrænsning. Udviklere, der leverer utilstrækkelige forklaringer, risikerer et større erstatningsansvar.

Det betyder ikke, at køb af overvågningssoftware automatisk giver juridisk beskyttelse. Rammen forudsætter troværdige standarder, brugbar dokumentation og anerkendelse i det relevante retssystem.

Det er også vigtigt at skelne mellem det matematiske resultat og anbefalingen til den førte politik. Nul kroner i erstatning fra udviklerens side optræder som et teoretisk sammenligningsgrundlag. I sin politiske drøftelse anbefaler artiklen en glidende skala, der nedsætter erstatningen uden at fjerne den og dermed sikrer, at ofrene fortsat får en vis kompensation.

Fra AI-forklaringer til efterprøvelig dokumentation

En nyttig kommerciel fortolkning af forskningen er, at virksomheder har brug for dokumentation, de selv kan undersøge, ikke blot overbevisende beskrivelser af en agents adfærd.

I tilfældet med den hypotetiske indkøbsagent vil undersøgere ønske registre, der viser, hvilke leverandører agenten overvejede, hvilke oplysninger den modtog, hvilke beføjelser den havde, og om de krævede godkendelser blev indhentet. Disse registre vil ikke nødvendigvis afdække alle interne beregninger, men de kan gøre det lettere at rekonstruere hændelsesforløbet.

Denne forskel adskiller forklarlighed fra observerbarhed. Forklarlighed handler om at forstå adfærd; observerbarhed handler om at indsamle oplysninger om, hvordan et system fungerer. De kan understøtte hinanden, men ingen af delene beviser automatisk, at et udfald var uundgåeligt.

Gartners analyse fra marts 2026 af investeringer i forklarlig AI og observerbarhed forudsiger, at investeringerne i observerbarhed vil omfatte 50 % af implementeringerne af generativ AI i 2028 mod 15 % på tidspunktet for prognosen. Det er en prognose, men den illustrerer den voksende kommercielle interesse for at forstå systemer, der er sat i drift.

For købere følger der tre praktiske spørgsmål:

• Kan leverandøren rekonstruere en agents handlinger med væsentlige konsekvenser?
• Kan virksomheden begrænse tilladelser og kræve godkendelse af følsomme beslutninger?
• Kan efterforskere eksportere pålidelige registreringer, når en hændelse indtræffer?

Securities.io’s seneste dækning af identitet og adgangskontrol for AI-agenter undersøger en beslægtet del af denne udfordring. At vide, hvilken agent der handlede, og hvad den havde tilladelse til at gøre, er et udgangspunkt for at placere ansvar.

Hvorfor bedre styring kan åbne for mere automatisering

Muligheden rækker videre end at reducere potentielle skader. Forestil dig en virksomhed, der skal beslutte, om en agent blot må anbefale køb eller selv må gennemføre dem.

Hvis ledere ikke kan undersøge beslutninger eller fastslå, hvem der har ansvaret, kan de vælge at fastholde omfattende manuel kontrol. Det begrænser produktivitetsgevinsten. Bedre registreringer, tydelige beføjelser og pålidelig eskalering kan gøre det acceptabelt at tage løsningen i brug i større skala.

Det peger på en anden kilde til værdi: Styringsværktøjer kan bidrage til at omsætte teknisk kompetente agenter til systemer, som virksomheder er villige til at bruge. Det er en økonomisk slutning, ikke et resultat, som undersøgelsen har målt.

En undersøgelse fra oktober 2026 om styring af AI i virksomheder, bestilt af IBM, illustrerer kløften mellem ambition og implementering. Blandt 3.221 ledende medarbejdere, der blev spurgt i otte lande i Europa og Mellemøsten, oplyste 35 %, at de havde agentbaseret AI i produktion, mens kun 37 % sagde, at deres styringssystemer var udformet til at kunne skaleres i takt med udbredelsen af agentbaseret AI.

Dette er selvrapporterede resultater fra forskning bestilt af en leverandør af styringsløsninger, ikke en uafhængig måling af teknisk sikkerhed. De peger dog på et praktisk indkøbsproblem: At implementere agenter og føre tilsyn med dem er to forskellige kompetencer.

Gennemsigtighed kan blive en fordel i indkøbssammenhæng

Hvis to agenter præsterer nogenlunde ens, kan købere foretrække den leverandør, der gør det lettere at undersøge hændelser. Det åbner for konkurrence om kvaliteten af dokumentationen, integration og ansvarlighed – ud over modellernes nøjagtighed.

Securities.io’s gennemgang af forklarlig AI i markedsprognoser fremhæver en beslægtet forskel: Det har diagnostisk værdi at forstå en models adfærd, selv når det ikke dokumenterer, at den præsterer lønsomt.

For agenter i virksomheder kan det føre til kontrakter, der fastlægger adgang til registreringer, samarbejde ved hændelser og ansvar for godkendelser. Sådanne bestemmelser afgør ikke alle spørgsmål om erstatningsansvar, men de kan mindske usikkerheden inden implementering.

Afvejningen mellem ansvarlighed og konkurrence

Artiklen anerkender, at krav om forklarlighed kan påføre mindre udviklere uforholdsmæssigt store omkostninger. Større virksomheder kan have lettere ved at finansiere benchmarking, revisioner og specialiserede teams.

En mulig følge er større afhængighed af etablerede styringsplatforme. En anden er efterspørgsel efter fælles standarder og prisvenlige værktøjer, der gør det muligt for mindre leverandører at dokumentere tilsvarende sikkerhedsforanstaltninger.

Det er vigtigt, at disse standarder er af høj kvalitet. Modellen forudsætter, at benchmarking af forklarlighed kan verificeres fuldstændigt, mens revisioner i praksis kan variere, og overfladisk efterlevelse stadig er mulig. Den forudsætter også, at forklarlighed mindsker risikoen for skade – en sammenhæng, som forfatterne siger bør undersøges nærmere.

Bedre dokumentation bør derfor ikke forveksles med bevis for sikrere adfærd. En nyttig evaluering vil undersøge, om forklaringer hjælper med at identificere årsager, rette fejl og forhindre, at de opstår igen.

IBMs rolle i styring af AI i virksomheder

Disse implementeringsbehov skaber en naturlig forbindelse til IBM for investorer, der interesserer sig for virksomheder, som bygger infrastruktur til AI i virksomheder.

IBMs opdatering af watsonx.governance fra oktober 2026 udvider mulighederne for at finde agenter og forbinder operationelle evalueringsmålinger med styringskontroller. Integrationer med Langfuse og Arize indfører overvågningsoplysninger i styringsregistreringerne, mens integrationen med watsonx Orchestrate forbinder definerede kontroller med dokumentation for håndhævelse under drift.

Disse funktioner imødekommer dele af det praktiske dokumentationsproblem. De dokumenterer ikke, at IBM opfylder artiklens foreslåede juridiske kriterier, eller at kunderne får beskyttelse mod erstatningsansvar.

Den mulige kommercielle fordel ligger i at hjælpe virksomheder med at styre agenter på tværs af deres eksisterende systemer. Hvis styring bliver en forudsætning for at udvide automatiseringen, kan efterspørgslen understøtte softwareabonnementer og implementeringsarbejde.

For investorer er det næste spørgsmål, om denne efterspørgsel skaber varige indtægter og attraktive marginer. Relevante tegn omfatter kundernes ibrugtagning, ekspansion ud over pilotprojekter og dokumentation for, at governance-funktioner påvirker købsbeslutninger. IBM giver eksponering mod dette tema som led i en bredere forretning, så succes inden for AI-governance alene ikke vil afgøre investeringsafkastet.

Seneste nyheder og udvikling hos IBM (IBM)

Forklarbarhed som grundlag for kommerciel AI

Artiklen tilbyder en ramme for at belønne udviklere, der gør uforudsigelige fejl lettere at forstå. Det praktiske bidrag er et spørgsmål om incitamenter: Hvordan kan ansvarlighed tilskynde til investeringer i bedre systemer?

For virksomheder er muligheden at gøre autonomi lettere at vurdere og implementere. For teknologileverandører handler det om at fremlægge dokumentation, der stadig er nyttig, når beslutninger bliver anfægtet. Det stærkeste kommercielle tilbud vil kombinere kompetente agenter med kontroller og optegnelser, som kunderne rent faktisk kan have tillid til.

Referencer:

¹ Papyshev, G., Chan, K. J. D., & Migliorini, S. (2026). Ansvar for agentisk AI’s afvigende adfærd. Telecommunications Policy, 50, artikel 103339. https://doi.org/10.1016/j.telpol.2026.103339