Varför förklarbar AI kan bli en affärsfördel

Skadeståndsansvar för AI-agenter: därför kan förklarbarhet löna sig

En AI-assistent som föreslår fel leverantör skapar ett problem som någon kan upptäcka. En AI-agent som väljer leverantören, undertecknar en order och initierar en betalning kan förvandla misstaget till en ekonomisk förlust innan någon hinner ingripa.

Övergången från att besvara frågor till att vidta åtgärder förändrar den ekonomiska logiken bakom artificiell intelligens. Företag behöver veta vad AI-agenter kan åstadkomma, men också hur deras beslut kan utredas när något går fel.

En ny studie, ”Ansvar för avvikande beteenden hos AI-agenter”, publicerad i Telecommunications Policy, undersöker hur rättsligt ansvar skulle kunna motivera utvecklare att göra autonoma system mer förklarbara.¹ Studiens centrala tes har stor kommersiell betydelse: inom ett lämpligt utformat system för skadeståndsansvar skulle bättre förklaringar kunna minska utvecklarnas skadeståndsrisk.

Möjligheterna sträcker sig längre än till rättstvister. Underlag om hur en AI-agent fungerar skulle kunna hjälpa företag att godkänna driftsättningar, utreda fel och förhandla med leverantörer om ansvarsfördelningen.

Varför AI-agenter skapar ett annat problem med skadeståndsansvar

AI med agentförmåga avser system som strävar efter att nå mål genom en följd av åtgärder, ofta med hjälp av programvaruverktyg och begränsad mänsklig tillsyn. En AI-agent kan undersöka ett inköp, jämföra erbjudanden, uppdatera interna register och lägga en order.

Forskarna fokuserar på oförutsägbara skadliga beteenden som de beskriver som ”inneboende AI-brister”. Enligt deras ramverk handlar det om fel som fortfarande kan uppstå trots omsorgsfull utveckling och tillgängliga testmetoder.

Ett exempel är målförskjutning: ett system uppfyller ett mätbart mål samtidigt som det motverkar det egentliga syftet. Tänk dig en inköpsagent som belönas för att sänka fakturapriserna och därför väljer opålitliga leverantörer, vilket ökar produktionsstoppen. Det här hypotetiska exemplet visar hur framgång mot ett snävt mål kan innebära ett misslyckande för företaget.

Författarna frågar hur skadeståndsansvaret bör fungera när utvecklare inte kan undanröja alla sådana risker och domstolar inte enkelt kan skilja ett ofrånkomligt fel från otillräckliga försiktighetsåtgärder.

Hur förklarbarhet skulle kunna förändra skadeståndsansvaret för AI

I studien används spelteori, en matematisk metod för att undersöka beslut när olika parters incitament påverkar varandra. Den analyserar hur regler om skadeståndsansvar påverkar utvecklarnas vilja att investera i förklarbarhet.

Den föreslagna mekanismen belönar utvecklare som uppfyller riktmärken för förklarbarhet och på ett tillfredsställande sätt visar att en skadlig händelse berodde på en inneboende begränsning. Utvecklare som ger bristfälliga förklaringar löper större risk att bli skadeståndsansvariga.

Det innebär inte att köp av övervakningsprogram automatiskt skulle ge rättsligt skydd. Ramverket förutsätter trovärdiga standarder, användbara underlag och acceptans inom det berörda rättssystemet.

Det är också viktigt att skilja mellan det matematiska resultatet och rekommendationen för den praktiska politiken. Inget skadeståndsansvar för utvecklaren förekommer som ett teoretiskt riktmärke. I sin diskussion om praktisk politik rekommenderar studien en glidande skala som minskar skadeståndsbeloppen utan att avskaffa dem och därmed bevarar en viss ersättning till de drabbade.

Från AI-förklaringar till verifierbara underlag

En användbar kommersiell tolkning av forskningen är att företag behöver underlag som de kan granska, inte bara övertygande beskrivningar av en AI-agents beteende.

När det gäller den hypotetiska inköpsagenten skulle utredare vilja ha dokumentation som visar vilka leverantörer den övervägde, vilken information den fick, vilka befogenheter den hade och om de godkännanden som krävdes inhämtades. Dokumentationen skulle inte nödvändigtvis visa alla interna beräkningar, men den skulle kunna göra det lättare att rekonstruera en händelse.

Den skillnaden skiljer förklarbarhet från observerbarhet. Förklarbarhet handlar om att förstå beteenden, medan observerbarhet handlar om att samla in information om hur ett system fungerar. De kan komplettera varandra, men ingetdera bevisar automatiskt att ett utfall var ofrånkomligt.

Gartners analys från mars 2026 av investeringar i förklarbar AI och observerbarhet förutspår att investeringarna i observerbarhet kommer att nå 50 % av driftsättningarna av generativ AI senast 2028, jämfört med 15 % när prognosen gjordes. Det är en prognos, men den visar på det växande kommersiella intresset för att förstå system som har satts i drift.

För köpare följer tre praktiska frågor:

• Kan leverantören rekonstruera en agents handlingar som får betydande konsekvenser?
• Kan företaget begränsa behörigheter och kräva godkännande för känsliga beslut?
• Kan utredare exportera tillförlitliga loggar när en incident inträffar?

Securities.io belyser nyligen identitet och åtkomstkontroller för AI-agenter, en närliggande del av den här utmaningen. Att veta vilken agent som agerade och vad den hade tillstånd att göra är en utgångspunkt för ansvarsutkrävande.

Varför bättre styrning kan möjliggöra mer automatisering

Möjligheterna handlar om mer än att minska potentiella skador. Tänk dig ett företag som ska avgöra om en agent bara får rekommendera inköp eller också genomföra dem på egen hand.

Om chefer inte kan utreda beslut eller fastställa ansvar kan de behålla omfattande manuell granskning. Det begränsar produktivitetsvinsten. Bättre dokumentation, tydliga befogenheter och tillförlitlig eskalering kan göra det acceptabelt att införa lösningen i större skala.

Detta pekar på en andra värdekälla: styrningsverktyg kan bidra till att omvandla tekniskt kapabla agenter till system som företag är villiga att använda. Det är en ekonomisk slutsats, inte ett resultat som har mätts i artikeln.

En undersökning från oktober 2026 om styrning av AI i företag, beställd av IBM, belyser skillnaden mellan ambition och genomförande. Av de 3 221 höga chefer som tillfrågades i åtta länder i Europa och Mellanöstern uppgav 35 % att de hade agentbaserad AI i produktion, medan endast 37 % sade att deras styrningssystem var utformade för att kunna skalas upp i takt med att den agentbaserade AI:n infördes.

Detta är självrapporterade resultat från en studie beställd av en leverantör av styrningslösningar, inte en oberoende mätning av teknisk säkerhet. De pekar ändå på ett praktiskt problem vid inköp: att införa agenter och att övervaka dem är två skilda förmågor.

Öppenhet kan bli en konkurrensfördel vid upphandling

Om två agenter presterar på liknande sätt kan köpare föredra den leverantör som gör det enklare att utreda incidenter. Det öppnar för konkurrens kring kvaliteten på underlaget, integration och ansvarsutkrävande, utöver modellernas träffsäkerhet.

Securities.io tar upp förklarbar AI vid marknadsprognoser och lyfter fram en närliggande skillnad: att förstå en modells beteende har ett diagnostiskt värde även om det inte visar att modellen presterar lönsamt.

För företagsagenter kan detta innebära avtal som specificerar tillgång till loggar, samarbete vid incidenter och ansvar för godkännanden. Sådana villkor skulle inte lösa alla ansvarsfrågor, men de kan minska osäkerheten före driftsättning.

Avvägningen mellan ansvarsutkrävande och konkurrens

Artikeln medger att krav på förklarbarhet kan medföra oproportionerligt höga kostnader för mindre utvecklare. Större företag kan ha lättare att finansiera benchmarking, granskningar och specialistteam.

En möjlig följd är ett större beroende av etablerade styrningsplattformar. En annan är en ökad efterfrågan på gemensamma standarder och prisvärda verktyg som gör det möjligt för mindre leverantörer att visa att de erbjuder likvärdiga skyddsåtgärder.

Kvaliteten på standarderna spelar roll. Modellen utgår från att benchmarking av förklarbarhet kan verifieras helt korrekt, medan granskningar i verkligheten kan variera och ytlig efterlevnad fortfarande är möjlig. Den utgår också från att förklarbarhet minskar sannolikheten för skada, ett samband som enligt författarna behöver undersökas ytterligare.

Bättre dokumentation bör därför inte förväxlas med bevis för säkrare beteende. En användbar utvärdering skulle undersöka om förklaringarna hjälper till att identifiera orsaker, rätta till fel och förhindra att de upprepas.

IBMs roll inom styrning av AI i företag

Dessa behov vid införandet skapar en naturlig koppling till IBM för investerare som är intresserade av företag som bygger infrastruktur för AI i företag.

IBMs uppdatering av watsonx.governance i oktober 2026 utökar möjligheterna att identifiera agenter och kopplar operativa utvärderingsmått till styrningskontroller. Integreringar med Langfuse och Arize för in övervakningsinformation i styrningsloggar, medan integreringen med watsonx Orchestrate kopplar definierade kontroller till bevis på att de tillämpas under körning.

Dessa funktioner hanterar delar av det praktiska problemet med att ta fram underlag. De visar inte att IBM uppfyller artikelns föreslagna rättsliga riktmärken eller att kunder får skydd mot ansvar.

Den möjliga kommersiella fördelen ligger i att hjälpa företag att hantera agenter i sina befintliga system. Om styrning blir ett villkor för att utöka automatiseringen kan efterfrågan bidra till intäkter från programvaruprenumerationer och implementeringsarbete.

För investerare är nästa fråga om efterfrågan leder till varaktiga intäkter och attraktiva marginaler. Relevanta signaler är kundernas användning, expansion utöver pilotprojekt och belägg för att styrningsförmåga påverkar köpbeslut. IBM ger exponering mot detta tema inom ramen för en bredare verksamhet, så framgång inom AI-styrning i sig skulle inte avgöra bolagets avkastning.

Senaste nytt och utveckling kring IBM (IBM)

Förklarbarhet som grund för kommersiell AI

Artikeln presenterar ett ramverk för att belöna utvecklare som gör oförutsägbara fel lättare att förstå. Det praktiska bidraget består i en fråga om incitament: hur kan ansvarsskyldighet uppmuntra investeringar i bättre system?

För företag är möjligheten att göra autonomi lättare att utvärdera och införa. För teknikleverantörer handlar det om att tillhandahålla belägg som förblir användbara när beslut ifrågasätts. Det starkaste kommersiella erbjudandet kombinerar kompetenta agenter med kontroller och dokumentation som kunderna faktiskt kan lita på.

Referenser:

¹ Papyshev, G., Chan, K. J. D. och Migliorini, S. (2026). Ansvar för okontrollerat beteende hos agentisk AI. Telecommunications Policy, 50, artikel 103339. https://doi.org/10.1016/j.telpol.2026.103339