Waarom verklaarbare AI een zakelijk voordeel kan worden

Aansprakelijkheid voor agentische AI: waarom verklaarbaarheid kan lonen

Een AI-assistent die de verkeerde leverancier aanbeveelt, veroorzaakt een probleem dat iemand kan opmerken. Een AI-agent die de leverancier kiest, een bestelling ondertekent en een betaling in gang zet, kan van die fout een financieel verlies maken voordat iemand kan ingrijpen.

Deze verschuiving van vragen beantwoorden naar handelen verandert de economische aspecten van kunstmatige intelligentie. Bedrijven moeten weten wat agents kunnen doen, maar ook hoe hun beslissingen kunnen worden onderzocht als er iets misgaat.

Een nieuwe studie, ‘Aansprakelijkheid voor ontspoord gedrag van agentische AI’, gepubliceerd in Telecommunications Policy, onderzoekt hoe wettelijke aansprakelijkheid ontwikkelaars ertoe kan aanzetten autonome systemen beter verklaarbaar te maken.¹ De centrale stelling heeft grote commerciële betekenis: met een passend ontworpen aansprakelijkheidskader kunnen betere verklaringen de schadevergoedingsrisico’s voor ontwikkelaars verkleinen.

De bredere kansen reiken verder dan rechtszaken. Bewijs over de werking van een agent kan bedrijven helpen om toepassingen goed te keuren, storingen te onderzoeken en met leveranciers afspraken te maken over verantwoordelijkheid.

Waarom AI-agents een ander aansprakelijkheidsprobleem opleveren

Agentische AI verwijst naar systemen die doelen nastreven door een reeks handelingen uit te voeren, vaak met behulp van softwaretools en met beperkt menselijk toezicht. Een agent kan bijvoorbeeld een aankoop onderzoeken, aanbiedingen vergelijken, interne gegevens bijwerken en een bestelling plaatsen.

De onderzoekers richten zich op onvoorspelbaar schadelijk gedrag, dat zij ‘inherente AI-gebreken’ noemen. In hun kader blijven deze tekortkomingen mogelijk, zelfs wanneer de ontwikkeling zorgvuldig verloopt en de beschikbare tests zijn uitgevoerd.

Een voorbeeld is het uitbuiten van specificaties: een systeem voldoet aan een meetbare doelstelling, maar ondermijnt tegelijk het werkelijke doel. Stel je een inkoopagent voor die wordt beloond voor het verlagen van factuurprijzen, maar onbetrouwbare leveranciers kiest, waardoor de productie vaker stilvalt. Dit hypothetische voorbeeld laat zien hoe succes op basis van een beperkte doelstelling voor het bedrijf kan uitmonden in een mislukking.

De auteurs vragen hoe aansprakelijkheid moet werken wanneer ontwikkelaars niet elk risico van dit type kunnen uitsluiten en rechtbanken moeilijk onderscheid kunnen maken tussen een onvermijdelijke tekortkoming en onvoldoende voorzorgsmaatregelen.

Hoe verklaarbaarheid de aansprakelijkheid voor AI kan veranderen

De studie maakt gebruik van speltheorie, een wiskundige methode om beslissingen te bestuderen waarbij de belangen van verschillende partijen op elkaar inwerken. De studie onderzoekt hoe aansprakelijkheidsregels de bereidheid van ontwikkelaars beïnvloeden om te investeren in verklaarbaarheid.

Het voorgestelde mechanisme beloont ontwikkelaars die voldoen aan maatstaven voor verklaarbaarheid en overtuigend aantonen dat een schadelijk incident voortkwam uit een inherente beperking. Ontwikkelaars die tekortschietende verklaringen geven, lopen een groter aansprakelijkheidsrisico.

Dit betekent niet dat de aanschaf van bewakingssoftware automatisch juridische bescherming biedt. Het kader vereist geloofwaardige normen, bruikbaar bewijs en acceptatie binnen het toepasselijke rechtsstelsel.

Ook het onderscheid tussen de wiskundige uitkomst en de beleidsaanbeveling is van belang. Geen schadevergoeding voor ontwikkelaars geldt als theoretisch ijkpunt. In de bespreking van het beleid beveelt de studie een glijdende schaal aan die de schadevergoeding verlaagt zonder deze af te schaffen, zodat slachtoffers enige compensatie behouden.

Van AI-verklaringen naar verifieerbaar bewijs

Een bruikbare commerciële interpretatie van het onderzoek is dat bedrijven bewijs nodig hebben dat ze zelf kunnen beoordelen, en niet slechts overtuigende beschrijvingen van het gedrag van een agent.

Bij de hypothetische inkoopagent zouden onderzoekers gegevens willen zien over welke leveranciers de agent heeft overwogen, welke informatie hij heeft ontvangen, welke bevoegdheden hij had en of de vereiste goedkeuringen zijn verkregen. Deze gegevens zouden niet noodzakelijkerwijs alle interne berekeningen blootleggen, maar kunnen het wel gemakkelijker maken om een incident te reconstrueren.

Dat onderscheidt verklaarbaarheid van observeerbaarheid. Verklaarbaarheid gaat over inzicht in gedrag; observeerbaarheid gaat over het verzamelen van informatie over de werking van een systeem. Beide kunnen elkaar versterken, maar geen van beide bewijst automatisch dat een uitkomst onvermijdelijk was.

Volgens Gartners analyse van maart 2026 over investeringen in verklaarbare AI en observeerbaarheid zal in 2028 bij 50% van de generatieve AI-implementaties in observeerbaarheid worden geïnvesteerd, tegenover 15% ten tijde van de prognose. Dit is een prognose, maar ze laat zien dat er commercieel steeds meer aandacht is voor inzicht in systemen die al in gebruik zijn.

Voor kopers leiden hieruit drie praktische vragen voort:

• Kan de leverancier achterhalen welke ingrijpende acties een agent heeft uitgevoerd?
• Kan het bedrijf de bevoegdheden beperken en voor gevoelige beslissingen goedkeuring verplicht stellen?
• Kunnen onderzoekers bij een incident betrouwbare gegevensbestanden exporteren?

In een recente bespreking van identiteits- en toegangscontroles voor AI-agenten belicht Securities.io een aanverwant onderdeel van deze uitdaging. Weten welke agent handelde en waartoe die bevoegd was, vormt een eerste stap naar verantwoording.

Waarom beter toezicht meer automatisering mogelijk kan maken

De kansen reiken verder dan het beperken van mogelijke schade. Denk aan een bedrijf dat moet beslissen of een agent aankopen alleen mag aanbevelen of ze zelfstandig mag uitvoeren.

Als managers beslissingen niet kunnen onderzoeken of de verantwoordelijkheid niet kunnen vaststellen, houden ze mogelijk uitgebreide handmatige controles in stand. Dat beperkt de productiviteitswinst. Betere gegevensregistratie, duidelijke bevoegdheden en betrouwbare escalatieprocedures kunnen een bredere inzet aanvaardbaar maken.

Dit wijst op een tweede bron van waarde: governancehulpmiddelen kunnen technisch capabele agents omvormen tot systemen die bedrijven bereid zijn te gebruiken. Dat is een economische gevolgtrekking, geen uitkomst die in het artikel is gemeten.

Een in oktober 2026 in opdracht van IBM uitgevoerd onderzoek naar AI-governance in bedrijven laat zien hoe groot de kloof bij de implementatie is. Van de 3.221 ondervraagde senior managers in acht landen in Europa en het Midden-Oosten gaf 35% aan agentische AI in productie te gebruiken, terwijl slechts 37% zei dat hun governancesystemen ontworpen waren om mee te groeien met de inzet van agentische AI.

Dit zijn zelfgerapporteerde bevindingen uit onderzoek in opdracht van een aanbieder van governanceoplossingen, geen onafhankelijke meting van technische veiligheid. Toch wijzen ze op een praktisch inkoopprobleem: agents inzetten en er toezicht op houden zijn twee afzonderlijke capaciteiten.

Transparantie kan een inkoopvoordeel worden

Als twee agents vergelijkbare prestaties leveren, kunnen kopers de voorkeur geven aan de leverancier bij wie incidenten gemakkelijker te onderzoeken zijn. Daardoor ontstaat naast modelnauwkeurigheid ruimte om te concurreren op de kwaliteit van bewijs, integratiemogelijkheden en verantwoordingsplicht.

In de bespreking van verklaarbare AI bij marktprognoses wijst Securities.io op een verwant onderscheid: inzicht in het gedrag van een model heeft diagnostische waarde, ook als het niet aantoont dat het model winstgevende prestaties levert.

Voor agents in bedrijven kan dit betekenen dat contracten toegang tot gegevensbestanden, medewerking bij incidenten en verantwoordelijkheden voor goedkeuring vastleggen. Zulke bepalingen beantwoorden niet alle aansprakelijkheidsvragen, maar kunnen vóór de implementatie wel onzekerheid verminderen.

De afweging tussen verantwoording en concurrentie

Het artikel erkent dat eisen aan verklaarbaarheid kleinere ontwikkelaars onevenredig hoge kosten kunnen opleggen. Grotere bedrijven kunnen benchmarking, audits en gespecialiseerde teams mogelijk gemakkelijker financieren.

Een mogelijk gevolg is dat bedrijven sterker afhankelijk worden van gevestigde governanceplatforms. Ook kan er vraag ontstaan naar gedeelde standaarden en betaalbare hulpmiddelen waarmee kleinere leveranciers kunnen aantonen dat ze gelijkwaardige waarborgen bieden.

De kwaliteit van die standaarden is van belang. Het model gaat ervan uit dat benchmarking van verklaarbaarheid perfect kan worden geverifieerd, terwijl audits in de praktijk kunnen verschillen en oppervlakkige naleving mogelijk blijft. Ook gaat het ervan uit dat verklaarbaarheid de kans op schade verkleint; volgens de auteurs moet dat verband verder worden onderzocht.

Betere documentatie mag daarom niet worden opgevat als bewijs van veiliger gedrag. Een zinvolle evaluatie zou onderzoeken of toelichtingen helpen oorzaken vast te stellen, tekortkomingen te herstellen en herhaling te voorkomen.

De rol van IBM in AI-governance voor bedrijven

Deze behoeften rond implementatie vormen een vanzelfsprekend aanknopingspunt bij IBM voor beleggers die geïnteresseerd zijn in bedrijven die infrastructuur voor AI in organisaties ontwikkelen.

De update van oktober 2026 voor watsonx.governance van IBM breidt de mogelijkheden om agents te detecteren uit en koppelt operationele evaluatiemaatstaven aan governancecontroles. Integraties met Langfuse en Arize voegen monitoringgegevens toe aan governancegegevens, terwijl de integratie met watsonx Orchestrate vastgelegde controles koppelt aan bewijs van handhaving tijdens de uitvoering.

Deze mogelijkheden voorzien in een deel van de praktische behoefte aan bewijs. Ze tonen niet aan dat IBM voldoet aan de voorgestelde juridische maatstaven uit het artikel of dat klanten bescherming tegen aansprakelijkheid krijgen.

Het mogelijke commerciële voordeel schuilt in de hulp die bedrijven krijgen bij het beheer van agents binnen hun bestaande systemen. Als governance een voorwaarde wordt om automatisering uit te breiden, kan de vraag leiden tot inkomsten uit softwareabonnementen en implementatiewerk.

Voor beleggers is de volgende vraag of die vraag leidt tot bestendige omzet en aantrekkelijke marges. Relevante signalen zijn onder meer de acceptatie door klanten, uitbreiding buiten pilotprojecten en aanwijzingen dat governancecapaciteiten aankoopbeslissingen beïnvloeden. IBM biedt via zijn bredere bedrijfsactiviteiten blootstelling aan dit thema. Succes op het gebied van AI-governance alleen zou de beleggingsprestaties van IBM dan ook niet bepalen.

Het laatste nieuws en de ontwikkelingen rond IBM (IBM)

Verklaarbaarheid als basis voor commerciële AI

De paper biedt een kader om ontwikkelaars te belonen die onvoorspelbare fouten begrijpelijker maken. De praktische bijdrage ervan draait om de vraag welke prikkel verantwoordelijkheid biedt: hoe kan aansprakelijkheid investeringen in betere systemen stimuleren?

Voor bedrijven bestaat de kans erin autonomie gemakkelijker te beoordelen en in te zetten. Voor technologieleveranciers is het de uitdaging bewijs te leveren dat bruikbaar blijft wanneer beslissingen ter discussie worden gesteld. Het sterkste commerciële aanbod combineert capabele agents met beheersmaatregelen en documentatie waarop klanten daadwerkelijk kunnen vertrouwen.

Bronnen:

¹ Papyshev, G., Chan, K. J. D., & Migliorini, S. (2026). Aansprakelijkheid voor ontspoord gedrag van agentische AI. Telecommunications Policy, 50, artikel 103339. https://doi.org/10.1016/j.telpol.2026.103339