Perché l’IA spiegabile potrebbe diventare un vantaggio competitivo

Responsabilità dell’IA agentica: perché la spiegabilità potrebbe rivelarsi vantaggiosa

Un assistente IA che suggerisce il fornitore sbagliato crea un problema che qualcuno può individuare. Un agente IA che sceglie il fornitore, firma un ordine e avvia un pagamento può trasformare quell’errore in una perdita finanziaria prima che qualcuno possa intervenire.

Questo passaggio dal rispondere alle domande all’agire cambia l’economia dell’intelligenza artificiale. Le aziende devono sapere che cosa sono in grado di fare gli agenti, ma anche come esaminarne le decisioni quando qualcosa va storto.

Un nuovo studio, «Responsabilità per i comportamenti devianti dell’IA agentica», pubblicato su Telecommunications Policy, esamina in che modo la responsabilità giuridica potrebbe incentivare gli sviluppatori a rendere i sistemi autonomi più spiegabili.¹ La sua tesi centrale ha importanti implicazioni commerciali: in un quadro di responsabilità progettato in modo adeguato, spiegazioni migliori potrebbero ridurre l’esposizione degli sviluppatori al risarcimento dei danni.

Le opportunità più ampie vanno oltre il contenzioso. Le prove del funzionamento di un agente potrebbero aiutare le aziende ad approvarne l’implementazione, indagare sugli errori e negoziare con i fornitori la ripartizione delle responsabilità.

Perché gli agenti IA pongono un problema di responsabilità diverso

Con IA agentica si intendono sistemi che perseguono obiettivi attraverso sequenze di azioni, spesso utilizzando strumenti software con una supervisione umana limitata. Un agente potrebbe svolgere ricerche per un acquisto, confrontare offerte, aggiornare registri interni e inoltrare un ordine.

I ricercatori si concentrano sui comportamenti dannosi imprevedibili, che definiscono «vizi intrinseci dell’IA». Nel loro quadro di riferimento, si tratta di errori che restano possibili nonostante uno sviluppo diligente e i test disponibili.

Un esempio è l’aggiramento delle specifiche: un sistema soddisfa un obiettivo misurabile, compromettendo però lo scopo effettivo. Si immagini un agente addetto agli acquisti, premiato per abbassare i prezzi delle fatture, che scelga fornitori inaffidabili e aumenti i tempi di fermo della produzione. Questo esempio ipotetico mostra come il successo rispetto a un obiettivo circoscritto possa trasformarsi in un insuccesso per l’azienda.

Gli autori si chiedono come dovrebbe funzionare la responsabilità quando gli sviluppatori non possono eliminare ogni rischio di questo tipo e i tribunali non riescono a distinguere facilmente un errore inevitabile da precauzioni inadeguate.

Come la spiegabilità potrebbe cambiare la responsabilità per l’IA

Lo studio si avvale della teoria dei giochi, un approccio matematico per analizzare le decisioni quando interagiscono gli incentivi di parti diverse. Esamina come le norme sulla responsabilità influenzino la propensione degli sviluppatori a investire nella spiegabilità.

Il meccanismo proposto premia gli sviluppatori che rispettano i parametri di riferimento della spiegabilità e dimostrano in modo soddisfacente che un incidente dannoso è riconducibile a una limitazione intrinseca. Gli sviluppatori che forniscono spiegazioni carenti sono esposti a una maggiore responsabilità.

Questo non significa che acquistare un software di monitoraggio garantisca automaticamente una tutela giuridica. Il quadro richiede standard credibili, prove utili e il riconoscimento da parte del sistema giuridico competente.

È importante anche distinguere il risultato matematico dalla raccomandazione di politica pubblica. L’assenza di risarcimenti a carico degli sviluppatori è presentata come riferimento teorico. Nella discussione sulle politiche, lo studio raccomanda una scala progressiva che riduca i risarcimenti senza azzerarli, preservando una forma di compensazione per le vittime.

Dalle spiegazioni dell’IA a prove verificabili

Una possibile interpretazione commerciale della ricerca è che le aziende abbiano bisogno di prove che possano esaminare, non semplicemente di descrizioni convincenti del comportamento di un agente.

Nel caso ipotetico dell’agente addetto agli acquisti, chi indaga vorrebbe disporre di registrazioni che mostrino quali fornitori ha preso in considerazione, quali informazioni ha ricevuto, di quale autorità disponeva e se sono state ottenute le approvazioni richieste. Queste registrazioni non rivelerebbero necessariamente ogni calcolo interno, ma potrebbero rendere più semplice ricostruire l’accaduto.

Questa distinzione separa la spiegabilità dall’osservabilità. La spiegabilità riguarda la comprensione del comportamento; l’osservabilità consiste nel raccogliere informazioni sul funzionamento di un sistema. Le due cose possono integrarsi, ma nessuna delle due dimostra automaticamente che un esito fosse inevitabile.

L’analisi di Gartner del marzo 2026 sugli investimenti nell’IA spiegabile e nell’osservabilità prevede che entro il 2028 gli investimenti nell’osservabilità riguarderanno il 50% delle implementazioni di IA generativa, rispetto al 15% registrato al momento della previsione. Si tratta di una previsione, ma illustra la crescente attenzione commerciale rivolta alla comprensione dei sistemi già implementati.

Per chi acquista, si pongono tre domande pratiche:

• È possibile ricostruire le azioni rilevanti compiute da un agente?
• L’azienda può limitare le autorizzazioni e richiedere un’approvazione per le decisioni sensibili?
• In caso di incidente, chi indaga può esportare registrazioni attendibili?

Un recente approfondimento di Securities.io sui controlli di identità e accesso degli agenti di IA esamina un aspetto correlato di questa sfida. Sapere quale agente ha agito e quali autorizzazioni aveva costituisce un punto di partenza per attribuire le responsabilità.

Perché una governance migliore potrebbe sbloccare una maggiore automazione

L’opportunità va oltre la riduzione dei potenziali danni. Si consideri un’azienda che deve decidere se un agente possa limitarsi a consigliare gli acquisti o anche eseguirli autonomamente.

Se i responsabili non possono esaminare le decisioni o stabilire chi ne è responsabile, potrebbero mantenere un ampio ricorso alla verifica manuale. Ciò limita i vantaggi in termini di produttività. Registrazioni migliori, autorità chiaramente definite e procedure affidabili di escalation potrebbero rendere accettabile un’implementazione più ampia.

Ciò suggerisce una seconda fonte di valore: gli strumenti di governance potrebbero contribuire a trasformare agenti tecnicamente capaci in sistemi che le aziende sono disposte a utilizzare. È una deduzione economica, non un risultato misurato dallo studio.

Un sondaggio commissionato da IBM nell’ottobre 2026 sulla governance dell’IA nelle imprese illustra il divario tra obiettivi e attuazione. Tra i 3.221 dirigenti di alto livello intervistati in otto paesi dell’Europa e del Medio Oriente, il 35% ha dichiarato di utilizzare in produzione l’IA agentica, mentre solo il 37% ha affermato che i propri sistemi di governance erano progettati per adattarsi all’espansione delle implementazioni di IA agentica.

Si tratta di risultati autodichiarati, provenienti da una ricerca commissionata da un fornitore di soluzioni di governance, e non di una misurazione indipendente della sicurezza tecnica. Tuttavia, mettono in luce un problema pratico per gli acquirenti: implementare gli agenti e supervisionarli sono capacità distinte.

La trasparenza potrebbe diventare un vantaggio negli acquisti

Quando due agenti offrono prestazioni simili, gli acquirenti potrebbero preferire il fornitore che consente di indagare più facilmente sugli incidenti. Si apre così spazio per competere sulla qualità delle prove, sull’integrazione e sulla responsabilità, oltre che sulla precisione dei modelli.

L’analisi di Securities.io sull’IA spiegabile nelle previsioni di mercato evidenzia una distinzione correlata: comprendere il comportamento di un modello ha valore diagnostico anche quando non dimostra che le sue prestazioni siano redditizie.

Per gli agenti aziendali, ciò potrebbe tradursi in contratti che definiscono l’accesso alle registrazioni, la collaborazione in caso di incidente e le responsabilità relative alle approvazioni. Clausole di questo tipo non risolverebbero ogni questione di responsabilità, ma potrebbero ridurre l’incertezza prima dell’implementazione.

Il compromesso tra responsabilità e concorrenza

Lo studio riconosce che i requisiti di spiegabilità potrebbero imporre costi sproporzionati agli sviluppatori più piccoli. Le aziende più grandi potrebbero trovare più facile finanziare valutazioni comparative, audit e team specializzati.

Una possibile conseguenza è una maggiore dipendenza dalle piattaforme di governance consolidate. Un’altra è la crescita della domanda di standard condivisi e strumenti accessibili, che consentano ai fornitori più piccoli di dimostrare di offrire garanzie equivalenti.

La qualità di questi standard è importante. Il modello presuppone che i risultati delle valutazioni comparative della spiegabilità possano essere verificati perfettamente, mentre gli audit reali possono variare ed è ancora possibile una conformità solo superficiale. Presuppone inoltre che la spiegabilità riduca la probabilità di danni, un legame che, secondo gli autori, deve essere ulteriormente verificato.

Una documentazione migliore, quindi, non va scambiata per una prova di un comportamento più sicuro. Una valutazione utile dovrebbe verificare se le spiegazioni aiutano a individuare le cause, correggere gli errori e prevenirne il ripetersi.

Il ruolo di IBM nella governance dell’IA aziendale

Queste esigenze di attuazione creano un naturale collegamento con IBM per gli investitori interessati alle aziende che sviluppano infrastrutture per l’IA aziendale.

L’aggiornamento di watsonx.governance dell’ottobre 2026 amplia le funzionalità di individuazione degli agenti e collega le metriche di valutazione operativa ai controlli di governance. Le integrazioni con Langfuse e Arize inseriscono le informazioni di monitoraggio nelle registrazioni di governance, mentre l’integrazione con watsonx Orchestrate collega i controlli definiti alle prove della loro applicazione in fase di esecuzione.

Queste funzionalità affrontano alcuni aspetti pratici del problema relativo alle prove. Non dimostrano che IBM soddisfi i criteri giuridici proposti dallo studio né che i clienti siano tutelati dalla responsabilità.

Il potenziale vantaggio commerciale consiste nell’aiutare le imprese a gestire gli agenti nei sistemi che già utilizzano. Se la governance diventerà una condizione necessaria per ampliare l’automazione, la domanda potrebbe sostenere gli abbonamenti software e i servizi di implementazione.

Per gli investitori, la domanda successiva è se questa domanda genererà ricavi duraturi e margini interessanti. Tra i segnali rilevanti figurano l’adozione da parte dei clienti, l’espansione oltre i progetti pilota e le prove che le capacità di governance influenzino le decisioni di acquisto. IBM offre un’esposizione a questo tema nell’ambito di un’attività più ampia, perciò il successo nella sola governance dell’IA non determinerebbe i risultati dei suoi investimenti.

Ultime notizie e sviluppi su IBM (IBM)

La spiegabilità come fondamento dell’IA commerciale

Il documento propone un quadro per incentivare gli sviluppatori che rendono più comprensibili gli errori imprevedibili. Il suo contributo pratico consiste nel porre una domanda sugli incentivi: in che modo la responsabilità può incoraggiare gli investimenti in sistemi migliori?

Per le aziende, l’opportunità consiste nel rendere più facile valutare e implementare l’autonomia. Per i fornitori di tecnologia, consiste nel fornire prove che restino utili quando le decisioni vengono contestate. La proposta commerciale più convincente unirà agenti capaci a controlli e registrazioni di cui i clienti possano davvero fidarsi.

Riferimenti:

¹ Papyshev, G., Chan, K. J. D. e Migliorini, S. (2026). Responsabilità per i comportamenti anomali dell’IA agentica. Telecommunications Policy, 50, articolo 103339. https://doi.org/10.1016/j.telpol.2026.103339