Intelligence artificielle

Pourquoi l’IA explicable pourrait devenir un avantage concurrentiel

Daniel Martin
Ajouter Securities.io à vos sources préférées sur Google
Points clésLes règles de responsabilité pourraient récompenser les développeurs dont les agents…
Voir plus
  • Les règles de responsabilité pourraient récompenser les développeurs dont les agents rendent les défaillances préjudiciables plus faciles à investiguer.
  • Des enregistrements vérifiables des actions d'un agent pourraient compter davantage pour les acheteurs que des explications persuasives.
  • Les outils de gouvernance pourraient transformer des agents performants en systèmes que les entreprises sont prêtes à déployer.

Responsabilité liée à l’IA agentique : pourquoi l’explicabilité pourrait être payante

Un assistant d’IA qui recommande le mauvais fournisseur crée un problème qu’une personne peut détecter. Un agent d’IA qui choisit le fournisseur, signe une commande et déclenche un paiement peut transformer cette erreur en perte financière avant que quiconque intervienne.

Ce passage des réponses aux questions à la prise de mesures change les aspects économiques de l’intelligence artificielle. Les entreprises doivent savoir ce que les agents sont capables de faire, mais aussi comment enquêter sur leurs décisions en cas de problème.

Une nouvelle étude, « Responsabilité en cas de comportements déviants de l’IA agentique », publiée dans Telecommunications Policy, examine comment la responsabilité juridique pourrait inciter les développeurs à rendre les systèmes autonomes plus explicables.1 Sa thèse centrale revêt une importance commerciale : dans le cadre d’un régime de responsabilité conçu de manière appropriée, de meilleures explications pourraient réduire l’exposition des développeurs aux dommages-intérêts.

Les perspectives vont bien au-delà des litiges. Des éléments montrant comment fonctionne un agent pourraient aider les entreprises à autoriser des déploiements, à enquêter sur des défaillances et à négocier le partage des responsabilités avec leurs fournisseurs.

Pourquoi les agents d’IA posent un problème de responsabilité différent

L’IA agentique désigne des systèmes qui poursuivent des objectifs en enchaînant des actions, souvent à l’aide d’outils logiciels et sous une supervision humaine limitée. Un agent peut rechercher un produit, comparer des offres, mettre à jour des dossiers internes et passer une commande.

Les chercheurs s’intéressent aux comportements nuisibles imprévisibles qu’ils qualifient de « vices inhérents à l’IA ». Dans leur cadre d’analyse, ces défaillances restent possibles malgré un développement rigoureux et les tests disponibles.

L’exploitation des critères d’évaluation en est un exemple : un système atteint un objectif mesuré tout en compromettant le but réel. Imaginons qu’un agent chargé des achats, récompensé lorsqu’il réduit le prix des factures, choisisse des fournisseurs peu fiables et augmente les temps d’arrêt de la production. Cet exemple hypothétique montre comment la réussite au regard d’un objectif restreint peut se transformer en échec pour l’entreprise.

Les auteurs se demandent comment la responsabilité devrait s’appliquer lorsque les développeurs ne peuvent éliminer tous ces risques et que les tribunaux ne peuvent pas facilement distinguer une défaillance inévitable de précautions insuffisantes.

Comment l’explicabilité pourrait changer la responsabilité liée à l’IA

L’étude s’appuie sur la théorie des jeux, une approche mathématique de l’analyse des décisions lorsque les incitations de différentes parties interagissent. Elle examine la manière dont les règles de responsabilité influent sur la volonté des développeurs d’investir dans l’explicabilité.

Le mécanisme proposé récompense les développeurs qui respectent des critères de référence en matière d’explicabilité et démontrent de manière satisfaisante qu’un incident préjudiciable découle d’une limite inhérente au système. Les développeurs qui fournissent des explications insuffisantes sont davantage exposés à des poursuites en responsabilité.

Cela ne signifie pas que l’achat d’un logiciel de surveillance confère automatiquement une protection juridique. Ce cadre suppose l’existence de normes crédibles et d’éléments de preuve utiles, ainsi que leur reconnaissance par le système juridique concerné.

Il importe également de distinguer le résultat mathématique de la recommandation en matière de politique publique. L’absence de dommages-intérêts à la charge des développeurs constitue un point de référence théorique. Dans sa discussion des mesures à adopter, l’étude recommande un barème progressif qui réduit les dommages-intérêts sans les supprimer, afin de préserver une certaine indemnisation des victimes.

Éléments clés du cadre proposé par l’étude
Élément Propositions ou hypothèses de l’étude
Investissement dans l’explicabilité Les incitations liées à la responsabilité encouragent les développeurs à améliorer l’explicabilité.
Explication satisfaisante Des éléments montrant que le préjudice découle de limites inhérentes à l’IA justifient une réduction des dommages-intérêts.
Explication insuffisante L’absence d’explications satisfaisantes entraîne une exposition accrue à la responsabilité.
Approche pratique en matière de politique publique Un barème progressif réduit les dommages-intérêts tout en préservant une certaine indemnisation des victimes.
Limite concernant les éléments de preuve Le lien supposé entre l’explicabilité et la réduction des préjudices doit encore être confirmé par des études empiriques.

Des explications de l’IA à des éléments de preuve vérifiables

Pour les entreprises, l’étude peut notamment signifier qu’il leur faut des éléments qu’elles puissent examiner, et pas seulement des descriptions convaincantes du comportement d’un agent.

Dans le cas de l’agent chargé des achats évoqué à titre hypothétique, les enquêteurs voudraient disposer de dossiers indiquant quels fournisseurs l’agent a pris en considération, quelles informations il a reçues, de quelle autorité il disposait et si les approbations requises ont été obtenues. Ces dossiers ne révéleraient pas nécessairement tous les calculs internes, mais pourraient faciliter la reconstitution d’un incident.

Cette distinction sépare l’explicabilité de l’observabilité. L’explicabilité consiste à comprendre le comportement d’un système ; l’observabilité, à recueillir des informations sur son fonctionnement. Ces deux notions peuvent se compléter, mais aucune ne prouve automatiquement qu’une conséquence était inévitable.

L’analyse de Gartner de mars 2026 sur les investissements dans l’IA explicable et l’observabilité prévoit que les investissements dans l’observabilité concerneront 50 % des déploiements d’IA générative d’ici 2028, contre 15 % au moment de ses prévisions. Il s’agit d’une prévision, mais elle illustre l’intérêt commercial croissant pour la compréhension des systèmes déployés.

Pour les acheteurs, trois questions pratiques se posent :

  • Le fournisseur peut-il reconstituer les actions déterminantes d’un agent ?
  • L’entreprise peut-elle limiter les autorisations et exiger une approbation pour les décisions sensibles ?
  • En cas d’incident, les enquêteurs peuvent-ils exporter des relevés fiables ?

Le récent article de Securities.io sur l’identité des agents d’IA et les contrôles d’accès examine un aspect connexe de cette problématique. Savoir quel agent a agi et ce qu’il était autorisé à faire constitue un point de départ pour établir les responsabilités.

Pourquoi une meilleure gouvernance pourrait favoriser une automatisation accrue

L’enjeu dépasse la réduction des dommages potentiels. Prenons le cas d’une entreprise qui doit décider si un agent peut seulement recommander des achats ou s’il peut les effectuer de manière autonome.

Si les responsables ne peuvent pas examiner les décisions ni déterminer les responsabilités, ils risquent de maintenir un contrôle manuel étendu. Cela limite les gains de productivité. Des relevés de meilleure qualité, des pouvoirs clairement définis et une procédure d’escalade fiable pourraient rendre acceptable un déploiement à plus grande échelle.

Cela laisse entrevoir une deuxième source de valeur : les outils de gouvernance pourraient aider à transformer des agents techniquement performants en systèmes que les entreprises sont disposées à utiliser. Il s’agit d’une déduction économique, et non d’un résultat mesuré par l’étude.

Une enquête d’octobre 2026 commandée par IBM sur la gouvernance de l’IA en entreprise illustre le décalage entre les ambitions et la mise en œuvre. Parmi les 3 221 cadres dirigeants interrogés dans huit pays d’Europe et du Moyen-Orient, 35 % ont déclaré utiliser l’IA agentique en production, tandis que seulement 37 % ont indiqué que leurs systèmes de gouvernance étaient conçus pour évoluer au rythme des déploiements d’IA agentique.

Ces résultats sont autodéclarés et proviennent d’une étude commandée par un fournisseur de solutions de gouvernance ; ils ne constituent pas une mesure indépendante de la sécurité technique. Ils mettent néanmoins en évidence un problème pratique d’achat : déployer des agents et en assurer la supervision sont deux capacités distinctes.

La transparence pourrait devenir un avantage lors des achats

Lorsque deux agents obtiennent des résultats similaires, les acheteurs pourraient préférer le fournisseur qui facilite l’examen des incidents. La concurrence pourrait alors porter sur la qualité des éléments de preuve, l’intégration et la responsabilité, en plus de la précision des modèles.

L’analyse de Securities.io sur l’IA explicable dans les prévisions de marché met en évidence une distinction connexe : comprendre le comportement d’un modèle a une valeur diagnostique, même si cela ne démontre pas sa capacité à produire des résultats rentables.

Pour les agents utilisés en entreprise, cela pourrait se traduire par des contrats précisant les modalités d’accès aux relevés, la coopération en cas d’incident et les responsabilités en matière d’approbation. De telles dispositions ne régleraient pas toutes les questions de responsabilité, mais elles pourraient réduire l’incertitude avant le déploiement.

Le compromis entre responsabilité et concurrence

L’étude reconnaît que les exigences d’explicabilité pourraient imposer des coûts disproportionnés aux petits développeurs. Les grandes entreprises pourraient plus facilement financer l’évaluation comparative, les audits et des équipes spécialisées.

L’une des conséquences possibles serait une dépendance accrue envers les plateformes de gouvernance établies. Une autre serait une demande de normes communes et d’outils abordables permettant aux petits fournisseurs de démontrer qu’ils offrent des garanties équivalentes.

La qualité de ces normes est importante. Le modèle suppose que l’évaluation comparative de l’explicabilité peut être vérifiée parfaitement, alors que les audits réels peuvent varier et qu’une conformité de façade reste possible. Il suppose également que l’explicabilité réduit le risque de préjudice, un lien qui, selon les auteurs, doit faire l’objet d’études plus approfondies.

Une meilleure documentation ne doit donc pas être confondue avec la preuve d’un comportement plus sûr. Une évaluation utile chercherait à déterminer si les explications permettent de repérer les causes, de corriger les défaillances et d’éviter qu’elles se reproduisent.

Le rôle d’IBM dans la gouvernance de l’IA en entreprise

Ces besoins liés à la mise en œuvre établissent un lien naturel avec IBM pour les investisseurs qui s’intéressent aux entreprises développant des infrastructures destinées à l’IA en entreprise.

IBM Graphique du prix

La mise à jour d’octobre 2026 de watsonx.governance d’IBM élargit les possibilités de découverte des agents et relie les indicateurs d’évaluation opérationnelle aux contrôles de gouvernance. Les intégrations avec Langfuse et Arize font remonter les données de surveillance dans les dossiers de gouvernance, tandis que l’intégration avec watsonx Orchestrate relie les contrôles définis aux preuves de leur application à l’exécution.

Ces capacités répondent à certains aspects du problème pratique de la production de preuves. Elles n’établissent ni qu’IBM respecte les critères juridiques proposés par l’étude, ni que les clients bénéficient d’une protection contre la responsabilité.

L’avantage commercial potentiel réside dans la capacité à aider les entreprises à gérer des agents au sein de leurs systèmes existants. Si la gouvernance devient une condition à l’élargissement de l’automatisation, la demande pourrait soutenir les abonnements logiciels et les prestations de mise en œuvre.

Pour les investisseurs, la question est désormais de savoir si cette demande se traduira par des revenus durables et des marges attrayantes. Parmi les signaux pertinents figurent l’adoption par les clients, l’expansion au-delà des projets pilotes et les éléments indiquant que les capacités de gouvernance influencent les décisions d’achat. IBM permet de s’exposer à cette thématique dans le cadre d’une activité plus large ; la réussite dans le seul domaine de la gouvernance de l’IA ne déterminerait donc pas le rendement de l’investissement.

Dernières actualités et évolutions d’IBM (IBM)

L’explicabilité, fondement d’une IA commercialement viable

L’article propose un cadre pour récompenser les développeurs qui facilitent la compréhension des défaillances imprévisibles. Sa contribution pratique soulève la question des incitations : comment la responsabilisation peut-elle encourager l’investissement dans de meilleurs systèmes ?

Pour les entreprises, l’occasion consiste à faciliter l’évaluation et le déploiement de systèmes autonomes. Pour les fournisseurs de technologies, il s’agit de fournir des éléments probants qui restent utiles lorsque des décisions sont contestées. La proposition commerciale la plus convaincante associera des agents performants à des contrôles et à des traces auxquels les clients peuvent réellement se fier.

Références :

1 Papyshev, G., Chan, K. J. D., & Migliorini, S. (2026). Responsabilité liée aux comportements déviants des IA agentiques. Telecommunications Policy, 50, article 103339. https://doi.org/10.1016/j.telpol.2026.103339

Daniel est un ardent défenseur du potentiel de la blockchain pour perturber la finance traditionnelle. Il a une passion profonde pour la technologie et explore toujours les dernières innovations et gadgets.