Por que a IA explicável pode se tornar uma vantagem competitiva

Responsabilidade por IA agêntica: por que a explicabilidade pode compensar

Um assistente de IA que sugere o fornecedor errado cria um problema que alguém pode detectar. Já um agente de IA que escolhe o fornecedor, assina um pedido e inicia o pagamento pode transformar esse erro em prejuízo financeiro antes que alguém intervenha.

Essa mudança — de responder a perguntas para agir — altera a economia da inteligência artificial. As empresas precisam saber o que os agentes são capazes de fazer, mas também como investigar suas decisões quando algo dá errado.

Um novo estudo, “Responsabilidade por comportamentos descontrolados da IA agêntica”, publicado na revista Telecommunications Policy, examina como a responsabilidade jurídica poderia incentivar os desenvolvedores a criar sistemas autônomos mais explicáveis.¹ Sua principal tese tem relevância comercial: com uma estrutura de responsabilidade civil concebida adequadamente, explicações melhores poderiam reduzir a exposição dos desenvolvedores a indenizações.

A oportunidade mais ampla vai além dos litígios. Evidências sobre o funcionamento de um agente poderiam ajudar as empresas a aprovar implantações, investigar falhas e negociar responsabilidades com fornecedores.

Por que os agentes de IA criam um problema diferente de responsabilidade civil

IA agêntica é o termo usado para sistemas que perseguem objetivos por meio de sequências de ações, muitas vezes usando ferramentas de software com supervisão humana limitada. Um agente pode pesquisar uma compra, comparar ofertas, atualizar registros internos e fazer um pedido.

Os pesquisadores se concentram em comportamentos prejudiciais imprevisíveis, que descrevem como “vícios inerentes da IA”. Em sua estrutura conceitual, são falhas que continuam sendo possíveis apesar do desenvolvimento diligente e dos testes disponíveis.

Um exemplo é a manipulação da especificação: o sistema atinge um objetivo mensurável, mas compromete a finalidade real. Imagine um agente de compras recompensado por reduzir os preços das faturas que escolhe fornecedores pouco confiáveis e aumenta o tempo de inatividade da produção. Esse exemplo hipotético ilustra como o sucesso em relação a uma meta restrita pode se transformar em prejuízo para a empresa.

Os autores perguntam como a responsabilidade civil deve funcionar quando os desenvolvedores não conseguem eliminar todos esses riscos e os tribunais não conseguem distinguir facilmente uma falha inevitável de precauções inadequadas.

Como a explicabilidade poderia mudar a responsabilidade civil por IA

O artigo recorre à teoria dos jogos, uma abordagem matemática para estudar decisões quando os incentivos de diferentes partes interagem. Examina como as regras de responsabilidade influenciam a disposição dos desenvolvedores de investir em explicabilidade.

O mecanismo proposto recompensa os desenvolvedores que atendem a parâmetros de referência de explicabilidade e demonstram satisfatoriamente que um incidente prejudicial decorreu de uma limitação inerente. Desenvolvedores que fornecem explicações insuficientes ficam mais expostos à responsabilidade civil.

Isso não significa que a compra de um software de monitoramento garanta automaticamente proteção jurídica. A estrutura exige padrões confiáveis, evidências úteis e aceitação no sistema jurídico pertinente.

Também é importante distinguir o resultado matemático da recomendação de política pública. A ausência de indenização a cargo dos desenvolvedores aparece como parâmetro teórico. Na discussão de políticas públicas, o artigo recomenda uma escala progressiva que reduza as indenizações sem eliminá-las, preservando alguma compensação para as vítimas.

Das explicações sobre IA a evidências verificáveis

Uma interpretação comercial útil da pesquisa é que as empresas precisam de evidências que possam examinar, e não apenas de descrições convincentes do comportamento de um agente.

No caso do agente de compras hipotético, os investigadores gostariam de consultar registros que mostrassem quais fornecedores ele considerou, quais informações recebeu, que autoridade tinha e se as aprovações exigidas foram obtidas. Esses registros não revelariam necessariamente todos os cálculos internos, mas poderiam facilitar a reconstituição de um incidente.

Essa distinção separa a explicabilidade da observabilidade. A explicabilidade diz respeito à compreensão do comportamento; a observabilidade, à coleta de informações sobre o funcionamento de um sistema. As duas podem se complementar, mas nenhuma delas comprova automaticamente que um resultado era inevitável.

A análise da Gartner de março de 2026 sobre investimentos em IA explicável e observabilidade prevê que o investimento em observabilidade estará presente em 50% das implantações de IA generativa até 2028, ante 15% na época da previsão. Trata-se de uma previsão, mas ela ilustra a crescente atenção comercial dedicada à compreensão dos sistemas em operação.

Para quem compra, surgem três perguntas práticas:

• O fornecedor consegue reconstruir as ações relevantes de um agente?
• A empresa consegue limitar permissões e exigir aprovação para decisões sensíveis?
• Quando ocorre um incidente, os investigadores conseguem exportar registros confiáveis?

A cobertura recente da Securities.io sobre identidade e controles de acesso de agentes de IA explora um aspecto relacionado desse desafio. Saber qual agente agiu e o que estava autorizado a fazer é um ponto de partida para a responsabilização.

Por que uma governança melhor poderia ampliar a automação

A oportunidade vai além de reduzir possíveis danos. Pense em uma empresa que precisa decidir se um agente pode apenas recomendar compras ou executá-las de forma independente.

Se os gestores não conseguem investigar decisões nem determinar responsabilidades, podem manter uma ampla revisão manual. Isso limita os ganhos de produtividade. Registros melhores, autoridade clara e mecanismos confiáveis de escalonamento poderiam tornar aceitável uma implantação mais ampla.

Isso aponta para uma segunda fonte de valor: ferramentas de governança poderiam ajudar a transformar agentes tecnicamente capazes em sistemas que as empresas estejam dispostas a usar. Trata-se de uma inferência econômica, não de um resultado medido pelo estudo.

Uma pesquisa encomendada pela IBM sobre governança de IA nas empresas, realizada em outubro de 2026, ilustra a lacuna de implementação. Entre os 3.221 altos executivos entrevistados em oito países da Europa e do Oriente Médio, 35% afirmaram usar IA agêntica em produção, enquanto apenas 37% disseram que seus sistemas de governança foram projetados para acompanhar a expansão das implantações de IA agêntica.

Esses resultados são autorrelatados e vêm de uma pesquisa encomendada por um fornecedor de soluções de governança, não de uma avaliação independente da segurança técnica. Ainda assim, apontam um problema prático de compra: implantar agentes e supervisioná-los são capacidades distintas.

A transparência pode se tornar uma vantagem nas decisões de compra

Quando dois agentes têm desempenho semelhante, os compradores podem preferir o fornecedor que facilita a investigação de incidentes. Isso abre espaço para a concorrência em torno da qualidade das evidências, da integração e da responsabilização, além da precisão dos modelos.

A análise da Securities.io sobre IA explicável na previsão de mercado destaca uma distinção relacionada: compreender o comportamento de um modelo tem valor diagnóstico, mesmo quando isso não comprova um desempenho lucrativo.

No caso de agentes empresariais, isso poderia se traduzir em contratos que especificassem o acesso a registros, a cooperação em caso de incidente e as responsabilidades pela aprovação. Essas cláusulas não resolveriam todas as questões de responsabilidade, mas poderiam reduzir a incerteza antes da implantação.

O equilíbrio entre responsabilização e concorrência

O estudo reconhece que os requisitos de explicabilidade poderiam impor custos desproporcionais aos desenvolvedores menores. Empresas maiores talvez tenham mais facilidade para financiar avaliações comparativas, auditorias e equipes especializadas.

Um possível resultado é uma dependência maior de plataformas de governança já estabelecidas. Outra possibilidade é o aumento da demanda por padrões compartilhados e ferramentas acessíveis que permitam a fornecedores menores demonstrar salvaguardas equivalentes.

A qualidade desses padrões é importante. O modelo pressupõe que seja possível verificar perfeitamente as avaliações comparativas de explicabilidade, embora as auditorias reais possam variar e ainda seja possível cumprir os requisitos apenas superficialmente. Também pressupõe que a explicabilidade reduza a probabilidade de danos, uma relação que, segundo os autores, precisa ser mais bem testada.

Por isso, uma documentação melhor não deve ser confundida com prova de um comportamento mais seguro. Uma avaliação útil examinaria se as explicações ajudam a identificar causas, corrigir falhas e evitar que se repitam.

O papel da IBM na governança de IA empresarial

Essas necessidades de implementação criam uma conexão natural com a IBM para investidores interessados em empresas que desenvolvem infraestrutura para IA empresarial.

A atualização de outubro de 2026 do watsonx.governance, da IBM, amplia a descoberta de agentes e conecta métricas de avaliação operacional a controles de governança. As integrações com Langfuse e Arize incorporam informações de monitoramento aos registros de governança, enquanto a integração com watsonx Orchestrate vincula os controles definidos a evidências de sua aplicação em tempo de execução.

Esses recursos atendem a alguns aspectos do problema prático relacionado às evidências. Eles não demonstram que a IBM cumpre os parâmetros jurídicos propostos pelo estudo nem que os clientes recebem proteção contra responsabilidade.

A possível vantagem comercial está em ajudar as empresas a gerenciar agentes nos sistemas que já utilizam. Se a governança se tornar uma condição para ampliar a automação, a demanda poderá sustentar assinaturas de software e serviços de implementação.

Para os investidores, a próxima questão é saber se essa demanda gera receitas sustentáveis e margens atraentes. Entre os sinais relevantes estão a adoção por clientes, a expansão para além dos projetos-piloto e indícios de que os recursos de governança influenciam as decisões de compra. A IBM oferece exposição a esse tema como parte de um negócio mais amplo; portanto, o sucesso em governança de IA, por si só, não determinaria o desempenho de seus investimentos.

Últimas notícias e novidades sobre a IBM (IBM)

A explicabilidade como alicerce para a IA comercial

O artigo propõe uma estrutura para recompensar desenvolvedores que tornam mais fáceis de compreender as falhas imprevisíveis. Sua contribuição prática está em uma questão de incentivos: como a responsabilização pode estimular investimentos em sistemas melhores?

Para as empresas, a oportunidade está em tornar a autonomia mais fácil de avaliar e implementar. Para os fornecedores de tecnologia, está em apresentar evidências que continuem sendo úteis quando as decisões forem questionadas. A proposta comercial mais sólida combinará agentes capazes com controles e registros em que os clientes possam realmente confiar.

Referências:

¹ Papyshev, G., Chan, K. J. D. e Migliorini, S. (2026). Responsabilidade por comportamentos desviantes da IA agêntica. Telecommunications Policy, 50, artigo 103339. https://doi.org/10.1016/j.telpol.2026.103339