O Confronto Entre o Poder da IA e as Normas Democráticas

À medida que a tecnologia de IA se torna mais difundida e poderosa, tem se tornado cada vez mais difícil encontrar um equilíbrio entre os valores democráticos e o progresso tecnológico. Por outro lado, nunca foi tão fácil para as pessoas compartilhar suas visões com as massas.

No entanto, a IA carece de limites, o que significa que ela constantemente ultrapassa as fronteiras de quase todas as métricas sociais. Veja como os desenvolvedores de IA continuam tentando criar harmonia entre as capacidades da IA e os valores democráticos, e por que isso pode ser impossível.

Como a IA Está Redefinindo as Proteções da Liberdade de Expressão

A inteligência artificial teve um efeito retumbante na liberdade de expressão. Por um lado, facilitou que as pessoas criem representações vibrantes de sua visão e as compartilhem com o público via redes sociais. Também reduziu os custos de produção a quase zero, permitindo que qualquer organização defenda sua causa virtualmente.

As ferramentas de IA oferecem vários benefícios, incluindo a capacidade de alterar e personalizar facilmente suas mensagens para atender a demografias específicas. Além disso, o conteúdo de IA tem, até agora, sido considerado sob as proteções da Primeira Emenda. Dessa forma, permite aos criadores livre expressão.

Por outro lado, a IA gerou uma enxurrada de desinformação. Está mais difícil do que nunca para as pessoas discernir quais informações vêm de um especialista genuíno e quais foram criadas por um algoritmo. Infelizmente, o resultado é a erosão da confiança nos sistemas.

Como os Algoritmos das Redes Sociais Amplificam a Desinformação da IA

Acrescentando ao caos, os algoritmos das redes sociais podem promover deepfakes, pois são frequentemente mais controversos, resultando em maior interação. Isso cria um ciclo em que as falsidades são exibidas de forma mais proeminente que as informações reais. Infelizmente, não há nenhuma exigência que a desinformação de IA deva ser rotulada.

IA e Participação Cidadã em Sistemas Democráticos

A inteligência artificial abre a porta para uma participação mais ampla dos cidadãos. Seus sistemas facilitam a comunicação de ideias entre o governo e os cidadãos e o acompanhamento do consenso público. Além disso, tem se mostrado útil ao resumir legislações complexas e compartilhar dados essenciais para informar os cidadãos.

Riscos de Vigilância da IA e Preocupações Democráticas com a Privacidade

Existem vários riscos de vigilância que a IA cria juntamente com a promoção da participação. Esses sistemas podem rastrear facilmente os eleitores. Existem sistemas de IA que podem analisar todo o seu rastro digital e fornecer uma avaliação de suas opiniões políticas com base em sua atividade na web.

Além disso, essa tecnologia pode ser usada para determinar quem uma pessoa é com base em seu rastro digital ou preferências. Todas essas ferramentas não exigem mandado como as tecnologias anteriores. Dessa forma, o potencial de abuso é ampliado.

O Papel da IA nas Eleições Modernas e na Integridade Eleitoral

A inteligência artificial oferece vários benefícios ao processo eleitoral. Por um lado, facilita o monitoramento dos resultados. Os sistemas de IA também podem ajudar a rastrear quaisquer interrupções, como intimidação ou ameaças a eleitores.

Deepfakes de IA e a Crise da Confiança Política

De toda a desinformação de IA que causa caos hoje, os principais problemas surgem em torno dos deepfakes. Essa tecnologia permite que as pessoas criem facilmente duplicatas de funcionários públicos, profissionais da indústria ou qualquer pessoa que desejem, incluindo candidatos políticos.

Fonte – BBC

Os deepfakes políticos continuam a causar dores de cabeça para os funcionários e distorcer informações ao público. O problema é que esses falsos se tornaram quase indistinguíveis da realidade. Dessa forma, foram adotados por quase todo tipo de grupo que busca criar caos ou semear a desconfiança no público.

O “Dividendo do Mentiroso” e a Erosão da Confiança Pública

O bombardeio constante de deepfakes de IA tem outro efeito inesperado – o dividendo do mentiroso. Esse termo refere-se a um incidente que possui fatos e evidências genuínas, mas ainda assim é negado pelo acusado como sendo um deepfake de IA.

Essa estratégia degrada a confiança nos sistemas e cria um cenário em que a pessoa média não pode tomar decisões informadas. Também elimina qualquer chance de debate razoável, pois todos os lados ficam polarizados em tópicos devido à desinformação.

Exemplos Reais de Deepfakes de IA em Eleições

Existem vários exemplos recentes de deepfakes causando estragos durante eleições. Um incidente notável ocorreu em 21 de janeiro de 2024, quando foi usado um deepfake de chamada automática. O sistema de IA foi configurado para contatar democratas registrados.

Quando atenderam, uma voz deepfake do presidente Joe Biden foi usada para instá-los a “salvar seu voto para novembro”. Relatórios mostram que sua mensagem foi enviada a 20.000 pessoas, resultando em muitos optando por não participar das eleições, conforme a mensagem indicava.

Quando surgiram relatos sobre as chamadas automáticas, uma investigação foi iniciada. Contudo, já era após a conclusão da eleição, e nenhuma cédula foi recontada. Esse cenário é apenas um dos muitos que destacam os perigos da interferência de deepfakes de IA nas eleições.

Escândalo de Deepfake nas Eleições da Eslováquia de 2023

Outro exemplo de interferência de IA nas eleições ocorreu nas eleições da Eslováquia de 2023. Nesse incidente, surgiu um vídeo falso mostrando o líder do Progressive Slovakia, Michal Šimečka, discutindo a manipulação da eleição. O vídeo foi posteriormente rotulado como falso, mas somente depois de ter recebido milhões de visualizações e compartilhamentos no TikTok, Facebook e Telegram.

Como Detectar Deepfakes de IA em 2026

Detectar deepfakes não é tarefa fácil. Antes, a tecnologia deixava muitos erros, como piscadas não naturais, iluminação estranha ou até a aparência de sincronização labial. Pesquisas sugerem que os humanos frequentemente têm dificuldade em detectar deepfakes de alta qualidade, apresentando desempenho próximo ao acaso dependendo do contexto e da modalidade.

Uma forma de determinar se um vídeo é um deepfake é pesquisar os quadros de imagem usando o Google para encontrar o conteúdo original. Também se pode usar o áudio para buscar sons não naturais. Em alguns casos, é impossível detectar um deepfake de alta qualidade sem ferramentas técnicas.

Principais Ferramentas de Detecção de Deepfake de IA e Suas Limitações

Ironicamente, as ferramentas de IA são a melhor opção ao tentar determinar a legitimidade de um vídeo. Essas opções incluem Deepware Scanner, Reality Defender, o Video Authenticator da Microsoft, entre outras.

Esses protocolos possuem algoritmos proprietários projetados para localizar quaisquer inconsistências de pixels ou padrões encontrados em quadros de vídeo de IA. Esses sistemas também podem cruzar as ocorrências com dados locais, permitindo revelar uma interferência de IA.

As melhores ferramentas de detecção de IA não são perfeitas, com protocolos como Bio-ID alcançando 98% em testes recentes. O fato de que 2% dos deepfakes foram discerníveis até mesmo por outros sistemas de IA é motivo de preocupação para o futuro.

Alfabetização Midiática como Defesa contra a Manipulação de IA

Talvez a melhor forma de combater deepfakes seja focar na promoção da alfabetização midiática entre as massas. É essencial que exista um rótulo obrigatório que facilite a determinação se um vídeo é um deepfake ou legítimo.

Por que a Autorregulação das Grandes Tecnologias Falhou na Governança da IA

A história mostrou que as empresas de tecnologia não podem se autorregular. Seu foco está no lucro e na inovação. Esse desejo pode vir às custas da privacidade e da verdade. Dessa forma, não há cenário em que uma empresa de tecnologia consiga impedir efetivamente que deepfakes cheguem aos seus seguidores.

Esforços Governamentais de Regulação da IA em 2026

Como as empresas de tecnologia são incapazes de fornecer as proteções necessárias contra esses problemas, os governos começaram a assumir a liderança. No entanto, esse cenário não é ideal, pois os governos não compreendem a tecnologia de maneira que lhes permita criar salvaguardas que não inibam a inovação.

Empresas de IA vs Governo: O Conflito de Políticas de 2026

A fissura entre governos e provedores de IA começou a crescer nos últimos meses. Enquanto os legisladores estão ansiosos para proteger o público de deepfakes e desinformação, os militares continuam a pressionar pela integração total de ferramentas de IA em seu arsenal.

Esse desejo de usar a tecnologia como parte da cadeia de destruição resultou em várias disputas públicas entre empresas e o governo dos EUA. Aqui estão alguns dos incidentes mais recentes, destacando os riscos e o potencial lado sombrio da guerra de IA.

Anthropic vs o Departamento de Defesa dos EUA

Anthropic está no meio de uma disputa pública com o Departamento de Defesa dos EUA sobre o uso de seu modelo Claude AI. O desacordo gira em torno da concessão de acesso ilimitado à IA, o que poderia resultar no uso do sistema para conduzir vigilância doméstica em massa.

A Anthropic, que foi lançada em 2021, também negou o acesso total devido a preocupações sobre a confiabilidade dos sistemas de direcionamento de IA. Ambas as linhas vermelhas foram estabelecidas pelo CEO da empresa, Dario Amodei, citando a falta de confiabilidade como principal preocupação.

Limites Propostos pela Anthropic ao Uso Militar da IA

Para esta parte, o Pentágono argumenta que este contrato de US$ 200 milhões deveria incluir acesso irrestrito. A Anthropic fez algumas concessões durante o debate, permitindo que os sistemas de IA fossem usados em mísseis e defesa. Até declarou que seria aceitável com operações da NSA, desde que excluíssem a vigilância em massa de cidadãos dos EUA.

Por que o Pentágono Rejeitou as Restrições da Anthropic

No entanto, isso não foi suficiente para os oficiais do Pentágono. Pouco depois de a Anthropic negar essa alegação, a administração Trump proibiu seus produtos de serem usados por qualquer organização federal. Especificamente, o presidente rotulou os produtos da Anthropic como um “risco à segurança nacional”. Reportagens sobre a disputa também citaram o Defense Production Act como uma possível ferramenta de pressão, embora a justificativa legal precisa deva ser descrita cuidadosamente, a menos que seja citada diretamente da ordem.

Essa manobra significa que a Anthropic não poderá garantir contratos militares ou governamentais no futuro, deixando a empresa em um cenário precário onde deve escolher entre seus princípios fundamentais e o lucro.

Como a OpenAI e a xAI Responderam à Mudança do Pentágono

A concorrente da Anthropic, OpenAI, rapidamente entrou para preencher a lacuna, prometendo total conformidade com o Pentágono. Dessa forma, a empresa assinou um acordo classificado com o governo, que inclui uso legal irrestrito de seu sistema de IA.

Aplicações Militares Atuais da Inteligência Artificial

Já existem muitos exemplos de sistemas de IA ajudando a aumentar o ritmo e a escala da guerra. Esses sistemas são otimizados para trabalhar em conjunto com o número crescente de sistemas autônomos, como a tecnologia de enxames de drones.

A inteligência artificial é vista como um divisor de águas porque pode combinar entradas de uma enorme variedade de sensores para fornecer alvos mais rápidos e mais. Também é crucial nos setores logístico e financeiro das forças armadas, onde pode ajudar a garantir manutenção preventiva e outras tarefas essenciais dentro do cronograma.

Uso de Sistemas de Alvo de IA da Israel em Gaza

O uso de sistemas de alvo de IA foi destacado na campanha de Gaza de Israel. Essas operações utilizaram ferramentas como Lavender para cruzar os movimentos de uma pessoa com possíveis comportamentos militantes.

Essa ferramenta permitiu ao exército israelense rastrear e mirar combatentes de baixo escalão do Hamas antes de bombear suas casas. Notavelmente, o sistema teria uma taxa de erro de 10% segundo o pessoal militar israelense. Contudo, esse número é altamente debatível.

O Sistema de Alvo de IA “Gospel” Explicado

Outra ferramenta de IA israelense chamada Gospel está configurada para fornecer 100 alvos diários. Ela cruza movimentos e outros dados para localizar possíveis edifícios que possam abrigar combatentes inimigos. Esse sistema costuma ser usado com o programa de IA “Where’s Daddy”, que permite o rastreamento autônomo de pessoal sinalizado.

IA na Aplicação da Lei: Detecção de Ameaças e Riscos à Privacidade

O uso de sistemas de IA na aplicação da lei é outro debate intensamente contestado. Muitas pessoas ficaram surpresas ao descobrir que os sistemas do ChatGPT sinalizaram o atirador em massa de Tumbler Ridge, no Canadá, Jesse Van Rootselaar, como uma ameaça potencial.

Especificamente, o sistema de IA observou violações de política oito meses antes, nas quais o usuário repetidamente fez perguntas relacionadas à violência armada. A consulta foi enviada a vários revisores humanos, o que levou à suspensão da conta e à sinalização do usuário.

Por que os Sistemas de Sinalização de IA Frequentemente Falham em Acionar Intervenção

Apesar dos sinais de alerta, a empresa afirma que a conta não ultrapassou o limiar para o que consideram uma ameaça ativa. Assim, as autoridades nunca foram notificadas. Se tivessem sido, poderiam ter entrevistado e salvo oito vidas em 10 de fevereiro de 2026.

Curiosamente, registros internos da empresa mostram que houve um debate sobre notificar as autoridades após a suspensão da conta. Mais tarde, revelou-se que o atirador abriu outra conta, contornando a proibição antes de seus ataques.

Funcionários do governo argumentam que era responsabilidade da OpenAI notificar as autoridades sobre o chat suspeito, e que, se o fizesse, poderia ter ajudado a salvar vidas. Por outro lado, a empresa afirmou que melhorará o compartilhamento de dados e o tempo de resposta, reduzindo seus limiares.

A Carta de Ética de IA “We Will Not Be Divided”

A We Will Not Be Divided Letter é um chamado aberto para que funcionários de IA se oponham publicamente a armas totalmente autônomas e à vigilância em massa, e para pressionar compromissos de segurança executáveis em todo o setor. A carta insta os desenvolvedores de IA a não apoiar armas totalmente autônomas ou operações de vigilância em massa de nenhuma forma.

Ela também cria uma lista de diretrizes de segurança compartilhadas projetadas para prevenir um cenário de IA descontrolada. Essas diretrizes incluem itens como a inclusão de um humano no processo para supervisão e aprovação de quaisquer atividades letais. Também promove a transparência para prevenir abusos.

O objetivo central da carta é criar um conjunto de padrões éticos que todas as empresas de IA possam seguir para impedir que a tecnologia torne a vida um inferno para todos no planeta. Isso ocorre em um ponto crítico da adoção da IA, à medida que os militares se tornaram dependentes dessa tecnologia para operações de alvo e coleta de informações.

Posição das Principais Empresas de IA sobre o Uso Governamental e Militar

Ao examinar esses dois cenários muito diferentes, percebe-se como as empresas de IA continuam a integrar operações com agências governamentais. Essa integração exigirá um equilíbrio delicado entre capacidades, salvaguardas e transparência para prevenir abusos. Aqui está a posição atual de cada empresa sobre operações governamentais.

Deslize para Rolar →

Anthropic

A Anthropic manteve seus padrões centrais, buscando manter limites rígidos no uso de direcionamento autônomo e vigilância em massa. No entanto, parece estar pagando caro por sua bússola moral, já que agências federais passaram a restringir ou descontinuar o uso de seus modelos em certos ambientes.

OpenAI

A OpenAI é totalmente favorável à integração governamental. A empresa estava ansiosa para ganhar posição quando a Anthropic perdeu seu contrato com o Departamento de Defesa devido à manutenção de seu núcleo de missão. A OpenAI concordou em implantar modelos em ambientes de defesa sob um quadro de “uso legal”. A empresa afirma que proíbe a vigilância em massa doméstica e exige responsabilidade humana para o uso da força.

xAI

A xAI de Elon Musk tem sido uma forte defensora da integração da IA na doutrina de guerra. Relatórios indicam que a xAI sinalizou disposição para apoiar implantações governamentais classificadas sob termos de “uso legal”, embora os detalhes operacionais permaneçam limitados.

Google

Google (GOOGL ) tem tido muito debate interno sobre o uso de seu sistema em guerras. A empresa teve mais de 300 funcionários principais assinando uma carta aberta que instou os provedores de IA a rejeitar contratos abertos com o Pentágono. No entanto, a Google possui mais de $200M em contratos CDAO, o que significa que está sob muita pressão para ceder.

Últimas Notícias e Desempenho da GOOGLE (GOOGL)

O Futuro da Governança de IA e da Estabilidade Democrática

Ao examinar a integração de sistemas de IA em tudo, desde o governo até operações militares, torna-se fácil reconhecer a necessidade de algumas salvaguardas. Esses sistemas se tornaram incrivelmente poderosos tanto em termos técnicos quanto sociais. Esperançosamente, as empresas de IA perceberão a importância de sua divisão e aderirão a padrões éticos antes que seja tarde demais. No momento, parece que os lucros vão vencer essa corrida.

Saiba mais sobre outros desenvolvimentos de IA aqui.