Modelo de IA UNITE Pode Detectar Qualquer Deepfake Sem Depender de Rostos

Os cientistas agora estão enfrentando o problema da IA com a própria IA. Pesquisadores da UC Riverside criaram um modelo UNITE para abordar o grave problema dos deepfakes. 

“As pessoas merecem saber se o que estão vendo é real,” disse Rohit Kundu, candidato a PhD da Marlan and Rosemary Bourns College of Engineering da UCR, que liderou o artigo ‘Rumo a um Detector Universal de Vídeo Sintético: De Manipulações de Rosto ou Fundo a Conteúdo Totalmente Gerado por IA.¹ “E à medida que a IA melhora em falsificar a realidade, precisamos melhorar em revelar a verdade.”

Os pesquisadores colaboraram com cientistas do Google, uma Alphabet (GOOG ) empresa, para desenvolver um novo modelo de IA que detecta adulteração de vídeo e expor conteúdo falso, que está sendo usado para espalhar desinformação e incitar danos. O estudo observou:

“A rápida disseminação de desinformação, particularmente durante períodos críticos como eleições, destaca a necessidade de modelos de detecção generalizáveis capazes de identificar manipulações diversas, incluindo rosto, fundo e conteúdo T2V/I2V totalmente gerado por IA com/sem sujeitos humanos.” 

O modelo é capaz de detectar tanto vídeos parcialmente manipulados quanto totalmente sintéticos. Em vez de focar apenas no rosto, como a maioria dos detectores convencionais faz, este modelo analisa quadros inteiros, independentemente de haver ou não um sujeito humano nos vídeos. 

Isso o torna uma ferramenta poderosa que pode ser usada por verificadores de fatos, educadores, editores, plataformas de mídia social e outros para impedir que vídeos adulterados se tornem virais.

A Ascensão da IA e a Sobrecarga Sintética Resultante

A Inteligência Artificial (IA) tem um potencial tremendo para revolucionar diversos aspectos de nossas vidas e trabalhos. 

A capacidade dessa tecnologia em automação, análise de dados e tomada de decisões já começou a transformar indústrias, projetada para adicionar trilhões de dólares à economia global até o final desta década.

Um estudo da gigante de previsões de mercado IDC estima que a ascensão da IA vai impulsionar a economia global em um total acumulado de US$ 19,9 trilhões até 2030.

A pesquisa da McKinsey, por sua vez, espera que o valor agregado pela IA generativa chegue a US$ 4,4 trilhões nos 63 casos de uso analisados pela consultoria global de gestão. Cerca de 75% do valor que a IA pode gerar seria apenas distribuído em quatro áreas:

• P&D
• Engenharia de Software
• Marketing e Vendas
• Operações de Cliente

Embora o impacto da tecnologia seja previsto como significativo em todos os setores, tecnologia e bancos podem ver o maior impacto como porcentagem de suas receitas provenientes da IA generativa. Goldman Sachs (GS ) tem a mesma visão, esperando um aumento de 7% no PIB global devido à IA. Os economistas do banco, Joseph Briggs e Devesh Kodnani, na época observavam:

“Apesar da considerável incerteza em torno do potencial da IA generativa, sua capacidade de gerar conteúdo indistinguível de produção humana e de quebrar barreiras de comunicação entre humanos e máquinas representa um avanço significativo com possíveis efeitos macroeconômicos de grande escala.”

Entretanto, essa mesma capacidade do sistema computacional de executar tarefas como aprendizado, resolução de problemas e tomada de decisões que tipicamente requerem inteligência humana, que está prestes a transformar o mundo, também está enviando o mundo ao caos. 

Quanto mais sofisticada a tecnologia se torna, mais tênue se torna a linha entre o que é real e o que não é.

Por Que Detectores Antigos de Deepfake Não Funcionam Mais

Nos últimos anos, os avanços em IA levaram a um aumento sem precedentes na mídia sintética. Estudos sugerem que mais da metade das postagens mais longas no LinkedIn são atualmente escritas por IA. Depois há o “AI slop”, que se refere a conteúdo gerado por IA de baixa qualidade e produção em massa.

Mas o que mais preocupa são os deepfakes, que são imagens, vídeos ou gravações de áudio que foram gerados ou alterados usando IA. É conteúdo fabricado que usa IA para apresentar uma representação falsa como realista.

Hoje, esse tipo de conteúdo está em todo lugar, permeando todos os cantos da Internet. Esses meios digitais hiper-realistas estão causando confusão e espalhando desinformação. Também representam uma ameaça à privacidade e segurança das pessoas. 

Cibercriminosos estão utilizando IA para melhorar suas táticas, realizando golpes de phishing e roubos de identidade com precisão alarmante. Segundo Kundu:

“É assustador como essas ferramentas se tornaram acessíveis. Qualquer pessoa com habilidades moderadas pode contornar filtros de segurança e gerar vídeos realistas de figuras públicas dizendo coisas que nunca disseram.”

Em um incidente desse tipo, cibercriminosos se passaram por um diretor financeiro (CFO) de uma empresa durante uma reunião no Zoom, resultando em uma perda de US$ 25 milhões. 

Isso é apenas o começo, porém, já que a Deloitte prevê que perdas por fraudes desse tipo chegarão a US$ 40 bilhões nos EUA até 2027, acima dos US$ 12,3 bilhões de 2023. Um relatório do Tesouro dos EUA também constatou que “os quadros de gerenciamento de risco existentes“ adotados por empresas “podem não ser adequados para cobrir tecnologias emergentes de IA.”

Isso não quer dizer que não existam ferramentas para ajudar a detectar conteúdo de IA e proteger-se contra os riscos da tecnologia. Na verdade, há muitas ferramentas disponíveis no mercado.

As mesmas empresas que lançam novas ferramentas de IA para facilitar a criação de conteúdo também estão introduzindo maneiras de ajudar a identificar dados sintéticos.

Em 2020, o gigante tecnológico Microsoft (MSFT ) anunciou um Video Authenticator para analisar uma imagem ou vídeo e fornecer uma pontuação de confiança para determinar se a mídia foi manipulada artificialmente. A ferramenta funciona detectando a fronteira de mesclagem do deepfake e o desbotamento sutil que o olho humano pode não perceber.

Na época, também introduziu tecnologia para identificar conteúdo falsificado e confirmar a autenticidade da mídia com a qual as pessoas interagem. Incluía uma ferramenta que permite a um criador adicionar hashes digitais e certificados ao seu conteúdo, que viverão dentro dele como metadados. Um leitor, por sua vez, poderia verificar os certificados e comparar os hashes para autenticidade do conteúdo.

O gigante tecnológico alertou sobre a utilidade de curto prazo da tecnologia na era impulsionada por IA. Como os deepfakes são gerados por IA que aprende continuamente, é apenas uma questão de tempo antes que superem os métodos tradicionais de detecção.

Por volta da mesma época, o Facebook, uma Meta (META ) empresa, também iniciou uma competição para desenvolver um detector de deepfake usando os dados que pesquisadores não tinham acesso anteriormente.

Alguns anos atrás, a Intel (INTC ) apresentou o FakeCatcher, um detector de deepfake em tempo real que, segundo alegações, possui uma precisão de 96%.

A ferramenta utilizou OpenVino para executar modelos de IA para algoritmos de detecção de rosto e marcos, enquanto blocos de visão computacional foram otimizados com seus Integrated Performance Primitives e OpenCV. Quanto ao hardware, a plataforma pode executar mais de setenta fluxos de detecção diferentes simultaneamente em seus processadores Xeon® Scalable de 3ª geração.

Em vez de tentar encontrar o que está errado, o FakeCatcher procura pistas autênticas avaliando o que nos torna humanos e então faz com que algoritmos traduzam esses sinais em mapas espaço‑temporais, e finalmente, usando deep learning para detectar instantaneamente se um vídeo é real ou falso.

No ano passado, a OpenAI também anunciou que estava pesquisando ferramentas para ajudar na autenticidade do conteúdo.

Isso inclui marca d’água de texto, que a empresa observou ser eficaz contra adulterações localizadas, mas não tanto contra adulterações globalizadas. Também afirmou que poderia “impactar desproporcionalmente“ grupos como falantes não nativos de inglês.

Essa atualização veio após o Wall Street Journal relatar que a empresa já desenvolveu uma ferramenta que marca d’água e detecta texto gerado pelo ChatGPT com “alta precisão“ por algum tempo, mas ainda não tomou uma decisão de lançá‑la.

Adicionalmente, a OpenAI ingressou no Comitê Diretor da C2PA (Coalition for Content Provenance and Authenticity), um padrão amplamente usado para certificação de conteúdo digital. A empresa adiciona metadados C2PA a todas as imagens criadas e editadas por todos os seus serviços, como parte das ferramentas de detecção de imagens.

Agora, neste ano, o Google também desenvolveu sua própria ferramenta de detecção de texto, imagem, áudio e vídeo gerados por IA chamada SynthID Detector. 

A ferramenta do Google, porém, funciona apenas para conteúdo que foi gerado usando os próprios serviços de IA do gigante tecnológico como Gemini, Imagen, Veo e Lyria. Isso ocorre porque a ferramenta basicamente identifica a presença de uma “marca d’água“ que os produtos do Google incorporam em sua saída.

Uma marca d’água é um elemento único, legível por máquina que é incorporado ao conteúdo. Inacessível para nós humanos, pode ser detectado e extraído por algoritmos desenvolvidos para esse propósito.

Dentro da Tecnologia que Impulsiona o Avanço do UNITE

Então, à medida que a IA avança rapidamente, também avançam as ferramentas para detectar o conteúdo gerado com sua ajuda. Mas não existe uma ferramenta universal que possa ser usada por todos em todos os tipos de conteúdo de IA.

Além disso, o foco das técnicas existentes de detecção de deepfake, em particular, permanece nas manipulações faciais como sincronização labial ou troca de rosto, e os avanços na tecnologia estão tornando essas abordagens inadequadas.

Com a inovação tecnológica avançando significativamente em modelos generativos de texto‑para‑vídeo (T2V) e imagem‑para‑vídeo (I2V), agora é possível que qualquer pessoa crie facilmente conteúdo sintético totalmente gerado por IA e alterações de fundo perfeitas. Isso, claro, coloca indivíduos, instituições e até nações em risco sério.

Nesse contexto, a dependência total dos detectores de deepfake anteriores no rosto os torna obsoletos no mundo tecnologicamente mais avançado de hoje. 

“Se não houver rosto no quadro, muitos detectores simplesmente não funcionam. Mas a desinformação pode aparecer de muitas formas. Alterar o fundo de uma cena pode distorcer a verdade com a mesma facilidade.”

– Kundu

Portanto, os detectores convencionais não funcionam nas manipulações mais recentes, já que o novo conteúdo sintético agora apresenta cenas e fundos completos, desafiando os métodos de detecção centrados no rosto.

Isso exige uma abordagem mais versátil. Como solução para esse problema, pesquisadores da UC Riverside introduziram o UNITE.

O modelo Universal Network for Identifying Tampered and Synthetic Videos (UNITE) captura manipulações de quadro completo.

“Os deepfakes evoluíram,“ disse Kundu, cujo foco na UC Riverside é aproveitar modelos de base para tarefas avançadas de visão, incluindo segmentação de imagens e detecção de mídia falsa. “Eles não se limitam mais a trocas de rosto. As pessoas agora criam vídeos totalmente falsos – de rostos a fundos – usando modelos generativos poderosos. Nosso sistema foi construído para capturar tudo isso.”

O modelo amplia as capacidades de detecção para cenários onde não há rostos ou não há sujeitos humanos, e além disso, pode identificar discrepâncias espaciais e temporais sutis e ainda cobrir modificações complexas de fundo que sistemas anteriores perderam.

Assim, ao analisar rostos bem como fundos e padrões de movimento, cobrindo quadros de vídeo completos, o UNITE oferece uma das primeiras ferramentas a identificar vídeos sintéticos que não dependem apenas de conteúdo facial.

Para isso, o modelo utiliza um modelo de deep learning baseado em transformer,  um tipo de rede neural que emprega um mecanismo de atenção multi‑cabeça para processar dados sequenciais. Aqui, o texto é convertido em representações numéricas chamadas tokens. Essa arquitetura é, na verdade a base de muitos modelos de linguagem modernos como GPT. 

Processando informações em paralelo, os transformers podem facilitar treinamento mais rápido e desempenho aprimorado.

No caso do UNITE, a arquitetura baseada em transformer processa recursos agnósticos de domínio que são extraídos de vídeos por meio do modelo de base SigLIP‑So400M. A estrutura de IA fundamental SigLIP extrai recursos que não estão vinculados a um objeto ou pessoa específicos.

Devido a conjuntos de dados limitados que cobrem mudanças tanto em rostos/fundos quanto em conteúdo texto‑para‑vídeo/imagem‑para‑vídeo, a equipe usou estratégias de treinamento inovadoras para seu modelo. Isso significa treinar usando dados irrelevantes para a tarefa junto com dados padrão de deepfake. 

Assim, além do popular conjunto de dados FaceForensics++, a equipe também utilizou o conjunto de dados SAIL‑VOS‑3D, que simula ambientes complexos, oferecendo cenas sintéticas diversas úteis para treinar modelos de detecção de IA.  Notavelmente, esse conjunto foi originalmente projetado para segmentação de objetos de vídeo 3D no jogo GTA‑V. Embora não seja gerado por IA, o conjunto é totalmente sintético e, como tal, ajuda a simular mídia gerada por IA. Esse, a equipe constatou, melhora a capacidade do modelo de detectar várias formas de manipulação sintética.

O Google forneceu acesso aos conjuntos de dados necessários, bem como recursos computacionais para treinar o modelo. 

Para reduzir a tendência do modelo de focar excessivamente em rostos, a equipe também usou uma perda de diversidade de atenção (AD loss), que incentiva atenção espacial variada ao longo dos quadros de vídeo.

A perda AD foi combinada com a entropia cruzada, também conhecida como função de perda logarítmica, comumente usada em aprendizado de máquina (ML) para medir o desempenho de um modelo de classificação, a fim de melhorar o desempenho do modelo em situações diversas.

Treinar apenas com a perda de entropia cruzada (CE) tende a dificultar o manejo de vídeos onde há um sujeito humano real com fundo manipulado ou conteúdo gerado por modelos T2V e I2V.

Portanto, a equipe introduziu a perda AD, que faz o sistema monitorar múltiplas regiões visuais em cada quadro, aumentando a capacidade do modelo de capturar sinais importantes tanto do primeiro plano quanto do fundo.

A perda AD marca a inovação chave na abordagem da equipe, permitindo que o UNITE não só se destaque na detecção de vídeos gerados por IA e alterados em fundo, mas também apresente uma melhoria notável na identificação do conteúdo tipicamente manipulado facialmente.

Ao comparar o desempenho do UNITE com outros modelos, a equipe constatou que ele “supera detectores de última geração em conjuntos de dados (em configurações cross‑data) que apresentam manipulações de rosto/fundo e vídeos T2V/I2V totalmente sintéticos, demonstrando sua adaptabilidade e capacidades de detecção generalizáveis.”

Em um mundo cada vez mais digitalizado e automatizado, o novo sistema oferece um detector universal que pode sinalizar uma variedade de falsificações, desde trocas faciais simples até vídeos totalmente sintéticos criados sem qualquer filmagem real. Segundo Kundu:

“É um modelo que lida com todos esses cenários. É isso que o torna universal.”

Atualmente em desenvolvimento, o UNITE, segundo seus criadores, é uma ferramenta valiosa no cenário emergente de detecção de vídeos sintéticos. Em breve, pode ser esperado que desempenhe um papel fundamental na defesa contra desinformação em vídeo.

Investindo em Detecção Baseada em IA

No âmbito da IA, Palantir Technologies (PLTR ) é conhecida por sua integração de dados impulsionada por IA, reconhecimento de padrões e detecção de anomalias. 

A empresa opera através de quatro principais plataformas de software: Gotham, Foundry, Apollo e AIP. Apollo é uma camada de controle única que coordena configuração, atualizações de segurança e entrega de novos recursos para garantir a operação contínua de sistemas críticos. Gotham permite que usuários identifiquem padrões ocultos em grandes conjuntos de dados, enquanto Foundry serve como o sistema operacional para gestão eficaz de ativos e riscos. AIP permite que empresas executem LLMs e outros modelos com controle total.

Palantir Technologies (PLTR )

A Palantir possui fortes laços com o governo dos EUA, militares e agências de inteligência. Este ano, ela obteve um contrato de US$ 30 milhões para aplicar análise de IA a registros de imigração.

Com uma capitalização de mercado de US$ 372 bilhões, as ações PLTR estão atualmente negociadas a US$ 157,72, um aumento de impressionantes 109,35% no ano, graças à demanda por IA, enorme interesse de varejo e expansão de contratos governamentais. Seu EPS (TTM) é 0,23, e o P/E (TTM) é 687,90.

Financeiramente, a Palantir registrou um aumento de 39% YoY na receita, totalizando US$ 884 milhões no 1T 2025. Sua receita nos EUA, por sua vez, cresceu 55% YoY para US$ 628 milhões, incluindo US$ 255 milhões em receita comercial nos EUA e US$ 373 milhões em receita governamental nos EUA.

Durante esse período, a empresa registrou seu maior valor total de contratos comerciais nos EUA, com o valor restante dos acordos em US$ 2,32 bilhões. 

O número de clientes da Palantir no 1T25 aumentou 39% YoY. Seu lucro por ação GAAP foi US$ 0,08, e o EPS ajustado foi US$ 0,13. Caixa, equivalentes de caixa e títulos do Tesouro dos EUA de curto prazo totalizavam US$ 5,4 bilhões no final do trimestre.

“Estamos entregando o sistema operacional para a empresa moderna na era da IA. Estamos no meio de uma mudança tectônica na adoção de nosso software, particularmente nos EUA.”

– CEO Alexander C. Karp

Últimas Palantir Technologies (PLTR) Notícias de Ações e Desenvolvimentos

Conclusão

O advento da inteligência artificial mudou completamente o mundo, com indivíduos e organizações adotando cada vez mais a tecnologia para melhorar a produtividade e aprimorar a tomada de decisões.

Previsto para contribuir trilhões para a economia mundial, a IA não está isenta de perigos. Deepfakes e seu uso para desinformar e fraudar pessoas são um dos riscos mais críticos da adoção generalizada da IA. 

À medida que se torna mais difícil diferenciar o que é real do que é sintético, ferramentas como o UNITE tornam‑se ainda mais importantes e urgentes. Com este modelo de IA generalizável como proteção contra conteúdo falsificado, podemos mitigar o impacto negativo da IA enquanto aproveitamos seus efeitos positivos em nosso trabalho e vidas.

Clique aqui para aprender tudo sobre investir em inteligência artificial.

Referências:

1. Kundu, R.; Xiong, H.; Mohanty, V.; Balachandran, A.; Roy‑Chowdhury, A. K.; et al. Rumo a um Detector Universal de Vídeo Sintético: De Manipulações de Rosto ou Fundo a Conteúdo Totalmente Gerado por IA. arXiv preprint arXiv:2412.12278 (2024). https://doi.org/10.48550/arXiv.2412.12278

Detector: De Manipulações de Rosto ou Fundo a Conteúdo Totalmente Gerado por IA. preprint arXiv arXiv:2412.12278 (2024). https://doi.org/10.48550/arXiv.2412.12278