Inteligência artificial
Garantindo Autenticidade com o Amanhecer da Inteligência Artificial (IA)
A adoção de IA em todos os aspectos da vida está em alta. Estimativas sugerem que o mercado está prestes a aumentar três vezes em um período de sete anos.
De um tamanho de quase US$ 242 bilhões, espera-se que cresça para quase US$ 740 bilhões até 2030. Diferentes indústrias começaram a incorporar IA em suas operações. As indústrias que mais se beneficiaram disso até agora foram saúde, finanças, manufatura, serviços empresariais e legais, etc.
Em menor medida, a IA começou a alterar os paradigmas operacionais em indústrias como mídia, entretenimento, segurança, varejo, energia, etc.
Com o aumento da adoção de IA, o desafio de garantir a autenticidade surgiu como uma questão significativa que precisa ser abordada imediatamente.Começamos nossa discussão de hoje olhando para quais são esses desafios.
Clique aqui para aprender tudo sobre investir em inteligência artificial.
Desafios de Autenticidade na Adoção de IA
O que é uma força da IA emergiu como sua fraqueza. Algoritmos de IA são capazes de gerar imagens, vídeos, artigos e qualquer outra forma de conteúdo multimídia que poderia ser imensamente difícil para um espectador médio distinguir do original.
Para o olho médio, pode parecer informações autênticas de uma fonte confiável, enquanto na realidade, poderia ser diametralmente oposto: conteúdo falso gerado para propaganda maliciosa. Vários eventos ocorreram no passado recente que expõem esse lado do crescimento da adoção de IA.
Imagem de Explosão no Pentágono Gerada por IA
Em maio de 2023, notícias foram publicadas sobre uma explosão perto do Pentágono nos Estados Unidos. A imagem mostrava muita fumaça preta saindo do jardim perto do prédio do Pentágono. Essa imagem foi compartilhada por uma conta verificada do Twitter, Bloomberg Feed, que tinha um tick azul. Logo após, muitas contas verificadas com ticks azuis também compartilharam a imagem. No entanto, era uma imagem gerada por IA, e enganou muitos.
A recente política do X de tornar ticks azuis disponíveis por uma taxa mensal de US$ 8 ainda mais agravou o problema.
Desde que qualquer pessoa pode ter uma conta verificada e contas verificadas recebem mais visibilidade, a notícia se espalhou rapidamente, levantando preocupações sobre figuras públicas falsas, funcionários do governo e sites de notícias, criando caos e uma crise de autenticidade no reino digital.
Embora a imagem mal pudesse ser reconhecida como gerada por IA por um usuário médio de mídia social X, alguns pesquisadores de IA puderam identificar as falhas ou irregularidades.
De acordo com Nick Waters, um desses pesquisadores de IA:
“A ‘fusão incomum’ da cerca do prédio com as barreiras da multidão mostrou que a imagem poderia ter sido feita ou manipulada artificialmente.”
No entanto, a falsificação alcançou seu objetivo, mesmo que por um breve momento, criando caos e confusão nas mídias sociais e além.
Milhares de Imagens Falsas no Adobe Stock
De acordo com um relatório publicado no Washington Post, imagens de estoque confeccionadas por IA são comuns. Uma busca no Adobe Stock com o termo ‘Guerra na Ucrânia’ resultou em mais de 15.000 imagens falsas do conflito.
O relatório também notou uma forte presença de centenas de imagens de IA de pessoas em protestos do Black Lives Matter que nunca aconteceram.
Dezenas de imagens geradas por IA também estavam disponíveis para os incêndios florestais de Maui. Muitas dessas imagens se assemelhavam a fotos reais capturadas por fotojornalistas, de modo que as falsas mal podiam ser separadas das reais.
O Caso de Clips de Notícias que Parecem Reais
De acordo com outro relatório publicado pela Forbes sobre fakes gerados por IA, o usuário do Tiktok e do YouTube, Krishna Sahay, é um entre vários usuários de mídia social que estão usando IA geradora para criar clips de notícias que parecem reais, com âncoras de notícias de grandes emissoras de notícias.
Desde a CBS até a CNN e a BBC, muitos âncoras dessas agências de notícias estão nessa lista.
Esses vídeos também são conhecidos como deepfakes, onde algoritmos de IA geradora poderosos ajudam a criar conteúdo audiovisual que parece e soa como os próprios âncoras.
De acordo com o relatório, Krishna Sahay tem uma audiência de milhões.
Os vídeos de Sahay incluem comentários problemáticos de âncoras falsas manipuladas por IA sobre questões sensíveis, como tiroteios em escolas, ataques terroristas, ataques criminosos e mais.
De acordo com Hany Farid, um especialista em deepfakes e professor da UC Berkeley, esses vídeos exploram a popularidade e a credibilidade dos âncoras de notícias conhecidas como um “vaso convincente para entregar desinformação”.
De acordo com o Prof. Farid: “Em muitos casos, os âncoras são conhecidos pelos espectadores e confiáveis, e mesmo que não, o formato geral de notícias é familiar e, portanto, mais confiável.”
Ele acredita que parar essa praga exigiria que “nos tornássemos mais sérios sobre proteger os direitos das pessoas cuja semelhança e voz estão sendo cooptadas”.
Deepfakes da Guerra de Gaza
A Internet também viu uma invasão significativa de vídeos deepfakes relacionados à guerra de Gaza.
Em resposta a esse desafio, Jean-Claude Goldenstein, CEO da CREOpoint, uma empresa de tecnologia especializada em IA, tem sido instrumental em avaliar a validade desse conteúdo.
Reconhecendo a gravidade da situação, a empresa desenvolveu um banco de dados dos deepfakes mais virais que surgiram de Gaza, marcando um passo crucial para abordar essa ameaça digital.
De acordo com Goldenstein:
“Imagens, vídeo e áudio: com IA geradora, será uma escalada que você não viu.”
Esses vídeos muitas vezes reutilizam conteúdo de conflitos mais antigos.
Eles buscam gerar uma forte resposta emocional, enfatizando a intensidade do desastre.
Além de conhecer a IA geradora em detalhes, as equipes que criam deepfakes contêm pessoas que estão cientes de psicologia humana e de como atingir os impulsos e ansiedades mais profundos das pessoas.
Nas mãos de propagandistas, teóricos da conspiração, terroristas ou organizações de golpes, ferramentas de geração de conteúdo falso de IA evoluíram como uma das armas mais letais.
A necessidade de mantê-las sob controle está aumentando a cada dia que passa.
Uma das maneiras mais eficazes de combater essa praga em crescimento seria garantir a autenticidade da fonte.
Esforços de pesquisa e desenvolvimento de soluções para garantir a autenticidade estão em pleno andamento.
A seguir, alguns exemplos reais.
Como Garantir a Autenticidade do Conteúdo na Era da Inteligência Artificial?
Tecnologia de Autenticação de Câmera da Sony
A Sony Electronics está prestes a lançar uma solução inovadora.
Ela concluiu a segunda rodada de testes de sua tecnologia de autenticação de câmera em colaboração com a Associated Press.
O objetivo dessa tecnologia é empoderar as imagens clicadas com um certificado de nascimento que autenticará a origem do conteúdo.
Mais especificamente, será uma assinatura digital baseada em máquina produzida dentro da câmera no momento exato da captura de imagem no chipset de hardware.
De acordo com Neal Manowitz, presidente e COO da Sony Electronics, a “tecnologia de autenticação de câmera mostrou resultados valiosos”, e a empresa “continuará a impulsionar seu desenvolvimento em direção a um lançamento mais amplo”.
O teste de campo da Sony Electronics e da AP foi concluído em outubro deste ano.
O objetivo dessa segunda rodada de testes foi avaliar a eficiência da autenticação de captura e do fluxo de trabalho relacionado.
O terceiro colaborador nesse projeto foi a CameraBits, conhecida por criar a ferramenta de fluxo de trabalho padrão da indústria PhotoMechanic.
O papel desempenhado pela CameraBits nessa colaboração envolveu oferecer a tecnologia para preservar a assinatura digital da câmera por meio do processo de edição de metadados.
De acordo com David Ake, diretor de fotografia da Associated Press, “Imagens falsas e manipuladas são uma grande preocupação para as organizações de notícias.
Não apenas contribuem para a desinformação e a má informação, mas, em última análise, erodem a confiança do público em imagens precisas e exatas”.
A assinatura e a tecnologia de autenticação de câmera serão lançadas como uma atualização de firmware em vários modelos na primavera de 2024.
(SONY )
A Sony Group Corporation tem uma capitalização de mercado de $106,35 bilhões, uma razão P/E de 19,49 e, em 2022, registrou $82,64 bilhões em receita.
Tecnologia para Combater Manipulações de Voz por Deepfakes
Tecnologias baseadas em IA impulsionaram desenvolvimentos em síntese de fala realista.
Em sua forma originalmente pretendida, a tecnologia pode fazer muito bem.
Pode ajudar a criar assistentes de voz personalizados e outras ferramentas de comunicação que melhoram a acessibilidade.
No entanto, no lado oposto, muitos estão usando-a para criar vozes para vídeos deepfakes.
Para responder a essa ameaça, Ning Zhang, professora assistente de ciência da computação e engenharia na McKelvey School of Engineering da Washington University, desenvolveu uma ferramenta chamada AntiFake.
Não é uma ferramenta mitigadora que ajuda na detecção pós-ataque.
Em vez disso, é uma ferramenta proativa destinada a resolver o problema desde o início.
De acordo com a Prof. Zhang:
“O AntiFake garante que, quando colocamos dados de voz lá fora, é difícil para os criminosos usarem essas informações para sintetizar nossas vozes e nos impersonar”.
Em uma jogada interessante para combater cibercriminosos sofisticados, a Prof. Zhang decidiu retribuir na mesma moeda.
De acordo com ela:
“A ferramenta usa uma técnica de IA adversária que originalmente fazia parte da caixa de ferramentas dos cibercriminosos, mas agora estamos usando-a para nos defender contra eles”.
O princípio operacional básico do AntiFake é distorcer ligeiramente o sinal de áudio gravado.
A natureza da distorção é tão minuciosamente calibrada que, enquanto soa certo para ouvidos humanos, transmite algo completamente diferente para a IA.
De acordo com dados publicamente disponíveis, o AntiFake exibiu uma taxa de proteção de mais de 95%.
Também provou sua eficácia ao ser acessível a populações diversas.
Uso de Blockchain para Garantir Autenticidade
Soluções de Mídia OARO aproveitam as propriedades imutáveis do blockchain para lutar contra a ameaça de deepfakes.
Ajuda a criar um rastro de dados imutável para empresas, autoridades governamentais e usuários individuais autenticarem qualquer foto ou vídeo.
A forma como a Oaro Media funciona em um telefone celular é simples, mas eficaz.
O usuário começa acessando a câmera do telefone celular por meio de um link da web via SMS ou de um aplicativo de um segurador.
Em seguida, um certificado é emitido para o conteúdo visual, que inclui um registro infalsificável de ID do usuário, conteúdo, carimbo de data/hora e coordenadas de GPS.
Esse processo ajuda a indústria de seguros a autenticar reclamações e distinguir fakes gerados por IA dos reais.
Impedindo o Uso de Deepfakes como Parte da Guerra de Informação
As soluções e serviços anti-deepfake da Sentinel ajudam governos democráticos, agências de defesa e empresas a proteger seus recursos contra os impactos de conteúdo maliciosamente gerado por IA.
Ela se associou à União Europeia e ao Ministério de Assuntos Econômicos e Comunicações da República da Estônia.
No entanto, é uma solução pós-ataque que ajuda a detectar deepfakes após sua circulação.
A forma como funciona é um fluxo simples de quatro etapas.
Na primeira etapa, o usuário carrega a mídia digital por meio do site da Sentinel ou da API.
O sistema da Sentinel analisa automaticamente a mídia para detectar falsificação por IA.
Em seguida, oferece um veredito sobre se a mídia é um deepfake ou não.
E, finalmente, para tornar os usuários cientes de como o processo ocorre, mostra uma visualização da manipulação.
Garantindo Autenticidade em meio à IA: Cenário de Inovação Próspero para o Futuro
O conteúdo não autêntico gerado por IA é uma ferramenta potente para distorcer a realidade e disseminar propaganda venenosa.
Esse conteúdo, mesmo quando criado por razões aparentemente benignas, como uma piada ou curtidas nas mídias sociais, pode incitar violência em larga escala.
Seu impacto se estende ao aumento da desconfiança em várias áreas, desde relações diplomáticas entre estados até interações entre empresas de serviços e seus usuários e até relacionamentos pessoais.
Portanto, é um sinal positivo que pesquisadores e cientistas globais tenham reconhecido os perigos do conteúdo falso não controlado.
Já destacamos várias iniciativas que abordam essa questão.
Há muitas mais.
A Sensity, por exemplo, está desenvolvendo uma plataforma de inteligência de ameaças visuais.
Sua API já é capaz de detectar as últimas técnicas de manipulação e síntese baseadas em IA.
Outra startup, Quantum Integrity, desenvolveu soluções de IA SaaS que podem detectar falsificação de imagem e vídeo.
Cibercriminosos, sem dúvida, continuarão a desenvolver novas técnicas para nos enganar.
Mas muitas empresas serão capazes de antecipar e neutralizar essas ameaças.
Com a inovação continuando em um ritmo constante, a luta não é mais de Davi contra Golias.
Clique aqui para aprender tudo sobre investir em cinco tecnologias convergentes.
