Inteligência artificial
Garantindo a Autenticidade com o Surgimento da Inteligência Artificial (IA)
A adoção de IA em todos os setores da vida está em ascensão. Estimativas sugerem que o mercado está pronto para triplicar nos próximos sete anos.
De um tamanho de quase US$242 bilhões, espera-se que cresça para quase US$740 bilhões até 2030. Diferentes indústrias começaram a incorporar IA em suas operações. As indústrias que mais a têm aproveitado até agora são saúde, finanças, manufatura, negócios & serviços jurídicos, etc.
Em menor escala, a IA começou a alterar paradigmas operacionais em indústrias como mídia, entretenimento, segurança, varejo, energia, etc.
Com o aumento da adoção de IA, o desafio de garantir a autenticidade surgiu como uma questão significativa que precisa ser abordada imediatamente. Começamos a discussão de hoje analisando quais são esses desafios.
Clique aqui para aprender tudo sobre investir em inteligência artificial.
Desafios de Autenticidade na Adoção de IA
O que era a força da IA se tornou sua fraqueza. Algoritmos de IA são capazes de gerar imagens, vídeos, artigos e qualquer outra forma de conteúdo multimídia realista, que pode ser imensamente difícil para um espectador médio distinguir do original.
Para o olho médio, pode parecer informação autêntica de uma fonte confiável, enquanto na realidade pode ser exatamente o oposto: conteúdo falso gerado para propaganda maliciosa. Vários eventos ocorreram recentemente que expõem esse lado da crescente adoção de IA.
Imagem Falsa de Explosão no Pentágono Gerada por IA
Em maio de 2023, foi publicada uma notícia sobre uma explosão perto do Pentágono nos Estados Unidos. A imagem mostrava muita fumaça negra saindo do jardim próximo ao Edifício do Pentágono. Essa imagem foi compartilhada por um perfil verificado no Twitter, Bloomberg Feed, que tinha o selo azul. Logo depois, muitas contas verificadas com marcas azuis também compartilharam a imagem. No entanto, era uma imagem gerada por IA, e enganou muitos. A política recente da X de disponibilizar marcas azuis mediante cobrança mensal de US$8 agravou ainda mais o problema.
Como qualquer pessoa poderia ter uma conta verificada e contas verificadas recebem mais visibilidade, a notícia se espalhou rapidamente, gerando preocupações sobre figuras públicas impostas, funcionários governamentais e sites de notícias, criando caos e uma crise de autenticidade no âmbito digital.
Embora a imagem fosse dificilmente reconhecível como gerada por IA por um usuário geral das redes sociais X, alguns pesquisadores de IA conseguiram identificar as falhas ou irregularidades.
De acordo com Nick Waters, um desses pesquisadores de IA:
“A ‘incomum’ fusão da cerca do edifício com as barreiras da multidão mostrou que a imagem poderia ter sido feita ou manipulada artificialmente.”
No entanto, a falsificação cumpriu seu objetivo, ainda que por um breve momento, ao criar caos e confusão nas redes sociais e além.
Milhares de Imagens Falsas no Adobe Stock
De acordo com um relatório publicado no Washington Post, imagens de estoque criadas por IA são abundantes. Uma busca no Adobe Stock com o termo ‘Ukraine War’ resultou em mais de 15.000 imagens falsas do conflito. O relatório também observou uma forte presença de centenas de imagens de IA de pessoas em protestos Black Lives Matter que nunca aconteceram.
Dezenas de imagens geradas por IA também estavam disponíveis para os Incêndios de Maui. Muitas dessas imagens se assemelhavam tanto a fotos reais capturadas por fotojornalistas que era difícil separar as falsas das reais.
O Caso de Clipes de Notícias que Parecem da Vida Real
De acordo com outro relatório publicado pela Forbes sobre falsificações geradas por IA, a estrela do TikTok e YouTube Krishna Sahay está entre vários usuários de redes sociais que utilizam IA generativa para criar clipes de notícias que parecem reais de âncoras de destaque de grandes veículos de mídia mainstream, cujo trabalho possui muita credibilidade.
De CBS a CNN e BBC, muitos âncoras dessas agências de notícias estão nesta lista. Esses vídeos também são conhecidos como deep fakes, onde poderosos algoritmos de IA generativa ajudam a criar conteúdo audiovisual que parece e soa como os próprios âncoras.
Segundo o relatório, Krishna Sahay sozinho tem uma audiência de milhões. Os vídeos de Sahay incluem comentários problemáticos de âncoras falsos manipulados por IA sobre questões sensíveis, como tiroteios em escolas, ataques terroristas, ataques criminais e mais.
De acordo com Hany Farid, especialista em deep fake e professor da UC Berkeley, esses vídeos exploram a popularidade e credibilidade dos âncoras conhecidos como um “veículo convincente para disseminar desinformação”.
Segundo o Prof. Farid: “Em muitos casos, os âncoras são conhecidos pelos espectadores e confiáveis, e mesmo que não sejam, o formato geral de notícias é familiar e, portanto, mais confiável.” Ele acredita que parar essa ameaça exigirá que nos “levemos mais a sério a proteção dos direitos das pessoas cujas semelhanças e vozes estão sendo cooptadas”.
Deep Fakes da Guerra em Gaza
A internet também testemunhou uma invasão significativa de vídeos deep fake relacionados à guerra em Gaza. Em resposta a esse desafio, Jean-Claude Goldenstein, CEO da CREOpoint, uma empresa de tecnologia especializada em IA, tem sido fundamental na avaliação da validade desse conteúdo. Reconhecendo a gravidade da situação, a empresa desenvolveu um banco de dados dos deep fakes mais virais que surgiram de Gaza, marcando um passo crucial no enfrentamento dessa ameaça digital.
De acordo com Goldenstein:
“Imagens, vídeo e áudio: com IA generativa, será uma escalada que você ainda não viu.”
Esses vídeos frequentemente reutilizam conteúdo de conflitos mais antigos. Eles buscam gerar uma forte resposta emocional ao acentuar a intensidade do desastre.
Além de conhecer a IA generativa a fundo, essas equipes de criação de deep fakes contêm pessoas que entendem a psicologia humana e como atingir os impulsos e ansiedades mais profundos das pessoas.
Nas mãos de propagandistas, teóricos da conspiração, terroristas ou organizações de fraude, as ferramentas de IA que geram conteúdo falso evoluíram como uma das armas mais mortais. A necessidade de mantê-las sob controle aumenta a cada dia que passa.
Uma das maneiras mais eficazes de combater essa ameaça crescente seria garantir a autenticidade da fonte. Esforços de pesquisa e desenvolvimento de soluções para garantir autenticidade estão em pleno andamento. A seguir, alguns exemplos da vida real.
Como garantir a autenticidade do conteúdo na Era da Inteligência Artificial?
Tecnologia de Autenticação In-Câmera da Sony
A Sony Electronics está prestes a lançar uma solução inovadora. Ela concluiu a segunda rodada de testes de sua tecnologia de autenticidade in-câmera em colaboração com a Associated Press.
O objetivo dessa tecnologia é capacitar as imagens capturadas com uma certidão de nascimento que autenticará a origem do conteúdo. Mais especificamente, será uma assinatura digital baseada em máquina a ser produzida dentro da câmera no exato momento da captura da imagem no chipset de hardware.
De acordo com Neal Manowitz, presidente e COO da Sony Electronics, a “tecnologia de autenticidade in-câmera tem mostrado resultados valiosos”, e a empresa “continuará a impulsionar seu desenvolvimento rumo a um lançamento mais amplo”.
O teste de campo conjunto da Sony Electronics e da AP chegou ao fim em outubro deste ano. O objetivo desta rodada de testes foi avaliar a eficiência da autenticação de captura e o fluxo de trabalho relacionado.
O terceiro colaborador neste projeto foi a CameraBits, conhecida por criar a ferramenta padrão da indústria PhotoMechanic.
O papel desempenhado pela CameraBits nesta colaboração envolveu oferecer a tecnologia para preservar a assinatura digital da câmera através do processo de edição de metadados.
De acordo com David Ake, diretor de fotografia da Associated Press, “Imagens falsas e manipuladas são uma grande preocupação para organizações de notícias. Não só contribuem para a desinformação, mas, em última instância, corroem a confiança do público em imagens factuais e precisas”.
A assinatura e tecnologia de autenticação in-câmera será lançada como atualização de firmware em vários modelos na primavera de 2024.
(SONY )
A Sony Group Corporation tem uma capitalização de mercado de US$106,35 bilhões, um índice P/L de 19,49 e, em 2022, registrou US$82,64 bilhões em receita.
Tecnologia para Combater Manipulações de Voz em Deep Fakes
Tecnologias baseadas em IA impulsionaram desenvolvimentos em síntese de fala realista. Em sua forma originalmente pretendida, a tecnologia pode fazer muito bem. Ela pode ajudar a criar assistentes de voz personalizados e outras ferramentas de comunicação que aumentam a acessibilidade. Contudo, por outro lado, muitos a utilizam para criar vozes para vídeos deep fake.
Para responder a essa ameaça, Ning Zhang, professor assistente de ciência da computação e engenharia na McKelvey School of Engineering da Washington University, desenvolveu uma ferramenta chamada AntiFake. Não é uma ferramenta de mitigação que ajuda na detecção pós-ataque. Em vez disso, é uma ferramenta proativa destinada a impedir o problema na raiz.
De acordo com o Prof. Zhang:
“O AntiFake garante que, quando disponibilizamos dados de voz, seja difícil para criminosos usar essas informações para sintetizar nossas vozes e nos personificar.”
Em um movimento interessante para combater cibercriminosos sofisticados, o Prof. Zhang decidiu retribuí‑los em suas próprias moedas. Segundo ele:
“A ferramenta usa uma técnica de IA adversarial que originalmente fazia parte da caixa de ferramentas dos cibercriminosos, mas agora a estamos usando para nos defender deles.”
O princípio operacional central do AntiFake é distorcer ligeiramente o sinal de áudio gravado. A natureza da distorção é tão minuciosamente calibrada que, embora soe correta aos ouvidos humanos, é transmitida como algo completamente diferente para a IA.
De acordo com dados publicamente disponíveis, o AntiFake apresentou uma taxa de proteção superior a 95%. Também comprovou sua eficácia ao ser acessível a diversas populações.
Uso de Blockchain para Garantir Autenticidade
OARO Media solutions aproveitam as propriedades de imutabilidade da blockchain para combater a ameaça de deep fakes. Elas ajudam a criar um rastro de dados imutável para empresas, autoridades governamentais e usuários individuais autenticarem qualquer foto ou vídeo.
A forma como a OARO Media funciona no celular do usuário é simples, porém revolucionariamente eficaz. O usuário começa acessando a câmera do celular via um link web SMS ou o aplicativo de uma seguradora. Em seguida, um certificado é emitido para o conteúdo visual, que inclui um registro infalsificável de ID do usuário, conteúdo, timestamp e coordenadas GPS. Esse processo ajuda a indústria de seguros a autenticar sinistros e distinguir falsificações geradas por IA das reais.
Impedindo o Uso de Deepfakes como Parte da Guerra de Informação
As soluções e serviços anti-deepfake da Sentinel ajudam governos democráticos, agências de defesa e empresas a proteger seus recursos dos impactos de conteúdo AI gerado maliciosamente. Ela fez parceria com a União Europeia e o Ministério da Economia e Comunicações da República da Estônia. No entanto, é uma solução pós-ataque que ajuda a detectar deep fakes uma vez que eles já circulam.
O modo de funcionamento é um fluxo simples de quatro etapas. Na primeira etapa, o usuário envia a mídia digital através do site ou API da Sentinel. O sistema da Sentinel analisa automaticamente a mídia para detectar falsificação por IA. Em seguida, oferece um veredicto sobre se a mídia é um deep fake ou não. Por fim, para conscientizar os usuários sobre como o processo ocorre, exibe uma visualização da manipulação.
Garantindo Autenticidade em Meio à IA: Cenário de Inovação Próspera para o Futuro
Conteúdo não autêntico gerado por IA é uma ferramenta poderosa para distorcer a realidade e disseminar propaganda venenosa. Esse conteúdo, mesmo quando criado por razões aparentemente benignas como uma piada ou curtidas nas redes sociais, pode incitar violência em larga escala.
Seu impacto se estende ao aumento da desconfiança em várias áreas, desde relações diplomáticas entre estados até interações entre empresas de serviços e seus usuários e até relacionamentos pessoais. Portanto, é um sinal positivo que pesquisadores e cientistas de tecnologia globalmente reconheceram os perigos do conteúdo falso descontrolado. Já destacamos várias iniciativas que abordam essa questão.
Existem muitas mais. A Sensity, por exemplo, está desenvolvendo uma plataforma de inteligência de ameaças visual. Sua API já é capaz de detectar as mais recentes técnicas de manipulação e síntese baseadas em IA. Outra startup, Quantum Integrity, criou soluções SaaS de IA que podem detectar falsificações de imagens e vídeos.
Os cibercriminosos certamente continuarão a criar técnicas novas para nos enganar. Mas muitas empresas serão capazes de antecipar e frustrar essas ameaças. Com a inovação continuando em ritmo constante, a luta não é mais um Davi contra o Golias.
Clique aqui para aprender tudo sobre investir em cinco tecnologias convergentes.
