IA está remodelando as mídias sociais e a confiança online

O conteúdo de IA está em toda parte, deslocando o conteúdo humano autêntico e transformando completamente o cenário das mídias sociais. Sua influência agora se estendeu além das plataformas, impactando a arena política, a Internet em geral e até a economia global.

So, does this mean that social media is approaching its death? Well, let’s find out.
Resumo:

O conteúdo gerado por IA está remodelando as mídias sociais ao inundar as plataformas com mídia sintética, corroendo a confiança e deslocando a interação humana significativa para espaços privados e verificáveis.

Da Conexão Humana aos Feeds Sintéticos

Foi há aproximadamente quatro décadas que as primeiras formas de interação social online surgiram, começando com os sistemas de quadro de mensagens (BBS), Usenet e fóruns iniciais no final dos anos 1970 e 1980. No entanto, as primeiras plataformas de rede social reconhecíveis só apareceram em meados ou final da década de 1990, estabelecendo as bases para o que mais tarde se tornaria a mídia social moderna.

O início do século XXI marcou a popularização generalizada das mídias sociais com sites como Friendster, MySpace e Facebook. Essa era moderna das mídias sociais possibilitou conexão global instantânea, permitindo que as pessoas mantivessem relacionamentos, acessassem notícias em tempo real e construíssem comunidades em torno de interesses compartilhados.

Mas agora, apenas algumas décadas depois, o rosto das mídias sociais está mudando com a proliferação de conteúdo de IA.

Tradicionalmente, os valores centrais das mídias sociais eram conexão e expressão, mas foram substituídos pela produção em massa automatizada. Com os feeds das pessoas dominados por ruído sintético, o desengajamento e a desconfiança entre as massas estão crescendo rapidamente.

De acordo com o principal executivo do Instagram, uma grade cuidadosamente curada agora é coisa do passado.

Em uma mensagem no Threads, o chefe do Instagram, Adam Mosseri, alertou que a ascensão da IA acabou com a estética polida do site de mídia social. Toda aquela maquiagem, suavização de pele, paisagens bonitas e fotografia de alto contraste agora está “mortas”, pois “as pessoas deixaram de compartilhar momentos pessoais há anos”, disse ele.

Em vez disso, “candides sem retoques” e “não lisonjeiros” estão sendo compartilhados via mensagens diretas.

A onipresença das imagens de IA faz com que os criadores precisem se afastar de grades curadas e fotografias de estilo profissional para uma “estética mais crua”, com as pessoas desejando “conteúdo que pareça real” em vez de imagens lisonjeiras, que são “baratas de produzir e entediantes de consumir”.

Em breve, veremos a maturação das ferramentas de IA e, com isso, a expansão da variedade de estéticas que elas podem produzir, disse Mosseri, ao observar que já os feeds das mídias sociais estão começando a se encher de “tudo sintético”, o que significa que as plataformas precisam evoluir para lidar com a enxurrada de conteúdo gerado por IA.

Enquanto isso, o cofundador e CEO da Substack, Chris Best, disse no final do ano passado que o “lixo” gerado por IA poderia inundar a internet, o que “mantém pessoas pouco inteligentes clicando”.

“Slop” foi escolhido como a palavra do ano de 2025 pelo dicionário americano Merriam-Webster, que a define como “conteúdo digital de baixa qualidade que é produzido, geralmente em grande quantidade, por meio de inteligência artificial.”

A Ascensão da Internet de Bots

Swipe to scroll →

Dados mostram que quase um terço de todo o tráfego da internet provém de bots, programas de software automatizados que imitam o comportamento humano.

Isso deu origem à teoria da Internet morta, que sustenta que a Internet consiste principalmente de atividade de bots e conteúdo gerado algoritmicamente projetado para controlar a população global.

Reddit (RDDT ) cofundador Alexis Ohanian acredita que há alguma verdade na ideia, e uma nova era das mídias sociais surgirá por causa disso. “Ter prova de vida, como espectadores ao vivo e conteúdo ao vivo, é realmente muito valioso para manter a atenção,” disse ele em um podcast.

“Eu nunca levei a teoria da Internet morta a sério, mas parece que há realmente muitas contas do Twitter operadas por LLMs agora.”

A atividade de bots no X (anteriormente conhecido como Twitter) está realmente piorando. Estima-se que cerca de 10% das contas do X são bots, totalizando milhões de usuários.

Enquanto isso, mais de 20% dos vídeos que o algoritmo do YouTube mostra a novos usuários foram encontrados como “lixo de IA”.

De fato, entre os 15.000 canais do YouTube mais populares pesquisados, 278 contêm apenas conteúdo gerado por IA, e juntos acumularam 221 milhões de inscritos e mais de 63 bilhões de visualizações, gerando cerca de US$ 117 milhões em receita por ano.

Isso não se limita a apenas uma ou algumas plataformas; é verdade para toda a internet.

Como apontado no Relatório Imperva Bad Bot de 2025, o tráfego automatizado ultrapassou o tráfego humano, representando 51% de todo o tráfego da internet, com 20% disso vindo de “bots maliciosos” envolvidos em atividades nocivas.

Alguns meses atrás, Marshall Miller, diretor sênior de produto da Wikimedia Foundation, a organização sem fins lucrativos que administra a Wikipedia, também observou que o tráfego humano do site diminuiu cerca de 8% à medida que as pessoas mudam a forma como buscam informações online.

A queda foi revelada após a Fundação mudar a forma como diferencia o tráfego humano do bot para entender melhor a leitura real e limitar bots de terceiros que raspam seus dados para buscas comerciais e ferramentas de IA.

“Acreditamos que essas quedas refletem o impacto da IA generativa e das mídias sociais na forma como as pessoas buscam informações, especialmente com os motores de busca fornecendo respostas diretamente aos usuários, muitas vezes baseadas no conteúdo da Wikipedia,” escreveu Miller, acrescentando que isso não foi realmente uma surpresa, já que os motores de busca utilizam cada vez mais IA para ter respostas diretamente nas páginas de resultados e os usuários mais jovens recorrem ao TikTok e ao YouTube.

Mas isso significa que a comunidade que escreve e edita o conteúdo da Wikipedia pode encolher. Assim, a plataforma está pedindo aos motores de busca, plataformas sociais, LLMs e chatbots de IA que ajudem a direcionar mais tráfego de volta ao site.

Como as Plataformas de Mídia Social Estão Amplificando o Conteúdo de IA

As plataformas de mídia social foram inundadas com conteúdo gerado por IA graças a um crescimento explosivo no ecossistema de ferramentas generativas.

Por exemplo, ferramentas como Sora, Midjourney, Pika, Runway e Stable Diffusion tornaram extremamente fácil criar imagens e vídeos de quase tudo.

Um número crescente de soluções até facilita que as pessoas aumentem visualizações e lucrem com programas de recompensas para criadores ou links de afiliados. Elas não apenas geram automaticamente, mas também publicam conteúdo diretamente em plataformas como o YouTube, mediante pagamento, produzindo mais de 100 vídeos por mês em uma única conta. Essas soluções visam automatizar todo o processo de ser um criador de conteúdo.

Mas isso não é tudo. Pesquisadores descobriram que as plataformas realmente têm impulsionado publicações geradas por IA. Plataformas como TikTok, Instagram e Meta até oferecem recursos nativos de IA que permitem aos usuários gerar visuais, roteiros ou remixar mídia existente sem software externo.

A Meta, em particular, abraçou o conteúdo gerado por IA com entusiasmo total, chegando a criar seu próprio “lixo”. Em 2023, a empresa introduziu perfis alimentados por IA e anunciou planos de preencher sua plataforma com personagens de IA. Mas após receber forte reação negativa dos usuários, a Meta descontinuou os perfis de IA no ano passado.

O Instagram, por sua vez, lançou um estúdio de IA que permite aos usuários criar chatbots personalizados, incluindo suas próprias versões digitais.

Recentemente, o TikTok revelou que havia pelo menos 1,3 bilhão de publicações geradas por IA em sua plataforma, com mais de 100 milhões de conteúdos enviados todos os dias. Para transparência, o TikTok rotula o conteúdo gerado por IA e até oferece aos usuários a opção de reduzir a quantidade de conteúdo de IA que veem.

Mas a AI Forensics, uma ONG baseada em Paris, constatou que menos de 2% das contas tinham o rótulo do TikTok para conteúdo de IA. Em algumas ocasiões, elas também escapam da moderação da plataforma por meses, apesar de publicar conteúdo proibido pelos termos de serviço do TikTok.

De acordo com o relatório, mais de 350 contas focadas em IA publicaram 43.000 posts criados com a ajuda de ferramentas de IA generativa, acumulando 4,5 bilhões de visualizações ao longo de um período de um mês. Os pesquisadores disseram:

“A linha tênue entre conteúdo humano autêntico e conteúdo sintético gerado por IA na plataforma está sinalizando uma nova virada rumo a mais conteúdo gerado por IA nos feeds dos usuários.”

Será que a Autenticidade Sobrevive à Automação?

Antes vibrantes com atividade real, onde amigos se reuniam e compartilhavam momentos especiais, as redes sociais agora estão se tornando cidades fantasma, povoadas por entidades artificiais que simulam engajamento humano e publicam conteúdo gerado por IA.

Embora você possa pensar que pode simplesmente bloquear esses usuários e conteúdos, um estudo descobriu que as pessoas não conseguem distinguir IA de um humano, mesmo quando estão familiarizadas com o assunto do LLM.¹

O estudo avaliou quão bem os humanos detectam conteúdo gerado por IA e constatou que o texto humano foi reconhecido corretamente como tal apenas 67% das vezes, enquanto o GPT-4 foi incorretamente detectado como humano 54% das vezes.

De acordo com Mosseri, do Instagram, as plataformas sociais só ficarão piores em identificar mídia gerada por IA ao longo do tempo, à medida que a tecnologia melhora. Uma solução poderia ser que as empresas de câmeras assinassem criptograficamente as fotos no momento da captura para provar que são reais.

A solução para mitigar o poder dos bots, segundo Ohanian, é ver “uma próxima geração de mídias sociais emergir que seja verificavelmente humana.”

Embora os avanços tecnológicos tenham otimizado a maior parte da internet para engajamento, o que Best comparou a “dependência de drogas”, e acredita que “vai ficar supercarregado”, ele ainda tem esperança em um futuro alternativo.

“O outro propósito da mídia é a cultura,” ele acrescentou, “Isso é algo que as pessoas realmente, realmente desejam também.”

De acordo com Best, da Substack, essa mesma tecnologia tem o potencial de possibilitar um “futuro onde há muito mais alavancagem criativa” para criadores independentes. O verdadeiro gargalo da mídia, ele observou, não é o conteúdo, do qual há “nenhuma escassez”, mas a atenção. “Entramos em um mundo onde a atenção é o recurso escasso,” disse ele.

“Nós vencemos a guerra contra o tédio,” disse Best, acrescentando que “há uma enorme escassez de conteúdo de qualidade.”

Em meio a isso, a Wikimedia Deutschland lançou o Projeto de Embedding do Wikidata, que converteu cerca de 120 milhões de pontos de dados abertos do Wikidata em um formato mais fácil de usar por LLMs, ajudando os sistemas de IA a acessar dados de maior qualidade gratuitamente e melhorar sua precisão.

Regulação, Pesquisa e a Luta pela Confiança

À medida que a IA domina a internet, pesquisadores têm se dedicado a entender seu impacto. Um desses estudos, intitulado The Impact of Generative AI on Social Media: An Experimental Study, examinou como a assistência de IA afeta a produção de conteúdo e as percepções dos usuários e constatou que as ferramentas de IA são benéficas ao aumentar o volume de conteúdo e o engajamento, mas diminuem a qualidade percebida e a autenticidade.

Com base em suas descobertas, recomendaram que as plataformas de mídia social, os legisladores e as partes interessadas projetem ferramentas com personalização centrada no usuário, incorporando sensibilidade ao contexto e priorizando interfaces intuitivas para uma integração ética e eficaz da IA generativa nas mídias sociais.

Os pesquisadores também recomendaram garantir a divulgação transparente do conteúdo gerado por IA, já que outros estudos descobriram que isso melhora a confiança sem prejudicar o engajamento.

No que diz respeito às regulamentações, governos ao redor do mundo também tomaram medidas para promover e regular o uso responsável da inteligência artificial.

Na União Europeia (UE), o AI Act foca em transparência, classificação de risco e obrigações para sistemas de alto risco.

A Online Safety Act (OSA), por sua vez, concedeu ao regulador de comunicações Ofcom ampla autoridade para exigir que as plataformas gerenciem conteúdo nocivo ou enganoso no Reino Unido, embora legisladores tenham pedido uma atualização para combater de forma mais eficaz a desinformação impulsionada por IA.

Nos EUA, o presidente Donald Trump emitiu uma Ordem Executiva para remover barreiras à liderança americana em IA e publicou um plano de ação para garantir sua dominância no setor. Mais recentemente, no mês passado, ele ordenou um padrão nacional que permite que empresas de IA inovem sem regulamentações onerosas.

Enquanto isso, o marco regulatório da China tem sido um dos mais detalhados globalmente na regulação da criação e distribuição de conteúdo de IA. Sua Administração do Ciberespaço implementou rotulagem obrigatória para conteúdo gerado por IA, exigindo avisos visíveis e metadados incorporados para evitar desinformação e fraude.

Alguns governos também estão impulsionando investigações sobre plataformas por desinformação gerada por IA. Mais recentemente, a Polônia instou a Comissão Europeia a investigar o TikTok por hospedar conteúdo de IA que considerou desestabilizador.

“… O conteúdo divulgado representa uma ameaça à ordem pública, à segurança da informação e à integridade dos processos democráticos na Polônia e em toda a União Europeia,” disse o Vice‑Ministro da Digitalização, Dariusz Standerski, em carta enviada à Comissão. “A natureza das narrativas, a forma como são distribuídas e o uso de materiais audiovisuais sintéticos indicam que a plataforma está falhando em cumprir as obrigações impostas a ela,” acrescentou.

Por enquanto, o cenário de políticas para IA continua sendo uma questão emergente em todo o mundo, fragmentado entre jurisdições e lutando para acompanhar a velocidade com que os sistemas generativos remodelam os fluxos de informação, a confiança pública e o discurso democrático.

Investindo em Infraestrutura de IA

No mundo da IA, a Palantir Technologies Inc. (PLTR ) destaca‑se por sua especialização em análises de big data impulsionadas por IA.

Ela construiu quatro principais plataformas de software, incluindo Apollo, Gotham, Foundry e Artificial Intelligence Platform (AIP). Apollo é uma camada de controle que harmoniza a entrega de novos recursos, configurações e atualizações de segurança para garantir a operação contínua de sistemas críticos. Gotham ajuda a identificar padrões dentro de conjuntos de dados, e Foundry auxilia organizações a criar um sistema operacional central para seus dados. AIP permite a ativação eficaz de grandes modelos de linguagem e outras IA dentro de qualquer organização.

Notavelmente, as plataformas da Palantir são usadas por governos e empresas privadas para detectar desinformação, redes de bots e distribuição de mídia sintética. Essas ferramentas são construídas para identificar comportamento autêntico versus inautêntico em ecossistemas de informação complexos.

Além disso, análises de IA são cada vez mais usadas por organizações e governos para monitorar ameaças à saúde e segurança. Com uma capitalização de mercado de US$ 400 bilhões, as ações da PLTR estão atualmente sendo negociadas a US$ 174, com alta de mais de 110% no último ano. Ela tem um EPS (TTM) de 0,43 e um P/E (TTM) de 392,56.

Quanto à sua posição financeira, a Palantir anunciou receita de US$ 1,181 bilhão para o terceiro trimestre encerrado em 30 de setembro de 2025, representando crescimento de 63% YoY e 18% QoQ, alcançando um novo recorde de receita em sua história de mais de vinte anos. Seu lucro no trimestre foi de US$ 476 milhões.

“Ainda estamos no início de tudo. Isso continua sendo o começo, o primeiro momento do primeiro capítulo.”

– Co‑fundador e CEO Alex C. Karp, em uma carta aos acionistas

Sua receita nos EUA, em particular, cresceu 77% YoY e 20% QoQ, chegando a US$ 883 milhões. Isso inclui US$ 486 milhões em receita do governo dos EUA, que aumentou 52% YoY e 14% QoQ, e US$ 397 milhões em receita comercial nos EUA, que disparou 121% YoY e 29% QoQ. Karp descreveu o segmento comercial dos EUA como “um juggernaut absoluto” que ele acredita “se tornará, por si só, uma das histórias de negócios mais significativas do século na vida econômica americana.”

Durante esse período, o número de clientes da Palantir cresceu 45% YoY. Enquanto isso, seu fluxo de caixa livre ajustado foi de US$ 540 milhões, o lucro por ação GAAP foi de US$ 0,18 e o EPS ajustado foi de US$ 0,21. Ela encerrou o trimestre com US$ 6,4 bilhões em caixa, equivalentes de caixa e títulos do Tesouro dos EUA de curto prazo.

Esses resultados tornam indiscutível o impacto transformador de usar o AIP para ampliar a alavancagem da IA,” observou a empresa.

Para o quarto trimestre de 2025, a Palantir espera que a receita fique entre US$ 1,327 e US$ 1,331 bilhão e a renda operacional ajustada entre US$ 695 e US$ 699 milhões.

Quanto ao ano completo de 2025, a Palantir elevou sua orientação de receita para US$ 4,396‑US$ 4,400 bilhões e projeta um crescimento de pelo menos 104% na receita comercial dos EUA, ultrapassando US$ 1,433 bilhão. Enquanto isso, a orientação de renda operacional ajustada foi elevada para US$ 2,151‑US$ 2,155 bilhões, e a orientação de fluxo de caixa livre ajustado para US$ 1,9‑US$ 2,1 bilhões.

Conclusão para investidores:

À medida que o conteúdo de IA escala mais rápido que a atenção humana, a demanda cresce por infraestrutura que governa autenticidade, moderação e confiança — criando oportunidades de longo prazo além das plataformas sociais de consumo.

Últimas Notícias de Ações da Palantir Technologies Inc. (PLTR)

Conclusão

As mídias sociais, como as conhecemos, estão claramente chegando ao fim. Não é mais o mesmo lugar onde as pessoas compartilhavam ativamente seus interesses, memórias e ideias de forma autêntica. O que antes foi construído sobre a conexão humana agora está invadido por conteúdo automatizado e bots.

Embora a IA tenha desbloqueado alavancagem criativa e eficiência econômica sem precedentes, ela também corroeu os próprios sinais que antes tornavam a interação online significativa.

O futuro das mídias sociais provavelmente se fragmentará, com um caminho levando a feeds hiper‑automatizados otimizados para engajamento e o outro apontando para espaços verificavelmente humanos que priorizam cultura, credibilidade e contexto em vez de alcance.

Referências

<sup>1. Jones, C. R. & Bergen, B. K. “People cannot distinguish GPT-4 from a human in a Turing test.” preprint arXiv arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “O Impacto da IA Generativa nas Mídias Sociais: Um Estudo Experimental.” preprint arXiv arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Rotulagem de Conteúdo Sintético: Percepções dos Usuários sobre Designs de Rótulos de Aviso para Conteúdo Gerado por IA nas Mídias Sociais.” preprint arXiv arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Examinando o Impacto do Detalhe do Rótulo e das Stakes de Conteúdo nas Percepções dos Usuários sobre Imagens Geradas por IA nas Mídias Sociais.” preprint arXiv arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup> (META )