L’IA sta rimodellando i social media e la fiducia online

I contenuti generati dall’IA sono ovunque, soffocando i contenuti umani autentici e trasformando completamente il panorama dei social media. La sua influenza si è ora estesa oltre le piattaforme, influenzando l’arena politica, l’Internet più ampio e persino l’economia globale.

Quindi, questo significa che i social media stanno avvicinandosi alla loro morte? Bene, scopriamolo.

Riepilogo:

I contenuti generati dall’IA stanno rimodellando i social media inondando le piattaforme con media sintetici, erodendo la fiducia e spostando l’interazione umana significativa in spazi privati e verificabili.

Dalla connessione umana ai feed sintetici

Circa quattro decenni fa sono emerse le prime forme di interazione sociale online, iniziando con i sistemi di bacheca (BBS), Usenet e i primi forum alla fine degli anni ’70 e ’80. Tuttavia, le prime piattaforme di social networking riconoscibili non sono apparse fino alla metà‑fine degli anni ’90, ponendo le basi per quello che più tardi sarebbe diventato i moderni social media.

L’inizio del XXI secolo ha segnato la popolarità diffusa dei social media con siti come Friendster, MySpace e Facebook. Questa era moderna dei social media ha permesso connessioni globali istantanee, consentendo alle persone di mantenere relazioni, accedere a notizie in tempo reale e costruire comunità attorno a interessi condivisi.

Ma ora, a pochi decenni di distanza, il volto dei social media sta cambiando con la proliferazione dei contenuti IA.

Tradizionalmente, i valori fondamentali dei social media sono stati la connessione e l’espressione, ma questi sono stati sostituiti dalla produzione di massa automatizzata. Con i feed delle persone dominati dal rumore sintetico, il disimpegno e la sfiducia tra le masse stanno crescendo rapidamente.

Secondo il dirigente principale di Instagram, una griglia curata con attenzione è ora una cosa del passato.

In un messaggio su Threads, il capo di Instagram Adam Mosseri ha avvertito che l’ascesa dell’IA ha ucciso l’estetica curata del sito di social media. Tutto quel trucco, levigatura della pelle, paesaggi splendidi e fotografia ad alto contrasto è ora “morto”, poiché “le persone hanno in gran parte smesso di condividere momenti personali per alimentare anni fa,” ha detto.

Invece, foto non ritoccate, “candid non lusinghieri”, vengono condivise tramite messaggi diretti.

La pervasività delle immagini IA significa che i creatori devono allontanarsi dalle griglie curate e dalla fotografia in stile professionale verso un “estetica più grezza”, con le persone che desiderano “contenuti che sembrano reali” piuttosto che immagini lusinghiere, che sono “economiche da produrre e noiose da consumare”.

Presto vedremo la maturazione degli strumenti IA e con essa l’espansione della gamma di estetiche che possono produrre, ha detto Mosseri, osservando che già i feed dei social media stanno iniziando a riempirsi di “tutto sintetico”, il che significa che le piattaforme devono evolversi per gestire l’inondazione di contenuti generati dall’IA.

Nel frattempo, il cofondatore e CEO di Substack Chris Best ha detto alla fine dello scorso anno che lo “slop” generato dall’IA potrebbe inondare Internet, il che “fa cliccare le persone stupide”.

“Slop” è stata scelta come parola dell’anno per il 2025 dal dizionario statunitense Merriam‑Webster, che la definisce come “contenuto digitale di bassa qualità prodotto, solitamente in quantità, mediante intelligenza artificiale.”

L’ascesa di Internet dei bot

Scorri per scorrere →

I dati mostrano che quasi un terzo di tutto il traffico Internet proviene da bot, programmi software automatizzati che imitano il comportamento umano.

Ciò ha dato origine alla teoria di Internet morto, secondo cui Internet è costituito principalmente da attività di bot e contenuti generati algoritmicamente progettati per controllare la popolazione globale.

Il cofondatore di Reddit (RDDT ) Alexis Ohanian crede che ci sia una certa verità nell’idea, e una nuova era dei social media emergerà a causa di essa. “Avere la prova della vita, come spettatori in diretta e contenuti live, è davvero f–king prezioso per mantenere l’attenzione,” ha detto in un podcast.

“Non ho mai preso sul serio la teoria di Internet morto, ma sembra che ci siano davvero molti account Twitter gestiti da LLM ora.”

L’attività dei bot su X (precedentemente noto come Twitter) sta in realtà peggiorando. Si stima che circa il 10% degli account X siano bot, per un totale di milioni di utenti.

Nel frattempo, oltre il 20% dei video che l’algoritmo di YouTube mostra ai nuovi utenti è stato trovato essere “AI slop”.

In effetti, tra i 15.000 canali YouTube più popolari esaminati, 278 contengono solo contenuti generati dall’IA, e insieme hanno accumulato 221 milioni di iscritti e oltre 63 miliardi di visualizzazioni, generando circa 117 milioni di dollari di entrate all’anno.

Questo non è limitato a una o poche piattaforme; è vero per l’intero Internet.

Come ha osservato il Rapporto Imperva Bad Bot 2025, il traffico automatizzato ha superato quello umano, rappresentando il 51% di tutto il traffico Internet, con il 20% di questo proveniente da “bad bot” impegnati in attività dannose.

Qualche mese fa, Marshall Miller, senior director of product della Wikimedia Foundation, l’organizzazione no‑profit che gestisce Wikipedia, ha anche osservato che il traffico umano del sito è diminuito di circa l’8% poiché le persone cambiano il modo in cui cercano informazioni online.

Il calo è stato rivelato dopo che la Fondazione ha modificato il modo in cui differenzia il traffico umano da quello dei bot per comprendere meglio la reale lettura e limitare i bot di terze parti che raschiano i suoi dati per ricerche commerciali e strumenti IA.

“Crediamo che questi cali riflettano l’impatto dell’IA generativa e dei social media su come le persone cercano informazioni, specialmente con i motori di ricerca che forniscono risposte direttamente ai ricercatori, spesso basate sul contenuto di Wikipedia,” ha scritto Miller, aggiungendo che non era davvero una sorpresa poiché i motori di ricerca usano sempre più l’IA per avere risposte direttamente nelle pagine dei risultati e gli utenti più giovani si rivolgono a TikTok e YouTube.

Ma questo significa che la comunità che scrive e modifica i contenuti di Wikipedia potrebbe ridursi. Pertanto, la piattaforma sta sollecitando i motori di ricerca, le piattaforme social, i LLM e i chatbot IA a contribuire a riportare più traffico al sito.

Come le piattaforme di social media stanno amplificando i contenuti IA

Le piattaforme di social media sono state sommerse da contenuti generati dall’IA grazie a una crescita esplosiva dell’ecosistema degli strumenti generativi.

Ad esempio, strumenti come Sora, Midjourney, Pika, Runway e Stable Diffusion hanno reso estremamente facile creare immagini e video di quasi qualsiasi cosa.

Un numero crescente di soluzioni rende ancora più facile per le persone aumentare le visualizzazioni e guadagnare con i programmi di ricompense per i creatori o i link di affiliazione. Non solo generano automaticamente, ma pubblicano anche contenuti direttamente su piattaforme come YouTube, a pagamento, realizzando più di 100 video al mese su un unico account. Queste soluzioni mirano ad automatizzare l’intero processo di essere un creatore di contenuti.

Ma non è tutto. I ricercatori hanno scoperto che le piattaforme hanno effettivamente potenziato i post generati dall’IA. Piattaforme come TikTok, Instagram e Meta (META ) offrono persino funzionalità IA native che consentono agli utenti di generare visuali, script o remixare media esistenti senza software esterno.

Meta, in particolare, ha abbracciato i contenuti generati dall’IA con grande entusiasmo, creando persino il proprio slop. Nel 2023, l’azienda ha introdotto profili potenziati dall’IA e ha annunciato piani per popolare la sua piattaforma con personaggi IA. Ma dopo aver ricevuto un significativo backlash da parte degli utenti, Meta ha eliminato i profili IA lo scorso anno.

Instagram, nel frattempo, ha lanciato uno studio IA che consente agli utenti di creare chatbot personalizzati, incluse le proprie versioni digitali.

Recentemente, TikTok ha rivelato che c’erano almeno 1,3 miliardi di post generati dall’IA sulla sua piattaforma, con più di 100 milioni di contenuti caricati ogni giorno. Per trasparenza, TikTok etichetta i contenuti generati dall’IA e offre persino agli utenti l’opzione di ridurre la quantità di contenuti IA che vedono.

Ma AI Forensics, un’organizzazione non profit con sede a Parigi, ha scoperto che meno del 2% degli account aveva l’etichetta TikTok per i contenuti IA. Talvolta, sfuggono anche alla moderazione della piattaforma per mesi, nonostante pubblichino contenuti proibiti dai termini di servizio di TikTok.

Secondo il rapporto, più di 350 account focalizzati sull’IA hanno pubblicato 43.000 post realizzati con l’aiuto di strumenti di IA generativa, accumulando 4,5 miliardi di visualizzazioni in un periodo di un mese. I ricercatori hanno dichiarato:

“La linea sfocata tra contenuti umani autentici e contenuti sintetici generati dall’IA sulla piattaforma segnala una nuova svolta verso più contenuti generati dall’IA nei feed degli utenti.”

L’autenticità può sopravvivere all’automazione?

Una volta brulicanti di attività reale, dove gli amici si riunivano e condividevano momenti speciali, i social network stanno ora diventando città fantasma, popolate da entità artificiali che simulano l’impegno umano e pubblicano contenuti generati dall’IA.

Mentre potresti pensare di poter semplicemente bloccare quegli utenti e contenuti, uno studio ha scoperto¹ che le persone non riescono a distinguere l’IA da un umano, anche quando sono familiari con l’argomento del LLM.

Lo studio ha valutato quanto efficacemente gli umani rilevano contenuti generati dall’IA e ha scoperto che il testo umano è stato riconosciuto correttamente come tale solo il 67% delle volte, mentre GPT‑4 è stato erroneamente rilevato come umano il 54% delle volte.

Secondo Mosseri di Instagram, le piattaforme social diventeranno solo più incapaci di identificare i media generati dall’IA nel tempo, man mano che la tecnologia migliora. Una soluzione potrebbe essere che le aziende di fotocamere firmino crittograficamente le foto al momento dello scatto per dimostrare che sono reali.

La soluzione per mitigare il potere dei bot, secondo Ohanian, è vedere “una prossima generazione di social media emergere che sia verificabilmente umana.”

Mentre i progressi tecnologici hanno ottimizzato gran parte di Internet per l’engagement, che Best ha paragonato a “dipendenza da droga,” e crede “diventerà supercaricato,” è comunque ottimista per un futuro alternativo.

“L’altro scopo dei media è la cultura,” ha aggiunto, “È qualcosa che le persone desiderano davvero, davvero.”

Secondo Best di Substack, questa stessa tecnologia ha il potenziale di abilitare un “futuro in cui c’è molto più leva creativa” per i creatori indipendenti. Il vero collo di bottiglia per i media, ha osservato, non è il contenuto, di cui c’è “nessuna scarsità”, ma l’attenzione. “Siamo entrati in un mondo in cui l’attenzione è la risorsa scarsa,” ha detto.

“Abbiamo vinto la guerra alla noia,” ha detto Best, aggiungendo che “c’è una enorme scarsità di buoni contenuti.”

Nel frattempo, Wikimedia Deutschland ha lanciato il Wikidata Embedding Project, che ha convertito circa 120 milioni di punti dati aperti in Wikidata in un formato più facile da usare per i LLM, aiutando i sistemi IA ad accedere a dati di qualità superiore gratuitamente e a migliorare la loro precisione.

Regolamentazione, ricerca e la lotta per la fiducia

Man mano che l’IA prende il controllo di Internet, i ricercatori hanno iniziato a comprendere il suo impatto. Uno studio, intitolato The Impact of Generative AI on Social Media: An Experimental Study², ha esaminato come l’assistenza dell’IA influisce sulla produzione di contenuti e sulle percezioni degli utenti, scoprendo che gli strumenti IA sono utili per aumentare il volume dei contenuti e l’engagement, ma riducono la qualità percepita e l’autenticità.

Sulla base dei loro risultati, hanno raccomandato che le piattaforme di social media, i responsabili politici e le parti interessate progettino strumenti con personalizzazione incentrata sull’utente, incorporando la sensibilità al contesto e dando priorità a interfacce utente intuitive per un’integrazione etica ed efficace dell’IA generativa nei social media.

I ricercatori hanno inoltre raccomandato di garantire una divulgazione trasparente dei contenuti generati dall’IA, poiché altri studi³ hanno scoperto⁴ che ciò migliora la fiducia senza danneggiare l’engagement.

Per quanto riguarda le normative, i governi di tutto il mondo hanno anche adottato misure per promuovere e regolare l’uso responsabile dell’intelligenza artificiale.

Nell’Unione Europea (UE), l’AI Act si concentra su trasparenza, classificazione del rischio e obblighi per i sistemi ad alto rischio.

Il Online Safety Act (OSA), nel frattempo, ha conferito al regolatore delle comunicazioni Ofcom ampia autorità per richiedere alle piattaforme di gestire contenuti dannosi o fuorvianti nel Regno Unito, sebbene i responsabili politici abbiano chiesto un aggiornamento per affrontare più efficacemente la disinformazione guidata dall’IA.

Negli Stati Uniti, il presidente Donald Trump ha emesso un ordine esecutivo per rimuovere le barriere alla leadership americana nell’IA e ha pubblicato un piano d’azione per assicurare la sua dominanza nel settore. Poi, lo scorso mese, ha ordinato uno standard nazionale che consente alle aziende IA di innovare senza normative ingombranti.

Nel frattempo, il quadro normativo della Cina è stato uno dei più dettagliati a livello globale nella regolamentazione della creazione e distribuzione di contenuti IA. La sua Cyberspace Administration ha implementato l’etichettatura obbligatoria per i contenuti generati dall’IA, richiedendo avvisi visibili e metadati incorporati per evitare disinformazione e frodi.

Alcuni governi stanno anche spingendo indagini sulle piattaforme per la disinformazione generata dall’IA. Più recentemente, la Polonia ha sollecitato la Commissione Europea a indagare su TikTok per l’hosting di contenuti IA ritenuti destabilizzanti.

“Il contenuto divulgato rappresenta una minaccia all’ordine pubblico, alla sicurezza delle informazioni e all’integrità dei processi democratici in Polonia e in tutta l’Unione Europea,” ha detto il Vice Ministro della Digitalizzazione Dariusz Standerski in una lettera inviata alla Commissione. “La natura delle narrazioni, il modo in cui sono distribuite e l’uso di materiali audiovisivi sintetici indicano che la piattaforma non sta rispettando gli obblighi imposti,” ha aggiunto.

Per ora, il panorama normativo per l’IA rimane una questione emergente a livello mondiale, frammentata tra le giurisdizioni e in difficoltà nel tenere il passo con la velocità con cui i sistemi generativi stanno rimodellando i flussi di informazione, la fiducia pubblica e il discorso democratico.

Investire nell’infrastruttura IA

Nel mondo dell’IA, Palantir Technologies Inc. (PLTR ) si distingue per la sua specializzazione nell’analisi di big data guidata dall’IA.

Ha costruito quattro principali piattaforme software, tra cui Apollo, Gotham, Foundry e Artificial Intelligence Platform (AIP). Apollo è uno strato di controllo che armonizza la consegna di nuove funzionalità, configurazioni e aggiornamenti di sicurezza per garantire il funzionamento continuo dei sistemi critici. Gotham aiuta a identificare schemi all’interno dei set di dati, e Foundry aiuta le organizzazioni a creare un sistema operativo centrale per i loro dati. AIP consente l’attivazione efficace di grandi modelli linguistici e altre IA all’interno di qualsiasi organizzazione.

È notevole che le piattaforme di Palantir siano utilizzate da governi e imprese private per rilevare disinformazione, reti di bot e distribuzione di media sintetici. Questi strumenti sono progettati per identificare comportamenti autentici vs. inautentici all’interno di complessi ecosistemi informativi.

Inoltre, le analisi IA sono sempre più utilizzate da organizzazioni e governi per monitorare minacce alla salute e alla sicurezza. Con una capitalizzazione di mercato di 400 miliardi di dollari, le azioni PLTR sono attualmente scambiate a 174 dollari, in crescita di oltre il 110% nell’ultimo anno. Ha un EPS (TTM) di 0,43 e un P/E (TTM) di 392,56.

Per quanto riguarda la sua posizione finanziaria, Palantir ha annunciato un fatturato di 1,181 miliardi di dollari per il terzo trimestre chiuso il 30 settembre 2025, rappresentando una crescita del 63% su base annua e del 18% su base trimestrale, raggiungendo un nuovo record di fatturato nella sua storia di oltre vent’anni. Il suo profitto per il trimestre è stato di 476 milioni di dollari.

“Siamo ancora all’inizio di tutto. Questo rimane l’inizio, il primo momento del primo capitolo.”

– Cofondatore e CEO Alex C. Karp, in una lettera agli azionisti

Il suo fatturato negli Stati Uniti, in particolare, è cresciuto del 77% su base annua e del 20% su base trimestrale, raggiungendo 883 milioni di dollari. Ciò include 486 milioni di dollari di fatturato governativo statunitense, che è aumentato del 52% su base annua e del 14% su base trimestrale, e 397 milioni di dollari di fatturato commerciale statunitense, che è salito del 121% su base annua e del 29% su base trimestrale. Karp ha definito il segmento commerciale statunitense “un vero colosso” che, secondo lui, “diventerà, da solo, una delle storie aziendali più significative del secolo nella vita economica americana.”

Durante questo periodo, il numero di clienti di Palantir è cresciuto del 45% su base annua. Nel frattempo, il suo flusso di cassa libero rettificato era di 540 milioni di dollari, gli utili per azione GAAP erano 0,18 dollari e l’EPS rettificato era 0,21 dollari. Ha chiuso il trimestre con 6,4 miliardi di dollari in contanti, equivalenti di cassa e titoli del Tesoro statunitense a breve termine.

“Questi risultati rendono innegabile l’impatto trasformativo dell’uso di AIP per moltiplicare la leva dell’IA,” ha osservato l’azienda.

Per il Q4 2025, Palantir prevede un fatturato compreso tra 1,327 e 1,331 miliardi di dollari e un reddito operativo rettificato compreso tra 695 e 699 milioni di dollari.

Per l’intero anno 2025, Palantir ha aumentato le sue previsioni di fatturato a 4,396‑4,400 miliardi di dollari e prevede una crescita di almeno il 104% del fatturato commerciale statunitense, superando 1,433 miliardi di dollari. Nel frattempo, le previsioni di reddito operativo rettificato sono state aumentate a 2,151‑2,155 miliardi di dollari, e le previsioni di flusso di cassa libero rettificato a 1,9‑2,1 miliardi di dollari.

Punto chiave per gli investitori:

Man mano che i contenuti IA si espandono più rapidamente dell’attenzione umana, la domanda cresce per infrastrutture che governano l’autenticità, la moderazione e la fiducia, creando opportunità a lungo termine oltre le piattaforme social consumer.

Ultime notizie azionarie di Palantir Technologies Inc. (PLTR)

Conclusione

I social media, come li conosciamo, stanno chiaramente giungendo alla fine. Non è più lo stesso luogo in cui le persone condividevano attivamente i loro interessi, ricordi e idee in modo autentico. Ciò che una volta era costruito sulla connessione umana è ora invaso da contenuti automatizzati e bot.

Mentre l’IA ha sbloccato una leva creativa ed efficienza economica senza precedenti, ha anche eroso i segnali stessi che un tempo rendevano l’interazione online significativa.

Il futuro dei social media probabilmente si frammenterà, con una via che porta verso feed iper‑automatizzati ottimizzati per l’engagement e l’altra che punta a spazi verificabilmente umani che privilegiano cultura, credibilità e contesto rispetto alla portata.

Riferimenti

<sup>1. Jones, C. R. & Bergen, B. K. “Le persone non riescono a distinguere GPT‑4 da un umano in un test di Turing.” arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “L’impatto dell’IA generativa sui social media: uno studio sperimentale.” arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M & Bandara, A. “Etichettare contenuti sintetici: percezioni degli utenti sui design delle etichette di avviso per contenuti generati dall’IA sui social media.” arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Esaminare l’impatto del dettaglio dell’etichetta e dell’importanza del contenuto sulle percezioni degli utenti delle immagini generate dall’IA sui social media.” arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>