Il modello UNITE AI può rilevare qualsiasi deepfake senza fare affidamento sui volti

Gli scienziati stanno ora affrontando il problema dell’AI con l’AI stessa. I ricercatori dell’UC Riverside hanno creato un modello UNITE per affrontare il grave problema dei deepfake. 

“Le persone meritano di sapere se ciò che stanno vedendo è reale”, ha detto Rohit Kundu, un candidato PhD del Marlan e Rosemary Bourns College of Engineering di UCR, che ha guidato la stesura del documento ‘Towards a Universal Synthetic Video Detector: From Face or Background Manipulations to Fully AI-Generated Content.¹ “E poiché l’AI diventa sempre più brava a fingere la realtà, dobbiamo diventare sempre più bravi a rivelare la verità.”

I ricercatori hanno collaborato con scienziati di Google, una Alphabet (GOOG ) società, per sviluppare un nuovo modello di AI che rileva la manipolazione dei video e svela i contenuti falsi, che vengono utilizzati per diffondere disinformazione e incitare danni. Lo studio ha notato:

“La rapida diffusione di informazioni false, in particolare durante periodi critici come le elezioni, evidenzia la necessità di modelli di rilevamento generalizzabili in grado di identificare diverse manipolazioni, tra cui quelle del viso, dello sfondo e dei contenuti T2V/I2V completamente generati dall’AI con o senza soggetti umani.” 

Il modello è in grado di rilevare sia i video manipolati parzialmente che quelli completamente sintetici. Piuttosto che concentrarsi solo sul viso, come fanno la maggior parte dei rilevatori convenzionali, questo modello analizza interi frame, indipendentemente dalla presenza di un soggetto umano nei video. 

Ciò lo rende uno strumento potente che può essere utilizzato da fact-checker, educatori, editor, piattaforme di social media e altri per prevenire che i video manipolati diventino virali.

L’ascesa dell’IA e il conseguente sovraccarico sintetico

L’Intelligenza Artificiale (IA) ha un enorme potenziale nel rivoluzionare vari aspetti sia della nostra vita che del nostro lavoro. 

La capacità di questa tecnologia nell’automazione, nell’analisi dei dati e nella decision-making ha già iniziato a trasformare le industrie, con una previsione di aggiungere multi-trilioni di dollari all’economia globale entro la fine di questo decennio.

Uno studio del gigante della previsione di mercato IDC stima che l’ascesa dell’IA aumenterà l’economia globale di un totale di 19,9 trilioni di dollari entro il 2030.

La ricerca di McKinsey, nel frattempo, prevede che il valore aggiunto dall’IA generativa sarà di fino a 4,4 trilioni in 63 casi d’uso analizzati dalla società di consulenza gestionale globale. Circa il 75% del valore che l’IA potrebbe fornire sarà solo in quattro campi:

• R&S
• Ingegneria del software
• Marketing e vendite
• Operazioni con i clienti

Mentre l’impatto della tecnologia è previsto essere significativo in tutti i settori, tecnologia e banca potrebbero vedere l’impatto maggiore come percentuale dei loro ricavi da IA generativa. Goldman Sachs (GS ) è della stessa opinione, prevedendo un aumento del 7% del PIL globale da IA. Gli economisti della banca, Joseph Briggs e Devesh Kodnani, all’epoca notarono:

“Nonostante l’incertezza significativa sul potenziale dell’IA generativa, la sua capacità di generare contenuti indistinguibili da quelli creati dall’uomo e di abbattere le barriere di comunicazione tra esseri umani e macchine riflette un grande progresso con potenziali effetti macroeconomici significativi.”

Tuttavia, questa stessa capacità del sistema informatico di eseguire compiti come apprendimento, risoluzione di problemi e decision-making che normalmente richiedono intelligenza umana, che è tutta pronta a scuotere il mondo, sta anche mandando il mondo nel caos. 

Più la tecnologia diventa sofisticata, più la linea tra ciò che è reale e ciò che non lo è diventa confusa.

Perché i vecchi rilevatori di deepfake non funzionano più

Negli ultimi anni, i progressi nell’intelligenza artificiale hanno portato a un aumento senza precedenti dei media sintetici. Le stimesuggerisconoche più della metà dei post di LinkedIn più lunghisono attualmente scrittida intelligenza artificiale.Poi c’è il ‘rumore dell’intelligenza artificiale’, che si riferisce a contenuti di bassa qualità, prodotti in massa e generati da intelligenza artificiale.

Ma la cosa più preoccupante di tutte sono i deepfake, che sono immagini, video o registrazioni audio che sono statigeneratio alterati utilizzando l’intelligenza artificiale. Si tratta di contenuti contraffatti che utilizzano l’intelligenza artificiale per presentare una rappresentazione falsa come realistica.

Oggi, questotipodi contenuto èovunque, permeandotutti gli angolidi Internet.Questi media digitali iper-realisti stanno causando confusione e diffondendo disinformazione. Sta anche rappresentando una minaccia per la privacy e la sicurezza delle persone.I cybercriminali stanno utilizzando l’AI per migliorare il loro gioco, conducendo truffe di phishing e furti d’identità con una precisione allarmante. Secondo Kundu:

“È spaventoso quanto questi strumenti siano diventati accessibili. Chiunque abbia competenze moderate può bypassare i filtri di sicurezza e generare video realistici di personaggi pubblici che dicono cose che non hanno mai detto.”

In un simile incidente, i cybercriminali si sono spacciati per il direttore finanziario (CFO) di un’azienda durante una riunione su Zoom, provocando una perdita di 25 milioni di dollari. 

Questo è solo l’inizio, tuttavia, poiché Deloitte prevede che le perdite per frode derivanti da tali incidenti raggiungeranno i 40 miliardi di dollari negli Stati Uniti entro il 2027, rispetto ai 12,3 miliardi di dollari del 2023. Un rapporto del Tesoro degli Stati Uniti ha anche scoperto che “i quadri di gestione del rischio esistenti”“ adottati dalle aziende “potrebbero non essere adeguati per coprire le tecnologie AI emergenti.”

Ciò non significa che non ci siano strumenti per aiutare a rilevare i contenuti AI e proteggersi contro i rischi della tecnologia. Ci sono in realtà molti strumenti disponibili sul mercato.

Le stesse aziende che lanciano nuovi strumenti AI per rendere facile la creazione di nuovi contenuti stanno anche introducendo modi per aiutare a rilevare i dati sintetici.

Nel 2020, il gigante tecnologico Microsoft (MSFT ) ha annunciato un Autenticatore di video per analizzare un’ immagine fissa o un video per fornire un punteggio di confidenza al fine di determinare se il media è manipolato artificialmente. Lo strumento funziona rilevando il confine di fusione del deepfake e il sfumato sottile che l’occhio umano potrebbe non essere in grado di rilevare.

All’epoca, ha anche introdotto una tecnologia per identificare i contenuti contraffatti e confermare l’autenticità dei media con cui le persone interagiscono. Ha incluso uno strumento che consente a un creatore di aggiungere hash digitali e certificati ai propri contenuti, che vivono all’interno di essi come metadati. Un lettore, nel frattempo, è stato introdotto per controllare i certificati e abbinare gli hash per l’autenticità dei contenuti.

Il gigante tecnologico ha avvertito dell’utilità a breve termine della tecnologia nell’era alimentata dall’AI. Poiché i deepfake sono generati da AI che imparano continuamente, è solo questione di tempo prima che superino i metodi di rilevamento tradizionali.Verso lo stesso periodo, Facebook, una Meta (META ) società, ha anche avviato una competizione per sviluppare un rilevatore di deepfake utilizzando i dati che i ricercatori non avevano precedentemente accesso.

Alcuni anni fa, Intel (INTC ) ha sviluppato un rilevatore di deepfake in tempo reale, FakeCatcher, che afferma di avere un’accuratezza del 96%.

Lo strumento ha utilizzato OpenVino per eseguire modelli di intelligenza artificiale per algoritmi di rilevamento del viso e dei punti di riferimento, mentre i blocchi di visione artificiale sono stati ottimizzati con i suoi Primitive di Prestazione Integrati e OpenCV. Per quanto riguarda il suo hardware, la piattaforma può eseguire più di settanta diversi flussi di rilevamento contemporaneamente sulla sua CPU Xeon® di terza generazione.

Invece di cercare cosa non va, FakeCatcher cerca indizi autentici valutando cosa ci rende umani e quindi trasformando quei segnali in mappe spaziotemporali, e infine, utilizzando l’apprendimento profondo per rilevare istantaneamente se un video è reale o falso.

L’anno scorso, OpenAI ha anche annunciato che stava conducendo ricerche su strumenti per aiutare l’autenticità dei contenuti.

Ciò include l’impronta digitale del testo, che ha notato essere efficace contro la manipolazione localizzata ma non contro la manipolazione globalizzata. Ha anche affermato che potrebbe “impattare sproporzionatamente” sui gruppi come i non madrelingua inglesi.Questo aggiornamento è arrivato dopo che il Wall Street Journal ha riferito che l’azienda ha già sviluppato uno strumento che marca con un filigrana e rileva il testo generato da ChatGPT con “alta precisione” da qualche tempo, ma non ha ancora preso la decisione di rilasciarlo.

Inoltre, OpenAI si è unita al Comitato di guida di C2PA (la Coalizione per la provenienza e l’autenticità dei contenuti), uno standard ampiamente utilizzato per la certificazione dei contenuti digitali. L’azienda aggiunge i metadati C2PA a tutte le immagini create e modificate da tutti i suoi servizi, come parte degli strumenti di rilevamento delle immagini.

Ora, quest’anno, Google ha anch’essa sviluppato uno strumento di rilevamento del testo, delle immagini, dell’audio e del video generati da intelligenza artificiale chiamato SynthID Detector.

Tuttavia, lo strumento di Google funziona solo per i contenuti che sono stati generati utilizzando i servizi di intelligenza artificiale della stessa azienda, come ad esempio Gemini, Imagen, Veo e Lyria. Ciò avviene perché lo strumento identifica fondamentalmente la presenza di un “filigrana” che i prodotti Google hanno incorporato nei loro output.

Un filigrana è un elemento univoco e leggibile solo dalle macchine che è incorporato nel contenuto. Inriconoscibile da noi esseri umani, può essere rilevato ed estratto da algoritmi progettati a questo scopo.

All’interno della tecnologia che sta dietro il Breakthrough di UNITE

Quindi, mentre l’intelligenza artificiale avanza rapidamente, anche gli strumenti per rilevare il contenuto generato con il suo aiuto avanzano. Tuttavia, non esiste uno strumento universale che possa essere utilizzato da tutti per tutti i tipi di contenuto AI.

Inoltre, l’attenzione delle tecniche di rilevamento dei deepfake esistenti, in particolare, si concentra ancora sulle manipolazioni facciali come il lip-syncing o il face-swapping, e i progressi nella tecnologia li stanno rendendo inadeguati.

Con l’innovazione tecnologica che sta facendo notevoli progressi nei modelli generativi di testo-video (T2V) e immagine-video (I2V), ora è possibile per chiunque creare facilmente contenuto sintetico interamente generato dall’AI e alterazioni di sfondo convincenti e senza soluzione di continuità. Ciò, naturalmente, mette a rischio serio tutti, dalle persone alle istituzioni e persino alle nazioni.

Contro questo sfondo, la completa dipendenza dei rilevatori di deepfake precedenti dal volto li rende superati nel mondo più tecnologicamente avanzato di oggi. 

“Se non c’è un volto nell’immagine, molti rilevatori semplicemente non funzionano. Ma la disinformazione può assumere molte forme. Modificare lo sfondo di una scena può distorcere la verità altrettanto facilmente.”

– Kundu

Quindi, i rilevatori convenzionali non funzionano sulle nuove manipolazioni, poiché il nuovo contenuto sintetico che presenta scene e sfondi completi rappresenta una sfida per i metodi di rilevamento centrati sul volto.

Ciò richiede un approccio più versatile. Come soluzione a questo problema, i ricercatori di UC Riverside hanno introdotto UNITE.

Il modello Universal Network for Identifying Tampered and Synthetic Videos (UNITE) cattura le manipolazioni a pieno schermo.

“I deepfake sono evoluti,“ ha detto Kundu, il cui focus a UC Riverside è sull’utilizzo di modelli fondamentali per compiti di visione avanzati, tra cui la segmentazione delle immagini e il rilevamento dei media falsi. “Non sono più solo scambi di volti. Le persone stanno creando interamente video falsi – dai volti agli sfondi – utilizzando potenti modelli generativi. Il nostro sistema è stato costruito per catturare tutto ciò.”

Il modello estende le capacità di rilevamento a scenari in cui non ci sono volti o nessun soggetto umano, e inoltre, può identificare sottili discordanze spaziali e temporali e persino coprire complesse modifiche di sfondo che i sistemi precedenti hanno trascurato.Quindi, esaminando i volti nonché lo sfondo e i modelli di movimento, , coprendo così i fotogrammi video completi, UNITE offre uno degli primi strumenti del genere per identificare i video sintetici che non si basano soltanto sul contenuto facciale.

Per questo, il modello utilizza un modello di apprendimento profondo basato su transformer, un tipo di rete neurale che impiega un meccanismo di attenzione multi-testa per elaborare dati sequenziali. Qui, il testo viene convertito in rappresentazioni numeriche chiamate token. Questa architettura è in realtà la base per molti moderni modelli linguistici come GPT.

Elaborando le informazioni in parallelo, i transformer possono facilitare un addestramento più rapido e prestazioni migliorate.

Nel caso di UNITE, l’architettura basata su transformer elabora caratteristiche agnostiche del dominio che vengono estratte dai video attraverso il modello di base SigLIP-So400M. La fondamentale struttura di intelligenza artificiale SigLIP estrae caratteristiche non legate a un oggetto o persona specifica.

A causa dei set di dati limitati che coprono le modifiche sia dei volti/sfondo che del contenuto testo-video/ immagine-video, il team ha utilizzato strategie di addestramento innovative per il loro modello. Ciò significa addestrare con dati non pertinenti al compito insieme ai dati standard di deepfake.

Quindi, oltre al noto set di dati FaceForensics++, il team ha anche utilizzato il set di dati SAIL-VOS-3D, che simula ambienti complessi, offrendo scene sintetiche diverse utili per l’addestramento dei modelli di rilevamento AI. Notoriamente, questo è stato originariamente progettato per la segmentazione di oggetti video 3D nel gioco GTA-V. Sebbene non sia stato generato da AI, il set di dati è completamente sintetico e, come tale, aiuta a simulare i media generati da AI. Ciò, il team ha scoperto, migliora la capacità del loro modello di rilevare varie forme di manipolazione sintetica.

Google ha fornito l’accesso ai set di dati richiesti nonché le risorse di calcolo per addestrare il modello.Al fine di ridurre la propensione del modello a sovracentrarsi sui volti, il team ha anche utilizzato una perdita di diversità di attenzione (AD), che incoraggia un’attenzione spaziale variata in tutto il video.

La perdita AD è stata combinata con l’entropia incrociata, anche nota come funzione di perdita logaritmica, e comunemente utilizzata nell’apprendimento automatico (ML) per misurare le prestazioni di un modello di classificazione, al fine di migliorare le prestazioni del modello in diverse situazioni.

L’addestramento del modello solo con la perdita di entropia incrociata (CE) tende a renderlo difficile per esso gestire video in cui c’è un soggetto umano reale con uno sfondo manipolato o contenuto generato da modelli T2V e I2V.

Pertanto, il team ha introdotto la perdita AD, che induce il sistema a monitorare più regioni visive in ogni frame, aumentando così la capacità del modello di catturare segnali importanti sia dal primo piano
La perdita AD rappresenta la chiave dell’innovazione nell’approccio del team, consentendo a UNITE non solo di eccellere nella rilevazione di video generati da intelligenza artificiale e con sfondi alterati, ma anche di avereun miglioramento significativo nell’identificazione
Confrontando le prestazioni di UNITE con altri modelli, il team ha scoperto che “supera i rilevatori di stato dell’arte sui set di dati (in impostazioni crossdata) con manipolazioni di volto/sfondo e video T2V/I2V completamente sintetici, dimostrando la sua adattabilità e capacità di rilevamento generalizzabile.”

In un mondo che sta diventando sempre più digitalizzato e automatizzato, il nuovo sistema offre un rilevatore universale che può segnalare una gamma di falsi, dai semplici scambi di volto ai video completamente sintetici creati senza alcuna ripresa reale. Secondo Kundu:

“È un modello che gestisce tutte queste scenari. È questo che lo rende universale.”

Attualmente in corso, UNITE, secondo i suoi creatori, è uno strumento prezioso nel panorama di rilevamento di video sintetici in via di sviluppo. Presto, potrà essere previsto

Investire nella rilevazione basata sull’intelligenza artificiale

Nel regno dell’IA, Palantir Technologies (PLTR ) è noto per la sua integrazione dei dati alimentata dall’IA, il riconoscimento dei modelli e la rilevazione delle anomalie. 

L’azienda opera attraverso quattro principali piattaforme software: Gotham, Foundry, Apollo e AIP. Apollo è un singolo strato di controllo che coordina la configurazione, gli aggiornamenti di sicurezza e la consegna di nuove funzionalità per garantire il funzionamento continuo dei sistemi critici. Gotham consente agli utenti di identificare modelli nascosti in profondità all’interno dei set di dati, mentre Foundry funge da sistema operativo per la gestione efficiente degli asset e dei rischi. AIP consente alle aziende di eseguire LLM e altri modelli con controllo completoe.

Palantir Technologies (PLTR )

Palantir vanta legami profondi con il governo degli Stati Uniti, le forze armate e le agenzie di intelligence. Quest’anno, ha ottenuto un contratto di $30 mln per portare l’analisi dell’IA ai registri dell’immigrazione.

Con un capitale di mercato di 372 miliardi di dollari, le azioni PLTR sono attualmente scambiate a 157,72 dollari, con un aumento del 109,35% dall’inizio dell’anno, grazie alla domanda di IA, all’interesse al dettaglio e ai contratti governativi in espansione. Il suo EPS (TTM) è di 0,23 e il P/E (TTM) è di 687,90.

Dal punto di vista finanziario, Palantir ha segnalato un aumento del 39% anno su anno del fatturato a 884 milioni di dollari nel primo trimestre 2025. Il suo fatturato negli Stati Uniti, nel frattempo, è cresciuto del 55% anno su anno a 628 milioni di dollari, compresi 255 milioni di dollari di fatturato commerciale negli Stati Uniti e 373 milioni di dollari di fatturato del governo degli Stati Uniti.

Durante questo periodo, l’azienda ha registrato il suo più alto valore contrattuale commerciale totale negli Stati Uniti, con un valore residuo di 2,32 miliardi di dollari. 

Il numero di clienti di Palantir nel primo trimestre 2025 è aumentato del 39% anno su anno. Il suo utile per azione GAAP era di 0,08 dollari e l’utile per azione aggiustato era di 0,13 dollari. Le disponibilità, le equivalenze di cassa e le obbligazioni del Tesoro degli Stati Uniti a breve termine erano di 5,4 miliardi di dollari alla fine del trimestre.

“Stiamo fornendo il sistema operativo per l’impresa moderna nell’era dell’IA. Siamo in mezzo a un cambiamento tettonico nell’adozione del nostro software, in particolare negli Stati Uniti.”

– Amministratore Delegato Alexander C. Karp

Ultimi Palantir Technologies (PLTR) Notizie e Sviluppi Azionari

Conclusione

L’avvento dell’intelligenza artificiale ha completamente cambiato il mondo, con individui e organizzazioni sempre più inclini ad adottare la tecnologia per migliorare la produttività e potenziare la capacità di prendere decisioni.

Proiettata a contribuire con trilioni all’economia mondiale, l’IA non è senza pericoli, tuttavia. I deepfake e il loro utilizzo per disinformare e truffare le persone sono uno dei pericoli più critici dell’adozione generalizzata dell’IA.

Man mano che diventa più difficile distinguere tra ciò che è reale e ciò che è sintetico, strumenti come UNITE diventano sempre più importanti e urgenti. Con questo modello di intelligenza artificiale generalizzabile come protezione contro i contenuti contraffatti, potremmo essere in grado di mitigare l’impatto negativo dell’IA e aumentare e godere dei suoi effetti positivi sul nostro lavoro e sulla nostra vita.

Clicca qui per saperne di più sull’investimento in intelligenza artificiale.

Riferimenti:

1. Kundu, R.; Xiong, H.; Mohanty, V.; Balachandran, A.; Roy‑Chowdhury, A. K.; et al. Towards a Universal Synthetic Video Detector: From Face or Background Manipulations to Fully AI‑Generated Content. arXiv preprint arXiv:2412.12278 (2024). https://doi.org/10.48550/arXiv.2412.12278