Garantire l’Autenticità con l’Alba dell’Intelligenza Artificiale (IA)

L’adozione dell’IA in tutti gli ambiti della vita è in forte crescita. Le stime suggeriscono che il mercato è destinato a triplicare nel corso dei prossimi sette anni. 

Da una dimensione di quasi US$242 billion, si prevede che cresca fino a quasi US$740 billion entro il 2030. Diverse industrie hanno iniziato a incorporare l’IA nelle loro operazioni. Le industrie che finora l’hanno sfruttata di più sono state la sanità, finanza, la manifattura, i servizi aziendali e legali, ecc. 

In misura minore, l’IA ha iniziato a modificare i paradigmi operativi in settori come i media, l’intrattenimento, la sicurezza, il retail, l’energia, ecc. 

Con l’aumento dell’adozione dell’IA, la sfida di garantire l’autenticità è emersa come una questione significativa che necessita di un intervento immediato. Iniziamo la discussione di oggi esaminando quali sono queste sfide.

Clicca qui per scoprire tutto sull’investimento nell’intelligenza artificiale. 

Sfide di Autenticità nell’Adozione dell’IA

Ciò che è la forza dell’IA è emerso come la sua debolezza. Gli algoritmi di IA sono in grado di generare immagini, video, articoli e qualsiasi altra forma di contenuto multimediale realistico, rendendo estremamente difficile per un osservatore medio distinguerli dall’originale. 

All’occhio medio, può apparire come informazione autentica proveniente da una fonte affidabile, mentre in realtà potrebbe essere l’esatto opposto: contenuto falso generato per propaganda malevola. Diversi eventi si sono verificati di recente che mettono in luce questo lato dell’adozione crescente dell’IA. 

Immagine Falsa di un’Esplosione al Pentagono Generata dall’IA

Nel maggio 2023 è stata pubblicata una notizia di un’esplosione vicino al Pentagono negli Stati Uniti. L’immagine mostrava molto fumo nero provenire dal giardino vicino all’edificio del Pentagono. Questa immagine è stata condivisa da un account Twitter verificato, Bloomberg Feed, che aveva il segno di spunta blu. Poco dopo, molti altri account verificati con il segno blu hanno condiviso l’immagine. Tuttavia, si trattava di un’immagine generata dall’IA, che ha ingannato molti. La recente politica di X di rendere disponibili i segni di spunta blu a pagamento di 8 US$ al mese ha ulteriormente aggravato il problema. 

Poiché chiunque può avere un account verificato e gli account verificati ottengono maggiore visibilità, la notizia si è diffusa rapidamente, sollevando preoccupazioni riguardo a figure pubbliche, funzionari governativi e siti di notizie impersonati, creando caos e una crisi di autenticità nel mondo digitale.

Sebbene l’immagine fosse difficilmente riconoscibile come generata dall’IA da un utente medio di X, alcuni ricercatori di IA sono riusciti a identificare i difetti o le irregolarità. 

Secondo Nick Waters, uno di questi ricercatori di IA:

“L’unione ‘insolita’ della recinzione dell’edificio con le barriere della folla mostrava che l’immagine poteva essere stata creata o manipolata artificialmente.”

Tuttavia, la falsificazione ha raggiunto il suo scopo, anche se solo per un breve momento, creando caos e confusione sui social media e oltre. 

Migliaia di Immagini False su Adobe Stock

Secondo un rapporto pubblicato nel Washington Post, le immagini stock create dall’IA sono onnipresenti. Una ricerca su Adobe Stock con il termine ‘Ukraine War’ ha restituito oltre 15.000 immagini false del conflitto. Il rapporto ha anche segnalato una forte presenza di centinaia di immagini IA di persone alle proteste Black Lives Matter che non sono mai avvenute. 

Dozzine di immagini generate dall’IA erano disponibili anche per gli incendi di Maui. Molte di queste immagini somigliavano così tanto a foto reali scattate da fotogiornalisti che le false erano difficilmente distinguibili dalle vere. 

Il Caso di Clip di Notizie Apparentemente Reali

Secondo un altro rapporto pubblicato da Forbes sui falsi generati dall’IA, la star di TikTok e YouTube Krishna Sahay è uno dei diversi utenti dei social media che utilizzano l’IA generativa per creare clip di notizie apparentemente reali di importanti conduttori dei principali media mainstream, il cui lavoro gode di grande credibilità. 

Da CBS a CNN a BBC, molti conduttori di queste agenzie di notizie rientrano in questa lista. Questi video sono anche noti come deep fake, in cui potenti algoritmi di IA generativa creano contenuti audiovisivi che sembrano e suonano come i conduttori stessi. 

Secondo il rapporto, Krishna Sahay da solo ha un pubblico di milioni di persone. I video di Sahay includono commenti problematici su conduttori falsi manipolati dall’IA su temi sensibili, come sparatorie scolastiche, attacchi terroristici, aggressioni criminali e altro. 

Secondo Hany Farid, esperto di deep fake e professore presso l’UC Berkeley, questi video sfruttano la popolarità e la credibilità dei noti conduttori di notizie come un “veicolo convincente per diffondere disinformazione”. 

Secondo il Prof. Farid: “In molti casi, i conduttori sono noti agli spettatori e di fiducia, e anche se non lo fossero, il formato generale delle notizie è familiare e quindi più affidabile.” Egli ritiene che fermare questa minaccia richieda di “prendere più seriamente la protezione dei diritti delle persone il cui aspetto e voce vengono appropriati”.

Deep Fake dalla Guerra di Gaza

Internet ha anche assistito a una notevole invasione di video deep fake relativi alla guerra di Gaza. In risposta a questa sfida, Jean-Claude Goldenstein, CEO di CREOpoint, una società tecnologica specializzata in IA, è stato fondamentale nella valutazione della validità di tali contenuti. Riconoscendo la gravità della situazione, l’azienda ha sviluppato un database dei deep fake più virali emersi da Gaza, segnando un passo cruciale nell’affrontare questa minaccia digitale. 

Secondo Goldenstein:

“Immagini, video e audio: con l’IA generativa, sarà un’escalation che non avete mai visto.”

Questi video spesso riutilizzano contenuti di conflitti più vecchi. Cercano di generare una forte risposta emotiva accentuando l’intensità del disastro. 

Oltre a conoscere a fondo l’IA generativa, questi team di creazione di deep fake includono persone consapevoli della psicologia umana e di come mirare alle più profonde pulsioni e ansie delle persone. 

Nelle mani di propagandisti, teorici della cospirazione, terroristi o organizzazioni truffaldine, gli strumenti di IA che generano contenuti falsi si sono evoluti in una delle armi più letali. La necessità di tenerli sotto controllo aumenta ogni giorno che passa. 

Uno dei modi più efficaci per combattere questa minaccia crescente sarebbe garantire l’autenticità della fonte. Gli sforzi di ricerca e sviluppo di soluzioni per garantire l’autenticità sono in pieno svolgimento. Di seguito alcuni esempi reali.

Come garantire l’autenticità dei contenuti nell’Era dell’Intelligenza Artificiale?

Tecnologia di Autenticazione In-Camera di Sony

Sony Electronics sta per lanciare una soluzione innovativa. Ha completato il secondo ciclo di test della sua tecnologia di autenticità in-camera in collaborazione con l’Associated Press. 

Lo scopo di questa tecnologia è dotare le immagini catturate di un certificato di nascita che autentichi l’origine del contenuto. Più specificamente, sarà una firma digitale basata su macchina, prodotta all’interno della fotocamera nel momento stesso della cattura dell’immagine nel chipset hardware. 

Secondo Neal Manowitz, Presidente e COO di Sony Electronics, la “tecnologia di autenticità in-camera ha mostrato risultati preziosi”, e l’azienda “continuerà a spingere il suo sviluppo verso un rilascio più ampio”.

Il test sul campo congiunto di Sony Electronics e AP ha raggiunto il completamento in ottobre di quest’anno. Lo scopo di questo ciclo di test era valutare l’efficienza dell’autenticazione della cattura e del relativo flusso di lavoro. 

Il terzo collaboratore in questo progetto è stato CameraBits, noto per la creazione dello strumento di flusso di lavoro standard del settore PhotoMechanic. 

Il ruolo svolto da CameraBits in questa collaborazione consisteva nel fornire la tecnologia per preservare la firma digitale della fotocamera attraverso il processo di modifica dei metadati. 

Secondo David Ake, Direttore della Fotografia dell’Associated Press, “Le immagini false e manipolate sono una preoccupazione importante per le organizzazioni giornalistiche. Non solo contribuiscono a mis- e disinformazione, ma alla fine erodono la fiducia del pubblico in immagini fattuali e accurate.” 

La tecnologia di firma e autenticazione in-camera sarà rilasciata come aggiornamento firmware in più modelli nella primavera del 2024.

Sony Group Corporation (SONY ) ha una capitalizzazione di mercato di 106,35 miliardi di dollari, un rapporto P/E di 19,49 e nel 2022 ha registrato un fatturato di 82,64 miliardi di dollari.

Tecnologia per Combattere le Manipolazioni Vocali Deep Fake

Le tecnologie basate sull’IA hanno stimolato sviluppi nella sintesi vocale realistica. Nella sua forma originariamente prevista, la tecnologia può essere di grande utilità. Può aiutare a creare assistenti vocali personalizzati e altri strumenti di comunicazione che migliorano l’accessibilità. Tuttavia, dall’altro lato, molti la usano per creare voci per video deep fake. 

Per rispondere a questa minaccia, Ning Zhang, professore assistente di informatica e ingegneria presso la McKelvey School of Engineering della Washington University, ha sviluppato uno strumento chiamato AntiFake. Non è uno strumento di mitigazione che aiuta nella rilevazione post-attacco, ma è uno strumento proattivo volto a fermare il problema alla radice.

Secondo il Prof. Zhang:

“AntiFake garantisce che quando pubblichiamo dati vocali, sia difficile per i criminali utilizzare tali informazioni per sintetizzare le nostre voci e impersonarci.”

In una mossa interessante per combattere i cybercriminali sofisticati, il Prof. Zhang ha deciso di restituire loro le monete. Secondo lui:

“Lo strumento utilizza una tecnica di IA avversaria che originariamente faceva parte della cassetta degli attrezzi dei cybercriminali, ma ora la usiamo per difenderci da loro.”

Il principio operativo fondamentale di AntiFake è distorcere leggermente il segnale audio registrato. La natura della distorsione è così finemente calibrata che, pur suonando corretto all’orecchio umano, viene trasmessa come qualcosa di completamente diverso all’IA. 

Secondo dati pubblicamente disponibili, AntiFake ha mostrato un tasso di protezione superiore al 95%. Ha inoltre dimostrato la sua efficacia nell’essere accessibile a diverse popolazioni. 

Uso della Blockchain per Garantire l’Autenticità

OARO Media solutions sfruttano le proprietà di immutabilità della blockchain per combattere la minaccia dei deep fake. Aiuta a creare una traccia dati immutabile per imprese, autorità governative e utenti individuali per autenticare qualsiasi foto o video. 

Il modo in cui OARO Media funziona sul telefono mobile dell’utente è semplice ma estremamente efficace. L’utente inizia accedendo alla fotocamera del telefono tramite un link web SMS o l’app di un assicuratore. Successivamente, viene rilasciato un certificato per il contenuto visivo, che include un record non falsificabile di ID utente, contenuto, timestamp e coordinate GPS. Questo processo aiuta il settore assicurativo ad autenticare le richieste e a distinguere i falsi generati dall’IA da quelli reali. 

Fermare l’Uso dei Deepfake come Parte della Guerra d’Informazione

Le soluzioni e i servizi anti-deepfake di Sentinel aiutano i governi democratici, le agenzie di difesa e le imprese a proteggere le loro risorse dagli impatti dei contenuti IA generati in modo malevolo. Ha collaborato con l’Unione Europea e il Ministero degli Affari Economici e delle Comunicazioni della Repubblica d’Estonia. Tuttavia, si tratta di una soluzione post-attacco che aiuta a rilevare i deep fake una volta che sono entrati in circolazione. 

Il suo funzionamento prevede un semplice flusso di quattro passaggi. Nel primo passo, l’utente carica il media digitale tramite il sito web o l’API di Sentinel. Il sistema Sentinel analizza automaticamente il media per rilevare falsificazioni IA. Poi fornisce un verdetto su se il media è un deep fake o meno. Infine, per rendere gli utenti consapevoli del processo, mostra una visualizzazione della manipolazione. 

Garantire l’Autenticità nell’Era dell’IA: Scenario di Innovazione Fiorente per il Futuro

Il contenuto non autentico generato dall’IA è uno strumento potente per distorcere la realtà e diffondere propaganda velenosa. Tale contenuto, anche se creato per ragioni apparentemente innocue come uno scherzo o i like sui social media, può incitare violenza su larga scala. 

Il suo impatto si estende all’aumento della sfiducia in vari ambiti, dalle relazioni diplomatiche tra stati alle interazioni tra imprese di servizi e i loro utenti, fino alle relazioni personali. Pertanto, è un segnale positivo che i ricercatori e gli scienziati tecnologici a livello globale abbiano riconosciuto i pericoli dei contenuti falsi non controllati. Abbiamo già evidenziato diverse iniziative che affrontano questo problema.

Ce ne sono molti altri. Sensity, ad esempio, sta sviluppando una piattaforma di intelligence visiva delle minacce. La sua API è già in grado di rilevare le più recenti tecniche di manipolazione e sintesi basate sull’IA. Un’altra startup, Quantum Integrity, ha creato soluzioni SaaS basate sull’IA che possono rilevare falsificazioni di immagini e video. 

I cybercriminali continueranno sicuramente a ideare nuove tecniche per ingannarci. Ma molte imprese saranno in grado di anticiparle e contrastarle. Con l’innovazione che continua a un ritmo costante, la lotta non è più una sfida Davide contro Golia.

Clicca qui per scoprire tutto sull’investimento in cinque tecnologie convergenti.