UNITE AI -malli voi havaita kaikki deepfake-tapaukset ilman kasvoihin perustuvaa tunnistusta

Tiedemiehet käsittelevät nyt AI-ongelmaa AI:n avulla. UC Riverside -yliopiston tutkijat ovat luoneet UNITE-mallin vastatakseen vakavaan deepfake-ongelmaan. 

“Ihmiset ansaitsevat tietää, onko näkemänsä todellista,” sanoi Rohit Kundu, UCR:n Marlan and Rosemary Bourns College of Engineeringin tohtoriopiskelija, joka johti artikkelia ‘Kohtaan universaali synteettinen videodetektori: kasvojen tai taustan manipuloinnista täysin AI:n luotuun sisältöön.¹ “Ja kun AI kehittyy paremmaksi todellisuuden väärentämisessä, meidän on kehitettävä parempia keinoja totuuden paljastamiseksi.”

Tutkijat ovat tehneet yhteistyötä Google‑tutkijoiden kanssa, Alphabet‑yrityksen Alphabet (GOOG ) kanssa, kehittääkseen uuden AI‑mallin, joka havaitsee videomaniippelointia ja paljastaa väärennetyn sisällön, jota käytetään levittämään disinformaatiota ja aiheuttamaan vahinkoa. Tutkimus totesi:

“Misinformaation nopea leviäminen, erityisesti kriittisinä ajankohtina kuten vaalit, korostaa tarvetta yleistettävissä oleville tunnistusmalleille, jotka pystyvät tunnistamaan moninaisia manipulointeja, mukaan lukien kasvojen, taustan ja täysin AI:n luodun T2V/I2V‑sisällön, ihmissubjekteilla tai ilman.”

Malli pystyy havaitsemaan sekä osittain manipuloituja että täysin synteettisiä videoita. Sen sijaan, että se keskittyisi pelkästään kasvoihin kuten useimmat perinteiset tunnistimet, tämä malli analysoi koko kehyksiä riippumatta siitä, onko videossa ihmissubjekti läsnä.

Tämä tekee siitä voimakkaan työkalun, jota faktantarkistajat, kouluttajat, toimittajat, sosiaalisen median alustat ja muut voivat käyttää estääkseen muokattujen videoiden leviämisen viraaliksi.

Tekoälyn nousu ja siitä seuraava synteettinen ylikuormitus

Tekoäly (AI) tarjoaa valtavan potentiaalin mullistaa monia elämämme ja työmme osa‑alueita.

Tämän teknologian kyky automaatiossa, data‑analyysissä ja päätöksenteossa on jo alkanut muuttaa toimialoja, ja sen odotetaan lisäävän maailmanlaajuiseen talouteen useita biljoonia dollareita tämän vuosikymmenen loppuun mennessä.

Markkina‑ennustaja IDC:n arvioi että AI:n nousu kasvattaa maailman taloutta yhteensä 19,9 biljoonalla dollarilla vuoteen 2030 mennessä.

McKinseyn tutkimus puolestaan ennustaa, että generatiivisen AI:n tuottama lisäarvo voi olla jopa $4,4 biljoonaa 63:n tarkastellun käyttötapauksen perusteella. Noin 75 % AI:n tuottamasta arvosta kohdistuu neljään alaan:

• Tutkimus ja kehitys
• Ohjelmistokehitys
• Markkinointi ja myynti
• Asiakasoperaatiot

Vaikka teknologian vaikutus ennustetaan merkittäväksi kaikilla sektoreilla, tekniikka‑ ja pankkisektorit saattavat kokea suurimman vaikutuksen suhteessa niiden tuloihin generatiivisesta AI:sta. Goldman Sachs (GS ) jakaa saman näkemyksen ja odottaa AI:n nostavan maailmanlaajuista BKT:ta 7 %:lla. Pankin ekonomistit Joseph Briggs ja Devesh Kodnani totesi silloin ”

“Huolimatta merkittävästä epävarmuudesta generatiivisen AI:n potentiaalista, sen kyky tuottaa sisältöä, joka on erottamatonta ihmisen luomasta, ja sen kyky murtaa viestintäesteet ihmisten ja koneiden välillä, edustaa merkittävää edistysaskelta, jolla voi olla laajoja makrotaloudellisia vaikutuksia.”

Kuitenkin sama tietokonejärjestelmän kyky suorittaa tehtäviä kuten oppiminen, ongelmanratkaisu ja päätöksenteko – jotka perinteisesti vaativat inhimillistä älykkyyttä – on myös aiheuttamassa maailman kaaosta.

Mitä kehittyneempää teknologia on, sitä hämärämmäksi todellisuuden ja keinotekoisuuden välinen raja hämärtyy.

Why Old Deepfake Detectors No Longer Work

Viime vuosina AI:n edistysaskeleet ovat johtaneet ennennäkemättömään synteettisen median räjähdykseen. Arviot suggest että yli puolet pidemmistä LinkedIn‑julkaisuista kirjoitetaan tällä hetkellä AI:n avulla. Sitten on ”AI slop”, joka viittaa heikkolaatuiseen, massatuotettuun AI‑luotuun sisältöön.

Mutta kaikkein huolestuttavampia ovat deepfake‑tapahtumat, jotka ovat kuvia, videoita tai äänitteitä, jotka on luotu tai muokattu AI:n avulla. Ne ovat väärennettyä sisältöä, jossa AI esittää väärennetyn esityksen realistisena.

Tämän päivän tällainen sisältö on kaikkialla, läpäisten kaikki internetin kulmat. Nämä hyper‑realistiset digitaaliset mediat aiheuttavat sekaannusta ja levittävät disinformaatiota. Ne uhkaavat myös ihmisten yksityisyyttä ja turvallisuutta. 

Kyberrikolliset hyödyntävät AI:ta parantaakseen toimintaansa, toteuttaen phishing‑huijauksia ja identiteettivarkauksia hälyttävän tarkkuuden kanssa. Kundu:n mukaan

“On pelottavaa, kuinka helposti näihin työkaluihin on pääsy. Kuka tahansa, jolla on kohtuulliset taidot, voi ohittaa turvasuodattimet ja luoda realistisia videoita julkisista henkilöistä, jotka sanovat asioita, joita he eivät ole koskaan sanoneet.”

Yhdessä tällaisessa tapauksessa kyberrikolliset esiintyivät yrityksen talousjohtajana (CFO) Zoom‑kokouksessa, aiheuttaen 25 miljoonan dollarin menetyksen.

Tämä on vasta alkua, sillä Deloitte ennustaa, että tällaisten tapahtumien petostappiot Yhdysvalloissa nousevat 40 miljardiin dollariin vuoteen 2027 mennessä, kun taas vuonna 2023 ne olivat 12,3 miljardia. Yhdysvaltain valtiovarainministeriön raportti on myös todennut, että ”olemassa olevat riskienhallintakehykset”, joita yritykset ovat omaksuneet, ”eivät välttämättä riitä kattamaan nousevia AI‑teknologioita.”

Tämä ei tarkoita, että työkaluja AI‑sisällön havaitsemiseksi ja itsensä suojaamiseksi teknologian riskeiltä ei olisi olemassa. Markkinoilla on itse asiassa monia työkaluja.

Samat yritykset, jotka lanseeraavat uusia AI‑työkaluja helpottaakseen sisällön luomista, esittelevät myös keinoja synteettisen datan havaitsemiseksi.

Vuonna 2020 teknologiajätti Microsoft (MSFT ) julisti Video Authenticatorin, joka analysoi staattisen valokuvan tai videon tarjotakseen luottamuspisteen, jonka avulla voidaan määrittää, onko media tekoälyn manipuloimaa. Työkalu toimii havaitsemalla deepfake‑videon sekoitusrajat ja hienovaraiset häivytykset, joita ihmisen silmä ei välttämättä havaitse.

Silloin se esitteli myös teknologian, jonka avulla voidaan tunnistaa väärennetty sisältö ja vahvistaa median aitous, jonka kanssa ihmiset ovat vuorovaikutuksessa. Se sisälsi työkalun, jonka avulla sisällöntuottaja voi lisätä digitaalisen hash‑tunnisteen ja sertifikaatin sisältöön, jotka elävät sen sisällä metatietona. Lukijalle puolestaan esiteltiin mahdollisuus tarkistaa sertifikaatit ja verrata hash‑tunnisteita sisällön aitouden varmistamiseksi.

Teknologiajätti varoitti myös työkalun lyhyen aikavälin hyödyllisyyttä AI‑vetoisessa aikakaudessa. Koska deepfake‑videot luodaan jatkuvasti oppivan AI:n avulla, on vain ajan kysymys, milloin ne ylittävät perinteiset tunnistusmenetelmät.

Saman ajan tienoilla Facebook, Meta (META ) -yritys, myös käynnisti kilpailun kehittääkseen deepfake‑tunnistimen käyttäen dataa, johon tutkijoilla ei aiemmin ollut pääsyä.

Muutama vuosi sitten Intel (INTC ) esitteli FakeCatcher‑työkalun, reaaliaikaisen deepfake‑tunnistimen, jonka tarkkuus on 96 %.

Työkalu käytti OpenVinoa AI‑mallien ajamiseen kasvojen ja maamerkkien tunnistusalgoritmeille, kun taas tietokonenäön lohkot optimoitiin sen Integrated Performance Primitives‑ ja OpenCV‑kirjastoilla. Laitteistoltaan alusta pystyy ajamaan yli seitsemänkymmentä erilaista tunnistusvirtaa samanaikaisesti kolmannen sukupolven Xeon® Scalable -prosessorilla.

Sen sijaan, että FakeCatcher yrittäisi löytää, mikä on vialla, se etsii aitoja vihjeitä arvioimalla, mikä tekee meistä inhimillisiä, ja antaa algoritmien muuntaa nämä signaalit spatio‑temporaalisiksi kartoiksi, ja lopulta käyttämällä syväoppimista tunnistamaan välittömästi, onko video aito vai väärennetty.

Viime vuonna OpenAI myös julisti, että se tutkii työkaluja sisällön aitouden varmistamiseksi.

Tämä sisältää tekstin vesileiman, jonka he totesivat olevan tehokas paikallista manipulointia vastaan, mutta ei yhtä tehokas globaalin manipuloinnin torjumisessa. He myös totesi, että se voisi ”epäsuhteellisesti vaikuttaa” ryhmiin, kuten ei‑äidinkielenään englantia puhuviin.

Tämä päivitys tuli Wall Street Journalin raportin jälkeen, jonka mukaan yritys on jo kehittänyt työkalun, joka vesileimaa ja havaitsee ChatGPT‑luodun tekstin ”korkealla tarkkuudella” jo jonkin aikaa, mutta ei ole vielä päättänyt julkaista sitä.

Lisäksi OpenAI on liittynyt C2PA:n (Coalition for Content Provenance and Authenticity) ohjauskomiteaan, laajasti käytettyyn standardiin digitaalisen sisällön sertifiointiin. Yritys lisää C2PA‑metatietoja kaikkiin sen palveluiden luomiin ja muokattuihin kuviin osana kuvantunnistustyökaluja.

Tänä vuonna Google myös esitteli oman AI‑luodun tekstin, kuvan, äänen ja videon tunnistusvälineensä, nimeltään SynthID Detector.

Google‑työkalu toimii kuitenkin vain sisällölle, joka on luotu yrityksen omilla AI‑palveluilla, kuten Gemini, Imagen, Veo ja Lyria. Tämä johtuu siitä, että työkalu tunnistaa periaatteessa “vesileiman”, jonka Google‑tuotteet ovat upottaneet omaan tuotokseensa.

Vesileima on ainutlaatuinen, koneellisesti luettava elementti, joka on upotettu sisältöön. Ihmisten havaitsemattomana se voidaan tunnistaa ja poimia algoritmeilla, jotka on suunniteltu juuri tähän tarkoitukseen.

Inside the Tech Powering UNITE’s Breakthrough

Kun AI‑teknologia kehittyy nopeasti, myös työkalut, joilla sen avulla luotua sisältöä havaitaan, kehittyvät. Mutta ei ole olemassa yhtä universaalia työkalua, jota kaikki voisivat käyttää kaikenlaisen AI‑sisällön tunnistamiseen.

Lisäksi nykyisten deepfake‑tunnistustekniikoiden fokus on edelleen kasvojen manipuloinneissa, kuten suun synkronoinnissa tai kasvojen vaihtamisessa, ja teknologian edistysaskeleet tekevät niistä riittämättömiä.

Kun teknologinen innovaatio tekee merkittäviä edistysaskeleita tekstistä videoon (T2V) ja kuvasta videoon (I2V) generatiivisissa malleissa, kuka tahansa voi helposti luoda erittäin vakuuttavaa, täysin AI‑luotua synteettistä sisältöä ja saumattomia taustan muutoksia. Tämä asettaa jokaisen – yksilöt, instituutiot ja jopa kansakunnat – vakavaan riskiin.

Tässä taustassa aikaisempien deepfake‑tunnistimien täydellinen riippuvuus kasvoista tekee niistä vanhentuneita nykypäivän teknologisesti kehittyneessä maailmassa. 

“Jos kehyksessä ei ole kasvoja, monet tunnistimet yksinkertaisesti eivät toimi. Mutta disinformaatio voi tulla monessa muodossa. Taustan muuttaminen voi vääristää totuuden yhtä helposti.”

– Kundu

Perinteiset tunnistimet eivät siis toimi uusissa manipuloinneissa, sillä uusi synteettinen sisältö, jossa on koko kohtauksia ja taustoja, haastaa kasvoihin keskittyvät tunnistusmenetelmät.

Tämä vaatii monipuolisemman lähestymistavan. Ratkaisuna tähän ongelmaan UC Riverside -tutkijat ovat esittäneet UNITE:n.

Universal Network for Identifying Tampered and Synthetic Videos (UNITE) -malli tallentaa koko‑kehyksen manipuloinnit.

“Deepfake‑t ovat kehittyneet,“ sanoi Kundu, jonka tutkimus UC Riverside -yliopistossa keskittyy perustamismallien hyödyntämiseen edistyneissä näkötehtävissä, mukaan lukien kuvan segmentointi ja väärennetyn median havaitseminen. “Ne eivät enää ole pelkästään kasvojen vaihtamista. Ihmiset luovat nyt kokonaan vääriä videoita – kasvoista taustoihin – voimakkaiden generatiivisten mallien avulla. Järjestelmämme on rakennettu nappaamaan kaikki tämä.”

Malli laajentaa tunnistuskykyä tilanteisiin, joissa ei ole kasvoja tai ihmissubjekteja, ja lisäksi se pystyy tunnistamaan hienovaraisia spatiaalisen ja temporeaalisen epäsuhtaisuuden merkkejä sekä kattamaan monimutkaisia taustan muokkauksia, jotka aiemmat järjestelmät ovat jättäneet huomiotta.

Tutkimalla sekä kasvoja että taustaa ja liike­malleja, ja näin kattamalla koko videokehykset, UNITE tarjoaa yhden ensimmäisistä työkaluista, jotka tunnistavat synteettisiä videoita ilman, että ne luottavat pelkästään kasvojen sisältöön.

Tähän malli käyttää transformer‑pohjaista syväoppimismallia, eräänlaista neuroverkkoa, joka hyödyntää monipäistä huomionmekanismia sekvenssidatan käsittelyyn. Tässä teksti muunnetaan numeerisiksi esityksiksi, joita kutsutaan tokeneiksi. Tämä arkkitehtuuri on itse asiassa monien nykyaikaisten kielimallien, kuten GPT:n, perusta.

Käsittelemällä tietoa rinnakkain, transformerit voivat nopeuttaa koulutusta ja parantaa suorituskykyä.

UNITE‑tapauksessa transformer‑pohjainen arkkitehtuuri käsittelee domain‑agnostisia ominaisuuksia, jotka on poimittu videoista SigLIP‑So400M‑perusmallin avulla. Perus‑AI‑kehys SigLIP poimii ominaisuuksia, jotka eivät ole sidottuja tiettyyn objektiin tai henkilöön.

Rajoitettujen datasetien vuoksi, jotka kattavat sekä kasvojen/taustan että tekstistä videoon/kuvasta videoon muutokset, tiimi käytti innovatiivisia koulutusstrategioita mallilleen. Tämä tarkoittaa koulutusta tehtävään liittymättömällä datalla yhdessä perinteisen deepfake‑datan kanssa.

Lisäksi FaceForensics++‑datasetin ohella tiimi käytti SAIL‑VOS‑3D‑datasettiä, joka simuloi monimutkaisia ympäristöjä ja tarjoaa monipuolisia synteettisiä kohtauksia AI‑tunnistusmallien koulutukseen. Tämä datasetti alun perin suunniteltiin 3‑D‑videon objektisegmentointiin GTA‑V‑pelissä. Vaikka se ei ole AI‑luotua, datasetti on täysin synteettinen ja auttaa simuloimaan AI‑luotua mediaa. Tiimi havaitsi, että tämä parantaa mallin kykyä havaita erilaisia synteettisiä manipulointeja.

Google tarjosi pääsyn tarvittaviin dataset‑tietoihin sekä laskentaresursseihin mallin kouluttamista varten.

Vähentääkseen mallin taipumusta keskittyä liikaa kasvoihin, tiimi käytti myös attention‑diversity (AD) ‑häviötä, joka kannustaa monipuoliseen spatiaaliseen huomioon koko videokehysten ajan.

AD‑häviö on yhdistetty cross‑entropy‑häviöön, joka tunnetaan myös log‑loss‑funktioina, ja jota käytetään yleisesti koneoppimisessa (ML) luokittelumallin suorituskyvyn mittaamiseen, jotta mallin suorituskykyä voidaan parantaa moninaisissa tilanteissa.

Pelkkä cross‑entropy‑ (CE‑) häviön käyttäminen tekee mallista vaikean käsittelemään videoita, joissa on todellinen ihmissubjekti manipuloidun taustan tai T2V‑ ja I2V‑mallien tuottaman sisällön kanssa.

Siksi tiimi otti käyttöön AD‑häviön, joka kehottaa järjestelmää tarkkailemaan useita visuaalisia alueita jokaisessa kehyksessä, mikä vahvistaa mallin kykyä poimia tärkeitä merkkejä sekä etualalta että taustalta.

AD‑häviö on tiimin lähestymistavan keskeinen innovaatio, jonka avulla UNITE ei ainoastaan erinomaisesti havaitse AI‑luotuja ja taustaa muokattuja videoita, vaan myös parantaa merkittävästi perinteisen kasvojen manipuloinnin tunnistamista.

Vertailtaessa UNITE‑mallin suorituskykyä muihin malleihin tiimi havaitsi, että se ”ylittää huipputason tunnistimet dataset‑tietokannoissa (cross‑data‑asetuksissa), joissa on kasvojen/taustan manipulointeja ja täysin synteettisiä T2V/I2V‑videoita, osoittaen sen mukautuvuutta ja yleistettävissä olevia tunnistuskykyjä.”

Digitaalisesti yhä automatisoidummassa ja automatisoidummassa maailmassa uusi järjestelmä tarjoaa universaalin tunnistimen, joka voi merkitä laajan valikoiman väärennöksiä, yksinkertaisista kasvojen vaihtamista monimutkaisiin, täysin synteettisiin videoihin, jotka on luotu ilman aitoa kuvamateriaalia. Kundu:n mukaan:

“Se on yksi malli, joka käsittelee kaikki nämä tilanteet. Tämä tekee siitä universaalin.”

Tällä hetkellä kehitteillä oleva UNITE on sen tekijöiden mukaan arvokas työkalu kehittyvässä synteettisen videon tunnistamisen kentässä. Pian sen odotetaan näyttelevän keskeistä roolia videodisinformaation torjumisessa.

Investing in AI-based Detection

AI‑maailmassa Palantir Technologies (PLTR ) on tunnettu AI‑tehoisesta data‑integraatiosta, mallintunnistuksesta ja poikkeavuuksien havaitsemisesta.

Yritys toimii neljän pääohjelmistoplatformin kautta: Gotham, Foundry, Apollo ja AIP. Apollo on yksi ohjauskerros, joka koordinoi konfiguraatiota, turvallisuuspäivityksiä ja uusien ominaisuuksien toimitusta varmistaakseen kriittisten järjestelmien jatkuvan toiminnan. Gotham mahdollistaa käyttäjille piilotettujen mallien tunnistamisen dataset‑tietokannoissa, kun taas Foundry toimii käyttöjärjestelmänä tehokkaalle omaisuus‑ ja riskienhallinnalle. AIP mahdollistaa yrityksille LLM‑mallien ja muiden mallien ajamisen täydellisellä hallinnalla.

Palantir Technologies (PLTR )

Palantirilla on syvät sidokset Yhdysvaltain hallituksen, armeijan ja tiedustelupalveluiden kanssa. Tänä vuonna se sai 30 miljoonan dollarin sopimuksen AI‑analyysin tuomiseksi maahanmuuton rekistereihin.

Markkina‑arvostus on 372 miljardia dollaria, ja PLTR‑osakkeet käyvät tällä hetkellä 157,72 dollaria, mikä on 109,35 %:n nousu YTD, AI‑kysynnän, massiivisen vähittäiskaupan kiinnostuksen ja laajenevien hallituksen sopimusten ansiosta. EPS (TTM) on 0,23 ja P/E (TTM) on 687,90.

Taloudellisesti Palantir raportoi 39 %:n vuotuisen liikevaihdon kasvun 884 miljoonaan dollariin Q1 2025. Sen Yhdysvaltain liikevaihto kasvoi samalla 55 %:lla 628 miljoonaan dollariin, sisältäen 255 miljoonaa dollaria Yhdysvaltain kaupallista liikevaihtoa ja 373 miljoonaa dollaria Yhdysvaltain hallituksen liikevaihtoa.

Tänä ajanjaksona yritys kirjasi korkean neljännen vuosineljänneksen Yhdysvaltain kaupallisen kokonaiskontraktin arvon, jonka jäljellä oleva sopimusarvo on 2,32 miljardia dollaria.

Palantirin asiakasmäärä 1Q25 kasvoi 39 %:lla vuosi‑vuodelta. Sen GAAP‑tulos per osake oli 0,08 $, ja säädetty EPS oli 0,13 $. Käteinen, käteisen vastaavat ja lyhytaikaiset Yhdysvaltain valtion arvopaperit olivat 5,4 miljardia dollaria neljänneksen lopussa.

“Tarjoamme käyttöjärjestelmän nykyaikaiselle yritykselle AI‑aikakaudella. Olemme keskellä tektonista muutosta ohjelmistojemme omaksumisessa, erityisesti Yhdysvalloissa.”

– CEO Alexander C. Karp

Latest Palantir Technologies (PLTR) Stock News and Developments

Conclusion

Tekoälyn nousu on täysin muuttanut maailmaa, ja sekä yksilöt että organisaatiot omaksuvat teknologiaa yhä enemmän parantaakseen tuottavuutta ja tehostaakseen päätöksentekoa.

Vaikka AI:n odotetaan tuovan biljoonia maailman talouteen, se ei ole ilman vaaroja. Deepfake‑t ja niiden käyttö harhaanjohtamiseen ja petoksiin ovat yksi AI:n laajamittaisen omaksumisen kriittisimmistä riskeistä.

Kun todellisen ja synteettisen erottaminen käy yhä vaikeammaksi, työkalut kuten UNITE ovat entistä tärkeämpiä ja kiireellisempiä. Tämän yleistettävän AI‑mallin avulla voimme suojautua väärennettyä sisältöä vastaan ja mahdollisesti lieventää AI:n negatiivisia vaikutuksia samalla kun hyödynnämme sen positiivisia vaikutuksia työssämme ja elämässämme.

Klikkaa tästä oppiaksesi kaiken tekoälyyn sijoittamisesta.

Lähteet:

1. Kundu, R.; Xiong, H.; Mohanty, V.; Balachandran, A.; Roy‑Chowdhury, A. K.; et al. Kohtaan universaali synteettinen videodetektori: kasvojen tai taustan manipuloinnista täysin AI‑luotuun sisältöön. arXiv preprint arXiv:2412.12278 (2024). https://doi.org/10.48550/arXiv.2412.12278