Sisällön aitouden varmistaminen tekoälyn aikakaudella

Tekoälyn käyttö lisääntyy monilla elämänalueilla. Artikkelissa käytetyn vuoden 2023 markkinaennusteen mukaan alan koko voisi noin kolminkertaistua vuoteen 2030 mennessä.

Ennusteessa markkinoiden arvioitiin kasvavan noin 242 miljardista dollarista lähes 740 miljardiin dollariin. Tekoälyä otetaan käyttöön esimerkiksi terveydenhuollossa, rahoituksessa, valmistuksessa sekä liike-elämän ja oikeudellisissa palveluissa.

Tekoäly muuttaa toimintatapoja myös mediassa, viihteessä, turvallisuusalalla, vähittäiskaupassa ja energia-alalla.

Tekoälyn yleistyessä sisällön aitouden ja alkuperän varmistamisesta on tullut tärkeä haaste. Tarkastelemme ensin ongelman ilmenemismuotoja ja sitten ratkaisuja sen käsittelyyn.

Lue oppaamme tekoälyyn sijoittamisesta.

Sisällön aitouden haasteet tekoälyn yleistyessä

Generatiivisen tekoälyn vahvuudesta voi tulla myös ongelma. Sen avulla voidaan tuottaa uskottavia kuvia, videoita, tekstiä ja muuta sisältöä, jota katsojan on vaikea erottaa aidosta tallenteesta tai ihmisen tekemästä sisällöstä.

Sisältö voi vaikuttaa luotettavan lähteen tiedolta, vaikka se olisi harhaanjohtamistarkoituksessa tuotettu väärennös. Vuoden 2023 tapaukset havainnollistavat tätä tekoälyn käytön varjopuolta.

Väärennetty kuva räjähdyksestä Pentagonin lähellä

Toukokuun 22. päivänä 2023 verkossa levisi väärä väite räjähdyksestä Pentagonin lähellä Yhdysvalloissa. Väitteeseen liitetyssä kuvassa näkyi mustaa savua rakennuksen vieressä. Kuvaa levitti muun muassa Bloomberg Feed -niminen tili, jolla oli sininen tarkistusmerkki mutta joka ei ollut uutistoimisto Bloombergin tili. Muutkin tarkistusmerkillä varustetut tilit jakoivat kuvaa. Räjähdystä ei ollut tapahtunut, ja kuvaa pidettiin todennäköisesti tekoälyllä luotuna. Twitterin maksullinen tarkistusmerkki, jonka verkkotilauksen hinta oli tuolloin Yhdysvalloissa kahdeksan dollaria kuukaudessa, saattoi lisätä näennäistä uskottavuutta.

Maksullinen tarkistusmerkki ei sellaisenaan todistanut tilin yhteyttä sen esittämään uutisorganisaatioon. Tapaus osoitti, kuinka nopeasti tunnettuja henkilöitä, viranomaisia tai medioita jäljittelevä sisältö voi levitä ja aiheuttaa sekaannusta.

Kuvaa arvioineet tutkijat havaitsivat siinä epäjohdonmukaisia yksityiskohtia, vaikka monet käyttäjät pitivät sitä aluksi uskottavana.

Bellingcatin tutkija Nick Waters  kiinnitti huomiota kuvan rakenteellisiin virheisiin:

Rakennuksen aidan ja kulkuesteiden epätavallinen yhdistyminen viittasi kuvan keinotekoiseen tuottamiseen tai muokkaamiseen.

Väärennös ehti silti aiheuttaa hetkellistä hämmennystä sosiaalisessa mediassa ja sen ulkopuolella.

Tekoälyllä luodut kuvituskuvat kuvapankeissa

Washington Postin vuonna 2023 julkaisemassa jutussa käsiteltiin tekoälyllä luotuja kuvapankkikuvia. Jutun mukaan Adobe Stockin Ukraine War -haulla löytyi yli 15 000 synteettistä kuvaa. Lisäksi palvelussa oli satoja tekoälykuvia kuvitteellisista Black Lives Matter -mielenosoitustilanteista. Kyse oli kuvitteellisista kohtauksista, ei dokumentaarisista valokuvista todellisista tapahtumista.

Jutussa kerrottiin myös kymmenistä Mauin maastopaloja esittävistä tekoälykuvista. Osa muistutti niin paljon uutisvalokuvia, että niiden erottaminen aidosta tapahtumakuvauksesta saattoi olla vaikeaa.

Uutislähetyksiä jäljittelevät videot

Forbes kuvasi lokakuussa 2023 julkaistussa jutussaan, kuinka TikTokista ja YouTubesta tunnettu Krishna Sahay ja muut sisällöntuottajat käyttivät generatiivista tekoälyä uskottavilta näyttävien uutisvideoiden tekemiseen. Videoissa jäljiteltiin suurten uutismedioiden tunnettuja toimittajia.

Mukana oli CBS:n, CNN:n ja BBC:n toimittajien näköisiä ja kuuloisia hahmoja. Syväväärennöksissä eli deepfake-videoissa oikeiden ihmisten kasvoja ja ääntä muokataan tai jäljitellään niin, että he näyttävät sanovan asioita, joita he eivät ole sanoneet.

Forbesin mukaan Sahayn videot tavoittivat miljoonia katsojia. Väärennetyissä uutisjaksoissa tunnetut juontajat näyttivät esittävän loukkaavia tai harhaanjohtavia väitteitä esimerkiksi koulusurmista, terrori-iskuista ja rikosten uhreista.

UC Berkeleyn professori ja syväväärennösten asiantuntija Hany Farid arvioi Forbesille, että tuttujen uutisankkurien uskottavuus tekee tällaisista videoista tehokkaan disinformaation välineen.

Faridin mukaan katsoja saattaa luottaa tuttuun juontajaan tai jo pelkkään tuttuun uutislähetyksen muotoon. Hän korosti myös tarvetta suojata niiden ihmisten oikeuksia, joiden kasvoja ja ääntä käytetään luvatta.

Gazan sotaan liittyvät syväväärennökset ja väärässä yhteydessä jaettu aineisto

Vuonna 2023 Gazan sotaan liittyen levisi sekä manipuloitua sisältöä että aitoa aineistoa väärässä yhteydessä. Sisällön aitoutta arvioivan CREOpoint-teknologiayhtiön toimitusjohtaja Jean-Claude Goldenstein kuvasi ongelman kasvua. Yhtiö kokosi tietoja laajalle levinneistä harhaanjohtavista sisällöistä tarkistustyön tueksi.

Goldenstein varoitti, että generatiivinen tekoäly voisi lisätä kuvien, videoiden ja äänen väärinkäyttöä huomattavasti.

Osa harhaanjohtavista julkaisuista käyttää uudelleen vanhojen konfliktien tallenteita ja esittää ne uusina. Tällainen väärä asiayhteys ei itsessään ole tekoälyllä tehty syväväärennös, mutta se voi herättää voimakkaita tunteita ja johtaa katsojia harhaan.

Harhaanjohtavan sisällön tekijät voivat yhdistää teknisiä keinoja ymmärrykseen siitä, millaiset kuvat ja kertomukset vetoavat ihmisten pelkoihin ja tunteisiin.

Propagandistit, salaliittoteoreetikot, terroristit ja huijarit voivat käyttää näitä työkaluja vahingolliseen vaikuttamiseen. Siksi väärentämistä ja sen vaikutuksia ehkäiseville keinoille on kasvava tarve.

Yksi keino on tarkistaa sisällön alkuperä ja eheys. Myös väärennösten tunnistamista ja luvattoman jäljittelyn ehkäisyä tutkitaan. Seuraavat esimerkit kuvaavat näitä erilaisia lähestymistapoja.

Miten sisällön aitoutta voidaan arvioida tekoälyn aikakaudella?

Sonyn kameran sisäinen digitaalinen allekirjoitus

Sony Electronics ilmoitti marraskuussa 2023 saaneensa päätökseen kameran sisäisen allekirjoitusteknologiansa toisen testikierroksen Associated Pressin kanssa.

Tekniikka liittää kuvaan eräänlaisen syntymätodistuksen: digitaalinen allekirjoitus muodostetaan kameran laitteistopiirissä kuvanottohetkellä. Se auttaa tarkistamaan kuvan alkuperän ja havaitsemaan myöhempiä muutoksia. Se ei yksin todista kuvatun tapahtuman tai kuvan yhteydessä esitetyn väitteen totuutta.

Sony Electronicsin johtaja Neal Manowitz kertoi testien antaneen hyödyllisiä tuloksia ja yhtiön jatkavan kehitystä laajempaa julkaisua varten.

Sonyn ja AP:n viimeisin kenttätesti valmistui lokakuussa 2023. Kuukauden mittaisessa testissä arvioitiin sekä kuvanottohetken todennusta että siihen liittyvää työnkulkua.

Kolmas yhteistyökumppani oli Camera Bits, joka kehittää uutiskuvaajien käyttämää Photo Mechanic -työnkulkutyökalua.

Camera Bits kehitti Photo Mechaniciin tekniikkaa, jolla kameran digitaalinen allekirjoitus säilytetään metatietoja muokattaessa.

AP:n valokuvausjohtaja David Ake korosti, että väärennetyt ja manipuloidut kuvat voivat levittää väärää tietoa ja heikentää luottamusta uutiskuviin. Yhteistyön tavoitteena oli auttaa uutisorganisaatioita vastaamaan tähän ongelmaan.

Sony suunnitteli tuolloin allekirjoitus- ja C2PA-tuen julkaisemista Alpha 9 III-, Alpha 1- ja Alpha 7S III -malleihin laiteohjelmistopäivityksinä keväällä 2024. Yhtiön mukaan alueellinen aikataulu saattoi vaihdella, ja alkuvaiheen tuki saattoi rajautua uutistoimistokumppaneihin.

Artikkelin kirjoitushetkellä vuonna 2023 Sony Group Corporationin markkina-arvoksi ilmoitettiin 106,35 miljardia dollaria ja P/E-luvuksi 19,49. Sonyn huhtikuussa 2023 julkistaman tilinpäätöksen mukaan maaliskuussa 2023 päättyneen tilikauden 2022 myynti ja rahoituspalvelujen tuotot olivat yhteensä noin 11,54 biljoonaa jeniä.

Teknologia luvattoman äänen kloonauksen torjumiseksi

Tekoäly on tehnyt puhesynteesistä entistä realistisempaa. Sen hyödyllisiä sovelluksia ovat henkilökohtaiset ääniavustajat ja saavutettavuutta parantavat viestintävälineet. Samaa teknologiaa voidaan kuitenkin käyttää myös toisen henkilön äänen luvattomaan jäljittelyyn.

Washington University in St. Louis -yliopiston McKelvey School of Engineeringin tutkijat kehittivät AntiFake-työkalun Ning Zhangin johdolla. Tutkimuksen ensimmäinen kirjoittaja oli Zhiyuan Yu. Työkalu pyrkii ehkäisemään luvatonta puhesynteesiä etukäteen, ei tunnistamaan jo valmista väärennöstä.

Zhangin mukaan tavoitteena on käsitellä julkaistava äänite niin, että rikollisten on vaikeampi käyttää sitä puhujan äänen kloonaamiseen.

Menetelmä kääntää hyökkäävien tekoälymenetelmien periaatteita puolustuksen käyttöön.

AntiFake lisää äänitteeseen tarkasti suunniteltuja häiriöitä, jotka vaikeuttavat puhesynteesimallin toimintaa.

Häiriö pyritään pitämään niin pienenä, että ihminen kuulee puheen edelleen luontevana, vaikka mallin hyödyntämät puhujan ominaisuudet muuttuvat.

Vuoden 2023 tutkimuksessa AntiFakea testattiin viidellä puhesynteesijärjestelmällä, ja tutkijat raportoivat yli 95 prosentin suojaustuloksen myös ennestään tuntemattomia kaupallisia järjestelmiä vastaan. Käytettävyyttä arvioitiin 24 osallistujalla. Tulos koski tutkimuksen koejärjestelyä ja lyhyitä puhenäytteitä, ei kaikkia mahdollisia äänen kloonausmenetelmiä.

Lohkoketju sisällön alkuperän todentamisen apuna

OARO Media hyödyntää yhtiön kuvauksen mukaan lohkoketjua kuvien ja videoiden alkuperätietojen tallentamisessa. Tavoitteena on säilyttää tarkistettava tietoketju yrityksille, viranomaisille ja yksityishenkilöille.

Vuonna 2023 kuvatun toimintamallin mukaan käyttäjä avaa mobiililaitteen kameran tekstiviestilinkin tai vakuutusyhtiön sovelluksen kautta. Tallenteeseen liitetään käyttäjää, sisältöä, aikaa ja GPS-sijaintia koskevat tiedot sisältävä varmennus. Menetelmä voi auttaa vakuutusyhtiötä tarkistamaan vahinkokuvien alkuperää ja eheyttä; se ei yksin ratkaise kaikkien kuvattujen väitteiden paikkansapitävyyttä.

Syväväärennösten tunnistaminen informaatiovaikuttamisessa

Sentinel kuvasi palveluitaan keinona auttaa hallituksia, puolustusorganisaatioita ja yrityksiä tunnistamaan haitallista synteettistä sisältöä. Yhtiö kertoi yhteistyöstä Euroopan unionin ja Viron talous- ja viestintäministeriön kanssa. Kyse on olemassa olevan aineiston analysoinnista, ei sen luomisen estämisestä.

Kuvatussa nelivaiheisessa prosessissa käyttäjä lataa aineiston verkkopalveluun tai ohjelmointirajapinnan kautta. Järjestelmä analysoi sen ja antaa arvion mahdollisesta manipuloinnista. Lopuksi tuloksia havainnollistetaan visualisoinnilla. Tällainen arvio on tunnistustyökalun tulos, ei erehtymätön ratkaisu sisällön aitoudesta.

Sisällön aitouden arviointi: uusia ratkaisuja tarvitaan

Tekoälyllä tuotettua harhaanjohtavaa sisältöä voidaan käyttää todellisuuden vääristämiseen ja väkivaltaisen propagandan levittämiseen. Myös vitsiksi tai huomion herättämiseksi tehty sisältö voi saada vakavia seurauksia, jos se irrotetaan asiayhteydestään.

Vaikutukset voivat ulottua valtioiden välisistä suhteista yritysten ja asiakkaiden luottamukseen sekä henkilökohtaisiin suhteisiin. Tutkijat ja teknologiayritykset kehittävät siksi keinoja sisällön alkuperän tarkistamiseen, manipuloinnin tunnistamiseen ja väärinkäytön ehkäisyyn.

Muitakin ratkaisuja on kehitteillä. Esimerkiksi Sensity tarjoaa visuaalisten uhkien tunnistamiseen tarkoitettua teknologiaa ja rajapintoja tekoälyllä muokatun tai tuotetun aineiston analysointiin. Myös Quantum Integrity on kehittänyt tekoälypohjaisia ohjelmistopalveluja kuva- ja videomanipulaatioiden tunnistamiseen.

Väärentämisen tekniikat kehittyvät, joten myös torjuntamenetelmiä on päivitettävä. Alkuperätiedot, tekninen analyysi ja lähteiden kriittinen arviointi täydentävät toisiaan tässä työssä.

Lue oppaamme viiteen lähentyvään teknologiaan sijoittamisesta.