Todentamisen varmistaminen tekoälyn (AI) aikakauden alkaessa

Tekoälyn omaksuminen kaikilla elämänalueilla on nousussa. Arviot viittaavat siihen, että markkinat kasvavat kolminkertaisiksi seuraavan seitsemän vuoden aikana.

Lähes 242 miljardin dollarin koosta sen odotetaan kasvavan lähes 740 miljardiin dollariin vuoteen 2030 mennessä. Eri toimialat ovat alkaneet sisällyttää tekoälyä toimintaansa. Tähän mennessä eniten sitä ovat hyödyntäneet terveydenhuolto, rahoitus, valmistus, liiketoiminta- ja oikeudelliset palvelut ym.

Vähemmän laajasti tekoäly on alkanut muuttaa toimintamalleja myös mediassa, viihteessä, turvallisuudessa, vähittäiskaupassa, energiassa ym.

Tekoälyn lisääntyessä haaste todentamisen varmistamisesta on noussut merkittäväksi ongelmaksi, joka vaatii välitöntä puuttumista. Aloitamme tämän päivän keskustelun tarkastelemalla, mitä nämä haasteet ovat.

Klikkaa tästä oppiaksesi kaiken tekoälyyn sijoittamisesta. 

Todentamisen haasteet tekoälyn omaksumisessa

Se, mikä on tekoälyn vahvuus, on noussut sen heikkoudeksi. Tekoälyalgoritmit pystyvät tuottamaan realistisia kuvia, videoita, artikkeleita ja mitä tahansa muuta multimediasisältöä, jonka tavalliselle katsojalle on äärimmäisen vaikea erottaa alkuperäisestä.

Keskimääräiselle katsojalle se saattaa vaikuttaa aidolta tiedolta arvostetusta lähteestä, vaikka todellisuudessa se voi olla täysin päinvastaista: pahantahtoisesti luotua väärennettyä sisältöä. Useat tapahtumat viime aikoina ovat paljastaneet tämän kasvavan tekoälyn omaksumisen varjon.

Tekoälyn luoma väärennetty Pentagonin räjähdyksen kuva

Maaliskuussa 2023 julkaistiin uutinen räjähdyksestä Pentagonin lähellä Yhdysvalloissa. Kuvassa näkyi paljon mustaa savua, joka nousi Pentagon-rakennuksen lähellä olevasta puutarhasta. Kuvan jakoi vahvistettu Twitter-tili Bloomberg Feed, jolla oli sininen tarkistusmerkki. Pian sen jälkeen myös monet muut sinisen tarkistusmerkin omaavat vahvistetut tilit jakoivat kuvan. Kuitenkin kyseessä oli tekoälyn luoma kuva, joka huijasi monia. X:n äskettäin otettu käytäntö, jonka mukaan sinisiä tarkistusmerkkejä voi ostaa kuukausimaksulla 8 US‑dollaria, pahensi tilannetta entisestään.

Koska kuka tahansa voi saada vahvistetun tilin ja vahvistetut tilit saavat enemmän näkyvyyttä, uutinen levisi nopeasti, herättäen huolta julkisuuden henkilöiden, hallituksen virkamiesten ja uutissivustojen väärentämisestä, aiheuttaen kaaosta ja todentamiskriisin digitaalisessa maailmassa.

Vaikka kuvaa ei yleinen sosiaalisen median käyttäjä juuri lainkaan pystyisi tunnistamaan tekoälyn luomaksi, jotkut tekoälytutkijat pystyivät havaitsemaan puutteet tai epäsäännöllisyydet.

According to Nick Waters, one such AI researcher:

“The ‘unusual’ melding of the fence of the building into the crowd barriers showed that the image could have been artificially made or manipulated.”

Kuitenkin väärennös saavutti tavoitteensa, vaikka vain lyhyen hetken, aiheuttaen kaaosta ja sekaannusta sosiaalisessa mediassa ja sen ulkopuolella.

Tuhansia väärennettyjä kuvia Adobe Stockissa

Washington Postissa julkaistun raportin mukaan tekoälyn luomia varastokuvia on runsaasti. Haku Adobe Stockista termillä ‘Ukraine War’ tuotti yli 15 000 väärennettyä kuvaa konfliktista. Raportti huomautti myös, että satojen tekoälyn luomien ihmisten kuvien määrä Black Lives Matter -mielenosoituksissa, joita ei koskaan tapahtunut, oli merkittävä.

Kymmeniä tekoälyn luotuja kuvia oli myös saatavilla Maui-paloista. Monet näistä kuvista muistuttivat niin tarkasti valokuvaajien ottamia todellisia valokuvia, että väärennettyjä ja aitoja kuvia oli lähes mahdotonta erottaa toisistaan.

Tapaus, jossa uutisleikkeet vaikuttavat todellisilta

Toisen Forbesin julkaisemassa raportissa tekoälyn luomista väärennöksistä kerrotaan, että TikTok- ja YouTube-tähti Krishna Sahay on yksi useista sosiaalisen median käyttäjistä, jotka käyttävät generatiivista tekoälyä luodakseen näennäisen todellisia uutisleikkeitä suurten valtavirtaisten uutiskanavien huippuankkureista, joiden työllä on suuri uskottavuus.

CBS:stä CNN:ään ja BBC:hen, monet näiden uutistoimistojen ankkurit kuuluvat tähän listaan. Näitä videoita kutsutaan myös deep fake -videoiksi, joissa voimakkaat generatiiviset tekoälyalgoritmit auttavat luomaan audiovisuaalista sisältöä, joka näyttää ja kuulostaa ankkureiden kaltaiselta.

Raportin mukaan Krishna Sahayilla on miljoonien katsojien yleisö. Sahayn videot sisältävät ongelmallista kommentointia tekoälyn manipuloimista väärennetyistä ankkureista herkillä aiheilla, kuten koulusurmilla, terroristihyökkäyksillä, rikosiskuilta ja muilla.

UC Berkeleyn deep fake -asiantuntija ja professori Hany Faridin mukaan nämä videot hyödyntävät tunnettujen uutisankkurien suosiota ja uskottavuutta ‘vahvana välineenä disinformaation levittämiseen’.

Prof. Faridin mukaan: “Monissa tapauksissa ankkurit ovat katsojien tuntemia ja luotettuja, ja vaikka näin ei olisi, uutisformaatit ovat yleisesti tuttuja ja siksi luotettavampia.” Hän uskoo, että tämän uhan pysäyttäminen vaatisi meiltä “vakavampaa suhtautumista niiden ihmisten oikeuksien suojelemiseen, joiden ulkonäköä ja ääntä on väärin käytetty.”

Deep fake -videot Gazan sodasta

Internetissä nähtiin myös merkittävä syöksy deep fake -videoita, jotka liittyvät Gazan sotaan. Tähän haasteeseen vastaten Jean-Claude Goldenstein, CREOpointin toimitusjohtaja, joka on tekoälyyn erikoistunut teknologiayritys, on ollut keskeinen arvioidessaan tällaisten sisältöjen aitoutta. Tunnistaen tilanteen vakavuuden, yritys on kehittänyt tietokannan Gazasta syntyneistä eniten viraaleista deep fake -videoista, mikä on tärkeä askel tämän digitaalisen uhan torjumisessa.

“Kuvat, video ja ääni: generatiivisen tekoälyn myötä on odotettavissa eskalaatio, jota et ole koskaan nähnyt.”

Nämä videot käyttävät usein uudelleen vanhempien konfliktien materiaalia. Ne pyrkivät herättämään voimakkaan tunnepohjaisen reaktion korostamalla katastrofin intensiteettiä.

Generatiivisen tekoälyn perusteellisen tuntemuksen lisäksi näissä deep fake -luontitiimeissä on henkilöitä, jotka ymmärtävät ihmisen psykologian ja osaavat kohdistaa sisällön ihmisten syvimpiin impulsseihin ja pelkoihin.

Propagandistien, salaliittoteoreetikkojen, terroristien tai huijausorganisaatioiden käsissä väärennettyjen sisältöjen tuottamiseen tarkoitetut tekoälytyökalut ovat kehittyneet yhdeksi tappavimmista aseista. Tarve pitää ne hallinnassa kasvaa päivä päivältä.

Yksi tehokkaimmista tavoista torjua tätä kasvavaa uhkaa on varmistaa lähteen aitous. Tutkimus- ja ratkaisukehitystyöt aitouden varmistamiseksi ovat täydessä käynnissä. Tässä on muutama esimerkki todellisesta elämästä.

Kuinka varmistat sisällön aitouden tekoälyn aikakaudella?

Sonyn kamerassa tapahtuva todennus­teknologia

Sony Electronics on kehittämässä uutta ratkaisua. Se on suorittanut toisen testauskierroksen kamerassa tapahtuvan aitousteknologiansa testauksessa yhteistyössä Associated Pressin kanssa.

Tämän teknologian tarkoitus on varustaa otetut kuvat syntymätodistuksella, joka todentaa sisällön alkuperän. Tarkemmin sanottuna se on konepohjainen digitaalinen allekirjoitus, joka tuotetaan kameran sisällä juuri kuvan kaappaamisen hetkellä laitteiston sirussa.

Neal Manowitzin, Sonyn Electronicsin presidentin ja operatiivisen johtajan, mukaan “kamerassa tapahtuva aitousteknologia on osoittanut arvokkaita tuloksia”, ja yritys “jatkaa sen kehittämistä laajempaa julkaisua varten.”

Sony Electronicsin ja AP:n yhteinen kenttätesti saatiin päätökseen lokakuussa tänä vuonna. Tämän testauskierroksen tarkoitus oli arvioida kaappauksen todennuksen ja siihen liittyvän työnkulun tehokkuutta.

Kolmas yhteistyökumppani tässä projektissa oli CameraBits, joka tunnetaan alan standardi‑työnkulkutyökalusta PhotoMechanic.

CameraBitsin rooli yhteistyössä oli tarjota teknologiaa, jonka avulla kameran digitaalinen allekirjoitus säilytetään metatietojen muokkausprosessin kautta.

Associated Pressin valokuvausjohtajan David Aken mukaan “väärennetyt ja manipuloidut kuvat ovat merkittävä huolenaihe uutisorganisaatioille. Ne eivät ainoastaan edistä väärää ja harhaanjohtavaa tietoa, vaan lopulta ne heikentävät yleisön luottamusta faktapohjaiseen, tarkkaan kuvamateriaaliin.”

Kamerassa tapahtuva allekirjoitus- ja todennusteknologia julkaistaan laiteohjelmistopäivityksenä useissa malleissa keväänä 2024.

Sony Group Corporationin markkina-arvo on 106,35 miljardia dollaria, P/E‑luku 19,49, ja vuonna 2022 sen liikevaihto oli 82,64 miljardia dollaria.

Teknologia deep fake -äänimanipulaatioiden torjumiseksi

Tekoälypohjaiset teknologiat ovat edistäneet realistisen puheensynteesin kehitystä. Alun perin tarkoitettuina ne voivat tehdä paljon hyvää. Ne voivat auttaa luomaan henkilökohtaisia ääniavustajia ja muita viestintävälineitä, jotka parantavat saavutettavuutta. Toisaalta monet käyttävät niitä deep fake -videoiden äänien luomiseen.

Vastatakseen tähän uhkaan Ning Zhang, Washington Universityn McKelvey School of Engineeringin tietojenkäsittelytieteen ja tekniikan apulaisprofessori, on kehittänyt työkalun nimeltä AntiFake. Se ei ole jälkikäteen hyökkäyksen havaitsemiseen tarkoitettu väline, vaan proaktiivinen työkalu, jonka tavoitteena on nipistää ongelma varhaisessa vaiheessa.

“AntiFake varmistaa, että kun julkaisemme äänidataa, rikollisten on vaikea käyttää sitä äänien synteesiin ja meitä jäljittelemiseen.”

Mielenkiintoisessa liikkeessä kehittyneiden kyberrikollisten torjumiseksi professori Zhang on päättänyt maksaa heille takaisin heidän omilla kolikoillaan. Hänen mukaansa:

“Työkalu käyttää vastustavaa tekoälytekniikkaa, joka alun perin kuului kyberrikollisten työkalupakkiin, mutta nyt hyödynnämme sitä puolustautuaksemme heitä vastaan.”

AntiFaken keskeinen toimintaperiaate on hieman vääristää tallennettua äänisignaalia. Vääristymän luonne on niin tarkasti kalibroitu, että se kuulostaa ihmiskorville oikealta, mutta AI:n näkökulmasta se on täysin erilaista.

Julkisesti saatavilla olevien tietojen mukaan AntiFake on saavuttanut yli 95 % suojeluprosentin. Se on myös osoittanut tehokkuutensa saavutettavuudessa eri väestöryhmille.

Lohkoketjun käyttö aitouden varmistamisessa

OARO Media solutions hyödyntää lohkoketjun muuttumattomuusominaisuuksia torjuakseen deep fake -uhkaa. Se auttaa luomaan muuttumattoman datapolun yrityksille, hallintoelimille ja yksittäisille käyttäjille, jotta ne voivat todentaa minkä tahansa valokuvan tai videon.

Oaro Median toiminta käyttäjän mobiililaitteella on yksinkertaista, mutta mullistavan tehokasta. Käyttäjä aloittaa pääsemällä puhelimen kameraan SMS‑verkkolinkin tai vakuutusyhtiön sovelluksen kautta. Seuraavaksi visuaaliselle sisällölle myönnetään sertifikaatti, joka sisältää väärentämättömän tallenteen käyttäjän ID:stä, sisällöstä, aikaleimasta ja GPS‑koordinaateista. Tämä prosessi auttaa vakuutusalaa todentamaan korvaukset ja erottamaan tekoälyn luomat väärennökset todellisista.

Deepfake‑sisällön käytön estäminen osana informaatiotappelua

Sentinelin anti‑deepfake -ratkaisut ja -palvelut auttavat demokraattisia hallituksia, puolustusvirastoja ja yrityksiä suojaamaan resurssejaan haitallisesti tuotetun AI‑sisällön vaikutuksilta. Se on tehnyt yhteistyötä Euroopan unionin ja Viron tasavallan talous‑ ja viestintäministeriön kanssa. Kuitenkin se on jälkikäteen toimiva ratkaisu, joka auttaa havaitsemaan deep fake -sisällöt niiden leviämisen jälkeen.

Sen toiminta perustuu neljän askeleen yksinkertaiseen prosessiin. Ensimmäisessä vaiheessa käyttäjä lataa digitaalisen median Sentinel‑verkkosivuston tai API:n kautta. Sentinel‑järjestelmä analysoi automaattisesti median havaitakseen AI‑väärennöksen. Se antaa sitten lausunnon siitä, onko media deep fake vai ei. Lopuksi, jotta käyttäjät ymmärtävät prosessin kulun, näytetään manipuloinnin visualisointi.

Todentamisen varmistaminen tekoälyn keskellä: kukoistava innovaatiotilanne tulevaisuudessa

Tekoälyn luoma epäaitoinen sisältö on voimakas väline todellisuuden vääristämiseen ja väkivaltaisen propagandan levittämiseen. Tällainen sisältö, vaikka se olisi luotu näennäisesti harmittomiin tarkoituksiin, kuten vitsiin tai sosiaalisen median tykkäyksiin, voi provosoida laajamittaista väkivaltaa.

Sen vaikutus ulottuu luottamuksen heikentämiseen monilla alueilla, valtiollisista diplomaattisista suhteista palveluyritysten ja niiden käyttäjien vuorovaikutukseen sekä henkilökohtaisiin suhteisiin. Siksi on positiivinen merkki, että maailmanlaajuiset teknologiatutkijat ja -tieteilijät ovat tunnistaneet hallitsemattoman, väärennetyn sisällön vaarat. Olemme jo tuoneet esiin useita aloitteita, jotka käsittelevät tätä ongelmaa.

Lisää onkin paljon. Esimerkiksi Sensity kehittää visuaalista uhkatiedustelualustaa. Sen API pystyy jo havaitsemaan viimeisimmät tekoälypohjaiset manipulointi- ja synteesitekniikat. Toinen startup, Quantum Integrity, on kehittänyt SaaS‑AI‑ratkaisuja, jotka voivat havaita kuva- ja videoväärennökset.

Kyberrikolliset tulevat varmasti jatkamaan uusien tekniikoiden kehittämistä meitä huijaamaan. Mutta monet yritykset pystyvät ennakoimaan ja torjumaan ne. Innovaatioiden jatkuessa tasaisella tahdilla, taistelu ei ole enää David vs. Goliath.

Klikkaa tästä oppiaksesi kaiken viiden yhtyväisen teknologian sijoittamisesta.