Sikring av autentisitet med fremveksten av kunstig intelligens (AI)

Adopsjonen av AI i alle livsområder er i en oppsving. Estimater antyder at markedet er i ferd med å tredoble seg i løpet av de neste syv årene. 

Fra en størrelse på nesten US$242 milliarder forventes det å vokse til nesten US$740 milliarder innen 2030. Ulike industrier har begynt å integrere AI i sine operasjoner. De bransjene som har utnyttet det mest så langt har vært helsevesen, finans, produksjon, forretnings‑ og juridiske tjenester, osv. 

I mindre grad har AI begynt å endre operative paradigmer i bransjer som medie‑ og underholdningssektoren, sikkerhet, detaljhandel, energi, osv. 

Med økt AI‑adopsjon har utfordringen med å sikre autentisitet dukket opp som et betydelig problem som krever umiddelbar oppmerksomhet. Vi starter dagens diskusjon ved å se på hva disse utfordringene er.

Klikk her for å lære alt om investering i kunstig intelligens. 

Autentisitetsutfordringer ved AI-adopsjon

Det som er AI sin styrke har vist seg å være dens svakhet. AI‑algoritmer kan generere realistiske bilder, videoer, artikler og enhver annen form for multimedieinnhold som kan være enormt vanskelig for en gjennomsnittlig seer å skille fra originalen. 

For det gjennomsnittlige øyet kan det fremstå som autentisk informasjon fra en anerkjent kilde, mens det i virkeligheten kan være diametrisk motsatt: falskt innhold generert for ondsinnet propaganda. Flere hendelser har skjedd i den siste tiden som avdekker denne siden av den voksende AI‑adopsjonen. 

AI-generert falskt bilde av Pentagon‑eksplosjon

I mai 2023 ble det publisert nyheter om en eksplosjon nær Pentagon i USA. Bildet viste mye svart røyk som kom ut fra hagen ved Pentagon‑bygningen. Dette bildet ble delt av en verifisert Twitter‑konto, Bloomberg Feed, som hadde en blå hake. Kort tid etter delte mange verifiserte kontoer med blå hake også bildet. Likevel var det et AI‑generert bilde, og det lurte mange. Den nylige politikken fra X om å gjøre blå hake tilgjengelig for en månedlig avgift på US$8 forverret problemet ytterligere. 

Siden hvem som helst kan ha en verifisert konto og verifiserte kontoer får mer synlighet, spredte nyheten seg raskt, og skapte bekymringer om etterlignede offentlige personer, regjeringsrepresentanter og nyhetsnettsteder, noe som skapte kaos og en autentisitetskrise i den digitale verden.

Selv om bildet knapt kunne gjenkjennes som AI‑generert av en vanlig bruker av sosiale medier X, kunne noen AI‑forskere identifisere feilene eller uregelmessighetene. 

Ifølge Nick Waters, en slik AI‑forsker:

“Den ‘uvanlige’ sammenslåingen av bygningens gjerde med publikumssperrene viste at bildet kunne ha blitt kunstig laget eller manipulert.”

Imidlertid oppnådde forfalskningen sitt formål, om enn for et kort øyeblikk, ved å skape kaos og forvirring på sosiale medier og utover. 

Tusenvis av falske bilder på Adobe Stock

Ifølge en rapport publisert i Washington Post er AI‑skapte stock‑bilder utbredt. Et søk på Adobe Stock med søkeordet ‘Ukraine War’ ga over 15 000 falske bilder av konflikten. Rapporten bemerket også en tung tilstedeværelse av hundrevis av AI‑bilder av personer på Black Lives Matter‑protester som aldri fant sted. 

Dusiner av AI‑genererte bilder var også tilgjengelige for Maui‑skogbrannene. Mange av disse bildene liknet så nært på virkelige fotografier tatt av fotojournalister at falske bilder knapt kunne skilles fra de ekte. 

Tilfellet med tilsynelatende virkelige nyhetsklipp

Ifølge en annen rapport publisert av Forbes om AI‑genererte falskheter, er TikTok‑ og YouTube‑stjernen Krishna Sahay en av flere sosiale mediebrukere som bruker generativ AI til å lage tilsynelatende ekte nyhetsklipp av toppankere fra store mainstream‑nyhetsmedier som har høy troverdighet. 

Fra CBS til CNN til BBC, mange ankere fra disse nyhetsbyråene er på denne listen. Disse videoene er også kjent som deep fakes, hvor kraftige generative AI‑algoritmer hjelper til med å lage audiovisuelle innhold som ser ut og høres ut som ankrene selv. 

Ifølge rapporten har Krishna Sahay alene et publikum på millioner. Sahay sine videoer inkluderer problematisk kommentar om AI‑manipulerte falske ankere på følsomme temaer, som skoleskytinger, terrorangrep, kriminelle angrep og mer. 

Ifølge Hany Farid, en deep fake‑ekspert og professor ved UC Berkeley, utnytter disse videoene populariteten og troverdigheten til de kjente nyhetsankrene som et “overbevisende fartøy for å levere desinformasjon.” 

Ifølge Prof. Farid: “I mange tilfeller er ankrene kjent for seerne og betrodd, og selv om ikke, er det generelle nyhetsformatet kjent og derfor mer betrodd.” Han mener at for å stoppe denne trusselen må vi “ta beskyttelsen av rettighetene til de menneskene hvis likhet og stemme blir utnyttet mer på alvor.” 

Deep fakes fra Gaza‑krigen

Internett så også en betydelig inntrengning av deep fake‑videoer relatert til Gaza‑krigen. Som svar på denne utfordringen har Jean‑Claude Goldenstein, administrerende direktør i CREOpoint, et teknologiselskap som spesialiserer seg på AI, vært sentral i å vurdere gyldigheten av slikt innhold. Ved å erkjenne alvoret i situasjonen har selskapet utviklet en database over de mest virale deep fakes som har dukket opp fra Gaza, et viktig steg i å håndtere denne digitale trusselen.

Ifølge Goldenstein:

“Bilder, video og lyd: med generativ AI vil det bli en opptrapping du ikke har sett.” 

Disse videoene gjenbruker ofte innhold fra eldre konflikter. De søker å fremkalle en sterk emosjonell respons ved å forsterke intensiteten i katastrofen. 

I tillegg til å kjenne generativ AI inn og ut, inneholder disse deep fake‑skaperteamene personer som er klar over menneskelig psykologi og hvordan man kan målrette mot folks dypeste impulser og angst. 

I hendene til propagandister, konspirasjonsteoretikere, terrorister eller svindelorganisasjoner har AI‑verktøy som genererer falskt innhold utviklet seg til et av de dødeligste våpnene. Behovet for å holde dem under kontroll øker for hver dag som går. 

En av de mest effektive måtene å bekjempe denne voksende trusselen på, er å sikre kildens autentisitet. Forskning og løsningsutvikling for å sikre autentisitet er i full gang. Nedenfor er noen virkelige eksempler. 

Hvordan sikrer du innholdets autentisitet i kunstig intelligens’ tidsalder?

Sonys autentiseringsteknologi i kameraet

Sony Electronics er i ferd med å introdusere en ny løsning. De har fullført andre runde med testing av sin autentiseringsteknologi i kameraet i samarbeid med Associated Press. 

Formålet med denne teknologien er å gi de tatt bildene et fødselsbevis som vil autentisere innholdets opprinnelse. Mer spesifikt vil det være en maskinbasert digital signatur som produseres i kameraet i det øyeblikket bildet tas, i maskinvare‑chipsettet. 

Ifølge Neal Manowitz, president og COO i Sony Electronics, har “autentiseringsteknologien i kameraet vist verdifulle resultater,” og selskapet “vil fortsette å drive utviklingen mot en bredere lansering.” 

Sony Electronics og APs felles felttest ble fullført i oktober i år. Formålet med denne testrunden var å vurdere effektiviteten av autentisering ved opptak og tilhørende arbeidsflyt. 

Den tredje samarbeidspartneren i dette prosjektet var CameraBits, kjent for å ha laget bransjestandard arbeidsflytverktøyet PhotoMechanic. 

Rollen CameraBits spilte i dette samarbeidet besto i å tilby teknologien for å bevare kameraets digitale signatur gjennom metadata‑redigeringsprosessen. 

Ifølge David Ake, fotografidirektør i Associated Press, er “falske og manipulerte bilder et stort problem for nyhetsorganisasjoner. Ikke bare bidrar de til feil‑ og desinformasjon, men de undergraver også offentlighetens tillit til faktiske, nøyaktige bilder.” 

Autentiserings‑ og signaturteknologien i kameraet vil bli lansert som en fastvareoppdatering i flere modeller våren 2024. 

Sony Group Corporation (SONY ) har en markedsverdi på $106.35 milliarder, en P/E‑ratio på 19.49, og i 2022 rapporterte de en omsetning på $82.64 milliarder. 

Teknologi for å bekjempe deep fake stemmemanipulering

AI‑baserte teknologier har ført til utvikling av realistisk tale‑syntese. I sin opprinnelige form kan teknologien gjøre mye godt. Den kan bidra til å utvikle personlige stemmeassistenter og andre kommunikasjonsverktøy som forbedrer tilgjengelighet. Likevel bruker mange den til å lage stemmer for deep fake‑videoer. 

For å svare på denne trusselen har Ning Zhang, assisterende professor i datavitenskap og ingeniørfag ved McKelvey School of Engineering ved Washington University, utviklet et verktøy kalt AntiFake. Det er ikke et dempingsverktøy som hjelper med å oppdage etter et angrep. Snarere er det et proaktivt verktøy som har som mål å stoppe problemet i sin spede begynnelse. 

Ifølge Prof. Zhang:

“AntiFake sørger for at når vi legger ut stemmedata, er det vanskelig for kriminelle å bruke den informasjonen til å syntetisere våre stemmer og etterligne oss.” 

I et interessant trekk for å bekjempe sofistikerte nettkriminelle har Prof. Zhang bestemt seg for å betale dem tilbake i deres egne mynter. Ifølge ham:

“Verktøyet bruker en teknikk med motstridende AI som opprinnelig var en del av nettkriminellenes verktøykasse, men nå bruker vi den for å forsvare oss mot dem.”

Det grunnleggende driftsprinsippet for AntiFake er å forvrenge det innspilte lydsignalet litt. Forvrengningen er så finjustert at den høres riktig ut for menneskelige ører, men overføres som noe helt annet til AI. 

Ifølge offentlig tilgjengelige data har AntiFake vist en beskyttelsesrate på over 95 %. Det har også bevist sin effektivitet ved å være tilgjengelig for ulike befolkningsgrupper. 

Bruk av blokkjedeteknologi for å sikre autentisitet

OARO Media solutions utnytter blokkjedens uforanderlighetsegenskaper for å bekjempe deep fake‑trusselen. Det hjelper med å skape en uforanderlig datasporet for bedrifter, myndigheter og individuelle brukere for å autentisere ethvert foto eller video. 

Måten OARO Media fungerer på en brukers mobiltelefon er enkel, men banebrytende effektiv. Brukeren starter med å få tilgang til mobilkameraet via en SMS‑nettside eller en forsikringsapp. Deretter utstedes et sertifikat til det visuelle innholdet, som inkluderer en uforfalskelig registrering av bruker‑ID, innhold, tidsstempel og GPS‑koordinater. Denne prosessen hjelper forsikringsbransjen med å autentisere krav og skille AI‑genererte falskheter fra ekte. 

Stoppe bruken av deepfakes som en del av informasjonskrigføring

Sentinels anti‑deepfake‑løsninger og -tjenester hjelper demokratiske regjeringer, forsvarsorganer og bedrifter med å beskytte sine ressurser mot virkningen av ondsinnet generert AI‑innhold. De har inngått partnerskap med EU og Estlands departement for økonomi og kommunikasjon. Det er imidlertid en etter‑angrep‑løsning som hjelper med å oppdage deep fakes når de har kommet i sirkulasjon. 

Måten den fungerer på er en enkel fire‑trinns prosess. I første trinn laster brukeren opp det digitale mediet via Sentinels nettside eller API. Sentinels system analyserer automatisk mediet for å oppdage AI‑forfalskning. Deretter gir det en dom om mediet er en deep fake eller ikke. Til slutt, for å gjøre brukerne oppmerksomme på hvordan prosessen foregår, viser den en visualisering av manipuleringen. 

Sikring av autentisitet i en AI‑verden: Et blomstrende innovasjonsscenario for fremtiden

AI‑generert uautentisk innhold er et kraftig verktøy for å forvrenge virkeligheten og spre ondskapsfull propaganda. Slike innhold, selv når de er laget for tilsynelatende harmløse grunner som en spøk eller likes på sosiale medier, kan oppildne til vold i stor skala. 

Dens påvirkning strekker seg til økt mistillit i ulike områder, fra diplomatiske relasjoner mellom stater til interaksjoner mellom tjenestebedrifter og deres brukere og til og med personlige forhold. Derfor er det et positivt tegn at teknologiforskere og -vitenskapsfolk globalt har anerkjent farene ved ukontrollert, falskt innhold. Vi har allerede fremhevet flere initiativer som adresserer dette problemet.

Det finnes mange flere. Sensity, for eksempel, utvikler en visuell trussel‑intelligensplattform. API‑et deres kan allerede oppdage de nyeste AI‑baserte manipulasjons‑ og synteseteknikkene. En annen oppstart, Quantum Integrity, har kommet med SaaS‑AI‑løsninger som kan oppdage bilde‑ og video‑forfalskning. 

Nettkriminelle vil definitivt fortsette å komme opp med nye teknikker for å lure oss. Men mange bedrifter vil kunne forutse og avverge dem. Med innovasjonen som fortsetter i jevnt tempo, er kampen ikke lenger en David‑mot‑Goliat‑kamp. 

Klikk her for å lære alt om investering i fem konvergerende teknologier.