Sikring af Ægthed i Mødet med Kunstig Intelligens (AI)

Adoptionen af AI i alle livsområder er i hastig vækst. Estimater antyder, at markedet vil tredoble sig i løbet af de næste syv år. 

Fra en størrelse på næsten 242 milliarder USD forventes det at vokse til næsten 740 milliarder USD i 2030. Forskellige industrier er begyndt at integrere AI i deres drift. De industrier, der hidtil har udnyttet det mest, er sundhedssektoren, finans, fremstilling, forretnings- og juridiske tjenester osv. 

I mindre grad er AI begyndt at ændre driftsparadigmer i industrier som medie- og underholdningssektoren, sikkerhed, detailhandel, energi osv. 

Med den stigende AI-adoption er udfordringen med at sikre ægthed fremkommet som et væsentligt problem, der kræver øjeblikkelig opmærksomhed. Vi starter dagens diskussion ved at se på, hvad disse udfordringer er.

Klik her for at lære alt om investering i kunstig intelligens. 

Udfordringer med Ægthed ved AI-adoption

Det, der er AI’s styrke, er blevet til dens svaghed. AI-algoritmer kan generere realistiske billeder, videoer, artikler og enhver anden form for multimedieindhold, som kan være enormt svært for en gennemsnitlig seer at skelne fra originalen. 

For det gennemsnitlige øje kan det fremstå som autentisk information fra en troværdig kilde, mens det i virkeligheden kan være diametralt modsatte: falskt indhold genereret til ondskabsfuld propaganda. 

AI-genereret Falsk Pentagon Eksplosionsbillede

I maj 2023 blev der offentliggjort nyheder om en eksplosion nær Pentagon i USA. Billedet viste en masse sort røg, der kom ud fra haven ved Pentagon-bygningen. Dette billede blev delt af en verificeret Twitter-konto, Bloomberg Feed, som havde et blåt flueben. Kort tid efter delte mange andre verificerede konti med blå flueben også billedet. Alligevel var det et AI-genereret billede, og det narrede mange. Den nylige politik fra X om at gøre blå flueben tilgængelige for et månedligt gebyr på 8 USD forværrede problemet yderligere. 

Da alle kan få en verificeret konto, og verificerede konti får større synlighed, spredte nyhederne sig hurtigt, hvilket rejste bekymringer om efterlignede offentlige personer, regeringsfunktionærer og nyhedssider, skabte kaos og en ægthedskrise i den digitale verden.

Selvom billedet næsten ikke kunne genkendes som AI-genereret af en almindelig bruger af sociale medier X, kunne nogle AI-forskere identificere fejlene eller uregelmæssighederne. 

Ifølge Nick Waters, en sådan AI‑forsker:

“Den ‘usædvanlige’ sammensmeltning af bygningens hegn med menneskemængdens barrierer viste, at billedet kunne være kunstigt fremstillet eller manipuleret.”

Dog opnåede forfalskningen sit formål, om end kun i et kort øjeblik, ved at skabe kaos og forvirring på sociale medier og videre. 

Tusinder af Falske Billeder på Adobe Stock

Ifølge en rapport offentliggjort i Washington Post er AI‑sammensatte stockbilleder udbredte. En søgning på Adobe Stock med udtrykket ‘Ukraine War’ resulterede i over 15.000 falske billeder af konflikten. Rapporten bemærkede også en stor tilstedeværelse af hundredvis af AI‑billeder af personer ved Black Lives Matter‑protester, som aldrig fandt sted. 

Der var også dusinvis af AI‑genererede billeder tilgængelige for Maui‑brande. Mange af disse billeder lignede så tæt på virkelige fotos taget af fotojournalister, at de falske næsten ikke kunne adskilles fra de ægte. 

Tilfældet med Tilsyneladende Ægte Nyhedsklip

Ifølge en anden rapport offentliggjort af Forbes om AI‑genererede falskheder er TikTok‑ og YouTube‑stjernen Krishna Sahay en af flere sociale mediebrugere, der bruger generativ AI til at skabe tilsyneladende ægte nyhedsklip af topankere fra store mainstream‑nyhedsmedier, hvis arbejde har stor troværdighed. 

Fra CBS til CNN til BBC er mange ankere fra disse nyhedsorganisationer på denne liste. Disse videoer er også kendt som deep fakes, hvor kraftfulde generative AI‑algoritmer hjælper med at skabe audiovisuelle indhold, der ser ud og lyder som ankrene selv. 

Ifølge rapporten har Krishna Sahay alene et publikum på millioner. Sahay’s videoer indeholder problematisk kommentar om AI‑manipulerede falske ankere ved følsomme emner som skoleskyderier, terrorangreb, kriminelle angreb og mere. 

Ifølge Hany Farid, en deep fake‑ekspert og professor ved UC Berkeley, udnytter disse videoer populariteten og troværdigheden hos de kendte nyhedsankere som et “overbevisende redskab til at levere desinformation.” 

Ifølge Prof. Farid: “I mange tilfælde er ankrene kendt af seerne og betroet, og selv hvis ikke, er det generelle nyhedsformat velkendt og derfor mere betroet.” Han mener, at for at stoppe denne trussel skal vi “tage beskyttelsen af de personer, hvis udseende og stemme bliver udnyttet, mere alvorligt.” 

Deep Fakes fra Gaza‑krigen

Internettet har også set en betydelig invasion af deep fake‑videoer relateret til Gaza‑krigen. Som svar på denne udfordring har Jean‑Claude Goldenstein, CEO for CREOpoint, et teknologisk firma specialiseret i AI, spillet en central rolle i at vurdere gyldigheden af sådant indhold. Ved at anerkende situationens alvor har virksomheden udviklet en database over de mest virale deep fakes, der er opstået fra Gaza, hvilket markerer et vigtigt skridt i håndteringen af denne digitale trussel. 

Ifølge Goldenstein:

“Billeder, video og lyd: med generativ AI vil det blive en eskalation, du ikke har set før.” 

Disse videoer genbruger ofte indhold fra ældre konflikter. De søger at fremkalde en stærk følelsesmæssig reaktion ved at fremhæve katastrofens intensitet. 

Udover at kende generativ AI ud og ind, indeholder disse deep fake‑skabende teams personer, der er bevidste om menneskelig psykologi og hvordan man målretter folks dybeste impulser og angst. 

I hænderne på propagandister, konspirationsteoretikere, terrorister eller svindelorganisationer har AI‑værktøjer til at generere falskt indhold udviklet sig til et af de dødeligste våben. Behovet for at holde dem i skak vokser for hver dag, der går. 

En af de mest effektive måder at bekæmpe denne voksende trussel på er at sikre kildens ægthed. Forskning og løsningsudvikling for at sikre ægthed er i fuld gang. Nedenfor er nogle få virkelige eksempler. 

Hvordan sikrer du indholds‑ægtheden i kunstig intelligens’ æra?

Sonys In‑Camera‑Autentificeringsteknologi

Sony Electronics er ved at lancere en ny løsning. De har afsluttet anden runde af test af deres in‑camera‑autentificeringsteknologi i samarbejde med Associated Press. 

Formålet med denne teknologi er at udstyre de optagede billeder med et fødselscertifikat, der vil autentificere indholdets oprindelse. Mere specifikt vil det være en maskinbaseret digital signatur, der produceres i kameraet i det øjeblik, billedet fanges, i hardware‑chipsettet. 

Ifølge Neal Manowitz, præsident og COO for Sony Electronics, har “in‑camera‑autentificeringsteknologien vist værdifulde resultater,” og virksomheden “vil fortsætte med at drive udviklingen mod en bredere lancering.” 

Sony Electronics og AP’s fælles felttest blev afsluttet i oktober i år. Formålet med denne testrunde var at vurdere effektiviteten af optagelsesautentificering og relateret arbejdsflow. 

Den tredje samarbejdspartner i projektet var CameraBits, kendt for at skabe det branche‑standard workflow‑værktøj PhotoMechanic. 

CameraBits’ rolle i dette samarbejde bestod i at tilbyde teknologien til at bevare kameraets digitale signatur gennem metadata‑redigeringsprocessen. 

Ifølge David Ake, fotografidirektør for Associated Press, er “Falske og manipulerede billeder et stort problem for nyhedsorganisationer. De bidrager ikke kun til mis‑ og desinformation, men underminerer i sidste ende offentlighedens tillid til faktuelt, præcist billedmateriale.” 

In‑camera‑signaturen og autentificeringsteknologien vil blive udgivet som en firmware‑opdatering i flere modeller i foråret 2024. 

Sony Group Corporation (SONY ) har en markedsværdi på 106,35 milliarder USD, en P/E‑ratio på 19,49, og i 2022 indtjente den 82,64 milliarder USD i omsætning. 

Teknologi til Bekæmpelse af Deep Fake Stemmemanipulationer

AI‑baserede teknologier har fremmet udviklingen af realistisk tale‑syntese. I sin oprindelige form kan teknologien gøre meget godt. Den kan hjælpe med at udvikle personlige stemmeassistenter og andre kommunikationsværktøjer, der forbedrer tilgængeligheden. På den anden side bruger mange den til at skabe stemmer til deep fake‑videoer. 

For at imødegå denne trussel har Ning Zhang, assisterende professor i datalogi og ingeniørvidenskab ved McKelvey School of Engineering på Washington University, udviklet et værktøj kaldet AntiFake. Det er ikke et afhjælpende værktøj, der hjælper med at opdage efter et angreb. I stedet er det et proaktivt værktøj, der sigter mod at stoppe problemet ved roden. 

Ifølge Prof. Zhang:

“AntiFake sikrer, at når vi udsender stemmedata, er det svært for kriminelle at bruge disse oplysninger til at syntetisere vores stemmer og efterligne os.”

I et interessant træk for at bekæmpe sofistikerede cyberkriminelle har Prof. Zhang besluttet at betale dem tilbage i deres egne mønter. Ifølge ham: 

“Værktøjet bruger en teknik med modstander‑AI, som oprindeligt var en del af cyberkriminelle’s værktøjskasse, men som vi nu bruger til at forsvare os mod dem.”

Det grundlæggende driftsprincip for AntiFake er at forvrænge det optagede lydsignal en smule. Forvrængningens karakter er så minutiøst kalibreret, at mens den lyder korrekt for menneskelige ører, overføres den som noget helt andet til AI. 

Ifølge offentligt tilgængelige data har AntiFake vist en beskyttelsesrate på over 95 %. Det har også bevist sin effektivitet ved at være tilgængeligt for forskellige befolkningsgrupper. 

Brug af Blockchain til at Sikre Ægthed

OARO Media solutions udnytter blockchainens uforanderlighedsegenskaber til at bekæmpe deep fake‑truslen. Det hjælper med at skabe en uforanderlig datasti for virksomheder, myndigheder og individuelle brugere til at autentificere ethvert foto eller video. 

Måden Oaro Media fungerer på en brugers mobiltelefon er enkel, men banebrydende effektiv. Brugeren starter med at få adgang til mobilkameraet via et SMS‑weblink eller en forsikringsapp. Derefter udstedes et certifikat til det visuelle indhold, som indeholder en uforfalskelig registrering af bruger‑ID, indhold, tidsstempel og GPS‑koordinater. Denne proces hjælper forsikringsbranchen med at autentificere krav og skelne AI‑genererede falskheder fra de ægte. 

Stop brugen af Deepfakes som en del af Informationskrigføring

Sentinels anti‑deepfake‑løsninger og -tjenester hjælper demokratiske regeringer, forsvarsagenturer og virksomheder med at beskytte deres ressourcer mod virkningerne af ondsindet genereret AI‑indhold. Det har indgået partnerskab med EU og Estlands Ministerium for Økonomi og Kommunikation. Det er dog en efter‑angreb‑løsning, der hjælper med at opdage deep fakes, når de er kommet i omløb. 

Måden det fungerer på er en simpel firetrinsproces. I første trin uploader brugeren det digitale medie via Sentinels hjemmeside eller API. Sentinels system analyserer automatisk mediet for at opdage AI‑forfalskning. Det giver derefter en dom om, hvorvidt mediet er en deep fake eller ej. Endelig, for at gøre brugerne opmærksomme på, hvordan processen foregår, viser det en visualisering af manipulationen. 

Sikring af Ægthed i AI‑tiden: Et Vellykket Innovationsscenario for Fremtiden

AI‑genereret uautentisk indhold er et kraftfuldt redskab til at forvride virkeligheden og sprede ondskabsfuld propaganda. Sådan indhold, selv når det er skabt af tilsyneladende harmløse grunde som en joke eller likes på sociale medier, kan fremkalde vold i stor skala. 

Dets indvirkning strækker sig til øget mistillid på forskellige områder, fra diplomatiske relationer mellem stater til interaktioner mellem servicevirksomheder og deres brugere og endda personlige forhold. Derfor er det et positivt tegn, at teknologiforskere og videnskabsfolk verden over har anerkendt farerne ved ukontrolleret falskt indhold. Vi har allerede fremhævet flere initiativer, der adresserer dette problem. 

Der er mange flere. Sensity udvikler for eksempel en visuel trusselsintelligensplatform. Dens API kan allerede opdage de nyeste AI‑baserede manipulations‑ og synteseteknikker. En anden startup, Quantum Integrity, har udviklet SaaS‑AI‑løsninger, der kan opdage billed‑ og video‑forfalskninger. 

Cyberkriminelle vil uden tvivl fortsætte med at udvikle nye teknikker for at narre os. Men mange virksomheder vil være i stand til at forudse og afværge dem. Med innovationen, der fortsætter i et stabilt tempo, er kampen ikke længere David mod Goliat. 

Klik her for at lære alt om investering i fem konvergerende teknologier.