Att säkerställa äkthet i takt med artificiell intelligens (AI)ens gryning

Antagandet av AI i alla livsområden är på uppgång. Uppskattningar tyder på att marknaden kommer att tredubblas under de kommande sju åren. 

Från en storlek på nästan 242 miljarder USD förväntas den växa till nästan 740 miljarder USD år 2030. Olika branscher har börjat integrera AI i sina verksamheter. De branscher som hittills har utnyttjat den mest är hälso- och sjukvård, finans, tillverkning, affärs- och juridiska tjänster osv. 

I mindre utsträckning har AI börjat förändra operativa paradigm i branscher som media, underhållning, säkerhet, detaljhandel, energi osv. 

Med ökad AI‑adoption har utmaningen att säkerställa äkthet framträtt som ett betydande problem som kräver omedelbar åtgärd. Vi inleder dagens diskussion genom att titta på vilka dessa utmaningar är.

Klicka här för att lära dig allt om att investera i artificiell intelligens. 

Äkthetsutmaningar vid AI‑adoption

Det som är AI:s styrka har visat sig vara dess svaghet. AI‑algoritmer kan generera realistiska bilder, videor, artiklar och annan multimediainnehåll som kan vara oerhört svårt för en genomsnittlig betraktare att skilja från originalet. 

För det genomsnittliga ögat kan det framstå som autentisk information från en pålitlig källa, medan det i verkligheten kan vara diametralt motsatt: falskt innehåll som genererats för illvillig propaganda. Flera händelser har inträffat den senaste tiden som blottlägger denna sida av den växande AI‑adoptionen. 

AI‑genererad falsk bild av Pentagonexplosion

I maj 2023 publicerades nyheter om en explosion nära Pentagon i USA. Bilden visade mycket svart rök som kom ut från trädgården nära Pentagon‑byggnaden. Bilden delades av ett verifierat Twitter‑konto, Bloomberg Feed, som hade en blå bock. Kort därefter delade många andra verifierade konton med blå bock också bilden. Trots detta var det en AI‑genererad bild, och den lurade många. Den senaste policyn från X att göra blå bockar tillgängliga mot en månadskostnad på 8 USD förvärrade problemet ytterligare. 

Eftersom vem som helst kan ha ett verifierat konto och verifierade konton får mer synlighet, spreds nyheten snabbt, vilket väckte oro för förfalskade offentliga personer, myndighetspersoner och nyhetssajter, skapade kaos och en äkthetskris i den digitala världen.

Även om bilden knappt kunde identifieras som AI‑genererad av en vanlig användare av sociala medier X, kunde vissa AI‑forskare identifiera bristerna eller oregelbundenheterna. 

Enligt Nick Waters, en sådan AI‑forskare:

“Den ‘ovanliga’ sammansmältningen av byggnadens staket med publikskenorna visade att bilden kan ha skapats eller manipulerats artificiellt.”

Dock uppnådde förfalskningen sitt syfte, om än under en kort stund, genom att skapa kaos och förvirring på sociala medier och bortom dem. 

Tusentals falska bilder på Adobe Stock

Enligt en rapport publicerad i Washington Post är AI‑konstruerade stockbilder utbredda. En sökning på Adobe Stock med termen ‘Ukraine War’ resulterade i över 15 000 falska bilder av konflikten. Rapporten noterade också en stor närvaro av hundratals AI‑bilder av personer vid Black Lives Matter‑protester som aldrig ägde rum. 

Dussintals AI‑genererade bilder fanns också tillgängliga för Maui‑bränderna. Många av dessa bilder liknade så exakt fotografier tagna av fotojournalister att de falska knappt kunde skiljas från de äkta. 

Fallet med till synes verkliga nyhetsklipp

Enligt en annan rapport publicerad av Forbes om AI‑genererade falskheter är TikTok‑ och YouTube‑stjärnan Krishna Sahay en av flera sociala medie‑användare som använder generativ AI för att skapa till synes verkliga nyhetsklipp med toppankare från stora mainstream‑nyhetsmedier vars arbete har stor trovärdighet. 

Från CBS till CNN till BBC, många ankare från dessa nyhetsbyråer finns med på listan. Dessa videor är också kända som deep fakes, där kraftfulla generativa AI‑algoritmer hjälper till att skapa audiovisuellt innehåll som ser ut och låter som ankare själva. 

Enligt rapporten har Krishna Sahay själv en publik på miljontals. Sahay:s videor innehåller problematiska kommentarer från AI‑manipulerade falska ankare om känsliga ämnen som skjutningar i skolor, terroristattacker, brottsliga angrepp och mer. 

Enligt Hany Farid, en deep‑fake‑expert och professor vid UC Berkeley, utnyttjar dessa videor populariteten och trovärdigheten hos de kända nyhetsankarna som ett “övertygande verktyg för att sprida desinformation”. 

Enligt Prof. Farid: “I många fall är ankare kända för tittarna och betrodda, och även om de inte är det, är det allmänna nyhetsformatet bekant och därför mer betrott.” Han tror att för att stoppa detta hot krävs det att vi “tar skyddet av de personer vars ansikte och röst utnyttjas på allvarligare sätt”. 

Deep fakes från Gaza‑kriget

Internet såg också en betydande invasion av deep‑fake‑videor relaterade till Gaza‑kriget. Som svar på denna utmaning har Jean‑Claude Goldenstein, VD för CREOpoint, ett teknikföretag som specialiserar sig på AI, spelat en viktig roll i att bedöma giltigheten av sådant innehåll. Med insikt om situationens allvar har företaget utvecklat en databas med de mest virala deep fakes som har dykt upp från Gaza, vilket markerar ett avgörande steg i att hantera detta digitala hot.

Enligt Goldenstein:

“Bilder, video och ljud: med generativ AI kommer det att bli en eskalering du inte har sett tidigare.” 

Dessa videor återanvänder ofta innehåll från äldre konflikter. De syftar till att framkalla en stark känslomässig respons genom att förstärka katastrofens intensitet. 

Förutom att känna till generativ AI inifrån och ut, innehåller dessa deep‑fake‑skapande team personer som förstår mänsklig psykologi och hur man riktar sig mot människors djupaste impulser och rädslor. 

I händerna på propagandister, konspirationsteoretiker, terrorister eller blufforganisationer har AI‑verktyg för att skapa falskt innehåll utvecklats till ett av de dödligaste vapnen. Behovet av att hålla dem under kontroll ökar för varje dag som går. 

Ett av de mest effektiva sätten att bekämpa detta växande hot är att säkerställa källans äkthet. Forskning och lösningsutveckling för att garantera äkthet pågår i full fart. Nedan följer några exempel från verkligheten. 

Hur säkerställer du innehållsäkthet i artificiell intelligens era?

Sonys autentiseringsteknik i kameran

Sony Electronics är på väg att lansera en ny lösning. De har slutfört den andra testomgången av sin autentiseringsteknik i kameran i samarbete med Associated Press. 

Syftet med denna teknik är att ge de tagna bilderna ett födelsebevis som autentiserar innehållets ursprung. Mer specifikt blir det en maskinbaserad digital signatur som produceras i kameran i exakt det ögonblick bilden fångas i hårdvaruchippet. 

Enligt Neal Manowitz, president och COO för Sony Electronics, har “autentiseringstekniken i kameran visat värdefulla resultat,” och företaget “kommer att fortsätta driva utvecklingen mot en bredare lansering.” 

Sony Electronics och AP:s gemensamma fälttest avslutades i oktober i år. Syftet med denna testomgång var att utvärdera effektiviteten i autentisering vid inspelning och relaterade arbetsflöden. 

Den tredje samarbetspartnern i projektet var CameraBits, känt för att ha skapat det branschstandardiserade arbetsflödesverktyget PhotoMechanic. 

CameraBits roll i detta samarbete bestod i att erbjuda tekniken för att bevara kamerans digitala signatur genom metadata‑redigeringsprocessen. 

Enligt David Ake, fotografidirektör för Associated Press, är “falska och manipulerade bilder ett stort bekymmer för nyhetsorganisationer. De bidrar inte bara till miss‑ och desinformation, utan undergräver i slutändan allmänhetens förtroende för faktiska, korrekta bilder.” 

Signatur‑ och autentiseringstekniken i kameran kommer att släppas som en firmware‑uppdatering i flera modeller våren 2024.

Sony Group Corporation (SONY ) har ett börsvärde på 106,35 miljarder USD, ett P/E‑tal på 19,49 och år 2022 redovisade de en omsättning på 82,64 miljarder USD.

Teknik för att bekämpa deep‑fake‑röstmanipulationer

AI‑baserade teknologier har lett till utveckling av realistisk talsyntes. I sin ursprungliga avsedda form kan tekniken vara mycket nyttig. Den kan hjälpa till att skapa personliga röstassistenter och andra kommunikationsverktyg som förbättrar tillgänglighet. Men på andra sidan använder många den för att skapa röster till deep‑fake‑videor. 

För att bemöta detta hot har Ning Zhang, biträdande professor i datavetenskap och teknik vid McKelvey School of Engineering på Washington University, utvecklat ett verktyg kallat AntiFake. Det är inte ett verktyg för att mildra efter en attack, utan ett proaktivt verktyg som syftar till att stoppa problemet i dess början. 

Enligt Prof. Zhang:

“AntiFake ser till att när vi publicerar röstdata, blir det svårt för kriminella att använda den informationen för att syntetisera våra röster och imitera oss.”

I ett intressant drag för att bekämpa sofistikerade cyberkriminella har Prof. Zhang beslutat att betala tillbaka dem i deras egna mynt. Enligt honom:

“Verktyget använder en teknik med motståndskraftig AI som ursprungligen var en del av cyberkriminellas verktygslåda, men nu använder vi den för att försvara oss mot dem.”

Den grundläggande driftsprincipen för AntiFake är att lätt förvränga den inspelade ljudsignalen. Förvrängningens karaktär är så finjusterad att den låter korrekt för mänskliga öron, men överförs som något helt annat för AI. 

Enligt offentligt tillgängliga data har AntiFake visat en skyddsnivå på mer än 95 %. Det har också bevisat sin effektivitet genom att vara tillgängligt för olika befolkningsgrupper. 

Användning av blockchain för att säkerställa äkthet

OARO Media solutions utnyttjar blockkedjans oföränderlighetsegenskaper för att bekämpa deep‑fake‑hotet. Det hjälper till att skapa ett oföränderligt dataspår för företag, myndigheter och enskilda användare för att autentisera vilken foto eller video som helst. 

Så här fungerar Oaro Media på en användares mobiltelefon – enkelt men banbrytande effektivt. Användaren börjar med att komma åt mobilkameran via en SMS‑webblänk eller ett försäkringsapps. Därefter utfärdas ett certifikat till det visuella innehållet, som inkluderar ett oförfalskbart register med användar‑ID, innehåll, tidsstämpel och GPS‑koordinater. Denna process hjälper försäkringsbranschen att autentisera anspråk och skilja AI‑genererade falskheter från de äkta. 

Stoppa användningen av deep fakes som en del av informationskrigföring

Sentinels anti‑deepfake‑lösningar och tjänster hjälper demokratiska regeringar, försvarsmyndigheter och företag att skydda sina resurser mot effekterna av illvilligt genererat AI‑innehåll. De har samarbetat med Europeiska unionen och Estlands ministerium för ekonomi och kommunikation. Det är dock en efter‑attack‑lösning som hjälper till att upptäcka deep fakes när de väl har spridits. 

Så fungerar den i ett enkelt flöde av fyra steg. I det första steget laddar användaren upp det digitala mediet via Sentinels webbplats eller API. Sentinels system analyserar automatiskt mediet för att upptäcka AI‑förfalskning. Därefter ger det ett utlåtande om mediet är en deep fake eller inte. Slutligen, för att göra användarna medvetna om hur processen går till, visas en visualisering av manipulationen. 

Att säkerställa äkthet i en AI‑värld: ett blomstrande innovationsscenario för framtiden

AI‑genererat oäkta innehåll är ett kraftfullt verktyg för att förvränga verkligheten och sprida ondskefull propaganda. Sådant innehåll, även när det skapas för till synes oskyldiga skäl som ett skämt eller för likes på sociala medier, kan uppmuntra till storskaligt våld. 

Dess påverkan sträcker sig till ökat misstroende i olika områden, från diplomatiska relationer mellan stater till interaktioner mellan tjänsteföretag och deras användare och även personliga relationer. Därför är det ett positivt tecken att teknologiforskare och vetenskapsmän världen över har erkänt farorna med oreglerat falskt innehåll. Vi har redan lyft fram flera initiativ som adresserar detta problem.

Det finns många fler. Sensity utvecklar till exempel en visuell hotintelligensplattform. Dess API kan redan upptäcka de senaste AI‑baserade manipulations- och syntesmetoderna. En annan startup, Quantum Integrity, har tagit fram SaaS‑AI‑lösningar som kan upptäcka bild- och video­förfalskning. 

Cyberkriminella kommer utan tvekan fortsätta utveckla nya tekniker för att lura oss. Men många företag kommer att kunna förutse och motverka dem. Med innovationen som fortsätter i en stadig takt är kampen inte längre en David‑mot‑Goliat‑strid. 

Klicka här för att lära dig allt om att investera i fem konvergerande teknologier.