Authenticiteit waarborgen met het aanbreken van Kunstmatige Intelligentie (AI)

De adoptie van AI in alle levensgebieden neemt sterk toe. Schattingen suggereren dat de markt de komende zeven jaar drie keer zo groot zal worden. 

Van een omvang van bijna US$242 miljard wordt verwacht dat deze tegen 2030 zal groeien tot bijna US$740 miljard. Verschillende sectoren zijn AI gaan integreren in hun operaties. De sectoren die er tot nu toe het meest van hebben geprofiteerd, zijn onder meer de gezondheidszorg, finance, productie, zakelijke en juridische diensten, enz. 

In mindere mate begint AI operationele paradigma’s te veranderen in sectoren zoals media, entertainment, beveiliging, detailhandel, energie, enz. 

Met de toenemende adoptie van AI is de uitdaging om authenticiteit te waarborgen naar voren gekomen als een belangrijk probleem dat onmiddellijke aandacht vereist. We beginnen de discussie van vandaag door te kijken naar wat deze uitdagingen zijn.

Klik hier om alles te leren over investeren in kunstmatige intelligentie. 

Authenticiteitsuitdagingen bij AI-adoptie

Wat AI’s kracht is, is uitgegroeid tot zijn zwakte. AI-algoritmen kunnen realistische afbeeldingen, video’s, artikelen en elke andere vorm van multimedia-inhoud genereren, die voor een gemiddelde kijker enorm moeilijk te onderscheiden is van het origineel. 

Voor het gemiddelde oog kan het lijken op authentieke informatie van een gerenommeerde bron, terwijl het in werkelijkheid diametraal tegenovergesteld kan zijn: nepinhoud die is gegenereerd voor kwaadaardige propaganda. Verschillende gebeurtenissen hebben zich recentelijk voorgedaan die deze kant van de groeiende AI-adoptie blootleggen. 

AI-gegenereerde nep Pentagon-explosieafbeelding

In mei 2023 werd nieuws gepubliceerd over een explosie nabij het Pentagon in de Verenigde Staten. De afbeelding toonde veel zwarte rook die uit de tuin bij het Pentagon-gebouw kwam. Deze afbeelding werd gedeeld door een geverifieerde Twitter-handle, Bloomberg Feed, die een blauw vinkje had. Kort daarna deelden ook veel geverifieerde accounts met blauwe vinkjes de afbeelding. Toch was het een AI-gegenereerde afbeelding, en het misleidde velen. Het recente beleid van X om blauwe vinkjes beschikbaar te maken tegen een maandelijkse vergoeding van US$8 verergerde het probleem. 

Aangezien iedereen een geverifieerd account kan hebben en geverifieerde accounts meer zichtbaarheid krijgen, verspreidde het nieuws zich snel, waardoor zorgen ontstonden over geïmiteerde publieke figuren, overheidsfunctionarissen en nieuwssites, wat chaos en een authenticiteitscrisis in het digitale domein veroorzaakte.

Hoewel de afbeelding door een gewone gebruiker van sociale media X nauwelijks als AI-gegenereerd kon worden herkend, konden sommige AI-onderzoekers de gebreken of onregelmatigheden identificeren. 

Volgens Nick Waters, een AI-onderzoeker:

“De ‘ongewone’ samensmelting van het hek van het gebouw met de menigtebarrières liet zien dat de afbeelding kunstmatig gemaakt of gemanipuleerd had kunnen zijn.”

Desondanks bereikte de vervalsing zijn doel, zij het voor een kort moment, door chaos en verwarring te veroorzaken op sociale media en daarbuiten. 

Duizenden nepafbeeldingen op Adobe Stock

Volgens een rapport gepubliceerd in de Washington Post zijn AI-gegenereerde stockfoto’s wijdverspreid. Een zoekopdracht op Adobe Stock met de term ‘Ukraine War’ leverde meer dan 15.000 nepafbeeldingen van het conflict op. Het rapport noteerde ook een grote aanwezigheid van honderden AI-afbeeldingen van mensen bij Black Lives Matter-protesten die nooit hebben plaatsgevonden. 

Tientallen AI-gegenereerde afbeeldingen waren ook beschikbaar voor de Maui-wildfires. Veel van deze afbeeldingen leken zo sterk op echte foto’s gemaakt door fotojournalisten dat de nepversies nauwelijks van de echte te onderscheiden waren. 

Het geval van ogenschijnlijk realistische nieuwsclips

Volgens een ander rapport, gepubliceerd door Forbes over AI-gegenereerde nepnieuws, is TikTok- en YouTube-ster Krishna Sahay een van de vele sociale mediagebruikers die generatieve AI gebruiken om ogenschijnlijk echte nieuwsclips te maken van toppresentatoren van grote mainstream nieuwszenders, wiens werk veel geloofwaardigheid heeft. 

Van CBS tot CNN tot BBC, veel presentatoren van deze nieuwsorganisaties staan op deze lijst. Deze video’s staan ook bekend als deepfakes, waarbij krachtige generatieve AI-algoritmen audiovisuele inhoud creëren die eruitziet en klinkt als de presentatoren zelf. 

Volgens het rapport heeft Krishna Sahay alleen al een publiek van miljoenen. Sahay’s video’s bevatten problematische commentaren over AI-gemanipuleerde nep-ankers over gevoelige onderwerpen, zoals schietincidenten op scholen, terroristische aanslagen, criminele aanvallen en meer. 

Volgens Hany Farid, een deep‑fake‑expert en professor aan de UC Berkeley, exploiteren deze video’s de populariteit en geloofwaardigheid van bekende nieuwsankers als een “overtuigend medium voor het verspreiden van desinformatie”. 

Volgens professor Farid: “In veel gevallen zijn de presentatoren bekend bij kijkers en worden ze vertrouwd, en zelfs als dat niet zo is, is het algemene nieuwsformaat vertrouwd en daardoor meer geloofwaardig.” Hij gelooft dat het stoppen van deze plaag vereist dat we “serieuzer worden in het beschermen van de rechten van de mensen wiens gelijkenis en stem worden overgenomen.” 

Deepfakes uit de Gaza-oorlog

Het internet zag ook een aanzienlijke invasie van deep‑fake‑video’s gerelateerd aan de Gaza-oorlog. Als reactie op deze uitdaging is Jean‑Claude Goldenstein, CEO van CREOpoint, een technologiebedrijf gespecialiseerd in AI, van cruciaal belang geweest bij het beoordelen van de geldigheid van dergelijke inhoud. Door de ernst van de situatie te erkennen, heeft het bedrijf een database ontwikkeld van de meest virale deepfakes die uit Gaza zijn voortgekomen, wat een belangrijke stap is in het aanpakken van deze digitale dreiging. 

Volgens Goldenstein:

“Afbeeldingen, video en audio: met generatieve AI wordt het een escalatie die je nog niet hebt gezien.”

Deze video’s hergebruiken vaak inhoud van oudere conflicten. Ze proberen een sterke emotionele reactie op te roepen door de intensiteit van de ramp te benadrukken. 

Naast een grondige kennis van generatieve AI, bestaan deze deep‑fake‑creatieteams uit mensen die bekend zijn met de menselijke psychologie en weten hoe ze de diepste impulsen en angsten van mensen kunnen aanspreken. 

In de handen van propagandisten, complottheoretici, terroristen of oplichtersorganisaties zijn AI‑tools die nepinhoud genereren uitgegroeid tot een van de dodelijkste wapens. De noodzaak om ze onder controle te houden, neemt met elke dag toe. 

Een van de meest effectieve manieren om deze groeiende plaag te bestrijden, is het waarborgen van de authenticiteit van de bron. Onderzoeks- en oplossingsontwikkelingsinspanningen om authenticiteit te garanderen zijn in volle gang. Hieronder volgen enkele voorbeelden uit de praktijk. 

Hoe waarborg je contentauthenticiteit in het tijdperk van Kunstmatige Intelligentie?

Sony’s In-Camera Authenticatietechnologie

Sony Electronics staat op het punt een nieuw oplossing te introduceren. Het heeft de tweede testfase van zijn in-camera authenticatietechnologie afgerond in samenwerking met de Associated Press. 

Het doel van deze technologie is om de gemaakte afbeeldingen van een geboorteakte te voorzien die de oorsprong van de inhoud authenticeren. Meer specifiek zal het een machinale digitale handtekening zijn die in de camera wordt gegenereerd op het exacte moment van het vastleggen van de afbeelding in de hardwarechipset. 

Volgens Neal Manowitz, de President en COO van Sony Electronics, heeft de “in-camera authenticatietechnologie waardevolle resultaten laten zien,” en het bedrijf “zal de ontwikkeling voortzetten naar een bredere release.” 

De gezamenlijke veldtest van Sony Electronics en AP werd in oktober van dit jaar afgerond. Het doel van deze testronde was om de efficiëntie van capture‑authenticatie en de bijbehorende workflow te beoordelen. 

De derde partner in dit project was CameraBits, bekend van het creëren van de industriestandaard workflow‑tool PhotoMechanic. 

De rol van CameraBits in deze samenwerking bestond uit het aanbieden van technologie om de digitale handtekening van de camera te behouden via het bewerken van metadata. 

Volgens David Ake, de Director of Photography van de Associated Press, “Valse en gemanipuleerde afbeeldingen zijn een groot probleem voor nieuwsorganisaties. Ze dragen niet alleen bij aan mis‑ en desinformatie, maar ondermijnen uiteindelijk het vertrouwen van het publiek in feitelijke, nauwkeurige beelden.” 

De in-camera handtekening‑ en authenticatietechnologie zal in het voorjaar van 2024 als een firmware‑update in meerdere modellen worden uitgebracht. 

Sony Group Corporation (SONY ) heeft een marktkapitalisatie van $106,35 miljard, een koers-winstverhouding van 19,49, en in 2022 rapporteerde het $82,64 miljard aan omzet.

Technologie om Deep‑Fake‑stemmanipulaties te bestrijden

AI‑gebaseerde technologieën hebben geleid tot ontwikkelingen in realistische spraaksynthese. In de oorspronkelijke vorm kan de technologie veel goeds doen. Het kan helpen bij het ontwikkelen van gepersonaliseerde spraakassistenten en andere communicatietools die de toegankelijkheid verbeteren. Aan de andere kant gebruiken velen het om stemmen te creëren voor deep‑fake‑video’s. 

Om op deze plaag te reageren, heeft Ning Zhang, assistent‑professor computerwetenschappen en engineering aan de McKelvey School of Engineering van Washington University, een tool ontwikkeld genaamd AntiFake. Het is geen mitigatietool die helpt bij detectie na een aanval. Het is eerder een proactieve tool die gericht is op het vroegtijdig aanpakken van het probleem. 

Volgens prof. Zhang:

“AntiFake zorgt ervoor dat wanneer we stemgegevens vrijgeven, het voor criminelen moeilijk is die informatie te gebruiken om onze stemmen te synthetiseren en ons te imiteren.”

In een interessante zet om geavanceerde cybercriminelen te bestrijden, heeft prof. Zhang besloten hen terug te betalen in hun eigen munten. Volgens hem:

“De tool maakt gebruik van een techniek van adversarial AI die oorspronkelijk deel uitmaakte van de gereedschapskist van cybercriminelen, maar nu gebruiken we het om ons tegen hen te verdedigen.”

Het kernprincipe van AntiFake is om het opgenomen audiosignaal licht te vervormen. De aard van de vervorming is zo nauwkeurig gekalibreerd dat het voor menselijke oren goed klinkt, maar voor AI volledig anders overkomt. 

Volgens openbaar beschikbare gegevens heeft AntiFake een beschermingspercentage van meer dan 95% laten zien. Het heeft ook bewezen effectief te zijn voor diverse bevolkingsgroepen. 

Gebruik van blockchain bij het waarborgen van authenticiteit

OARO Media solutions benutten de onveranderlijkheids-eigenschappen van blockchain om de deep‑fake‑plaag te bestrijden. Het helpt een onveranderlijk datatrail te creëren voor bedrijven, overheidsinstanties en individuele gebruikers om elke foto of video te authenticeren. 

De manier waarop Oaro Media werkt op de mobiele telefoon van een gebruiker is eenvoudig maar baanbrekend effectief. De gebruiker begint met het openen van de camera via een SMS‑weblink of een app van de verzekeraar. Vervolgens wordt een certificaat uitgegeven aan de visuele inhoud, dat een onvervalsbaar record bevat van gebruikers‑ID, inhoud, tijdstempel en GPS‑coördinaten. Dit proces helpt de verzekeringssector bij het authenticeren van claims en het onderscheiden van AI‑gegenereerde nepinhoud van de echte. 

Het stoppen van het gebruik van deepfakes als onderdeel van informatieoorlogvoering

De anti‑deepfake‑oplossingen en -diensten van Sentinel helpen democratische overheden, defensie‑agentschappen en bedrijven hun middelen te beschermen tegen de impact van kwaadwillig gegenereerde AI‑inhoud. Het heeft samengewerkt met de Europese Unie en het Ministerie van Economische Zaken en Communicatie van de Republiek Estland. Het is echter een post‑aanval‑oplossing die helpt deepfakes te detecteren zodra ze in omloop zijn gekomen. 

De werking bestaat uit een eenvoudige stroom van vier stappen. In de eerste stap uploadt de gebruiker de digitale media via de website of API van Sentinel. Het Sentinel‑systeem analyseert automatisch de media om AI‑vervalsing te detecteren. Vervolgens geeft het een oordeel of de media een deep fake is of niet. Ten slotte, om gebruikers bewust te maken van hoe het proces verloopt, toont het een visualisatie van de manipulatie. 

Authenticiteit waarborgen temidden van AI: een bloeiend innovatiescenario voor de toekomst

AI‑gegenereerde niet-authentieke content is een krachtig instrument om de realiteit te vervormen en wrede propaganda te verspreiden. Dergelijke content, zelfs wanneer deze wordt gemaakt om ogenschijnlijk onschuldige redenen zoals een grap of likes op sociale media, kan grootschalig geweld aanwakkeren. 

De impact strekt zich uit tot een groeiend wantrouwen in verschillende gebieden, van diplomatieke betrekkingen tussen staten tot interacties tussen dienstverlenende bedrijven en hun gebruikers en zelfs persoonlijke relaties. Het is daarom een positief teken dat technologische onderzoekers en wetenschappers wereldwijd de gevaren van ongecontroleerde nepcontent hebben erkend. We hebben al verschillende initiatieven belicht die dit probleem aanpakken.

Er zijn er nog veel meer. Sensity ontwikkelt bijvoorbeeld een visueel threat‑intelligence‑platform. De API is al in staat om de nieuwste AI‑gebaseerde manipulatie‑ en synthese‑technieken te detecteren. Een andere startup, Quantum Integrity, heeft SaaS‑AI‑oplossingen ontwikkeld die beeld‑ en video‑vervalsing kunnen detecteren.

Cybercriminelen zullen inderdaad blijven komen met nieuwere technieken om ons te misleiden. Maar veel bedrijven zullen in staat zijn om hen voor te zijn en te weerstaan. Met de innovatie die in een constant tempo doorgaat, is de strijd niet langer een David‑tegen‑Goliath‑gevecht.

Klik hier om alles te leren over investeren in vijf convergerende technologieën.