Sicherstellung der Authentizität im Zeitalter der aufkommenden Künstlichen Intelligenz (KI)

Die Einführung von KI in allen Lebensbereichen nimmt stark zu. Schätzungen zufolge wird der Markt in den nächsten sieben Jahren voraussichtlich um das Dreifache wachsen. 

Von einer Größe von fast 242 Milliarden US‑Dollar wird bis 2030 ein Wachstum auf fast 740 Milliarden US‑Dollar erwartet. Verschiedene Branchen haben begonnen, KI in ihre Abläufe zu integrieren. Bisher haben vor allem das Gesundheitswesen, Finanzen, die Fertigung, Geschäfts‑ und Rechtsdienstleistungen usw. von ihr profitiert. 

In geringerem Maße hat KI begonnen, operative Paradigmen in Branchen wie Medien, Unterhaltung, Sicherheit, Einzelhandel, Energie usw. zu verändern. 

Mit zunehmender KI‑Einführung ist die Herausforderung, Authentizität zu gewährleisten, zu einem bedeutenden Problem geworden, das sofortige Aufmerksamkeit erfordert. Wir beginnen die heutige Diskussion, indem wir uns ansehen, welche Herausforderungen das sind.

Klicken Sie hier, um alles über Investitionen in Künstliche Intelligenz zu erfahren. 

Authentizitätsherausforderungen bei der KI‑Einführung

Was als Stärke von KI gilt, hat sich als Schwäche erwiesen. KI‑Algorithmen können realistische Bilder, Videos, Artikel und jede andere Form von Multimedia‑Inhalten erzeugen, die für einen durchschnittlichen Betrachter kaum von den Originalen zu unterscheiden sind.

Für das ungeübte Auge kann es wie authentische Information einer vertrauenswürdigen Quelle erscheinen, während es in Wirklichkeit das genaue Gegenteil sein kann: gefälschte Inhalte, die zu böswilliger Propaganda erzeugt wurden. Mehrere Ereignisse in der jüngeren Vergangenheit haben diese Kehrseite der wachsenden KI‑Einführung deutlich gemacht.

KI‑generiertes gefälschtes Bild einer Pentagon-Explosion

Im Mai 2023 wurde über eine Explosion in der Nähe des Pentagon in den USA berichtet. Das Bild zeigte dichten schwarzen Rauch, der aus dem Garten neben dem Pentagon-Gebäude aufstieg. Dieses Bild wurde von einem verifizierten Twitter‑Account, Bloomberg Feed, mit blauem Häkchen, geteilt. Kurz darauf teilten auch viele andere verifizierte Konten mit blauem Häkchen das Bild. Doch es handelte sich um ein KI‑generiertes Bild, das viele täuschte. Die jüngste Richtlinie von X, blaue Häkchen gegen eine monatliche Gebühr von 8 US‑Dollar anzubieten, verschärfte das Problem weiter.

Da jeder ein verifiziertes Konto besitzen kann und verifizierte Konten mehr Sichtbarkeit erhalten, verbreitete sich die Nachricht schnell, was Bedenken hinsichtlich der Nachahmung von öffentlichen Persönlichkeiten, Regierungsbeamten und Nachrichtenportalen hervorrief, Chaos erzeugte und eine Authentizitätskrise im digitalen Raum auslöste.

Obwohl das Bild von einem durchschnittlichen Nutzer von Social Media X kaum als KI‑generiert erkannt werden konnte, konnten einige KI‑Forscher die Mängel oder Unregelmäßigkeiten identifizieren.

According to Nick Waters, ein solcher KI‑Forscher:

“Die ‘ungewöhnliche’ Verschmelzung des Zauns des Gebäudes mit den Menschenmengenbarrieren zeigte, dass das Bild künstlich erstellt oder manipuliert sein könnte.”

Dennoch erreichte die Fälschung ihr Ziel, wenn auch nur für einen kurzen Moment, indem sie Chaos und Verwirrung in den sozialen Medien und darüber hinaus erzeugte.

Tausende gefälschte Bilder auf Adobe Stock

Laut einem Bericht veröffentlicht in der Washington Post sind KI‑erzeugte Stock‑Bilder allgegenwärtig. Eine Suche auf Adobe Stock nach dem Begriff ‘Ukraine War’ ergab über 15.000 gefälschte Bilder des Konflikts. Der Bericht stellte außerdem fest, dass Hunderte von KI‑Bildern von Menschen bei Black‑Lives‑Matter‑Protesten, die nie stattgefunden haben, stark vertreten sind.

Zehntausende KI‑generierte Bilder waren auch für die Waldbrände auf Maui verfügbar. Viele dieser Bilder ähnelten den von Fotojournalisten aufgenommenen Echtaufnahmen so stark, dass gefälschte kaum von den echten zu unterscheiden waren.

Der Fall scheinbar realer Nachrichtenclips

Laut einem weiteren von Forbes veröffentlichten Bericht über KI‑generierte Fälschungen nutzt der TikTok‑ und YouTube‑Star Krishna Sahay zusammen mit mehreren anderen Social‑Media‑Nutzern generative KI, um scheinbar reale Nachrichtenclips von Top‑Moderatoren großer Mainstream‑Nachrichtenmedien zu erstellen, deren Arbeit viel Glaubwürdigkeit genießt.

Von CBS über CNN bis zur BBC fallen viele Moderatoren dieser Nachrichtenagenturen in diese Liste. Diese Videos sind auch als Deepfakes bekannt, bei denen leistungsstarke generative KI‑Algorithmen audiovisuelle Inhalte erzeugen, die den Moderatoren selbst ähneln und klingen.

Laut dem Bericht hat Krishna Sahay allein ein Publikum von Millionen. Sahay’s Videos enthalten problematische Kommentare zu KI‑manipulierten falschen Moderatoren zu sensiblen Themen wie Schulerschießungen, Terroranschlägen, Verbrechen und mehr.

Laut Hany Farid, einem Deep‑Fake‑Experten und Professor an der UC Berkeley, nutzen diese Videos die Popularität und Glaubwürdigkeit bekannter Nachrichtenmoderatoren als „überzeugendes Gefäß für die Verbreitung von Desinformation“.

Laut Prof. Farid: “In vielen Fällen sind die Moderatoren den Zuschauern bekannt und vertrauenswürdig, und selbst wenn nicht, ist das allgemeine Nachrichtenformat vertraut und daher vertrauenswürdiger.” Er ist der Ansicht, dass die Bekämpfung dieser Plage erfordere, dass wir “es ernster nehmen, die Rechte der Personen zu schützen, deren Bild und Stimme missbraucht werden”.

Deepfakes aus dem Gaza‑Krieg

Das Internet erlebte zudem eine erhebliche Flut von Deep‑Fake‑Videos im Zusammenhang mit dem Gaza‑Krieg. Als Reaktion auf diese Herausforderung war Jean‑Claude Goldenstein, CEO von CREOpoint, einem Technologieunternehmen, das sich auf KI spezialisiert hat, maßgeblich an der Bewertung der Gültigkeit solcher Inhalte beteiligt. Angesichts der Schwere der Situation hat das Unternehmen eine Datenbank der viralsten Deepfakes erstellt, die aus Gaza hervorgegangen sind, ein entscheidender Schritt zur Bewältigung dieser digitalen Bedrohung.

According to Goldenstein:

“Bilder, Video und Audio: Mit generativer KI wird es zu einer Eskalation kommen, die Sie noch nicht gesehen haben.”

Diese Videos verwenden häufig Inhalte aus älteren Konflikten wieder. Sie versuchen, eine starke emotionale Reaktion zu erzeugen, indem sie die Intensität der Katastrophe betonen.

Abgesehen von fundiertem Wissen über generative KI bestehen die Teams, die Deepfakes erstellen, aus Personen, die die menschliche Psychologie verstehen und wissen, wie man die tiefsten Impulse und Ängste der Menschen anspricht.

In den Händen von Propagandisten, Verschwörungstheoretikern, Terroristen oder Betrugsorganisationen haben sich KI‑Werkzeuge zur Erstellung falscher Inhalte zu einer der tödlichsten Waffen entwickelt. Der Bedarf, sie im Zaum zu halten, steigt mit jedem Tag.

Eine der effektivsten Methoden, dieser wachsenden Plage zu begegnen, besteht darin, die Authentizität der Quelle sicherzustellen. Forschungs‑ und Lösungsansätze zur Gewährleistung der Authentizität sind in vollem Gange. Im Folgenden einige Beispiele aus der Praxis.

Wie stellen Sie die Inhaltsauthentizität im Zeitalter der Künstlichen Intelligenz sicher?

Sonys In‑Camera‑Authentifizierungstechnologie

Sony Electronics steht kurz davor, eine neuartige Lösung zu präsentieren. Es hat die zweite Testphase seiner In‑Camera‑Authentifizierungstechnologie in Zusammenarbeit mit der Associated Press abgeschlossen.

Zweck dieser Technologie ist es, die aufgenommenen Bilder mit einer Geburtsurkunde auszustatten, die den Ursprung des Inhalts authentifiziert. Genauer gesagt wird es eine maschinengestützte digitale Signatur sein, die im Kamerahardware‑Chipset zum Zeitpunkt der Bildaufnahme erzeugt wird.

Laut Neal Manowitz, Präsident und COO von Sony Electronics, hat die „In‑Camera‑Authentifizierungstechnologie“ wertvolle Ergebnisse gezeigt, und das Unternehmen wird die Entwicklung weiter vorantreiben, um eine breitere Veröffentlichung zu ermöglichen.

Der gemeinsame Feldtest von Sony Electronics und AP wurde im Oktober dieses Jahres abgeschlossen. Ziel dieser Testphase war es, die Effizienz der Erfassungs‑Authentifizierung und des zugehörigen Workflows zu bewerten.

Der dritte Mitwirkende an diesem Projekt war CameraBits, bekannt für die Erstellung des branchenstandard‑Workflow‑Tools PhotoMechanic.

Die Rolle von CameraBits in dieser Zusammenarbeit bestand darin, die Technologie bereitzustellen, die digitale Signatur der Kamera durch den Metadaten‑Bearbeitungsprozess zu erhalten.

Laut David Ake, Direktor für Fotografie bei der Associated Press, „Gefälschte und manipulierte Bilder sind ein großes Problem für Nachrichtenorganisationen. Sie tragen nicht nur zur Fehl‑ und Desinformation bei, sondern untergraben letztlich das Vertrauen der Öffentlichkeit in faktisch korrekte, genaue Bildmaterialien.“

Die In‑Camera‑Signatur‑ und Authentifizierungstechnologie wird im Frühjahr 2024 als Firmware‑Update in mehreren Modellen veröffentlicht.

Die Sony Group Corporation (SONY ) hat eine Marktkapitalisierung von 106,35 Milliarden US‑Dollar, ein KGV von 19,49 und erzielte im Jahr 2022 einen Umsatz von 82,64 Milliarden US‑Dollar.

Technologie zur Bekämpfung von Deep‑Fake‑Stimmenmanipulationen

KI‑basierte Technologien haben Entwicklungen in der realistischen Sprachsynthese angeregt. In ihrer ursprünglich beabsichtigten Form kann die Technologie viel Gutes bewirken. Sie kann helfen, personalisierte Sprachassistenten und andere Kommunikationswerkzeuge zu entwickeln, die die Barrierefreiheit verbessern. Auf der anderen Seite nutzen viele sie, um Stimmen für Deep‑Fake‑Videos zu erzeugen.

Um dieser Bedrohung zu begegnen, hat Ning Zhang, Assistenzprofessorin für Informatik und Ingenieurwesen an der McKelvey School of Engineering der Washington University, ein Tool namens AntiFake entwickelt. Es ist kein nachträgliches Erkennungswerkzeug, sondern ein proaktives Instrument, das das Problem bereits im Keim ersticken soll.

According to Prof. Zhang:

“AntiFake stellt sicher, dass, wenn wir Stimm­daten veröffentlichen, es für Kriminelle schwierig ist, diese Informationen zu nutzen, um unsere Stimmen zu synthetisieren und uns zu imitieren.”

In einem interessanten Schritt zur Bekämpfung raffinierter Cyberkrimineller hat Prof. Zhang beschlossen, ihnen mit deren eigenen Coins zu begegnen. Laut ihr:

“Das Tool verwendet eine Technik der adversarialen KI, die ursprünglich Teil des Werkzeugkastens von Cyberkriminellen war, nun jedoch zu ihrer Abwehr eingesetzt wird.”

Das Kernprinzip von AntiFake besteht darin, das aufgezeichnete Audiosignal leicht zu verzerren. Die Art der Verzerrung ist so fein abgestimmt, dass sie für das menschliche Ohr normal klingt, für KI‑Systeme jedoch völlig anders erscheint.

Laut öffentlich verfügbarer Daten hat AntiFake eine Schutzrate von über 95 % gezeigt. Es hat zudem seine Wirksamkeit bewiesen, indem es für verschiedene Bevölkerungsgruppen zugänglich ist.

Einsatz von Blockchain zur Gewährleistung der Authentizität

OARO Media solutions nutzen die Unveränderlichkeitseigenschaften der Blockchain, um der Deep‑Fake‑Bedrohung entgegenzuwirken. Sie helfen, eine unveränderliche Datenkette für Unternehmen, Regierungsbehörden und einzelne Nutzer zu schaffen, um jedes Foto oder Video zu authentifizieren.

Die Funktionsweise von OARO Media auf dem Mobiltelefon eines Nutzers ist einfach, aber spiel­ver­ändernd effektiv. Der Nutzer greift über einen SMS‑Web‑Link oder die App eines Versicherers auf die Handy‑Kamera zu. Anschließend wird dem visuellen Inhalt ein Zertifikat ausgestellt, das einen fälschungssicheren Datensatz von Nutzer‑ID, Inhalt, Zeitstempel und GPS‑Koordinaten enthält. Dieser Prozess hilft der Versicherungsbranche, Ansprüche zu authentifizieren und KI‑generierte Fälschungen von echten Inhalten zu unterscheiden.

Verhinderung des Einsatzes von Deepfakes im Rahmen der Informationskriegsführung

Sentinels Anti‑Deepfake‑Lösungen und -Dienstleistungen helfen demokratischen Regierungen, Verteidigungsbehörden und Unternehmen, ihre Ressourcen vor den Auswirkungen böswillig erzeugter KI‑Inhalte zu schützen. Das Unternehmen hat Partnerschaften mit der Europäischen Union und dem estnischen Ministerium für Wirtschaft und Kommunikation geschlossen. Es handelt sich jedoch um eine Nach‑Angriff‑Lösung, die Deepfakes erkennt, sobald sie in Umlauf gekommen sind.

Die Funktionsweise besteht aus einem einfachen Ablauf von vier Schritten. Im ersten Schritt lädt der Nutzer das digitale Medium über Sentinels Website oder API hoch. Das Sentinel‑System analysiert das Medium automatisch, um KI‑Fälschungen zu erkennen. Anschließend gibt es ein Urteil ab, ob das Medium ein Deepfake ist oder nicht. Und schließlich wird dem Nutzer zur Veranschaulichung des Prozesses eine Visualisierung der Manipulation angezeigt.

Sicherstellung der Authentizität im Zeitalter der KI: Erfolgreiches Innovationsszenario für die Zukunft

KI‑generierte unauthentische Inhalte sind ein mächtiges Werkzeug zur Verzerrung der Realität und Verbreitung bösartiger Propaganda. Solche Inhalte, selbst wenn sie scheinbar harmlos aus einem Scherz oder für Likes in sozialen Medien erstellt wurden, können großflächige Gewalt auslösen.

Ihre Auswirkungen reichen bis zu einem wachsenden Misstrauen in verschiedenen Bereichen, von diplomatischen Beziehungen zwischen Staaten bis hin zu Interaktionen zwischen Dienstleistungsunternehmen und deren Nutzern sowie persönlichen Beziehungen. Daher ist es ein positives Zeichen, dass Technologie‑Forscher und Wissenschaftler weltweit die Gefahren von unkontrollierten, falschen Inhalten anerkannt haben. Wir haben bereits mehrere Initiativen hervorgehoben, die dieses Problem angehen.

Es gibt noch viele weitere. Sensity entwickelt beispielsweise eine Plattform für visuelle Bedrohungsintelligenz. Seine API kann bereits die neuesten KI‑basierten Manipulations‑ und Synthesetechniken erkennen. Ein weiteres Startup, Quantum Integrity hat SaaS‑KI‑Lösungen entwickelt, die Bild‑ und Video‑Fälschungen aufspüren können.

Cyberkriminelle werden zweifellos weiterhin neue Techniken entwickeln, um uns zu täuschen. Doch viele Unternehmen werden in der Lage sein, sie vorauszusehen und abzuwehren. Da die Innovation in einem stetigen Tempo weitergeht, ist der Kampf kein David‑gegen‑Goliath‑Szenario mehr.

Klicken Sie hier, um alles über Investitionen in fünf konvergierende Technologien zu erfahren.