UNITE KI-Modell kann jeden Deepfake erkennen, ohne auf Gesichter angewiesen zu sein

Wissenschaftler gehen das KI-Problem jetzt mit KI selbst an. Forscher der UC Riverside haben ein UNITE‑Modell entwickelt, um das gravierende Problem der Deepfakes anzugehen. 

„Menschen haben das Recht zu wissen, ob das, was sie sehen, echt ist“, sagte Rohit Kundu, PhD‑Kandidat am Marlan and Rosemary Bourns College of Engineering der UCR, der das Papier Hin zu einem universellen synthetischen Video‑Detektor: Von Gesichts‑ oder Hintergrundmanipulationen bis zu vollständig KI‑generierten Inhalten.¹ „Und während KI immer besser darin wird, die Realität zu fälschen, müssen wir besser darin werden, die Wahrheit aufzudecken.“

Die Forscher haben mit Wissenschaftlern von Google, einem Alphabet (GOOG ) Unternehmen, zusammengearbeitet, um ein neues KI‑Modell zu entwickeln, das Video‑Manipulationen erkennt und gefälschte Inhalte aufdeckt, die zur Verbreitung von Desinformation und zur Anstiftung von Schaden eingesetzt werden. Die Studie stellte fest:

„Die rasche Verbreitung von Fehlinformationen, insbesondere in kritischen Phasen wie Wahlen, verdeutlicht die Notwendigkeit von generalisierbaren Erkennungsmodellen, die diverse Manipulationen identifizieren können, einschließlich Gesichts‑, Hintergrund‑ und vollständig KI‑generierter T2V/I2V‑Inhalte mit/ohne menschliche Subjekte.“ 

Das Modell ist in der Lage, sowohl teilweise manipulierte als auch vollständig synthetische Videos zu erkennen. Anstatt sich nur auf das Gesicht zu konzentrieren, wie es die meisten herkömmlichen Detektoren tun, analysiert dieses Modell ganze Bildrahmen, unabhängig davon, ob ein menschliches Subjekt im Video vorhanden ist. 

Dies macht es zu einem leistungsstarken Werkzeug, das von Faktenprüfern, Pädagogen, Redakteuren, sozialen Medienplattformen und anderen genutzt werden kann, um manipulierte Videos daran zu hindern, viral zu gehen.

Der Aufstieg der KI und die daraus resultierende synthetische Überflutung

Künstliche Intelligenz (KI) birgt ein enormes Potenzial für die Revolutionierung verschiedener Aspekte unseres Lebens und unserer Arbeit. 

Die Fähigkeit dieser Technologie in den Bereichen Automatisierung, Datenanalyse und Entscheidungsfindung hat bereits begonnen, Industrien zu transformieren und wird voraussichtlich bis zum Ende dieses Jahrzehnts Billionen‑Dollar zur globalen Wirtschaft beizutragen.

Eine Studie des Marktprognose‑Giganten IDC schätzt, dass der Aufstieg der KI die globale Wirtschaft bis 2030 um kumulativ 19,9 Billionen $ steigern wird.

McKinseys Forschung hingegen erwartet, dass der durch generative KI geschaffene Mehrwert bis zu 4,4 Billionen $ über die 63 Anwendungsfälle hinweg betragen wird, die das globale Management‑Beratungsunternehmen analysiert hat. Etwa 75 % des Werts, den KI liefern könnte, würden allein auf vier Bereiche entfallen:

• F&E
• Software‑Engineering
• Marketing und Vertrieb
• Kunden‑Operationen

Während die Auswirkung der Technologie in allen Sektoren signifikant prognostiziert wird, könnten Technologie‑ und Banken‑Sektoren den größten Anteil ihrer Einnahmen aus generativer KI erzielen. Goldman Sachs (GS ) teilt diese Ansicht und erwartet einen Anstieg des globalen BIP um 7 % durch KI. Die Ökonomen der Bank, Joseph Briggs und Devesh Kodnani, bemerkten damals „

„Trotz erheblicher Unsicherheit bezüglich des Potenzials generativer KI, spiegelt ihre Fähigkeit, Inhalte zu erzeugen, die von menschlich erstellten Outputs nicht zu unterscheiden sind, und Kommunikationsbarrieren zwischen Mensch und Maschine abzubauen, einen bedeutenden Fortschritt mit potenziell großen makroökonomischen Effekten wider.“

Allerdings führt dieselbe Fähigkeit von Computersystemen, Aufgaben wie Lernen, Problemlösen und Entscheidungsfindung zu übernehmen – Aufgaben, die typischerweise menschliche Intelligenz erfordern – zu einer zusätzlichen Verunsicherung der Welt. 

Je ausgefeilter die Technologie wird, desto unschärfer wird die Grenze zwischen Realität und Fiktion.

Warum alte Deepfake‑Detektoren nicht mehr funktionieren

In den letzten Jahren haben Fortschritte in der KI zu einem beispiellosen Anstieg synthetischer Medien geführt. Schätzungen deuten darauf hin, dass mehr als die Hälfte längerer LinkedIn‑Beiträge derzeit von KI geschrieben werden. Dann gibt es das sogenannte „AI slop“, das sich auf minderwertige, massenproduzierte KI‑generierte Inhalte bezieht.

Aber am besorgniserregendsten sind Deepfakes – Bilder, Videos oder Audioaufnahmen, die mit KI erzeugt oder manipuliert wurden. Es handelt sich um gefälschte Inhalte, die KI nutzen, um eine falsche Darstellung als realistisch erscheinen zu lassen.

Heute ist diese Art von Inhalt überall im Internet zu finden. Diese hyperrealistischen digitalen Medien verursachen Verwirrung und verbreiten Fehlinformationen. Sie stellen zudem eine Bedrohung für die Privatsphäre und Sicherheit von Menschen dar. 

Cyberkriminelle nutzen KI, um ihre Angriffe zu verfeinern, Phishing‑Betrug und Identitätsdiebstahl mit alarmierender Präzision durchzuführen. Laut Kundu:

„Es ist beängstigend, wie leicht zugänglich diese Werkzeuge geworden sind. Jeder mit mittleren Fähigkeiten kann Sicherheitsfilter umgehen und realistische Videos von öffentlichen Persönlichkeiten erzeugen, in denen sie Dinge sagen, die sie nie gesagt haben.“

In einem solchen Vorfall gaben sich Cyberkriminelle als Chief Financial Officer (CFO) eines Unternehmens in einem Zoom‑Meeting aus, was zu einem Verlust von 25 Millionen $ führte. 

Das ist jedoch nur der Anfang, denn Deloitte prognostiziert, dass Betrugsverluste durch solche Vorfälle bis 2027 in den USA 40 Milliarden $ erreichen werden, gegenüber 12,3 Mrd. $ im Jahr 2023. Ein Bericht des US‑Finanzministeriums hat zudem festgestellt, dass „bestehende Risikomanagement‑Frameworks“, die von Unternehmen übernommen wurden, „möglicherweise nicht ausreichen, um die aufkommenden KI‑Technologien abzudecken.“

Das bedeutet nicht, dass es keine Werkzeuge gibt, die KI‑Inhalte erkennen und vor den Risiken schützen können. Tatsächlich gibt es viele Tools auf dem Markt.

Die gleichen Unternehmen, die neue KI‑Tools zur einfachen Erstellung von Inhalten einführen, stellen gleichzeitig Möglichkeiten bereit, um synthetische Daten zu erkennen.

Im Jahr 2020 kündigte der Technologieriese Microsoft (MSFT ) einen Video Authenticator an, der ein Foto oder Video analysiert und einen Vertrauens‑Score liefert, um zu bestimmen, ob das Medium künstlich manipuliert ist. Das Tool erkennt die Übergangsgrenze des Deepfakes und subtile Verblendungen, die das menschliche Auge möglicherweise nicht wahrnimmt.

Zur selben Zeit stellte das Unternehmen eine Technologie vor, die gefälschten Inhalt identifiziert und die Authentizität von Medien bestätigt, mit denen Menschen interagieren. Es enthielt ein Werkzeug, das es Erstellern ermöglicht, digitale Hashes und Zertifikate zu ihren Inhalten hinzuzufügen, die als Metadaten im Inhalt gespeichert werden. Leser können diese Zertifikate prüfen und die Hashes zur Authentizitätsprüfung abgleichen.

Der Technologieriese warnte jedoch vor der kurzfristigen Nützlichkeit dieser Technologie im von KI getriebenen Zeitalter. Da Deepfakes von KI erzeugt werden, die kontinuierlich lernt, ist es nur eine Frage der Zeit, bis sie traditionelle Erkennungsmethoden übertreffen.

Zur gleichen Zeit startete Facebook, ein Meta (META ) Unternehmen, einen Wettbewerb zur Entwicklung eines Deepfake‑Detektors, der Daten nutzt, die Forschern zuvor nicht zur Verfügung standen.

Vor einigen Jahren entwickelte Intel (INTC ) den FakeCatcher, einen Echtzeit‑Deepfake‑Detektor, von dem das Unternehmen eine Genauigkeit von 96 % behauptet.

Das Tool nutzte OpenVino, um KI‑Modelle für Gesichts‑ und Landmark‑Erkennungs‑Algorithmen auszuführen, während Computer‑Vision‑Blöcke mit den Integrated Performance Primitives und OpenCV optimiert wurden. Hardware‑seitig kann die Plattform mehr als siebzig verschiedene Erkennungs‑Streams gleichzeitig auf ihren Xeon® Scalable Prozessoren der 3. Generation verarbeiten.

Statt nach Fehlern zu suchen, sucht FakeCatcher nach authentischen Hinweisen, indem es bewertet, was uns menschlich macht, und dann Algorithmen diese Signale in räumlich‑zeitliche Karten übersetzen lässt, um schließlich mittels Deep Learning sofort zu erkennen, ob ein Video echt oder gefälscht ist.

Im vergangenen Jahr kündigte OpenAI ebenfalls an, dass es Werkzeuge zur Unterstützung der Inhaltsauthentizität erforsche.

Dazu gehört das Text‑Watermarking, das laut OpenAI gegen lokalisierte Manipulationen wirksam, jedoch weniger gegen globalisierte Manipulationen ist. Außerdem wurde betont, dass es „Gruppen wie nicht‑muttersprachliche Englisch‑Sprecher unverhältnismäßig stark beeinträchtigen“ könnte.

Dieses Update erfolgte, nachdem das Wall‑Street‑Journal berichtete, dass das Unternehmen bereits ein Werkzeug entwickelt habe, das ChatGPT‑generierten Text mit „hoher Genauigkeit“ wasserzeichnet und erkennt, jedoch noch keine Entscheidung über eine Veröffentlichung getroffen habe.

Zusätzlich ist OpenAI dem Lenkungsausschuss von C2PA (Coalition for Content Provenance and Authenticity) beigetreten, einem weit verbreiteten Standard für die Zertifizierung digitaler Inhalte. Das Unternehmen fügt C2PA‑Metadaten allen von seinen Diensten erstellten und bearbeiteten Bildern hinzu, als Teil von Bild‑Erkennungstools.

In diesem Jahr brachte Google ebenfalls ein eigenes KI‑generiertes Text‑, Bild‑, Audio‑ und Video‑Erkennungs‑Tool namens SynthID Detector heraus.

Das Tool von Google funktioniert jedoch nur für Inhalte, die mit den eigenen KI‑Diensten des Unternehmens wie Gemini, Imagen, Veo und Lyria erzeugt wurden. Das liegt daran, dass das Tool im Wesentlichen ein von Googles Produkten eingebettetes „Wasserzeichen“ erkennt.

Ein Wasserzeichen ist ein einzigartiges, maschinenlesbares Element, das in Inhalte eingebettet wird. Für Menschen unkenntlich, kann es von Algorithmen, die zu diesem Zweck entwickelt wurden, erkannt und extrahiert werden.

Hinter der Technologie, die UNITE’s Durchbruch ermöglicht

Während die KI‑Technologie rasant voranschreitet, entwickeln sich auch die Werkzeuge zur Erkennung von KI‑generierten Inhalten weiter. Es gibt jedoch kein universelles Werkzeug, das von allen für jede Art von KI‑Inhalt verwendet werden kann.

Zudem konzentrieren sich bestehende Deepfake‑Erkennungstechniken nach wie vor auf Gesichts‑Manipulationen wie Lippen‑Synchronisation oder Face‑Swapping, und technologische Fortschritte machen diese Ansätze zunehmend unzureichend.

Mit dem technologischen Fortschritt bei Text‑zu‑Video (T2V) und Bild‑zu‑Video (I2V) generativen Modellen ist es nun möglich, dass jeder leicht hochgradig überzeugende, vollständig KI‑generierte synthetische Inhalte und nahtlose Hintergrundänderungen erstellen kann. Das stellt Einzelpersonen, Institutionen und sogar Nationen vor ernsthafte Risiken.

Vor diesem Hintergrund ist die vollständige Abhängigkeit früherer Deepfake‑Detektoren vom Gesicht heute veraltet.

„Wenn kein Gesicht im Bild ist, funktionieren viele Detektoren einfach nicht. Aber Desinformation kann in vielen Formen auftreten. Die Veränderung des Hintergrunds kann die Wahrheit ebenso leicht verzerren.“

– Kundu

Konventionelle Detektoren funktionieren also nicht mehr bei neueren Manipulationen, da synthetische Inhalte jetzt ganze Szenen und Hintergründe umfassen und damit eine Herausforderung für gesichts‑zentrierte Erkennungsmethoden darstellen.

Dies erfordert einen vielseitigeren Ansatz. Als Lösung haben Forscher der UC Riverside UNITE vorgestellt.

Das Modell „Universal Network for Identifying Tampered and Synthetic Videos“ (UNITE) erfasst Manipulationen im gesamten Bildrahmen.

„Deepfakes haben sich weiterentwickelt“, sagte Kundu, dessen Forschung an der UC Riverside darauf abzielt, Grundmodelle für fortgeschrittene Vision‑Aufgaben wie Bildsegmentierung und Erkennung gefälschter Medien zu nutzen. „Sie beschränken sich nicht mehr nur auf Gesichtstausch. Menschen erstellen jetzt vollständig gefälschte Videos – von Gesichtern bis zu Hintergründen – mithilfe leistungsstarker generativer Modelle. Unser System ist darauf ausgelegt, all das zu erfassen.“

Das Modell erweitert die Erkennungsfähigkeiten auf Szenarien ohne Gesichter oder ohne menschliche Subjekte und kann darüber hinaus subtile räumliche und zeitliche Diskrepanzen identifizieren sowie komplexe Hintergrundänderungen erfassen, die frühere Systeme übersehen haben.

Indem es Gesichter sowie Hintergründe und Bewegungsmuster analysiert, also komplette Videobilder abdeckt, bietet UNITE eines der ersten Werkzeuge, das synthetische Videos erkennt, ohne ausschließlich auf Gesichts‑Inhalte zu setzen.

Hierfür nutzt das Modell ein transformer‑basiertes Deep‑Learning‑Modell, eine Art neuronales Netzwerk, das einen Multi‑Head‑Attention‑Mechanismus verwendet, um sequenzielle Daten zu verarbeiten. Dabei wird Text in numerische Darstellungen, sogenannte Tokens, umgewandelt. Diese Architektur bildet die Grundlage vieler moderner Sprachmodelle wie GPT.

Durch die parallele Verarbeitung von Informationen ermöglichen Transformer schnelleres Training und verbesserte Leistung.

Im Fall von UNITE verarbeitet die transformer‑basierte Architektur domänen‑agnostische Merkmale, die aus Videos über das SigLIP‑So400M‑Grundmodell extrahiert werden. Das grundlegende KI‑Framework SigLIP extrahiert Merkmale, die nicht an ein bestimmtes Objekt oder eine bestimmte Person gebunden sind.

Aufgrund begrenzter Datensätze, die Änderungen sowohl im Gesicht/Hintergrund als auch in Text‑zu‑Video‑/Bild‑zu‑Video‑Inhalten abdecken, nutzte das Team innovative Trainingsstrategien für ihr Modell. Das bedeutet, dass neben task‑irrelevanten Daten auch Standard‑Deepfake‑Daten zum Training verwendet wurden.

Zusätzlich zum populären FaceForensics++‑Datensatz nutzte das Team den SAIL‑VOS‑3D‑Datensatz, der komplexe Umgebungen simuliert und vielfältige synthetische Szenen für das Training von KI‑Erkennungsmodellen bietet. Ursprünglich wurde dieser Datensatz für die 3D‑Video‑Objektsegmentierung im Spiel GTA‑V entwickelt. Obwohl er nicht KI‑generiert ist, ist er vollständig synthetisch und hilft, KI‑generierte Medien zu simulieren. Das Team stellte fest, dass dies die Fähigkeit des Modells verbessert, verschiedene Formen synthetischer Manipulationen zu erkennen.

Google stellte den Zugang zu den erforderlichen Datensätzen sowie Rechenressourcen zum Trainieren des Modells bereit.

Um die Tendenz des Modells zu reduzieren, sich zu stark auf Gesichter zu konzentrieren, verwendete das Team außerdem einen Attention‑Diversity (AD)‑Loss, der eine vielfältige räumliche Aufmerksamkeit über alle Bildrahmen hinweg fördert.

Der AD‑Loss wurde mit Cross‑Entropy kombiniert, auch bekannt als Log‑Loss‑Funktion, die häufig im maschinellen Lernen verwendet wird, um die Leistung eines Klassifikationsmodells zu messen, um die Modellleistung in diversen Situationen zu verbessern.

Nur das Training des Modells mit Cross‑Entropy‑Loss (CE) erschwert es, Videos zu handhaben, in denen ein echtes menschliches Subjekt mit manipuliertem Hintergrund oder von T2V‑ und I2V‑Modellen erzeugter Inhalt vorkommt.

Daher führte das Team den AD‑Loss ein, der das System anweist, mehrere visuelle Regionen in jedem Frame zu überwachen, wodurch die Fähigkeit des Modells verbessert wird, wichtige Signale sowohl im Vorder‑ als auch im Hintergrund zu erfassen.

Der AD‑Loss markiert die Schlüsselinnovation im Ansatz des Teams, wodurch UNITE nicht nur bei der Erkennung von KI‑generierten und hintergrundveränderten Videos glänzt, sondern auch eine deutliche Verbesserung bei der Identifizierung von üblichen Gesicht‑Manipulationen aufweist.

Beim Vergleich der Leistung von UNITE mit anderen Modellen stellte das Team fest, dass es „State‑of‑the‑Art‑Detektoren in Datensätzen (in Cross‑Data‑Settings) übertrifft, die Gesichts‑/Hintergrund‑Manipulationen und vollständig synthetische T2V/I2V‑Videos enthalten, und damit seine Anpassungs‑ und generalisierbaren Erkennungsfähigkeiten demonstriert.“

In einer zunehmend digitalisierten und automatisierten Welt bietet das neue System einen universellen Detektor, der eine Bandbreite von Fälschungen kennzeichnet – von einfachen Gesichtstauschen bis zu komplexen, vollständig synthetischen Videos, die ohne echtes Filmmaterial erstellt wurden. Laut Kundu:

„Es ist ein Modell, das all diese Szenarien abdeckt. Das macht es universell.“

Derzeit in Entwicklung, ist UNITE laut seinen Schöpfern ein wertvolles Werkzeug im wachsenden Feld der synthetischen Videoerkennung und wird bald eine Schlüsselrolle beim Schutz vor Video‑Desinformation spielen.

Investition in KI‑basierte Erkennung

Im KI‑Bereich ist Palantir Technologies (PLTR ) bekannt für seine KI‑gestützte Datenintegration, Mustererkennung und Anomalie‑Erkennung. 

Das Unternehmen operiert über vier Haupt‑Softwareplattformen: Gotham, Foundry, Apollo und AIP. Apollo ist eine einheitliche Kontroll‑Ebene, die Konfiguration, Sicherheits‑Updates und die Bereitstellung neuer Funktionen koordiniert, um den kontinuierlichen Betrieb kritischer Systeme sicherzustellen. Gotham ermöglicht es Nutzern, verborgene Muster in Datensätzen zu identifizieren, während Foundry als Betriebssystem für effektives Asset‑ und Risikomanagement dient. AIP befähigt Unternehmen, LLMs und andere Modelle mit voller Kontrolle auszuführen.

Palantir Technologies (PLTR )

Palantir verfügt über enge Verbindungen zur US‑Regierung, zum Militär und zu Geheimdiensten. Dieses Jahr erhielt einen Vertrag über 30 Mio. $ zur Integration von KI‑Analysen in Einwanderungs‑Datensätze.

Mit einer Marktkapitalisierung von 372 Mrd. $, werden PLTR‑Aktien derzeit bei 157,72 $ gehandelt, ein Anstieg von 109,35 % im Jahresverlauf, dank der KI‑Nachfrage, massivem Einzelhandelsinteresse und wachsenden Regierungsaufträgen. Das EPS (TTM) liegt bei 0,23 und das KGV (TTM) bei 687,90.

Finanziell meldete Palantir einen Jahres‑zu‑Jahr‑Umsatzanstieg von 39 % auf 884 Mio. $ im 1. Quartal 2025. Der US‑Umsatz wuchs dabei um 55 % auf 628 Mio. $, darunter 255 Mio. $ im US‑kommerziellen Bereich und 373 Mio. $ im US‑Regierungsbereich.

In diesem Zeitraum verzeichnete das Unternehmen den höchsten Quartalswert für US‑kommerzielle Gesamtkontaktwerte, wobei der verbleibende Vertragswert bei 2,32 Mrd. $ lag. 

Die Kundenzahl von Palantir stieg im 1Q25 um 39 % im Jahresvergleich. Das GAAP‑Ergebnis je Aktie betrug 0,08 $, das bereinigte EPS 0,13 $. Kasse, Kassenäquivalente und kurzfristige US‑Staatsanleihen beliefen sich am Quartalsende auf 5,4 Mrd. $.

„Wir liefern das Betriebssystem für das moderne Unternehmen im Zeitalter der KI. Wir befinden uns mitten in einem tektonischen Wandel bei der Einführung unserer Software, insbesondere in den USA.“

– CEO Alexander C. Karp

Neueste Palantir Technologies (PLTR) Aktien‑Nachrichten und Entwicklungen

Fazit

Das Aufkommen künstlicher Intelligenz hat die Welt grundlegend verändert, wobei sowohl Einzelpersonen als auch Organisationen die Technologie zunehmend nutzen, um Produktivität zu steigern und Entscheidungsfindungen zu verbessern.

Obwohl KI voraussichtlich Billionen zum Welt‑BIP beitragen wird, birgt sie auch Gefahren. Deepfakes und ihr Einsatz zur Desinformation und zum Betrug stellen eines der gravierendsten Risiken der breiten KI‑Adoption dar. 

Da es immer schwieriger wird, zwischen Realität und Synthetik zu unterscheiden, werden Werkzeuge wie UNITE immer wichtiger und dringender. Mit diesem generalisierbaren KI‑Modell als Schutz gegen gefälschte Inhalte könnten wir die negativen Auswirkungen von KI mindern, während wir gleichzeitig ihre positiven Effekte auf Arbeit und Leben genießen.

Klicken Sie hier, um alles über Investitionen in künstliche Intelligenz zu erfahren.

Referenzen:

1. Kundu, R.; Xiong, H.; Mohanty, V.; Balachandran, A.; Roy‑Chowdhury, A. K.; et al. Hin zu einem universellen synthetischen Video‑Detektor: Von Gesichts‑ oder Hintergrundmanipulationen zu vollständig KI‑generierten Inhalten. arXiv‑Preprint arXiv:2412.12278 (2024). https://www.securities.io/investing-in-artificial-intelligence-ai-everything-you-need-to-know/