KI verändert soziale Medien und das Online-Vertrauen

KI-Inhalte sind überall, verdrängen authentische menschliche Inhalte und verändern die Landschaft der sozialen Medien grundlegend. Ihr Einfluss hat sich nun über die Plattformen hinaus auf die politische Arena, das breitere Internet und sogar die globale Wirtschaft erstreckt.

Heißt das also, dass soziale Medien dem Untergang entgegensteuern? Nun, finden wir es heraus.

Zusammenfassung:

KI-generierte Inhalte verändern soziale Medien, indem sie Plattformen mit synthetischen Medien überschwemmen, das Vertrauen untergraben und bedeutungsvolle menschliche Interaktion in private, überprüfbare Räume verlagern.

Von menschlicher Verbindung zu synthetischen Feeds

Vor etwa vier Jahrzehnten tauchten die ersten Formen der Online-Sozialinteraktion auf, beginnend mit Bulletin-Board-Systemen (BBS), Usenet und frühen Foren in den späten 1970er‑ und 1980er‑Jahren. Die ersten erkennbaren sozialen Netzwerkplattformen erschienen jedoch erst Mitte bis Ende der 1990er‑Jahre und legten den Grundstein für das, was später zu modernen sozialen Medien werden sollte.

Der Beginn des 21. Jahrhunderts markierte die weit verbreitete Popularität sozialer Medien mit Seiten wie Friendster, MySpace und Facebook. Diese moderne Ära ermöglichte sofortige globale Verbindungen, sodass Menschen Beziehungen pflegen, Echtzeit‑Nachrichten erhalten und Gemeinschaften rund um gemeinsame Interessen aufbauen konnten.

Doch jetzt, nur ein paar Jahrzehnte später, ändert sich das Gesicht der sozialen Medien durch die Verbreitung von KI‑Inhalten.

Traditionell waren die Kernwerte von sozialen Medien Verbindung und Ausdruck, doch diese wurden durch automatisierte Massenproduktion ersetzt. Da die Feeds der Menschen von synthetischem Rauschen dominiert werden, wachsen Desinteresse und Misstrauen in der Masse rasch.

Laut einem Top‑Manager von Instagram ist ein sorgfältig kuratiertes Raster jetzt Vergangenheit.

In einer Nachricht auf Threads warnte Instagram‑Chef Adam Mosseri, dass der Aufstieg der KI das polierte ästhetische Erscheinungsbild der Plattform getötet habe. All das Make‑up, die Hautglättung, schöne Landschaften und hochkontrastreiche Fotografie seien jetzt „tot“, da „die Menschen weitgehend aufgehört haben, persönliche Momente zu teilen, die vor Jahren noch gefüttert wurden“, sagte er.

Stattdessen werden ungeschönte, „unvorteilhafte Schnappschüsse“ über Direktnachrichten geteilt.

Die Allgegenwart von KI‑Bildern bedeutet, dass Ersteller von kuratierten Rastern und professionellem Fotostil zu einer „roheren Ästhetik“ übergehen müssen, wobei die Menschen „Inhalte wollen, die sich echt anfühlen“ statt schmeichelhafter Bilder, die „billig zu produzieren und langweilig zu konsumieren“ sind.

Bald werden wir die Reifung von KI‑Tools sehen und damit die Erweiterung der Bandbreite an Ästhetiken, die sie erzeugen können, sagte Mosseri, während er anmerkte, dass bereits jetzt soziale Medien‑Feeds beginnen, sich mit „synthetischem Alles“ zu füllen, was bedeutet, dass Plattformen sich weiterentwickeln müssen, um die Flut KI‑generierter Inhalte zu bewältigen.

Unterdessen sagte der Mitbegründer und CEO von Substack, Chris Best, Ende letzten Jahres, dass KI‑generiertes „Schrott“ das Internet überschwemmen könnte, was „dumme Menschen zum Klicken bringt“.

„Schrott“ wurde von dem US‑Wörterbuch Merriam‑Webster zum Wort des Jahres 2025 gewählt und definiert als „digitaler Inhalt von geringer Qualität, der meist in großer Menge durch künstliche Intelligenz erzeugt wird“.

Der Aufstieg des Bot-Internets

Wischen zum Scrollen →

Daten zeigen, dass fast ein Drittel des gesamten Internetverkehrs von Bots stammt, automatisierten Softwareprogrammen, die menschliches Verhalten nachahmen.

Dies hat die Theorie des „toten Internets“ hervorgebracht, die besagt, dass das Internet hauptsächlich aus Bot‑Aktivität und algorithmisch erzeugten Inhalten besteht, die dazu dienen, die globale Bevölkerung zu kontrollieren.

Reddit (RDDT )‑Mitbegründer Alexis Ohanian glaubt, dass an dieser Idee ein Stück Wahrheit sei, und dass dadurch eine neue Ära sozialer Medien entstehen werde. „Nachweis von Leben, wie Live‑Zuschauer und Live‑Inhalte, ist wirklich verdammt wertvoll, um Aufmerksamkeit zu halten“, sagte er in einem Podcast.

OpenAI‑Gründer und CEO Sam Altman teilte eine ähnliche Sichtweise auf X im letzten Jahr und schrieb:

„Ich habe die Theorie vom toten Internet nie ernst genommen, aber es scheint, als gäbe es jetzt wirklich viele von LLM‑gesteuerten Twitter‑Accounts.“

Die Bot‑Aktivität auf X (ehemals Twitter) verschlechtert sich tatsächlich. Schätzungen zufolge sind etwa 10 % der X‑Accounts Bots, was Millionen von Nutzern entspricht.

Unterdessen wurden über 20 % der Videos, die der YouTube‑Algorithmus neuen Nutzern zeigt, als „KI‑Schrott“ identifiziert.

Unter den 15 000 beliebtesten YouTube‑Kanälen, die untersucht wurden, enthalten 278 ausschließlich KI‑generierte Inhalte. Zusammen haben sie 221 Millionen Abonnenten und mehr als 63 Milliarden Aufrufe erzielt und generieren jährlich etwa 117 Millionen $ an Einnahmen.

Dies ist nicht auf ein oder wenige Plattformen beschränkt; es gilt für das gesamte Internet.

Wie der Imperva‑Bad‑Bot‑Report 2025 feststellte, hat automatisierter Traffic menschlichen Traffic überholt, und macht 51 % des gesamten Internetverkehrs aus, wobei 20 % davon von „bösen Bots“ stammen, die böswillige Aktivitäten ausführen.

Vor einigen Monaten bemerkte Marshall Miller, Senior Director of Product bei der Wikimedia Foundation, die gemeinnützige Organisation hinter Wikipedia, dass der menschliche Traffic der Website um etwa 8 % zurückgegangen sei, da die Menschen ihr Suchverhalten im Netz ändern.

Der Rückgang wurde sichtbar, nachdem die Stiftung ihre Unterscheidung zwischen menschlichem und Bot‑Traffic angepasst hatte, um das echte Leserverhalten besser zu verstehen und Drittanbieter‑Bots, die Daten für kommerzielle Such‑ und KI‑Tools scrapen, zu begrenzen.

„Wir glauben, dass diese Rückgänge die Auswirkungen von generativer KI und sozialen Medien auf die Art und Weise widerspiegeln, wie Menschen Informationen suchen, insbesondere weil Suchmaschinen Antworten direkt den Suchenden liefern, oft basierend auf Wikipedia‑Inhalten“, schrieb Miller und fügte hinzu, dass dies keine Überraschung sei, da Suchmaschinen zunehmend KI einsetzen, um Antworten direkt auf den Ergebnisseiten zu präsentieren, und jüngere Nutzer zu TikTok und YouTube greifen.

Das bedeutet jedoch, dass die Community, die Wikipedia‑Inhalte schreibt und bearbeitet, schrumpfen könnte. Deshalb fordert die Plattform Suchmaschinen, soziale Plattformen, LLMs und KI‑Chatbots auf, mehr Traffic zurück zur Seite zu lenken.

Wie soziale Medienplattformen KI‑Inhalte verstärken

Soziale Medienplattformen sind von KI‑generierten Inhalten überschwemmt, dank des explosiven Wachstums im Ökosystem generativer Werkzeuge.

Beispielsweise haben Tools wie Sora, Midjourney, Pika, Runway und Stable Diffusion das Erstellen von Bildern und Videos fast von allem extrem einfach gemacht.

Eine wachsende Zahl von Lösungen erleichtert es Menschen zudem, Aufrufe zu steigern und von Creator‑Reward‑Programmen oder Affiliate‑Links zu profitieren. Sie generieren nicht nur automatisch, sondern posten Inhalte direkt auf Plattformen wie YouTube, gegen Gebühr, und produzieren mehr als 100 Videos pro Monat auf einem einzigen Account. Diese Lösungen zielen darauf ab, den gesamten Prozess eines Content‑Creators zu automatisieren.

Doch das ist nicht alles. Forschende haben herausgefunden, dass Plattformen tatsächlich KI‑generierte Beiträge pushen. Plattformen wie TikTok, Instagram und Meta (META ) bieten sogar native KI‑Funktionen, die es Nutzern ermöglichen, Visuals, Skripte oder Remixe bestehenden Materials zu erzeugen, ohne externe Software zu benötigen.

Meta hat insbesondere KI‑generierte Inhalte mit voller Begeisterung angenommen und sogar eigenen „Schrott“ erzeugt. 2023 stellte das Unternehmen KI‑gestützte Profile vor und kündigte an, die Plattform mit KI‑Charakteren zu füllen. Nach erheblichem Nutzer‑Backlash hat Meta jedoch letztes Jahr die KI‑Profile eingestellt.

Instagram hat seinerseits ein KI‑Studio gestartet, das Nutzern ermöglicht, eigene Chatbots zu produzieren, einschließlich ihrer eigenen digitalen Versionen.

Kürzlich enthüllte TikTok, dass mindestens 1,3 Milliarden KI‑generierte Beiträge auf seiner Plattform existieren, mit mehr als 100 Millionen Inhalten, die täglich hochgeladen werden. Zur Transparenz kennzeichnet TikTok KI‑generierte Inhalte und gibt Nutzern sogar die Möglichkeit, die Menge an KI‑Inhalten, die sie sehen, zu reduzieren.

Doch die Pariser Non‑Profit‑Organisation AI Forensics stellte fest, dass weniger als 2 % der Accounts das TikTok‑Label für KI‑Inhalte tragen. Teilweise entgehen sie monatelang der Moderation, obwohl sie Inhalte posten, die gegen die TikTok‑Nutzungsbedingungen verstoßen.

Laut dem Bericht haben über 350 KI‑fokussierte Accounts 43 000 Beiträge erstellt, die mit generativen KI‑Tools unterstützt wurden, und in einem Monat 4,5 Milliarden Aufrufe erzielt. Die Forschenden sagten:

„Die verschwimmende Grenze zwischen authentischem menschlichem und synthetischem KI‑generiertem Inhalt auf der Plattform signalisiert eine neue Wende zu mehr KI‑generierten Inhalten im Feed der Nutzer.“

Kann Authentizität die Automatisierung überleben?

Wo einst reges menschliches Treiben herrschte, Freunde sich trafen und besondere Momente teilten, werden soziale Netzwerke heute zu Geisterstädten, bevölkert von künstlichen Entitäten, die menschliches Engagement simulieren und KI‑generierte Inhalte veröffentlichen.

Während man denken könnte, man könne diese Nutzer und Inhalte einfach blockieren, zeigte eine Studie¹, dass Menschen KI nicht von einem Menschen unterscheiden können, selbst wenn sie mit dem Fachgebiet des LLM vertraut sind.

Die Studie bewertete, wie erfolgreich Menschen KI‑generierte Inhalte erkennen und fand heraus, dass menschlicher Text nur zu 67 % korrekt als solcher erkannt wurde, während GPT‑4 zu 54 % fälschlich als menschlich eingestuft wurde.

Laut Mosseri von Instagram werden soziale Plattformen mit der Zeit immer schlechter darin, KI‑generierte Medien zu identifizieren, da die Technologie sich verbessert. Eine mögliche Lösung könnte sein, dass Kamerahersteller Fotos kryptografisch signieren, wenn sie aufgenommen werden, um ihre Echtheit zu beweisen.

Die Lösung zur Eindämmung der Bot‑Macht sei, laut Ohanian, „eine nächste Generation sozialer Medien zu sehen, die nachweislich menschlich ist“.

Während technologische Fortschritte das Internet größtenteils auf Engagement optimieren – was Best mit „Drogenabhängigkeit“ verglich und glaubt, dass es „super aufgeladen“ wird – bleibt er optimistisch für eine alternative Zukunft.

„Der andere Zweck von Medien ist Kultur“, fügte er hinzu, „und das ist etwas, das Menschen wirklich, wirklich wollen.“

Laut Substack‑Chef Best hat dieselbe Technologie das Potenzial, eine „Zukunft zu ermöglichen, in der es viel mehr kreativen Hebel für unabhängige Ersteller gibt“. Der eigentliche Engpass für Medien, so bemerkte er, sei nicht der Inhalt, von dem es „keine Knappheit gibt“, sondern die Aufmerksamkeit. „Wir haben eine Welt betreten, in der Aufmerksamkeit die knappe Ressource ist“, sagte er.

„Wir haben den Krieg gegen Langeweile gewonnen“, sagte Best und fügte hinzu, dass „es eine riesige Knappheit an gutem Inhalt gibt.“

Inmitten dessen startete Wikimedia Deutschland das Wikidata‑Embedding‑Projekt, das etwa 120 Millionen offene Datenpunkte aus Wikidata in ein Format umwandelte, das für LLMs leichter nutzbar ist, und so KI‑Systemen kostenlosen Zugang zu hochwertigeren Daten ermöglicht und deren Genauigkeit verbessert.

Regulierung, Forschung und der Kampf um Vertrauen

Während KI das Internet übernimmt, widmen Forschende sich dem Verständnis ihrer Auswirkungen. Eine solche Studie, betitelt The Impact of Generative AI on Social Media: An Experimental Study², untersuchte, wie KI‑Unterstützung die Content‑Produktion und Nutzerwahrnehmungen beeinflusst und fand heraus, dass KI‑Tools das Volumen und Engagement erhöhen, jedoch die wahrgenommene Qualität und Authentizität verringern.

Auf Basis ihrer Ergebnisse empfahlen sie, dass soziale Medienplattformen, Gesetzgeber und Interessengruppen Werkzeuge mit nutzerzentrierter Personalisierung entwickeln, Kontext‑Sensitivität einbauen und intuitive Benutzeroberflächen priorisieren, um eine ethische und effektive Integration generativer KI in soziale Medien zu gewährleisten.

Die Forschenden empfahlen zudem, eine transparente Kennzeichnung von KI‑generierten Inhalten sicherzustellen, da andere Studien³ gefunden⁴ haben, dass dies das Vertrauen erhöht, ohne das Engagement zu schädigen.

Was die Regulierung betrifft, haben Regierungen weltweit Schritte unternommen, um die verantwortungsvolle Nutzung künstlicher Intelligenz zu fördern und zu regulieren.

In der Europäischen Union (EU) konzentriert sich der AI‑Act auf Transparenz, Risikoklassifizierung und Pflichten für Hochrisiko‑Systeme.

Der Online‑Safety‑Act (OSA) hat dem Kommunikationsregulierer Ofcom in Großbritannien weitreichende Befugnisse verliehen, Plattformen zu verpflichten, schädliche oder irreführende Inhalte zu managen, obwohl Politiker eine Aufrüstung gefordert haben, um KI‑getriebene Desinformation wirksamer zu bekämpfen.

In den USA hat Präsident Donald Trump ein Exekutiv‑Kommando erlassen, um Hindernisse für die amerikanische Führungsrolle in KI zu entfernen, und einen Aktionsplan veröffentlicht, um die Dominanz im Sektor zu sichern. Im vergangenen Monat befahl er zudem einen nationalen Standard, der KI‑Unternehmen ermöglicht, ohne umständliche Vorschriften zu innovieren.

Unterdessen ist Chinas Rahmen einer der weltweit detailliertesten bei der Regulierung von KI‑Inhaltsproduktion und -Verteilung. Die Cyberspace‑Administration hat eine verpflichtende Kennzeichnung für KI‑generierte Inhalte implementiert, die sichtbare Disclaimer und eingebettete Metadaten erfordert, um Desinformation und Betrug zu vermeiden.

Einige Regierungen treiben zudem Untersuchungen gegen Plattformen wegen KI‑generierter Desinformation voran. Zuletzt forderte Polen die Europäische Kommission auf, TikTok wegen der Bereitstellung von KI‑Inhalten zu untersuchen, die als destabilisierend angesehen werden.

„Der offengelegte Inhalt stellt eine Bedrohung für die öffentliche Ordnung, die Informationssicherheit und die Integrität demokratischer Prozesse in Polen und in der gesamten Europäischen Union dar“, sagte stellvertretender Digitalisierungsminister Dariusz Standerski in einem an die Kommission gerichteten Schreiben. „Die Art der Narrative, die Art und Weise, wie sie verbreitet werden, und die Nutzung synthetischer audiovisueller Materialien zeigen, dass die Plattform ihren auferlegten Pflichten nicht nachkommt“, fügte er hinzu.

Derzeit bleibt das regulatorische Umfeld für KI ein sich entwickelndes Thema weltweit, fragmentiert über Jurisdiktionen hinweg und kämpft damit, mit der Geschwindigkeit Schritt zu halten, mit der generative Systeme Informationsflüsse, öffentliches Vertrauen und demokratischen Diskurs neu gestalten.

Investitionen in KI-Infrastruktur

In der KI‑Welt sticht Palantir Technologies Inc. (PLTR ) durch seine Spezialisierung auf KI‑gesteuerte Big‑Data‑Analytik hervor.

Das Unternehmen hat vier Hauptsoftware‑Plattformen entwickelt: Apollo, Gotham, Foundry und die Artificial Intelligence Platform (AIP). Apollo ist eine Kontrollschicht, die die Bereitstellung neuer Features, Konfigurationen und Sicherheitsupdates harmonisiert, um den kontinuierlichen Betrieb kritischer Systeme sicherzustellen. Gotham hilft, Muster in Datensätzen zu identifizieren, und Foundry ermöglicht Organisationen, ein zentrales Betriebssystem für ihre Daten zu schaffen. AIP ermöglicht die effektive Aktivierung großer Sprachmodelle und anderer KI innerhalb jeder Organisation.

Bemerkenswert ist, dass Palantirs Plattformen von Regierungen und privaten Unternehmen genutzt werden, um Desinformation, Bot‑Netzwerke und die Verteilung synthetischer Medien zu erkennen. Diese Werkzeuge sind darauf ausgelegt, authentisches versus unauthentisches Verhalten in komplexen Informationsökosystemen zu identifizieren.

Darüber hinaus werden KI‑Analysen zunehmend von Organisationen und Regierungen eingesetzt, um Gesundheits‑ und Sicherheitsbedrohungen zu überwachen. Mit einer Marktkapitalisierung von 400 Milliarden $ handeln PLTR‑Aktien derzeit bei 174 $, ein Anstieg von über 110 % im letzten Jahr. Das Unternehmen weist ein EPS (TTM) von 0,43 und ein KGV (TTM) von 392,56 auf.

In Bezug auf die finanzielle Lage meldete Palantir für das dritte Quartal zum 30. September 2025 einen Umsatz von 1,181 Milliarden $, was einem Wachstum von 63 % YoY und 18 % QoQ entspricht und einen neuen Umsatzrekord in seiner über zwanzigjährigen Geschichte darstellt. Der Gewinn für das Quartal betrug 476 Millionen $.

„Wir stehen noch ganz am Anfang. Das bleibt der Beginn, der erste Moment des ersten Kapitels.“

– Mitbegründer und CEO Alex C. Karp, in einem Brief an die Aktionäre

Der US‑Umsatz wuchs insbesondere um 77 % YoY und 20 % QoQ auf 883 Millionen $. Darin enthalten sind 486 Millionen $ aus US‑Regierungsumsätzen, die um 52 % YoY und 14 % QoQ sprangen, sowie 397 Millionen $ aus US‑kommerziellen Einnahmen, die um 121 % YoY und 29 % QoQ zunahmen. Karp bezeichnete den US‑kommerziellen Sektor als „ein absolutes Kraftpaket“, das seiner Meinung nach „von selbst zu einer der bedeutendsten Wirtschaftsgeschichten des Jahrhunderts im amerikanischen Wirtschaftsleben werden wird“.

In diesem Zeitraum stieg die Kundenzahl von Palantir um 45 % YoY. Gleichzeitig betrug der bereinigte freie Cashflow 540 Millionen $, das GAAP‑Ergebnis je Aktie 0,18 $, und das bereinigte EPS 0,21 $. Das Unternehmen beendete das Quartal mit 6,4 Milliarden $ in bar, Barmitteln und kurzfristigen US‑Staatsanleihen.

„Diese Ergebnisse machen den transformativen Einfluss der Nutzung von AIP zur Verstärkung des KI‑Hebels unbestreitbar“, bemerkte das Unternehmen.

Für das vierte Quartal 2025 erwartet Palantir einen Umsatz zwischen 1,327 und 1,331 Milliarden $ und ein bereinigtes Betriebsergebnis zwischen 695 und 699 Millionen $.

Für das Gesamtjahr 2025 erhöhte Palantir seine Umsatzprognose auf 4,396‑4,400 Milliarden $ und rechnet mit einem Wachstum von mindestens 104 % im US‑kommerziellen Umsatz, der die 1,433 Milliarden‑$‑Marke überschreiten soll. Gleichzeitig wurde die Prognose für das bereinigte Betriebsergebnis auf 2,151‑2,155 Milliarden $ und der bereinigte freie Cashflow auf 1,9‑2,1 Milliarden $ angehoben.

Investor‑Takeaway:

Da KI‑Inhalte schneller skalieren als menschliche Aufmerksamkeit, wächst die Nachfrage nach Infrastruktur, die Authentizität, Moderation und Vertrauen regelt – und schafft langfristige Chancen jenseits von Verbraucher‑Social‑Plattformen.

Neueste Nachrichten zu Palantir Technologies Inc. (PLTR) Aktien

Fazit

Soziale Medien, wie wir sie kennen, gehen eindeutig zu Ende. Es ist nicht mehr derselbe Ort, an dem Menschen aktiv ihre Interessen, Erinnerungen und Ideen authentisch teilten. Was einst auf menschlicher Verbindung basierte, wird nun von automatisierten Inhalten und Bots überrannt.

Während KI beispiellose kreative Hebel und wirtschaftliche Effizienz freigesetzt hat, hat sie zugleich die Signale, die Online‑Interaktion einst bedeutungsvoll machten, erodiert.

Die Zukunft der sozialen Medien wird sich wahrscheinlich spalten: ein Pfad führt zu hyper‑automatisierten Feeds, die für Engagement optimiert sind, der andere zu nachweislich menschlichen Räumen, die Kultur, Glaubwürdigkeit und Kontext über Reichweite stellen.

Referenzen

<sup>1. Jones, C. R. & Bergen, B. K. “People cannot distinguish GPT-4 from a human in a Turing test.” arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “The Impact of Generative AI on Social Media: An Experimental Study.” arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.” arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.” arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>