KI verändert soziale Medien und Online-Vertrauen.

KI-generierte Inhalte sind allgegenwärtig, verdrängen authentische menschliche Inhalte und verändern die Social-Media-Landschaft grundlegend. Ihr Einfluss reicht mittlerweile über die Plattformen hinaus und prägt die Politik, das gesamte Internet und sogar die Weltwirtschaft.

Bedeutet das also, dass die sozialen Medien ihrem Ende entgegengehen? Nun, finden wir es heraus.

Von der menschlichen Verbindung zu synthetischen Futtermitteln

Vor etwa vier Jahrzehnten entstanden die ersten Formen der sozialen Online-Interaktion, beginnend mit Bulletin-Board-Systemen (BBS), Usenet und frühen Foren in den späten 1970er und 1980er Jahren. Die ersten erkennbaren Social-Networking-Plattformen erschienen jedoch erst Mitte bis Ende der 1990er Jahre und legten damit den Grundstein für das, was später als moderne soziale Medien bekannt werden sollte.

Der Beginn des 21. Jahrhunderts war geprägt von der weitverbreiteten Popularität sozialer Medien wie Friendster, MySpace und Facebook. Dieses moderne Zeitalter der sozialen Medien ermöglichte die sofortige globale Vernetzung und erlaubte es den Menschen, Beziehungen zu pflegen, Nachrichten in Echtzeit abzurufen und Gemeinschaften um gemeinsame Interessen herum aufzubauen.

Doch nur wenige Jahrzehnte später verändert sich das Gesicht der sozialen Medien durch die zunehmende Verbreitung von KI-Inhalte.

Traditionell sind die Kernwerte von Social Media Früher gab es Verbindung und Ausdrucksmöglichkeiten, doch diese wurden durch automatisierte Massenproduktion ersetzt. Da die sozialen Medien der Menschen von synthetischem Lärm dominiert werden, nehmen Entfremdung und Misstrauen in der Bevölkerung rasant zu.

Laut Instagrams Topmanager gehört ein sorgfältig kuratiertes Profil der Vergangenheit an.

Kurz und Nachricht in ThreadsInstagram-Chef Adam Mosseri warnte, dass der Aufstieg der KI die makellose Ästhetik der Social-Media-Plattform zerstört habe. All das Make-up, die Hautglättung, die wunderschönen Landschaftsaufnahmen und die kontrastreichen Fotos seien nun „tot“, da „die Menschen schon vor Jahren aufgehört haben, persönliche Momente zu teilen, um ihren Feed zu aktualisieren“, sagte er.

Stattdessen werden ungeschliffene, „unvorteilhafte Schnappschüsse“ über Direktnachrichten geteilt.

Die Allgegenwärtigkeit von KI-Bildern zwingt Kreative dazu, sich von kuratierten Rastern und professioneller Fotografie hin zu einer „roheren Ästhetik“ zu bewegen, da die Menschen „Inhalte wünschen, die sich echt anfühlen“ anstatt schmeichelhafter Bilder, die „billig zu produzieren und langweilig zu konsumieren“ sind.

„Schon bald werden wir die Reife der KI-Tools erleben und damit auch die Erweiterung des Spektrums an Ästhetiken, die sie erzeugen können“, sagte Mosseri und merkte an, dass sich die Feeds der sozialen Medien bereits jetzt mit „synthetischem Alles“ füllen, was bedeutet, dass sich die Plattformen weiterentwickeln müssen, um die Flut von KI-generierten Inhalten bewältigen zu können.

Unterdessen sagte Chris Best, Mitbegründer und CEO von Substack, Ende letzten Jahres, dass KI-generierter „Müll“ das Internet überschwemmen könnte, was „dumme Menschen dazu bringt, weiterzuklicken“.

„Schlamm“ wurde als … ausgewählt. Wort des Jahres 2025 Laut dem US-amerikanischen Wörterbuch Merriam-Webster ist es „digitaler Inhalt von geringer Qualität, der in der Regel in großer Menge mithilfe künstlicher Intelligenz erzeugt wird“.

Der Aufstieg des Bot-Internets

Zum Scrollen wischen →

Die Daten zeigen, dass fast ein Drittel des gesamten Internetverkehrs stammt von Bots, automatisierten Softwareprogrammen, die menschliches Verhalten nachahmen.

Dies hat zur Entstehung der Theorie des toten Internets geführt, die besagt, dass das Internet in erster Linie aus Bot-Aktivitäten und algorithmisch generierten Inhalten besteht, die dazu dienen, die Weltbevölkerung zu kontrollieren.

Reddit (RDDT + 5.77%) Mitgründer Alexis Ohanian glaubt, dass an der Idee etwas Wahres dran ist und dass dadurch eine neue Ära der sozialen Medien anbrechen wird. „Beweise für Leben zu haben, wie Live-Zuschauer und Live-Inhalte, ist verdammt wertvoll, um die Aufmerksamkeit zu halten“, sagte er in einem Podcast.

OpenAI-Gründer und CEO Sam Altman äußerte letztes Jahr eine ähnliche Ansicht zu X und schrieb:

„Ich habe die Theorie vom toten Internet nie wirklich ernst genommen, aber es scheint, als gäbe es jetzt tatsächlich eine Menge Twitter-Accounts, die von LLM-Studenten betrieben werden.“

Die Bot-Aktivität auf X (ehemals Twitter) nimmt tatsächlich zu. Schätzungsweise … 10 % der X-Konten Es handelt sich um Bots mit insgesamt Millionen von Nutzern.

Inzwischen sind über 20 % der Videos, die der YouTube-Algorithmus neuen Nutzern anzeigt, … gefunden als „KI-Schrott“ bezeichnet zu werden.

Tatsächlich enthalten 278 der 15,000 beliebtesten YouTube-Kanäle, die untersucht wurden, ausschließlich Inhalte, die ausschließlich aus Videos mit Inhalten bestehen, die nur ... KI-generierte InhalteZusammen haben sie 221 Millionen Abonnenten und mehr als 63 Milliarden Aufrufe erzielt und generieren jährlich Einnahmen von rund 117 Millionen Dollar.

Dies beschränkt sich nicht auf eine oder wenige Plattformen; es trifft auf das gesamte Internet zu.

Wie der Imperva Bad Bot Report 2025 feststellte, hat der automatisierte Datenverkehr den menschlichen Datenverkehr überholt. Sie machen 51 % des gesamten Internetverkehrs aus.20 % davon stammen von „bösen Bots“, die schädliche Aktivitäten ausüben.

Vor einigen Monaten stellte Marshall Miller, Senior Director of Product bei der Wikimedia Foundation, der gemeinnützigen Organisation, die Wikipedia betreibt, fest, dass der menschliche Traffic auf der Website um etwa 8 % zurückgegangen ist, da sich die Art und Weise, wie Menschen online nach Informationen suchen, verändert.

Der Rückgang wurde bekannt, nachdem die Stiftung ihre Vorgehensweise zur Unterscheidung zwischen menschlichem und Bot-Traffic geändert hatte, um die tatsächliche Leserschaft besser zu verstehen und zu verhindern, dass Drittanbieter-Bots ihre Daten für kommerzielle Such- und KI-Tools auslesen.

„Wir glauben, dass diese Rückgänge den Einfluss generativer KI und sozialer Medien auf die Informationssuche der Menschen widerspiegeln, insbesondere da Suchmaschinen den Suchenden direkt Antworten liefern, oft basierend auf Wikipedia-Inhalten“, schrieb Miller und fügte hinzu, dass dies keine wirkliche Überraschung sei, da Suchmaschinen zunehmend KI einsetzen, um Antworten direkt auf den Ergebnisseiten bereitzustellen, und jüngere Nutzer sich TikTok und YouTube zuwenden.

Dies bedeutet jedoch, dass die Gemeinschaft, die Wikipedia-Inhalte verfasst und bearbeitet, schrumpfen könnte. Daher fordert die Plattform Suchmaschinen, soziale Netzwerke, Lernmanagementsysteme und KI-Chatbots auf, dazu beizutragen, mehr Besucher auf die Website zu lenken.

Wie Social-Media-Plattformen KI-Inhalte verstärken

Dank des explosionsartigen Wachstums im Ökosystem der generativen Werkzeuge werden Social-Media-Plattformen mit KI-generierten Inhalten überschwemmt.

Tools wie Sora, Midjourney, Pika, Runway und Stable Diffusion haben es beispielsweise extrem einfach gemacht, Bilder und Videos von nahezu allem zu erstellen.

Immer mehr Lösungen erleichtern es Nutzern, ihre Aufrufe zu steigern und von Creator-Prämienprogrammen oder Affiliate-Links zu profitieren. Sie generieren nicht nur automatisch Inhalte, sondern veröffentlichen diese gegen Gebühr auch direkt auf Plattformen wie YouTube – und das mit über 100 Videos pro Monat auf einem einzigen Konto. Ziel dieser Lösungen ist die Automatisierung des gesamten Content-Erstellungsprozesses.

Aber das ist noch nicht alles. Forscher haben gefunden Diese Plattformen fördern tatsächlich KI-generierte Beiträge. Plattformen wie TikTok, Instagram und Meta (META + 2.24%) Sie bieten sogar native KI-Funktionen, die es Benutzern ermöglichen, Visualisierungen und Skripte zu generieren oder bestehende Medien ohne externe Software neu zu mischen.

Meta hat KI-generierte Inhalte mit großem Eifer eingeführt und sogar eigene, fragwürdige Inhalte produziert. 2023 führte das Unternehmen KI-gestützte Profile ein und kündigte an, seine Plattform mit KI-Charakteren zu bevölkern. Nach massiver Kritik von Nutzern stellte Meta die KI-Profile jedoch letztes Jahr wieder ein.

Instagram hat derweil ein KI-Studio ins Leben gerufen, das es Nutzern ermöglicht, individuelle Chatbots zu erstellen, darunter auch ihre eigenen digitalen Versionen.

TikTok gab kürzlich bekannt, dass es auf seiner Plattform mindestens 1.3 Milliarden KI-generierte Beiträge gibt und täglich über 100 Millionen Inhalte hochgeladen werden. Aus Transparenzgründen kennzeichnet TikTok KI-generierte Inhalte und bietet Nutzern sogar die Möglichkeit, die Menge der angezeigten KI-Inhalte zu reduzieren.

Die Pariser Non-Profit-Organisation AI Forensics stellte jedoch fest, dass weniger als 2 % der Konten das TikTok-Label für KI-Inhalte trugen. Teilweise entgehen sie zudem monatelang der Moderation der Plattform, obwohl sie Inhalte veröffentlichen, die gegen die Nutzungsbedingungen von TikTok verstoßen.

Dem Bericht zufolge veröffentlichten über 350 KI-orientierte Accounts 43,000 Beiträge, die mithilfe von KI-Tools erstellt wurden und innerhalb eines Monats 4.5 Milliarden Aufrufe erzielten. Die Forscher erklärten:

„Die zunehmende Verschmelzung von authentischen, von Menschen erstellten und von synthetischer KI generierten Inhalten auf der Plattform signalisiert eine neue Entwicklung hin zu mehr KI-generierten Inhalten in den Feeds der Nutzer.“

Kann Authentizität die Automatisierung überstehen?

Einst pulsierte soziale Netzwerke vor realer Aktivität, wo Freunde zusammenkamen und besondere Momente teilten, sie werden nun zu Geisterstädten, bevölkert von künstlichen Wesen, die menschliche Interaktion simulieren und KI-generierte Inhalte veröffentlichen.

Auch wenn Sie vielleicht denken, Sie könnten diese Nutzer und Inhalte einfach blockieren, Studie gefunden¹ dass Menschen KI nicht von einem Menschen unterscheiden können, selbst wenn sie mit dem Thema des LLM vertraut sind.

Die Studie bewertete, wie erfolgreich Menschen KI-generierte Inhalte erkennen und stellten fest, dass menschlicher Text nur in 67 % der Fälle korrekt als solcher erkannt wurde, während GPT-4 in 54 % der Fälle fälschlicherweise als menschlich erkannt wurde.

Laut Mosseri von Instagram wird die Erkennung KI-generierter Inhalte durch soziale Plattformen mit fortschreitender Technologie immer schwieriger. Eine Lösung könnte darin bestehen, dass Kamerahersteller Fotos bei der Aufnahme kryptografisch signieren, um deren Echtheit zu beweisen.

Laut Ohanian liegt die Lösung zur Eindämmung der Macht von Bots darin, „eine nächste Generation sozialer Medien entstehen zu lassen, die nachweislich menschlich ist“.

Während der technologische Fortschritt den größten Teil des Internets auf Interaktion optimiert hat, was Best mit „Drogensucht“ verglich und von dem er glaubt, dass es „noch verstärkt werden wird“, ist er dennoch hoffnungsvoll, was eine alternative Zukunft angeht.

„Der andere Zweck der Medien ist die Kultur“, fügte er hinzu, „das ist etwas, was sich die Menschen wirklich sehr wünschen.“

Laut Substacks Best birgt genau diese Technologie das Potenzial, eine Zukunft mit deutlich mehr kreativen Möglichkeiten für unabhängige Kreative zu ermöglichen. Der eigentliche Engpass für die Medienbranche, so Best, sei nicht der Inhalt, an dem es „keinen Mangel“ gebe, sondern die Aufmerksamkeit. „Wir leben in einer Welt, in der Aufmerksamkeit die knappe Ressource ist“, sagte er.

„Wir haben den Krieg gegen die Langeweile gewonnen“, sagte Best und fügte hinzu: „Es herrscht ein enormer Mangel an guten Inhalten.“

In diesem Zusammenhang startete Wikimedia Deutschland das Wikidata Embedding Project, das rund 120 Millionen offene Datenpunkte in Wikidata in ein für LLMs leichter nutzbares Format umwandelte und KI-Systemen so den kostenlosen Zugriff auf qualitativ hochwertigere Daten ermöglichte und ihre Genauigkeit verbesserte.

Regulierung, Forschung und der Kampf um Vertrauen

Da künstliche Intelligenz das Internet immer stärker durchdringt, beschäftigen sich Forscher verstärkt mit ihren Auswirkungen. Eine dieser Studien trägt den Titel … Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² untersuchten, wie sich KI-Unterstützung auf die Inhaltsproduktion und die Wahrnehmung durch die Nutzer auswirkt, und stellten fest, dass KI-Tools zwar das Inhaltsvolumen und das Engagement steigern, aber die wahrgenommene Qualität und Authentizität verringern.

Auf Grundlage ihrer Erkenntnisse empfahlen sie Social-Media-Plattformen, politischen Entscheidungsträgern und Interessengruppen, Tools mit nutzerorientierter Personalisierung zu entwickeln, die Kontextsensitivität einbeziehen und intuitive Benutzeroberflächen priorisieren, um eine ethische und effektive Integration von generischer KI in soziale Medien zu gewährleisten.

Die Forscher empfahlen außerdem, für eine transparente Offenlegung von KI-generierten Inhalten zu sorgen, da andere Es wurden Studien³ haben gefunden⁴ dass dies das Vertrauen stärkt, ohne das Engagement zu beeinträchtigen.

Auch im Bereich der Regulierung haben Regierungen weltweit Maßnahmen ergriffen, um den verantwortungsvollen Einsatz künstlicher Intelligenz zu fördern und zu regulieren.

In der Europäischen Union (EU) KI-Gesetz Schwerpunkt ist Transparenz, Risikoklassifizierung und Verpflichtungen für Hochrisikosysteme.

Der Online Safety Act (OSA) hat der Kommunikationsbehörde Ofcom unterdessen weitreichende Befugnisse eingeräumt, Plattformen in Großbritannien zur Bekämpfung schädlicher oder irreführender Inhalte zu verpflichten, obwohl die politischen Entscheidungsträger … forderte ein Upgrade um KI-gesteuerte Desinformation effektiver zu bekämpfen.

In den USA hat Präsident Donald Trump erließ eine Executive Order um Hindernisse für Amerikas Führungsrolle im Bereich KI zu beseitigen und veröffentlichte einen Aktionsplan zur Sicherung seiner Vormachtstellung in diesem Sektor. Doch letzten Monat… bestellt Ein nationaler Standard, der es KI-Unternehmen ermöglicht, ohne bürokratische Hürden Innovationen voranzutreiben.

Chinas Rahmenwerk zur Regulierung der Erstellung und Verbreitung von KI-Inhalten zählt unterdessen zu den detailliertesten weltweit. Die Cyberspace-Administration hat umgesetzt verpflichtende Kennzeichnung von KI-generierten Inhalten, einschließlich sichtbarer Haftungsausschlüsse und eingebetteter Metadaten, um Fehlinformationen und Betrug zu vermeiden.

Einige Regierungen drängen zudem auf Untersuchungen gegen Plattformen wegen KI-generierter Desinformation. Zuletzt forderte Polen die Europäische Kommission auf, TikTok wegen der Verbreitung von KI-Inhalten zu untersuchen, die es als destabilisierend einstufte.

„Die veröffentlichten Inhalte stellen eine Bedrohung für die öffentliche Ordnung, die Informationssicherheit und die Integrität demokratischer Prozesse in Polen und der gesamten Europäischen Union dar“, erklärte der stellvertretende Digitalisierungsminister Dariusz Standerski in einem Schreiben an die Kommission. „Die Art der Darstellungen, die Art ihrer Verbreitung und die Verwendung synthetischer audiovisueller Materialien deuten darauf hin, dass die Plattform ihren Verpflichtungen nicht nachkommt“, fügte er hinzu.

Aktuell ist die politische Landschaft für KI weltweit noch ein aufkommendes Thema, fragmentiert über verschiedene Rechtsordnungen hinweg und bemüht sich, mit der Geschwindigkeit Schritt zu halten, mit der generative Systeme Informationsflüsse, öffentliches Vertrauen und demokratischen Diskurs umgestalten.

Investitionen in KI-Infrastruktur

In der Welt der KI Palantir Technologies Inc. (PLTR + 1.17%) zeichnet sich durch seine Spezialisierung auf KI-gestützte Big-Data-Analysen aus.

Das Unternehmen hat vier zentrale Softwareplattformen entwickelt: Apollo, Gotham, Foundry und die Artificial Intelligence Platform (AIP). Apollo fungiert als Steuerungsebene und harmonisiert die Bereitstellung neuer Funktionen, Konfigurationen und Sicherheitsupdates, um den kontinuierlichen Betrieb kritischer Systeme zu gewährleisten. Gotham hilft bei der Mustererkennung in Datensätzen, und Foundry unterstützt Unternehmen bei der Erstellung eines zentralen Betriebssystems für ihre Daten. AIP ermöglicht die effektive Aktivierung großer Sprachmodelle und anderer KI-Systeme in jeder Organisation.

Die Plattformen von Palantir werden insbesondere von Regierungen und privaten Unternehmen eingesetzt, um Fehlinformationen, Botnetze und die Verbreitung synthetischer Medien aufzudecken. Diese Tools dienen der Unterscheidung zwischen authentischem und unauthentischem Verhalten in komplexen Informationsökosystemen.

Darüber hinaus werden KI-Analysen zunehmend von Organisationen und Regierungen zur Überwachung von Gesundheits- und Sicherheitsrisiken eingesetzt. Mit einer Marktkapitalisierung von 400 Milliarden US-Dollar notieren die Aktien von PLTR aktuell bei 174 US-Dollar, was einem Anstieg von über 110 % im vergangenen Jahr entspricht. Das Unternehmen weist einen Gewinn je Aktie (TTM) von 0.43 US-Dollar und ein Kurs-Gewinn-Verhältnis (TTM) von 392.56 auf.

Was die Finanzlage betrifft, gab Palantir für das dritte Quartal, das am 30. September 2025 endete, einen Umsatz von 1.181 Milliarden US-Dollar bekannt. Dies entspricht einem Wachstum von 63 % im Vergleich zum Vorjahr und 18 % im Vergleich zum Vorquartal und bedeutet einen neuen Umsatzrekord in der über zwanzigjährigen Firmengeschichte. Der Gewinn im Quartal betrug 476 Millionen US-Dollar.

„Wir stehen noch ganz am Anfang. Dies ist erst der Anfang, der erste Moment des ersten Kapitels.“

– Mitbegründer und CEO Alex C. Karp, in einem Brief an die Aktionäre

Der Umsatz in den USA stieg insbesondere um 77 % im Vergleich zum Vorjahr und um 20 % im Vergleich zum Vorquartal auf 883 Millionen US-Dollar. Darin enthalten sind 486 Millionen US-Dollar an Einnahmen aus dem US-Regierungsgeschäft, die um 52 % im Vergleich zum Vorjahr und 14 % im Vergleich zum Vorquartal zulegten, sowie 397 Millionen US-Dollar an Einnahmen aus dem US-Handelsgeschäft, die um 121 % im Vergleich zum Vorjahr und 29 % im Vergleich zum Vorquartal stiegen. Karp bezeichnete das US-Handelssegment als „absoluten Giganten“, der seiner Ansicht nach „für sich genommen zu einer der bedeutendsten Erfolgsgeschichten des Jahrhunderts in der amerikanischen Wirtschaft werden wird“.

In diesem Zeitraum stieg die Kundenzahl von Palantir im Vergleich zum Vorjahr um 45 %. Der bereinigte freie Cashflow betrug 540 Millionen US-Dollar, der GAAP-Gewinn je Aktie 0.18 US-Dollar und der bereinigte Gewinn je Aktie 0.21 US-Dollar. Zum Quartalsende verfügte das Unternehmen über liquide Mittel, Zahlungsmitteläquivalente und kurzfristige US-Staatsanleihen in Höhe von 6.4 Milliarden US-Dollar.

„Diese Ergebnisse machen den transformativen Einfluss des Einsatzes von AIP zur Steigerung der KI-Nutzung unbestreitbar“, stellte das Unternehmen fest.

Für das vierte Quartal 2025 erwartet Palantir einen Umsatz zwischen 1.327 und 1.331 Milliarden US-Dollar und ein bereinigtes Betriebsergebnis zwischen 695 und 699 Millionen US-Dollar.

Für das Gesamtjahr 2025 hob Palantir seine Umsatzprognose auf 4.396 bis 4.400 Milliarden US-Dollar an und rechnet mit einem Wachstum des US-amerikanischen Geschäftsumsatzes von mindestens 104 % auf über 1.433 Milliarden US-Dollar. Gleichzeitig wurde die Prognose für das bereinigte operative Ergebnis auf 2.151 bis 2.155 Milliarden US-Dollar und die Prognose für den bereinigten freien Cashflow auf 1.9 bis 2.1 Milliarden US-Dollar angehoben.

Aktuelle Aktiennachrichten von Palantir Technologies Inc. (PLTR)

Fazit

Soziale Medien, wie wir sie kennen, stehen eindeutig vor dem Aus. Sie sind nicht mehr der Ort, an dem Menschen aktiv und authentisch ihre Interessen, Erinnerungen und Ideen teilten. Was einst auf menschlichen Beziehungen basierte, wird heute von automatisierten Inhalten und Bots überflutet.

Während KI beispiellose kreative Möglichkeiten und wirtschaftliche Effizienz eröffnet hat, hat sie gleichzeitig genau jene Signale untergraben, die der Online-Interaktion einst Sinn verliehen.

Die Zukunft der sozialen Medien wird sich wahrscheinlich in zwei Richtungen aufspalten: Der eine Weg führt zu hyperautomatisierten Feeds, die auf Interaktion optimiert sind, der andere zu nachweislich menschlichen Räumen, in denen Kultur, Glaubwürdigkeit und Kontext Vorrang vor Reichweite haben.

Referenzen

<sup>1. Jones, CR & Bergen, BK „Menschen können GPT-4 in einem Turing-Test nicht von einem Menschen unterscheiden.“ arXiv-Preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. & Aiello, LM „Der Einfluss von generativer KI auf soziale Medien: Eine experimentelle Studie.“ arXiv-Preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. „Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.“ arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, SR „Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.“ arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>