AI omformar sociala medier och onlineförtroende

AI-innehåll finns överallt, tränger undan autentiskt mänskligt innehåll och omvandlar helt sociala medielandskapet. Dess inflytande har nu sträckt sig bortom plattformarna och påverkar den politiska arenan, det bredare internet och till och med den globala ekonomin.

Så betyder det att sociala medier närmar sig sin död? Låt oss ta reda på det.

Sammanfattning:
AI-genererat innehåll omformar sociala medier genom att översvämma plattformarna med syntetiska medier, erodera förtroendet och flytta meningsfull mänsklig interaktion till privata, verifierbara utrymmen.

Från mänsklig kontakt till syntetiska flöden

Det var ungefär fyra decennier sedan de tidiga formerna av online‑social interaktion först dök upp, med bulletin board‑system (BBS), Usenet och tidiga forum i slutet av 1970‑talet och 1980‑talet. Men de första igenkännbara sociala nätverksplattformarna kom inte förrän i mitten till slutet av 1990‑talet, vilket lade grunden för det som senare skulle bli moderna sociala medier.

Inledningen av 2000‑talet markerade den breda populariteten för sociala medier med sajter som Friendster, MySpace och Facebook. Denna moderna era av sociala medier möjliggjorde omedelbar global kontakt, så att människor kunde upprätthålla relationer, få realtidsnyheter och bygga gemenskaper kring gemensamma intressen.

Men nu, bara ett par decennier senare, förändras ansiktet på sociala medier med spridningen av AI‑innehåll.

Traditionellt har kärnvärdena för sociala medier varit kontakt och uttryck, men dessa har ersatts av automatiserad massproduktion. Med människors flöden dominerade av syntetiskt brus växer avtrubbning och misstro bland massorna snabbt.

Enligt Instagrams högsta chef är ett noggrant kuraterat rutnät nu ett förgångna företeelse.

I ett meddelande på Threads varnade Instagram‑chef Adam Mosseri för att AI:s uppsving har dödat plattformens polerade estetik. All den sminkningen, hudutjämningen, vackra landskapen och högkontrastfotografin är nu ”döda”, eftersom ”folk i stort sett slutade dela personliga ögonblick för att mata årtionden sedan”, sade han.

I stället delas oförskönade, ”ogynnsamma candid‑bilder” via direktmeddelanden.

Den genomgripande närvaron av AI‑bilder innebär att skapare måste gå bort från kuraterade rutnät och professionell fotografi till en ”mer rå estetik”, där folk vill ha ”innehåll som känns äkta” snarare än smickrande bilder, som är ”billiga att producera och tråkiga att konsumera”.

Snart kommer vi att se mognaden av AI‑verktyg och med det expansionen av det estetiska spektrum de kan producera, sade Mosseri, och påpekade att redan nu fylls sociala medieflöden med ”syntetiskt allt”, vilket betyder att plattformarna måste utvecklas för att hantera översvämningen av AI‑genererat innehåll.

Samtidigt sade Substack‑medgrundare och VD Chris Best i slutet av förra året att AI‑genererad ”slop” kan översvämma internet, vilket ”får dumma människor att klicka”.

”Slop” valdes som ordet för året 2025 av den amerikanska ordboken Merriam‑Webster, som definierar det som ”digitalt innehåll av låg kvalitet som produceras, vanligtvis i stora mängder, med hjälp av artificiell intelligens”.

AI‑internetens uppgång

Svep för att rulla →

Data visar att nästan en tredjedel av all internettrafik kommer från botar, automatiserade program som efterliknar mänskligt beteende.

Detta har gett upphov till teorin om ett ”dött internet”, som hävdar att internet huvudsakligen består av bot‑aktivitet och algoritmiskt genererat innehåll avsett att kontrollera den globala befolkningen.

Reddit (RDDT ) medgrundare Alexis Ohanian tror att det finns en del sanning i idén, och att en ny era av sociala medier kommer att uppstå på grund av den. ”Att ha bevis på liv, som live‑visare och live‑innehåll, är verkligen förbannat värdefullt för att hålla uppmärksamheten,” sade han i en podd.

OpenAI‑grundare och VD Sam Altman delade en liknande syn på X förra året och skrev:

“Jag tog aldrig den döda‑internet‑teorin på allvar, men det verkar som om det finns väldigt många LLM‑drivna Twitter‑konton nu.”

Bot‑aktivitet på X (tidigare känt som Twitter) blir faktiskt värre. Det uppskattas att omkring 10 % av X‑kontona är botar, vilket motsvarar miljontals användare.

Samtidigt har över 20 % av de videor som YouTubes algoritm visar nya användare identifierats som ”AI‑slop”.

Faktum är att bland de 15 000 mest populära YouTube‑kanalerna som undersökts, innehåller 278 endast AI‑genererat innehåll, och tillsammans har de samlat 221 miljoner prenumeranter och mer än 63 miljarder visningar, vilket genererar omkring 117 miljoner dollar i intäkter per år.

Detta är inte begränsat till en enda eller ett fåtal plattformar; det gäller hela internet.

Som Imperva Bad Bot‑rapporten 2025 noterade, har automatiserad trafik överträffat mänsklig trafik, och står för 51 % av all internettrafik, varav 20 % kommer från ”dåliga botar” som är engagerade i skadlig verksamhet.

För några månader sedan noterade Marshall Miller, senior produktdirektör på Wikimedia‑stiftelsen, den ideella organisation som driver Wikipedia, att webbplatsens mänskliga trafik har minskat med cirka 8 % när folk ändrar hur de söker information online.

Denna nedgång avslöjades efter att stiftelsen ändrade hur den skiljer på mänsklig och bot‑trafik för att bättre förstå verklig läsekrets och begränsa tredjeparts‑botar som skrapar dess data för kommersiella sök‑ och AI‑verktyg.

”Vi tror att dessa nedgångar speglar påverkan av generativ AI och sociala medier på hur människor söker information, särskilt eftersom sökmotorer ger svar direkt till sökaren, ofta baserat på Wikipedia‑innehåll,” skrev Miller, och tillade att detta inte var någon överraskning eftersom sökmotorer i allt högre grad använder AI för att ha svar direkt på resultatsidor och yngre användare vänder sig till TikTok och YouTube.

Men detta betyder att gemenskapen som skriver och redigerar Wikipedias innehåll kan krympa. Därför uppmanar plattformen sökmotorer, sociala plattformar, LLM‑er och AI‑chattbottar att hjälpa till att driva mer trafik tillbaka till sajten.

Hur sociala medieplattformar förstärker AI‑innehåll

Sociala medieplattformar har översvämmats av AI‑genererat innehåll tack vare en explosiv tillväxt i ekosystemet av generativa verktyg.

Till exempel har verktyg som Sora, Midjourney, Pika, Runway och Stable Diffusion gjort det extremt enkelt att skapa bilder och videor av nästan vad som helst.

Ett växande antal lösningar gör det dessutom enklare för människor att öka visningar och tjäna pengar på skaparpremieprogram eller affiliate‑länkar. De genererar inte bara automatiskt utan postar också innehåll direkt till plattformar som YouTube, mot en avgift, och gör mer än 100 videor per månad på ett enda konto. Dessa lösningar syftar till att automatisera hela processen att vara en innehållsskapare.

Men det är inte allt. Forskare har upptäckt att plattformar faktiskt har förstärkt AI‑genererade inlägg. Plattformar som TikTok, Instagram och Meta (META ) erbjuder till och med inbyggda AI‑funktioner som låter användare generera visuella element, manus eller remix befintligt media utan extern programvara.

Meta har i synnerhet omfamnat AI‑genererat innehåll med full entusiasm, och har till och med skapat sin egen slop. År 2023 lanserade företaget AI‑drivna profiler och meddelade planer på att fylla sin plattform med AI‑karaktärer. Men efter betydande användarreaktioner avbröt Meta AI‑profilerna förra året.

Instagram har under tiden lanserat ett AI‑studio som möjliggör för användare att producera skräddarsydda chat‑botar, inklusive deras egna digitala versioner.

Senast avslöjade TikTok att det fanns minst 1,3 miljarder AI‑genererade inlägg på plattformen, med mer än 100 miljoner innehållsdelar som laddas upp varje dag. För transparens märker TikTok AI‑genererat innehåll och ger användare möjlighet att minska mängden AI‑innehåll de ser.

Men AI Forensics, en icke‑vinstdrivande organisation i Paris, fann att mindre än 2 % av kontona hade TikTok‑etiketten för AI‑innehåll. Ibland undgår de också plattformens moderering i månader, trots att de postar innehåll som är förbjudet enligt TikToks användarvillkor.

Enligt rapporten har mer än 350 AI‑fokuserade konton publicerat 43 000 inlägg med hjälp av generativa AI‑verktyg, vilket samlade 4,5 miljarder visningar under en månadslång period. Forskarna sade:

”Den suddiga linjen mellan autentiskt mänskligt och syntetiskt AI‑genererat innehåll på plattformen signalerar en ny vändning mot mer AI‑genererat innehåll i användarnas flöden.”

Kan äkthet överleva automatisering?

När de en gång var livliga med verklig aktivitet, där vänner samlades och delade speciella stunder, blir sociala nätverk nu spökstäder, befolkade av artificiella enheter som simulerar mänskligt engagemang och publicerar AI‑genererat innehåll.

Även om du tror att du bara kan blockera dessa användare och innehåll, visar en studie:¹ att människor inte kan skilja AI från en människa, även när de är bekanta med LLM‑ens ämnesområde.

Studien utvärderade hur framgångsrikt människor upptäcker AI‑genererat innehåll och fann att mänsklig text korrekt identifierades som sådan endast 67 % av gångerna, medan GPT‑4 felaktigt identifierades som mänsklig 54 % av gångerna.

Enligt Instagrams Mosseri kommer sociala plattformar bara bli sämre på att identifiera AI‑genererat media över tid i takt med att tekniken förbättras. En möjlig lösning kan vara att kameraföretag kryptografiskt signerar foton vid fotografering för att bevisa att de är äkta.

Lösningen för att mildra botarnas makt, enligt Ohanian, är att se ”en nästa generation av sociala medier uppstå som är verifierbart mänsklig.”

Medan tekniska framsteg har optimerat större delen av internet för engagemang, vilket Best jämförde med ”droganvändning”, och tror ”det kommer att bli superladdat”, är han fortfarande hoppfull om ett alternativt framtidsscenario.

”Den andra funktionen med media är kultur,” tillade han, ”det är något som folk verkligen, verkligen vill ha också.”

Enligt Substacks Best har exakt samma teknik potentialen att möjliggöra ”en framtid där det finns mycket mer kreativ hävstång” för oberoende skapare. Det verkliga flaskhalsen för media, påpekade han, är inte innehåll, som har ”ingen brist”, utan uppmärksamhet. ”Vi har gått in i en värld där uppmärksamhet är den knappa resursen,” sade han.

”Vi har vunnit kriget mot tristess,” sade Best och tillade att ”det finns en enorm brist på bra innehåll.”

Mitt i detta lanserade Wikimedia Deutschland Wikidata Embedding Project, som konverterade omkring 120 miljoner öppna datapunkter i Wikidata till ett format som är lättare för LLM‑er att använda, vilket hjälper AI‑system att få tillgång till högkvalitativ data gratis och förbättra deras noggrannhet.

Reglering, forskning och kampen för förtroende

När AI tar över internet har forskare börjat förstå dess påverkan. En sådan studie, med titeln The Impact of Generative AI on Social Media: An Experimental Study², undersökte hur AI‑assistans påverkar innehållsproduktion och användaruppfattningar och fann att AI‑verktyg är fördelaktiga för att öka innehållsvolym och engagemang men minskar upplevd kvalitet och äkthet.

Baserat på deras resultat rekommenderade de att sociala medieplattformar, lagstiftare och intressenter designar verktyg med användarfokuserad personalisering, inkluderande kontextkänslighet, och prioriterar intuitiva användargränssnitt för en etisk och effektiv integration av generativ AI i sociala medier.

Forskarna föreslog också att säkerställa transparent avslöjande av AI‑genererat innehåll, eftersom andra studier³ har visat⁴ att detta förbättrar förtroendet utan att skada engagemanget.

När det gäller regleringar har regeringar världen över också vidtagit steg för att främja och reglera ansvarsfull användning av artificiell intelligens.

Inom Europeiska unionen (EU) fokuserar AI‑act på transparens, riskklassificering och skyldigheter för hög‑risk‑system.

Online Safety Act (OSA) har samtidigt gett kommunikationsregulatorn Ofcom bred befogenhet att kräva att plattformar hanterar skadligt eller missledande innehåll i Storbritannien, även om lagstiftare har uppmanat till en uppgradering för att mer effektivt bekämpa AI‑driven desinformation.

I USA har president Donald Trump utfärdat en verkställande order för att avlägsna hinder för Amerikas ledarskap inom AI och publicerat en handlingsplan för att säkra dess dominans i sektorn. Sedan dess, förra månaden, utfärdade han en nationell standard som möjliggör för AI‑företag att innovera utan betungande regler.

Samtidigt har Kinas ramverk varit ett av de mest detaljerade globalt när det gäller reglering av AI‑innehållsskapande och distribution. Dess Cyberspace Administration har infört obligatorisk märkning för AI‑genererat innehåll, vilket kräver synliga ansvarsfriskrivningar och inbäddad metadata för att undvika desinformation och bedrägeri.

Vissa regeringar driver också undersökningar av plattformar kring AI‑genererad desinformation. Senast uppmanade Polen Europeiska kommissionen att granska TikTok för att ha värd AI‑innehåll som de ansåg vara destabiliserande.

”Det avslöjade innehållet utgör ett hot mot den allmänna ordningen, informationssäkerheten och integriteten i demokratiska processer i Polen och i hela Europeiska unionen,” sade vice­minister för digitalisering Dariusz Standerski i ett brev till kommissionen. ”Narrativens natur, sättet de distribueras på och användningen av syntetiska audiovisuella material indikerar att plattformen misslyckas med att uppfylla de pålagda skyldigheterna,” tillade han.

För närvarande är policylandskapet för AI ett framväxande globalt problem, fragmenterat över jurisdiktioner och har svårt att hålla jämna steg med den hastighet med vilken generativa system omformar informationsflöden, offentligt förtroende och demokratiska diskurser.

Investering i AI‑infrastruktur

I AI‑världen sticker Palantir Technologies Inc. (PLTR ) ut för sin specialisering på AI‑driven stordata‑analys.

Företaget har byggt fyra huvudprogramvaruplattformar, inklusive Apollo, Gotham, Foundry och Artificial Intelligence Platform (AIP). Apollo är ett kontrollskikt som harmoniserar leveransen av nya funktioner, konfigurationer och säkerhetsuppdateringar för att säkerställa kontinuerlig drift av kritiska system. Gotham hjälper till att identifiera mönster i dataset, och Foundry hjälper organisationer att skapa ett centralt operativsystem för deras data. AIP möjliggör effektiv aktivering av stora språkmodeller och annan AI inom vilken organisation som helst.

Noterbart är att Palantirs plattformar används av regeringar och privata företag för att upptäcka desinformation, bot‑nätverk och spridning av syntetiskt media. Dessa verktyg är byggda för att identifiera autentiskt kontra oautentiskt beteende i komplexa informations‑ekosystem.

Dessutom används AI‑analys i ökande grad av organisationer och regeringar för att övervaka hälso‑ och säkerhetshot. Med ett börsvärde på 400 miljarder dollar handlas PLTR‑aktier för närvarande till 174 $, en ökning på över 110 % under det senaste året. Företaget har ett EPS (TTM) på 0,43 och ett P/E (TTM) på 392,56.

Vad gäller dess finansiella ställning rapporterade Palantir en omsättning på 1,181 miljarder dollar för tredje kvartalet som avslutades den 30 september 2025, vilket motsvarar 63 % år‑till‑år‑tillväxt och 18 % kvartal‑till‑kvartal‑tillväxt, och nådde ett nytt intäktsrekord i sin mer än tjugo år långa historia. Vinsten för kvartalet var 476 miljoner dollar.

“Vi är fortfarande i början av allt. Detta är fortfarande början, det första ögonblicket i det första kapitlet.”

– Medgrundare och VD Alex C. Karp, i ett brev till aktieägarna

Dess amerikanska intäkter växte särskilt med 77 % år‑till‑år och 20 % kvartal‑till‑kvartal till 883 miljoner dollar. Detta inkluderar 486 miljoner dollar i amerikansk regeringsintäkt, som ökade med 52 % år‑till‑år och 14 % kvartal‑till‑kvartal, samt 397 miljoner dollar i amerikansk kommersiell intäkt, som steg med 121 % år‑till‑år och 29 % kvartal‑till‑kvartal. Karp kallade den amerikanska kommersiella sektorn ”en absolut jätte” som han tror ”kommer att bli, på egen hand, en av de mest betydelsefulla affärshistorierna i århundradet i amerikansk ekonomisk liv”.

Under denna period ökade Palantirs kundantal med 45 % år‑till‑år. Samtidigt var deras justerade fria kassaflöde 540 miljoner dollar, GAAP‑vinst per aktie 0,18 $, och justerat EPS 0,21 $. Företaget avslutade kvartalet med 6,4 miljarder dollar i kontanter, likvida medel och kortfristiga amerikanska statspapper.

”Dessa resultat gör den transformerande effekten av att använda AIP för att förstärka AI‑hävstång odiskutabel,” noterade företaget.

För Q4 2025 förväntar sig Palantir en omsättning mellan 1,327 och 1,331 miljarder dollar och ett justerat rörelseresultat mellan 695 och 699 miljoner dollar.

För hela år 2025 höjde Palantir sin omsättningsprognos till 4,396‑4,400 miljarder dollar och förutspår minst 104 % tillväxt i amerikansk kommersiell intäkt till över 1,433 miljarder dollar. Samtidigt har den justerade rörelseresultat‑prognosen höjts till 2,151‑2,155 miljarder dollar, och den justerade fria kassaflödes‑prognosen till 1,9‑2,1 miljarder dollar.

Investerarens slutsats:
Eftersom AI‑innehåll skalar snabbare än mänsklig uppmärksamhet växer efterfrågan på infrastruktur som styr äkthet, moderering och förtroende — vilket skapar långsiktiga möjligheter bortom konsument‑sociala plattformar.

Senaste nyheter om Palantir Technologies Inc. (PLTR)‑aktier

Slutsats

Sociala medier, som vi känner dem, är tydligt på väg mot ett slut. Det är inte längre samma plats där människor aktivt delade sina intressen, minnen och idéer på ett autentiskt sätt. Det som en gång byggdes på mänsklig kontakt har nu överskuggats av automatiserat innehåll och botar.

Medan AI har låst upp enastående kreativ hävstång och ekonomisk effektivitet, har det också eroderat de signaler som en gång gjorde online‑interaktion meningsfull.

Framtiden för sociala medier kommer sannolikt att splittras, där en väg leder mot hyper‑automatiserade flöden optimerade för engagemang och den andra pekar mot verifierbart mänskliga utrymmen som prioriterar kultur, trovärdighet och kontext framför räckvidd.

Referenser

<sup>1. Jones, C. R. & Bergen, B. K. “People cannot distinguish GPT-4 from a human in a Turing test.” arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “The Impact of Generative AI on Social Media: An Experimental Study.” arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.” arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.” arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>