AI omformer sociale medier og online tillid

AI-indhold er overalt, det skubber autentisk menneskeligt indhold til side og forvandler fuldstændigt landskabet for sociale medier. Dets indflydelse har nu udvidet sig ud over platformene til at påvirke den politiske arena, det bredere internet og endda den globale økonomi.

Så betyder det, at sociale medier nærmer sig sin død? Lad os finde ud af det.

Resumé:

AI-genereret indhold omformer sociale medier ved at oversvømme platforme med syntetisk medie, nedbryde tilliden og flytte meningsfuld menneskelig interaktion til private, verificerbare rum.

Fra menneskelig forbindelse til syntetiske feeds

Det var for cirka fire årtier siden, at de tidlige former for online social interaktion først opstod, begyndende med bulletin board systems (BBS), Usenet og tidlige fora i slutningen af 1970’erne og 1980’erne. De første genkendelige sociale netværksplatforme dukkede dog først op i midten til slutningen af 1990’erne, hvilket lagde grundlaget for det, der senere skulle blive moderne sociale medier.

Begyndelsen af det 21. århundrede markerede den udbredte popularitet af sociale medier med sider som Friendster, MySpace og Facebook. Denne moderne æra af sociale medier gjorde øjeblikkelig global forbindelse mulig, så folk kunne opretholde relationer, få adgang til nyheder i realtid og bygge fællesskaber omkring fælles interesser.

Men nu, blot et par årtier senere, ændrer ansigtet på sociale medier sig med udbredelsen af AI-indhold.

Traditionelt har de grundlæggende værdier for sociale medier været forbindelse og udtryk, men disse er blevet erstattet af automatiseret masseproduktion. Med folks feeds domineret af syntetisk støj vokser afkobling og mistillid blandt masserne hurtigt.

Ifølge Instagrams øverste leder er et omhyggeligt kurateret gitter nu en ting fra fortiden.

I en besked på Threads advarede Instagrams chef Adam Mosseri om, at AI’s fremmarch har dræbt den polerede æstetik på sociale medieplatformen. Al den makeup, hududjævning, smukke landskaber og højkontrastfotografering er nu “død,” da “folk stort set holdt op med at dele personlige øjeblikke for at fodre år tilbage,” sagde han.

I stedet deles upolerede, “uflatterende candid” via direkte beskeder.

Udbredelsen af AI-billeder betyder, at skabere skal bevæge sig væk fra kuraterede gitter og professionel fotografi til en “mere rå æstetik,” hvor folk ønsker “indhold, der føles ægte” i stedet for smigrende billeder, som er “billigt at producere og kedeligt at forbruge.”

Snart vil vi se modenheden af AI-værktøjer og med det udvidelsen af det æstetiske spektrum, de kan producere, sagde Mosseri, mens han bemærkede, at allerede nu begynder feeds på sociale medier at fyldes med “syntetisk alt,” hvilket betyder, at platforme skal udvikle sig for at håndtere floden af AI-genereret indhold.

I mellemtiden sagde Substack medstifter og administrerende direktør Chris Best sent sidste år, at AI-genereret “slop” kunne oversvømme internettet, hvilket “holder dumme mennesker klikende.”

“Slop” blev udvalgt som ordet for året 2025 af det amerikanske opslagsværk Merriam-Webster, som definerer det som “digitalt indhold af lav kvalitet, der produceres, typisk i store mængder, ved hjælp af kunstig intelligens.”

Bot-Internetets fremmarch

Swipe for at rulle →

Data viser, at næsten en tredjedel af al internettrafik kommer fra bots, automatiserede softwareprogrammer, der efterligner menneskelig adfærd.

Dette har givet anledning til teorien om et “dødt internet”, som hævder, at internettet primært består af bot-aktivitet og algoritmisk genereret indhold designet til at kontrollere den globale befolkning.

Reddit (RDDT ) medstifter Alexis Ohanian mener, at der er noget sandhed i idéen, og at en ny æra af sociale medier vil opstå på grund af den. “At have bevis på liv, som live-seere og live-indhold, er virkelig forbandet værdifuldt for at fastholde opmærksomhed,” sagde han i en podcast.

OpenAI-grundlægger og administrerende direktør Sam Altman delte en lignende holdning på X sidste år, og skrev:

“Jeg tog aldrig den døde internet-teori seriøst, men det ser ud til, at der virkelig er mange LLM-drevne Twitter-konti nu.”

Bot-aktivitet på X (tidligere kendt som Twitter) bliver faktisk værre. Det anslås, at omkring 10 % af X-konti er bots, hvilket udgør millioner af brugere.

I mellemtiden er over 20 % af de videoer, som YouTubes algoritme viser nye brugere, blevet fundet at være “AI slop.”

Faktisk indeholder 278 af de 15.000 mest populære YouTube-kanaler, der blev undersøgt, kun AI-genereret indhold, og sammen har de opnået 221 millioner abonnenter og mere end 63 milliarder visninger, hvilket genererer omkring $117 millioner i indtægter hvert år.

Dette er ikke begrænset til kun én eller et par platforme; det gælder for hele internettet.

Som Imperva Bad Bot-rapporten fra 2025 bemærkede, har automatiseret trafik overhalet menneskelig trafik, udgør 51 % af al internettrafik, hvoraf 20 % kommer fra “onde bots”, der er involveret i ondsindet aktivitet.

For et par måneder siden bemærkede Marshall Miller, senior produktdirektør hos Wikimedia Foundation, den non-profit organisation, der driver Wikipedia, også at webstedets menneskelige trafik er faldet med omkring 8 % i takt med at folk ændrer, hvordan de søger information online.

Faldet blev afsløret efter at fonden ændrede, hvordan den skelner mellem menneskelig og bot-trafik for bedre at forstå den reelle læserskare og begrænse tredjeparts bots, der skraber dens data til kommerciel søgning og AI-værktøjer.

“Vi mener, at disse fald afspejler virkningen af generativ AI og sociale medier på, hvordan folk søger information, især da søgemaskiner leverer svar direkte til søgere, ofte baseret på Wikipedia-indhold,” skrev Miller og tilføjede, at dette egentlig ikke var en overraskelse, da søgemaskiner i stigende grad bruger AI til at have svar direkte på resultatsider, og yngre brugere vender sig mod TikTok og YouTube.

Men dette betyder, at fællesskabet, der skriver og redigerer Wikipedias indhold, kan blive mindre. Som sådan opfordrer platformen søgemaskiner, sociale platforme, LLM’er og AI-chatbots til at hjælpe med at drive mere trafik tilbage til siden.

Hvordan sociale medieplatforme forstærker AI-indhold

Sociale medieplatforme er blevet oversvømmet med AI-genereret indhold takket af en eksplosiv vækst i økosystemet af generative værktøjer.

For eksempel har værktøjer som Sora, Midjourney, Pika, Runway og Stable Diffusion gjort det ekstremt nemt at skabe billeder og videoer af næsten alt.

Et stigende antal løsninger gør det endda lettere for folk at øge visninger og tjene penge på creator-belønningsprogrammer eller affiliate-links. De genererer ikke kun automatisk, men poster også indhold direkte på platforme som YouTube, mod betaling, og laver mere end 100 videoer om måneden på en enkelt konto. Disse løsninger har til formål at automatisere den komplette proces som indholdsskaber.

Men det er ikke alt. Forskere har fundet, at platforme faktisk har forstærket AI-genererede opslag. Platforme som TikTok, Instagram og Meta (META ) tilbyder endda indfødte AI-funktioner, der giver brugerne mulighed for at generere visuelle elementer, manuskripter eller remix eksisterende medier uden ekstern software.

Meta har især omfavnet AI-genereret indhold med fuld entusiasme og har endda skabt sit eget slop. I 2023 introducerede virksomheden AI-drevne profiler og annoncerede planer om at fylde sin platform med AI-karakterer. Men efter at have modtaget betydelig brugermodstand, afskaffede Meta AI-profilerne sidste år.

Instagram lancerede imidlertid et AI-studie, der gør det muligt for brugere at producere tilpassede chatbots, inklusive deres egne digitale versioner.

For nylig afslørede TikTok, at der var mindst 1,3 milliarder AI-genererede opslag på deres platform, med mere end 100 millioner stykker indhold uploadet hver dag. For gennemsigtighed mærker TikTok AI-genereret indhold og giver brugerne muligheden for at reducere mængden af AI-indhold, de ser.

Men AI Forensics, en non-profit organisation baseret i Paris, fandt ud af, at mindre end 2 % af konti havde TikTok-mærket for AI-indhold. På tider kan de også undslippe platformens moderation i måneder, på trods af at de poster indhold, der er forbudt af TikToks servicevilkår.

Ifølge rapporten skubbede mere end 350 AI-fokuserede konti 43.000 opslag lavet med hjælp fra generative AI-værktøjer, hvilket samlede 4,5 milliarder visninger over en månedslang periode. Forskerne sagde:

“Den slørede linje mellem autentisk menneske og syntetisk AI-genereret indhold på platformen signalerer en ny drejning mod mere AI-genereret indhold i brugernes feeds.”

Kan autenticitet overleve automatisering?

Engang travle med reel aktivitet, hvor venner samledes og delte særlige øjeblikke, bliver sociale netværk nu til spøgelsesbyer, befolket af kunstige enheder, der simulerer menneskelig engagement og publicerer AI-genereret indhold.

Selvom du måske tror, du blot kan blokere disse brugere og indhold, fandt en undersøgelse¹, at folk ikke kan skelne AI fra et menneske, selv når de er bekendt med LLM’ens emneområde.

Undersøgelsen evaluerede, hvor succesfuldt mennesker detekterer AI-genereret indhold og fandt, at menneskelig tekst kun blev korrekt genkendt som sådan 67 % af tiden, mens GPT-4 fejlagtigt blev opfattet som menneskelig 54 % af tiden.

Ifølge Instagrams Mosseri vil sociale platforme kun blive dårligere til at identificere AI-genereret medie over tid, efterhånden som teknologien forbedres. En løsning kunne være, at kamerafirmaer kryptografisk signerer fotos, når de tages, for at bevise, at de er ægte.

Løsningen på at dæmpe bots’ magt, ifølge Ohanian, er at se “en næste generation af sociale medier opstå, som er verificerbart menneskelig.”

Mens teknologiske fremskridt har optimeret størstedelen af internettet til engagement, hvilket Best sammenlignede med “stofafhængighed,” og tror “vil blive superopladet,” er han stadig håbefuld for en alternativ fremtid.

“Den anden funktion af medier er kultur,” tilføjede han, “Det er også noget, folk virkelig, virkelig ønsker.”

Ifølge Substacks Best har netop denne teknologi potentialet til at muliggøre en “fremtid, hvor der er langt mere kreativt greb” for uafhængige skabere. Den egentlige flaskehals for medier, bemærkede han, er ikke indhold, som der er “ingen knaphed” på, men opmærksomhed. “Vi er trådt ind i en verden, hvor opmærksomhed er den knappe ressource,” sagde han.

“Vi har vundet krigen mod kedsomhed,” sagde Best og tilføjede, at “der er en enorm knaphed på godt indhold.”

Midt i dette lancerede Wikimedia Deutschland Wikidata Embedding Project, som konverterede omkring 120 millioner åbne datapunkter i Wikidata til et format, der er lettere for LLM’er at bruge, hvilket hjælper AI-systemer med at få adgang til højere kvalitet data gratis og forbedre deres nøjagtighed.

Regulering, forskning og kampen for tillid

Efterhånden som AI overtager internettet, har forskere begyndt at forstå dens indvirkning. En sådan undersøgelse, med titlen Indvirkningen af generativ AI på sociale medier: En eksperimentel undersøgelse², undersøgte, hvordan AI-assistance påvirker indholdsproduktion og brugeropfattelser og fandt, at AI-værktøjer er gavnlige for at øge indholdsmængde og engagement, men reducerer opfattet kvalitet og autenticitet.

På baggrund af deres fund anbefalede de, at sociale medieplatforme, lovgivere og interessenter designer værktøjer med brugercentreret personalisering, der inkorporerer kontekstfølsomhed, og prioriterer intuitive brugergrænseflader for en etisk og effektiv integration af generativ AI i sociale medier.

Forskerne anbefalede også at sikre gennemsigtig afsløring af AI-genereret indhold, da andre undersøgelser³ har fundet⁴, at dette forbedrer tilliden uden at skade engagement.

Hvad angår reguleringer, har regeringer verden over også taget skridt til at fremme og regulere ansvarlig brug af kunstig intelligens.

I Den Europæiske Union (EU) fokuserer AI-loven på gennemsigtighed, risikoklassificering og forpligtelser for højrisikosystemer.

Online Safety Act (OSA) har imidlertid givet kommunikationsregulatoren Ofcom bred beføjelse til at kræve, at platforme håndterer skadeligt eller vildledende indhold i Storbritannien, selvom lovgivere har opfordret til en opgradering for mere effektivt at bekæmpe AI-drevet misinformation.

I USA har præsident Donald Trump udstedt en udøvende ordre for at fjerne barrierer for Amerikas lederskab inden for AI og offentliggjort en handlingsplan for at sikre dens dominans i sektoren. Så igen, sidste måned, befalede han en national standard, der gør det muligt for AI-virksomheder at innovere uden besværlige reguleringer.

I mellemtiden har Kinas rammeværk været et af de mest detaljerede globalt i reguleringen af AI-indholdsoprettelse og -distribution. Dets Cyberspace Administration har implementeret obligatorisk mærkning af AI-genereret indhold, der kræver synlige ansvarsfraskrivelser og indlejrede metadata for at undgå misinformation og svindel.

Nogle regeringer presser også på for undersøgelser af platforme vedrørende AI-genereret misinformation. Senest opfordrede Polen EU-Kommissionen til at undersøge TikTok for at være vært for AI-indhold, som de anså for destabiliserende.

“Det afslørede indhold udgør en trussel mod den offentlige orden, informationssikkerhed og integriteten af demokratiske processer i Polen og i hele EU,” sagde viceminister for digitalisering Dariusz Standerski i et brev sendt til Kommissionen. “Naturens af fortællingerne, den måde de distribueres på, og brugen af syntetisk audiovisuelle materialer indikerer, at platformen ikke overholder de pålagte forpligtelser,” tilføjede han.

For nu er politiklandskabet for AI stadig et fremvoksende problem på verdensplan, fragmenteret på tværs af jurisdiktioner og kæmper for at følge med den hastighed, hvormed generative systemer omformer informationsstrømme, offentlig tillid og demokratisk diskurs.

Investering i AI-infrastruktur

I AI-verdenen skiller Palantir Technologies Inc. (PLTR ) sig ud for sin specialisering i AI-drevet big data-analyse.

Den har bygget fire hovedsoftwareplatforme, herunder Apollo, Gotham, Foundry og Artificial Intelligence Platform (AIP). Apollo er et kontrollag, der harmoniserer leveringen af nye funktioner, konfigurationer og sikkerhedsopdateringer for at sikre kontinuerlig drift af kritiske systemer. Gotham hjælper med at identificere mønstre i datasæt, og Foundry hjælper organisationer med at skabe et centralt operativsystem for deres data. AIP muliggør effektiv aktivering af store sprogmodeller og anden AI inden for enhver organisation.

Bemærkelsesværdigt bruges Palantirs platforme af regeringer og private virksomheder til at opdage misinformation, botnetværk og distribution af syntetisk medie. Disse værktøjer er bygget til at identificere autentisk vs. inautentisk adfærd på tværs af komplekse informationsøkosystemer.

Desuden anvendes AI-analyse i stigende grad af organisationer og regeringer til at overvåge sundheds- og sikkerhedstrusler. Med en markedsværdi på $400 milliarder handles PLTR-aktier i øjeblikket til $174, op over 110 % i det sidste år. Den har en EPS (TTM) på 0,43 og en P/E (TTM) på 392,56.

Med hensyn til dens finansielle position annoncerede Palantir en omsætning på $1,181 milliarder for tredje kvartal, der sluttede den 30. september 2025, svarende til 63 % år-til-år og 18 % kvartal-til‑kvartal vækst, og opnåede en ny omsætningsrekord i sin over tyve år lange historie. Dens profit for kvartalet var $476 millioner.

“Vi er stadig i den allerførste fase. Dette forbliver begyndelsen, det første øjeblik af det første kapitel.”

– Medstifter og administrerende direktør Alex C. Karp, i et brev til aktionærer

Dens amerikanske omsætning voksede især 77 % år-til-år og 20 % kvartal-til‑kvartal til $883 millioner. Dette inkluderer $486 millioner i amerikansk regeringsomsætning, som steg 52 % år-til-år og 14 % kvartal-til‑kvartal, samt $397 millioner i amerikansk kommerciel omsætning, som steg 121 % år-til-år og 29 % kvartal-til‑kvartal. Karp kaldte den amerikanske kommercielle segment for “en absolut kæmpe”, som han mener “vil blive, på egen hånd, en af de mest betydningsfulde forretningshistorier i århundredet i amerikansk økonomisk liv.”

I denne periode voksede Palantirs kundetælling med 45 % år-til-år. Samtidig var den justerede frie pengestrøm $540 millioner, GAAP-indtjening pr. aktie var $0,18, og justeret EPS var $0,21. Den afsluttede kvartalet med $6,4 milliarder i kontanter, kontantekvivalenter og kortfristede amerikanske statsobligationer.

“Disse resultater gør den transformerende indvirkning af at bruge AIP til at forstærke AI-gear ubestridelig,” bemærkede virksomheden.

For Q4 2025 forventer Palantir, at omsætningen vil ligge mellem $1,327 og $1,331 milliarder, og justeret driftsindtægt vil ligge mellem $695 og $699 millioner.

Med hensyn til hele året 2025 hævede Palantir sin omsætningsguidance til $4,396‑$4,400 milliarder og forudser mindst 104 % vækst i amerikansk kommerciel omsætning, så den overstiger $1,433 milliarder. Samtidig er den justerede driftsindtægtsguidance hævet til $2,151‑$2,155 milliarder, og den justerede frie pengestrømsguidance til $1,9‑$2,1 milliarder.

Investorens konklusion:

Efterhånden som AI-indhold skalerer hurtigere end menneskelig opmærksomhed, vokser efterspørgslen efter infrastruktur, der styrer autenticitet, moderation og tillid—skabende langsigtede muligheder ud over forbruger‑sociale platforme.

Seneste nyheder om Palantir Technologies Inc. (PLTR) aktier

Konklusion

Sociale medier, som vi kender dem, er tydeligt på vej mod en afslutning. Det er ikke længere det sted, hvor folk aktivt delte deres interesser, minder og idéer på en autentisk måde. Det, der engang var bygget på menneskelig forbindelse, er nu overtaget af automatiseret indhold og bots.

Selvom AI har låst op for hidtil uset kreativt greb og økonomisk effektivitet, har det også nedbrudt de signaler, der engang gjorde online interaktion meningsfuld.

Fremtiden for sociale medier vil sandsynligvis splitte sig, med den ene vej der fører mod hyper‑automatiserede feeds optimeret for engagement, og den anden der peger mod verificerbart menneskelige rum, som prioriterer kultur, troværdighed og kontekst over rækkevidde.

Referencer

<sup>1. Jones, C. R. & Bergen, B. K. “Folk kan ikke skelne GPT-4 fra et menneske i en Turing-test.” arXiv-preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “Indvirkningen af generativ AI på sociale medier: En eksperimentel undersøgelse.” arXiv-preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Mærkning af syntetisk indhold: Brugeropfattelser af advarselsmærkedesign for AI-genereret indhold på sociale medier.” arXiv-preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Undersøgelse af indvirkningen af mærkedetaljer og indholdsinteresser på brugeropfattelser af AI-genererede billeder på sociale medier.” arXiv-preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>