AI omformer sociale medier og online tillid

AI-indhold er overalt, fortrænger autentisk menneskeligt indhold og transformerer fuldstændigt det sociale medielandskab. Dets indflydelse har nu strakt sig ud over platforme og påvirker den politiske arena, det bredere internet og endda den globale økonomi.

Så betyder det, at sociale medier nærmer sig sin død? Lad os finde ud af det.

Fra menneskelig forbindelse til syntetisk foder

Det er for omkring fire årtier siden, at tidlige former for online social interaktion først opstod, begyndende med opslagstavlesystemer (BBS), Usenet og tidlige fora i slutningen af ​​1970'erne og 1980'erne. De første genkendelige sociale netværksplatforme dukkede dog ikke op før midten til slutningen af ​​1990'erne og lagde grunden til det, der senere skulle blive moderne sociale medier.

Begyndelsen af ​​det 21. århundrede markerede den udbredte popularitet af sociale medier med sider som Friendster, MySpace og Facebook. Denne moderne æra af sociale medier muliggjorde øjeblikkelig global forbindelse, hvilket gjorde det muligt for folk at opretholde relationer, få adgang til nyheder i realtid og opbygge fællesskaber omkring fælles interesser.

Men nu, blot et par årtier senere, ændrer de sociale medier sig med udbredelsen af AI-indhold.

Traditionelt set er kerneværdierne for sociale medier har været forbindelse og udtryk, men disse er blevet erstattet af automatiseret masseproduktion. Med folks fødevarer domineret af syntetisk støj vokser uengagement og mistillid blandt masserne hurtigt.

Ifølge Instagrams topchef er et omhyggeligt kurateret gitter nu fortid.

I en besked i trådeInstagram-chef Adam Mosseri advarede om, at fremkomsten af ​​kunstig intelligens har ødelagt det sociale medies polerede æstetik. Al den makeup, hududglatning, smukke landskaber og højkontrastfotografering er nu "død", da "folk stort set holdt op med at dele personlige øjeblikke for at give næring for år siden," sagde han.

I stedet deles upolerede, "uflatterende ærlige annoncer" via direkte beskeder.

Udbredelsen af ​​AI-billeder betyder, at skabere er nødt til at skifte fra kuraterede gitre og professionel fotografering til en "mere rå æstetik", hvor folk ønsker "indhold, der føles ægte" snarere end flatterende billeder, som er "billige at producere og kedelige at forbruge".

Snart vil vi se modningen af ​​AI-værktøjer og dermed udvidelsen af ​​det udvalg af æstetik, de kan producere, sagde Mosseri, samtidig med at han bemærkede, at sociale medie-feeds allerede er begyndt at fyldes op med "syntetisk alt", hvilket betyder, at platforme skal udvikle sig for at håndtere strømmen af ​​AI-genereret indhold.

I mellemtiden udtalte Substack's medstifter og administrerende direktør, Chris Best, sidst på året, at AI-genereret "slort" kunne oversvømme internettet, hvilket "får dumme mennesker til at klikke".

"Slop" blev valgt som årets ord for 2025 ifølge den amerikanske ordbog Merriam-Webster, der definerer det som "digitalt indhold af lav kvalitet, der produceres, normalt i kvantitet, ved hjælp af kunstig intelligens."

Bot-internettets fremkomst

Stryg for at scrolle →

Data viser, at næsten en tredjedel af al internettrafik kommer fra bots, automatiserede softwareprogrammer, der efterligner menneskelig adfærd.

Dette har givet anledning til den døde internetteori, som hævder, at internettet primært består af botaktivitet og algoritmisk genereret indhold designet til at kontrollere den globale befolkning.

Reddit (RDDT ) Medstifter Alexis Ohanian mener, at der er en vis sandhed i ideen, og at en ny æra inden for sociale medier vil opstå på grund af den. "At have beviser på liv, som f.eks. live seere og live indhold, er virkelig værdifuldt for at fastholde opmærksomheden," sagde han i en podcast.

OpenAI-grundlægger og administrerende direktør, Sam Altman, delte et lignende synspunkt om X sidste år og skrev:

"Jeg har aldrig taget teorien om det døde internet så alvorligt, men det lader til, at der er rigtig mange Twitter-konti drevet af LLM nu."

Botaktiviteten på X (tidligere kendt som Twitter) bliver faktisk værre. Det anslås, at ca. 10% af X-konti er bots, i alt millioner af brugere.

I mellemtiden har over 20 % af de videoer, som YouTubes algoritme viser nye brugere, været fundet at være "AI-slort".

Faktisk indeholder 278 af de 15,000 mest populære YouTube-kanaler, der blev undersøgt, kun AI-genereret indhold, og tilsammen har de samlet 221 millioner abonnenter og mere end 63 milliarder visninger, hvilket genererer omkring 117 millioner dollars i omsætning hvert år.

Dette er ikke begrænset til blot én eller en håndfuld platforme; det gælder for hele internettet.

Som Imperva Bad Bot Report fra 2025 bemærkede, har automatiseret trafik overtaget menneskelig trafik, tegner sig for 51% af al internettrafik, hvor 20 % af det kommer fra "dårlige bots", der er involveret i ondsindet aktivitet.

For et par måneder siden bemærkede Marshall Miller, senior produktdirektør hos Wikimedia Foundation, den nonprofitorganisation, der driver Wikipedia, også, at webstedets menneskelige trafik er faldet med omkring 8%, da folk ændrer, hvordan de søger efter information online.

Faldet blev afsløret, efter at fonden ændrede, hvordan den skelner mellem menneskelig og bot-trafik for bedre at forstå det reelle læsertal og begrænse tredjepartsbots, der scraper dens data til kommerciel søgning og AI-værktøjer.

"Vi mener, at disse fald afspejler effekten af ​​generativ kunstig intelligens og sociale medier på, hvordan folk søger information, især når søgemaskiner giver svar direkte til søgere, ofte baseret på Wikipedia-indhold," skrev Miller og tilføjede, at dette ikke var en overraskelse, da søgemaskiner i stigende grad bruger kunstig intelligens til at have svar direkte på resultatsider, og yngre brugere vender sig mod TikTok og YouTube.

Men det betyder, at det fællesskab, der skriver og redigerer Wikipedias indhold, kan skrumpe. Derfor opfordrer platformen søgemaskiner, sociale platforme, LLM'er og AI-chatbots til at hjælpe med at drive mere trafik tilbage til webstedet.

Hvordan sociale medieplatforme forstærker AI-indhold

Sociale medieplatforme er blevet oversvømmet med AI-genereret indhold takket være en eksplosiv vækst i økosystemet af generative værktøjer.

For eksempel har værktøjer som Sora, Midjourney, Pika, Runway og Stable Diffusion gjort det ekstremt nemt at lave billeder og videoer af næsten alt.

Et stigende antal løsninger gør det endda nemmere for folk at øge antallet af visninger og tjene penge på belønningsprogrammer for skabere eller affilierede links. De genererer ikke kun automatisk indhold, men lægger også indhold direkte på platforme som YouTube mod et gebyr, hvilket resulterer i mere end 100 videoer om måneden på en enkelt konto. Disse løsninger sigter mod at automatisere hele processen med at være indholdsskaber.

Men det er ikke alt. Forskere har fundet at platforme faktisk har øget brugen af ​​AI-genererede opslag. Platforme som TikTok, Instagram og Meta (META ) tilbyder endda native AI-funktioner, der giver brugerne mulighed for at generere visuelle elementer, scripts eller remixe eksisterende medier uden ekstern software.

Især Meta har taget AI-genereret indhold til sig med fuld entusiasme og har endda skabt sin egen forfærdelige side. I 2023 introducerede virksomheden AI-drevne profiler og annoncerede planer om at fylde sin platform med AI-figurer. Men efter at have modtaget betydelig brugerkritik, afskaffede Meta AI-profilerne sidste år.

Instagram har i mellemtiden lanceret et AI-studie, der gør det muligt for brugerne at producere brugerdefinerede chatbots, inklusive deres egne digitale versioner.

For nylig afslørede TikTok, at der var mindst 1.3 milliarder AI-genererede opslag på deres platform, med mere end 100 millioner indholdsstykker uploadet hver dag. For at sikre gennemsigtighed mærker TikTok AI-genereret indhold og giver endda brugerne mulighed for at reducere mængden af ​​AI-indhold, de ser.

Men AI Forensics, en nonprofitorganisation med base i Paris, fandt ud af, at mindre end 2% af kontiene havde TikTok-mærket for AI-indhold. Til tider undgår de også platformens moderering i månedsvis, på trods af at de poster indhold, der er forbudt i henhold til TikToks servicevilkår.

Ifølge rapporten genererede mere end 350 AI-fokuserede konti 43,000 opslag ved hjælp af generationens AI-værktøjer, hvilket akkumulerede 4.5 milliarder visninger over en måneds lang periode. Forskerne sagde:

"Den udviskende linje mellem autentisk menneskeligt og syntetisk AI-genereret indhold på platformen signalerer en ny drejning mod mere AI-genereret indhold på brugernes feeds."

Kan autenticitet overleve automatisering?

Sociale netværk, der engang summede af aktivitet, hvor venner samledes og delte særlige øjeblikke, er nu ved at blive til spøgelsesbyer, befolket af kunstige enheder, der simulerer menneskelig interaktion og udgiver AI-genereret indhold.

Selvom du måske tror, ​​at du bare kan blokere disse brugere og indhold, undersøgelse fundet¹ at folk ikke kan skelne kunstig intelligens fra et menneske, selv når de er bekendt med LLM's emne.

Undersøgelsen evaluerede, hvor succesfulde mennesker var registrere AI-genereret indhold og fandt, at menneskelig tekst kun blev nøjagtigt genkendt som sådan i 67% af tiden, mens GPT-4 unøjagtigt blev detekteret som menneskelig i 54% af tiden.

Ifølge Instagrams Mosseri vil sociale platforme kun blive dårligere til at identificere AI-genererede medier over tid, efterhånden som teknologien forbedres. En løsning kunne være, at kameravirksomheder kryptografisk signerer billeder, når de tages, for at bevise, at de er ægte.

Løsningen på at mindske bots' magt er ifølge Ohanian at se "en næste generation af sociale medier, der er beviseligt menneskelige", dukke op.

Selvom teknologiske fremskridt har optimeret det meste af internettet til engagement, hvilket Best sammenlignede med "stofafhængighed" og mener, "vil blive superladet", er han stadig håbefuld om en alternativ fremtid.

"Mediernes andet formål er kultur," tilføjede han, "Det er noget, som folk virkelig, virkelig også ønsker."

Ifølge Substacks Best har netop denne teknologi potentiale til at muliggøre en "fremtid, hvor der er langt mere kreativ gearing" for uafhængige skabere. Den virkelige flaskehals for medier, bemærkede han, er ikke indhold, hvoraf der "ikke er nogen mangel", men opmærksomhed. "Vi er trådt ind i en verden, hvor opmærksomhed er den knappe ressource," sagde han.

"Vi har vundet krigen mod kedsomhed," sagde Best og tilføjede, at "der er en enorm mangel på godt indhold."

Midt i dette lancerede Wikimedia Deutschland Wikidata Embedding Project, som konverterede omkring 120 millioner åbne datapunkter i Wikidata til et format, der er nemmere for LLM'er at bruge, hvilket hjalp AI-systemer med at få gratis adgang til data af højere kvalitet og forbedre deres nøjagtighed.

Regulering, forskning og kampen for tillid

I takt med at kunstig intelligens overtager internettet, er forskere begyndt at forstå dens indflydelse. En sådan undersøgelse med titlen Generativ AI's indflydelse på sociale medier: En eksperimentel undersøgelse² undersøgte, hvordan AI-assistance påvirker indholdsproduktion og brugeropfattelser, og fandt, at AI-værktøjer er gavnlige til at øge indholdsmængden og engagementet, men mindske den opfattede kvalitet og autenticitet.

Baseret på deres resultater anbefalede de, at sociale medieplatforme, politikere og interessenter designer værktøjer med brugerfokuseret personalisering, der inkorporerer kontekstfølsomhed og prioriterer intuitive brugergrænseflader for en etisk og effektiv integration af generationens kunstig intelligens i sociale medier.

Forskerne anbefalede også at sikre transparent offentliggørelse af AI-genereret indhold, da andre undersøgelser³ have fundet⁴ at dette forbedrer tilliden uden at skade engagementet.

Når det kommer til reguleringer, har regeringer verden over også taget skridt til at fremme og regulere ansvarlig brug af kunstig intelligens.

I Den Europæiske Union (EU) er AI-loven fokuserer på gennemsigtighed, risikoklassificering og forpligtelser for højrisikosystemer.

Online Safety Act (OSA) har i mellemtiden givet kommunikationsregulatoren Ofcom bred beføjelse til at kræve, at platforme håndterer skadeligt eller vildledende indhold i Storbritannien, selvom politikere har opfordrede til en opgradering for mere effektivt at bekæmpe AI-drevet misinformation.

I USA har præsident Donald Trump udstedte en bekendtgørelse at fjerne barrierer for Amerikas lederskab inden for AI og offentliggjorde en handlingsplan for at sikre sin dominans i sektoren. Men i sidste måned sagde han bestilt en national standard, der gør det muligt for AI-virksomheder at innovere uden besværlige reguleringer.

I mellemtiden har Kinas rammer været en af ​​de mest detaljerede globalt set, når det gælder regulering af skabelse og distribution af AI-indhold. Dens Cyberspace Administration har implementeret obligatorisk mærkning af AI-genereret indhold, der kræver synlige ansvarsfraskrivelser og indlejrede metadata for at undgå misinformation og svindel.

Nogle regeringer presser også på for at undersøge platforme vedrørende AI-genereret desinformation. Senest opfordrede Polen Europa-Kommissionen til at undersøge TikTok for hosting af AI-indhold, som den anså for at være destabiliserende.

"Det afslørede indhold udgør en trussel mod den offentlige orden, informationssikkerheden og integriteten af ​​demokratiske processer i Polen og i hele Den Europæiske Union," udtalte viceminister for digitalisering, Dariusz Standerski, i et brev sendt til Kommissionen. "Fortællingernes karakter, den måde, de distribueres på, og brugen af ​​syntetiske audiovisuelle materialer indikerer, at platformen ikke overholder de forpligtelser, der er pålagt den," tilføjede han.

For nuværende er det politiske landskab for AI fortsat et voksende problem på verdensplan, fragmenteret på tværs af jurisdiktioner og kæmper for at holde trit med den hastighed, hvormed generative systemer omformer informationsstrømme, offentlig tillid og demokratisk diskurs.

Investering i AI-infrastruktur

I AI's verden, Palantir Technologies Inc. (PLTR ) skiller sig ud ved sin specialisering i AI-drevet big data-analyse.

Den har bygget fire primære softwareplatforme, herunder Apollo, Gotham, Foundry og Artificial Intelligence Platform (AIP). Apollo er et kontrollag, der harmoniserer leveringen af ​​nye funktioner, konfigurationer og sikkerhedsopdateringer for at sikre kontinuerlig drift af kritiske systemer. Gotham hjælper med at identificere mønstre i datasæt, og Foundry hjælper organisationer med at oprette et centralt operativsystem til deres data. AIP muliggør effektiv aktivering af store sprogmodeller og anden AI i enhver organisation.

Det er værd at bemærke, at Palantirs platforme bruges af regeringer og private virksomheder til at opdage misinformation, botnetværk og distribution af syntetiske medier. Disse værktøjer er bygget til at identificere autentisk vs. uautentisk adfærd på tværs af komplekse informationsøkosystemer.

Derudover bruges AI-analyser i stigende grad af organisationer og regeringer til at overvåge sundheds- og sikkerhedstrusler. Med en markedsværdi på 400 milliarder dollars handles PLTR-aktier i øjeblikket til 174 dollars, en stigning på over 110 % i det seneste år. Virksomheden har en EPS (TTM) på 0.43 og en P/E (TTM) på 392.56.

Hvad angår Palantirs finansielle situation, annoncerede de en omsætning på 1.181 milliarder dollars for tredje kvartal, der sluttede den 30. september 2025, hvilket repræsenterer en vækst på 63 % i forhold til året før og 18 % i forhold til kvartalet før, og dermed en ny omsætningsrekord i deres over tyveårige historie. Deres overskud for kvartalet var 476 millioner dollars.

"Vi er stadig helt i begyndelsen. Dette er stadig begyndelsen, det første øjeblik af det første kapitel."

– Medstifter og administrerende direktør Alex C. Karp, i en brev til aktionærerne

Især dens amerikanske omsætning steg med 77 % år-til-år og 20 % kvartal-til-kvartal til 883 millioner dollars. Dette inkluderer 486 millioner dollars i amerikanske offentlige indtægter, som steg med 52 % år-til-år og 14 % kvartal-til-kvartal, og 397 millioner dollars i amerikanske kommercielle indtægter, som steg med 121 % år-til-år og 29 % kvartal-til-kvartal. Karp kaldte det amerikanske kommercielle segment "en absolut kæmpestorhed", som han mener, "i sig selv vil blive en af ​​århundredets mest betydningsfulde forretningshistorier i det amerikanske økonomiske liv."

I denne periode voksede Palantirs kundeantal med 45 % i forhold til året før. Samtidig var den justerede frie pengestrøm 540 millioner dollars, den GAAP-indtjening pr. aktie var 0.18 dollars, og den justerede indtjening pr. aktie var 0.21 dollars. Koncernen sluttede kvartalet med 6.4 milliarder dollars i likvider, kontantekvivalenter og kortfristede amerikanske statsobligationer.

"Disse resultater gør den transformative effekt af at bruge AIP til at forstærke AI-udnyttelsen ubestridelig," bemærkede virksomheden.

For 4. kvartal 2025 forventer Palantir en omsætning på mellem 1.327 og 1.331 milliarder dollars og en justeret driftsindtjening på mellem 695 og 699 millioner dollars.

For hele 2025 har Palantir hævet sine omsætningsforventninger til 4.396-4.400 milliarder dollars og forventer en vækst på mindst 104 % i den amerikanske kommercielle omsætning til at overstige 1.433 milliarder dollars. I mellemtiden er forventningerne til det justerede driftsresultat hævet til 2.151-2.155 milliarder dollars, og forventningerne til det frie cash flow er justeret til 1.9-2.1 milliarder dollars.

Seneste Palantir Technologies Inc. (PLTR) aktienyheder

Konklusion

Sociale medier, som vi kender dem, er tydeligvis ved at være slut. Det er ikke det samme sted, hvor folk aktivt delte deres interesser, minder og ideer på en autentisk måde. Det, der engang var bygget på menneskelig forbindelse, er nu oversvømmet af automatiseret indhold og bots.

Selvom AI har frigjort hidtil uset kreativ gearing og økonomisk effektivitet, har den også undergravet de signaler, der engang gjorde online interaktion meningsfuld.

Fremtiden for sociale medier vil sandsynligvis splintres, hvor den ene vej fører mod hyperautomatiserede feeds optimeret til engagement, og den anden peger på verificerbart menneskelige rum, der prioriterer kultur, troværdighed og kontekst over rækkevidde.

Referencer

<sup>1. Jones, CR & Bergen, BK “Folk kan ikke skelne GPT-4 fra et menneske i en Turing-test.” arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. & Aiello, LM “Virkningen af ​​generativ AI på sociale medier: En eksperimentel undersøgelse.” arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Mærkning af syntetisk indhold: Brugeropfattelser af advarselsmærkningsdesign til AI-genereret indhold på sociale medier.” arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, SR “Undersøgelse af virkningen af ​​etikettedetaljer og indholdsindsatser på brugernes opfattelse af AI-genererede billeder på sociale medier.” arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>