AI formerer sosiale medier og netttilit

AI-innhold er overalt, og det skyver ut ekte menneskelige innhold og transformerer helt det sosiale medielandskapet. Dets innvirkning har nå gått utover plattformene og påvirker det politiske området, det bredere internettet og selv den globale økonomien.

Så, betyr dette at sosiale medier nærmer seg sin død? Vel, la oss finne ut.
Sammenfatning:
AI-generert innhold formerer sosiale medier ved å flomme plattformene med syntetisk media, underminere tillit og flytte meningsfulle menneskelige interaksjoner til private, verifiserbare rom.

Fra menneskelig tilknytning til syntetiske feeds

Det var omtrent fire tiår siden at tidlige former for nettbasert sosial interaksjon først oppstod, begynnende med bulletin board-systemer (BBS), Usenet og tidlige fora på slutten av 1970- og 1980-tallet. Imidlertid dukket de første gjenkjennelige sosiale nettverksplattformene ikke opp før på midten til slutten av 1990-tallet, og la grunnlaget for hva som senere skulle bli moderne sosiale medier.

Beginnen av det 21. århundret markerte den vidstrakte populariteten til sosiale medier med nettsider som Friendster, MySpace og Facebook. Denne moderne æraen til sosiale medier muliggjorde øyeblikkelig global tilknytning, og tillot mennesker å opprettholde forhold, få tilgang til sanntidsnyheter og bygge samfunn rundt felles interesser.

Men nå, bare noen få tiår senere, endrer sosiale medier ansikt med spredningen av AI-innhold.

Tradisjonelt har sosiale mediers kjernverdier vært tilknytning og uttrykk, men disse er blitt erstattet av automatisert masseproduksjon. Med folks feeds dominert av syntetisk støy, vokser frakobling og mistillit blant massene raskt.

Ifølge Instagrams toppsjef, er en omhyggelig kuratert grid nå en ting av fortiden.

I en melding på Threads, advarer Instagram-sjef Adam Mosseri om at oppblomstringen av AI har drept den polerte estetikken til det sosiale medienettstedet. All den sminke, hudglattning, vakre landskaper og høykontrastfotografering er nå “død”, ettersom “folk for det meste sluttet å dele personlige øyeblikk for å mate år siden”, sa han.

I stedet deles upolerte, “usminkede candider” via direkte meldinger.

Utbredelsen av AI-bilder betyr at skapere må skifte bort fra kuraterte grid og profesjonell fotografering til en “mer rå estetikk”, hvor folk ønsker “innhold som føles ekte” i stedet for smigrende bilder, som er “billig å produsere og kjedelig å forbruke”.

Snart vil vi se modning av AI-verktøy og med det utvidelse av rekken av estetikk de kan produsere, sa Mosseri, mens han noterte at sosiale mediefeeds allerede begynner å fylles opp med “syntetisk alt”, hvilket betyr at plattformene må utvikle seg for å håndtere flommen av AI-generert innhold.

I mellomtiden sa Substack-grunnlegger og CEO Chris Best sist år at AI-generert “søle” kunne flomme internettet, som “holder dumme mennesker klikkende”.

“Søle” ble valgt som årets ord for 2025 av det amerikanske ordboken Merriam-Webster, som definerer det som “digitalt innhold av lav kvalitet som produseres, vanligvis i mengde, ved hjelp av kunstig intelligens”.

Oppblomstringen av bot-internettet

Swipe for å rulle →

Data viser at nesten en tredjedel av all internett-trafikk kommer fra boter, automatiserte programvareprogrammer som etterligner menneskelig atferd.

Dette har ført til oppblomstringen av den døde internett-teorien, som hevder at internettet i hovedsak består av bot-aktivitet og algoritmer generert innhold designet for å kontrollere den globale befolkningen.

Reddit (RDDT )-grunnlegger Alexis Ohanian tror det er noen sannhet i ideen, og en ny æra av sosiale medier vil oppstå på grunn av dette. “Å ha bevis på liv, som live-seere og live-innhold, er virkelig verdifullt for å holde oppmerksomheten”, sa han i en podcast.

OpenAI-grunnlegger og CEO Sam Altman delte en lignende mening på X i fjor, og postet:

“Jeg tok aldri den døde internett-teorien så alvorlig, men det ser ut til at det faktisk er mange LLM-drevne Twitter-kontoer nå.”

Bot-aktivitet på X (tidligere kjent som Twitter) er faktisk blir verre. Det estimeres at omtrent 10% av X-kontoer er boter, totalt millioner av brukere.

I mellomtiden er over 20% av videoene som YouTubes algoritme viser nye brukere blitt funnet å være “AI-søle”.

I virkeligheten, blant de 15 000 mest populære YouTube-kanalene som ble undersøkt, inneholder 278 bare AI-generert innhold, og sammen har de samlet 221 millioner abonnenter og over 63 milliarder visninger, og genererer omtrent 117 millioner dollar i inntekt hvert år.

Dette er ikke begrenset til bare en eller en håndfull plattformer; det er sant for hele internettet.

Som 2025 Imperva Bad Bot Report noterte, har automatisert trafikk overtatt menneskelig trafikk, og utgjør 51% av all internett-trafikk, med 20% av dette kommer fra “dårlige boter” engasjert i skadelig aktivitet.

For noen måneder siden, noterte Marshall Miller, senior direktør for produkt i Wikimedia Foundation, den nonprofit-organisasjonen som kjører Wikipedia, at nettstedets menneskelig trafikk hadde sunket med omtrent 8% ettersom folk endrer måten de søker etter informasjon på nettet.

Fallet ble avdekket etter at stiftelsen endret måten de skilte mellom menneskelig og bot-trafikk for bedre å forstå virkelig leserskap og begrense tredjepartsboter som skraper deres data for kommersielle søke- og AI-verktøy.

“Vi tror at disse nedgangene reflekterer effekten av generativ AI og sosiale medier på hvordan folk søker etter informasjon, spesielt med søkemotorer som gir svar direkte til søkere, ofte basert på Wikipedia-innhold”, skrev Miller, og la til at dette ikke var noen overraskelse, ettersom søkemotorer stadig bruker AI for å gi svar direkte på resultatsidene, og yngre brukere vender seg til TikTok og YouTube.

Men dette betyr at samfunnet som skriver og redigerer Wikipedias innhold kan krympe. Som sådan oppfordrer plattformen søkemotorer, sosiale plattformer, LLM-er og AI-chatboter til å hjelpe med å drive mer trafikk tilbake til nettstedet.

Hvordan sosiale medieplattformer er med på å forsterke AI-innhold

Sosiale medieplattformer har blitt oversvømmet av AI-generert innhold takket være en eksplosiv vekst i generative verktøy-økosystemet.

For eksempel har verktøy som Sora, Midjourney, Pika, Runway og Stable Diffusion gjort det ekstremt enkelt å lage bilder og videoer av nesten hva som helst.

En voksende mengde løsninger gjør det også enklere for folk å øke visninger og tjene penger på creator-rewards-programmer eller affiliate-lenker. De genererer ikke bare innhold, men posterer det også direkte til plattformer som YouTube, for en avgift, og gjør mer enn 100 videoer per måned på en enkelt konto. Disse løsningene har som mål å automatisere hele prosessen med å være en innholdsskaper.

Men det er ikke alt. Forskere har funnet at plattformene faktisk har vært med på å forsterke AI-genererte innlegg. Plattformer som TikTok, Instagram og Meta (META ) tilbyr også innbyggede AI-funksjoner som lar brukerne generere visuelle effekter, manus eller remix eksisterende media uten ekstern programvare.

Meta har spesielt omfavnet AI-generert innhold med full kraft, og har sogar skapt sin egen søle. I 2023 lanserte selskapet AI-drevne profiler og annonserte planer om å befolke sin plattform med AI-karakterer. Men etter å ha mottatt betydelig bruker-tilbakevendt informasjon, avviklet Meta AI-profilene i fjor.

Instagram lanserte derimot en AI-studio som lar brukerne produsere egne chatboter, inkludert deres egne digitale versjoner.

Nylig avslørte TikTok at det var minst 1,3 milliarder AI-genererte innlegg på plattformen, med over 100 millioner stykker innhold lastet opp hver dag. For åpenhet merker TikTok AI-generert innhold og gir brukerne sogar muligheten til å redusere mengden AI-innhold de ser.

Men AI Forensics, en non-profit-organisasjon basert i Paris, fant at mindre enn 2% av kontoene hadde TikToks merke for AI-innhold. Av og til unnslipper de også plattformens moderering i måneder, til tross for å poste innhold som er forbudt av TikToks vilkår.

Ifølge rapporten drev over 350 AI-fokuserte kontoer 43 000 innlegg laget med hjelp av gen AI-verktøy, og samlet 4,5 milliarder visninger over en måned lang periode. Forskerne sa:

“Den utydelige linjen mellom ekte menneskelig og syntetisk AI-generert innhold på plattformen signaliserer en ny vending mot mer AI-generert innhold på brukernes feeds.”

Kan ekthet overleve automatisering?

En gang fullt av aktivitet, hvor venner samlet seg og delte spesielle øyeblikk, er sosiale nettverk nå i ferd med å bli til spøkelsesbyer, befolket av kunstige enheter som simulerer menneskelig engasjement og publiserer AI-generert innhold.

Selv om du kanskje tror du kan blokkere disse brukerne og innholdet, fant en studie¹ at mennesker ikke kan skille AI fra et menneske, selv når de er kjent med LLM-ens emne.

Studien evaluerte hvordan mennesker gjenkjenner AI-generert innhold og fant at menneskelig tekst ble nøyaktig gjenkjent som sådan bare 67% av tiden, mens GPT-4 ble feilaktig gjenkjent som menneske 54% av tiden.

Ifølge Instagrams Mosseri vil sosiale plattformer bare bli dårligere til å identifisere AI-generert media over tid, ettersom teknologien forbedres. En løsning kan være at kamerafabrikanter kryptografisk signerer bilder når de tas for å bevise at de er ekte.

Løsningen for å begrense botenes makt, ifølge Ohanian, er å se en ny generasjon av sosiale medier oppstå som er “verifiserbart menneskelig”.

Selv om fremgangen i teknologien har fått mesteparten av internettet optimalt for engasjement, som Best sammenlignet med “avhengighet av narkotika”, mener han at det kommer til å bli superchargert, og er likevel håpefull for en alternativ fremtid.

“Det andre formålet med media er kultur”, la han til, “det er noe som folk virkelig ønsker også”.

Ifølge Substacks Best har denne samme teknologien potensialet til å muliggjøre en “fremtid hvor det er mye mer kreativt løft” for uavhengige skapere. Den virkelige flaskehalsen for media, noterte han, er ikke innhold, av hvilket det finnes “ingen mangel”, men oppmerksomhet. “Vi har gått inn i en verden hvor oppmerksomhet er den sjeldne ressursen”, sa han.

“Vi har vunnet krigen mot kjedsomhet”, sa Best, og la til at “det finnes en enorm mangel på godt innhold”.

Midt i dette lanserte Wikimedia Deutschland Wikidata Embedding-prosjektet, som konverterte omtrent 120 millioner åpne datapunkter i Wikidata til et format som er enklere for LLM-er å bruke, og hjelper AI-systemer å få tilgang til høykvalitetsdata gratis og forbedre nøyaktigheten.

Regulering, forskning og kampen for tillit

Ettersom AI tar over internettet, har forskere tatt til å forstå dets innvirkning. En slik studie, med tittelen The Impact of Generative AI on Social Media: An Experimental Study², undersøkte hvordan AI-hjelp påvirker innholdproduksjon og brukeropplevelser, og fant at AI-verktøy er nyttige for å øke innholdsvolum og engasjement, men redusere oppfattet kvalitet og ekthet.

Basert på funnene anbefalte de at sosiale medieplattformer, politikere og interessenter designe verktøy med brukerfokusert tilpasning, inkorporerer kontekstfølsomhet og prioriterer intuitive brukergrensesnitt for en etisk og effektiv integrering av gen AI i sosiale medier.

Forskerne anbefalte også å sikre åpenbaring av AI-generert innhold, ettersom andre studier³ har funnet⁴ at dette forbedrer tillit uten å skade engasjement.

Når det gjelder reguleringer, har myndighetene rundt om i verden også tatt skritt for å fremme og regulere ansvarlig bruk av kunstig intelligens.

I Den europeiske union (EU) fokuserer AI-loven på åpenhet, risikoklassifisering og plikter for høyrisikosystemer.

Lov om nett-sikkerhet (OSA) har derimot gitt kommunikasjonsmyndigheten Ofcom vid omfattende myndighet til å kreve at plattformene håndterer skadelig eller misvisende innhold i Storbritannia, selv om politikere har krevd en oppgradering for å håndtere AI-drevet desinformasjon mer effektivt.

I USA har president Donald Trump utstedt en presidentordre for å fjerne hindringer for amerikansk lederskap i AI, og har publisert en handlingsplan for å sikre dominans i sektoren. Deretter bestemte han en nasjonal standard som muliggjør at AI-selskaper kan innovere uten tungvinte reguleringer.

I mellomtiden har Kinas ramme vært en av de mest detaljerte globalt for å regulere AI-innholdskaping og -distribusjon. Landets cyberspace-administrasjon har implementert obligatorisk merking av AI-generert innhold, og krever synlige advarsler og innbyggede metadata for å unngå desinformasjon og svindel.

Noen myndigheter driver også etterforskning av plattformer over AI-generert desinformasjon. Nylig oppfordret Polen Den europeiske kommisjon til å undersøke TikTok for å husere AI-innhold som de mente var destabiliserende.

“Den avslørede innholdet utgjør en trussel mot offentlig orden, informasjonssikkerhet og integriteten til demokratiske prosesser i Polen og i hele Den europeiske union”, sa visedigitaliseringsminister Dariusz Standerski i et brev sendt til kommisjonen. “Naturerne til narrativene, måten de distribueres på og bruken av syntetiske audiovisuelle materialer indikerer at plattformen ikke er i stand til å møte de plikter som er pålagt den”, la han til.

For nå er politikklandskapet for AI et fremvoksende problem globalt, fragmentert over jurisdiksjoner og sliter med å holde pace med hastigheten som generative systemer formerer informasjonsstrømmer, offentlig tillit og demokratisk diskurs.

Investering i AI-infrastruktur

I verden av AI, Palantir Technologies Inc. (PLTR ) skiller seg ut med sin spesialisering i AI-drevne big data-analyser.

Selskapet har bygget fire hovedprogramvareplattformer, inkludert Apollo, Gotham, Foundry og Artificial Intelligence Platform (AIP). Apollo er en kontrolllag som harmoniserer leveringen av nye funksjoner, konfigurasjoner og sikkerhetsoppdateringer for å sikre kontinuerlig drift av kritiske systemer. Gotham hjelper med å identifisere mønster innen datasett, og Foundry hjelper organisasjoner med å lage et sentralt operasjonssystem for deres data. AIP muliggjør effektiv aktivering av store språkmodeller og andre AI innen enhver organisasjon.

Palantirs plattformer brukes av myndigheter og private bedrifter til å påvise desinformasjon, botnettverk og syntetisk mediadistribusjon. Disse verktøyene er bygget for å identifisere ekte kontra uekte atferd innen komplekse informasjonsøkosystemer.

I tillegg brukes AI-analyser stadig mer av organisasjoner og myndigheter til å overvåke helse- og sikkerhetstrusler. Med en markedsværdi på 400 milliarder dollar, handles PLTR-aksjer for øyeblikket for 174 dollar, opp over 110% i løpet av det siste året. Selskapet har en EPS (TTM) på 0,43 og en P/E (TTM) på 392,56.

Ifølge selskapets finansielle stilling, annonserte Palantir en omsetning på 1,181 milliarder dollar for tredje kvartal som sluttede 30. september 2025, og representerte en økning på 63% fra året før og 18% fra kvartal til kvartal, og satte en ny omsetningsrekord i selskapets over 20-årige historie. Selskapets fortjeneste for kvartalen var 476 millioner dollar.

“Vi er fortsatt i begynnelsen av alt. Dette er bare begynnelsen, det første øyeblikket i det første kapitlet.”

– Grunnlegger og CEO Alex C. Karp, i et brev til aksjonærer

US-omsetningen til selskapet økte spesielt 77% fra året før og 20% fra kvartal til kvartal, til 883 millioner dollar. Dette inkluderer 486 millioner dollar i US-myndighetsomsetning, som hoppet 52% fra året før og 14% fra kvartal til kvartal, og 397 millioner dollar i US-kommersiell omsetning, som økte 121% fra året før og 29% fra kvartal til kvartal. Karp kalte den US-kommersielle delen “en absolutt juggernaut” som han mener “vil bli en av de viktigste forretningshistoriene i det amerikanske økonomiske livet i århundret”.

Under denne perioden økte kundetallet til Palantir med 45% fra året før. Samtidig var selskapets justerte frie kontantstrøm 540 millioner dollar, GAAP-eps var 0,18 dollar, og justert eps var 0,21 dollar. Selskapet avsluttet kvartalen med 6,4 milliarder dollar i kontanter, kontantekvivalenter og kortfristige US-treasury-papirer.

“Disse resultatene gjør den transformasjonelle effekten av å bruke AIP for å forbedre AI-leverandøren uimotståelig”, noterte selskapet.

For fjerde kvartal 2025 forventer Palantir en omsetning på mellom 1,327 og 1,331 milliarder dollar, og justert inntekt fra drift på mellom 695 og 699 millioner dollar.

For hele året 2025 har Palantir økt omsetningsguiden til 4,396-4,400 milliarder dollar, og projiserer en vekst på minst 104% i US-kommersiell omsetning til over 1,433 milliarder dollar. Samtidig har selskapet økt guiden for justert inntekt fra drift til 2,151-2,155 milliarder dollar, og justert fri kontantstrøm til 1,9-2,1 milliarder dollar.
Aksjonær-takeway:
Ettersom AI-innhold vokser raskere enn menneskelig oppmerksomhet, øker etterspørselen etter infrastruktur som styrer ekthet, moderering og tillit, og skaper langsiktige muligheter utover forbrukersosiale plattformer.

Siste Palantir Technologies Inc. (PLTR) aksjenyheter

Konklusjon

Sosiale medier, som vi kjenner dem, er tydelig på vei mot slutten. De er ikke lenger det samme stedet hvor folk aktivt delte sine interesser, minner og ideer på en ekte måte. Det som en gang var bygget på menneskelig tilknytning, er nå overtatt av automatisert innhold og boter.

Selv om AI har låst opp utenfor sammenligning kreativt løft og økonomisk effisiens, har det også underminert de samme signalene som en gang gjorde nettbasert interaksjon meningsfull.

Fremtiden for sosiale medier vil sannsynligvis splittes, med en vei som peker mot hyper-automatiserte feeds optimalisert for engasjement, og en annen som peker mot verifiserbart menneskelig rom som prioriterer kultur, troverdighet og kontekst over rekkevidde.

Referanser

<sup>1. Jones, C. R. & Bergen, B. K. “People cannot distinguish GPT-4 from a human in a Turing test.” arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “The Impact of Generative AI on Social Media: An Experimental Study.” arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.” arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.” arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>