I contenuti generati dall’IA sono ovunque, soppiantando i contenuti autentici umani e trasformando completamente il panorama dei social media. La sua influenza si è ora estesa oltre le piattaforme per impattare l’arena politica, il più ampio Internet e persino l’economia globale.

Quindi, questo significa che i social media si stanno avvicinando alla loro fine? Bene, scopriamolo.

Dalla Connessione Umana ai Feed Sintetici

Sono passati circa quattro decenni da quando emersero le prime forme di interazione sociale online, a partire dai bulletin board system (BBS), Usenet e i primi forum alla fine degli anni ’70 e negli anni ’80. Tuttavia, le prime piattaforme riconoscibili di social networking non apparvero fino alla metà/fine degli anni ’90, gettando le basi per quello che in seguito sarebbe diventato il social media moderno.

L’inizio del XXI secolo ha segnato la popolarità diffusa dei social media con siti come Friendster, MySpace e Facebook. Questa era moderna dei social media ha consentito una connessione globale istantanea, permettendo alle persone di mantenere relazioni, accedere a notizie in tempo reale e costruire comunità attorno a interessi condivisi.

Ma ora, solo un paio di decenni dopo, il volto dei social media sta cambiando con la proliferazione di contenuti di IA.

Tradizionalmente, i valori fondamentali dei Social Media sono stati la connessione e l’espressione, ma questi sono stati sostituiti dalla produzione di massa automatizzata. Con i feed delle persone dominati da rumore sintetico, il disimpegno e la sfiducia tra le masse stanno crescendo rapidamente.

Secondo il dirigente di alto livello di Instagram, una griglia attentamente curata è ormai un ricordo del passato.

In messaggio su Threads, il capo di Instagram Adam Mosseri ha avvertito che l’ascesa dell’IA ha ucciso l’estetica raffinata del sito di social media. Tutto quel trucco, la pelle levigata, i paesaggi bellissimi e la fotografia ad alto contrasto sono ora “morti”, poiché “le persone hanno sostanzialmente smesso di condividere momenti personali nel feed anni fa”, ha detto.

Invece, vengono condivisi scatti spontanei e grezzi, “non lusinghieri”, tramite messaggi diretti.

La pervasività delle immagini generate dall’IA significa che i creatori devono allontanarsi dalle griglie curate e dalla fotografia in stile professionale per abbracciare un'”estetica più grezza”, con le persone che desiderano “contenuti che sembrano reali” piuttosto che immagini lusinghiere, che sono “economiche da produrre e noiose da consumare”.

Presto vedremo la maturazione degli strumenti di IA e con essa l’espansione della gamma di estetiche che possono produrre, ha detto Mosseri, notando che già i feed dei social media stanno iniziando a riempirsi di “tutto sintetico”, il che significa che le piattaforme devono evolversi per gestire l’inondazione di contenuti generati dall’IA.

Nel frattempo, il co-fondatore e CEO di Substack Chris Best ha dichiarato alla fine dello scorso anno che lo “slop” generato dall’IA potrebbe inondare Internet, il che “fa continuare a cliccare le persone stupide”.

“Slop” è stata scelta come parola dell’anno per il 2025 dal dizionario americano Merriam-Webster, che la definisce come “contenuto digitale di bassa qualità che viene prodotto, solitamente in quantità, per mezzo dell’intelligenza artificiale”.

L’Ascesa dell’Internet dei Bot

Zum Scrollen wischen →

I dati mostrano che quasi un terzo di tutto il traffico internet proviene da bot, programmi software automatizzati che imitano il comportamento umano.

Ciò ha dato origine alla teoria di Internet morto, secondo la quale Internet consiste principalmente in attività di bot e contenuti generati algoritmicamente progettati per controllare la popolazione globale.

Der Mitbegründer von Reddit (RDDT + 2.76%) Alexis Ohanian crede che ci sia del vero in questa idea, e che ne emergerà una nuova era dei social media. “Avere una prova di vita, come spettatori in diretta e contenuti in diretta, è davvero fottutamente prezioso per mantenere l’attenzione”, ha dichiarato in un podcast.

Il fondatore e CEO di OpenAI, Sam Altman, ha condiviso una visione simile su X l’anno scorso, postando:

“Non ho mai preso troppo sul serio la teoria di Internet morto, ma sembra che ora ci siano davvero molti account Twitter gestiti da LLM.”

L’attività dei bot su X (precedentemente noto come Twitter) in realtà sta peggiorando. Si stima che circa il 10% degli account X siano bot, per un totale di milioni di utenti.

Nel frattempo, oltre il 20% dei video che l’algoritmo di YouTube mostra ai nuovi utenti è stato gefunden essere “spazzatura AI”.

Infatti, tra i 15.000 canali YouTube più popolari esaminati, 278 contengono solo contenuti generati da IA, e insieme hanno accumulato 221 milioni di iscritti e più di 63 miliardi di visualizzazioni, generando circa 117 milioni di dollari di ricavi ogni anno.

Questo non è limitato a una sola o a una manciata di piattaforme; è vero per l’intera internet.

Come ha notato il Rapporto Imperva Bad Bot 2025, il traffico automatizzato ha superato quello umano, rappresentando il 51% di tutto il traffico internet, con il 20% di quello proveniente da “bot cattivi” impegnati in attività dannose.

Alcuni mesi fa, Marshall Miller, il direttore senior del prodotto della Wikimedia Foundation, l’organizzazione no-profit che gestisce Wikipedia, ha anche notato che il traffico umano del sito è diminuito di circa l’8% poiché le persone cambiano il modo in cui cercano informazioni online.

Il calo è emerso dopo che la Fondazione ha cambiato il modo in cui distingue tra traffico umano e bot per comprendere meglio il reale pubblico di lettori e limitare i bot di terze parti che estraggono i suoi dati per strumenti di ricerca commerciale e IA.

“Crediamo che questi cali riflettano l’impatto dell’IA generativa e dei social media sul modo in cui le persone cercano informazioni, specialmente con i motori di ricerca che forniscono risposte direttamente ai ricercatori, spesso basate sui contenuti di Wikipedia”, ha scritto Miller, aggiungendo che ciò non è stata una vera sorpresa poiché i motori di ricerca utilizzano sempre più l’IA per avere risposte direttamente nelle pagine dei risultati e gli utenti più giovani si rivolgono a TikTok e YouTube.

Ma questo significa che la comunità che scrive e modifica i contenuti di Wikipedia potrebbe ridursi. Pertanto, la piattaforma sta esortando i motori di ricerca, le piattaforme social, gli LLM e i chatbot AI ad aiutare a portare più traffico sul sito.

Come le Piattaforme di Social Media Stanno Amplificando i Contenuti AI

Le piattaforme di social media sono state sommerse da contenuti generati da IA grazie a una crescita esplosiva nell’ecosistema degli strumenti generativi.

Ad esempio, strumenti come Sora, Midjourney, Pika, Runway e Stable Diffusion hanno reso estremamente facile creare immagini e video di quasi qualsiasi cosa.

Un numero crescente di soluzioni rende persino più facile per le persone aumentare le visualizzazioni e monetizzare con programmi di ricompensa per creatori o link di affiliazione. Non solo generano automaticamente, ma pubblicano anche contenuti direttamente su piattaforme come YouTube, a pagamento, facendo più di 100 video al mese su un singolo account. Queste soluzioni mirano ad automatizzare l’intero processo dell’essere un creatore di contenuti.

Ma non è tutto. I ricercatori hanno unbedeckt che le piattaforme hanno effettivamente promosso i post generati da IA. Piattaforme come TikTok, Instagram e Meta (META + 1.69%) offrono persino funzionalità AI native che consentono agli utenti di generare elementi visivi, script o remixare media esistenti senza software esterni.

Meta, in particolare, ha abbracciato i contenuti generati da IA con pieno entusiasmo, creando persino la propria spazzatura. Nel 2023, l’azienda ha introdotto profili alimentati da IA e ha annunciato piani per popolare la sua piattaforma con personaggi AI. Ma dopo aver ricevuto una significativa reazione negativa degli utenti, Meta ha eliminato i profili AI lo scorso anno.

Instagram, nel frattempo, ha lanciato uno studio AI che consente agli utenti di produrre chatbot personalizzati, incluse le proprie versioni digitali.

Recentemente, TikTok ha rivelato che c’erano almeno 1,3 miliardi di post generati da IA sulla sua piattaforma, con più di 100 milioni di contenuti caricati ogni giorno. Per trasparenza, TikTok etichetta i contenuti generati da IA e dà persino agli utenti la possibilità di ridurre la quantità di contenuti AI che vedono.

Ma AI Forensics, una base a ParigiUna ricerca di NewsGuard, un’organizzazione no-profit, ha rilevato che meno del 2% degli account aveva l’etichetta TikTok per i contenuti di IA. A volte, sfuggono anche alla moderazione della piattaforma per mesi, nonostante pubblichino contenuti vietati dai termini di servizio di TikTok.

Secondo il rapporto, oltre 350 account focalizzati sull’IA hanno pubblicato 43.000 post realizzati con l’aiuto di strumenti di IA generativa, accumulando 4,5 miliardi di visualizzazioni in un periodo di un mese. I ricercatori hanno dichiarato:

“La linea sfocata tra contenuti autentici umani e contenuti sintetici generati dall’IA sulla piattaforma segnala una nuova svolta verso più contenuti generati dall’IA nei feed degli utenti.”

L’Autenticità Può Sopravvivere all’Automazione?

Un tempo brulicanti di attività reale, dove gli amici si riunivano e condividevano momenti speciali, i social network stanno ora diventando città fantasma, popolate da entità artificiali che simulano l’interazione umana e pubblicano contenuti generati dall’IA.

Anche se potresti pensare di poter semplicemente bloccare quegli utenti e quei contenuti, uno studio ha scoperto¹ che le persone non riescono a distinguere l’IA da un essere umano, anche quando hanno familiarità con l’argomento del LLM.

Lo studio ha valutato quanto successo hanno gli esseri umani nel rilevare i contenuti generati dall’IA e ha scoperto che il testo umano veniva riconosciuto accuratamente come tale solo il 67% delle volte, mentre GPT-4 veniva erroneamente rilevato come umano il 54% delle volte.

Secondo Mosseri di Instagram, le piattaforme social peggioreranno solo nel tempo nell’identificare i media generati dall’IA man mano che la tecnologia migliora. Una soluzione potrebbe essere che le aziende di fotocamere appongano firme crittografiche alle foto quando vengono scattate per dimostrare che sono reali.

La soluzione per mitigare il potere dei bot, secondo Ohanian, è vedere “emergere una nuova generazione di social media che sia verificabilmente umana”.

Mentre i progressi tecnologici hanno ottimizzato gran parte di internet per l’engagement, che Best ha paragonato a una “dipendenza da droghe”, e crede che “verrà potenziato”, è ancora speranzoso per un futuro alternativo.

“L’altro scopo dei media è la cultura”, ha aggiunto, “Anche questo è qualcosa che le persone vogliono davvero, davvero”.

Secondo Best di Substack, questa stessa tecnologia ha il potenziale per consentire un “futuro in cui c’è una leva creativa molto maggiore” per i creatori indipendenti. Il vero collo di bottiglia per i media, ha notato, non è il contenuto, di cui “non c’è scarsità”, ma l’attenzione. “Siamo entrati in un mondo in cui l’attenzione è la risorsa scarsa”, ha detto.

“Abbiamo vinto la guerra contro la noia”, ha detto Best, aggiungendo che “c’è una grande scarsità di buoni contenuti”.

In mezzo a tutto ciò, Wikimedia Deutschland ha lanciato il Wikidata Embedding Project, che ha convertito circa 120 milioni di punti dati aperti in Wikidata in un formato più facile da usare per i LLM, aiutando i sistemi di IA ad accedere gratuitamente a dati di qualità superiore e a migliorare la loro accuratezza.

Regolamentazione, Ricerca e la Lotta per la Fiducia

Mentre l’IA prende il controllo di internet, i ricercatori si sono dedicati a comprenderne l’impatto. Uno di questi studi, intitolato Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² ha esaminato come l’assistenza dell’IA influisca sulla produzione di contenuti e sulle percezioni degli utenti e ha scoperto che gli strumenti di IA sono utili per aumentare il volume dei contenuti e l’engagement ma diminuiscono la qualità e l’autenticità percepite.

Sulla base dei loro risultati, hanno raccomandato che le piattaforme di social media, i responsabili politici e le parti interessate progettino strumenti con personalizzazione incentrata sull’utente, incorporando la sensibilità al contesto e dando priorità a interfacce utente intuitive per un’integrazione etica ed efficace dell’IA generativa nei social media.

I ricercatori hanno anche raccomandato di garantire una divulgazione trasparente dei contenuti generati dall’IA, poiché altri Studium³ haben unbedeckt⁴ che questo migliora la fiducia senza danneggiare l’engagement.

Per quanto riguarda le regolamentazioni, i governi di tutto il mondo hanno anche preso provvedimenti per promuovere e regolamentare l’uso responsabile dell’intelligenza artificiale.

Nell’Unione Europea (UE), l’KI-Gesetz si concentra sulla trasparenza, la classificazione del rischio e gli obblighi per i sistemi ad alto rischio.

L’Online Safety Act (OSA), nel frattempo, ha conferito all’organismo di regolamentazione delle comunicazioni Ofcom ampi poteri per richiedere alle piattaforme di gestire contenuti dannosi o fuorvianti nel Regno Unito, sebbene i responsabili politici abbiano invocato un aggiornamento per affrontare più efficacemente la disinformazione guidata dall’IA.

Negli Stati Uniti, il presidente Donald Trump ha emesso un Ordine Esecutivo per rimuovere gli ostacoli alla leadership americana nell’IA e ha pubblicato un piano d’azione per garantirne il dominio nel settore. D’altra parte, il mese scorso, ha bestellt uno standard nazionale che consenta alle aziende di IA di innovare senza regolamentazioni gravose.

Nel frattempo, la Cina?

Sbposts__content/button_label:

محتوى الذكاء الاصطناعي موجود في كل مكان، مما يحل محل المحتوى البشري الأصلي ويحول مشهد وسائل التواصل الاجتماعي تمامًا. امتد تأثيره الآن إلى ما هو أبعد من المنصات ليؤثر على الساحة السياسية، والإنترنت الأوسع، وحتى الاقتصاد العالمي.

إذًا، هل يعني هذا أن وسائل التواصل الاجتماعي تقترب من نهايتها؟ حسنًا، دعنا نكتشف.

من التواصل البشري إلى الخلاصات الاصطناعية

كان ذلك قبل ما يقرب من أربعة عقود عندما ظهرت الأشكال الأولى للتفاعل الاجتماعي عبر الإنترنت، بدءًا من أنظمة لوحات الإعلانات (BBS) و Usenet والمنتديات المبكرة في أواخر السبعينيات والثمانينيات. ومع ذلك، لم تظهر أولى منصات الشبكات الاجتماعية المعروفة حتى منتصف إلى أواخر التسعينيات، مما وضع الأساس لما سيصبح لاحقًا وسائل التواصل الاجتماعي الحديثة.

شهدت بداية القرن الحادي والعشرين الانتشار الواسع لوسائل التواصل الاجتماعي مع مواقع مثل Friendster و MySpace و Facebook. مكّن هذا العصر الحديث لوسائل التواصل الاجتماعي من الاتصال العالمي الفوري، مما سمح للناس بالحفاظ على العلاقات، والوصول إلى الأخبار في الوقت الفعلي، وبناء مجتمعات حول الاهتمامات المشتركة.

لكن الآن، بعد بضعة عقود فقط، يتغير وجه وسائل التواصل الاجتماعي مع انتشار محتوى الذكاء الاصطناعي.

تقليديًا، كانت القيم الأساسية لوسائل تواصل الاجتماعي هي التواصل والتعبير، لكنها استُبدلت بالإنتاج الجماعي الآلي. مع هيمنة الضجيج الاصطناعي على خلاصات المستخدمين، يتزايد الانسحاب وانعدام الثقة بين الجماهير بسرعة.

وفقًا لأحد كبار المسؤولين التنفيذيين في Instagram، فإن الشبكة المُنسقة بعناية أصبحت الآن شيئًا من الماضي.

في رسالة على Threads، حذر رئيس Instagram آدم موسيري من أن صعود الذكاء الاصطناعي قتل الجمالية المصقولة لموقع التواصل الاجتماعي. كل ذلك المكياج، وتنعيم البشرة، والمناظر الطبيعية الجميلة، والتصوير الفوتوغرافي عالي التباين أصبح الآن “ميتًا”، حيث قال إن “الناس توقفوا إلى حد كبير عن مشاركة اللحظات الشخصية في الخلاصة منذ سنوات.”

بدلاً من ذلك، يتم مشاركة الصور العفوية “غير المثالية” عبر الرسائل المباشرة.

يعني انتشار صور الذكاء الاصطناعي أن على المبدعين التحول بعيدًا عن الشبكات المُنسقة والتصوير الفوتوغرافي الاحترافي إلى “جمالية أكثر خامًا”، حيث يريد الناس “محتوى يشعر بأنه حقيقي” بدلاً من الصور المثالية، والتي هي “رخيصة الإنتاج ومملة للاستهلاك”.

قال موسيري إننا سنرى قريبًا نضج أدوات الذكاء الاصطناعي ومع ذلك توسيع نطاق الجماليات التي يمكنها إنتاجها، مع الإشارة إلى أن خلاصات وسائل التواصل الاجتماعي بدأت بالفعل تمتلئ بـ “كل شيء اصطناعي”، مما يعني أن المنصات تحتاج إلى التطور للتعامل مع فيضان المحتوى المُولد بالذكاء الاصطناعي.

في الوقت نفسه، قال المؤسس المشارك والرئيس التنفيذي لـ Substack كريس بيست في أواخر العام الماضي إن “الهراء” المُولد بالذكاء الاصطناعي يمكن أن يغمر الإنترنت، مما “يبقي الأشخاص الأغبياء ينقرون”.

تم اختيار كلمة “Slop” كـ كلمة العام لعام 2025 من قبل القاموس الأمريكي Merriam-Webster، الذي يعرفها على أنها “محتوى رقمي منخفض الجودة يتم إنتاجه، عادة بكميات كبيرة، بواسطة الذكاء الاصطناعي.”

صعود إنترنت البوتات

اسحب للتمرير →

تظهر البيانات أن ما يقرب من ثلث حركة المرور على الإنترنت تأتي من البوتات، وهي برامج آلية تحاكي السلوك البشري.

أدى هذا إلى ظهور نظرية الإنترنت الميت، التي ترى أن الإنترنت تتكون في المقام الأول من نشاط البوتات والمحتوى المُولد خوارزميًا المصمم للسيطرة على السكان عالميًا.

يعتقد المؤسس المشارك لـ Reddit (RDDT + 2.76%) أليكسيس أوهانيان أن هناك بعض الحقيقة في الفكرة، وأن عصرًا جديدًا لوسائل التواصل الاجتماعي سينبثق بسببها. قال في بودكاست: “إن وجود دليل على الحياة، مثل المشاهدين المباشرين والمحتوى المباشر، له قيمة كبيرة حقًا للاحتفاظ بالانتباه”.

شارك سام ألتمان، مؤسس والرئيس التنفيذي لـ OpenAI، وجهة نظر مماثلة على X العام الماضي، حيث نشر:

“لم آخذ نظرية الإنترنت الميت على محمل الجد أبدًا، ولكن يبدو أن هناك الكثير من حسابات Twitter التي تديرها نماذج اللغة الكبيرة الآن.”

نشاط البوتات على X (المعروف سابقًا باسم Twitter) يزداد سوءًا في الواقع. يُقدر أن حوالي 10% من حسابات X هي بوتات، بإجمالي ملايين المستخدمين.

وفي الوقت نفسه، وُجد أن أكثر من 20% من مقاطع الفيديو التي تظهرها خوارزمية YouTube للمستخدمين الجدد هي “نفاية ذكاء اصطناعي”.

في الواقع، من بين 15000 قناة YouTube الأكثر شيوعًا التي تم مسحها، تحتوي 278 قناة على محتوى مولّد بالذكاء الاصطناعي فقط، وقد جمعت معًا 221 مليون مشترك وأكثر من 63 مليار مشاهدة، مما يدر حوالي 117 مليون دولار من الإيرادات سنويًا.

هذا لا يقتصر على منصة واحدة أو حفنة منها فقط؛ بل ينطبق على الإنترنت بأكمله.

كما أشار تقرير Imperva للبوتات الضارة لعام 2025، فقد تجاوزت حركة المرور الآلية حركة المرور البشرية، ممثلة 51% من إجمالي حركة مرور الإنترنت، مع 20% من ذلك القادم من “البوتات الضارة” المنخرطة في نشاط خبيث.

قبل بضعة أشهر، لاحظ مارشال ميلر، المدير الأول للمنتج في مؤسسة ويكيميديا، المؤسسة غير الربحية التي تدير ويكيبيديا، أيضًا أن حركة المرور البشرية على الموقع انخفضت بنحو 8% مع تغير طريقة بحث الناس عن المعلومات عبر الإنترنت.

تم الكشف عن هذا الانخفاض بعد أن غيرت المؤسسة طريقة تمييزها بين حركة المرور البشرية والآلية لفهم جمهور القراء الحقيقي بشكل أفضل والحد من قيام بوتات الطرف الثالث بجمع بياناتها لأدوات البحث التجارية والذكاء الاصطناعي.

كتب ميلر: “نعتقد أن هذه الانخفاضات تعكس تأثير الذكاء الاصطناعي التوليدي ووسائل التواصل الاجتماعي على كيفية بحث الناس عن المعلومات، خاصة مع قيام محركات البحث بتقديم إجابات مباشرة للباحثين، غالبًا بناءً على محتوى ويكيبيديا”، مضيفًا أن هذا لم يكن مفاجأة حقًا مع استخدام محركات البحث للذكاء الاصطناعي بشكل متزايد لعرض الإجابات مباشرة على صفحات النتائج وتحول المستخدمين الأصغر سنًا إلى TikTok وYouTube.

لكن هذا يعني أن المجتمع الذي يكتب ويحرر محتوى ويكيبيديا قد يتقلص. على هذا النحو، تحث المنصة محركات البحث ومنصات التواصل الاجتماعي ونماذج اللغة الكبيرة وروبوتات الدردشة الذكية للمساعدة في توجيه المزيد من حركة المرور إلى الموقع.

كيف تضخم منصات التواصل الاجتماعي محتوى الذكاء الاصطناعي

لقد غُمرت منصات التواصل الاجتماعي بمحتوى مولّد بالذكاء الاصطناعي بفضل النمو المتفجر في نظام أدوات التوليد.

على سبيل المثال، جعلت أدوات مثل Sora وMidjourney وPika وRunway وStable Diffusion إنشاء الصور ومقاطع الفيديو لأي شيء تقريبًا أمرًا في غاية السهولة.

عدد متزايد من الحلول يجعل من السهل على الناس حتى زيادة المشاهدات وتحقيق الربح من برامج مكافآت المبدعين أو الروابط التابعة. فهي لا تولد المحتوى تلقائيًا فحسب، بل تنشره مباشرة على منصات مثل YouTube، مقابل رسوم، بأكثر من 100 مقطع فيديو شهريًا على حساب واحد. تهدف هذه الحلول إلى أتمتة العملية الكاملة لكونك منشئ محتوى.

لكن هذا ليس كل شيء. وجد الباحثون أن المنصات كانت في الواقع تعزز المنشورات المولدة بالذكاء الاصطناعي. تقدم منصات مثل TikTok وInstagram و Meta (META + 1.69%) ميزات ذكاء اصطناعي أصلية تسمح للمستخدمين بإنشاء مرئيات أو نصوص أو إعادة مزج الوسائط الحالية دون برامج خارجية.

تبنت Meta، على وجه الخصوص، المحتوى المولد بالذكاء الاصطناعي بحماس كامل، حتى أنها خلقت نفايتها الخاصة. في عام 2023، قدمت الشركة ملفات تعريف مدعومة بالذكاء الاصطناعي وأعلنت عن خطط لملء منصتها بشخصيات ذكاء اصطناعي. ولكن بعد تلقي رد فعل عنيف كبير من المستخدمين، ألغت Meta ملفات تعريف الذكاء الاصطناعي العام الماضي.

أطلقت Instagram، في الوقت نفسه، استوديو ذكاء اصطناعي يمكن المستخدمين من إنتاج روبوتات دردشة مخصصة، بما في ذلك نسخهم الرقمية الخاصة.

كشف TikTok مؤخرًا عن وجود ما لا يقل عن 1.3 مليار منشور مولّد بالذكاء الاصطناعي على منصته، مع تحميل أكثر من 100 مليون قطعة محتوى يوميًا. من أجل الشفافية، يضع TikTok علامات على المحتوى المولد بالذكاء الاصطناعي ويوفر للمستخدمين حتى خيار تقليل كمية محتوى الذكاء الاصطناعي الذي يرونه.

لكن AI Forensics، وهي منظمة مقرها باريسوجدت دراسة أجرتها NewsGuard، وهي مؤسسة غير ربحية تراقب المعلومات المضللة، أن أقل من 2٪ من الحسابات حملت علامة TikTok للمحتوى الذي تم إنشاؤه بالذكاء الاصطناعي. وفي بعض الأحيان، تفلت هذه الحسابات أيضًا من رقابة المنصة لشهور، على الرغم من نشر محتوى محظور بموجب شروط خدمة TikTok.

ووفقًا للتقرير، قام أكثر من 350 حسابًا تركز على الذكاء الاصطناعي بدفع 43,000 منشور تم إنشاؤها بمساعدة أدوات الذكاء الاصطناعي التوليدي، مجمعةً 4.5 مليار مشاهدة على مدار شهر. وقال الباحثون:

“يشير الخط الضبابي بين المحتوى البشري الأصلي والمحتوى الاصطناعي المُولد بالذكاء الاصطناعي على المنصة إلى منعطف جديد نحو المزيد من المحتوى المُولد بالذكاء الاصطناعي في خلاصات المستخدمين.”

هل يمكن أن تنجو الأصالة من الأتمتة؟

بعد أن كانت تعج بالنشاط الحقيقي، حيث يجتمع الأصدقاء ويشاركون اللحظات الخاصة، أصبحت الشبكات الاجتماعية الآن مدن أشباح، تسكنها كيانات اصطناعية تحاكي التفاعل البشري وتنشر محتوى مُولدًا بالذكاء الاصطناعي.

بينما قد تعتقد أنه يمكنك ببساطة حظر هؤلاء المستخدمين والمحتوى، وجدت eine Studie¹ أن الناس لا يستطيعون التمييز بين الذكاء الاصطناعي والإنسان، حتى عندما يكونون على دراية بموضوع نموذج اللغة الكبيرة.

قيمت الدراسة مدى نجاح البشر في الكشف عن المحتوى المُولد بالذكاء الاصطناعي ووجدت أن النص البشري تم التعرف عليه بدقة على هذا النحو فقط 67٪ من الوقت، بينما تم اكتشاف GPT-4 بشكل غير دقيق على أنه بشري بنسبة 54٪ من الوقت.

وفقًا لموزري من Instagram، ستزداد منصات التواصل الاجتماعي سوءًا في تحديد الوسائط المُولدة بالذكاء الاصطناعي مع مرور الوقت مع تحسن التكنولوجيا. أحد الحلول الممكنة هو أن تقوم شركات الكاميرات بالتوقيع التشفيري للصور عند التقاطها لإثبات أنها حقيقية.

الحل لتخفيف قوة الروبوتات، وفقًا لأوهانيان، هو رؤية “جيل جديد من وسائل التواصل الاجتماعي يظهر ويمكن التحقق من أنه بشري.”

بينما أدت التطورات التكنولوجية إلى تحسين معظم الإنترنت لزيادة التفاعل، وهو ما قارنه بيست بـ “إدمان المخدرات”، ويعتقد أنه “سيتم تعزيزه بشكل كبير”، إلا أنه لا يزال متفائلاً بمستقبل بديل.

“الغرض الآخر من الوسائط هو الثقافة”، أضاف، “هذا شيء يريده الناس حقًا أيضًا.”

وفقًا لبيست من Substack، فإن هذه التكنولوجيا نفسها لديها القدرة على تمكين “مستقبل يكون فيه رافعة إبداعية أكبر بكثير” للمبدعين المستقلين. وأشار إلى أن الاختناق الحقيقي للإعلام ليس المحتوى، الذي لا يوجد فيه “ندرة”، بل الاهتمام. قال: “لقد دخلنا عالمًا أصبح فيه الاهتمام هو المورد النادر.”

“لقد فزنا في الحرب على الملل”، قال بيست، مضيفًا أن “هناك ندرة كبيرة في المحتوى الجيد.”

وسط هذا، أطلقت ويكيميديا دويتشلاند مشروع Wikidata Embedding Project، الذي حول حوالي 120 مليون نقطة بيانات مفتوحة في ويكي داتا إلى تنسيق أسهل لنماذج اللغة الكبيرة لاستخدامه، مما يساعد أنظمة الذكاء الاصطناعي على الوصول إلى بيانات عالية الجودة مجانًا وتحسين دقتها.

التنظيم، البحث، والكفاح من أجل الثقة

بينما يستولي الذكاء الاصطناعي على الإنترنت، اتجه الباحثون إلى فهم تأثيره. إحدى هذه الدراسات، بعنوان تأثير الذكاء الاصطناعي التوليدي على وسائل التواصل الاجتماعي: دراسة تجريبية²، درست كيف تؤثر مساعدة الذكاء الاصطناعي على إنتاج المحتوى وتصورات المستخدمين ووجدت أن أدوات الذكاء الاصطناعي مفيدة في زيادة حجم المحتوى والتفاعل ولكنها تقلل من الجودة والأصالة المتصورة.

واستنادًا إلى نتائجهم، أوصوا بأن تقوم منصات التواصل الاجتماعي وصناع السياسات وأصحاب المصلحة بتصميم أدوات تركز على المستخدم وتخصيصها، مع دمج حساسية السياق، وإعطاء الأولوية لواجهات المستخدم البديهية لدمج أخلاقي وفعال للذكاء الاصطناعي التوليدي في وسائل التواصل الاجتماعي.

كما أوصى الباحثون بضمان الإفصاح الشفاف عن المحتوى المُولد بالذكاء الاصطناعي، حيث وجدت Studien³ andere⁴ أن هذا يحسن الثقة دون الإضرار بالتفاعل.

عندما يتعلق الأمر باللوائح، اتخذت الحكومات حول العالم خطوات أيضًا لتعزيز وتنظيم الاستخدام المسؤول للذكاء الاصطناعي.

في الاتحاد الأوروبي، يركز Recht der künstlichen Intelligenz على الشفافية، وتصنيف المخاطر، والالتزامات لأنظمة المخاطر العالية.

في غضون ذلك، منح قانون السلامة على الإنترنت (OSA) المنظم للاتصالات Ofcom سلطة واسعة لمطالبة المنصات بإدارة المحتوى الضار أو المضلل في المملكة المتحدة، على الرغم من أن صانعي السياسات طالبوا بترقية القانون للتعامل بشكل أكثر فعالية مع المعلومات المضللة التي يحركها الذكاء الاصطناعي.

في الولايات المتحدة، أصدر الرئيس دونالد ترامب أمرًا تنفيذيًا لإزالة الحواجز أمام القيادة الأمريكية في مجال الذكاء الاصطناعي ونشر خطة عمل لضمان هيمنتها في هذا القطاع. ثم مرة أخرى، في الشهر الماضي، Befehl بمعيار وطني يمكن شركات الذكاء الاصطناعي من الابتكار دون لوائح مرهقة.

في غضون ذلك، الصين؟

Sbposts__content/button_label:

Le contenu généré par l’IA est omniprésent, submergeant le contenu authentiquement humain et transformant complètement le paysage des médias sociaux. Son influence s’étend désormais au-delà des plateformes pour impacter l’arène politique, l’Internet au sens large, et même l’économie mondiale.

Alors, cela signifie-t-il que les médias sociaux approchent de leur fin ? Eh bien, voyons cela.

De la connexion humaine aux flux synthétiques

Il y a environ quatre décennies que les premières formes d’interaction sociale en ligne sont apparues, commençant avec les systèmes de babillards électroniques (BBS), Usenet et les premiers forums à la fin des années 1970 et dans les années 1980. Cependant, les premières plateformes reconnaissables de réseautage social ne sont apparues qu’à la mi-fin des années 1990, jetant les bases de ce qui allait devenir les médias sociaux modernes.

Le début du 21e siècle a marqué la popularité généralisée des médias sociaux avec des sites comme Friendster, MySpace et Facebook. Cette ère moderne des médias sociaux a permis une connexion mondiale instantanée, permettant aux gens de maintenir des relations, d’accéder à l’actualité en temps réel et de construire des communautés autour d’intérêts partagés.

Mais maintenant, seulement deux décennies plus tard, le visage des médias sociaux change avec la prolifération du contenu IA.

Traditionnellement, les valeurs fondamentales des soziale Medien étaient la connexion et l’expression, mais celles-ci ont été remplacées par une production de masse automatisée. Avec les flux des gens dominés par le bruit synthétique, le désengagement et la méfiance parmi les masses augmentent rapidement.

Selon le plus haut dirigeant d’Instagram, une grille soigneusement organisée appartient désormais au passé.

In eine message sur Threads, le responsable d’Instagram Adam Mosseri a averti que la montée de l’IA a tué l’esthétique soignée du site de médias sociaux. Tout ce maquillage, lissage de peau, beaux paysages et photographie à fort contraste sont désormais “morts”, car “les gens ont largement cessé de partager des moments personnels dans le flux il y a des années”, a-t-il déclaré.

À la place, des instantanés non retouchés, “peu flatteurs” sont partagés via des messages directs.

L’omniprésence des images IA signifie que les créateurs doivent s’éloigner des grilles organisées et de la photographie de style professionnel pour adopter une “esthétique plus brute”, les gens voulant “un contenu qui semble réel” plutôt que des images flatteuses, qui sont “peu coûteuses à produire et ennuyeuses à consommer”.

Bientôt, nous verrons la maturation des outils d’IA et avec cela l’expansion de la gamme des esthétiques qu’ils peuvent produire, a déclaré Mosseri, tout en notant que déjà, les flux des médias sociaux commencent à se remplir de “tout synthétique”, ce qui signifie que les plateformes doivent évoluer pour gérer le déluge de contenu généré par l’IA.

Parallèlement, le co-fondateur et PDG de Substack, Chris Best, a déclaré fin de l’année dernière que le “déchet” généré par l’IA pourrait inonder Internet, ce qui “fait cliquer les gens stupides”.

“Slop” a été choisi comme mot de l’année 2025 par le dictionnaire américain Merriam-Webster, qui le définit comme “un contenu numérique de faible qualité qui est produit, généralement en quantité, au moyen de l’intelligence artificielle”.

L’essor de l’Internet des bots

Zum Scrollen wischen →

Les données montrent que près d’un tiers de tout le trafic Internet provient de bots, des programmes logiciels automatisés qui imitent le comportement humain.

Cela a donné naissance à la théorie de l’Internet mort, qui soutient qu’Internet est principalement constitué d’activités de bots et de contenu généré par algorithme conçu pour contrôler la population mondiale.

Der Mitbegründer von Reddit (RDDT + 2.76%), Alexis Ohanian, pense qu’il y a une part de vérité dans cette idée, et qu’une nouvelle ère des médias sociaux émergera à cause de cela. “Avoir une preuve de vie, comme des spectateurs en direct et du contenu en direct, est vraiment p***ain de précieux pour capter l’attention”, a-t-il déclaré dans un podcast.

Le fondateur et PDG d’OpenAI, Sam Altman, a partagé un point de vue similaire sur X l’année dernière, en postant :

“Je n’ai jamais pris la théorie de l’Internet mort très au sérieux, mais il semble qu’il y ait vraiment beaucoup de comptes Twitter gérés par des LLM maintenant.”

L’activité des bots sur X (anciennement Twitter) s’aggrave en réalité. On estime qu’environ 10 % des comptes X sont des bots, ce qui représente des millions d’utilisateurs.

Par ailleurs, plus de 20 % des vidéos que l’algorithme de YouTube montre aux nouveaux utilisateurs se sont avérées être de la “bouillie d’IA”.

En fait, parmi les 15 000 chaînes YouTube les plus populaires étudiées, 278 ne contiennent que du contenu généré par IA, et ensemble, elles ont accumulé 221 millions d’abonnés et plus de 63 milliards de vues, générant environ 117 millions de dollars de revenus chaque année.

Cela ne se limite pas à une seule ou à une poignée de plateformes ; c’est vrai pour l’ensemble d’Internet.

Comme le soulignait le rapport Imperva Bad Bot 2025, le trafic automatisé a dépassé le trafic humain, représentant 51 % de tout le trafic Internet, dont 20 % proviennent de “mauvais bots” engagés dans des activités malveillantes.

Il y a quelques mois, Marshall Miller, le directeur principal des produits de la Wikimedia Foundation, l’organisation à but non lucratif qui gère Wikipédia, a également noté que le trafic humain du site avait diminué d’environ 8 % alors que les gens changent leur façon de rechercher des informations en ligne.

Cette baisse a été révélée après que la Fondation a modifié sa façon de différencier le trafic humain du trafic des bots pour mieux comprendre le lectorat réel et limiter les bots tiers qui extraient ses données pour des outils de recherche commerciaux et d’IA.

“Nous pensons que ces baisses reflètent l’impact de l’IA générative et des médias sociaux sur la façon dont les gens recherchent des informations, surtout avec les moteurs de recherche qui fournissent des réponses directement aux chercheurs, souvent basées sur le contenu de Wikipédia”, a écrit Miller, ajoutant que ce n’était pas vraiment une surprise car les moteurs de recherche utilisent de plus en plus l’IA pour avoir des réponses directement sur les pages de résultats et que les jeunes utilisateurs se tournent vers TikTok et YouTube.

Mais cela signifie que la communauté qui écrit et édite le contenu de Wikipédia pourrait diminuer. En tant que tel, la plateforme exhorte les moteurs de recherche, les plateformes sociales, les LLM et les chatbots IA à aider à ramener plus de trafic vers le site.

Comment les plateformes de médias sociaux amplifient le contenu IA

Les plateformes de médias sociaux ont été submergées par du contenu généré par IA grâce à une croissance explosive de l’écosystème des outils génératifs.

Par exemple, des outils comme Sora, Midjourney, Pika, Runway et Stable Diffusion ont rendu extrêmement facile la création d’images et de vidéos de presque n’importe quoi.

Un nombre croissant de solutions facilitent même aux gens l’augmentation des vues et la monétisation via des programmes de récompenses pour créateurs ou des liens d’affiliation. Elles ne génèrent pas seulement automatiquement le contenu, mais le publient également directement sur des plateformes comme YouTube, contre rémunération, faisant plus de 100 vidéos par mois sur un seul compte. Ces solutions visent à automatiser le processus complet de création de contenu.

Mais ce n’est pas tout. Des chercheurs ont découvert que les plateformes ont en réalité boosté les publications générées par IA. Des plateformes comme TikTok, Instagram et Meta (META + 1.69%) proposent même des fonctionnalités IA natives qui permettent aux utilisateurs de générer des visuels, des scripts ou de remixer des médias existants sans logiciel externe.

Meta, en particulier, a adopté le contenu généré par IA avec un enthousiasme total, créant même sa propre “bouillie”. En 2023, la société a introduit des profils alimentés par l’IA et annoncé des plans pour peupler sa plateforme de personnages IA. Mais après avoir reçu des réactions négatives importantes des utilisateurs, Meta a supprimé les profils IA l’année dernière.

Instagram, quant à lui, a lancé un studio IA qui permet aux utilisateurs de produire des chatbots personnalisés, y compris leurs propres versions numériques.

Récemment, TikTok a révélé qu’il y avait au moins 1,3 milliard de publications générées par IA sur sa plateforme, avec plus de 100 millions de contenus téléchargés chaque jour. Pour plus de transparence, TikTok étiquette le contenu généré par IA et donne même aux utilisateurs la possibilité de réduire la quantité de contenu IA qu’ils voient.

Mais AI Forensics, un centre de recherche parisien baséUne organisation à but non lucratif, NewsGuard, a constaté que moins de 2 % des comptes portaient l’étiquette TikTok pour le contenu IA. Parfois, ils échappent également à la modération de la plateforme pendant des mois, malgré la publication de contenu interdit par les conditions d’utilisation de TikTok.

Selon le rapport, plus de 350 comptes axés sur l’IA ont diffusé 43 000 publications réalisées à l’aide d’outils d’IA générative, accumulant 4,5 milliards de vues sur une période d’un mois. Les chercheurs ont déclaré :

“La frontière floue entre le contenu authentiquement humain et le contenu synthétique généré par l’IA sur la plateforme signale un nouveau virage vers davantage de contenu généré par l’IA dans les flux des utilisateurs.”

L’authenticité peut-elle survivre à l’automatisation ?

Autrefois animés par une activité réelle, où les amis se réunissaient et partageaient des moments spéciaux, les réseaux sociaux deviennent désormais des villes fantômes, peuplées d’entités artificielles simulant l’engagement humain et publiant du contenu généré par l’IA.

Bien que vous pensiez pouvoir simplement bloquer ces utilisateurs et ce contenu, une étude a révélé¹ que les gens ne peuvent pas distinguer l’IA d’un humain, même lorsqu’ils sont familiers avec le sujet du LLM.

L’étude a évalué dans quelle mesure les humains détectent le contenu généré par l’IA et a constaté que le texte humain n’était correctement identifié comme tel que 67 % du temps, tandis que GPT-4 était incorrectement détecté comme humain 54 % du temps.

Selon Mosseri d’Instagram, les plateformes sociales ne feront que s’aggraver dans l’identification des médias générés par l’IA avec le temps, à mesure que la technologie s’améliore. Une solution pourrait être que les fabricants d’appareils photo signent cryptographiquement les photos lors de leur prise pour prouver qu’elles sont réelles.

La solution pour atténuer le pouvoir des bots, selon Ohanian, est de voir “émerger une nouvelle génération de médias sociaux qui soit vérifiablement humaine”.

Alors que les progrès technologiques ont optimisé la majeure partie d’Internet pour l’engagement, que Best a comparé à une “dépendance à la drogue” et qu’il pense “va être surmultipliée”, il garde tout de même espoir pour un avenir alternatif.

“L’autre objectif des médias est la culture”, a-t-il ajouté, “C’est quelque chose que les gens veulent aussi vraiment, vraiment.”

Selon Best de Substack, cette même technologie a le potentiel de permettre un “avenir où il y a bien plus de levier créatif” pour les créateurs indépendants. Le véritable goulot d’étranglement pour les médias, a-t-il noté, n’est pas le contenu, dont il n’y a “pas de pénurie”, mais l’attention. “Nous sommes entrés dans un monde où l’attention est la ressource rare”, a-t-il déclaré.

“Nous avons gagné la guerre contre l’ennui”, a déclaré Best, ajoutant qu'”il y a une énorme pénurie de bon contenu”.

Dans ce contexte, Wikimedia Deutschland a lancé le Wikidata Embedding Project, qui a converti environ 120 millions de points de données ouvertes dans Wikidata en un format plus facile à utiliser pour les LLM, aidant les systèmes d’IA à accéder gratuitement à des données de meilleure qualité et à améliorer leur précision.

Réglementation, recherche et combat pour la confiance

Alors que l’IA s’empare d’Internet, les chercheurs se sont attachés à comprendre son impact. Une telle étude, intitulée Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² a examiné comment l’assistance de l’IA affecte la production de contenu et les perceptions des utilisateurs et a constaté que les outils d’IA sont bénéfiques pour augmenter le volume de contenu et l’engagement mais diminuent la qualité et l’authenticité perçues.

Sur la base de leurs conclusions, ils ont recommandé que les plateformes de médias sociaux, les décideurs politiques et les parties prenantes conçoivent des outils avec une personnalisation centrée sur l’utilisateur, intégrant la sensibilité au contexte et priorisant les interfaces utilisateur intuitives pour une intégration éthique et efficace de l’IA générative dans les médias sociaux.

Les chercheurs ont également recommandé d’assurer une divulgation transparente du contenu généré par l’IA, car d’autres Studium³ ont gefunden⁴ que cela améliore la confiance sans nuire à l’engagement.

En ce qui concerne les réglementations, les gouvernements du monde entier ont également pris des mesures pour promouvoir et réglementer l’utilisation responsable de l’intelligence artificielle.

Dans l’Union européenne (UE), la Loi sur l’IA se concentre sur la transparence, la classification des risques et les obligations pour les systèmes à haut risque.

La Loi sur la sécurité en ligne (Online Safety Act – OSA), quant à elle, a donné au régulateur des communications Ofcom un large pouvoir pour exiger des plateformes qu’elles gèrent les contenus nuisibles ou trompeurs au Royaume-Uni, bien que les décideurs politiques aient demandé une mise à niveau pour lutter plus efficacement contre la désinformation pilotée par l’IA.

Aux États-Unis, le président Donald Trump a einen Erlass erlassen pour supprimer les obstacles au leadership américain dans l’IA et a publié un plan d’action pour assurer sa domination dans le secteur. Ensuite, le mois dernier, il a bestellt une norme nationale permettant aux entreprises d’IA d’innover sans réglementations lourdes.

Inzwischen China

Sbposts__content/button_label:L’ère des réseaux sociaux, telle que nous la connaissons, touche clairement à sa fin. Ce n’est plus le même endroit où les gens partageaient activement leurs centres d’intérêt, leurs souvenirs et leurs idées de manière authentique. Ce qui était autrefois bâti sur des connexions humaines est aujourd’hui envahi par du contenu automatisé et des bots.

Si l’IA a débloqué un levier créatif et une efficacité économique sans précédent, elle a également érodé les signaux mêmes qui rendaient autrefois les interactions en ligne significatives.

L’avenir des médias sociaux va probablement se fragmenter, avec une voie menant vers des flux hyper-automatisés optimisés pour l’engagement et l’autre pointant vers des espaces vérifiablement humains qui privilégient la culture, la crédibilité et le contexte plutôt que la portée.

Referenzen

<sup>1. Jones, C. R. & Bergen, B. K. « People cannot distinguish GPT-4 from a human in a Turing test. » arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. « The Impact of Generative AI on Social Media: An Experimental Study. » arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. « Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media. » arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. « Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media. » arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>

El contenido de IA está en todas partes, desplazando el contenido humano auténtico y transformando por completo el panorama de las redes sociales. Su influencia se ha extendido ahora más allá de las plataformas para impactar en el ámbito político, en Internet en general e incluso en la economía global.

Entonces, ¿significa esto que las redes sociales se acercan a su fin? Bueno, vamos a averiguarlo.

De la conexión humana a los feeds sintéticos

Fue hace aproximadamente cuatro décadas cuando surgieron las primeras formas de interacción social en línea, comenzando con los sistemas de tablón de anuncios (BBS), Usenet y los primeros foros a finales de los años 70 y 80. Sin embargo, las primeras plataformas reconocibles de redes sociales no aparecieron hasta mediados y finales de la década de 1990, sentando las bases de lo que más tarde se convertiría en las redes sociales modernas.

El comienzo del siglo XXI marcó la popularización generalizada de las redes sociales con sitios como Friendster, MySpace y Facebook. Esta era moderna de las redes sociales permitió la conexión global instantánea, permitiendo a las personas mantener relaciones, acceder a noticias en tiempo real y construir comunidades en torno a intereses compartidos.

Pero ahora, apenas un par de décadas después, la cara de las redes sociales está cambiando con la proliferación de contenido de IA.

Tradicionalmente, los valores centrales de las soziale Netzwerke han sido la conexión y la expresión, pero estos han sido reemplazados por la producción masiva automatizada. Con los feeds de las personas dominados por ruido sintético, el desinterés y la desconfianza entre las masas están creciendo rápidamente.

Según el máximo ejecutivo de Instagram, una cuadrícula cuidadosamente curada es ahora cosa del pasado.

Bei einem mensaje en Threads, el director de Instagram, Adam Mosseri, advirtió que el auge de la IA ha acabado con la estética pulida del sitio de redes sociales. Todo ese maquillaje, suavizado de piel, paisajes hermosos y fotografía de alto contraste está ahora “muerto”, ya que “la gente dejó de compartir momentos personales en el feed hace años”, dijo.

En su lugar, se están compartiendo instantáneas sin pulir y “poco favorecedoras” a través de mensajes directos.

La omnipresencia de las imágenes de IA significa que los creadores tienen que alejarse de las cuadrículas curadas y la fotografía de estilo profesional hacia una “estética más cruda”, con personas que quieren “contenido que se sienta real” en lugar de imágenes halagadoras, que son “baratas de producir y aburridas de consumir”.

Pronto veremos la maduración de las herramientas de IA y con ello la expansión del rango de estéticas que pueden producir, dijo Mosseri, al tiempo que señaló que ya, los feeds de las redes sociales están empezando a llenarse de “todo sintético”, lo que significa que las plataformas necesitan evolucionar para manejar la avalancha de contenido generado por IA.

Mientras tanto, el cofundador y CEO de Substack, Chris Best, dijo a finales del año pasado que la “basura” generada por IA podría inundar Internet, lo que “mantiene a la gente tonta haciendo clic”.

“Slop” fue elegida como la palabra del año para 2025 por el diccionario estadounidense Merriam-Webster, que la define como “contenido digital de baja calidad que se produce, generalmente en cantidad, mediante inteligencia artificial”.

El auge de la Internet de los bots

Desliza para desplazarte →

Los datos muestran que casi un tercio de todo el tráfico de Internet proviene de bots, programas de software automatizados que imitan el comportamiento humano.

Esto ha dado lugar a la teoría de la Internet muerta, que sostiene que Internet consiste principalmente en actividad de bots y contenido generado algorítmicamente diseñado para controlar a la población mundial.

Der Mitbegründer von Reddit (RDDT + 2.76%), Alexis Ohanian, cree que hay algo de verdad en la idea, y que surgirá una nueva era de las redes sociales debido a ello. “Tener prueba de vida, como espectadores en vivo y contenido en vivo, es realmente jodidamente valioso para retener la atención”, dijo en un podcast.

El fundador y CEO de OpenAI, Sam Altman, compartió una opinión similar en X el año pasado, publicando:

“Nunca me tomé la teoría de la Internet muerta tan en serio, pero parece que ahora hay realmente muchas cuentas de Twitter ejecutadas por LLM.”

La actividad de bots en X (anteriormente conocida como Twitter) en realidad está empeorando. Se estima que aproximadamente el 10% de las cuentas de X son bots, sumando millones de usuarios.

Mientras tanto, se ha descubierto que más del 20% de los videos que el algoritmo de YouTube muestra a los nuevos usuarios son “basura de IA”.

De hecho, entre los 15,000 canales de YouTube más populares encuestados, 278 contienen solo KI-generierte Inhalte, y juntos han acumulado 221 millones de suscriptores y más de 63 mil millones de visitas, generando unos 117 millones de dólares en ingresos cada año.

Esto no se limita a una sola plataforma o a un puñado de ellas; es cierto para toda Internet.

Como señaló el Informe de Bots Maliciosos 2025 de Imperva, el tráfico automatizado ha superado al tráfico humano, representando el 51% de todo el tráfico de Internet, con el 20% de ese proveniente de “bots maliciosos” dedicados a actividades malintencionadas.

Hace unos meses, Marshall Miller, director senior de producto de la Fundación Wikimedia, la organización sin fines de lucro que gestiona Wikipedia, también señaló que el tráfico humano del sitio web ha disminuido en aproximadamente un 8% a medida que las personas cambian la forma en que buscan información en línea.

La caída se reveló después de que la Fundación cambiara la forma en que diferencia entre el tráfico humano y el de bots para comprender mejor la audiencia real y limitar que los bots de terceros extraigan sus datos para herramientas de búsqueda comercial y de IA.

“Creemos que estas disminuciones reflejan el impacto de la IA generativa y las redes sociales en cómo las personas buscan información, especialmente con los motores de búsqueda que proporcionan respuestas directamente a los buscadores, a menudo basadas en el contenido de Wikipedia”, escribió Miller, agregando que esto no fue realmente una sorpresa, ya que los motores de búsqueda utilizan cada vez más IA para tener respuestas directamente en las páginas de resultados y los usuarios más jóvenes recurren a TikTok y YouTube.

Pero esto significa que la comunidad que escribe y edita el contenido de Wikipedia podría reducirse. Como tal, la plataforma está instando a los motores de búsqueda, plataformas sociales, LLM y chatbots de IA a ayudar a dirigir más tráfico de regreso al sitio.

Cómo las plataformas de redes sociales están amplificando el contenido de IA

Las plataformas de redes sociales han sido inundadas con contenido generado por IA gracias a un crecimiento explosivo en el ecosistema de herramientas generativas.

Por ejemplo, herramientas como Sora, Midjourney, Pika, Runway y Stable Diffusion han hecho extremadamente fácil crear imágenes y videos de casi cualquier cosa.

Un número creciente de soluciones incluso facilita que las personas aumenten las vistas y ganen dinero con programas de recompensas para creadores o enlaces de afiliados. No solo autogeneran, sino que también publican contenido directamente en plataformas como YouTube, por una tarifa, haciendo más de 100 videos al mes en una sola cuenta. Estas soluciones tienen como objetivo automatizar el proceso completo de ser un creador de contenido.

Pero eso no es todo. Los investigadores han descubierto que las plataformas en realidad han estado impulsando las publicaciones generadas por IA. Plataformas como TikTok, Instagram y Meta (META + 1.69%) incluso ofrecen funciones nativas de IA que permiten a los usuarios generar elementos visuales, guiones o remezclar medios existentes sin software externo.

Meta, en particular, ha adoptado el contenido generado por IA con todo entusiasmo, incluso creando su propia basura. En 2023, la compañía presentó perfiles con tecnología de IA y anunció planes para poblar su plataforma con personajes de IA. Pero después de recibir una importante reacción negativa de los usuarios, Meta eliminó los perfiles de IA el año pasado.

Instagram, mientras tanto, lanzó un estudio de IA que permite a los usuarios producir chatbots personalizados, incluidas sus propias versiones digitales.

Recientemente, TikTok reveló que había al menos 1.3 mil millones de publicaciones generadas por IA en su plataforma, con más de 100 millones de piezas de contenido cargadas cada día. Para mayor transparencia, TikTok etiqueta el contenido generado por IA e incluso les da a los usuarios la opción de reducir la cantidad de contenido de IA que ven.

Pero AI Forensics, una organización con sede en Parísuna organización sin fines de lucro, descubrió que menos del 2% de las cuentas tenían la etiqueta de TikTok para contenido de IA. En ocasiones, también escapan a la moderación de la plataforma durante meses, a pesar de publicar contenido prohibido por los términos de servicio de TikTok.

Según el informe, más de 350 cuentas centradas en la IA impulsaron 43,000 publicaciones realizadas con la ayuda de herramientas de IA generativa, acumulando 4.5 mil millones de visualizaciones durante un período de un mes. Los investigadores dijeron:

“La línea cada vez más difusa entre el contenido auténtico humano y el contenido sintético generado por IA en la plataforma señala un nuevo giro hacia más contenido generado por IA en los feeds de los usuarios.”

¿Puede la autenticidad sobrevivir a la automatización?

Antes bulliciosas con actividad real, donde los amigos se reunían y compartían momentos especiales, las redes sociales ahora se están convirtiendo en pueblos fantasmas, poblados por entidades artificiales que simulan la interacción humana y publican contenido generado por IA.

Si bien puedes pensar que simplemente puedes bloquear a esos usuarios y ese contenido, un estudio encontró¹ que las personas no pueden distinguir la IA de un humano, incluso cuando están familiarizadas con el tema del LLM.

El estudio evaluó con qué éxito los humanos detectan el contenido generado por IA y encontró que el texto humano fue reconocido con precisión como tal solo el 67% de las veces, mientras que GPT-4 fue detectado erróneamente como humano el 54% de las veces.

Según Mosseri de Instagram, las plataformas sociales solo empeorarán en la identificación de medios generados por IA con el tiempo a medida que la tecnología mejore. Una solución podría ser que las compañías de cámaras firmen criptográficamente las fotos cuando se toman para demostrar que son reales.

La solución para mitigar el poder de los bots, según Ohanian, es ver “surgir una próxima generación de redes sociales que sea verificablemente humana”.

Si bien los avances en la tecnología han hecho que la mayor parte de Internet esté optimizada para la participación, lo que Best comparó con la “adicción a las drogas”, y cree que “se va a potenciar enormemente”, todavía tiene esperanzas en un futuro alternativo.

“El otro propósito de los medios es la cultura”, agregó, “Eso es algo que la gente también quiere mucho, mucho”.

Según Best de Substack, esta misma tecnología tiene el potencial de permitir un “futuro donde hay mucho más apalancamiento creativo” para los creadores independientes. El verdadero cuello de botella para los medios, señaló, no es el contenido, del cual “no hay escasez”, sino la atención. “Hemos entrado en un mundo donde la atención es el recurso escaso”, dijo.

“Hemos ganado la guerra contra el aburrimiento”, dijo Best, agregando que “hay una gran escasez de buen contenido”.

En medio de esto, Wikimedia Deutschland lanzó el Wikidata Embedding Project, que convirtió unos 120 millones de puntos de datos abiertos en Wikidata en un formato más fácil de usar para los LLM, ayudando a los sistemas de IA a acceder a datos de mayor calidad de forma gratuita y mejorar su precisión.

Regulación, investigación y la lucha por la confianza

A medida que la IA se apodera de Internet, los investigadores se han dedicado a comprender su impacto. Uno de esos estudios, titulado El impacto de la IA generativa en las redes sociales: un estudio experimental² examinó cómo la asistencia de IA afecta la producción de contenido y las percepciones de los usuarios y encontró que las herramientas de IA son beneficiosas para aumentar el volumen de contenido y la participación, pero disminuyen la calidad y autenticidad percibidas.

Con base en sus hallazgos, recomendaron que las plataformas de redes sociales, los responsables de políticas y las partes interesadas diseñen herramientas con personalización centrada en el usuario, incorporando sensibilidad al contexto y priorizando interfaces de usuario intuitivas para una integración ética y efectiva de la IA generativa en las redes sociales.

Los investigadores también recomendaron garantizar la divulgación transparente del contenido generado por IA, ya que otros Studium³ er gefunden⁴ que esto mejora la confianza sin dañar la participación.

En cuanto a las regulaciones, los gobiernos de todo el mundo también han tomado medidas para promover y regular el uso responsable de la inteligencia artificial.

En la Unión Europea (UE), la KI-Recht se centra en la transparencia, la clasificación de riesgos y las obligaciones para los sistemas de alto riesgo.

La Ley de Seguridad en Línea (OSA, por sus siglas en inglés), mientras tanto, ha dado a la autoridad reguladora de comunicaciones Ofcom amplia autoridad para exigir a las plataformas que gestionen contenido dañino o engañoso en el Reino Unido, aunque los responsables de políticas han pedido una actualización para abordar de manera más efectiva la desinformación impulsada por IA.

En los EE. UU., el presidente Donald Trump ha emitido una Orden Ejecutiva para eliminar las barreras al liderazgo de Estados Unidos en IA y publicó un plan de acción para asegurar su dominio en el sector. De nuevo, el mes pasado, Ordenó un estándar nacional que permita a las empresas de IA innovar sin regulaciones engorrosas.

Mientras tanto, ¿China?

Sbposts__content/button_label:

KI-Inhalte sind überall, verdrängen authentische menschliche Inhalte und verändern die Landschaft der sozialen Medien vollständig. Ihr Einfluss hat sich nun über Plattformen hinaus auf die politische Arena, das breitere Internet und sogar die globale Wirtschaft ausgeweitet.

Bedeutet das also, dass soziale Medien ihrem Ende entgegengehen? Nun, lassen Sie uns das herausfinden.

Von menschlicher Verbindung zu synthetischen Feeds

Es ist etwa vier Jahrzehnte her, dass frühe Formen der Online-Sozialinteraktion erstmals auftauchten, beginnend mit Bulletin-Board-Systemen (BBS), Usenet und frühen Foren in den späten 1970er und 1980er Jahren. Die ersten erkennbaren Social-Networking-Plattformen erschienen jedoch erst Mitte bis Ende der 1990er Jahre und legten den Grundstein für das, was später zu modernen sozialen Medien werden sollte.

Der Beginn des 21. Jahrhunderts markierte die weitverbreitete Popularität sozialer Medien mit Seiten wie Friendster, MySpace und Facebook. Diese moderne Ära der sozialen Medien ermöglichte sofortige globale Verbindung, erlaubte es Menschen, Beziehungen aufrechtzuerhalten, Echtzeit-Nachrichten zu erhalten und Gemeinschaften um gemeinsame Interessen aufzubauen.

Aber jetzt, nur wenige Jahrzehnte später, verändert sich das Gesicht der sozialen Medien mit der Verbreitung von KI-Inhalten.

Traditionell waren die Kernwerte der sozialen Medien Verbindung und Ausdruck, aber diese wurden durch automatisierte Massenproduktion ersetzt. Da die Feeds der Menschen von synthetischem Rauschen dominiert werden, wachsen Desengagement und Misstrauen in der Masse schnell.

Laut dem Top-Manager von Instagram ist ein sorgfältig kuratiertes Raster nun eine Sache der Vergangenheit.

In einer Nachricht auf Threads warnte Instagram-Chef Adam Mosseri, dass der Aufstieg der KI die polierte Ästhetik der Social-Media-Seite getötet habe. All das Make-up, die Hautglättung, die schönen Landschaften und die Hochkontrastfotografie seien nun “tot”, da “die Menschen das Teilen persönlicher Momente im Feed vor Jahren weitgehend eingestellt haben”, sagte er.

Stattdessen werden ungeschliffene, “unvorteilhafte Schnappschüsse” über Direktnachrichten geteilt.

Die Allgegenwart von KI-Bildern bedeutet, dass Creator sich von kuratierten Rastern und professioneller Fotografie zu einer “roheren Ästhetik” bewegen müssen, wobei die Menschen “Inhalte wollen, die sich echt anfühlen”, anstatt schmeichelhafte Bilder, die “billig zu produzieren und langweilig zu konsumieren” sind.

Bald werden wir die Reifung von KI-Tools und damit die Erweiterung der Bandbreite der Ästhetiken, die sie produzieren können, sehen, sagte Mosseri, während er anmerkte, dass sich Social-Media-Feeds bereits mit “synthetischem Alles” zu füllen beginnen, was bedeutet, dass Plattformen sich weiterentwickeln müssen, um die Flut an KI-generierten Inhalten zu bewältigen.

Unterdessen sagte Substack-Mitgründer und CEO Chris Best Ende letzten Jahres, dass KI-generierter “Slop” das Internet überfluten könnte, was “dumme Menschen zum Klicken bringt”.

“Slop” wurde vom US-Wörterbuch Merriam-Webster zum Wort des Jahres 2025 gewählt, das es als “digitalen Inhalt von niedriger Qualität definiert, der üblicherweise in großer Menge mithilfe von künstlicher Intelligenz produziert wird”.

Der Aufstieg des Bot-Internets

Zum Scrollen wischen →

Daten zeigen, dass fast ein Drittel des gesamten Internetverkehrs von Bots stammt, automatisierten Softwareprogrammen, die menschliches Verhalten nachahmen.

Dies hat zur Theorie des toten Internets geführt, die besagt, dass das Internet hauptsächlich aus Bot-Aktivität und algorithmisch generierten Inhalten besteht, die dazu dienen, die Weltbevölkerung zu kontrollieren.

Reddit (RDDT + 2.76%) Mitbegründer Alexis Ohanian glaubt, dass an der Idee etwas Wahres dran ist und deshalb eine neue Ära der sozialen Medien entstehen wird. “Lebenszeichen zu haben, wie Live-Zuschauer und Live-Inhalte, ist wirklich verdammt wertvoll, um Aufmerksamkeit zu halten”, sagte er in einem Podcast.

OpenAI-Gründer und CEO Sam Altman teilte letztes Jahr eine ähnliche Ansicht auf X und postete:

„Ich habe die Theorie des toten Internets nie wirklich ernst genommen, aber es scheint, als gäbe es jetzt wirklich viele von LLMs betriebene Twitter-Konten.“

Die Bot-Aktivität auf X (früher bekannt als Twitter) wird tatsächlich schlimmer. Es wird geschätzt, dass etwa 10 % der X-Konten Bots sind, was Millionen von Nutzern entspricht.

Unterdessen wurde festgestellt, dass über 20 % der Videos, die der YouTube-Algorithmus neuen Nutzern zeigt, “KI-Schrott” Sind.

Tatsächlich enthalten unter den 15.000 meistbesuchten YouTube-Kanälen, die untersucht wurden, 278 ausschließlich KI-generierte Inhalte, und zusammen haben sie 221 Millionen Abonnenten und mehr als 63 Milliarden Aufrufe angesammelt, was etwa 117 Millionen US-Dollar Umsatz pro Jahr generiert.

Dies beschränkt sich nicht nur auf eine oder eine Handvoll Plattformen; es gilt für das gesamte Internet.

Wie der Imperva Bad Bot Report 2025 feststellte, hat der automatisierte Verkehr den menschlichen Verkehr überholt und macht 51 % des gesamten Internetverkehrs aus, wobei 20 % davon von “bösen Bots” stammen, die bösartige Aktivitäten betreiben.

Vor einigen Monaten bemerkte auch Marshall Miller, der Senior Director of Product bei der Wikimedia Foundation, der gemeinnützigen Organisation, die Wikipedia betreibt, dass der menschliche Verkehr auf der Website um etwa 8 % zurückgegangen ist, da sich die Art und Weise, wie Menschen online nach Informationen suchen, ändert.

Der Rückgang wurde aufgedeckt, nachdem die Foundation geändert hat, wie sie zwischen menschlichem und Bot-Verkehr unterscheidet, um das echte Lesepublikum besser zu verstehen und Dritt-Bots einzuschränken, die ihre Daten für kommerzielle Such- und KI-Tools abschöpfen.

“Wir glauben, dass diese Rückgänge die Auswirkungen von generativer KI und sozialen Medien darauf widerspiegeln, wie Menschen nach Informationen suchen, insbesondere da Suchmaschinen Antworten direkt für Suchende bereitstellen, oft basierend auf Wikipedia-Inhalten”, schrieb Miller und fügte hinzu, dass dies keine Überraschung sei, da Suchmaschinen zunehmend KI nutzen, um Antworten direkt auf Ergebnisseiten zu liefern, und jüngere Nutzer zu TikTok und YouTube wechseln.

Aber das bedeutet, dass die Gemeinschaft, die die Inhalte von Wikipedia schreibt und bearbeitet, schrumpfen könnte. Daher fordert die Plattform Suchmaschinen, soziale Plattformen, LLMs und KI-Chatbots auf, dabei zu helfen, mehr Verkehr zurück auf die Seite zu lenken.

Wie Social-Media-Plattformen KI-Inhalte verstärken

Social-Media-Plattformen wurden von KI-generierten Inhalten überschwemmt, dank eines explosionsartigen Wachstums im Ökosystem generativer Tools.

Tools wie Sora, Midjourney, Pika, Runway und Stable Diffusion haben es beispielsweise extrem einfach gemacht, Bilder und Videos von fast allem zu erstellen.

Eine wachsende Anzahl von Lösungen macht es den Menschen sogar leichter, Aufrufe zu steigern und von Creator-Belohnungsprogrammen oder Affiliate-Links zu profitieren. Sie generieren nicht nur automatisch Inhalte, sondern veröffentlichen diese auch direkt auf Plattformen wie YouTube, gegen eine Gebühr, mit mehr als 100 Videos pro Monat auf einem einzigen Konto. Diese Lösungen zielen darauf ab, den gesamten Prozess eines Content-Erstellers zu automatisieren.

Aber das ist noch nicht alles. Forscher haben Erkenntnisse, dass Plattformen tatsächlich KI-generierte Beiträge fördern. Plattformen wie TikTok, Instagram und Meta (META + 1.69%) bieten sogar native KI-Funktionen an, die es Nutzern ermöglichen, visuelle Inhalte, Skripte zu generieren oder bestehende Medien ohne externe Software neu zu mischen.

Meta hat insbesondere KI-generierte Inhalte mit voller Begeisterung angenommen und sogar eigenen Schrott erstellt. Im Jahr 2023 führte das Unternehmen KI-gestützte Profile ein und kündigte Pläne an, seine Plattform mit KI-Charakteren zu bevölkern. Nach erheblichem Nutzerprotest stellte Meta die KI-Profile jedoch letztes Jahr ein.

Instagram startete unterdessen ein AI Studio, das es Nutzern ermöglicht, maßgeschneiderte Chatbots zu erstellen, einschließlich ihrer eigenen digitalen Versionen.

Kürzlich gab TikTok bekannt, dass es auf seiner Plattform mindestens 1,3 Milliarden KI-generierte Beiträge gibt, mit über 100 Millionen hochgeladenen Inhalten pro Tag. Aus Transparenzgründen kennzeichnet TikTok KI-generierte Inhalte und gibt Nutzern sogar die Möglichkeit, die Menge an KI-Inhalten, die sie sehen, zu reduzieren.

Aber AI Forensics, ein in Paris ansässiges

Sbposts__content/button_label:Eine Untersuchung von NewsGuard, einer gemeinnützigen Organisation, ergab, dass weniger als 2 % der Konten das TikTok-Label für KI-generierte Inhalte trugen. Manchmal entgehen sie auch monatelang der Moderation der Plattform, obwohl sie Inhalte veröffentlichen, die gegen die Nutzungsbedingungen von TikTok verstoßen.

Laut dem Bericht verbreiteten mehr als 350 auf KI fokussierte Konten 43.000 Beiträge, die mit Hilfe von Gen-KI-Tools erstellt wurden, und sammelten in einem einmonatigen Zeitraum 4,5 Milliarden Aufrufe. Die Forscher sagten:

„Die verschwimmende Grenze zwischen authentischen menschlichen und synthetischen KI-generierten Inhalten auf der Plattform signalisiert eine neue Wende hin zu mehr KI-generierten Inhalten in den Feeds der Nutzer.“

Kann Authentizität die Automatisierung überleben?

Einst geschäftig mit echter Aktivität, wo sich Freunde trafen und besondere Momente teilten, werden soziale Netzwerke nun zu Geisterstädten, bevölkert von künstlichen Entitäten, die menschliches Engagement simulieren und KI-generierte Inhalte veröffentlichen.

Während Sie vielleicht denken, Sie könnten diese Nutzer und Inhalte einfach blockieren, fand eine Studie heraus¹, dass Menschen KI nicht von einem Menschen unterscheiden können, selbst wenn sie mit dem Thema der LLM vertraut sind.

Die Studie untersuchte, wie erfolgreich Menschen KI-generierte Inhalte erkennen, und fand heraus, dass menschlicher Text nur in 67 % der Fälle korrekt als solcher erkannt wurde, während GPT-4 in 54 % der Fälle fälschlicherweise als menschlich eingestuft wurde.

Laut Instagrams Mosseri werden soziale Plattformen mit der Verbesserung der Technologie im Laufe der Zeit nur schlechter darin werden, KI-generierte Medien zu identifizieren. Eine Lösung könnte sein, dass Kamerahersteller Fotos bei der Aufnahme kryptografisch signieren, um zu beweisen, dass sie echt sind.

Die Lösung zur Eindämmung der Macht von Bots ist laut Ohanian, „eine nächste Generation von sozialen Medien entstehen zu sehen, die nachweislich menschlich ist“.

Während die technologischen Fortschritte den größten Teil des Internets auf Engagement optimiert haben, was Best mit „Drogensucht“ verglich und glaubt, dass dies „noch verstärkt werden wird“, ist er dennoch hoffnungsvoll für eine alternative Zukunft.

„Der andere Zweck von Medien ist Kultur“, fügte er hinzu, „Das ist etwas, was die Menschen auch wirklich, wirklich wollen.“

Laut Substack’s Best hat genau diese Technologie das Potenzial, eine „Zukunft zu ermöglichen, in der es viel mehr kreative Hebelwirkung“ für unabhängige Schaffende gibt. Der eigentliche Engpass für Medien sei, wie er anmerkte, nicht der Inhalt, von dem es „keine Knappheit“ gebe, sondern die Aufmerksamkeit. „Wir sind in eine Welt eingetreten, in der Aufmerksamkeit die knappe Ressource ist“, sagte er.

„Wir haben den Krieg gegen die Langeweile gewonnen“, sagte Best und fügte hinzu, dass es „eine große Knappheit an guten Inhalten“ gebe.

Inmitten dessen startete Wikimedia Deutschland das Wikidata Embedding Project, das etwa 120 Millionen offene Datenpunkte in Wikidata in ein für LLMs leichter nutzbares Format umwandelte, um KI-Systemen zu helfen, kostenlos auf qualitativ hochwertigere Daten zuzugreifen und ihre Genauigkeit zu verbessern.

Regulierung, Forschung und der Kampf um Vertrauen

Während die KI das Internet übernimmt, haben sich Forscher daran gemacht, ihre Auswirkungen zu verstehen. Eine solche Studie mit dem Titel Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² untersuchte, wie KI-Unterstützung die Inhaltsproduktion und die Nutzerwahrnehmung beeinflusst, und stellte fest, dass KI-Tools vorteilhaft sind, um das Inhaltsvolumen und das Engagement zu steigern, aber die wahrgenommene Qualität und Authentizität verringern.

Basierend auf ihren Ergebnissen empfahlen sie, dass soziale Medienplattformen, politische Entscheidungsträger und Interessengruppen Tools mit nutzerzentrierter Personalisierung entwerfen sollten, die Kontextsensibilität einbeziehen und intuitive Benutzeroberflächen priorisieren, um eine ethische und effektive Integration von Gen-KI in soziale Medien zu gewährleisten.

Die Forscher empfahlen auch, eine transparente Offenlegung KI-generierter Inhalte sicherzustellen, da andere Die Studie³ herausfanden⁴, dass dies das Vertrauen verbessert, ohne das Engagement zu beeinträchtigen.

Was die Regulierung betrifft, haben Regierungen auf der ganzen Welt ebenfalls Schritte unternommen, um die verantwortungsvolle Nutzung von künstlicher Intelligenz zu fördern und zu regulieren.

In der Europäischen Union (EU) konzentriert sich der KI-Gesetz auf Transparenz, Risikoklassifizierung und Verpflichtungen für Hochrisikosysteme.

Der Online Safety Act (OSA) hat dem Kommunikationsregulierer Ofcom im Vereinigten Königreich unterdessen weitreichende Befugnisse eingeräumt, um von Plattformen zu verlangen, schädliche oder irreführende Inhalte zu managen, obwohl politische Entscheidungsträger eine Aktualisierung gefordert haben, um KI-gesteuerte Desinformation wirksamer zu bekämpfen.

In den USA hat Präsident Donald Trump eine Exekutivverordnung erlassen, um Hindernisse für die amerikanische Führungsrolle in der KI zu beseitigen, und einen Aktionsplan zur Sicherung ihrer Dominanz in diesem Sektor veröffentlicht. Andererseits ordnete er letzten Monat einen nationalen Standard an, der es KI-Unternehmen ermöglicht, zu innovieren, ohne belastende Vorschriften.

Unterdessen, China?

Sbposts__content/button_label:

AI生成コンテンツは至る所に存在し、本物の人間によるコンテンツを圧迫し、ソーシャルメディアの景観を完全に変えつつあります。その影響は今やプラットフォームを超え、政治の舞台、より広範なインターネット、さらには世界経済にまで及んでいます。

では、これはソーシャルメディアが終焉に近づいていることを意味するのでしょうか？さあ、探ってみましょう。

人間のつながりから合成フィードへ

オンライン上での社会的相互作用の初期形態が初めて現れたのは、約40年前、1970年代後半から1980年代の掲示板システム（BBS）、Usenet、初期のフォーラムから始まりました。しかし、認識可能な最初のソーシャルネットワーキングプラットフォームが登場したのは1990年代中盤から後半になってからで、後に現代のソーシャルメディアとなるものの基礎を築きました。

21世紀の始まりは、Friendster、MySpace、Facebookなどのサイトによるソーシャルメディアの広範な普及の始まりを示しました。このソーシャルメディアの現代は、瞬時のグローバルな接続を可能にし、人々が関係を維持し、リアルタイムのニュースにアクセスし、共通の関心に基づいてコミュニティを構築することを可能にしました。

しかし今、わずか20年後、KI-Inhalteの拡散により、ソーシャルメディアの顔は変わりつつあります。

Traditionell,ソ ー シ ャ ル メ デ ィ アの中核的価値は「接続」と「表現」でしたが、これらは自動化された大量生産に取って代わられました。人々のフィードが合成ノイズに支配されるにつれ、大衆の間での離反と不信は急速に高まっています。

Instagramのトップ幹部によれば、慎重に選び抜かれたグリッドは今や過去のものとなりました。

Threadsでのメッセージで、Instagramの責任者アダム・モセリは、AIの台頭がソーシャルメディアサイトの磨かれた美的感覚を殺したと警告しました。すべてのメイク、肌の滑らかさ、美しい風景、ハイコントラストの写真は今や「死んだ」ものであり、「人々は何年も前に個人的な瞬間をフィードに共有することをほぼ止めてしまった」と彼は述べました。

代わりに、磨かれていない、「ありのままのスナップ写真」がダイレクトメッセージを通じて共有されています。

AI画像の普及は、クリエイターが選び抜かれたグリッドやプロフェッショナルスタイルの写真から、「より生々しい美的感覚」へと移行しなければならないことを意味し、人々は「安価に生産され、消費するには退屈な」気持ちの良いイメージではなく、「本物のように感じられるコンテンツ」を求めるようになっています。

まもなく、AIツールが成熟し、それらが生み出せる美的感覚の範囲が拡大するだろう、とモセリは述べ、同時に、ソーシャルメディアのフィードはすでに「すべてが合成」で埋まり始めており、これはプラットフォームがAI生成コンテンツの洪水に対処するために進化する必要があることを意味すると指摘しました。

一方、Substackの共同創業者兼CEOのクリス・ベストは昨年末、AI生成の「でたらめ（slop）」がインターネットを氾濫させ、「愚かな人々をクリックさせ続ける」可能性があると述べました。

「Slop」は、米国の辞書Merriam-Websterによって2025年の今年の言葉に選ばれ、「通常、大量に、人工知能によって生成される低品質のデジタルコンテンツ」と定義されています。

ボットインターネットの台頭

→

データによると、インターネットトラフィックのほぼ3/1は、人間の行動を模倣する自動化されたソフトウェアプログラムであるボットからのものです。

これにより、「死んだインターネット理論」が浮上しました。この理論は、インターネットが主にボット活動と、世界人口を管理するために設計されたアルゴリズム生成コンテンツで構成されているというものです。

Reddit (RDDT + 2.76%) の共同創設者であるアレクシス・オハニアンは、この考えにはある程度の真実があると信じており、それゆえにソーシャルメディアの新時代が到来すると考えています。「ライブ視聴者やライブコンテンツのような、生命の証明は、注意を引き留めるために本当に価値がある」と彼はポッドキャストで述べました。

OpenAIの創設者兼CEOであるサム・アルトマンも昨年Xで同様の見解を共有し、次のように投稿しました。

「私は死んだインターネット理論をそれほど真剣に受け止めたことはなかったが、今では本当に多くのLLM運用のTwitterアカウントがあるようだ。」

X（旧Twitter）でのボット活動は実際に悪化しています。Xアカウントの約10%がボットであると推定されており、その数は数百万ユーザーに上ります。

一方、YouTubeのアルゴリズムが新規ユーザーに表示する動画の20%以上が「AIスラップ（AIが生成した質の低いコンテンツ）」であることが判明しています。

実際、調査対象となった最も人気のある15,000のYouTubeチャンネルのうち、278チャンネルはAI生成コンテンツのみを含んでおり、それらを合わせると2億2100万人の登録者と630億回以上の視聴回数を獲得し、年間約1億1700万ドルの収益を生み出しています。

これは単に1つまたは一握りのプラットフォームに限定されたものではありません。インターネット全体に当てはまることです。

2025年のImperva Bad Bot Reportが指摘したように、自動化されたトラフィックは人間のトラフィックを上回り、全インターネットトラフィックの51%を占めており、そのうち20%は悪意のある活動に従事する「悪質なボット」からのものです。

数ヶ月前、Wikipediaを運営する非営利団体であるウィキメディア財団のプロダクトシニアディレクター、マーシャル・ミラーも、人々がオンラインで情報を検索する方法を変えるにつれて、同ウェブサイトの人間によるトラフィックが約8%減少したことに言及しました。

この減少は、財団が実際の読者層をよりよく理解し、商用検索やAIツール向けにデータを収集するサードパーティのボットを制限するために、人間とボットのトラフィックを区別する方法を変更した後に明らかになりました。

「これらの減少は、生成AIとソーシャルメディアが、特に検索エンジンが（多くの場合Wikipediaのコンテンツに基づいて）検索者に直接答えを提供するようになったことで、人々が情報を求める方法に与えた影響を反映していると考えています」とミラーは書き、これは検索エンジンが結果ページに直接答えを表示するためにAIをますます使用し、若いユーザーがTikTokやYouTubeに目を向けるようになったことから、本当に驚くべきことではないと付け加えました。

しかし、これはWikipediaのコンテンツを執筆・編集するコミュニティが縮小する可能性があることを意味します。そのため、同プラットフォームは、検索エンジン、ソーシャルプラットフォーム、LLM、AIチャットボットに対し、より多くのトラフィックをサイトに戻す手助けをするよう呼びかけています。

ソーシャルメディアプラットフォームがAIコンテンツを増幅する方法

生成AIツールのエコシステムの爆発的な成長により、ソーシャルメディアプラットフォームはAI生成コンテンツであふれかえっています。

例えば、Sora、Midjourney、Pika、Runway、Stable Diffusionなどのツールにより、ほとんど何でも画像や動画を作成することが非常に簡単になりました。

ますます多くのソリューションが、人々が視聴回数を増やし、クリエイター報酬プログラムやアフィリエイトリンクで収益化することをさらに容易にしています。それらは自動生成するだけでなく、有料でYouTubeなどのプラットフォームに直接コンテンツを投稿し、単一アカウントで月に100本以上の動画を処理します。これらのソリューションは、コンテンツクリエイターとしての完全なプロセスを自動化することを目指しています。

しかし、それだけではありません。研究者らは、プラットフォームが実際にAI生成投稿を後押ししていることをentdeckenしました。TikTok、Instagram、Meta (META + 1.69%) などのプラットフォームは、ユーザーが外部ソフトウェアなしでビジュアルやスクリプトを生成したり、既存のメディアをリミックスしたりできるネイティブAI機能さえ提供しています。

特にMetaは、AI生成コンテンツを大いに受け入れ、自らスラップを作成さえしました。2023年、同社はAIを活用したプロフィールを導入し、プラットフォームをAIキャラクターで満たす計画を発表しました。しかし、ユーザーからの大きな反発を受けた後、Metaは昨年AIプロフィールを廃止しました。

一方、Instagramは、ユーザーが独自のデジタルバージョンを含むカスタムチャットボットを作成できるAIスタジオを立ち上げました。

最近、TikTokは、プラットフォーム上に少なくとも13億のAI生成投稿があり、毎日1億点以上のコンテンツがアップロードされていることを明らかにしました。透明性のために、TikTokはAI生成コンテンツにラベルを付け、ユーザーが視聴するAIコンテンツの量を減らすオプションさえ提供しています。

しかし、パリに拠点を置くAI Forensicsは、非営利団体のAI Forensicsが実施した調査によると、AI生成コンテンツのTikTokラベルが付いているアカウントは2%未満であった。また、TikTokの利用規約で禁止されているコンテンツを投稿しているにもかかわらず、時には数ヶ月間プラットフォームのモデレーションを逃れることもある。

報告書によると、350以上のAI特化アカウントが生成AIツールの助けを借りて作成した43,000件の投稿を押し出し、1ヶ月間で45億回の視聴回数を記録した。研究者は次のように述べている：

「プラットフォーム上での本物の人間によるコンテンツと、合成されたAI生成コンテンツとの境界線が曖昧になっていることは、ユーザーのフィードにおけるAI生成コンテンツの増加という新たな転換を示している。」

自動化の中で本物は生き残れるか？

かつては友人たちが集まり特別な瞬間を共有する、活気に満ちた本当の活動で賑わっていたソーシャルネットワークは今、人工的な存在が人間の関与をシミュレートし、AI生成コンテンツを公開する、ゴーストタウンと化しつつある。

そんなユーザーやコンテンツを単にブロックすればいいと思うかもしれないが、eine Studie¹によると、人々はLLMの主題に精通している場合でも、AIと人間を区別できないことがわかっている。

この研究は、人間がAI生成コンテンツをどの程度成功裏に検出できるかを評価し、人間のテキストが正確に人間のものと認識されたのはわずか67%の時間であり、一方GPT-4は54%の時間で誤って人間と検出されたことを明らかにした。

Instagramのモセリによれば、技術が進歩するにつれて、ソーシャルプラットフォームはAI生成メディアの識別に関して時間とともに悪化するだけだという。一つの解決策は、カメラメーカーが写真撮影時に暗号的に署名して、それが本物であることを証明する方法かもしれない。

オハニアンによれば、ボットの力を軽減する解決策は、「検証可能に人間である次世代のソーシャルメディアの出現」を見ることである。

技術の進歩により、インターネットの大部分はエンゲージメントのために最適化されており、ベストはこれを「薬物依存症」に例え、「さらに強化されていく」と信じているが、彼は依然として別の未来に希望を持っている。

「メディアのもう一つの目的は文化である」と彼は付け加え、「それは人々が本当に、本当に求めているものでもある」と述べた。

Substackのベストによれば、この同じ技術が、独立したクリエイターにとって「はるかに多くの創造的レバレッジがある未来」を可能にする可能性を秘めている。メディアの真のボトルネックは、コンテンツ（そこには「不足がない」）ではなく、注目であると彼は指摘した。「私たちは、注目が希少資源である世界に入った」と彼は語った。

「私たちは退屈との戦いに勝利した」とベストは述べ、さらに「良質なコンテンツは非常に不足している」と付け加えた。

このような中、Wikimedia DeutschlandはWikidata Embedding Projectを立ち上げ、Wikidata内の約1億2,000万のオープンデータポイントをLLMが使いやすい形式に変換し、AIシステムが無料でより高品質なデータにアクセスし、精度を向上させるのを支援している。

規制、研究、そして信頼をめぐる戦い

AIがインターネットを支配する中、研究者はその影響を理解しようとしている。そのような研究の一つ、Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie²と題された研究は、AI支援がコンテンツ制作とユーザーの認識にどのように影響するかを調査し、AIツールがコンテンツ量とエンゲージメントを増加させるのに有益であるが、知覚される品質と真正性を低下させることを発見した。

彼らの調査結果に基づき、研究者は、ソーシャルメディアプラットフォーム、政策立案者、および関係者が、ユーザー中心のパーソナライゼーションを組み込み、文脈感度を組み入れ、直感的なユーザーインターフェースを優先するツールを設計し、生成AIをソーシャルメディアに倫理的かつ効果的に統合することを推奨した。

研究者はまた、AI生成コンテンツの透明性のある開示を確保することを推奨した。他の研究³が、これがエンゲージメントを損なうことなく信頼を向上させることが判明している⁴ためである。

規制に関しては、世界中の政府も人工知能の責任ある使用を促進し規制するための措置を講じている。

欧州連合（EU）では、AI法が透明性、リスク分類、および高リスクシステムに対する義務に焦点を当てている。

一方、オンライン安全法（OSA）は、英国において通信規制機関Ofcomに、プラットフォームに有害または誤解を招くコンテンツを管理するよう要求する広範な権限を与えたが、政策立案者はAI駆動の誤情報により効果的に対処するためにアップグレードを要求している.

米国では、ドナルド・トランプ大統領が、AIにおけるアメリカのリーダーシップへの障壁を取り除く大統領令に署名し、この分野での優位性を確保するための行動計画を公表した。しかし先月、彼はAI企業が煩雑な規制なしに革新を起こせるようにする国家基準を指示した.

一方、中国は？

Sbposts__content/button_label:

AI生成コンテンツの規制

??の枠組みは、AIコンテンツの作成と流通を規制する上で、世界的に見ても最も詳細なものの一つとなっています。そのサイバースペース管理局は、AI生成コンテンツに義務的な表示を実施しており、誤情報や詐欺を防ぐために、目に見える免責事項と埋め込まれたメタデータを要求しています。

一部の政府は、AI生成の偽情報をめぐるプラットフォームへの調査も推進しています。最も最近では、ポーランドが欧州委員会に対し、不安定化をもたらすと判断したAIコンテンツをホストしているとしてTikTokの調査を促しました。

「開示されたコンテンツは、ポーランドおよび欧州連合全体における公共の秩序、情報セキュリティ、民主的プロセスの完全性に対する脅威となっています」と、デジタル化担当次官のダリウシュ・スタンデルスキは委員会に送付した書簡で述べました。「その言説の性質、流通方法、合成された視聴覚資料の使用は、同プラットフォームが課せられた義務を遵守していないことを示しています」と彼は付け加えました。

現時点では、AIに関する政策環境は世界的に新興の問題であり、管轄区域によって断片化されており、生成システムが情報の流れ、公共の信頼、民主的な議論を再構築する速度に追いつくのに苦労しています。

AIインフラへの投資

AIの世界では、Palantir Technologies Inc. (PLTR + 0.26%)が、AI駆動のビッグデータ分析を専門とすることで際立っています。

同社は、Apollo、Gotham、Foundry、Artificial Intelligence Platform (AIP)を含む4つの主要なソフトウェアプラットフォームを構築しています。Apolloは、重要なシステムの継続的な稼働を確保するために、新機能、構成、セキュリティ更新の提供を調整する制御層です。Gothamはデータセット内のパターンを特定するのに役立ち、Foundryは組織がデータのための中央オペレーティングシステムを作成するのを支援します。AIPは、あらゆる組織内で大規模言語モデルやその他のAIを効果的に活性化することを可能にします。

特筆すべきは、Palantirのプラットフォームが、誤情報、ボットネットワーク、合成メディアの流通を検出するために政府や民間企業によって使用されていることです。これらのツールは、複雑な情報エコシステム全体で本物の行動と偽りの行動を識別するために構築されています。

さらに、AI分析は、組織や政府によって健康と安全の脅威を監視するためにもますます使用されています。時価総額4000億ドルのPLTR株は現在174ドルで取引されており、過去1年で110％以上上昇しています。EPS（TTM）は0.43、P/E（TTM）は392.56です。

財務状況については、Palantirは2025年9月30日終了の第3四半期の収益を11億8100万ドルと発表し、前年同期比63％、前四半期比18％の成長を記録し、20年以上の歴史の中で新たな収益記録を達成しました。四半期の利益は4億7600万ドルでした。

「我々はまだ物事のごく初期段階にあります。これは依然として始まり、最初の章の最初の瞬間なのです。」

– 共同創業者兼CEO アレックス・C・カープ、株主への書簡Beim

特に米国での収益は、前年同期比77％、前四半期比20％成長して8億8300万ドルとなりました。これには、前年同期比52％、前四半期比14％増加した米国政府収益4億8600万ドルと、前年同期比121％、前四半期比29％急増した米国商業収益3億9700万ドルが含まれます。カープは米国商業セグメントを「絶対的な強力な存在」と呼び、それが「単独で、米国の経済生活における今世紀で最も重要なビジネスストーリーの一つになる」と信じていると述べました。

この期間中、Palantirの顧客数は前年同期比45％増加しました。一方、調整後フリーキャッシュフローは5億4000万ドル、GAAPベースの1株当たり利益は0.18ドル、調整後EPSは0.21ドルでした。四半期末の現金、現金同等物、短期米国財務省証券は64億ドルでした。

「これらの結果は、AIPを使用してAIの活用を複利化することの変革的影響を否定しがたいものにしています」と同社は指摘しました。

2025年第4四半期について、Palantirは収益が13億2700万ドルから13億3100万ドルの間、調整後営業利益が6億9500万ドルから6億9900万ドルの間になると見込んでいます。

2025年通年については、Palantirは収益予想を43億9600万ドルから44億ドルに引き上げ、米国商業収益が少なくとも104％成長して14億3300万ドルを超えると予測しています。一方、調整後営業利益の予想は21億5100万ドルから21億5500万ドルに、調整後フリーキャッシュフローの予想は19億ドルから21億ドルに引き上げられました。

Palantir Technologies Inc. (PLTR) 株に関する最新ニュース

Fazit

ソ ー シ ャ ル メ デ ィ ア

Sbposts__content/button_label:

AI 생성 콘텐츠는 어디에나 존재하며, 진정한 인간의 콘텐츠를 밀어내고 소셜 미디어 환경을 완전히 변화시키고 있습니다. 그 영향력은 이제 플랫폼을 넘어 정치 영역, 더 넓은 인터넷, 심지어 세계 경제에까지 미치고 있습니다.

그렇다면 이는 소셜 미디어가 종말에 가까워지고 있다는 것을 의미할까요? 자, 함께 알아보도록 하겠습니다.

인간 연결에서 합성 피드로

온라인 사회적 상호작용의 초기 형태가 처음 등장한 것은 약 40년 전으로, 1970년대 말과 1980년대의 게시판 시스템(BBS), 유즈넷, 초기 포럼에서 시작되었습니다. 그러나 인식 가능한 최초의 소셜 네트워킹 플랫폼은 1990년대 중후반이 되어서야 나타나, 이후 현대 소셜 미디어의 기초를 마련했습니다.

21세기의 시작은 Friendster, MySpace, Facebook과 같은 사이트들과 함께 소셜 미디어의 광범위한 대중화를 의미했습니다. 소셜 미디어의 이 현대 시대는 즉각적인 글로벌 연결을 가능하게 하여 사람들이 관계를 유지하고, 실시간 뉴스에 접근하며, 공유된 관심사를 중심으로 커뮤니티를 구축할 수 있게 했습니다.

하지만 이제, 불과 20여 년 후, 소셜 미디어의 모습은 AI 콘텐츠의 확산과 함께 변하고 있습니다.

traditionell sozialen Medien의 핵심 가치는 연결과 표현이었지만, 이는 자동화된 대량 생산으로 대체되었습니다. 사람들의 피드가 합성된 소음으로 지배되면서, 대중 사이에서의 관심 이탈과 불신이 빠르게 증가하고 있습니다.

Instagram의 최고 임원에 따르면, 신중하게 큐레이션된 그리드는 이제 과거의 일이 되었습니다.

Threads의 메시지에서 Instagram 책임자 Adam Mosseri는 AI의 부상이 소셜 미디어 사이트의 세련된 미학을 죽였다고 경고했습니다. 그는 모든 메이크업, 피부 매끄럽게 하기, 아름다운 풍경, 고대비 사진은 이제 “죽었다”고 말하며, “사람들은 몇 년 전부터 피드에 개인적인 순간 공유를 대체로 멈췄다”고 말했습니다.

대신, 다듬어지지 않은 “비호의적인 순간 포착 사진”들이 다이렉트 메시지를 통해 공유되고 있습니다.

AI 이미지의 보편성은 창작자들이 큐레이션된 그리드와 전문가 스타일의 사진에서 벗어나 “더 원시적인 미학”으로 전환해야 함을 의미하며, 사람들은 “호의적인 이미지”보다는 “실제처럼 느껴지는 콘텐츠”를 원하고, 그 호의적인 이미지들은 “제작하기는 저렴하지만 소비하기는 지루하다”고 합니다.

Mosseri는 곧 AI 도구의 성숙과 함께 그것들이 생산할 수 있는 미학의 범위 확장을 보게 될 것이며, 이미 소셜 미디어 피드가 “모든 것이 합성된” 콘텐츠로 채워지기 시작했다고 언급하면서, 플랫폼들이 AI 생성 콘텐츠의 범람을 처리하기 위해 진화해야 한다고 말했습니다.

한편, Substack의 공동 창립자이자 CEO인 Chris Best는 작년 말에 AI 생성 “잡탕”이 인터넷을 범람시켜 “어리석은 사람들을 클릭하게 유지할” 수 있다고 말했습니다.

“Slop”은 미국 사전 Merriam-Webster에 의해 2025년의 올해의 단어로 선정되었으며, 이는 “일반적으로 대량으로 인공 지능을 통해 생산되는 저품질의 디지털 콘텐츠”로 정의됩니다.

봇 인터넷의 부상

스와이프하여 스크롤 →

데이터에 따르면, 인터넷 트래픽의 거의 ein Zehntel이 인간 행동을 모방하는 자동화된 소프트웨어 프로그램인 봇에서 비롯됩니다.

이는 죽은 인터넷 이론을 낳았는데, 이 이론은 인터넷이 주로 봇 활동과 세계 인구를 통제하기 위해 설계된 알고리즘 생성 콘텐츠로 구성되어 있다고 주장합니다.

Reddit (RDDT + 2.76%) 공동 창립자 알렉시스 오하니언은 이 아이디어에 일부 진실이 있으며, 이로 인해 새로운 소셜 미디어 시대가 도래할 것이라고 믿습니다. 그는 팟캐스트에서 “라이브 시청자나 라이브 콘텐츠와 같은 생명 증명은 주의를 끌기 위해 정말로 엄청나게 가치가 있습니다”라고 말했습니다.

OpenAI 창립자 겸 CEO 샘 알트먼은 작년 X에 유사한 견해를 공유하며 다음과 같이 게시했습니다:

“저는 죽은 인터넷 이론을 그렇게 심각하게 받아들이지 않았지만, 지금은 정말로 많은 LLM 운영 트위터 계정이 있는 것 같습니다.”

X(구 트위터)의 봇 활동은 실제로 더 악화되고 있습니다. 약 10%의 X 계정이 봇으로 추정되며, 이는 수백만 사용자에 해당합니다.

한편, YouTube 알고리즘이 신규 사용자에게 보여주는 동영상의 20% 이상이 “AI 슬롭”으로 발견되었습니다.

사실, 조사된 15,000개의 가장 인기 있는 YouTube 채널 중 278개는 AI 생성 콘텐츠만 포함하고 있으며, 이들은 총 2억 2,100만 구독자와 630억 회 이상의 조회수를 모아 매년 약 1억 1,700만 달러의 수익을 창출하고 있습니다.

이는 단 하나 또는 소수의 플랫폼에만 국한되지 않습니다. 전체 인터넷에 해당하는 사실입니다.

2025 Imperva Bad Bot Report에서 언급했듯이, 자동화 트래픽이 인간 트래픽을 추월하여 전체 인터넷 트래픽의 51%를 차지하고 있으며, 그 중 20%는 악의적인 활동에 관여하는 “나쁜 봇”에서 비롯됩니다.

몇 달 전, Wikipedia를 운영하는 비영리 단체인 Wikimedia Foundation의 제품 선임 디렉터 마샬 밀러는 또한 사람들이 온라인에서 정보를 검색하는 방식이 변함에 따라 웹사이트의 인간 트래픽이 약 8% 감소했다고 언급했습니다.

이 감소는 재단이 실제 독자층을 더 잘 이해하고 상업적 검색 및 AI 도구를 위해 데이터를 긁어모으는 제3자 봇을 제한하기 위해 인간과 봇 트래픽을 구분하는 방식을 변경한 후에 드러났습니다.

밀러는 “우리는 이러한 감소가 생성형 AI와 소셜 미디어가 사람들이 정보를 찾는 방식에 미치는 영향을 반영한다고 믿습니다. 특히 검색 엔진이 종종 Wikipedia 콘텐츠를 기반으로 검색자에게 직접 답변을 제공하기 때문입니다”라고 썼으며, 검색 엔진이 점점 더 AI를 사용하여 결과 페이지에 직접 답변을 표시하고 젊은 사용자들이 TikTok과 YouTube로 눈을 돌리는 것은 정말 놀라운 일이 아니라고 덧붙였습니다.

하지만 이는 Wikipedia 콘텐츠를 작성하고 편집하는 커뮤니티가 축소될 수 있음을 의미합니다. 따라서 이 플랫폼은 검색 엔진, 소셜 플랫폼, LLM 및 AI 챗봇이 더 많은 트래픽을 사이트로 되돌리도록 돕도록 촉구하고 있습니다.

소셜 미디어 플랫폼이 AI 콘텐츠를 어떻게 증폭시키고 있는가

생성형 도구 생태계의 폭발적인 성장 덕분에 소셜 미디어 플랫폼은 AI 생성 콘텐츠로 가득 차 있습니다.

예를 들어, Sora, Midjourney, Pika, Runway, Stable Diffusion과 같은 도구들은 거의 모든 것의 이미지와 동영상을 만들기를 극도로 쉽게 만들었습니다.

점점 더 많은 솔루션들은 사람들이 조회수를 높이고 크리에이터 보상 프로그램이나 제휴 링크로 수익을 창출하기를 더 쉽게 만듭니다. 이들은 자동 생성뿐만 아니라 유료로 YouTube와 같은 플랫폼에 콘텐츠를 직접 게시하며, 단일 계정으로 한 달에 100개 이상의 동영상을 처리합니다. 이러한 솔루션들은 콘텐츠 크리에이터가 되는 완전한 과정을 자동화하는 것을 목표로 합니다.

하지만 그게 전부가 아닙니다. 연구자들은 플랫폼들이 실제로 AI 생성 게시물을 부스트해 주고 있다는 것을 발견했습니다. TikTok, Instagram, Meta (META + 1.69%)와 같은 플랫폼들은 사용자가 외부 소프트웨어 없이 시각 자료, 스크립트를 생성하거나 기존 미디어를 리믹스할 수 있는 네이티브 AI 기능을 제공하기까지 합니다.

특히 Meta는 AI 생성 콘텐츠를 전폭적으로 수용하며, 심지어 자체 슬롭을 만들기도 했습니다. 2023년, 회사는 AI 기반 프로필을 도입하고 플랫폼을 AI 캐릭터로 채울 계획을 발표했습니다. 하지만 상당한 사용자 반발을 받은 후, Meta는 작년에 AI 프로필을 중단했습니다.

한편, Instagram은 사용자가 자신의 디지털 버전을 포함한 맞춤형 챗봇을 제작할 수 있는 AI 스튜디오를 출시했습니다.

최근 TikTok은 플랫폼에 최소 13억 개의 AI 생성 게시물이 있으며, 매일 1억 개 이상의 콘텐츠가 업로드된다고 밝혔습니다. 투명성을 위해 TikTok은 AI 생성 콘텐츠에 라벨을 붙이고, 사용자가 보는 AI 콘텐츠의 양을 줄일 수 있는 옵션도 제공합니다.

하지만 파리에 기반을 둔 AI 포렌식스(AI Forensics)는비영리 단체인 NewsGuard의 조사에 따르면, AI 생성 콘텐츠에 대한 TikTok 라벨이 부착된 계정은 2% 미만에 불과했습니다. 때로는 이러한 콘텐츠가 TikTok의 서비스 약관에 의해 금지된 내용을 게시함에도 불구하고 수개월 동안 플랫폼의 검열을 피하기도 합니다.

보고서에 따르면, 350개 이상의 AI 중심 계정이 생성형 AI 도구의 도움으로 제작된 43,000개의 게시물을 퍼뜨려 한 달 동안 45억 회의 조회수를 기록했습니다. 연구원들은 다음과 같이 말했습니다.

“플랫폼에서 진정한 인간 콘텐츠와 합성 AI 생성 콘텐츠 사이의 경계가 흐려지는 것은 사용자 피드에 더 많은 AI 생성 콘텐츠가 등장하는 새로운 전환점을 알리는 신호입니다.”

진정성은 자동화를 이겨낼 수 있을까?

한때 친구들이 모여 특별한 순간을 공유하는 활기찬 현장이었던 소셜 네트워크는 이제 인공적 존재들이 인간의 참여를 모방하고 AI 생성 콘텐츠를 게시하는 유령 도시가 되어가고 있습니다.

비록 사용자가 그러한 사용자와 콘텐츠를 차단하면 된다고 생각할 수 있지만, 한 Forschung¹에 따르면 사람들은 LLM의 주제에 익숙한 경우에도 AI와 인간을 구별하지 못하는 것으로 나타났습니다.

이 연구는 인간이 AI 생성 콘텐츠를 얼마나 성공적으로 탐지하는지 평가했으며, 인간이 작성한 텍스트가 정확히 인간의 것으로 인식된 비율은 67%에 불과한 반면, GPT-4 생성 텍스트가 부정확하게 인간의 것으로 감지된 비율은 54%에 달했습니다.

Instagram의 모세리에 따르면, 기술이 발전함에 따라 소셜 플랫폼의 AI 생성 미디어 식별 능력은 시간이 지날수록 더 나빠질 것이라고 합니다. 한 가지 해결책은 카메라 회사들이 사진을 촬영할 때 암호화 방식으로 서명하여 사진이 진짜임을 증명하는 것일 수 있습니다.

오하니안에 따르면, 봇의 힘을 약화시키는 해결책은 “검증 가능하게 인간인 차세대 소셜 미디어의 등장”을 보는 것입니다.

기술의 발전으로 인해 인터넷의 대부분이 참여도에 최적화되어 있는 상황에서, 베스트는 이를 “약물 중독”에 비유하며 “더욱 강력해질 것”이라고 믿지만, 여전히 대안적인 미래에 대한 희망을 가지고 있습니다.

그는 덧붙여 “미디어의 다른 목적은 문화”라고 말하며, “그것은 사람들이 정말로, 정말로 원하는 것이기도 하다”고 말했습니다.

서브스택의 베스트에 따르면, 바로 이 같은 기술이 독립 창작자들에게 “훨씬 더 많은 창의적 영향력을 발휘할 수 있는 미래”를 가능하게 할 잠재력을 가지고 있습니다. 그는 미디어의 진정한 병목 현상은 콘텐츠가 아니라 주의력이라고 지적했습니다. 콘텐츠는 “부족하지 않지만”, 주의력은 부족합니다. 그는 “우리는 주의력이 희소 자원이 된 세계에 진입했다”고 말했습니다.

베스트는 “우리는 지루함과의 전쟁에서 승리했다”며 “양질의 콘텐츠는 엄청나게 부족하다”고 덧붙였습니다.

한편, 위키미디어 도이칠란트는 Wikidata 임베딩 프로젝트를 시작하여 Wikidata의 약 1억 2천만 개의 오픈 데이터 포인트를 LLM이 사용하기 쉬운 형식으로 변환했으며, 이는 AI 시스템이 무료로 더 높은 품질의 데이터에 접근하고 정확성을 향상시키는 데 도움을 주고 있습니다.

규제, 연구, 그리고 신뢰를 위한 투쟁

AI가 인터넷을 장악함에 따라, 연구자들은 그 영향력을 이해하기 위해 나서고 있습니다. 생성형 AI가 소셜 미디어에 미치는 영향: 실험 연구²라는 제목의 한 연구는 AI 지원이 콘텐츠 생산과 사용자 인식에 어떻게 영향을 미치는지 조사했으며, AI 도구가 콘텐츠 양과 참여도를 증가시키는 데는 유익하지만, 인지된 품질과 진정성은 감소시킨다는 사실을 발견했습니다.

연구 결과를 바탕으로, 그들은 소셜 미디어 플랫폼, 정책 입안자 및 이해 관계자들이 사용자 중심의 개인화, 상황 민감성 통합, 직관적인 사용자 인터페이스 우선순위를 포함하는 도구를 설계하여 생성형 AI가 소셜 미디어에 윤리적이고 효과적으로 통합되도록 할 것을 권장했습니다.

연구자들은 또한 AI 생성 콘텐츠에 대한 투명한 공개를 보장할 것을 권장했는데, 다른 Forschung³Eingabe 발견⁴한 바에 따르면, 이는 참여도를 해치지 않으면서 신뢰를 향상시키기 때문입니다.

규제에 관해서는 전 세계 정부들도 인공 지능의 책임 있는 사용을 촉진하고 규제하기 위한 조치를 취해 왔습니다.

유럽 연합(EU)에서는 AI법이 투명성, 위험 분류 및 고위험 시스템에 대한 의무에 초점을 맞추고 있습니다.

한편, 온라인 안전법(OSA)은 영국에서 통신 규제 기관 Ofcom에게 플랫폼이 유해하거나 오해의 소지가 있는 콘텐츠를 관리하도록 요구할 수 있는 광범위한 권한을 부여했지만, 정책 입안자들은 AI 기반 허위 정보를 더 효과적으로 해결하기 위해 법의 개정을 요구해 왔습니다.

미국에서는 도널드 트럼프 대통령이 미국의 AI 분야 리더십에 대한 장벽을 제거하기 위해 행정 명령을 발표하고 해당 분야에서의 우위를 확보하기 위한 실행 계획을 발표했습니다. 또한 지난달에는 그는 AI 기업들이 번거로운 규제 없이 혁신할 수 있도록 하는 국가 표준을 명령Ich habe es getan

한편, 중국은?

Sbposts__content/button_label:

AI 생성 콘텐츠 규제

??의 프레임워크는 AI 콘텐츠 생성 및 유통을 규제하는 데 있어 전 세계적으로 가장 세부적인 체계 중 하나였습니다. 해당 국가의 사이버스페이스 관리국은 허위 정보와 사기를 방지하기 위해 AI 생성 콘텐츠에 대한 의무적 라벨링을 시행하여 가시적인 고지문과 내장된 메타데이터를 요구하고 있습니다.

일부 정부들은 또한 AI 생성 허위 정보와 관련하여 플랫폼에 대한 조사를 추진하고 있습니다. 가장 최근에는 폴란드가 유럽 집행위원회에 TikTok이 불안정하게 만드는 것으로 간주되는 AI 콘텐츠를 호스팅한 문제를 조사할 것을 촉구했습니다.

“공개된 콘텐츠는 폴란드와 유럽 연합 전역의 공공 질서, 정보 보안, 민주적 과정의 무결성에 위협을 가합니다.”라고 디지털화 부장관 Dariusz Standerski는 집행위원회에 보낸 서한에서 말했습니다. “이러한 서사의 성격, 유포 방식, 합성 오디오비주얼 자료의 사용은 해당 플랫폼이 부과된 의무를 이행하지 못하고 있음을 나타냅니다.”라고 그는 덧붙였습니다.

현재로서 AI에 대한 정책 환경은 전 세계적으로 여전히 부상하는 문제이며, 각 관할권마다 단편화되어 있고 생성형 시스템이 정보 흐름, 공공의 신뢰, 민주적 담론을 재구성하는 속도를 따라잡기 위해 고군분투하고 있습니다.

AI 인프라에 투자하기

AI 세계에서 Palantir Technologies Inc. (PLTR + 0.26%)는 AI 기반 빅데이터 분석에 특화된 기업으로 두각을 나타냅니다.

이 회사는 Apollo, Gotham, Foundry, Artificial Intelligence Platform (AIP)을 포함한 네 가지 주요 소프트웨어 플랫폼을 구축했습니다. Apollo는 새로운 기능, 구성, 보안 업데이트의 전달을 조화시켜 핵심 시스템의 지속적인 운영을 보장하는 제어 계층입니다. Gotham은 데이터 세트 내 패턴을 식별하는 데 도움을 주며, Foundry는 조직이 데이터를 위한 중앙 운영 체제를 만들 수 있게 지원합니다. AIP는 모든 조직 내에서 대규모 언어 모델 및 기타 AI를 효과적으로 활성화할 수 있게 합니다.

주목할 점은, Palantir의 플랫폼이 정부와 민간 기업에 의해 허위 정보, 봇 네트워크, 합성 미디어 유포를 탐지하는 데 사용되고 있다는 점입니다. 이러한 도구들은 복잡한 정보 생태계에서 진정한 행동과 비진정한 행동을 식별하기 위해 구축되었습니다.

더 나아가, AI 분석은 조직과 정부에 의해 건강 및 안전 위협을 모니터링하는 데 점점 더 많이 사용되고 있습니다. 4000억 달러의 시가총액을 가진 PLTR 주식은 현재 174달러에 거래되고 있으며, 지난 1년간 110% 이상 상승했습니다. 주당순이익(TTM)은 0.43, 주가수익비율(TTM)은 392.56입니다.

재무 상태에 관해, Palantir는 2025년 9월 30일로 종료된 3분기에 11억 8100만 달러의 매출을 발표했으며, 이는 전년 동기 대비 63%, 전분기 대비 18% 성장을 나타내 20년 이상의 역사에서 새로운 매출 기록을 달성했습니다. 해당 분기 순이익은 4억 7600만 달러였습니다.

“우리는 여전히 모든 것의 막 시작 단계에 있습니다. 이것은 여전히 시작이며, 첫 장의 첫 순간입니다.”

– 공동 창립자 겸 CEO Alex C. Karp, 주주들에게 보낸 서한 중

특히 미국 내 매출은 전년 동기 대비 77%, 전분기 대비 20% 성장하여 8억 8300만 달러에 달했습니다. 이 중 미국 정부 매출은 4억 8600만 달러로 전년 동기 대비 52%, 전분기 대비 14% 증가했으며, 미국 상업 매출은 3억 9700만 달러로 전년 동기 대비 121%, 전분기 대비 29% 급증했습니다. Karp는 미국 상업 부문을 “절대적인 거대 기관”이라고 부르며, 이 부문이 “그 자체만으로 미국 경제 생활에서 이 세기 가장 중요한 비즈니스 이야기 중 하나가 될 것”이라고 믿는다고 말했습니다.

이 기간 동안 Palantir의 고객 수는 전년 동기 대비 45% 증가했습니다. 한편, 조정 자유 현금 흐름은 5억 4000만 달러, GAAP 기준 주당순이익은 0.18달러, 조정 주당순이익은 0.21달러였습니다. 이 회사는 분기 말에 현금, 현금성 자산, 단기 미국 국채를 포함해 64억 달러의 자금을 보유했습니다.

“이러한 결과는 AIP를 사용하여 AI 영향력을 증대시키는 것이 가져오는 변혁적 효과를 부인할 수 없게 만듭니다.”라고 회사는 언급했습니다.

2025년 4분기에 대해 Palantir는 매출이 13억 2700만 달러에서 13억 3100만 달러 사이가 될 것으로 예상하며, 조정 영업 이익은 6억 9500만 달러에서 6억 9900만 달러 사이가 될 것으로 전망합니다.

2025년 연간에 대해, Palantir는 매출 가이던스를 43억 9600만 달러에서 44억 달러로 상향 조정했으며, 미국 상업 매출이 최소 104% 성장하여 14억 3300만 달러를 넘어설 것으로 예상합니다. 한편, 조정 영업 이익 가이던스는 21억 5100만 달러에서 21억 5500만 달러로, 조정 자유 현금 흐름 가이던스는 19억 달러에서 21억 달러로 상향 조정되었습니다.

Palantir Technologies Inc. (PLTR) 주식 최신 뉴스

Fazit

sozialen Medien

Sbposts__content/button_label:그것은 더 이상 사람들이 자신의 관심사, 기억, 아이디어를 진정성 있게 적극적으로 공유하던 그곳이 아닙니다. 한때 인간적 연결 위에 구축되었던 공간은 이제 자동화된 콘텐츠와 봇으로 넘쳐나고 있습니다.

인공지능은 전례 없는 창의적 영향력과 경제적 효율성을 열어주었지만, 동시에 한때 온라인 상호작용을 의미 있게 만들었던 바로 그 신호들을 침식시켰습니다.

소셜 미디어의 미래는 분열될 가능성이 높으며, 한 갈래는 참여도를 극대화하도록 최적화된 초자동화 피드로, 다른 한 갈래는 도달 범위보다 문화, 신뢰성, 맥락을 우선시하는 검증 가능한 인간 중심의 공간을 향할 것입니다.

Verweise

<sup>1. Jones, CR & Bergen, BK „Menschen können GPT-4 in einem Turing-Test nicht von einem Menschen unterscheiden.“ arXiv-Preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. & Aiello, LM „Der Einfluss von generativer KI auf soziale Medien: Eine experimentelle Studie.“ arXiv-Preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. „Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.“ arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, SR „Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.“ arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>

O conteúdo de IA está em toda parte, sufocando o conteúdo humano autêntico e transformando completamente o cenário das mídias sociais. Sua influência agora se estendeu além das plataformas para impactar a arena política, a internet em geral e até a economia global.

Então, isso significa que as mídias sociais estão se aproximando de sua morte? Bem, vamos descobrir.

Da Conexão Humana aos Feeds Sintéticos

Foi há aproximadamente quatro décadas que as primeiras formas de interação social online surgiram, começando com os sistemas de quadro de avisos (BBS), Usenet e fóruns iniciais no final dos anos 1970 e 1980. No entanto, as primeiras plataformas reconhecíveis de redes sociais só apareceram em meados do final dos anos 1990, lançando as bases para o que mais tarde se tornaria as mídias sociais modernas.

O início do século XXI marcou a popularização generalizada das mídias sociais com sites como Friendster, MySpace e Facebook. Esta era moderna das mídias sociais permitiu a conexão global instantânea, permitindo que as pessoas mantivessem relacionamentos, acessassem notícias em tempo real e construíssem comunidades em torno de interesses compartilhados.

Mas agora, apenas algumas décadas depois, a face das mídias sociais está mudando com a proliferação de conteúdo de IA.

Tradicionalmente, os valores centrais das sozialen Medien têm sido conexão e expressão, mas estes foram substituídos pela produção em massa automatizada. Com os feeds das pessoas dominados por ruído sintético, o desengajamento e a desconfiança entre as massas estão crescendo rapidamente.

De acordo com o principal executivo do Instagram, uma grade cuidadosamente curada agora é coisa do passado.

In einer mensagem no Threads, o chefe do Instagram, Adam Mosseri, alertou que a ascensão da IA matou a estética polida do site de mídia social. Toda aquela maquiagem, suavização da pele, paisagens bonitas e fotografia de alto contraste agora estão “mortas”, pois “as pessoas em grande parte pararam de compartilhar momentos pessoais no feed há anos”, disse ele.

Em vez disso, “instantâneos não favorecedores” e não polidos estão sendo compartilhados via mensagens diretas.

A onipresença das imagens de IA significa que os criadores têm que se afastar das grades curadas e da fotografia de estilo profissional para uma “estética mais crua”, com as pessoas querendo “conteúdo que pareça real” em vez de imagens lisonjeiras, que são “baratas de produzir e chatas de consumir”.

Em breve, veremos a maturação das ferramentas de IA e com isso a expansão da gama de estéticas que elas podem produzir, disse Mosseri, observando que já os feeds de mídia social estão começando a se encher de “tudo sintético”, o que significa que as plataformas precisam evoluir para lidar com a enxurrada de conteúdo gerado por IA.

Enquanto isso, o cofundador e CEO da Substack, Chris Best, disse no final do ano passado que o “lixo” gerado por IA poderia inundar a internet, o que “mantém as pessoas burras clicando”.

“Lixo” foi escolhida como a palavra do ano de 2025 pelo dicionário americano Merriam-Webster, que a define como “conteúdo digital de baixa qualidade que é produzido, geralmente em quantidade, por meio de inteligência artificial”.

A Ascensão da Internet dos Bots

Deslize para rolar →

Os dados mostram que quase um terço de todo o tráfego da internet vem de bots, programas de software automatizados que imitam o comportamento humano.

Isso deu origem à teoria da internet morta, que sustenta que a internet consiste principalmente em atividade de bots e conteúdo gerado algoritmicamente projetado para controlar a população global.

Der Mitbegründer von Reddit (RDDT + 2.76%), Alexis Ohanian, acredita que há alguma verdade na ideia, e uma nova era das mídias sociais surgirá por causa disso. “Ter prova de vida, como espectadores ao vivo e conteúdo ao vivo, é realmente valioso para manter a atenção”, disse ele em um podcast.

O fundador e CEO da OpenAI, Sam Altman, compartilhou uma visão semelhante no X no ano passado, postando:

“Eu nunca levei a teoria da internet morta muito a sério, mas parece que agora há realmente muitas contas do Twitter executadas por LLMs.”

A atividade de bots no X (anteriormente conhecido como Twitter) está na verdade piorando. Estima-se que cerca de 10% das contas do X sejam bots, totalizando milhões de usuários.

Enquanto isso, mais de 20% dos vídeos que o algoritmo do YouTube mostra para novos usuários foram identifiziert como “lixo de IA”.

Na verdade, entre os 15.000 canais do YouTube mais populares pesquisados, 278 contêm apenas KI-generierte Inhalte, e juntos eles acumularam 221 milhões de inscritos e mais de 63 bilhões de visualizações, gerando cerca de US$ 117 milhões em receita anualmente.

Isso não se limita a apenas uma ou um punhado de plataformas; é verdade para toda a internet.

Como observou o Relatório de Bots Maliciosos Imperva 2025, o tráfego automatizado superou o tráfego humano, representando 51% de todo o tráfego da internet, com 20% disso vindo de “bots maliciosos” envolvidos em atividades mal-intencionadas.

Há alguns meses, Marshall Miller, diretor sênior de produto da Wikimedia Foundation, a organização sem fins lucrativos que administra a Wikipedia, também observou que o tráfego humano do site diminuiu cerca de 8% à medida que as pessoas mudam a forma como buscam informações online.

A queda foi revelada depois que a Fundação mudou a forma como diferencia o tráfego humano do tráfego de bots para entender melhor o público real e limitar bots de terceiros que extraem seus dados para ferramentas de busca comercial e IA.

“Acreditamos que esses declínios refletem o impacto da IA generativa e das mídias sociais na forma como as pessoas buscam informações, especialmente com os mecanismos de busca fornecendo respostas diretamente aos pesquisadores, muitas vezes com base no conteúdo da Wikipedia”, escreveu Miller, acrescentando que isso não foi realmente uma surpresa, pois os mecanismos de busca usam cada vez mais IA para ter respostas diretamente nas páginas de resultados e os usuários mais jovens recorrem ao TikTok e YouTube.

Mas isso significa que a comunidade que escreve e edita o conteúdo da Wikipedia pode encolher. Como tal, a plataforma está instando mecanismos de busca, plataformas sociais, LLMs e chatbots de IA a ajudar a direcionar mais tráfego de volta ao site.

Como as Plataformas de Mídia Social Estão Amplificando o Conteúdo de IA

As plataformas de mídia social foram inundadas com conteúdo gerado por IA graças a um crescimento explosivo no ecossistema de ferramentas generativas.

Por exemplo, ferramentas como Sora, Midjourney, Pika, Runway e Stable Diffusion tornaram extremamente fácil criar imagens e vídeos de quase qualquer coisa.

Um número crescente de soluções torna ainda mais fácil para as pessoas aumentar as visualizações e lucrar com programas de recompensa para criadores ou links de afiliados. Elas não apenas auto-geram, mas também postam conteúdo diretamente em plataformas como o YouTube, por uma taxa, fazendo mais de 100 vídeos por mês em uma única conta. Essas soluções visam automatizar o processo completo de ser um criador de conteúdo.

Mas isso não é tudo. Pesquisadores entdeckt que as plataformas na verdade têm impulsionado posts gerados por IA. Plataformas como TikTok, Instagram e Meta (META + 1.69%) até oferecem recursos nativos de IA que permitem aos usuários gerar visuais, roteiros ou remixar mídia existente sem software externo.

A Meta, em particular, abraçou o conteúdo gerado por IA com todo o entusiasmo, até criando seu próprio lixo. Em 2023, a empresa introduziu perfis com tecnologia de IA e anunciou planos para povoar sua plataforma com personagens de IA. Mas após receber uma reação significativa dos usuários, a Meta eliminou os perfis de IA no ano passado.

O Instagram, enquanto isso, lançou um estúdio de IA que permite aos usuários produzir chatbots personalizados, incluindo suas próprias versões digitais.

Recentemente, o TikTok revelou que havia pelo menos 1,3 bilhão de posts gerados por IA em sua plataforma, com mais de 100 milhões de peças de conteúdo enviadas todos os dias. Para transparência, o TikTok rotula o conteúdo gerado por IA e até dá aos usuários a opção de reduzir a quantidade de conteúdo de IA que veem.

Mas a AI Forensics, uma organização com base em ParisUma organização sem fins lucrativos, a NewsGuard, descobriu que menos de 2% das contas tinham o rótulo do TikTok para conteúdo de IA. Às vezes, elas também escapam da moderação da plataforma por meses, apesar de publicarem conteúdo proibido pelos termos de serviço do TikTok.

De acordo com o relatório, mais de 350 contas focadas em IA impulsionaram 43.000 postagens feitas com a ajuda de ferramentas de IA generativa, acumulando 4,5 bilhões de visualizações em um período de um mês. Os pesquisadores disseram:

“A linha tênue entre conteúdo autêntico humano e conteúdo sintético gerado por IA na plataforma está sinalizando uma nova virada em direção a mais conteúdo gerado por IA nos feeds dos usuários.”

A Autenticidade Pode Sobreviver à Automação?

Antes movimentadas com atividade real, onde amigos se reuniam e compartilhavam momentos especiais, as redes sociais estão agora se tornando cidades fantasmas, povoadas por entidades artificiais simulando engajamento humano e publicando conteúdo gerado por IA.

Embora você possa pensar que pode simplesmente bloquear esses usuários e conteúdo, um estudo descobriu¹ que as pessoas não conseguem distinguir a IA de um humano, mesmo quando estão familiarizadas com o assunto do LLM.

O estudo avaliou o quão bem os humanos detectam conteúdo gerado por IA e descobriu que o texto humano foi reconhecido com precisão como tal apenas 67% das vezes, enquanto o GPT-4 foi detectado erroneamente como humano 54% das vezes.

De acordo com Mosseri do Instagram, as plataformas sociais só vão piorar na identificação de mídia gerada por IA com o tempo, à medida que a tecnologia melhora. Uma solução poderia ser empresas de câmeras assinarem fotograficamente fotos quando tiradas para provar que são reais.

A solução para mitigar o poder dos bots, segundo Ohanian, é ver “uma nova geração de mídia social surgir que seja verificavelmente humana”.

Enquanto os avanços na tecnologia têm a maior parte da internet otimizada para engajamento, o que Best comparou a “vício em drogas” e acredita que “vai ser superalimentado”, ele ainda tem esperança por um futuro alternativo.

“O outro propósito da mídia é a cultura”, acrescentou ele, “Isso é algo que as pessoas realmente, realmente querem também.”

De acordo com Best do Substack, essa mesma tecnologia tem o potencial de permitir um “futuro onde há muito mais alavancagem criativa” para criadores independentes. O verdadeiro gargalo para a mídia, ele observou, não é o conteúdo, do qual não há “escassez”, mas a atenção. “Entramos em um mundo onde a atenção é o recurso escasso”, disse ele.

“Vencemos a guerra contra o tédio”, disse Best, acrescentando que “há uma enorme escassez de bom conteúdo”.

Em meio a isso, a Wikimedia Deutschland lançou o Wikidata Embedding Project, que converteu cerca de 120 milhões de pontos de dados abertos no Wikidata em um formato mais fácil para LLMs usarem, ajudando sistemas de IA a acessar dados de maior qualidade gratuitamente e melhorar sua precisão.

Regulação, Pesquisa e a Luta pela Confiança

À medida que a IA assume a internet, os pesquisadores se dedicaram a entender seu impacto. Um desses estudos, intitulado Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² examinou como a assistência de IA afeta a produção de conteúdo e as percepções dos usuários e descobriu que as ferramentas de IA são benéficas para aumentar o volume de conteúdo e o engajamento, mas diminuem a qualidade e autenticidade percebidas.

Com base em suas descobertas, eles recomendaram que plataformas de mídia social, formuladores de políticas e partes interessadas projetem ferramentas com personalização focada no usuário, incorporando sensibilidade ao contexto e priorizando interfaces de usuário intuitivas para uma integração ética e eficaz da IA generativa nas mídias sociais.

Os pesquisadores também recomendaram garantir a divulgação transparente de conteúdo gerado por IA, uma vez que outros estudos³ entdeckt⁴ que isso melhora a confiança sem prejudicar o engajamento.

Quando se trata de regulamentações, governos ao redor do mundo também tomaram medidas para promover e regular o uso responsável da inteligência artificial.

Na União Europeia (UE), a KI-Gesetz foca em transparência, classificação de risco e obrigações para sistemas de alto risco.

A Online Safety Act (OSA), entretanto, deu à autoridade reguladora de comunicações Ofcom ampla autoridade para exigir que as plataformas gerenciem conteúdo prejudicial ou enganoso no Reino Unido, embora os formuladores de políticas tenham pedido uma atualização para combater mais efetivamente a desinformação impulsionada por IA.

Nos EUA, o presidente Donald Trump emitiu uma Ordem Executiva para remover barreiras à liderança americana em IA e publicou um plano de ação para garantir seu domínio no setor. Por outro lado, no mês passado, ele bestellt um padrão nacional que permite que empresas de IA inovem sem regulamentações incômodas.

Enquanto isso, a China?

Sbposts__content/button_label:

Yapay zeka içeriği her yerde, otantik insan içeriğini dışlayarak sosyal medya manzarasını tamamen dönüştürüyor. Etkisi artık platformların ötesine geçerek siyasi arenayı, daha geniş İnternet’i ve hatta küresel ekonomiyi etkiliyor.

Peki, bu sosyal medyanın sonuna yaklaştığımız anlamına mı geliyor? Hadi birlikte öğrenelim.

İnsan Bağlantısından Sentetik Akışlara

Çevrimiçi sosyal etkileşimin ilk biçimleri yaklaşık kırk yıl önce, 1970’lerin sonu ve 1980’lerde bülten tahta sistemleri (BBS), Usenet ve ilk forumlarla ortaya çıktı. Ancak, tanınabilir ilk sosyal ağ platformları, modern sosyal medyanın temelini atarak, 1990’ların ortalarına ve sonlarına kadar görünmedi.

21. yüzyılın başlangıcı, Friendster, MySpace ve Facebook gibi sitelerle sosyal medyanın yaygın popülaritesini işaret etti. Sosyal medyanın bu modern çağı, anlık küresel bağlantıyı mümkün kılarak insanların ilişkilerini sürdürmesine, gerçek zamanlı haberlere erişmesine ve ortak ilgi alanları etrafında topluluklar oluşturmasına olanak tanıdı.

Ancak şimdi, sadece birkaç on yıl sonra, sosyal medyanın yüzü yapay zeka içeriğinin yaygınlaşmasıyla değişiyor.

Traditionell, soziale Medien temel değerleri bağlantı ve ifade olmuştur, ancak bunlar otomatik kitlesel üretimle değiştirildi. İnsanların akışları sentetik gürültüyle domine edilirken, kitleler arasında kopma ve güvensizlik hızla artıyor.

Instagram’ın üst düzey yöneticisine göre, özenle seçilmiş bir ızgara artık geçmişte kaldı.

Threads’teki bir mesajında Instagram başkanı Adam Mosseri, yapay zekanın yükselişinin sosyal medya sitesinin cilalı estetiğini öldürdüğü konusunda uyardı. Tüm o makyaj, cilt düzeltme, güzel manzaralar ve yüksek kontrastlı fotoğrafçılık artık “öldü”, çünkü “insanlar yıllar önce kişisel anlarını akışa paylaşmayı büyük ölçüde bıraktı,” dedi.

Bunun yerine, cilalanmamış, “hoş olmayan doğal kareler” doğrudan mesajlar yoluyla paylaşılıyor.

Yapay zeka görüntülerinin yaygınlığı, içerik üreticilerinin özenle seçilmiş ızgaralardan ve profesyonel tarz fotoğrafçılıktan, insanların “hoş görüntülerden” ziyade “gerçek hissettiren içerik” istediği, “üretilmesi ucuz ve tüketilmesi sıkıcı” olan “daha ham bir estetiğe” kayması gerektiği anlamına geliyor.

Yakında, yapay zeka araçlarının olgunlaşmasını ve bununla birlikte üretebilecekleri estetik yelpazesinin genişlemesini göreceğiz, dedi Mosseri, sosyal medya akışlarının şimdiden “sentetik her şeyle” dolmaya başladığını belirtirken, bu da platformların yapay zeka tarafından üretilen içerik selini idare etmek için evrilmesi gerektiği anlamına geliyor.

Bu arada, Substack’ın kurucu ortağı ve CEO’su Chris Best geçen yılın sonlarında, yapay zeka tarafından üretilen “zırvanın” interneti doldurabileceğini, bunun da “aptal insanları tıklatmaya devam ettirdiğini” söyledi.

“Zırva”, ABD sözlüğü Merriam-Webster tarafından 2025 yılının kelimesi seçildi ve “genellikle yapay zeka yoluyla, miktar olarak üretilen düşük kaliteli dijital içerik” olarak tanımlanıyor.

Bot İnternet’in Yükselişi

Kaydırmak için kaydırın →

Veriler, tüm internet trafiğinin neredeyse üçte birinin, insan davranışını taklit eden otomatik yazılım programları olan botlardan geldiğini gösteriyor.

Bu durum, İnternetin çoğunlukla bot aktivitesinden ve küresel nüfusu kontrol etmek için tasarlanmış algoritmik olarak üretilmiş içerikten oluştuğunu savunan ölü internet teorisinin ortaya çıkmasına neden oldu.

Reddit (RDDT + 2.76%) kurucu ortağı Alexis Ohanian, bu fikirde bir gerçeklik payı olduğuna ve bunun sonucunda sosyal medyada yeni bir çağın doğacağına inanıyor. Bir podcast’te, “Canlı kanıtına sahip olmak, canlı izleyiciler ve canlı içerik gibi, dikkati çekmek için gerçekten çok değerli,” dedi.

OpenAI’nin kurucusu ve CEO’su Sam Altman da geçen yıl X’te benzer bir görüş paylaşarak şunu yazdı:

“Ölü internet teorisini hiç ciddiye almamıştım, ama görünüşe göre artık gerçekten çok fazla LLM tarafından yönetilen Twitter hesabı var.”

X’teki (eski adıyla Twitter) bot aktivitesi aslında daha da kötüleşiyor. Tahminlere göre X hesaplarının yaklaşık 10 % bot, bu da milyonlarca kullanıcıya tekabül ediyor.

Bu arada, YouTube’un algoritmasının yeni kullanıcılara gösterdiği videoların %20’sinden fazlasının “yapay zeka çorbası” Es wurde festgestellt, dass es so war.

Hatta, araştırılan 15.000 en popüler YouTube kanalı arasında, 278’i sadece yapay zeka tarafından üretilen içerik içeriyor ve birlikte 221 milyon aboneye ve 63 milyardan fazla görüntülemeye ulaşarak her yıl yaklaşık 117 milyon dolar gelir elde ediyorlar.

Bu durum sadece bir veya birkaç platformla sınırlı değil; tüm internet için geçerli.

2025 Imperva Kötü Bot Raporu’nun da belirttiği gibi, otomatik trafik insan trafiğini geride bırakarak tüm internet trafiğinin %51’ini oluşturuyor ve bunun %20’si kötü niyetli faaliyetlerde bulunan “kötü botlardan” geliyor.

Birkaç ay önce, Wikipedia’yı işleten kâr amacı gütmeyen kuruluş Wikimedia Vakfı’nın ürün kıdemli direktörü Marshall Miller da, insanların çevrimiçi bilgi arama şekillerini değiştirmesiyle web sitesinin insan trafiğinin yaklaşık %8 azaldığını belirtti.

Bu düşüş, Vakfın gerçek okuyucu kitlesini daha iyi anlamak ve ticari arama ve yapay zeka araçları için verilerini kazıyan üçüncü taraf botları sınırlamak amacıyla insan ve bot trafiğini ayırt etme yöntemini değiştirmesinden sonra ortaya çıktı.

Miller, “Bu düşüşlerin, özellikle arama motorları genellikle Wikipedia içeriğine dayanarak arayanlara doğrudan cevaplar sağlarken, üretken yapay zeka ve sosyal medyanın insanların bilgi arama şekilleri üzerindeki etkisini yansıttığına inanıyoruz,” diye yazdı ve arama motorlarının sonuç sayfalarında doğrudan cevaplar vermek için giderek daha fazla yapay zeka kullanmasının ve genç kullanıcıların TikTok ve YouTube’a yönelmesinin aslında şaşırtıcı olmadığını ekledi.

Ancak bu, Wikipedia’nın içeriğini yazan ve düzenleyen topluluğun küçülebileceği anlamına geliyor. Bu nedenle platform, arama motorlarına, sosyal platformlara, LLM’lere ve yapay zeka sohbet botlarına, daha fazla trafiği siteye geri yönlendirmeye yardım etmeleri için çağrıda bulunuyor.

Sosyal Medya Platformları Yapay Zeka İçeriğini Nasıl Güçlendiriyor

Üretken araçlar ekosistemindeki patlayıcı büyüme sayesinde sosyal medya platformları yapay zeka tarafından üretilen içerikle dolup taşıyor.

Örneğin, Sora, Midjourney, Pika, Runway ve Stable Diffusion gibi araçlar, neredeyse her şeyin görüntüsünü ve videosunu oluşturmayı son derece kolay hale getirdi.

Giderek artan sayıda çözüm, insanların görüntülemeleri artırmasını ve içerik üretici ödül programlarından veya bağlı kuruluş bağlantılarından para kazanmasını daha da kolaylaştırıyor. Bu çözümler sadece otomatik olarak içerik üretmekle kalmıyor, aynı zamanda ücret karşılığında içeriği doğrudan YouTube gibi platformlara tek bir hesapta ayda 100’den fazla video yaparak yayınlıyor. Bu çözümler, bir içerik üreticisi olmanın tüm sürecini otomatikleştirmeyi amaçlıyor.

Ama hepsi bu değil. Araştırmacılar, platformların aslında yapay zeka tarafından üretilen gönderileri desteklediğini tespit etti. TikTok, Instagram ve Meta (META + 1.69%) gibi platformlar, kullanıcıların harici yazılım olmadan görseller, senaryolar oluşturmasına veya mevcut medyayı yeniden karıştırmasına olanak tanıyan yerleşik yapay zeka özellikleri bile sunuyor.

Meta, özellikle tam bir şevkle yapay zeka tarafından üretilen içeriği benimsedi, hatta kendi çorbasını yarattı. 2023’te şirket, yapay zeka destekli profilleri tanıttı ve platformunu yapay zeka karakterleriyle doldurma planlarını açıkladı. Ancak önemli kullanıcı tepkisi aldıktan sonra Meta, geçen yıl yapay zeka profillerini sonlandırdı.

Bu arada Instagram, kullanıcıların kendi dijital versiyonları da dahil olmak üzere özel sohbet botları üretmesine olanak tanıyan bir yapay zeka stüdyosu başlattı.

Yakın zamanda TikTok, platformunda en az 1.3 milyar yapay zeka tarafından üretilen gönderi olduğunu ve her gün 100 milyondan fazla içerik parçasının yüklendiğini açıkladı. Şeffaflık için TikTok, yapay zeka tarafından üretilen içeriği etiketliyor ve hatta kullanıcılara gördükleri yapay zeka içeriği miktarını azaltma seçeneği sunuyor.

Ancak Paris merkezli AI Forensics,kar amacı gütmeyen bir kuruluş olan NewsGuard’ın araştırmasına göre, hesapların %2’den azında AI içeriği için TikTok etiketi bulunuyordu. Bazen, TikTok’un hizmet şartlarında yasaklanan içerikler yayınlamalarına rağmen, platformun denetiminden aylarca kaçabiliyorlar.

Rapora göre, 350’den fazla AI odaklı hesap, gen AI araçları yardımıyla yapılmış 43.000 gönderi paylaşarak, bir aylık bir sürede 4,5 milyar görüntülenme biriktirdi. Araştırmacılar şunları söyledi:

“Platformdaki gerçek insan ve sentetik AI üretimi içerik arasındaki belirsizleşen çizgi, kullanıcıların akışlarında daha fazla AI üretimi içeriğe doğru yeni bir dönüşün sinyalini veriyor.”

Otantiklik Otomasyondan Sağ Çıkabilir mi?

Bir zamanlar gerçek etkinliklerle dolup taşan, arkadaşların toplandığı ve özel anlar paylaştığı sosyal ağlar, şimdi yapay varlıkların insan etkileşimini taklit ettiği ve AI üretimi içerik yayınladığı hayalet kasabalar haline geliyor.

Bu kullanıcıları ve içeriği engelleyebileceğinizi düşünebilirsiniz, ancak bir arbeiten¹, insanların LLM’nin konusuna aşina olsalar bile AI’yı bir insandan ayırt edemediklerini buldu.

Çalışma, insanların AI üretimi içeriği ne kadar başarılı tespit ettiğini değerlendirdi ve insan metninin yalnızca %67 oranında doğru şekilde tanındığını, GPT-4’ün ise %54 oranında yanlışlıkla insan olarak algılandığını buldu.

Instagram’ın Mosseri’ne göre, teknoloji geliştikçe sosyal platformların AI üretimi medyayı tanımlama becerisi zamanla daha da kötüleşecek. Bir çözüm, kamera şirketlerinin fotoğraflar çekildiğinde kriptografik olarak imzalaması ve onların gerçek olduğunu kanıtlaması olabilir.

Ohanian’a göre botların gücünü azaltmanın çözümü, “doğrulanabilir şekilde insan olan yeni nesil bir sosyal medyanın ortaya çıkışını görmektir.”

Teknolojideki ilerlemeler internetin çoğunu etkileşim için optimize etmiş olsa da -ki Best bunu “uyuşturucu bağımlılığına” benzetti ve “süper şarj olacağına” inanıyor- yine de alternatif bir gelecek için umutlu.

“Medyanın diğer amacı kültürdür,” diye ekledi, “Bu da insanların gerçekten, gerçekten istediği bir şey.”

Substack’ın Best’ine göre, bu aynı teknoloji, bağımsız yaratıcılar için “çok daha fazla yaratıcı kaldıracın olduğu bir gelecek” sağlama potansiyeline sahip. Medya için gerçek darboğazın, “kıtlığı olmayan” içerik değil, dikkat olduğunu belirtti. “Dikkatin kıt kaynak olduğu bir dünyaya girdik,” dedi.

“Can sıkıntısına karşı savaşı kazandık,” diyen Best, “iyi içeriğin büyük bir kıtlığı var,” diye ekledi.

Bu arada, Wikimedia Deutschland, Wikidata’daki yaklaşık 120 milyon açık veri noktasını LLM’lerin kullanımı için daha kolay bir formata dönüştüren Wikidata Embedding Project’i başlattı; bu, AI sistemlerinin ücretsiz olarak daha yüksek kaliteli verilere erişmesine ve doğruluklarını artırmasına yardımcı oluyor.

Düzenleme, Araştırma ve Güven Mücadelesi

AI interneti ele geçirirken, araştırmacılar onun etkisini anlamaya koyuldular. Generative AI’nın Sosyal Medya Üzerindeki Etkisi: Deneysel Bir Çalışma² başlıklı böyle bir çalışma, AI yardımının içerik üretimini ve kullanıcı algılarını nasıl etkilediğini inceledi ve AI araçlarının içerik hacmini ve etkileşimi artırmada faydalı olduğunu ancak algılanan kaliteyi ve otantikliği düşürdüğünü buldu.

Bulgularına dayanarak, sosyal medya platformlarına, politika yapıcılara ve paydaşlara, gen AI’nın sosyal medyaya etik ve etkili entegrasyonu için kullanıcı odaklı kişiselleştirme, bağlama duyarlılık içerme ve sezgisel kullanıcı arayüzlerine öncelik veren araçlar tasarlamalarını önerdiler.

Araştırmacılar ayrıca, AI üretimi içeriğin şeffaf bir şekilde açıklanmasını sağlamayı önerdi, çünkü diğer calışmalar³ bunun etkileşime zarar vermeden güveni artırdığını bulmuştur⁴.

Düzenlemelere gelince, dünya çapındaki hükümetler de yapay zekanın sorumlu kullanımını teşvik etmek ve düzenlemek için adımlar attı.

Avrupa Birliği’nde (AB), AI Yasası şeffaflık, risk sınıflandırması ve yüksek riskli sistemler için yükümlülüklere odaklanıyor.

Online Safety Act (OSA) ise, Birleşik Krallık’ta iletişim düzenleyicisi Ofcom’a, platformların zararlı veya yanıltıcı içeriği yönetmesini gerektirmek için geniş yetki verdi, ancak politika yapıcılar AI kaynaklı dezenformasyonla daha etkili mücadele etmek için bir yükseltme çağrısında bulundu.

ABD’de Başkan Donald Trump, Amerika’nın AI’daki liderliğinin önündeki engelleri kaldırmak için bir Yürütme Emri yayınladı ve bu sektördeki hakimiyetini güvence altına almak için bir eylem planı yayınladı. Yine de, geçen ay, AI şirketlerinin hantal düzenlemeler olmadan yenilik yapmasını sağlayan bir ulusal standart bestellt.

Bu arada, Çin?

Sbposts__content/button_label:

Yapay Zeka İçeriği Düzenleme: Dünya Çapında Politika Güncellemeleri

??’nin çerçevesi, yapay zeka içerik oluşturma ve dağıtımını düzenlemede küresel olarak en ayrıntılı olanlardan biri olmuştur. Siber Uzay İdaresi, yanlış bilgi ve dolandırıcılığı önlemek için yapay zeka tarafından oluşturulan içerik için zorunlu etiketleme uygulamıştır, görünür sorumluluk reddi beyanları ve gömülü meta veriler gerektirmektedir.

Bazı hükümetler ayrıca, yapay zeka kaynaklı dezenformasyon konusunda platformları soruşturmaya itiyor. En son olarak, Polonya, Avrupa Komisyonu’nu, istikrarsızlaştırıcı bulduğu yapay zeka içeriğine ev sahipliği yapması nedeniyle TikTok’u soruşturmaya çağırdı.

“İfşa edilen içerik, Polonya’da ve Avrupa Birliği genelinde kamu düzeni, bilgi güvenliği ve demokratik süreçlerin bütünlüğü için bir tehdit oluşturmaktadır,” dedi Dijitalleşme Bakan Yardımcısı Dariusz Standerski Komisyon’a gönderdiği bir mektupta. “Anlatıların doğası, dağıtılma şekli ve sentetik görsel-işitsel materyallerin kullanımı, platformun kendisine yüklenen yükümlülüklere uymadığını göstermektedir,” diye ekledi.

Şimdilik, yapay zeka için politika manzarası dünya çapında gelişmekte olan bir konu olmaya devam ediyor, yargı bölgeleri arasında parçalı ve üretken sistemlerin bilgi akışlarını, kamu güvenini ve demokratik söylemi yeniden şekillendirme hızına yetişmekte zorlanıyor.

Yapay Zeka Altyapısına Yatırım Yapmak

Yapay zeka dünyasında, Palantir Technologies Inc. (PLTR + 0.26%) yapay zeka odaklı büyük veri analitiği konusundaki uzmanlığı ile öne çıkıyor.

Apollo, Gotham, Foundry ve Yapay Zeka Platformu (AIP) dahil olmak üzere dört ana yazılım platformu inşa etmiştir. Apollo, kritik sistemlerin kesintisiz çalışmasını sağlamak için yeni özelliklerin, yapılandırmaların ve güvenlik güncellemelerinin dağıtımını uyumlu hale getiren bir kontrol katmanıdır. Gotham, veri kümeleri içindeki kalıpları tanımlamaya yardımcı olur ve Foundry, kuruluşların verileri için merkezi bir işletim sistemi oluşturmasına yardımcı olur. AIP, herhangi bir kuruluşta büyük dil modellerinin ve diğer yapay zekaların etkin bir şekilde devreye alınmasını sağlar.

Özellikle, Palantir’in platformları, yanlış bilgi, bot ağları ve sentetik medya dağıtımını tespit etmek için hükümetler ve özel işletmeler tarafından kullanılmaktadır. Bu araçlar, karmaşık bilgi ekosistemlerinde otantik ve otantik olmayan davranışları tanımlamak için inşa edilmiştir.

Ayrıca, yapay zeka analitiği, kuruluşlar ve hükümetler tarafından sağlık ve güvenlik tehditlerini izlemek için giderek daha fazla kullanılıyor. 400 milyar dolarlık piyasa değeriyle, PLTR hisseleri şu anda 174 dolardan işlem görüyor ve son bir yılda %110’un üzerinde artış gösterdi. Hisse başına kazancı (TTM) 0.43 ve F/K oranı (TTM) 392.56’dır.

Finansal durumuna gelince, Palantir, 30 Eylül 2025 tarihinde sona eren üçüncü çeyrek için 1.181 milyar dolar gelir açıkladı; bu, yıllık %63 ve çeyreklik %18 büyümeyi temsil ediyor ve yirmi yılı aşkın tarihinde yeni bir gelir rekoru elde etti. Çeyreğe ait karı 476 milyon dolardı.

“Hâlâ işin en başındayız. Bu hâlâ başlangıç, ilk bölümün ilk anı.”

– Kurucu Ortağı ve CEO Alex C. Karp, hissedarlara mektubunda

Özellikle ABD geliri, yıllık %77 ve çeyreklik %20 büyüme ile 883 milyon dolara yükseldi. Bu, yıllık %52 ve çeyreklik %14 artışla 486 milyon dolara sıçrayan ABD hükümeti gelirini ve yıllık %121 ve çeyreklik %29 artışla 397 milyon dolara yükselen ABD ticari gelirini içeriyor. Karp, ABD ticari segmentini “mutlak bir dev” olarak nitelendirdi ve “tek başına, Amerikan ekonomik yaşamında yüzyılın en önemli iş hikayelerinden biri haline geleceğine” inandığını belirtti.

Bu dönemde, Palantir’in müşteri sayısı yıllık %45 arttı. Bu arada, düzeltilmiş serbest nakit akışı 540 milyon dolar, GAAP hisse başına kazanç 0.18 dolar ve düzeltilmiş hisse başına kazanç 0.21 dolardı. Çeyreği, nakit, nakit benzerleri ve kısa vadeli ABD Hazine menkul kıymetlerinden oluşan 6.4 milyar dolar ile kapattı.

Şirket, “Bu sonuçlar, yapay zeka kaldıracını bileşik hale getirmek için AIP kullanmanın dönüştürücü etkisini inkâr edilemez kılıyor,” notunu düştü.

2025 dördüncü çeyreği için Palantir, gelirin 1.327 ila 1.331 milyar dolar arasında ve düzeltilmiş faaliyet gelirinin 695 ila 699 milyon dolar arasında olmasını bekliyor.

2025 tam yılı için ise Palantir, gelir rehberini 4.396-4.400 milyar dolara yükseltti ve ABD ticari gelirinde en az %104 büyüme ile 1.433 milyar doları aşmayı öngörüyor. Bu arada, düzeltilmiş faaliyet geliri rehberi 2.151-2.155 milyar dolara ve düzeltilmiş serbest nakit akışı rehberi 1.9-2.1 milyar dolara yükseltildi.

En Son Palantir Technologies Inc. (PLTR) Hisse Haberleri

Fazit

Sosyal Medya

Sbposts__content/button_label:Yapay zeka benzeri görülmemiş bir yaratıcı kaldıraç ve ekonomik verimlilik sağlamış olsa da, bir zamanlar çevrimiçi etkileşimi anlamlı kılan sinyalleri de aşındırmıştır.

Sosyal medyanın geleceği büyük olasılıkla parçalanacak; bir yol, etkileşim için optimize edilmiş hiper-otomatikleştirilmiş akışlara, diğeri ise erişimden ziyade kültür, güvenilirlik ve bağlamı önceliklendiren, insan olduğu doğrulanabilir alanlara işaret edecek.

Referenzen

<sup>1. Jones, CR & Bergen, BK „Menschen können GPT-4 in einem Turing-Test nicht von einem Menschen unterscheiden.“ arXiv-Preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. & Aiello, LM „Der Einfluss von generativer KI auf soziale Medien: Eine experimentelle Studie.“ arXiv-Preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. „Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.“ arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, SR „Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.“ arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>

AI-innhold er overalt, og presser ut autentisk menneskelig innhold og forvandler det sosiale medielandskapet fullstendig. Dens innflytelse har nå spredt seg utover plattformer til å påvirke det politiske arenaet, det bredere internett og til og med den globale økonomien.

Betyr dette at sosiale medier nærmer seg sin død? Vel, la oss finne ut av det.

Fra menneskelig tilknytning til syntetiske strømmer

Det var for omtrent fire tiår siden at tidlige former for nettbasert sosial interaksjon først dukket opp, med utgangspunkt i bulletin board systems (BBS), Usenet og tidlige fora på slutten av 1970- og 1980-tallet. De første gjenkjennelige sosiale nettverksplattformene dukket imidlertid ikke opp før midten til slutten av 1990-tallet, og la grunnlaget for det som senere skulle bli moderne sosiale medier.

Begynnelsen av det 21. århundre markerte den utbredte populariteten til sosiale medier med nettsteder som Friendster, MySpace og Facebook. Denne moderne æraen for sosiale medier muliggjorde umiddelbar global tilkobling, og lot folk opprettholde relasjoner, få tilgang til sanntidsnyheter og bygge samfunn rundt felles interesser.

Men nå, bare et par tiår senere, forandres ansiktet til sosiale medier med spredningen av AI-innhold.

Tradisjonelt har kjernesverdiene til soziale Medien vært tilknytning og uttrykk, men disse har blitt erstattet av automatisert masseproduksjon. Med folks strømmer dominert av syntetisk støy, vokser frakobling og mistillit blant massene raskt.

Ifølge Instagrams toppleder er et nøye kuratert rutenett nå en ting fra fortiden.

in a melding på Threads advarte Instagram-sjef Adam Mosseri om at fremveksten av AI har drept den sosiale medieplattformens polerte estetikk. Alt det sminke, hudglatting, vakre landskap og høykontrastfotografi er nå “dødt”, ettersom “folk stort sett sluttet å dele personlige øyeblikk til feed for år siden,” sa han.

I stedet deles upolert, “lite flatterende spontanbilder” via direkte meldinger.

Den gjennomtrengende naturen til AI-bilder betyr at skapere må bevege seg bort fra kuraterte rutenett og profesjonell stil fotografi til en “mer rå estetikk”, der folk ønsker “innhold som føles ekte” heller enn flatterende bilder, som er “billige å produsere og kjedelige å konsumere.”

Snart vil vi se modningen av AI-verktøy og med det utvidelsen av spekteret av estetikker de kan produsere, sa Mosseri, og la til at sosiale medie-strømmer allerede begynner å fylles opp med “syntetisk alt”, noe som betyr at plattformer må utvikle seg for å håndtere flommen av AI-generert innhold.

I mellomtiden sa Substack-medgründer og administrerende direktør Chris Best i fjor at AI-generert “slask” kunne oversvømme internett, noe som “får dumme folk til å fortsette å klikke.”

“Slask” ble valgt som årets ord for 2025 av den amerikanske ordboken Merriam-Webster, som definerer det som “digitalt innhold av lav kvalitet som produseres, vanligvis i mengde, ved hjelp av kunstig intelligens.”

Opprinnelsen til Bot-internettet

Sveip for å scrolle →

KI-generierte Inhalte sind allgegenwärtig, verdrängen authentische menschliche Inhalte und verändern die Social-Media-Landschaft grundlegend. Ihr Einfluss reicht mittlerweile über die Plattformen hinaus und prägt die Politik, das gesamte Internet und sogar die Weltwirtschaft.

Bedeutet das also, dass die sozialen Medien ihrem Ende entgegengehen? Nun, finden wir es heraus.

Von der menschlichen Verbindung zu synthetischen Futtermitteln

Vor etwa vier Jahrzehnten entstanden die ersten Formen der sozialen Online-Interaktion, beginnend mit Bulletin-Board-Systemen (BBS), Usenet und frühen Foren in den späten 1970er und 1980er Jahren. Die ersten erkennbaren Social-Networking-Plattformen erschienen jedoch erst Mitte bis Ende der 1990er Jahre und legten damit den Grundstein für das, was später als moderne soziale Medien bekannt werden sollte.

Der Beginn des 21. Jahrhunderts war geprägt von der weitverbreiteten Popularität sozialer Medien wie Friendster, MySpace und Facebook. Dieses moderne Zeitalter der sozialen Medien ermöglichte die sofortige globale Vernetzung und erlaubte es den Menschen, Beziehungen zu pflegen, Nachrichten in Echtzeit abzurufen und Gemeinschaften um gemeinsame Interessen herum aufzubauen.

Doch nur wenige Jahrzehnte später verändert sich das Gesicht der sozialen Medien durch die zunehmende Verbreitung von KI-Inhalte.

Traditionell sind die Kernwerte von Social Media Früher gab es Verbindung und Ausdrucksmöglichkeiten, doch diese wurden durch automatisierte Massenproduktion ersetzt. Da die sozialen Medien der Menschen von synthetischem Lärm dominiert werden, nehmen Entfremdung und Misstrauen in der Bevölkerung rasant zu.

Laut Instagrams Topmanager gehört ein sorgfältig kuratiertes Profil der Vergangenheit an.

Kurz und Nachricht in ThreadsInstagram-Chef Adam Mosseri warnte, dass der Aufstieg der KI die makellose Ästhetik der Social-Media-Plattform zerstört habe. All das Make-up, die Hautglättung, die wunderschönen Landschaftsaufnahmen und die kontrastreichen Fotos seien nun „tot“, da „die Menschen schon vor Jahren aufgehört haben, persönliche Momente zu teilen, um ihren Feed zu aktualisieren“, sagte er.

Stattdessen werden ungeschliffene, „unvorteilhafte Schnappschüsse“ über Direktnachrichten geteilt.

Die Allgegenwärtigkeit von KI-Bildern zwingt Kreative dazu, sich von kuratierten Rastern und professioneller Fotografie hin zu einer „roheren Ästhetik“ zu bewegen, da die Menschen „Inhalte wünschen, die sich echt anfühlen“ anstatt schmeichelhafter Bilder, die „billig zu produzieren und langweilig zu konsumieren“ sind.

„Schon bald werden wir die Reife der KI-Tools erleben und damit auch die Erweiterung des Spektrums an Ästhetiken, die sie erzeugen können“, sagte Mosseri und merkte an, dass sich die Feeds der sozialen Medien bereits jetzt mit „synthetischem Alles“ füllen, was bedeutet, dass sich die Plattformen weiterentwickeln müssen, um die Flut von KI-generierten Inhalten bewältigen zu können.

Unterdessen sagte Chris Best, Mitbegründer und CEO von Substack, Ende letzten Jahres, dass KI-generierter „Müll“ das Internet überschwemmen könnte, was „dumme Menschen dazu bringt, weiterzuklicken“.

„Schlamm“ wurde als … ausgewählt. Wort des Jahres 2025 Laut dem US-amerikanischen Wörterbuch Merriam-Webster ist es „digitaler Inhalt von geringer Qualität, der in der Regel in großer Menge mithilfe künstlicher Intelligenz erzeugt wird“.

Der Aufstieg des Bot-Internets

Zum Scrollen wischen →

Die Daten zeigen, dass fast ein Drittel des gesamten Internetverkehrs stammt von Bots, automatisierten Softwareprogrammen, die menschliches Verhalten nachahmen.

Dies hat zur Entstehung der Theorie des toten Internets geführt, die besagt, dass das Internet in erster Linie aus Bot-Aktivitäten und algorithmisch generierten Inhalten besteht, die dazu dienen, die Weltbevölkerung zu kontrollieren.

Reddit (RDDT + 2.76%) Mitgründer Alexis Ohanian glaubt, dass an der Idee etwas Wahres dran ist und dass dadurch eine neue Ära der sozialen Medien anbrechen wird. „Beweise für Leben zu haben, wie Live-Zuschauer und Live-Inhalte, ist verdammt wertvoll, um die Aufmerksamkeit zu halten“, sagte er in einem Podcast.

OpenAI-Gründer und CEO Sam Altman äußerte letztes Jahr eine ähnliche Ansicht zu X und schrieb:

„Ich habe die Theorie vom toten Internet nie wirklich ernst genommen, aber es scheint, als gäbe es jetzt tatsächlich eine Menge Twitter-Accounts, die von LLM-Studenten betrieben werden.“

Die Bot-Aktivität auf X (ehemals Twitter) nimmt tatsächlich zu. Schätzungsweise … 10 % der X-Konten Es handelt sich um Bots mit insgesamt Millionen von Nutzern.

Inzwischen sind über 20 % der Videos, die der YouTube-Algorithmus neuen Nutzern anzeigt, … gefunden als „KI-Schrott“ bezeichnet zu werden.

Tatsächlich enthalten 278 der 15,000 beliebtesten YouTube-Kanäle, die untersucht wurden, ausschließlich Inhalte, die ausschließlich aus Videos mit Inhalten bestehen, die nur ... KI-generierte InhalteZusammen haben sie 221 Millionen Abonnenten und mehr als 63 Milliarden Aufrufe erzielt und generieren jährlich Einnahmen von rund 117 Millionen Dollar.

Dies beschränkt sich nicht auf eine oder wenige Plattformen; es trifft auf das gesamte Internet zu.

Wie der Imperva Bad Bot Report 2025 feststellte, hat der automatisierte Datenverkehr den menschlichen Datenverkehr überholt. Sie machen 51 % des gesamten Internetverkehrs aus.20 % davon stammen von „bösen Bots“, die schädliche Aktivitäten ausüben.

Vor einigen Monaten stellte Marshall Miller, Senior Director of Product bei der Wikimedia Foundation, der gemeinnützigen Organisation, die Wikipedia betreibt, fest, dass der menschliche Traffic auf der Website um etwa 8 % zurückgegangen ist, da sich die Art und Weise, wie Menschen online nach Informationen suchen, verändert.

Der Rückgang wurde bekannt, nachdem die Stiftung ihre Vorgehensweise zur Unterscheidung zwischen menschlichem und Bot-Traffic geändert hatte, um die tatsächliche Leserschaft besser zu verstehen und zu verhindern, dass Drittanbieter-Bots ihre Daten für kommerzielle Such- und KI-Tools auslesen.

„Wir glauben, dass diese Rückgänge den Einfluss generativer KI und sozialer Medien auf die Informationssuche der Menschen widerspiegeln, insbesondere da Suchmaschinen den Suchenden direkt Antworten liefern, oft basierend auf Wikipedia-Inhalten“, schrieb Miller und fügte hinzu, dass dies keine wirkliche Überraschung sei, da Suchmaschinen zunehmend KI einsetzen, um Antworten direkt auf den Ergebnisseiten bereitzustellen, und jüngere Nutzer sich TikTok und YouTube zuwenden.

Dies bedeutet jedoch, dass die Gemeinschaft, die Wikipedia-Inhalte verfasst und bearbeitet, schrumpfen könnte. Daher fordert die Plattform Suchmaschinen, soziale Netzwerke, Lernmanagementsysteme und KI-Chatbots auf, dazu beizutragen, mehr Besucher auf die Website zu lenken.

Wie Social-Media-Plattformen KI-Inhalte verstärken

Dank des explosionsartigen Wachstums im Ökosystem der generativen Werkzeuge werden Social-Media-Plattformen mit KI-generierten Inhalten überschwemmt.

Tools wie Sora, Midjourney, Pika, Runway und Stable Diffusion haben es beispielsweise extrem einfach gemacht, Bilder und Videos von nahezu allem zu erstellen.

Immer mehr Lösungen erleichtern es Nutzern, ihre Aufrufe zu steigern und von Creator-Prämienprogrammen oder Affiliate-Links zu profitieren. Sie generieren nicht nur automatisch Inhalte, sondern veröffentlichen diese gegen Gebühr auch direkt auf Plattformen wie YouTube – und das mit über 100 Videos pro Monat auf einem einzigen Konto. Ziel dieser Lösungen ist die Automatisierung des gesamten Content-Erstellungsprozesses.

Aber das ist noch nicht alles. Forscher haben gefunden Diese Plattformen fördern tatsächlich KI-generierte Beiträge. Plattformen wie TikTok, Instagram und Meta (META + 1.69%) Sie bieten sogar native KI-Funktionen, die es Benutzern ermöglichen, Visualisierungen und Skripte zu generieren oder bestehende Medien ohne externe Software neu zu mischen.

Meta hat KI-generierte Inhalte mit großem Eifer eingeführt und sogar eigene, fragwürdige Inhalte produziert. 2023 führte das Unternehmen KI-gestützte Profile ein und kündigte an, seine Plattform mit KI-Charakteren zu bevölkern. Nach massiver Kritik von Nutzern stellte Meta die KI-Profile jedoch letztes Jahr wieder ein.

Instagram hat derweil ein KI-Studio ins Leben gerufen, das es Nutzern ermöglicht, individuelle Chatbots zu erstellen, darunter auch ihre eigenen digitalen Versionen.

TikTok gab kürzlich bekannt, dass es auf seiner Plattform mindestens 1.3 Milliarden KI-generierte Beiträge gibt und täglich über 100 Millionen Inhalte hochgeladen werden. Aus Transparenzgründen kennzeichnet TikTok KI-generierte Inhalte und bietet Nutzern sogar die Möglichkeit, die Menge der angezeigten KI-Inhalte zu reduzieren.

Die Pariser Non-Profit-Organisation AI Forensics stellte jedoch fest, dass weniger als 2 % der Konten das TikTok-Label für KI-Inhalte trugen. Teilweise entgehen sie zudem monatelang der Moderation der Plattform, obwohl sie Inhalte veröffentlichen, die gegen die Nutzungsbedingungen von TikTok verstoßen.

Dem Bericht zufolge veröffentlichten über 350 KI-orientierte Accounts 43,000 Beiträge, die mithilfe von KI-Tools erstellt wurden und innerhalb eines Monats 4.5 Milliarden Aufrufe erzielten. Die Forscher erklärten:

„Die zunehmende Verschmelzung von authentischen, von Menschen erstellten und von synthetischer KI generierten Inhalten auf der Plattform signalisiert eine neue Entwicklung hin zu mehr KI-generierten Inhalten in den Feeds der Nutzer.“

Kann Authentizität die Automatisierung überstehen?

Einst pulsierte soziale Netzwerke vor realer Aktivität, wo Freunde zusammenkamen und besondere Momente teilten, sie werden nun zu Geisterstädten, bevölkert von künstlichen Wesen, die menschliche Interaktion simulieren und KI-generierte Inhalte veröffentlichen.

Auch wenn Sie vielleicht denken, Sie könnten diese Nutzer und Inhalte einfach blockieren, Studie gefunden¹ dass Menschen KI nicht von einem Menschen unterscheiden können, selbst wenn sie mit dem Thema des LLM vertraut sind.

Die Studie bewertete, wie erfolgreich Menschen KI-generierte Inhalte erkennen und stellten fest, dass menschlicher Text nur in 67 % der Fälle korrekt als solcher erkannt wurde, während GPT-4 in 54 % der Fälle fälschlicherweise als menschlich erkannt wurde.

Laut Mosseri von Instagram wird die Erkennung KI-generierter Inhalte durch soziale Plattformen mit fortschreitender Technologie immer schwieriger. Eine Lösung könnte darin bestehen, dass Kamerahersteller Fotos bei der Aufnahme kryptografisch signieren, um deren Echtheit zu beweisen.

Laut Ohanian liegt die Lösung zur Eindämmung der Macht von Bots darin, „eine nächste Generation sozialer Medien entstehen zu lassen, die nachweislich menschlich ist“.

Während der technologische Fortschritt den größten Teil des Internets auf Interaktion optimiert hat, was Best mit „Drogensucht“ verglich und von dem er glaubt, dass es „noch verstärkt werden wird“, ist er dennoch hoffnungsvoll, was eine alternative Zukunft angeht.

„Der andere Zweck der Medien ist die Kultur“, fügte er hinzu, „das ist etwas, was sich die Menschen wirklich sehr wünschen.“

Laut Substacks Best birgt genau diese Technologie das Potenzial, eine Zukunft mit deutlich mehr kreativen Möglichkeiten für unabhängige Kreative zu ermöglichen. Der eigentliche Engpass für die Medienbranche, so Best, sei nicht der Inhalt, an dem es „keinen Mangel“ gebe, sondern die Aufmerksamkeit. „Wir leben in einer Welt, in der Aufmerksamkeit die knappe Ressource ist“, sagte er.

„Wir haben den Krieg gegen die Langeweile gewonnen“, sagte Best und fügte hinzu: „Es herrscht ein enormer Mangel an guten Inhalten.“

In diesem Zusammenhang startete Wikimedia Deutschland das Wikidata Embedding Project, das rund 120 Millionen offene Datenpunkte in Wikidata in ein für LLMs leichter nutzbares Format umwandelte und KI-Systemen so den kostenlosen Zugriff auf qualitativ hochwertigere Daten ermöglichte und ihre Genauigkeit verbesserte.

Regulierung, Forschung und der Kampf um Vertrauen

Da künstliche Intelligenz das Internet immer stärker durchdringt, beschäftigen sich Forscher verstärkt mit ihren Auswirkungen. Eine dieser Studien trägt den Titel … Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² untersuchten, wie sich KI-Unterstützung auf die Inhaltsproduktion und die Wahrnehmung durch die Nutzer auswirkt, und stellten fest, dass KI-Tools zwar das Inhaltsvolumen und das Engagement steigern, aber die wahrgenommene Qualität und Authentizität verringern.

Auf Grundlage ihrer Erkenntnisse empfahlen sie Social-Media-Plattformen, politischen Entscheidungsträgern und Interessengruppen, Tools mit nutzerorientierter Personalisierung zu entwickeln, die Kontextsensitivität einbeziehen und intuitive Benutzeroberflächen priorisieren, um eine ethische und effektive Integration von generischer KI in soziale Medien zu gewährleisten.

Die Forscher empfahlen außerdem, für eine transparente Offenlegung von KI-generierten Inhalten zu sorgen, da andere Es wurden Studien³ haben gefunden⁴ dass dies das Vertrauen stärkt, ohne das Engagement zu beeinträchtigen.

Auch im Bereich der Regulierung haben Regierungen weltweit Maßnahmen ergriffen, um den verantwortungsvollen Einsatz künstlicher Intelligenz zu fördern und zu regulieren.

In der Europäischen Union (EU) KI-Gesetz Schwerpunkt ist Transparenz, Risikoklassifizierung und Verpflichtungen für Hochrisikosysteme.

Der Online Safety Act (OSA) hat der Kommunikationsbehörde Ofcom unterdessen weitreichende Befugnisse eingeräumt, Plattformen in Großbritannien zur Bekämpfung schädlicher oder irreführender Inhalte zu verpflichten, obwohl die politischen Entscheidungsträger … forderte ein Upgrade um KI-gesteuerte Desinformation effektiver zu bekämpfen.

In den USA hat Präsident Donald Trump erließ eine Executive Order um Hindernisse für Amerikas Führungsrolle im Bereich KI zu beseitigen und veröffentlichte einen Aktionsplan zur Sicherung seiner Vormachtstellung in diesem Sektor. Doch letzten Monat… bestellt Ein nationaler Standard, der es KI-Unternehmen ermöglicht, ohne bürokratische Hürden Innovationen voranzutreiben.

Chinas Rahmenwerk zur Regulierung der Erstellung und Verbreitung von KI-Inhalten zählt unterdessen zu den detailliertesten weltweit. Die Cyberspace-Administration hat umgesetzt verpflichtende Kennzeichnung von KI-generierten Inhalten, einschließlich sichtbarer Haftungsausschlüsse und eingebetteter Metadaten, um Fehlinformationen und Betrug zu vermeiden.

Einige Regierungen drängen zudem auf Untersuchungen gegen Plattformen wegen KI-generierter Desinformation. Zuletzt forderte Polen die Europäische Kommission auf, TikTok wegen der Verbreitung von KI-Inhalten zu untersuchen, die es als destabilisierend einstufte.

„Die veröffentlichten Inhalte stellen eine Bedrohung für die öffentliche Ordnung, die Informationssicherheit und die Integrität demokratischer Prozesse in Polen und der gesamten Europäischen Union dar“, erklärte der stellvertretende Digitalisierungsminister Dariusz Standerski in einem Schreiben an die Kommission. „Die Art der Darstellungen, die Art ihrer Verbreitung und die Verwendung synthetischer audiovisueller Materialien deuten darauf hin, dass die Plattform ihren Verpflichtungen nicht nachkommt“, fügte er hinzu.

Aktuell ist die politische Landschaft für KI weltweit noch ein aufkommendes Thema, fragmentiert über verschiedene Rechtsordnungen hinweg und bemüht sich, mit der Geschwindigkeit Schritt zu halten, mit der generative Systeme Informationsflüsse, öffentliches Vertrauen und demokratischen Diskurs umgestalten.

Investitionen in KI-Infrastruktur

In der Welt der KI Palantir Technologies Inc. (PLTR + 0.26%) zeichnet sich durch seine Spezialisierung auf KI-gestützte Big-Data-Analysen aus.

Das Unternehmen hat vier zentrale Softwareplattformen entwickelt: Apollo, Gotham, Foundry und die Artificial Intelligence Platform (AIP). Apollo fungiert als Steuerungsebene und harmonisiert die Bereitstellung neuer Funktionen, Konfigurationen und Sicherheitsupdates, um den kontinuierlichen Betrieb kritischer Systeme zu gewährleisten. Gotham hilft bei der Mustererkennung in Datensätzen, und Foundry unterstützt Unternehmen bei der Erstellung eines zentralen Betriebssystems für ihre Daten. AIP ermöglicht die effektive Aktivierung großer Sprachmodelle und anderer KI-Systeme in jeder Organisation.

Die Plattformen von Palantir werden insbesondere von Regierungen und privaten Unternehmen eingesetzt, um Fehlinformationen, Botnetze und die Verbreitung synthetischer Medien aufzudecken. Diese Tools dienen der Unterscheidung zwischen authentischem und unauthentischem Verhalten in komplexen Informationsökosystemen.

Darüber hinaus werden KI-Analysen zunehmend von Organisationen und Regierungen zur Überwachung von Gesundheits- und Sicherheitsrisiken eingesetzt. Mit einer Marktkapitalisierung von 400 Milliarden US-Dollar notieren die Aktien von PLTR aktuell bei 174 US-Dollar, was einem Anstieg von über 110 % im vergangenen Jahr entspricht. Das Unternehmen weist einen Gewinn je Aktie (TTM) von 0.43 US-Dollar und ein Kurs-Gewinn-Verhältnis (TTM) von 392.56 auf.

Was die Finanzlage betrifft, gab Palantir für das dritte Quartal, das am 30. September 2025 endete, einen Umsatz von 1.181 Milliarden US-Dollar bekannt. Dies entspricht einem Wachstum von 63 % im Vergleich zum Vorjahr und 18 % im Vergleich zum Vorquartal und bedeutet einen neuen Umsatzrekord in der über zwanzigjährigen Firmengeschichte. Der Gewinn im Quartal betrug 476 Millionen US-Dollar.

„Wir stehen noch ganz am Anfang. Dies ist erst der Anfang, der erste Moment des ersten Kapitels.“

– Mitbegründer und CEO Alex C. Karp, in einem Brief an die Aktionäre

Der Umsatz in den USA stieg insbesondere um 77 % im Vergleich zum Vorjahr und um 20 % im Vergleich zum Vorquartal auf 883 Millionen US-Dollar. Darin enthalten sind 486 Millionen US-Dollar an Einnahmen aus dem US-Regierungsgeschäft, die um 52 % im Vergleich zum Vorjahr und 14 % im Vergleich zum Vorquartal zulegten, sowie 397 Millionen US-Dollar an Einnahmen aus dem US-Handelsgeschäft, die um 121 % im Vergleich zum Vorjahr und 29 % im Vergleich zum Vorquartal stiegen. Karp bezeichnete das US-Handelssegment als „absoluten Giganten“, der seiner Ansicht nach „für sich genommen zu einer der bedeutendsten Erfolgsgeschichten des Jahrhunderts in der amerikanischen Wirtschaft werden wird“.

In diesem Zeitraum stieg die Kundenzahl von Palantir im Vergleich zum Vorjahr um 45 %. Der bereinigte freie Cashflow betrug 540 Millionen US-Dollar, der GAAP-Gewinn je Aktie 0.18 US-Dollar und der bereinigte Gewinn je Aktie 0.21 US-Dollar. Zum Quartalsende verfügte das Unternehmen über liquide Mittel, Zahlungsmitteläquivalente und kurzfristige US-Staatsanleihen in Höhe von 6.4 Milliarden US-Dollar.

„Diese Ergebnisse machen den transformativen Einfluss des Einsatzes von AIP zur Steigerung der KI-Nutzung unbestreitbar“, stellte das Unternehmen fest.

Für das vierte Quartal 2025 erwartet Palantir einen Umsatz zwischen 1.327 und 1.331 Milliarden US-Dollar und ein bereinigtes Betriebsergebnis zwischen 695 und 699 Millionen US-Dollar.

Für das Gesamtjahr 2025 hob Palantir seine Umsatzprognose auf 4.396 bis 4.400 Milliarden US-Dollar an und rechnet mit einem Wachstum des US-amerikanischen Geschäftsumsatzes von mindestens 104 % auf über 1.433 Milliarden US-Dollar. Gleichzeitig wurde die Prognose für das bereinigte operative Ergebnis auf 2.151 bis 2.155 Milliarden US-Dollar und die Prognose für den bereinigten freien Cashflow auf 1.9 bis 2.1 Milliarden US-Dollar angehoben.

Aktuelle Aktiennachrichten von Palantir Technologies Inc. (PLTR)

Fazit

Soziale Medien, wie wir sie kennen, stehen eindeutig vor dem Aus. Sie sind nicht mehr der Ort, an dem Menschen aktiv und authentisch ihre Interessen, Erinnerungen und Ideen teilten. Was einst auf menschlichen Beziehungen basierte, wird heute von automatisierten Inhalten und Bots überflutet.

Während KI beispiellose kreative Möglichkeiten und wirtschaftliche Effizienz eröffnet hat, hat sie gleichzeitig genau jene Signale untergraben, die der Online-Interaktion einst Sinn verliehen.

Die Zukunft der sozialen Medien wird sich wahrscheinlich in zwei Richtungen aufspalten: Der eine Weg führt zu hyperautomatisierten Feeds, die auf Interaktion optimiert sind, der andere zu nachweislich menschlichen Räumen, in denen Kultur, Glaubwürdigkeit und Kontext Vorrang vor Reichweite haben.

Referenzen

<sup>1. Jones, CR & Bergen, BK „Menschen können GPT-4 in einem Turing-Test nicht von einem Menschen unterscheiden.“ arXiv-Preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. & Aiello, LM „Der Einfluss von generativer KI auf soziale Medien: Eine experimentelle Studie.“ arXiv-Preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. „Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.“ arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, SR „Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.“ arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>

Ang nilalamang AI ay nasa lahat ng dako, pinupuno ang mga tunay na nilalaman ng tao at ganap na nagbabago sa landscape ng social media. Ang impluwensya nito ay lumawak na ngayon sa labas ng mga platform upang makaapekto sa larangan ng pulitika, sa mas malawak na Internet, at maging sa pandaigdigang ekonomiya.

Kaya, ibig sabihin ba nito na ang social media ay papalapit na sa pagkamatay nito? Well, alamin natin.

Mula sa Koneksyon ng Tao Patungo sa Synthetic Feeds

Mga apat na dekada na ang nakalipas nang unang lumitaw ang mga sinaunang anyo ng online na pakikisalamuha, na nagsimula sa mga bulletin board system (BBS), Usenet, at mga unang forum sa huling bahagi ng 1970s at 1980s. Gayunpaman, ang mga unang nakikilalang social networking platform ay hindi lumitaw hanggang sa kalagitnaan hanggang huling bahagi ng 1990s, na naglatag ng pundasyon para sa magiging modernong social media.

Ang simula ng ika-21 siglo ang nagmarka ng malawakang katanyagan ng social media sa mga site tulad ng Friendster, MySpace, at Facebook. Ang modernong panahong ito ng social media ay nagbigay-daan sa instant na global na koneksyon, na nagpapahintulot sa mga tao na mapanatili ang mga relasyon, ma-access ang real-time na balita, at bumuo ng mga komunidad sa paligid ng mga magkakatulad na interes.

Ngunit ngayon, ilang dekada lamang ang nakalipas, ang mukha ng social media ay nagbabago sa pagdami ng nilalamang AI.

Sa tradisyonal, ang pangunahing halaga ng Social Media ay koneksyon at pagpapahayag, ngunit ang mga ito ay pinalitan ng awtomatikong mass production. Habang ang mga feed ng mga tao ay pinangungunahan ng synthetic na ingay, ang paglayo at kawalan ng tiwala sa masa ay mabilis na lumalago.

Ayon sa pinakamataas na ehekutibo ng Instagram, ang maingat na inayos na grid ay ngayon ay isang bagay na nakaraan.

Mit einem mensahe sa Threads, babala ni Instagram head Adam Mosseri na ang pag-akyat ng AI ang pumatay sa pinulidong aesthetic ng social media site. Patay na ang lahat ng makeup, skin smoothing, magagandang tanawin, at high contrast photography, dahil “malawak na itinigil ng mga tao ang pagbabahagi ng mga personal na sandali sa feed mga taon na ang nakalipas,” aniya.

Sa halip, ang mga hindi pinulido, “unflattering candids” ay ibinabahagi sa pamamagitan ng direktang mensahe.

Ang pagkalat ng mga imaheng AI ay nangangahulugang kailangang lumipat ang mga creator palayo sa mga inayos na grid at propesyonal na istilong litrato patungo sa isang “mas hilaw na aesthetic,” na nais ng mga tao ang “nilalamang pakiramdam ay totoo” kaysa sa mga nakakaakit na imahe, na “mura ang gawin at nakakabagot kainin.”

Sa lalong madaling panahon, makikita natin ang pagkahinog ng mga tool ng AI at kasama nito ang pagpapalawak ng hanay ng mga aesthetic na kanilang magagawa, sabi ni Mosseri, habang binabanggit na ngayon pa lamang, ang mga social media feed ay nagsisimulang mapuno ng “synthetic everything,” na nangangahulugang kailangang umunlad ang mga platform upang mahawakan ang baha ng nilalamang ginawa ng AI.

Samantala, sinabi ng Substack co-founder at CEO na si Chris Best noong nakaraang taon na ang “slop” na ginawa ng AI ay maaaring umapaw sa internet, na “pinipilit ang mga taong tanga na mag-click.”

Ang “Slop” ang pinili bilang salita ng taon para sa 2025 ng US dictionary na Merriam-Webster, na binibigyang-kahulugan ito bilang “digital na nilalaman ng mababang kalidad na ginawa, kadalasan sa dami, sa pamamagitan ng artificial intelligence.”

Ang Pag-akyat ng Bot Internet

Zum Scrollen wischen →

AI-indhold er overalt, og skubber autentisk menneskeskabt indhold til side og transformerer det sociale medielandskab fuldstændigt. Dens indflydelse har nu bredt sig ud over platformene til at påvirke det politiske arena, det bredere internet og endda den globale økonomi.

Betyder det så, at sociale medier er ved at dø? Lad os finde ud af det.

Fra menneskelig forbindelse til syntetiske feeds

Det var for omkring fire årtier siden, at de tidlige former for online social interaktion først dukkede op, startende med bulletin board systems (BBS), Usenet og tidlige fora i slutningen af 1970’erne og 1980’erne. De første genkendelige sociale netværksplatforme dukkede dog ikke op før midt til slutningen af 1990’erne, hvor de lagde grundlaget for det, der senere blev moderne sociale medier.

Starten af det 21. århundrede markerede den udbredte popularitet af sociale medier med sites som Friendster, MySpace og Facebook. Denne moderne æra af sociale medier muliggjorde øjeblikkelig global forbindelse, så folk kunne opretholde relationer, få adgang til nyheder i realtid og bygge fællesskaber omkring fælles interesser.

Men nu, kun et par årtier senere, er ansigtet på de sociale medier ved at ændre sig med udbredelsen af AI-indhold.

Traditionelt set har kerneværdierne for soziale Medien været forbindelse og udtryk, men disse er blevet erstattet af automatiseret masseproduktion. Med folks feeds domineret af syntetisk støj vokser fravælgning og mistillid blandt masserne hurtigt.

Ifølge Instagrams topchef er et omhyggeligt kurateret grid nu noget fra fortiden.

in a besked på Threads advarede Instagram-chefen Adam Mosseri om, at AI’s fremmarch har dræbt den sociale medie-sites polerede æstetik. Alt det makeup, hudglatning, smukke landskaber og høj kontrast fotografi er nu “dødt”, da “folk for længst stoppede med at dele personlige øjeblikke til feedet for år siden,” sagde han.

I stedet deles upolerede, “uflatterende snapshots” via direkte beskeder.

Den gennemtrængende tilstedeværelse af AI-billeder betyder, at skabere er nødt til at skifte væk fra kuraterede grids og professionel-stil fotografi til en “mere rå æstetik”, hvor folk ønsker “indhold, der føles ægte” i stedet for flatterende billeder, som er “billige at producere og kedelige at forbruge.”

Snart vil vi se modningen af AI-værktøjer og dermed udvidelsen af det æstetiske spektrum, de kan producere, sagde Mosseri, samtidig med at han bemærkede, at sociale medie-feeds allerede begynder at fyldes op med “syntetisk alt muligt”, hvilket betyder, at platformene er nødt til at udvikle sig for at håndtere floden af AI-genereret indhold.

Samtidig sagde Substack-medstifter og administrerende direktør Chris Best sidste år, at AI-genereret “sludder” kunne oversvømme internettet, hvilket “får dumme mennesker til at blive ved med at klikke.”

“Slop” blev valgt som årets ord for 2025 af den amerikanske ordbog Merriam-Webster, som definerer det som “digitalt indhold af lav kvalitet, der produceres, normalt i mængde, ved hjælp af kunstig intelligens.”

Bot-internettets fremmarch

Wischen Sie zum Scrollen →

Data viser, at næsten en tredjedel af al internettrafik kommer fra bots, automatiserede softwareprogrammer, der efterligner menneskelig adfærd.

Dette har givet anledning til den døde internet-teori, som hævder, at internettet primært består af bot-aktivitet og algoritmisk genereret indhold designet til at kontrollere den globale befolkning.

Reddit (RDDT + 2.76%)-medstifter Alexis Ohanian mener, der er en vis sandhed i ideen, og at en ny æra for sociale medier vil opstå på grund af det. “At have livstegn, som live-seere og live-indhold, er virkelig f–king værdifuldt for at fastholde opmærksomhed,” sagde han i en podcast.

OpenAI-stifter og administrerende direktør Sam Altman delte et lignende synspunkt på X sidste år, da han postede:

“Jeg tog den døde internet-teori aldrig så seriøst, men det ser ud til, at der nu er virkelig mange LLM-drevne Twitter-konti.”

Bot-aktivitet på X (tidligere kendt som Twitter) bliver faktisk værre. Det estimeres, at omkring 10% af X-konti er bots, hvilket i alt udgør millioner af brugere.

Samtidig er det blevet gefunden, at over 20% af de videoer, YouTubes algoritme viser nye brugere, er “AI-slop.”

Faktisk indeholder 278 ud af de 15.000 mest populære YouTube-kanaler, der er undersøgt, kun AI-genereret indhold, og sammen har de samlet 221 millioner abonnenter og mere end 63 milliarder visninger, hvilket genererer omkring 117 millioner dollars i indtægter hvert år.

Dette er ikke begrænset til blot én eller en håndfuld platforme; det gælder for hele internettet.

Som noteret i 2025 Imperva Bad Bot Report har automatiseret trafik overhalet menneskelig trafik og udgør nu 51% af al internettrafik, hvoraf 20% kommer fra “onde bots” involveret i ondsindet aktivitet.

For et par måneder siden bemærkede Marshall Miller, senior direktør for produkt hos Wikimedia Foundation, den nonprofit organisation, der driver Wikipedia, også, at websitets menneskelige trafik er faldet med omkring 8%, efterhånden som folk ændrer måden, de søger information online på.

Faldet blev afsløret, efter at Foundation ændrede, hvordan den skelner mellem menneskelig og bot-trafik for bedre at forstå det reelle læserskab og begrænse tredjepartsbots, der skraber dens data til kommerciel søgning og AI-værktøjer.

“Vi mener, at disse fald afspejler indvirkningen af generativ AI og sociale medier på, hvordan folk søger information, især når søgemaskiner giver svar direkte til søgende, ofte baseret på Wikipedia-indhold,” skrev Miller og tilføjede, at dette ikke rigtig var en overraskelse, da søgemaskiner i stigende grad bruger AI til at have svar direkte på resultatsider, og yngre brugere vender sig til TikTok og YouTube.

Men dette betyder, at fællesskabet, der skriver og redigerer Wikipedias indhold, kunne krympe. Som sådan opfordrer platformen søgemaskiner, sociale platforme, LLM’er og AI-chatbots til at hjælpe med at drive mere trafik tilbage til sitet.

Sådan Forstærker Sociale Medieplatforme AI-indhold

Sociale medieplatforme er blevet oversvømmet med AI-genereret indhold takket være en eksplosiv vækst i økosystemet af generative værktøjer.

For eksempel har værktøjer som Sora, Midjourney, Pika, Runway og Stable Diffusion gjort det ekstremt nemt at skabe billeder og videoer af næsten hvad som helst.

Et stigende antal løsninger gør det endnu nemmere for folk at øge visninger og tjene penge på creator-belønningsprogrammer eller affiliate-links. De genererer ikke kun automatisk, men poster også indhold direkte til platforme som YouTube mod et gebyr, med mere end 100 videoer om måneden på en enkelt konto. Disse løsninger har til formål at automatisere hele processen som indholdsskaber.

Men det er ikke alt. Forskere har gefunden, at platforme faktisk har forstærket AI-genererede opslag. Platforme som TikTok, Instagram og Meta (META + 1.69%) tilbyder endda indbyggede AI-funktioner, der giver brugerne mulighed for at generere visuelle elementer, manuskripter eller remixe eksisterende medieindhold uden ekstern software.

Meta har især omfavnet AI-genereret indhold med fuld kraft, selv skabt sit eget slop. I 2023 introducerede virksomheden AI-drevne profiler og annoncerede planer om at befolde sin platform med AI-karakterer. Men efter at have modtaget betydelig bruger-modvind, afviklede Meta AI-profilerne sidste år.

Instagram lancerede i mellemtiden et AI-studio, der giver brugerne mulighed for at producere brugerdefinerede chatbots, inklusive deres egne digitale versioner.

For nylig afslørede TikTok, at der var mindst 1,3 milliarder AI-genererede opslag på dens platform, med mere end 100 millioner stykker indhold uploadet hver dag. For gennemsigtighed mærker TikTok AI-genereret indhold og giver endda brugerne mulighed for at reducere mængden af AI-indhold, de ser.

Men AI Forensics, en Paris-baseEn non-profit, fandt frem til, at mindre end 2% af konti havde TikToks mærkat for AI-indhold. Til tider undgår de også platformens moderation i månedsvis, på trods af at de lægger indhold ud, der er forbudt af TikToks servicevilkår.

Ifølge rapporten skubbede mere end 350 AI-fokuserede konti 43.000 opslag lavet med hjælp fra gen AI-værktøjer, og akkumulerede 4,5 milliarder visninger over en måneds periode. Forskerne sagde:

“Den udviskede grænse mellem autentisk menneskeskabt og syntetisk AI-genereret indhold på platformen signalerer en ny drejning mod mere AI-genereret indhold i brugeres feeds.”

Kan Autenticitet Overleve Automatisering?

Engang myldrende med rigtig aktivitet, hvor venner samledes og delte specielle øjeblikke, er sociale netværk nu ved at blive spøgelsesbyer, befolket af kunstige entiteter, der simulerer menneskelig engagement og offentliggør AI-genereret indhold.

Mens du måske tror, du bare kan blokere de brugere og det indhold, fandt en undersøgelse¹, at folk ikke kan skelne AI fra et menneske, selv når de er fortrolige med LLM’ens emne.

Undersøgelsen evaluerede, hvor succesfuldt mennesker opdager AI-genereret indhold, og fandt, at menneskeskabt tekst kun blev genkendt korrekt som sådan 67% af tiden, mens GPT-4 forkert blev opdaget som menneskeskabt 54% af tiden.

Ifølgen Instagrams Mosseri vil sociale platforme kun blive dårligere til at identificere AI-genereret medie over tid, efterhånden som teknologien forbedres. En løsning kunne være, at kameraselskaber kryptografisk signerer fotos, når de tages, for at bevise, at de er ægte.

Løsningen til at mindske botternes magt, ifølge Ohanian, er at se “en næste generation af sociale medier opstå, der kan verificeres som menneskeskabt.”

Mens teknologifremskridt har fået det meste af internettet optimeret for engagement, som Best sammenlignede med “stofmisbrug,” og mener “kommer til at blive supercharged,” er han stadig håbefuld for en alternativ fremtid.

“Mediernes andet formål er kultur,” tilføjede han, “Det er noget, folk også virkelig, virkelig ønsker.”

Ifølge Substack’s Best har netop denne samme teknologi potentiale til at muliggøre en “fremtid, hvor der er langt mere kreativt leverage” for uafhængige skabere. Det virkelige flaskehals for medier, bemærkede han, er ikke indhold, hvoraf der er “ingen mangel,” men opmærksomhed. “Vi er trådt ind i en verden, hvor opmærksomhed er den knappe ressource,” sagde han.

“Vi har vundet krigen mod kedsomhed,” sagde Best og tilføjede, at “der er en enorm mangel på godt indhold.”

Midt i dette lancerede Wikimedia Deutschland Wikidata Embedding Project, som konverterede omkring 120 millioner åbne datapunkter i Wikidata til et format, der er lettere for LLM’er at bruge, hvilket hjælper AI-systemer med at få adgang til højere kvalitetsdata gratis og forbedre deres nøjagtighed.

Regulering, Forskning og Kampen for Tillid

Efterhånden som AI overtager internettet, har forskere taget fat på at forstå dens indvirkning. En sådan undersøgelse, med titlen Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie², undersøgte, hvordan AI-bistand påvirker indholdsproduktion og brugeropfattelser, og fandt, at AI-værktøjer var gavnlige for at øge indholdsmængde og engagement, men mindskede opfattet kvalitet og autenticitet.

Baseret på deres resultater anbefalede de, at sociale medieplatforme, beslutningstagere og interessenter designer værktøjer med brugerfokuseret personalisering, inkorporerer kontekstfølsomhed og prioriterer intuitive brugerflader for en etisk og effektiv integration af gen AI i sociale medier.

Forskerne anbefalede også at sikre gennemsigtig offentliggørelse af AI-genereret indhold, da andre Studien³ ist gefunden⁴, at dette forbedrer tilliden uden at skade engagementet.

Når det kommer til reguleringer, har regeringer rundt om i verden også taget skridt til at fremme og regulere det ansvarlige brug af kunstig intelligens.

I Den Europæiske Union (EU) fokuserer AI-loven på gennemsigtighed, risikoklassificering og forpligtelser for højrisikosystemer.

Online Safety Act (OSA) har imidlertid givet kommunikationsregulatoren Ofcom bred myndighed til at kræve, at platforme håndterer skadeligt eller vildledende indhold i Storbritannien, selvom beslutningstagere har krævet en opgradering for mere effektivt at tackle AI-drevet misinformation.

I USA har præsident Donald Trump udstedt en Executive Order for at fjerne barrierer for Amerikas lederskab inden for AI og offentliggjort en handlingsplan for at sikre dens dominans i sektoren. Igen, sidste måned, befalede han en national standard, der gør det muligt for AI-selskaber at innovere uden besværlige reguleringer.

Sbposts__content/button_label:

एआई सामग्री हर जगह है, जो प्रामाणिक मानवीय सामग्री को हटाकर सोशल मीडिया के परिदृश्य को पूरी तरह से बदल रही है। इसका प्रभाव अब प्लेटफॉर्मों से आगे बढ़कर राजनीतिक क्षेत्र, व्यापक इंटरनेट और यहाँ तक कि वैश्विक अर्थव्यवस्था को भी प्रभावित कर रहा है।

तो, क्या इसका मतलब यह है कि सोशल मीडिया अपनी मृत्यु के निकट पहुँच रहा है? खैर, आइए पता करते हैं।

मानवीय जुड़ाव से सिंथेटिक फ़ीड्स तक

लगभग चार दशक पहले ऑनलाइन सामाजिक संवाद के प्रारंभिक रूप पहली बार उभरे थे, जिनकी शुरुआत 1970 के दशक के अंत और 1980 के दशक में बुलेटिन बोर्ड सिस्टम (बीबीएस), यूज़नेट और प्रारंभिक फ़ोरम से हुई थी। हालाँकि, पहली पहचानने योग्य सोशल नेटवर्किंग प्लेटफॉर्म 1990 के दशक के मध्य से अंत तक नहीं दिखाई दिए, जिन्होंने आधुनिक सोशल मीडिया की नींव रखी।

21वीं सदी की शुरुआत ने फ्रेंडस्टर, माइस्पेस और फेसबुक जैसी साइटों के साथ सोशल मीडिया की व्यापक लोकप्रियता का प्रतीक चिह्न देखा। सोशल मीडिया के इस आधुनिक युग ने तत्काल वैश्विक संपर्क को सक्षम किया, जिससे लोगों को रिश्ते बनाए रखने, रियल-टाइम समाचार प्राप्त करने और साझा रुचियों के आसपास समुदाय बनाने की अनुमति मिली।

लेकिन अब, केवल कुछ दशकों बाद, एआई सामग्री के प्रसार के साथ सोशल मीडिया का चेहरा बदल रहा है।

पारंपरिक रूप से, सोशल मीडिया के मूल मूल्य जुड़ाव और अभिव्यक्ति रहे हैं, लेकिन इन्हें स्वचालित बड़े पैमाने पर उत्पादन ने बदल दिया है। लोगों की फ़ीड्स पर सिंथेटिक शोर का वर्चस्व होने के साथ, जनता के बीच अलगाव और अविश्वास तेजी से बढ़ रहा है।

इंस्टाग्राम के शीर्ष कार्यकारी के अनुसार, अब सावधानीपूर्वक तैयार किया गया ग्रिड अतीत की बात हो गई है।

थ्रेड्स पर एक संदेश में, इंस्टाग्राम प्रमुख एडम मोसेरी ने चेतावनी दी कि एआई के उदय ने सोशल मीडिया साइट की परिष्कृत सौंदर्यशास्त्र को समाप्त कर दिया है। उन्होंने कहा कि सारा मेकअप, त्वचा को चिकना करना, सुंदर परिदृश्य और उच्च कंट्रास्ट फोटोग्राफी अब “मृत” है, क्योंकि “लोगों ने वर्षों पहले ही व्यक्तिगत क्षणों को फ़ीड में साझा करना लगभग बंद कर दिया था।”

इसके बजाय, अपरिष्कृत, “अप्रिय कैंडिड” तस्वीरें सीधे संदेशों के माध्यम से साझा की जा रही हैं।

एआई छवियों की व्यापकता का मतलब है कि रचनाकारों को परिष्कृत ग्रिड और पेशेवर शैली की फोटोग्राफी से दूर एक “अधिक कच्चे सौंदर्यशास्त्र” की ओर बढ़ना होगा, जहाँ लोग “ऐसी सामग्री चाहते हैं जो वास्तविक लगे” न कि चापलूसी भरी छवियाँ, जो “उत्पादन के लिए सस्ती और उपभोग करने के लिए उबाऊ हैं।”

मोसेरी ने कहा कि जल्द ही, हम एआई उपकरणों के परिपक्व होने और साथ ही उनके द्वारा उत्पादित किए जा सकने वाले सौंदर्यशास्त्र की सीमा के विस्तार को देखेंगे, जबकि यह भी नोट किया कि पहले से ही, सोशल मीडिया फ़ीड्स “सिंथेटिक हर चीज़” से भरने लगी हैं, जिसका मतलब है कि प्लेटफॉर्म को एआई-जनित सामग्री की बाढ़ को संभालने के लिए विकसित होने की आवश्यकता है।

इस बीच, सबस्टैक के सह-संस्थापक और सीईओ क्रिस बेस्ट ने पिछले साल के अंत में कहा था कि एआई-जनित “स्लॉप” इंटरनेट में बाढ़ ला सकता है, जो “मूर्ख लोगों को क्लिक करवाता रहता है।”

“स्लॉप” को अमेरिकी शब्दकोश मेरियम-वेबस्टर द्वारा 2025 के वर्ष के शब्द के रूप में चुना गया था, जो इसे “कम गुणवत्ता की डिजिटल सामग्री जो आमतौर पर बड़ी मात्रा में, कृत्रिम बुद्धिमत्ता के माध्यम से उत्पादित की जाती है” के रूप में परिभाषित करता है।

बॉट इंटरनेट का उदय

स्क्रॉल करने के लिए स्वाइप करें →

डेटा दर्शाता है कि लगभग इंटरनेट ट्रैफ़िक का एक-तिहाई बॉट्स से आता है, ऐसे स्वचालित सॉफ़्टवेयर प्रोग्राम जो मानव व्यवहार की नकल करते हैं।

इसने डेड इंटरनेट थ्योरी को जन्म दिया है, जो मानती है कि इंटरनेट मुख्य रूप से बॉट गतिविधि और एल्गोरिदमिक रूप से उत्पन्न सामग्री से बना है जो वैश्विक आबादी को नियंत्रित करने के लिए डिज़ाइन किया गया है।

Reddit (RDDT + 2.76%) के सह-संस्थापक एलेक्सिस ओहानियन मानते हैं कि इस विचार में कुछ सच्चाई है, और इसके कारण सोशल मीडिया का एक नया युग उभरेगा। “ध्यान बनाए रखने के लिए, लाइव दर्शकों और लाइव कंटेंट जैसे, जीवन का प्रमाण होना वास्तव में बहुत मूल्यवान है,” उन्होंने एक पॉडकास्ट में कहा।

OpenAI के संस्थापक और सीईओ सैम अल्टमैन ने पिछले साल X पर एक समान विचार साझा किया, पोस्ट करते हुए:

“मैंने कभी डेड इंटरनेट थ्योरी को गंभीरता से नहीं लिया, लेकिन ऐसा लगता है कि अब वास्तव में बहुत सारे एलएलएम-चलित ट्विटर अकाउंट हैं।”

X (जिसे पहले ट्विटर के नाम से जाना जाता था) पर बॉट गतिविधि वास्तव में बदतर हो रही है। अनुमान है कि X अकाउंट्स का लगभग 10% बॉट हैं, जिनकी कुल संख्या लाखों उपयोगकर्ताओं की है।

इस बीच, YouTube के एल्गोरिदम द्वारा नए उपयोगकर्ताओं को दिखाए जाने वाले 20% से अधिक वीडियो “एआई स्लॉप” पाए गए हैं।

वास्तव में, सर्वेक्षण किए गए 15,000 सबसे लोकप्रिय YouTube चैनलों में से, 278 में केवल एआई-जनित सामग्री है, और साथ मिलाकर उन्होंने 221 मिलियन सब्सक्राइबर और 63 बिलियन से अधिक व्यू जमा किए हैं, जो प्रति वर्ष लगभग $117 मिलियन का राजस्व उत्पन्न करते हैं।

यह सिर्फ एक या कुछ प्लेटफ़ॉर्म तक सीमित नहीं है; यह पूरे इंटरनेट के लिए सच है।

जैसा कि 2025 Imperva Bad Bot Report ने बताया, स्वचालित ट्रैफ़िक ने मानव ट्रैफ़िक को पीछे छोड़ दिया है, जो सभी इंटरनेट ट्रैफ़िक का 51% है, जिसमें से 20% “खराब बॉट्स” से आता है जो दुर्भावनापूर्ण गतिविधि में लगे हुए हैं।

कुछ महीने पहले, Wikimedia Foundation के वरिष्ठ निदेशक, मार्शल मिलर, जो विकिपीडिया चलाती है, ने यह भी बताया कि लोगों के ऑनलाइन जानकारी खोजने के तरीके बदलने के साथ वेबसाइट का मानव ट्रैफ़िक लगभग 8% घट गया है।

यह गिरावट तब सामने आई जब फाउंडेशन ने वास्तविक पाठकों को बेहतर ढंग से समझने और व्यावसायिक खोज और एआई टूल्स के लिए अपने डेटा को स्क्रैप करने वाले तृतीय-पक्ष बॉट्स को सीमित करने के लिए मानव और बॉट ट्रैफ़िक के बीच अंतर करने के तरीके को बदल दिया।

“हमारा मानना है कि यह गिरावट जेनरेटिव एआई और सोशल मीडिया के उस प्रभाव को दर्शाती है कि लोग कैसे जानकारी तलाशते हैं, खासकर जब सर्च इंजन सीधे खोजकर्ताओं को जवाब देते हैं, जो अक्सर विकिपीडिया सामग्री पर आधारित होते हैं,” मिलर ने लिखा, यह जोड़ते हुए कि यह वास्तव में आश्चर्य की बात नहीं थी क्योंकि सर्च इंजन परिणाम पृष्ठों पर सीधे जवाब देने के लिए एआई का उपयोग कर रहे हैं और युवा उपयोगकर्ता TikTok और YouTube की ओर रुख कर रहे हैं।

लेकिन इसका मतलब है कि विकिपीडिया की सामग्री लिखने और संपादित करने वाला समुदाय सिकुड़ सकता है। इस प्रकार, प्लेटफ़ॉर्म सर्च इंजन, सोशल प्लेटफ़ॉर्म, एलएलएम और एआई चैटबॉट्स से अधिक ट्रैफ़िक वापस साइट पर लाने में मदद करने का आग्रह कर रहा है।

सोशल मीडिया प्लेटफ़ॉर्म एआई सामग्री को कैसे बढ़ावा दे रहे हैं

जेनरेटिव टूल्स के पारिस्थितिकी तंत्र में विस्फोटक वृद्धि के कारण सोशल मीडिया प्लेटफ़ॉर्म एआई-जनित सामग्री से भर गए हैं।

उदाहरण के लिए, Sora, Midjourney, Pika, Runway, और Stable Diffusion जैसे टूल्स ने लगभग किसी भी चीज़ की छवियाँ और वीडियो बनाना अत्यंत आसान बना दिया है।

बढ़ती संख्या में समाधान लोगों के लिए व्यू बढ़ाना और क्रिएटर-पुरस्कार कार्यक्रमों या एफिलिएट लिंक्स से पैसा कमाना और भी आसान बना देते हैं। वे न केवल स्वचालित रूप से उत्पन्न करते हैं बल्कि शुल्क के लिए सीधे YouTube जैसे प्लेटफ़ॉर्म पर सामग्री पोस्ट भी करते हैं, एक ही अकाउंट पर प्रति माह 100 से अधिक वीडियो करते हुए। ये समाधान एक कंटेंट क्रिएटर होने की पूरी प्रक्रिया को स्वचालित करने का लक्ष्य रखते हैं।

लेकिन यह सब नहीं है। शोधकर्ताओं ने पाया है कि प्लेटफ़ॉर्म वास्तव में एआई-जनित पोस्ट को बढ़ावा दे रहे हैं। TikTok, Instagram, और Meta (META + 1.69%) जैसे प्लेटफ़ॉर्म यहां तक कि मूल एआई सुविधाएं भी प्रदान करते हैं जो उपयोगकर्ताओं को बाहरी सॉफ़्टवेयर के बिना दृश्य, स्क्रिप्ट बनाने या मौजूदा मीडिया को रीमिक्स करने की अनुमति देती हैं।

Meta ने, विशेष रूप से, पूरे उत्साह के साथ एआई-जनित सामग्री को अपनाया है, यहां तक कि अपना खुद का स्लॉप भी बनाया है। 2023 में, कंपनी ने एआई-संचालित प्रोफाइल पेश की और अपने प्लेटफ़ॉर्म को एआई पात्रों से भरने की योजनाओं की घोषणा की। लेकिन उपयोगकर्ताओं के महत्वपूर्ण विरोध के बाद, Meta ने पिछले साल एआई-प्रोफाइल को समाप्त कर दिया।

इस बीच, Instagram ने एक एआई स्टूडियो लॉन्च किया जो उपयोगकर्ताओं को कस्टम चैटबॉट्स, जिसमें उनके अपने डिजिटल संस्करण भी शामिल हैं, उत्पन्न करने में सक्षम बनाता है।

हाल ही में, TikTok ने खुलासा किया कि उसके प्लेटफ़ॉर्म पर कम से कम 1.3 बिलियन एआई-जनित पोस्ट थे, जिसमें प्रतिदिन 100 मिलियन से अधिक सामग्री अपलोड की जाती है। पारदर्शिता के लिए, TikTok एआई-जनित सामग्री को लेबल करता है और यहां तक कि उपयोगकर्ताओं को उनके द्वारा देखी जाने वाली एआई सामग्री की मात्रा कम करने का विकल्प भी देता है।

लेकिन AI Forensics, एक पेरिस-आधारितएक गैर-लाभकारी संगठन, AI फॉर डेमोक्रेसी द्वारा किए गए एक अध्ययन में पाया गया कि 2% से भी कम खातों में AI सामग्री के लिए TikTok का लेबल था। कई बार, वे TikTok की सेवा की शर्तों द्वारा प्रतिबंधित सामग्री पोस्ट करने के बावजूद, महीनों तक प्लेटफॉर्म के संचालन से भी बच जाते हैं।

रिपोर्ट के अनुसार, 350 से अधिक AI-केंद्रित खातों ने जेन AI टूल्स की मदद से बनाई गई 43,000 पोस्ट को आगे बढ़ाया, जिसने एक महीने की अवधि में 4.5 बिलियन व्यू जमा किए। शोधकर्ताओं ने कहा:

“प्लेटफॉर्म पर प्रामाणिक मानव और सिंथेटिक AI-जनित सामग्री के बीच धुंधली होती रेखा उपयोगकर्ताओं के फीड्स पर अधिक AI-जनित सामग्री की ओर एक नया मोड़ का संकेत दे रही है।”

क्या प्रामाणिकता स्वचालन से बच सकती है?

एक समय वास्तविक गतिविधियों से भरपूर, जहाँ दोस्त इकट्ठा होते थे और खास पल साझा करते थे, सोशल नेटवर्क अब भूतिया शहर बनते जा रहे हैं, जो कृत्रिम इकाइयों से आबाद हैं जो मानवीय संलग्नता का अनुकरण करती हैं और AI-जनित सामग्री प्रकाशित करती हैं।

हालांकि आप सोच सकते हैं कि आप बस उन उपयोगकर्ताओं और सामग्री को ब्लॉक कर सकते हैं, एक अध्ययन में पाया गया¹ कि लोग AI को मानव से अलग नहीं कर सकते, भले ही वे LLM के विषय से परिचित हों।

अध्ययन ने मूल्यांकन किया कि मानव कितनी सफलतापूर्वक AI-जनित सामग्री का पता लगाते हैं और पाया कि मानवीय पाठ को केवल 67% समय ही सही ढंग से पहचाना गया, जबकि GPT-4 को 54% समय गलत तरीके से मानव के रूप में पहचाना गया।

Instagram के मोसेरी के अनुसार, तकनीक में सुधार के साथ-साथ समय के साथ सोशल प्लेटफॉर्म AI-जनित मीडिया की पहचान करने में केवल खराब होते जाएंगे। एक समाधान यह हो सकता है कि कैमरा कंपनियां फोटो खींचे जाने पर क्रिप्टोग्राफिक रूप से हस्ताक्षर करें ताकि यह साबित हो सके कि वे वास्तविक हैं।

बॉट्स की शक्ति को कम करने का समाधान, ओहानियन के अनुसार, “सोशल मीडिया की एक नई पीढ़ी का उभरना है जो सत्यापनीय रूप से मानवीय है।”

जबकि तकनीकी प्रगति ने इंटरनेट के अधिकांश हिस्से को संलग्नता के लिए अनुकूलित कर दिया है, जिसकी बेस्ट ने “नशे की लत” से तुलना की, और मानते हैं कि “यह सुपरचार्ज होने जा रहा है,” वह अभी भी एक वैकल्पिक भविष्य के लिए आशान्वित हैं।

“मीडिया का दूसरा उद्देश्य संस्कृति है,” उन्होंने जोड़ा, “यह कुछ ऐसा है जो लोग वास्तव में, वास्तव में चाहते हैं।”

सबस्टैक के बेस्ट के अनुसार, इसी तकनीक में स्वतंत्र रचनाकारों के लिए “एक ऐसे भविष्य को सक्षम करने की क्षमता है जहाँ रचनात्मक लाभ बहुत अधिक है”। मीडिया के लिए वास्तविक बाधा, उन्होंने कहा, सामग्री नहीं है, जिसकी “कोई कमी नहीं है,” बल्कि ध्यान है। “हम एक ऐसी दुनिया में प्रवेश कर चुके हैं जहाँ ध्यान दुर्लभ संसाधन है,” उन्होंने कहा।

“हमने ऊब के खिलाफ युद्ध जीत लिया है,” बेस्ट ने कहा, यह जोड़ते हुए कि “अच्छी सामग्री की भारी कमी है।”

इस बीच, विकिमीडिया डॉयचलैंड ने विकिडेटा एम्बेडिंग प्रोजेक्ट लॉन्च किया, जिसने विकिडेटा में लगभग 120 मिलियन ओपन डेटा पॉइंट्स को एक ऐसे प्रारूप में परिवर्तित किया जिसे LLMs द्वारा उपयोग करना आसान है, जिससे AI सिस्टम को मुफ्त में उच्च-गुणवत्ता वाले डेटा तक पहुंचने और उनकी सटीकता में सुधार करने में मदद मिलती है।

विनियमन, शोध, और विश्वास के लिए संघर्ष

जैसे-जैसे AI इंटरनेट पर कब्जा कर रहा है, शोधकर्ता इसके प्रभाव को समझने में जुट गए हैं। एक ऐसे अध्ययन, जिसका शीर्षक सोशल मीडिया पर जेनरेटिव AI का प्रभाव: एक प्रायोगिक अध्ययन² है, ने जांच की कि AI सहायता सामग्री उत्पादन और उपयोगकर्ता धारणाओं को कैसे प्रभावित करती है और पाया कि AI टूल्स सामग्री की मात्रा और संलग्नता बढ़ाने में लाभकारी हैं लेकिन मानी गई गुणवत्ता और प्रामाणिकता को कम करते हैं।

अपने निष्कर्षों के आधार पर, उन्होंने सिफारिश की कि सोशल मीडिया प्लेटफॉर्म, नीति निर्माता और हितधारक उपयोगकर्ता-केंद्रित व्यक्तिगतकरण के साथ टूल्स डिजाइन करें, जिसमें संदर्भ-संवेदनशीलता को शामिल किया जाए, और सोशल मीडिया में जेन AI के नैतिक और प्रभावी एकीकरण के लिए सहज उपयोगकर्ता इंटरफेस को प्राथमिकता दी जाए।

शोधकर्ताओं ने AI-जनित सामग्री के पारदर्शी खुलासे को सुनिश्चित करने की भी सिफारिश की, क्योंकि अन्य अध्ययनों³ ने पाया⁴ है कि यह संलग्नता को नुकसान पहुंचाए बिना विश्वास में सुधार करता है।

जब विनियमन की बात आती है, तो दुनिया भर की सरकारों ने भी कृत्रिम बुद्धिमत्ता के जिम्मेदार उपयोग को बढ़ावा देने और विनियमित करने के लिए कदम उठाए हैं।

यूरोपीय संघ (EU) में, AI अधिनियम पारदर्शिता, जोखिम वर्गीकरण और उच्च-जोखिम वाली प्रणालियों के लिए दायित्वों पर केंद्रित है।

ऑनलाइन सेफ्टी एक्ट (OSA) ने, इस बीच, यूके में संचार नियामक ऑफकॉम को प्लेटफॉर्मों को हानिकारक या भ्रामक सामग्री प्रबंधित करने की आवश्यकता के लिए व्यापक अधिकार दिए हैं, हालांकि नीति निर्माताओं ने AI-चालित गलत सूचना से अधिक प्रभावी ढंग से निपटने के लिए एक अपग्रेड की मांग की है.

अमेरिका में, राष्ट्रपति डोनाल्ड ट्रम्प ने AI में अमेरिकी नेतृत्व में बाधाओं को दूर करने के लिए एक कार्यकारी आदेश जारी किया है और इस क्षेत्र में अपनी प्रभुत्व सुरक्षित करने के लिए एक कार्य योजना प्रकाशित की है। फिर, पिछले महीने, उन्होंने आदेश दिया एक राष्ट्रीय मानक जो AI कंपनियों को बोझिल विनियमों के बिना नवाचार करने में सक्षम बनाता है।

इस बीच, चीन?

Sbposts__content/button_label:जैसा कि हम जानते हैं, सोशल मीडिया स्पष्ट रूप से अपने अंत की ओर बढ़ रहा है। यह वही जगह नहीं रहा जहाँ लोग अपनी रुचियों, यादों और विचारों को वास्तविक तरीके से सक्रिय रूप से साझा करते थे। जो एक बार मानवीय संबंधों पर बनी थी, वह अब स्वचालित सामग्री और बॉट्स से अटी पड़ी है।

जहाँ एआई ने अभूतपूर्व रचनात्मक लाभ और आर्थिक दक्षता उजागर की है, वहीं उसने उन्हीं संकेतों को नष्ट कर दिया है जिन्होंने कभी ऑनलाइन संवाद को सार्थक बनाया था।

सोशल मीडिया का भविष्य संभवतः विखंडित हो जाएगा, जिसमें एक रास्ता सगाई के लिए अनुकूलित अति-स्वचालित फ़ीड्स की ओर जाएगा और दूसरा सत्यापनीय रूप से मानवीय स्थानों की ओर इशारा करेगा जो पहुँच से अधिक संस्कृति, विश्वसनीयता और संदर्भ को प्राथमिकता देते हैं।

संदर्भ

<sup>1. Jones, CR & Bergen, BK „Menschen können GPT-4 in einem Turing-Test nicht von einem Menschen unterscheiden.“ arXiv-Preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. & Aiello, LM „Der Einfluss von generativer KI auf soziale Medien: Eine experimentelle Studie.“ arXiv-Preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. „Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.“ arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, SR „Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.“ arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>

Konten AI ada di mana-mana, memadati konten manusia yang autentik dan sepenuhnya mengubah lanskap media sosial. Pengaruhnya kini telah meluas melampaui platform untuk berdampak pada arena politik, Internet yang lebih luas, dan bahkan ekonomi global.

Jadi, apakah ini berarti media sosial mendekati kematiannya? Mari kita cari tahu.

Dari Koneksi Manusia ke Umpan Sintetis

Sekitar empat dekade lalu, bentuk awal interaksi sosial online pertama kali muncul, dimulai dengan sistem papan buletin (BBS), Usenet, dan forum awal pada akhir 1970-an dan 1980-an. Namun, platform jejaring sosial yang dapat dikenali pertama tidak muncul hingga pertengahan hingga akhir 1990-an, meletakkan dasar bagi apa yang nantinya menjadi media sosial modern.

Awal abad ke-21 menandai popularitas luas media sosial dengan situs-situs seperti Friendster, MySpace, dan Facebook. Era modern media sosial ini memungkinkan koneksi global instan, memungkinkan orang untuk mempertahankan hubungan, mengakses berita real-time, dan membangun komunitas di sekitar minat bersama.

Tapi sekarang, hanya beberapa dekade kemudian, wajah media sosial berubah dengan meluasnya konten AI.

Secara tradisional, nilai inti dari sozialen Medien adalah koneksi dan ekspresi, tetapi ini telah digantikan oleh produksi massal otomatis. Dengan umpan orang-orang yang didominasi oleh kebisingan sintetis, keterputusan dan ketidakpercayaan di antara massa tumbuh dengan cepat.

Menurut eksekutif puncak Instagram, grid yang dikurasi dengan hati-hati kini adalah sesuatu dari masa lalu.

In einem pesan di Threads, kepala Instagram Adam Mosseri memperingatkan bahwa kebangkitan AI telah membunuh estetika yang dipoles dari situs media sosial tersebut. Semua riasan, penghalus kulit, pemandangan indah, dan fotografi kontras tinggi itu kini “mati,” karena “orang-orang sebagian besar berhenti berbagi momen pribadi ke feed bertahun-tahun lalu,” katanya.

Sebaliknya, candid yang tidak dipoles dan “tidak menarik” dibagikan melalui pesan langsung.

Meluasnya gambar AI berarti para kreator harus beralih dari grid yang dikurasi dan fotografi bergaya profesional ke “estetika yang lebih mentah,” dengan orang-orang menginginkan “konten yang terasa nyata” daripada citra yang menarik, yang “murah untuk diproduksi dan membosankan untuk dikonsumsi.”

Segera, kita akan melihat pematangan alat-alat AI dan dengan itu perluasan jangkauan estetika yang dapat mereka hasilkan, kata Mosseri, sambil mencatat bahwa umpan media sosial sudah mulai dipenuhi dengan “segala sesuatu yang sintetis,” yang berarti platform perlu berevolusi untuk menangani banjir konten yang dihasilkan AI.

Sementara itu, co-founder dan CEO Substack Chris Best mengatakan akhir tahun lalu bahwa “slop” yang dihasilkan AI dapat membanjiri internet, yang “membuat orang bodoh terus mengklik.”

“Slop” dipilih sebagai kata tahun ini untuk 2025 oleh kamus AS Merriam-Webster, yang mendefinisikannya sebagai “konten digital berkualitas rendah yang diproduksi, biasanya dalam jumlah besar, melalui kecerdasan buatan.”

Kebangkitan Internet Bot

Geser untuk menggulir →

Data menunjukkan bahwa hampir sepertiga dari seluruh lalu lintas internet berasal dari bot, program perangkat lunak otomatis yang meniru perilaku manusia.

Hal ini memunculkan teori internet mati, yang berpendapat bahwa Internet terutama terdiri dari aktivitas bot dan konten yang dihasilkan secara algoritmik yang dirancang untuk mengendalikan populasi global.

Reddit (RDDT + 2.76%) salah satu pendiri Alexis Ohanian percaya ada kebenaran dalam ide tersebut, dan era baru media sosial akan muncul karenanya. “Memiliki bukti kehidupan, seperti penonton langsung dan konten langsung, sangat berharga untuk mempertahankan perhatian,” katanya dalam sebuah podcast.

Pendiri dan CEO OpenAI Sam Altman berbagi pandangan serupa di X tahun lalu, dengan menulis:

“Saya tidak pernah menganggap serius teori internet mati, tetapi sepertinya sekarang ada banyak akun Twitter yang dijalankan LLM.”

Aktivitas bot di X (sebelumnya dikenal sebagai Twitter) sebenarnya semakin memburuk. Diperkirakan sekitar 10% akun X adalah bot, dengan total jutaan pengguna.

Sementara itu, lebih dari 20% video yang ditampilkan algoritma YouTube kepada pengguna baru telah ditemukan sebagai “sampah AI.”

Bahkan, di antara 15.000 saluran YouTube paling populer yang disurvei, 278 di antaranya hanya berisi konten yang dihasilkan AI, dan bersama-sama mereka telah mengumpulkan 221 juta pelanggan dan lebih dari 63 miliar tayangan, menghasilkan sekitar $117 juta pendapatan setiap tahun.

Ini tidak terbatas hanya pada satu atau segelintir platform; ini berlaku untuk seluruh internet.

Seperti yang dicatat dalam Laporan Bot Jahat Imperva 2025, lalu lintas otomatis telah melampaui lalu lintas manusia, mencakup 51% dari seluruh lalu lintas internet, dengan 20% di antaranya berasal dari “bot jahat” yang terlibat dalam aktivitas berbahaya.

Beberapa bulan lalu, Marshall Miller, direktur senior produk di Wikimedia Foundation, nirlaba yang menjalankan Wikipedia, juga mencatat bahwa lalu lintas manusia di situs web tersebut telah menurun sekitar 8% karena orang mengubah cara mereka mencari informasi online.

Penurunan ini terungkap setelah Yayasan mengubah cara membedakan antara lalu lintas manusia dan bot untuk lebih memahami pembaca nyata dan membatasi bot pihak ketiga yang mengambil datanya untuk alat pencarian komersial dan AI.

“Kami percaya bahwa penurunan ini mencerminkan dampak AI generatif dan media sosial pada cara orang mencari informasi, terutama dengan mesin pencari yang memberikan jawaban langsung kepada pencari, sering kali berdasarkan konten Wikipedia,” tulis Miller, menambahkan bahwa ini sebenarnya tidak mengejutkan karena mesin pencari semakin menggunakan AI untuk memiliki jawaban langsung di halaman hasil dan pengguna yang lebih muda beralih ke TikTok dan YouTube.

Tetapi ini berarti komunitas yang menulis dan menyunting konten Wikipedia bisa menyusut. Oleh karena itu, platform tersebut mendesak mesin pencari, platform sosial, LLM, dan chatbot AI untuk membantu mengarahkan lebih banyak lalu lintas kembali ke situs.

Bagaimana Platform Media Sosial Memperkuat Konten AI

Platform media sosial telah dibanjiri konten yang dihasilkan AI berkat pertumbuhan eksplosif dalam ekosistem alat generatif.

Misalnya, alat seperti Sora, Midjourney, Pika, Runway, dan Stable Diffusion telah membuatnya sangat mudah untuk membuat gambar dan video hampir semua hal.

Semakin banyak solusi bahkan memudahkan orang untuk meningkatkan tayangan dan menghasilkan uang dari program penghargaan kreator atau tautan afiliasi. Mereka tidak hanya menghasilkan otomatis tetapi juga memposting konten langsung ke platform seperti YouTube, dengan biaya, melakukan lebih dari 100 video sebulan pada satu akun. Solusi ini bertujuan untuk mengotomatisasi proses lengkap menjadi pembuat konten.

Tapi itu belum semuanya. Para peneliti telah finden bahwa platform sebenarnya telah meningkatkan postingan yang dihasilkan AI. Platform seperti TikTok, Instagram, dan Meta (META + 1.69%) bahkan menawarkan fitur AI asli yang memungkinkan pengguna menghasilkan visual, skrip, atau remix media yang ada tanpa perangkat lunak eksternal.

Meta, khususnya, telah menerima konten yang dihasilkan AI dengan penuh semangat, bahkan menciptakan sampahnya sendiri. Pada tahun 2023, perusahaan memperkenalkan profil bertenaga AI dan mengumumkan rencana untuk mengisi platformnya dengan karakter AI. Tetapi setelah menerima reaksi keras dari pengguna, Meta menghentikan profil AI tahun lalu.

Sementara itu, Instagram meluncurkan studio AI yang memungkinkan pengguna menghasilkan chatbot kustom, termasuk versi digital mereka sendiri.

Baru-baru ini, TikTok mengungkapkan ada setidaknya 1,3 miliar postingan yang dihasilkan AI di platformnya, dengan lebih dari 100 juta konten diunggah setiap hari. Untuk transparansi, TikTok memberi label konten yang dihasilkan AI dan bahkan memberi pengguna opsi untuk mengurangi jumlah konten AI yang mereka lihat.

Tetapi AI Forensics, sebuah basis di ParisSebuah organisasi nirlaba, menemukan bahwa kurang dari 2% akun memiliki label TikTok untuk konten AI. Terkadang, mereka juga lolos dari moderasi platform selama berbulan-bulan, meskipun memposting konten yang dilarang oleh ketentuan layanan TikTok.

Menurut laporan tersebut, lebih dari 350 akun yang berfokus pada AI mendorong 43.000 postingan yang dibuat dengan bantuan alat gen AI, mengumpulkan 4,5 miliar tayangan selama periode satu bulan. Para peneliti mengatakan:

“Garis kabur antara konten manusia asli dan konten sintetis yang dihasilkan AI di platform menandakan perubahan baru menuju lebih banyak konten yang dihasilkan AI di umpan pengguna.”

Dapatkah Keaslian Bertahan di Tengah Otomatisasi?

Dulu ramai dengan aktivitas nyata, tempat teman berkumpul dan berbagi momen spesial, jejaring sosial kini menjadi kota hantu, dihuni oleh entitas buatan yang meniru keterlibatan manusia dan menerbitkan konten yang dihasilkan AI.

Meskipun Anda mungkin berpikir bisa memblokir pengguna dan konten tersebut, sebuah studi menemukan¹ bahwa orang tidak dapat membedakan AI dari manusia, bahkan ketika mereka familiar dengan materi pokok LLM.

Studi tersebut mengevaluasi seberapa sukses manusia mendeteksi konten yang dihasilkan AI dan menemukan bahwa teks manusia secara akurat dikenali sebagai manusia hanya 67% dari waktu, sementara GPT-4 secara tidak akurat terdeteksi sebagai manusia 54% dari waktu.

Menurut Mosseri dari Instagram, platform sosial hanya akan semakin buruk dalam mengidentifikasi media yang dihasilkan AI seiring waktu karena teknologinya membaik. Salah satu solusinya bisa berupa perusahaan kamera yang menandatangani foto secara kriptografis saat diambil untuk membuktikan keasliannya.

Solusi untuk mengurangi kekuatan bot, menurut Ohanian, adalah melihat “generasi berikutnya dari media sosial muncul yang dapat diverifikasi sebagai manusia.”

Sementara kemajuan teknologi telah mengoptimalkan sebagian besar internet untuk keterlibatan, yang menurut Best seperti “kecanduan narkoba,” dan percaya “akan menjadi sangat kuat,” dia masih berharap untuk masa depan alternatif.

“Tujuan lain dari media adalah budaya,” tambahnya, “Itu adalah sesuatu yang orang benar-benar, sangat inginkan juga.”

Menurut Best dari Substack, teknologi yang sama ini berpotensi memungkinkan “masa depan di mana ada leverage kreatif yang jauh lebih banyak” bagi pencipta independen. Hambatan nyata untuk media, catatnya, bukanlah konten, yang “tidak ada kelangkaannya,” tetapi perhatian. “Kita telah memasuki dunia di mana perhatian adalah sumber daya yang langka,” katanya.

“Kita telah memenangkan perang melawan kebosanan,” kata Best, menambahkan bahwa “ada kelangkaan besar akan konten yang bagus.”

Di tengah ini, Wikimedia Deutschland meluncurkan Wikidata Embedding Project, yang mengubah sekitar 120 juta titik data terbuka di Wikidata menjadi format yang lebih mudah digunakan oleh LLM, membantu sistem AI mengakses data berkualitas lebih tinggi secara gratis dan meningkatkan akurasinya.

Regulasi, Penelitian, dan Perjuangan untuk Kepercayaan

Seiring AI mengambil alih internet, para peneliti telah berusaha memahami dampaknya. Salah satu studi tersebut, berjudul Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² menguji bagaimana bantuan AI memengaruhi produksi konten dan persepsi pengguna dan menemukan alat AI bermanfaat dalam meningkatkan volume konten dan keterlibatan tetapi menurunkan kualitas dan keaslian yang dirasakan.

Berdasarkan temuan mereka, mereka merekomendasikan agar platform media sosial, pembuat kebijakan, dan pemangku kepentingan merancang alat dengan personalisasi yang berfokus pada pengguna, menggabungkan sensitivitas konteks, dan memprioritaskan antarmuka pengguna yang intuitif untuk integrasi gen AI yang etis dan efektif ke dalam media sosial.

Para peneliti juga merekomendasikan untuk memastikan pengungkapan transparan dari konten yang dihasilkan AI, karena Studium³ lain telah finden⁴ bahwa ini meningkatkan kepercayaan tanpa merugikan keterlibatan.

Dalam hal regulasi, pemerintah di seluruh dunia juga telah mengambil langkah untuk mempromosikan dan mengatur penggunaan kecerdasan buatan yang bertanggung jawab.

Di Uni Eropa (EU), KI-Gesetz berfokus pada transparansi, klasifikasi risiko, dan kewajiban untuk sistem berisiko tinggi.

Sementara itu, Online Safety Act (OSA) telah memberikan otoritas luas kepada regulator komunikasi Ofcom untuk mewajibkan platform mengelola konten berbahaya atau menyesatkan di Inggris, meskipun pembuat kebijakan telah menyerukan peningkatan untuk lebih efektif menangani misinformasi yang digerakkan AI.

Di AS, Presiden Donald Trump telah mengeluarkan Perintah Eksekutif untuk menghilangkan hambatan bagi kepemimpinan Amerika di bidang AI dan menerbitkan rencana aksi untuk mengamankan dominasinya di sektor tersebut. Kemudian lagi, bulan lalu, dia memerintahkan standar nasional yang memungkinkan perusahaan AI berinovasi tanpa regulasi yang memberatkan.

Sementara itu, China?

Sbposts__content/button_label:Seperti yang kita ketahui, era media sosial jelas-jelas akan berakhir. Ini bukan lagi tempat yang sama di mana orang-orang secara aktif berbagi minat, kenangan, dan ide mereka dengan cara yang autentik. Apa yang dulu dibangun berdasarkan hubungan manusia kini dipenuhi oleh konten otomatis dan bot.

Sementara AI telah membuka leverage kreatif dan efisiensi ekonomi yang belum pernah terjadi sebelumnya, ia juga telah mengikis sinyal-sinyal yang dulu membuat interaksi online bermakna.

Masa depan media sosial kemungkinan akan terpecah, dengan satu jalur mengarah ke umpan yang hiper-otomatis dan dioptimalkan untuk keterlibatan, sementara jalur lainnya menunjuk ke ruang yang terverifikasi manusia yang mengutamakan budaya, kredibilitas, dan konteks di atas jangkauan.

Referensi

<sup>1. Jones, CR & Bergen, BK „Menschen können GPT-4 in einem Turing-Test nicht von einem Menschen unterscheiden.“ arXiv-Preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, AG, Romero, DM, Jurgens, D. & Aiello, LM „Der Einfluss von generativer KI auf soziale Medien: Eine experimentelle Studie.“ arXiv-Preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. „Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media.“ arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, SR „Examining the Impact of Label Detail and Content Stakes on User Perceptions of AI-Generated Images on Social Media.“ arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>

Tekoälyn tuottamaa sisältöä on kaikkialla, ja se syrjäyttää aitoa ihmisten luomaa sisältöä muuttaen täysin sosiaalisen median maisemaa. Sen vaikutus on nyt laajentunut alustoista politiikan areenoille, laajemmalle Internetille ja jopa maailmantalouteen.

Eli, tarkoittaako tämä, että sosiaalinen media on lähellä kuolemaansa? No, selvitetäänpä.

Ihmisyhteyksistä synteettisiin syötteisiin

Noin neljä vuosikymmentä sitten varhaiset muodot verkkovuorovaikutuksesta syntyivät, alkaen ilmoitustauluista (BBS), Usenetista ja varhaisista foorumeista 1970-luvun lopulla ja 1980-luvulla. Kuitenkin ensimmäiset tunnistettavat sosiaalisen verkostoitumisen alustat eivät ilmestyneet ennen 1990-luvun loppupuolta, luoden perustan sille, mikä myöhemmin muodostuisi nykyaikaiseksi sosiaaliseksi mediaksi.

2000-luvun alku merkitsi sosiaalisen median laajaa suosiota sivustojen kuten Friendster, MySpace ja Facebook myötä. Tämä sosiaalisen median nykyaikainen aikakausi mahdollisti välittömän globaalin yhteydenpidon, antaen ihmisten ylläpitää suhteita, päästä reaaliaikaiseen uutistietoon ja rakentaa yhteisöjä yhteisten kiinnostusten ympärille.

Mutta nyt, vain pari vuosikymmentä myöhemmin, sosiaalisen media muuttuu tekoälysisällön runsastuessa.

Perinteisesti sosiaalisen median ydinarvot ovat olleet yhteys ja ilmaisu, mutta nämä on korvattu automatisoitulla massatuotannolla. Kun ihmisten syötteitä hallitsee synteettinen kohina, väestön osallistumattomuus ja epäluottamus kasvavat nopeasti.

Instagramin ylimmän johdon mukaan huolellisesti kuraattori gridi on nyt mennyttä aikaa.

Viestissään Threadsissa Instagramin johtaja Adam Mosseri varoitti, että tekoälyn nousu on tappanut sosiaalisen median sivuston hiotun estetiikan. Kaikki se meikki, ihon tasoitus, kauniit maisemat ja korkeakontrastinen valokuvaus on nyt “kuollutta”, sillä “ihmiset lopettivat henkilökohtaisten hetkien jakamisen syötteeseen vuosia sitten”, hän sanoi.

Sen sijaan, hiottomia, “epäedullisia tilanteenpaljastuksia” jaetaan suorien viestien kautta.

Tekoälykuvien kaikkialle läsnäolo tarkoittaa, että sisällöntuottajien on siirryttävä kuraatoiduista grideistä ja ammattimaisesta valokuvauksesta “raaempaan estetiikkaan”, sillä ihmiset haluavat “sisältöä, joka tuntuu aidolta” eivätkä miellyttävää kuvitusta, joka on “halpaa tuottaa ja tylsää kuluttaa”.

Pian näemme tekoälytyökalujen kypsymisen ja sen myötä niiden tuottamien estetiikkojen kirjon laajenemisen, Mosseri sanoi, ja totesi samalla, että sosiaalisen median syötteet alkavat jo täyttyä “synteettisestä kaikesta”, mikä tarkoittaa, että alustojen on kehittyvä käsittelemään tekoälyn tuottaman sisällön tulvaa.

Samaan aikaan Substackin perustaja ja toimitusjohtaja Chris Best sanoi viime vuonna, että tekoälyn tuottama “roskasisältö” (slop) voi tulvita internetiä, mikä “pitää tyhmät ihmiset klikkailemassa”.

“Slop” valittiin vuoden 2025 sanaksi Yhdysvaltalaisen Merriam-Webster-sanakirjan toimesta, joka määrittelee sen “matalalaatuiseksi digitaaliseksi sisällöksi, jota tuotetaan, yleensä suuria määriä, keinotekoisen älyn avulla”.

Botti-Internetin nousu

Zum Scrollen wischen →

AI-innehåll finns överallt, tränger ut autentiskt mänskligt innehåll och förändrar helt landskapet för sociala medier. Dess inflytande har nu sträckt sig bortom plattformarna för att påverka den politiska arenan, det bredare internet och till och med den globala ekonomin.

Så, betyder detta att sociala medier närmar sig sitt slut? Låt oss ta reda på det.

Från mänsklig kontakt till syntetiska flöden

Det var ungefär fyra decennier sedan som tidiga former av social interaktion online först dök upp, med början i bulletin board systems (BBS), Usenet och tidiga forum under slutet av 1970-talet och 1980-talet. De första igenkännbara sociala nätverksplattformarna dök dock inte upp förrän i mitten till slutet av 1990-talet, vilket lade grunden för vad som senare skulle bli moderna sociala medier.

Början av 2000-talet markerade den utbredda populariteten för sociala medier med sajter som Friendster, MySpace och Facebook. Denna moderna era av sociala medier möjliggjorde omedelbar global anslutning, vilket tillät människor att upprätthålla relationer, få tillgång till nyheter i realtid och bygga gemenskaper kring delade intressen.

Men nu, bara ett par decennier senare, förändras ansiktet på sociala medier med spridningen av AI-innehåll.

Traditionellt har kärnvärdena i sociala mediar varit anslutning och uttryck, men dessa har ersatts av automatiserad massproduktion. Med att människors flöden domineras av syntetiskt brus växer engagemangsbrist och misstro bland massorna snabbt.

Enligt Instagrams högsta chef är ett noggrant kuraterat rutnät nu en sak från det förflutna.

In einem meddelande på Threads varnade Instagram-chefen Adam Mosseri för att AI:s framväxt har dödat den sociala medieplattformens polerade estetik. All den där sminken, hudutjämningen, vackra landskap och högkontrastsfotografering är nu “döda”, eftersom “folk i stort sett slutade dela personliga ögonblick till flödet för år sedan”, sa han.

Istället delas opolerade, “ofördelaktiga spontanbilder” via direktmeddelanden.

AI-bilders genomträngande betydelse innebär att skapare måste flytta sig bort från kuraterade rutnät och professionell stil av fotografering till en “mer rå estetik”, där människor vill ha “innehåll som känns äkta” snarare än smickrande bilder, vilket är “billigt att producera och tråkigt att konsumera.”

Snart kommer vi att se mognaden av AI-verktyg och med det expansionen av det spektrum av estetik som de kan producera, sa Mosseri, samtidigt som han noterade att sociala medieflöden redan börjar fyllas med “syntetiskt allt”, vilket innebär att plattformar måste utvecklas för att hantera flödet av AI-genererat innehåll.

Under tiden sa Substack-medgrundare och VD Chris Best i slutet av förra året att AI-genererat “slask” kunde översvämma internet, vilket “får dumma människor att fortsätta klicka.”

“Slask” valdes som årets ord för 2025 av den amerikanska ordboken Merriam-Webster, som definierar det som “digitalt innehåll av låg kvalitet som produceras, vanligtvis i kvantitet, med hjälp av artificiell intelligens.”

Bot-internetets framväxt

Svep för att bläddra →

AI-inhoud is overal, verdringt authentieke menselijke inhoud en transformeert het sociale medialandschap volledig. De invloed ervan strekt zich nu uit buiten de platforms en raakt de politieke arena, het bredere internet en zelfs de wereldeconomie.

Betekent dit dan dat sociale media haar einde nadert? Laten we dat eens uitzoeken.

Van Menselijke Verbinding naar Synthetische Feeds

Het was ongeveer vier decennia geleden dat vroege vormen van online sociale interactie voor het eerst opkwamen, beginnend met bulletin board systems (BBS), Usenet en vroege forums in de late jaren zeventig en jaren tachtig. De eerste herkenbare sociale netwerkplatforms verschenen echter pas in de midden tot late jaren negentig, waarmee de basis werd gelegd voor wat later moderne sociale media zou worden.

Het begin van de 21e eeuw markeerde de wijdverspreide populariteit van sociale media met sites zoals Friendster, MySpace en Facebook. Dit moderne tijdperk van sociale media maakte directe wereldwijde verbinding mogelijk, waardoor mensen relaties konden onderhouden, realtime nieuws konden volgen en gemeenschappen konden opbouwen rond gedeelde interesses.

Maar nu, slechts een paar decennia later, verandert het aanzien van sociale media door de opkomst van AI-inhoud.

Traditioneel waren de kernwaarden van Soziale Medien verbinding en expressie, maar deze zijn vervangen door geautomatiseerde massaproductie. Omdat de feeds van mensen worden gedomineerd door synthetische ruis, groeien desinteresse en wantrouwen onder het publiek snel.

Volgens de topbestuurder van Instagram is een zorgvuldig samengestelde grid nu iets van het verleden.

In einem bericht op Threads waarschuwde Instagram-hoofd Adam Mosseri dat de opkomst van AI de gepolijste esthetiek van de sociale mediasite heeft gedood. Al die make-up, huidgladstrijking, prachtige landschappen en hoogcontrastfotografie zijn nu “dood”, omdat “mensen grotendeels jaren geleden al zijn gestopt met het delen van persoonlijke momenten in de feed”, zei hij.

In plaats daarvan worden onopgesmukte, “niet flatteuze spontane kiekjes” gedeeld via directe berichten.

De alomtegenwoordigheid van AI-beelden betekent dat makers moeten verschuiven van samengestelde grids en professionele fotografie naar een “rauwere esthetiek”, waarbij mensen “inhoud willen die echt aanvoelt” in plaats van flatteuze beelden, die “goedkoop zijn om te produceren en saai om te consumeren”.

Binnenkort zullen we de volwassenwording van AI-tools zien en daarmee de uitbreiding van het scala aan esthetiek dat ze kunnen produceren, zei Mosseri, terwijl hij opmerkte dat sociale media-feeds nu al beginnen te vollopen met “synthetisch alles”, wat betekent dat platforms moeten evolueren om de vloed aan door AI gegenereerde inhoud te verwerken.

Ondertussen zei Substack medeoprichter en CEO Chris Best eind vorig jaar dat door AI gegenereerde “troep” het internet zou kunnen overspoelen, wat “domme mensen aan het klikken houdt”.

“Slop” werd gekozen als het woord van het jaar voor 2025 door het Amerikaanse woordenboek Merriam-Webster, dat het definieert als “digitale inhoud van lage kwaliteit die, meestal in grote hoeveelheden, wordt geproduceerd met behulp van kunstmatige intelligentie.”

De Opkomst van het Bot Internet

Wischen zum Scrollen →

Gegevens tonen aan dat bijna een derde van al het internetverkeer afkomstig is van bots, geautomatiseerde softwareprogramma’s die menselijk gedrag nabootsen.

Dit heeft aanleiding gegeven tot de dode internettheorie, die stelt dat het internet voornamelijk bestaat uit botactiviteit en algoritmisch gegenereerde inhoud die is ontworpen om de wereldbevolking te controleren.

Reddit (RDDT + 2.76%) medeoprichter Alexis Ohanian gelooft dat er een kern van waarheid in het idee zit, en dat er een nieuw tijdperk van sociale media zal ontstaan vanwege dit fenomeen. “Het hebben van een bewijs van leven, zoals live kijkers en live inhoud, is echt verdomd waardevol om de aandacht vast te houden,” zei hij in een podcast.

OpenAI oprichter en CEO Sam Altman deelde een vergelijkbare mening op X vorig jaar, met de post:

“Ik heb de dode internettheorie nooit echt serieus genomen, maar het lijkt erop dat er nu echt veel LLM-gestuurde Twitter-accounts zijn.”

Botactiviteit op X (voorheen bekend als Twitter) wordt eigenlijk erger. Geschat wordt dat ongeveer 10% van de X-accounts bots zijn, in totaal miljoenen gebruikers.

Ondertussen is gebleken dat meer dan 20% van de video’s die het algoritme van YouTube aan nieuwe gebruikers toont, “AI-rommel” ist.

Sterker nog, onder de 15.000 meest populaire YouTube-kanalen die zijn onderzocht, bevatten er 278 alleen maar AI-gegenereerde inhoud, en samen hebben ze 221 miljoen abonnees en meer dan 63 miljard weergaven verzameld, wat ongeveer $117 miljoen aan inkomsten per jaar genereert.

Dit is niet beperkt tot slechts één of een handvol platforms; het geldt voor het hele internet.

Zoals het Imperva Bad Bot Report 2025 opmerkte, heeft geautomatiseerd verkeer het menselijk verkeer ingehaald en maakt het 51% uit van al het internetverkeer, waarbij 20% daarvan afkomstig is van “slechte bots” die zich bezighouden met kwaadaardige activiteiten.

Een paar maanden geleden merkte Marshall Miller, de senior directeur product bij de Wikimedia Foundation, de non-profitorganisatie die Wikipedia runt, ook op dat het menselijk verkeer naar de website met ongeveer 8% is gedaald doordat mensen hun manier van online informatie zoeken veranderen.

De daling kwam aan het licht nadat de Foundation veranderde hoe het onderscheid maakt tussen menselijk en botverkeer om het echte lezerspubliek beter te begrijpen en om te voorkomen dat bots van derden gegevens schrapen voor commerciële zoek- en AI-tools.

“We geloven dat deze dalingen de impact weerspiegelen van generatieve AI en sociale media op hoe mensen informatie zoeken, vooral omdat zoekmachines antwoorden rechtstreeks aan zoekers geven, vaak gebaseerd op Wikipedia-inhoud,” schreef Miller, eraan toevoegend dat dit niet echt een verrassing was omdat zoekmachines steeds vaker AI gebruiken om antwoorden rechtstreeks op resultatenpagina’s te tonen en jongere gebruikers zich tot TikTok en YouTube wenden.

Maar dit betekent dat de gemeenschap die de inhoud van Wikipedia schrijft en bewerkt, zou kunnen krimpen. Daarom dringt het platform er bij zoekmachines, sociale platforms, LLM’s en AI-chatbots op aan om te helpen meer verkeer terug naar de site te leiden.

Hoe Sociale Media Platforms AI-inhoud Versterken

Sociale media platforms zijn overspoeld met AI-gegenereerde inhoud dankzij een explosieve groei in het ecosysteem van generatieve tools.

Tools zoals Sora, Midjourney, Pika, Runway en Stable Diffusion hebben het bijvoorbeeld extreem gemakkelijk gemaakt om afbeeldingen en video’s van bijna alles te creëren.

Een groeiend aantal oplossingen maakt het mensen zelfs gemakkelijker om weergaven te stimuleren en te profiteren van beloningsprogramma’s voor makers of affiliate links. Ze genereren niet alleen automatisch inhoud, maar plaatsen deze ook rechtstreeks op platforms zoals YouTube, tegen betaling, met meer dan 100 video’s per maand op een enkel account. Deze oplossingen zijn gericht op het automatiseren van het volledige proces van het zijn van een contentcreator.

Maar dat is niet alles. Onderzoekers hebben entdeckt dat platforms AI-gegenereerde posts daadwerkelijk een boost geven. Platforms zoals TikTok, Instagram en Meta (META + 1.69%) bieden zelfs native AI-functies waarmee gebruikers visuals, scripts kunnen genereren of bestaande media kunnen remixen zonder externe software.

Meta heeft met name AI-gegenereerde inhoud met volle overgave omarmd, en heeft zelfs zijn eigen rommel gecreëerd. In 2023 introduceerde het bedrijf AI-gestuurde profielen en kondigde plannen aan om zijn platform te vullen met AI-personages. Maar na aanzienlijke terugslag van gebruikers, heeft Meta de AI-profielen vorig jaar stopgezet.

Instagram lanceerde ondertussen een AI-studio waarmee gebruikers aangepaste chatbots kunnen produceren, inclusief hun eigen digitale versies.

Onlangs onthulde TikTok dat er minstens 1,3 miljard AI-gegenereerde posts op zijn platform waren, met meer dan 100 miljoen stukken inhoud die elke dag werden geüpload. Voor transparantie labelt TikTok AI-gegenereerde inhoud en geeft gebruikers zelfs de optie om de hoeveelheid AI-inhoud die ze zien te verminderen.

Maar AI Forensics, een in Parijs gevestigd onderzoeksbureau, heeft ontdekt dat het algoritme van TikTok AI-gegenereerde inhoud actief promoot, zelfs wanneer deze inhoud onjuiste informatie bevat. In een onderzoek naar de verspreiding van desinformatie tijdens de Europese verkiezingen, ontdekte de groep dat TikTok’s algoritme AI-gegenereerde inhoud over politieke onderwerpen aanbeveelt, zelfs als deze inhoud flagrante onjuistheden bevat.Een non-profitorganisatie, NewsGuard, ontdekte dat minder dan 2% van de accounts het TikTok-label voor AI-inhoud had. Soms ontlopen ze ook maandenlang de moderatie van het platform, ondanks het plaatsen van inhoud die verboden is volgens de servicevoorwaarden van TikTok.

Volgens het rapport pushten meer dan 350 op AI gerichte accounts 43.000 berichten die met behulp van gen-AI-tools waren gemaakt, wat in een maand tijd 4,5 miljard weergaven opleverde. De onderzoekers zeiden:

“De vervagende grens tussen authentieke menselijke en synthetische AI-gegenereerde inhoud op het platform kondigt een nieuwe wending aan naar meer AI-gegenereerde inhoud in de feeds van gebruikers.”

Kan Authenticiteit Automatisering Overleven?

Ooit bruisend van echte activiteit, waar vrienden samenkwamen en bijzondere momenten deelden, worden sociale netwerken nu spooksteden, bevolkt door kunstmatige entiteiten die menselijke betrokkenheid simuleren en AI-gegenereerde inhoud publiceren.

Hoewel je misschien denkt dat je die gebruikers en inhoud gewoon kunt blokkeren, ontdekte een studie¹ dat mensen AI niet van een mens kunnen onderscheiden, zelfs niet wanneer ze bekend zijn met het onderwerp van het LLM.

De studie evalueerde hoe succesvol mensen AI-gegenereerde inhoud detecteren en ontdekte dat menselijke tekst slechts 67% van de tijd correct als zodanig werd herkend, terwijl GPT-4 in 54% van de gevallen onterecht als menselijk werd aangemerkt.

Volgens Instagram’s Mosseri zullen sociale platforms mettertijd alleen maar slechter worden in het identificeren van AI-gegenereerde media naarmate de technologie verbetert. Een oplossing zou kunnen zijn dat camerabedrijven foto’s cryptografisch ondertekenen wanneer ze worden gemaakt om te bewijzen dat ze echt zijn.

De oplossing om de kracht van bots te verminderen, volgens Ohanian, is het zien van “een nieuwe generatie sociale media die verifieerbaar menselijk is.”

Hoewel technologische vooruitgang het grootste deel van het internet heeft geoptimaliseerd voor betrokkenheid, wat Best vergeleek met “drugsverslaving” en waarvan hij gelooft dat het “een enorme boost gaat krijgen”, blijft hij hoopvol voor een alternatieve toekomst.

“Het andere doel van media is cultuur,” voegde hij eraan toe, “Dat is ook iets wat mensen echt, echt willen.”

Volgens Substack’s Best heeft dezezelfde technologie het potentieel om een “toekomst mogelijk te maken waar er veel meer creatieve hefboomwerking is” voor onafhankelijke makers. Het echte knelpunt voor media, merkte hij op, is niet inhoud, waarvan er “geen schaarste” is, maar aandacht. “We zijn een wereld binnengegaan waar aandacht de schaarse hulpbron is,” zei hij.

“We hebben de oorlog tegen verveling gewonnen,” zei Best, en voegde eraan toe dat “er een enorm tekort is aan goede inhoud.”

Tegelijkertijd lanceerde Wikimedia Deutschland het Wikidata Embedding Project, dat ongeveer 120 miljoen open datapunten in Wikidata omzette in een formaat dat gemakkelijker is voor LLM’s om te gebruiken, waardoor AI-systemen gratis toegang krijgen tot data van hogere kwaliteit en hun nauwkeurigheid verbeteren.

Regulering, Onderzoek en de Strijd voor Vertrouwen

Naarmate AI het internet overneemt, zijn onderzoekers begonnen met het begrijpen van de impact ervan. Een dergelijke studie, getiteld Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie², onderzocht hoe AI-ondersteuning de inhoudsproductie en gebruikerspercepties beïnvloedt en ontdekte dat AI-tools gunstig zijn voor het verhogen van het inhoudsvolume en de betrokkenheid, maar de waargenomen kwaliteit en authenticiteit verminderen.

Op basis van hun bevindingen bevalen zij aan dat sociale mediaplatforms, beleidsmakers en belanghebbenden tools ontwerpen met gebruikersgerichte personalisatie, contextgevoeligheid integreren en intuïtieve gebruikersinterfaces prioriteren voor een ethische en effectieve integratie van gen-AI in sociale media.

De onderzoekers bevalen ook aan om te zorgen voor transparante openbaarmaking van AI-gegenereerde inhoud, aangezien andere Es wurden Studien³ hebben gezeigt⁴ dat dit het vertrouwen verbetert zonder de betrokkenheid te schaden.

Wat regelgeving betreft, hebben regeringen over de hele wereld ook stappen ondernomen om het verantwoorde gebruik van kunstmatige intelligentie te bevorderen en te reguleren.

In de Europese Unie (EU) richt de KI-Gesetz zich op transparantie, risicoclassificatie en verplichtingen voor hoogrisicosystemen.

De Online Safety Act (OSA) heeft intussen de communicatietoezichthouder Ofcom in het VK brede bevoegdheid gegeven om platforms te verplichten schadelijke of misleidende inhoud te beheren, hoewel beleidsmakers hebben opgeroepen tot een upgrade om AI-gedesinformatie effectiever aan te pakken.

In de VS heeft president Donald Trump een uitvoeringsbevel uitgevaardigd om belemmeringen voor het Amerikaanse leiderschap in AI weg te nemen en een actieplan gepubliceerd om de dominantie in de sector veilig te stellen. Anderzijds heeft hij vorige maand een nationale standaard bevolen die AI-bedrijven in staat stelt te innoveren zonder omslachtige regelgeving.

Ondertussen, China?

Sbposts__content/button_label:

Το περιεχόμενο ΤΝ βρίσκεται παντού, εκτοπίζοντας το αυθεντικό ανθρώπινο περιεχόμενο και μεταμορφώνοντας εντελώς το τοπίο των κοινωνικών δικτύων. Η επιρροή του έχει τώρα επεκταθεί πέρα από τις πλατφόρμες για να επηρεάσει την πολιτική σκηνή, το ευρύτερο Διαδίκτυο, ακόμα και την παγκόσμια οικονομία.

Λοιπόν, αυτό σημαίνει ότι τα κοινωνικά δίκτυα πλησιάζουν το τέλος τους; Ας το ανακαλύψουμε.

Από την Ανθρώπινη Σύνδεση στις Συνθετικές Ροές

Ήταν περίπου τέσσερις δεκαετίες πριν που εμφανίστηκαν οι πρώιμες μορφές διαδικτυακής κοινωνικής αλληλεπίδρασης, ξεκινώντας με συστήματα πινάκων ανακοινώσεων (BBS), το Usenet και πρώιμα φόρουμ στα τέλη της δεκαετίας του 1970 και του 1980. Ωστόσο, οι πρώτες αναγνωρίσιμες πλατφόρμες κοινωνικής δικτύωσης δεν εμφανίστηκαν μέχρι τα μέσα έως τα τέλη της δεκαετίας του 1990, θέτοντας τα θεμέλια για αυτό που αργότερα θα γινόταν τα σύγχρονα κοινωνικά δίκτυα.

Η αρχή του 21ου αιώνα σηματοδότησε την ευρεία δημοτικότητα των κοινωνικών δικτύων με ιστότοπους όπως το Friendster, το MySpace και το Facebook. Αυτή η σύγχρονη εποχή των κοινωνικών δικτύων επέτρεψε άμεση παγκόσμια σύνδεση, επιτρέποντας στους ανθρώπους να διατηρούν σχέσεις, να έχουν πρόσβαση σε ειδήσεις σε πραγματικό χρόνο και να χτίζουν κοινότητες γύρω από κοινά ενδιαφέροντα.

Αλλά τώρα, μόλις δύο δεκαετίες αργότερα, η όψη των κοινωνικών δικτύων αλλάζει με την εξάπλωση του περιεχομένου ΤΝ.

Παραδοσιακά, οι βασικές αξίες των soziale Netzwerke ήταν η σύνδεση και η έκφραση, αλλά αυτές έχουν αντικατασταθεί από αυτοματοποιημένη μαζική παραγωγή. Με τις ροές των ανθρώπων να κυριαρχούνται από συνθετικό θόρυβο, ο αποχωρισμός και η δυσπιστία μεταξύ των μαζών αυξάνονται γρήγορα.

Σύμφωνα με τον κορυφαίο διευθυντή του Instagram, ένα προσεκτικά επιμελημένο πλέγμα είναι πλέον παρελθόν.

In einem μήνυμα στο Threads, ο επικεφαλής του Instagram Adam Mosseri προειδοποίησε ότι η άνοδος της ΤΝ έχει σκοτώσει την επεξεργασμένη αισθητική του κοινωνικού δικτύου. Όλο αυτό το μακιγιάζ, το λείωμα του δέρματος, τα όμορφα τοπία και η φωτογραφία υψηλής αντίθεσης είναι πλέον «νεκρά», καθώς «οι άνθρωποι σταμάτησαν σε μεγάλο βαθμό να μοιράζονται προσωπικές στιγμές στη ροή εδώ και χρόνια», είπε.

Αντ’ αυτού, μη επεξεργασμένες, «αδιάκριτες στιγμιότυπες φωτογραφίες» μοιράζονται μέσω άμεσων μηνυμάτων.

Η διαδεδομένη ύπαρξη εικόνων ΤΝ σημαίνει ότι οι δημιουργοί πρέπει να απομακρυνθούν από επιμελημένα πλέγματα και επαγγελματικής μορφής φωτογραφία προς μια «πιο ωμή αισθητική», με τους ανθρώπους να θέλουν «περιεχόμενο που φαίνεται πραγματικό» παρά κολακευτικές εικόνες, που είναι «φθηνό στην παραγωγή και βαρετό στην κατανάλωση».

Σύντομα, θα δούμε την ωρίμανση των εργαλείων ΤΝ και μαζί με αυτήν την επέκταση του φάσματος των αισθητικών που μπορούν να παράγουν, δήλωσε ο Mosseri, σημειώνοντας παράλληλα ότι ήδη, οι ροές των κοινωνικών δικτύων αρχίζουν να γεμίζουν με «συνθετικά τα πάντα», πράγμα που σημαίνει ότι οι πλατφόρμες πρέπει να εξελιχθούν για να χειριστούν τη διάχυση του περιεχομένου που δημιουργείται από ΤΝ.

Εν τω μεταξύ, ο συνιδρυτής και διευθύνων σύμβουλος της Substack, Chris Best, είπε στα τέλος του περασμένου έτους ότι το «αναξιόπιστο» περιεχόμενο που δημιουργείται από ΤΝ θα μπορούσε να πλημμυρίσει το διαδίκτυο, το οποίο «κάνει τους ανόητους να συνεχίζουν να κλικάρουν».

Η λέξη «slop» επιλέχθηκε ως η λέξη της χρονιάς για το 2025 από το αμερικανικό λεξικό Merriam-Webster, το οποίο την ορίζει ως «ψηφιακό περιεχόμενο χαμηλής ποιότητας που παράγεται, συνήθως σε ποσότητα, μέσω τεχνητής νοημοσύνης».

Η Άνοδος του Διαδικτύου των Bot

Σαρώστε για κύλιση →

Τα δεδομένα δείχνουν ότι σχεδόν το ένα τρίτο όλης της διαδικτυακής κίνησης προέρχεται από bots, αυτοματοποιημένα προγράμματα λογισμικού που μιμούνται την ανθρώπινη συμπεριφορά.

Αυτό έχει δώσει ώθηση στη θεωρία του νεκρού Διαδικτύου, η οποία υποστηρίζει ότι το Διαδίκτυο αποτελείται κυρίως από δραστηριότητα bots και αλγοριθμικά παραγόμενο περιεχόμενο σχεδιασμένο να ελέγχει τον παγκόσμιο πληθυσμό.

Ο συνιδρυτής του Reddit (RDDT + 2.76%) Alexis Ohanian πιστεύει ότι υπάρχει κάποια αλήθεια στην ιδέα, και μια νέα εποχή των κοινωνικών δικτύων θα αναδυθεί εξαιτίας αυτής. «Η απόδειξη της ζωής, όπως ζωντανοί θεατές και ζωντανό περιεχόμενο, είναι πραγματικά πολύ πολύτιμη για να κρατήσεις την προσοχή», δήλωσε σε ένα podcast.

Ο ιδρυτής και διευθύνων σύμβουλος της OpenAI, Sam Altman, μοιράστηκε μια παρόμοια άποψη στο X πέρυσι, δημοσιεύοντας:

«Ποτέ δεν πήρα την θεωρία του νεκρού Διαδικτύου τόσο σοβαρά, αλλά φαίνεται ότι υπάρχουν πραγματικά πολλοί λογαριασμοί Twitter που τρέχουν από LLM τώρα.»

Η δραστηριότητα των bots στο X (παλαιότερα γνωστό ως Twitter) στην πραγματικότητα επιδεινώνεται. Υπολογίζεται ότι περίπου 10% των λογαριασμών X είναι bots, συνολικά εκατομμύρια χρήστες.

Εν τω μεταξύ, πάνω από 20% των βίντεο που ο αλγόριθμος του YouTube δείχνει σε νέους χρήστες έχει gefunden ότι είναι «AI σκουπίδι».

Στην πραγματικότητα, μεταξύ των 15.000 πιο δημοφιλών καναλιών YouTube που ερευνήθηκαν, τα 278 περιέχουν μόνο περιεχόμενο που δημιουργείται από AI, και μαζί έχουν συγκεντρώσει 221 εκατομμύρια συνδρομητές και πάνω από 63 δισεκατομμύρια προβολές, δημιουργώντας περίπου 117 εκατομμύρια δολάρια εισόδημα κάθε χρόνο.

Αυτό δεν περιορίζεται σε μία ή μια χούφτα πλατφόρμες· ισχύει για ολόκληρο το διαδίκτυο.

Όπως σημείωσε η Έκθεση Κακών Bots της Imperva για το 2025, η αυτοματοποιημένη κίνηση έχει ξεπεράσει την ανθρώπινη κίνηση, αποτελώντας το 51% όλης της διαδικτυακής κίνησης, με το 20% αυτής να προέρχεται από «κακά bots» που ασχολούνται με κακόβουλη δραστηριότητα.

Πριν από λίγους μήνες, ο Marshall Miller, ο ανώτερος διευθυντής προϊόντος στο Wikimedia Foundation, το μη κερδοσκοπικό που διαχειρίζεται τη Wikipedia, σημείωσε επίσης ότι η ανθρώπινη κίνηση στον ιστότοπο έχει μειωθεί κατά περίπου 8% καθώς οι άνθρωποι αλλάζουν τον τρόπο που αναζητούν πληροφορίες στο διαδίκτυο.

Η πτώση αποκαλύφθηκε αφού το Ίδρυμα άλλαξε τον τρόπο που διαχωρίζει την ανθρώπινη από την κίνηση bot για να κατανοήσει καλύτερα τον πραγματικό αναγνωστικό κοινό και να περιορίσει bots τρίτων που εξάγουν τα δεδομένα του για εμπορικές μηχανές αναζήτησης και εργαλεία AI.

«Πιστεύουμε ότι αυτές οι πτώσεις αντανακλούν την επίδραση της παραγωγικής AI και των κοινωνικών δικτύων στον τρόπο που οι άνθρωποι αναζητούν πληροφορίες, ειδικά με τις μηχανές αναζήτησης να παρέχουν απαντήσεις απευθείας στους χρήστες, συχνά βασισμένες σε περιεχόμενο της Wikipedia», έγραψε ο Miller, προσθέτοντας ότι αυτό δεν ήταν πραγματικά έκπληξη καθώς οι μηχανές αναζήτησης χρησιμοποιούν όλο και περισσότερο AI για να έχουν απαντήσεις απευθείας στις σελίδες αποτελεσμάτων και οι νεότεροι χρήστες στρέφονται στο TikTok και το YouTube.

Αλλά αυτό σημαίνει ότι η κοινότητα που γράφει και επεξεργάζεται το περιεχόμενο της Wikipedia θα μπορούσε να συρρικνωθεί. Ως εκ τούτου, η πλατφόρμα προτρέπει τις μηχανές αναζήτησης, τις κοινωνικές πλατφόρμες, τα LLM και τα chatbots AI να βοηθήσουν να οδηγήσουν περισσότερη κίνηση πίσω στον ιστότοπο.

Πώς οι Πλατφόρμες Κοινωνικών Δικτύων Ενισχύουν το Περιεχόμενο AI

Οι πλατφόρμες κοινωνικών δικτύων έχουν πλημμυρίσει από περιεχόμενο που δημιουργείται από AI χάρη σε μια εκρηκτική ανάπτυξη στο οικοσύστημα των παραγωγικών εργαλείων.

Για παράδειγμα, εργαλεία όπως το Sora, το Midjourney, το Pika, το Runway και το Stable Diffusion έχουν καταστήσει εξαιρετικά εύκολη τη δημιουργία εικόνων και βίντεο σχεδόν για οτιδήποτε.

Ένας αυξανόμενος αριθμός λύσεων κάνει ακόμη πιο εύκολο για τους ανθρώπους να ενισχύσουν τις προβολές και να εισπράξουν χρήματα από προγράμματα ανταμοιβών δημιουργών ή συνεργατικούς συνδέσμους. Όχι μόνο δημιουργούν αυτόματα αλλά και δημοσιεύουν περιεχόμενο απευθείας σε πλατφόρμες όπως το YouTube, έναντι αμοιβής, κάνοντας πάνω από 100 βίντεο το μήνα σε έναν μόνο λογαριασμό. Αυτές οι λύσεις στοχεύουν στην αυτοματοποίηση της πλήρους διαδικασίας του να είσαι δημιουργός περιεχομένου.

Αλλά δεν είναι μόνο αυτό. Ερευνητές έχουν βρει ότι οι πλατφόρμες στην πραγματικότητα ενισχύουν αναρτήσεις που δημιουργούνται από AI. Πλατφόρμες όπως το TikTok, το Instagram και η Meta (META + 1.69%) προσφέρουν ακόμη και ενσωματωμένα χαρακτηριστικά AI που επιτρέπουν στους χρήστες να δημιουργούν οπτικά, σενάρια ή να αναμειγνύουν υπάρχοντα μέσα χωρίς εξωτερικό λογισμικό.

Η Meta, ειδικότερα, έχει ασπαστεί το περιεχόμενο που δημιουργείται από AI με μεγάλο ενθουσιασμό, δημιουργώντας ακόμη και δικά της σκουπίδια. Το 2023, η εταιρεία εισήγαγε προφίλ με τεχνητή νοημοσύνη και ανακοίνωσε σχέδια να γεμίσει την πλατφόρμα της με χαρακτήρες AI. Αλλά μετά από σημαντική αντίδραση των χρηστών, η Meta διέγραψε τα προφίλ AI πέρυσι.

Το Instagram, εν τω μεταξύ, ξεκίνησε ένα στούντιο AI που επιτρέπει στους χρήστες να παράγουν προσαρμοσμένα chatbots, συμπεριλαμβανομένων των δικών τους ψηφιακών εκδοχών.

Πρόσφατα, το TikTok αποκάλυψε ότι υπήρχαν τουλάχιστον 1,3 δισεκατομμύρια αναρτήσεις που δημιουργήθηκαν από AI στην πλατφόρμα του, με πάνω από 100 εκατομμύρια κομμάτια περιεχομένου να ανεβάζονται κάθε μέρα. Για διαφάνεια, το TikTok επισημαίνει περιεχόμενο που δημιουργείται από AI και ακόμη δίνει στους χρήστες την επιλογή να μειώσουν την ποσότητα AI περιεχομένου που βλέπουν.

Αλλά η AI Forensics, μια ερευνητική οργάνωση με βάση το Παρίσι,Μια μη κερδοσκοπική οργάνωση, η NewsGuard, διαπίστωσε ότι λιγότερο από το 2% των λογαριασμών είχε την ετικέτα του TikTok για περιεχόμενο AI. Μερικές φορές, επίσης, ξεφεύγουν από τον έλεγχο της πλατφόρμας για μήνες, παρά το ότι δημοσιεύουν περιεχόμενο που απαγορεύεται από τους όρους χρήσης του TikTok.

Σύμφωνα με την έκθεση, περισσότεροι από 350 λογαριασμοί εστιασμένοι στο AI προώθησαν 43.000 αναρτήσεις που δημιουργήθηκαν με τη βοήθεια εργαλείων γενετικής AI, συγκεντρώνοντας 4,5 δισεκατομμύρια προβολές σε μια περίοδο ενός μήνα. Οι ερευνητές δήλωσαν:

«Η θολή γραμμή μεταξύ αυθεντικού ανθρώπινου και συνθετικού περιεχομένου που δημιουργείται από AI στην πλατφόρμα σηματοδοτεί μια νέα στροφή προς περισσότερο περιεχόμενο που δημιουργείται από AI στις ροές των χρηστών.»

Μπορεί η Αυθεντικότητα να Επιβιώσει από την Αυτοματοποίηση;

Κάποτε γεμάτα με πραγματική δραστηριότητα, όπου φίλοι συναθροίζονταν και μοιράζονταν ειδικές στιγμές, τα κοινωνικά δίκτυα τώρα γίνονται πόλεις-φαντάσματα, κατοικούμενες από τεχνητές οντότητες που προσομοιώνουν ανθρώπινη συμμετοχή και δημοσιεύουν περιεχόμενο που δημιουργείται από AI.

Ενώ μπορεί να νομίζετε ότι μπορείτε απλά να αποκλείσετε αυτούς τους χρήστες και το περιεχόμενο, μια μελέτη διαπίστωσε¹ ότι οι άνθρωποι δεν μπορούν να διακρίνουν την AI από έναν άνθρωπο, ακόμα και όταν είναι εξοικειωμένοι με το θέμα του LLM.

Η μελέτη αξιολόγησε πόσο επιτυχώς οι άνθρωποι ανιχνεύουν περιεχόμενο που δημιουργείται από AI και διαπίστωσε ότι το ανθρώπινο κείμενο αναγνωρίστηκε με ακρίβεια ως τέτοιο μόνο το 67% του χρόνου, ενώ το GPT-4 ανιχνεύτηκε εσφαλμένα ως ανθρώπινο το 54% του χρόνου.

Σύμφωνα με τον Mosseri του Instagram, οι κοινωνικές πλατφόρμες θα γίνουν μόνο χειρότερες στην αναγνώριση μέσων που δημιουργούνται από AI με το πέρασμα του χρόνου, καθώς η τεχνολογία βελτιώνεται. Μια λύση θα μπορούσε να είναι οι εταιρείες φωτογραφικών μηχανών να υπογράφουν κρυπτογραφικά φωτογραφίες όταν τραβώνται για να αποδείξουν ότι είναι πραγματικές.

Η λύση για τον μετριασμό της δύναμης των bot, σύμφωνα με τον Ohanian, είναι να δούμε «μια νέα γενιά κοινωνικών μέσων να αναδύεται που είναι επαληθεύσιμα ανθρώπινη».

Ενώ οι εξελίξεις στην τεχνολογία έχουν το μεγαλύτερο μέρος του διαδικτύου βελτιστοποιημένο για συμμετοχή, το οποίο ο Best συνέκρινε με «εθισμό στα ναρκωτικά», και πιστεύει «θα ενισχυθεί πολύ», εξακολουθεί να είναι αισιόδοξος για ένα εναλλακτικό μέλλον.

«Ο άλλος σκοπός των μέσων είναι ο πολιτισμός», πρόσθεσε, «Αυτό είναι κάτι που οι άνθρωποι πραγματικά, πραγματικά θέλουν επίσης».

Σύμφωνα με τον Best της Substack, αυτή η ίδια τεχνολογία έχει τη δυνατότητα να επιτρέψει ένα «μέλλον όπου υπάρχει πολύ μεγαλύτερη δημιουργική μόχλευση» για ανεξάρτητους δημιουργούς. Το πραγματικό μποτιλιάρισμα για τα μέσα, σημείωσε, δεν είναι το περιεχόμενο, από το οποίο «δεν υπάρχει έλλειψη», αλλά η προσοχή. «Μπήκαμε σε έναν κόσμο όπου η προσοχή είναι ο σπάνιος πόρος», είπε.

«Κερδίσαμε τον πόλεμο κατά της πλήξης», είπε ο Best, προσθέτοντας ότι «υπάρχει τεράστια έλλειψη καλού περιεχομένου».

Εν μέσω αυτού, η Wikimedia Deutschland ξεκίνησε το Wikidata Embedding Project, το οποίο μετέτρεπε περίπου 120 εκατομμύρια ανοιχτά σημεία δεδομένων στο Wikidata σε μια μορφή πιο εύκολη για τα LLM να χρησιμοποιήσουν, βοηθώντας τα συστήματα AI να έχουν πρόσβαση σε δεδομένα υψηλότερης ποιότητας δωρεάν και να βελτιώσουν την ακρίβειά τους.

Κανονισμοί, Έρευνα και ο Αγώνας για την Εμπιστοσύνη

Καθώς η AI καταλαμβάνει το διαδίκτυο, οι ερευνητές έχουν στραφεί στην κατανόηση της επίπτωσής της. Μια τέτοια μελέτη, με τίτλο Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² εξέτασε πώς η βοήθεια της AI επηρεάζει την παραγωγή περιεχομένου και τις αντιλήψεις των χρηστών και διαπίστωσε ότι τα εργαλεία AI είναι ωφέλιμα στην αύξηση του όγκου περιεχομένου και της συμμετοχής αλλά μειώνουν την αντιληπτή ποιότητα και αυθεντικότητα.

Βασισμένοι στα ευρήματά τους, συνέστησαν ότι οι πλατφόρμες κοινωνικών μέσων, οι υπεύθυνοι χάραξης πολιτικής και οι ενδιαφερόμενοι να σχεδιάσουν εργαλεία με εξατομίκευση εστιασμένη στον χρήστη, ενσωματώνοντας ευαισθησία στο πλαίσιο, και να δώσουν προτεραιότητα σε διαισθητικά περιβάλλοντα χρήστη για μια ηθική και αποτελεσματική ενσωμάτωση της γενετικής AI στα κοινωνικά μέσα.

Οι ερευνητές συνέστησαν επίσης να διασφαλιστεί η διαφανής αποκάλυψη περιεχομένου που δημιουργείται από AI, καθώς άλλες Studien³ haben διαπιστώσει⁴ ότι αυτό βελτιώνει την εμπιστοσύνη χωρίς να βλάπτει τη συμμετοχή.

Όσον αφορά τους κανονισμούς, κυβερνήσεις σε όλο τον κόσμο έχουν λάβει επίσης μέτρα για την προώθηση και ρύθμιση της υπεύθυνης χρήσης της τεχνητής νοημοσύνης.

Στην Ευρωπαϊκή Ένωση (ΕΕ), ο KI-Gesetz εστιάζει στη διαφάνεια, την ταξινόμηση κινδύνου και τις υποχρεώσεις για συστήματα υψηλού κινδύνου.

Ο Online Safety Act (OSA), εν τω μεταξύ, έχει δώσει στον ρυθμιστή επικοινωνιών Ofcom ευρεία εξουσία να απαιτεί από τις πλατφόρμες να διαχειρίζονται επιβλαβές ή παραπλανητικό περιεχόμενο στο Ηνωμένο Βασίλειο, αν και οι υπεύθυνοι χάραξης πολιτικής έχουν ζητήσει μια αναβάθμιση για να αντιμετωπίσουν πιο αποτελεσματικά την παραπληροφόρηση που προωθείται από AI.

Στις ΗΠΑ, ο Πρόεδρος Donald Trump έχει εκδώσει μια Προεδρικό Διάταγμα για την κατάργηση των εμποδίων στην ηγεσία της Αμερικής στην AI και δημοσίευσε ένα σχέδιο δράσης για να εξασφαλίσει την κυριαρχία της στον τομέα. Ξανά, τον περασμένο μήνα, διέταξε ένα εθνικό πρότυπο που επιτρέπει σε εταιρείες AI να καινοτομούν χωρίς δυσκίνητους κανονισμούς.

Εν τω μεταξύ, η Κίνα

Sbposts__content/button_label:Το πλαίσιο της Κίνας είναι ένα από τα πιο λεπτομερή παγκοσμίως στη ρύθμιση της δημιουργίας και διανομής περιεχομένου ΤΝ. Ο Διαχειριστής του Κυβερνοχώρου της έχει anwenden υποχρεωτική επισήμανση για περιεχόμενο που δημιουργείται από ΤΝ, απαιτώντας ορατές αποποιήσεις και ενσωματωμένα μεταδεδομένα για την αποφυγή παραπληροφόρησης και απάτης.

Μερικές κυβερνήσεις προωθούν επίσης εξετάσεις σε πλατφόρμες σχετικά με παραπληροφόρηση που δημιουργείται από ΤΝ. Πρόσφατα, η Πολωνία κάλεσε την Ευρωπαϊκή Επιτροπή να διερευνήσει το TikTok για τη φιλοξενία περιεχομένου ΤΝ που θεωρεί αποσταθεροποιητικό.

«Το αποκαλυφθέν περιεχόμενο αποτελεί απειλή για τη δημόσια τάξη, την ασφάλεια της πληροφόρησης και την ακεραιότητα των δημοκρατικών διαδικασιών στην Πολωνία και σε όλη την Ευρωπαϊκή Ένωση», δήλωσε ο Αναπληρωτής Υπουργός Ψηφιοποίησης Dariusz Standerski σε επιστολή που απέστειλε στην Επιτροπή. «Η φύση των αφηγημάτων, ο τρόπος με τον οποίο διανέμονται και η χρήση συνθετικών οπτικοακουστικών υλικών δείχνουν ότι η πλατφόρμα δεν συμμορφώνεται με τις υποχρεώσεις που της επιβάλλονται», πρόσθεσε.

Προς το παρόν, το πολιτικό τοπίο για την ΤΝ παραμένει ένα αναδυόμενο ζήτητα παγκοσμίως, κατακερματισμένο ανάμεσα σε δικαιοδοσίες και αγωνίζεται να συμβαδίσει με την ταχύτητα με την οποία τα γενεσιουργή συστήματα ανασχηματίζουν τις ροές πληροφοριών, τη δημόσια εμπιστοσύνη και τον δημοκρατικό διάλογο.

Επενδύοντας σε Υποδομή ΤΝ

Στον κόσμο της ΤΝ, η Palantir Technologies Inc. (PLTR + 0.26%) ξεχωρίζει για την εξειδίκευσή της στην ανάλυση μεγάλων δεδομένων με ΤΝ.

Έχει δημιουργήσει τέσσερις κύριες πλατφόρμες λογισμικού, συμπεριλαμβανομένων των Apollo, Gotham, Foundry και Artificial Intelligence Platform (AIP). Το Apollo είναι ένα στρώμα ελέγχου που εναρμονίζει την παράδοση νέων λειτουργιών, ρυθμίσεων και ενημερώσεων ασφαλείας για να διασφαλίζει τη συνεχή λειτουργία κρίσιμων συστημάτων. Το Gotham βοηθά στον εντοπισμό μοτίβων εντός συνόλων δεδομένων και το Foundry βοηθά οργανισμούς να δημιουργήσουν ένα κεντρικό λειτουργικό σύστημα για τα δεδομένα τους. Το AIP επιτρέπει την αποτελεσματική ενεργοποίηση μεγάλων γλωσσικών μοντέλων και άλλων ΤΝ εντός οποιουδήποτε οργανισμού.

Αξιοσημείωτο είναι ότι οι πλατφόρμες της Palantir χρησιμοποιούνται από κυβερνήσεις και ιδιωτικές επιχειρήσεις για την ανίχνευση παραπληροφόρησης, δικτύων bot και διανομής συνθετικών μέσων. Αυτά τα εργαλεία είναι κατασκευασμένα για τον εντοπισμό αυθεντικής έναντι μη αυθεντικής συμπεριφοράς σε πολύπλοκα οικοσυστήματα πληροφοριών.

Επιπλέον, η αναλυτική ΤΝ χρησιμοποιείται όλο και περισσότερο από οργανισμούς και κυβερνήσεις για την παρακολούθηση απειλών για την υγεία και την ασφάλεια. Με κεφαλαιοποίηση αγοράς 400 δισεκατομμυρίων δολαρίων, οι μετοχές PLTR πωλούνται επί του παρόντος στα 174 δολάρια, με άνοδο πάνω από 110% το τελευταίο έτος. Έχει κέρδος ανά μετοχή (TTM) 0,43 και λόγο Τ/Κ (TTM) 392,56.

Όσον αφορά τη χρηματοοικονομική της θέση, η Palantir ανακοίνωσε έσοδα 1,181 δισεκατομμυρίων δολαρίων για το τρίτο τρίμηνο που έληξε στις 30 Σεπτεμβρίου 2025, αντιπροσωπεύοντας αύξηση 63% ετησίως και 18% τριμηνιαία, επιτυγχάνοντας ένα νέο ρεκόρ εσόδων στην ιστορία της πάνω από είκοσι χρόνια. Το κέρδος της για το τρίμηνο ήταν 476 εκατομμύρια δολάρια.

«Βρισκόμαστε ακόμα στην αρχή των πραγμάτων. Αυτό παραμένει η αρχή, η πρώτη στιγμή του πρώτου κεφαλαίου.»

– Ο συνιδρυτής και Διευθύνων Σύμβουλος Alex C. Karp, σε Brief an die Aktionäre

Τα έσοδά της στις ΗΠΑ, ειδικότερα, αυξήθηκαν 77% ετησίως και 20% τριμηνιαία στα 883 εκατομμύρια δολάρια. Αυτό περιλαμβάνει έσοδα 486 εκατομμυρίων δολαρίων από την αμερικανική κυβέρνηση, που πήδηκαν 52% ετησίως και 14% τριμηνιαία, και έσοδα 397 εκατομμυρίων δολαρίων από εμπορικές δραστηριότητες στις ΗΠΑ, που εκτινάχτηκαν 121% ετησίως και 29% τριμηνιαία. Ο Karp αποκάλεσε το εμπορικό τμήμα στις ΗΠΑ «ένα απόλυτο τζάγκερναουτ» που πιστεύει «θα γίνει, από μόνο του, μία από τις πιο σημαντικές επιχειρηματικές ιστορίες του αιώνα στην αμερικανική οικονομική ζωή».

Κατά τη διάρκεια αυτής της περιόδου, ο αριθμός πελατών της Palantir αυξήθηκε 45% ετησίως. Εν τω μεταξύ, το προσαρμοσμένο ελεύθερο ταμειακό της ρεύμα ήταν 540 εκατομμύρια δολάρια, τα κέρδη ανά μετοχή σύμφωνα με τα GAAP ήταν 0,18 δολάρια και τα προσαρμοσμένα κέρδη ανά μετοχή ήταν 0,21 δολάρια. Τερμάτισε το τρίμηνο με 6,4 δισεκατομμύρια δολάρια σε μετρητά, ισοδύναμα μετρητών και βραχυπρόθεσμα τίτλους του αμερικανικού δημοσίου.

«Αυτά τα αποτελέσματα καθιστούν αναμφισβήτητη τη μετασχηματιστική επίδραση της χρήσης του AIP για τον συνδυασμό της μόχλευσης της ΤΝ», σημείωσε η εταιρεία.

Για το τέταρτο τρίμηνο του 2025, η Palantir αναμένει έσοδα μεταξύ 1,327 και 1,331 δισεκατομμυρίων δολαρίων και προσαρμοσμένο εισόδημα από λειτουργίες μεταξύ 695 και 699 εκατομμυρίων δολαρίων.

Όσον αφορά ολόκληρο το έτος 2025, η Palantir αναβάθμισε τον προϋπολογισμό εσόδων της στα 4,396-4,400 δισεκατομμύρια δολάρια και προβλέπει τουλάχιστον 104% αύξηση στα εμπορικά έσοδα στις ΗΠΑ για να ξεπεράσει το 1,433 δισεκατομμύριο δολάρια. Εν τω μεταξύ, ο προϋπολογισμός για το προσαρμοσμένο εισόδημα από λειτουργίες έχει αυξηθεί στα 2,151-2,155 δισεκατομμύρια δολάρια και ο προϋπολογισμός για το προσαρμοσμένο ελεύθερο ταμειακό ρεύμα στα 1,9-2,1 δισεκατομμύρια δολάρια.

Τελευταία Νέα για Μετοχή Palantir Technologies Inc. (PLTR)

Fazit

Τα κοινωνικά δίκτυα

Sbposts__content/button_label:

תוכן בינה מלאכותית נמצא בכל מקום, דוחק החוצה תוכן אנושי אותנטי והופך לחלוטין את נוף המדיה החברתית. השפעתו התרחבה כעת מעבר לפלטפורמות כדי להשפיע על הזירה הפוליטית, האינטרנט הרחב יותר, ואפילו הכלכלה הגלובלית.

אז, האם זה אומר שהמדיה החברתית מתקרבת למותה? ובכן, בואו נגלה.

מחיבור אנושי לפידים סינתטיים

לפני כארבעה עשורים בערך צצו לראשונה צורות מוקדמות של אינטראקציה חברתית מקוונת, שהחלו עם מערכות לוח מודעות (BBS), Usenet, ופורומים מוקדמים בסוף שנות ה-70 וה-80. עם זאת, פלטפורמות הרשתות החברתיות המוכרות הראשונות לא הופיעו עד אמצע-סוף שנות ה-90, והניחו את היסודות למה שיהפוך מאוחר יותר למדיה החברתית המודרנית.

תחילת המאה ה-21 סימנה את הפופולריות הנרחבת של המדיה החברתית עם אתרים כמו Friendster, MySpace, ו-Facebook. העידן המודרני הזה של מדיה חברתית איפשר חיבור גלובלי מיידי, ואיפשר לאנשים לשמר מערכות יחסים, לגשת לחדשות בזמן אמת, ולבנות קהילות סביב תחומי עניין משותפים.

אבל עכשיו, רק כמה עשורים לאחר מכן, פניה של המדיה החברתית משתנים עם התפשטות תוכן הבינה המלאכותית.

באופן מסורתי, הערכים הליבה של sozialen Medien היו חיבור וביטוי, אך אלה הוחלפו בייצור המוני אוטומטי. כאשר הפידים של אנשים נשלטים על ידי רעש סינתטי, ניתוק וחוסר אמון בקרב ההמונים גדלים במהירות.

לפי הדירקטור הבכיר של Instagram, רשת מסודרת בקפידה היא כעת נחלת העבר.

בהודעה ב-Threads, ראש Instagram אדם מוסרי הזהיר כי עליית הבינה המלאכותית הרגה את האסתטיקה המלוטשת של אתר המדיה החברתית. כל האיפור, החלקת העור, הנופים היפים, והצילום בעל הניגודיות הגבוהה הם כעת “מתים”, מכיוון ש”אנשים הפסיקו במידה רבה לשתף רגעים אישיים לפיד לפני שנים”, אמר.

במקום זאת, תמונות ספונטניות לא מלוטשות, “לא מחמיאות”, משותפות באמצעות הודעות ישירות.

הנוכחות המכרעת של תמונות בינה מלאכותית משמעה שיוצרים נאלצים לסטות מרשתות מתוכננות וצילום בסגנון מקצועי ל”אסתטיקה גולמית יותר”, כאשר אנשים רוצים “תוכן שמרגיש אמיתי” ולא דימויים מחמיאים, שהם “זולים לייצור ומשעממים לצריכה”.

בקרוב, נראה את הבשלת כלי הבינה המלאכותית ועם זאת את הרחבת טווח האסתטיקה שהם יכולים לייצר, אמר מוסרי, תוך שהוא מציין שכבר, פידים של מדיה חברתית מתחילים להתמלא ב”הכל סינתטי”, מה שאומר שפלטפורמות צריכות להתפתח כדי להתמודד עם שטף התוכן שנוצר על ידי בינה מלאכותית.

בינתיים, המייסד-השותף והמנכ”ל של Substack, כריס בסט, אמר בסוף השנה שעברה ש”זבל” שנוצר על ידי בינה מלאכותית עלול להציף את האינטרנט, מה ש”ממשיך לגרום לאנשים טיפשים ללחוץ”.

“Slop” נבחר כמילת השנה לשנת 2025 על ידי המילון האמריקאי Merriam-Webster, שמגדיר אותה כ”תוכן דיגיטלי באיכות נמוכה שמיוצר, בדרך כלל בכמות, באמצעות בינה מלאכותית”.

עליית האינטרנט של הבוטים

החלק כדי לגלול →

נתונים מראים שכמעט שליש מכל תעבורת האינטרנט מגיעה מבוטים, תוכנות אוטומטיות המחקות התנהגות אנושית.

זה הוביל לעליית תיאוריית האינטרנט המת, הגורסת שהאינטרנט מורכב בעיקר מפעילות בוטים ותוכן שנוצר אלגוריתמית שנועד לשלוט באוכלוסייה הגלובלית.

Reddit (RDDT + 2.76%) המייסד-השותף אלקסיס אוהניאן מאמין שיש אמת מסוימת ברעיון, ועידן חדש של מדיה חברתית יצמח בגללו. “להיות עם הוכחת חיים, כמו צופים בשידור חי ותוכן חי, זה ממש פאקינג יקר ערך כדי להחזיק תשומת לב,” הוא אמר בפודקאסט.

מייסד ומנכ”ל OpenAI סם אלטמן חלק השקפה דומה ב-X בשנה שעברה, כשפרסם:

“לעולם לא לקחתי את תיאוריית האינטרנט המת ברצינות רבה מדי, אבל נראה שיש עכשיו באמת הרבה חשבונות טוויטר שמנוהלים על ידי מודלי שפה גדולים.”

פעילות בוטים ב-X (לשעבר טוויטר) למעשה מחמירה. מעריכים שכ-10% מחשבונות X הם בוטים, בסך הכל מיליוני משתמשים.

בינתיים, נמצא שיותר מ-20% מהסרטונים שאלגוריתם של YouTube מציג למשתמשים חדשים הם “בוץ AI”.

למעשה, מבין 15,000 הערוצים הפופולריים ביותר ב-YouTube שנסקרו, 278 מכילים רק תוכן שנוצר על ידי AI, ויחד הם צברו 221 מיליון מנויים ויותר מ-63 מיליארד צפיות, ומניבים הכנסה של כ-117 מיליון דולר בשנה.

זה לא מוגבל לפלטפורמה אחת או למספר קטן של פלטפורמות; זה נכון לגבי כל האינטרנט.

כפי שציין דו”ח הבוטים הרעים של Imperva לשנת 2025, תעבורה אוטומטית עקפה את תעבורת האנושית, והיא מהווה 51% מכל תעבורת האינטרנט, כש-20% מתוכה מגיעים מ”בוטים רעים” העוסקים בפעילות זדונית.

לפני כמה חודשים, מרשל מילר, המנהל הבכיר למוצר בקרן ויקימדיה, המלכ”ר שמפעיל את ויקיפדיה, גם ציין שתעבורת האנושיים באתר ירדה בכ-8% כשאנשים משנים את האופן שבו הם מחפשים מידע באינטרנט.

הירידה נחשפה לאחר שהקרן שינתה את האופן שבו היא מבדילה בין תעבורת אנושיים לתעבורת בוטים כדי להבין טוב יותר את קהל הקוראים האמיתי ולהגביל בוטים של צד שלישי שגורסים את הנתונים שלה עבור כלי חיפוש מסחריים וכלי AI.

“אנו מאמינים שהירידות הללו משקפות את ההשפעה של AI גנרטיבי ומדיה חברתית על האופן שבו אנשים מחפשים מידע, במיוחד כשמנועי חיפוש מספקים תשובות ישירות למחפשים, לעתים קרובות על בסיס תוכן מויקיפדיה,” כתב מילר, והוסיף שזה לא ממש הפתעה מכיוון שמנועי חיפוש משתמשים יותר ויותר ב-AI כדי להציג תשובות ישירות בדפי תוצאות ומשתמשים צעירים יותר פונים ל-TikTok ול-YouTube.

אבל זה אומר שהקהילה שכותבת ועורכת את תוכן ויקיפדיה עלולה להתכווץ. ככזה, הפלטפורמה קוראת למנועי חיפוש, פלטפורמות חברתיות, מודלי שפה גדולים וצ’אטבוטים של AI לעזור להניע יותר תעבורה בחזרה לאתר.

כיצד פלטפורמות מדיה חברתית מגבירות תוכן AI

פלטפורמות מדיה חברתית הוצפו בתוכן שנוצר על ידי AI הודות לצמיחה מתפוצצת באקוסיסטם של כלים גנרטיביים.

למשל, כלים כמו Sora, Midjourney, Pika, Runway, ו-Stable Diffusion הפכו את יצירת תמונות וסרטונים של כמעט כל דבר לקלה ביותר.

מספר הולך וגדל של פתרונות אפילו מקל על אנשים להגביר צפיות ולממון תוכניות תגמול ליוצרים או קישורי שותפים. הם לא רק מייצרים אוטומטית אלא גם מפרסמים תוכן ישירות לפלטפורמות כמו YouTube, תמורת תשלום, ומבצעים יותר מ-100 סרטונים בחודש בחשבון בודד. פתרונות אלה שואפים להפוך את התהליך המלא של להיות יוצר תוכן לאוטומטי.

אבל זה לא הכל. חוקרים גילו שלמעשה פלטפורמות הגבירו פוסטים שנוצרו על ידי AI. פלטפורמות כמו TikTok, Instagram, ו-Meta (META + 1.69%) אפילו מציעות תכונות AI מובנות המאפשרות למשתמשים ליצור ויזואלים, תסריטים, או לערבב מחדש מדיה קיימת ללא תוכנה חיצונית.

Meta, בפרט, אימצה תוכן שנוצר על ידי AI במלוא המרץ, ואפילו יצרה בוץ משלה. ב-2023, החברה הציגה פרופילים מונעי AI והודיעה על תוכניות ליישב את הפלטפורמה שלה בדמויות AI. אבל לאחר שספגה תגובה נגדית משמעותית ממשתמשים, Meta חיסלה את הפרופילים המונעים ב-AI בשנה שעברה.

Instagram, בינתיים, השיקה סטודיו AI המאפשר למשתמשים לייצר צ’אטבוטים מותאמים אישית, כולל גרסאות דיגיטליות משלהם.

לאחרונה, TikTok חשפה שהיו לפחות 1.3 מיליארד פוסטים שנוצרו על ידי AI בפלטפורמה שלה, עם יותר מ-100 מיליון פריטי תוכן שהועלו כל יום. למען שקיפות, TikTok מתייגת תוכן שנוצר על ידי AI ואפילו נותנת למשתמשים את האפשרות להפחית את כמות תוכן ה-AI שהם רואים.

אבל AI Forensics, ארגון מחקר פריזאי ללא מטרות רווח המתמחה בניתוח מערכות AI, מצא שהתיוג של TikTok לא אמין במיוחד. בדו”ח שפורסם ביוני, הארגון ניתח 100 סרטונים פופולריים שטוענים שהם נוצרו על ידי AI ומצא שרק 41% מתויגים כראוי. יתרה מכך, 13% מהסרטונים שנוצרו על ידי AI לא תויגו כלל, בעוד ש-46% מהסרטונים שתויגו כ-AI נוצרו למעשה על ידי בני אדם.

ההשפעה על יוצרי תוכן אנושיים

העלייה בתוכן AI משפיעה באופן בלתי נמנע על יוצרי תוכן אנושיים, במיוחד קטנים ובינוניים, שמתקשים להתחרות בנפח ובקצב של מכונות.

יוצרים רבים מדווחים על ירידה בהכנסות, צפיות ואינטראקציה. חלקם אפילו נאלצו לנטוש את הקריירה שלהם בגלל חוסר היכולת להתחרות.

“זה הופך להיות בלתי אפשרי כמעט לצמוח כערוץ קטן,” אמר יוצר תוכן אחד ל-Securities.io. “האלגוריתם מעדיף כעת תוכן שנוצר על ידי AI שיכול לשאוב סרטונים בקצב של כמה ביום, בעוד שבני אדם צריכים זמן ליצור משהו איכותי.”

המצב חמור במיוחד בפלטפורמות כמו YouTube, שם תוכניות השותפים הפכו למקור הכנסה חיוני ליוצרים רבים. עם יותר תוכן AI שמציף את הפלטפורמה, הסיכוי של סרטון אנושי להופיע בתוצאות חיפוש או להמליצות יורד.

העתיד של תוכן באינטרנט

ככל שטכנולוגיית AI ממשיכה להשתפר ולהפוך לנגישה יותר, כמות התוכן שנוצר על ידי AI באינטרנט צפויה רק לגדול.

מומחים מאמינים שאנחנו נמצאים רק בתחילתו של שינוי גדול באופן שבו תוכן נוצר ונצרך באינטרנט.

“אנחנו עומדים בפני עתיד שבו רוב התוכן שאנחנו נתקלים בו באינטרנט יהיה תוצר של מכונות,” אמר חוקר AI. “השאלה היא לא אם זה יקרה, אלא איך אנחנו מתאימים את עצמנו לעולם הזה.”

חלקם מציעים שפתרונות אפשריים יכולים לכלול תיוג טוב יותר של תוכן AI, אלגוריתמים שמעדיפים תוכן אנושי מאומת, וחינוך משתמשים לזהות תוכן שנוצר על ידי מכונה.

עם זאת, אחרים פחות אופטימיים, ומאמינים שהמגמה לעבר אינטרנט שמנוהל על ידי AI היא בלתי נמנעת.

“האינטרנט כפי שהכרנו אותו – מקום של חיבורים אנושיים, יצירתיות וביטוי אישי – הולך ונעלם,” הזהיר סוציולוג דיגיטלי. “אנחנו מחליפים אותו בגרסה מכנית, מנוהלת אלגוריתמית שנועדה יותר לשלוט ולנצל מאשר להעצים ולחבר.”

ככל שהקו בין תוכן אנושי למכונה הולך ומטשטש, האתגר עבור משתמשי אינטרנט יהיה לנווט בעולם דיגיטלי שבו זה יכול להיות קשה יותר ויותר לדעת מה אמיתי ומה מלאכותי.דוח של NewsGuard, ארגון ללא מטרות רווח, מצא שפחות מ-2% מהחשבונות נשאו את התווית של TikTok לתוכן AI. לעיתים, הם גם חמקו מהמודרציה של הפלטפורמה במשך חודשים, למרות שפרסמו תוכן האסור לפי תנאי השירות של TikTok.

לפי הדוח, יותר מ-350 חשבונות המתמקדים ב-AI דחפו 43,000 פוסטים שנוצרו בעזרת כלי AI גנרטיבי, וצברו 4.5 מיליארד צפיות במהלך תקופה של חודש. החוקרים אמרו:

“הקו המטשטש בין תוכן אנושי אותנטי לתוכן סינתטי שנוצר ב-AI בפלטפורמה מסמן פנייה חדשה לכיוון יותר תוכן שנוצר ב-AI בהזנות המשתמשים.”

האם אותנטיות יכולה לשרוד את האוטומציה?

רשתות חברתיות, שבעבר רחשו פעילות אמיתית, שם חברים נאספו ושיתפו רגעים מיוחדים, הופכות כעת לערי רפאים, מאוכלסות בישויות מלאכותיות המדמות מעורבות אנושית ומפרסמות תוכן שנוצר ב-AI.

בעוד שאתם עשויים לחשוב שאפשר פשוט לחסום את אותם משתמשים ותוכן, מחקר מצא¹ שאנשים לא יכולים להבחין בין AI לבין אדם, אפילו כשהם מכירים את נושא ה-LLM.

המחקר העריך עד כמה בהצלחה בני אדם מגלים תוכן שנוצר ב-AI ומצא שטקסט אנושי זוהה במדויק ככזה רק 67% מהפעמים, בעוד ש-GPT-4 זוהה באופן לא מדויק כאנושי 54% מהפעמים.

לפי מוסרי מ-Instagram, פלטפורמות חברתיות רק יהפכו גרועות יותר בזיהוי מדיה שנוצרה ב-AI עם הזמן, ככל שהטכנולוגיה תשתפר. פתרון אחד יכול להיות שחברות מצלמות יחתמו על תמונות באופן קריפטוגרפי כשהן נלקחות כדי להוכיח שהן אמיתיות.

הפתרון להפחתת כוחם של הבוטים, לפי אוהניאן, הוא לראות “דור חדש של מדיה חברתית שצומח וניתן לאמת שהוא אנושי”.

בעוד שהתקדמות הטכנולוגיה גרמה לרוב האינטרנט להיות מותאם למעורבות, שביסט השווה ל”התמכרות לסמים”, ומאמין ש”זה הולך לקבל תאוצה”, הוא עדיין אופטימי לגבי עתיד חלופי.

“המטרה האחרת של מדיה היא תרבות”, הוסיף, “זה משהו שאנשים באמת, באמת רוצים גם כן”.

לפי בסט מ-Substack, לאותה טכנולוגיה בדיוק יש הפוטנציאל לאפשר “עתיד שבו יש הרבה יותר מנוף יצירתי” ליוצרים עצמאיים. הצוואר הבקבוק האמיתי עבור מדיה, הוא ציין, אינו תוכן, ש”אין בו מחסור”, אלא תשומת לב. “נכנסנו לעולם שבו תשומת לב היא המשאב הנדיר”, אמר.

“ניצחנו במלחמה נגד השעמום”, אמר בסט, והוסיף ש”יש מחסור עצום בתוכן טוב”.

בתוך כל זה, Wikimedia Deutschland השיקה את Wikidata Embedding Project, שהמיר כ-120 מיליון נקודות נתונים פתוחות ב-Wikidata לפורמט קל יותר לשימוש על ידי LLMs, ועוזר למערכות AI לגשת לנתונים באיכות גבוהה יותר בחינם ולשפר את הדיוק שלהן.

רגולציה, מחקר והמאבק על האמון

כש-AI משתלט על האינטרנט, חוקרים החלו להבין את השפעתו. מחקר אחד כזה, בשם Der Einfluss generativer KI auf soziale Medien: Eine experimentelle Studie² בחן כיצד סיוע AI משפיע על ייצור תוכן ותפיסות משתמשים ומצא שכלי AI מועילים בהגדלת נפח התוכן והמעורבות אך מפחיתים את התפיסה של איכות ואותנטיות.

על בסיס ממצאיהם, הם המליצו שפלטפורמות מדיה חברתית, קובעי מדיניות ובעלי עניין יתכננו כלים עם התאמה אישית ממוקדת משתמש, שיכללו רגישות להקשר, ויתעדפו ממשקי משתמש אינטואיטיביים לשילוב אתי ויעיל של AI גנרטיבי במדיה חברתית.

החוקרים גם המליצו להבטיח גילוי שקוף של תוכן שנוצר ב-AI, מכיוון שStudien³ Hebräisch gefunden⁴ שזה משפר אמון מבלי לפגוע במעורבות.

כשמדובר ברגולציות, גם ממשלות ברחבי העולם נקטו צעדים לקדם ולפקח על השימוש האחראי בבינה מלאכותית.

באיחוד האירופי (EU), חוק ה-AI מתמקד בשקיפות, סיווג סיכונים וחובות למערכות בסיכון גבוה.

חוק הבטיחות המקוונת (OSA), בינתיים, נתן לרגולטור התקשורת Ofcom סמכות רחבה לדרוש מפלטפורמות לנהל תוכן מזיק או מטעה בבריטניה, אם כי קובעי מדיניות קראו לשדרוג כדי להתמודד ביעילות רבה יותר עם דיסאינפורמציה המונעת על ידי AI.

בארה”ב, הנשיא דונלד טראמפ הוציא צו נשיאותי להסרת חסמים למנהיגות אמריקה ב-AI ופרסם תוכנית פעולה להבטחת הדומיננטיות שלה בתחום. מצד שני, בחודש שעבר, הוא הורה על תקן לאומי שמאפשר לחברות AI לחדש ללא רגולציות מסורבלות.

בינתיים, סין?

Sbposts__content/button_label:??s המסגרת הייתה אחת המפורטות ביותר בעולם בוויסות יצירה והפצה של תוכן בינה מלאכותית. המינהל הקיברנטי שלה יישם סימון חובה לתוכן שנוצר על ידי בינה מלאכותית, הדורש הצהרות גלויות לעין ומטא-דטה משובץ כדי להימנע ממידע מוטעה והונאה.

ממשלות מסוימות גם דוחפות לחקירות נגד פלטפורמות בנוגע לדיסאינפורמציה שנוצרה על ידי בינה מלאכותית. לאחרונה, פולין דרשה מהנציבות האירופית לחקור את TikTok על כך שאירחה תוכן בינה מלאכותית שהיא ראתה כמערער סדר.

“התוכן שפורסם מהווה איום על הסדר הציבורי, ביטחון המידע ושלמות התהליכים הדמוקרטיים בפולין ובכל רחבי האיחוד האירופי,” אמר סגן שר הדיגיטציה דריוש סטנדרסקי במכתב שנשלח לנציבות. “אופי הנרטיבים, האופן שבו הם מופצים והשימוש בחומרים אודיו-ויזואליים סינתטיים מצביעים על כך שהפלטפורמה אינה עומדת בחובות שהוטלו עליה,” הוסיף.

לעת עתה, נוף המדיניות עבור בינה מלאכותית נותר סוגיה מתפתחת ברחבי העולם, מקוטעת בין תחומי שיפוט ונאבקת לעמוד בקצב שבו מערכות גנרטיביות מעצבות מחדש את זרימת המידע, האמון הציבורי והשיח הדמוקרטי.

השקעה בתשתית בינה מלאכותית

בעולם הבינה המלאכותית, Palantir Technologies Inc. (PLTR + 0.26%) בולטת בהתמחותה בניתוח נתוני עתק (ביג דאטה) מונחה בינה מלאכותית.

היא בנתה ארבע פלטפורמות תוכנה עיקריות, כולל Apollo, Gotham, Foundry ו-Artificial Intelligence Platform (AIP). Apollo היא שכבת בקרה שמתאמת את אספקת התכונות החדשות, התצורות ועדכוני האבטחה כדי להבטיח את הפעולה הרציפה של מערכות קריטיות. Gotham עוזרת לזהות דפוסים בתוך מערכי נתונים, ו-Foundry עוזרת לארגונים ליצור מערכת הפעלה מרכזית לנתונים שלהם. AIP מאפשרת הפעלה אפקטיבית של מודלי שפה גדולים ובינה מלאכותית אחרת בתוך כל ארגון.

יש לציין כי הפלטפורמות של Palantir משמשות ממשלות וחברות פרטיות כדי לזהות מידע מוטעה, רשתות בוטים והפצת מדיה סינתטית. כלים אלה בנויים לזיהוי התנהגות אותנטית לעומת לא אותנטית על פני מערכי מידע מורכבים.

יתר על כן, ניתוחי בינה מלאכותית משמשים יותר ויותר על ידי ארגונים וממשלות כדי לפקח על איומים על בריאות ובטיחות. עם שווי שוק של 400 מיליארד דולר, מניות PLTR נסחרות כעת ב-174 דולר, עלייה של למעלה מ-110% בשנה האחרונה. יש לה רווח למניה (TTM) של 0.43 ומכפיל רווח (P/E TTM) של 392.56.

באשר למצבה הפיננסי, Palantir הודיעה על הכנסות של 1.181 מיליארד דולר לרבעון השלישי שהסתיים ב-30 בספטמבר 2025, המייצגות צמיחה של 63% לעומת השנה הקודמת וצמיחה של 18% ברבעון, והשגת שיא הכנסות חדש בתולדותיה של למעלה מעשרים שנה. הרווח שלה לרבעון היה 476 מיליון דולר.

“אנחנו עדיין ממש בהתחלה. זה נותר ההתחלה, הרגע הראשון של הפרק הראשון.”

– המייסד השותף והמנכ”ל אלכס סי. קארפ, במכתב לבעלי המניות

הכנסותיה בארה”ב, בפרט, גדלו ב-77% לעומת השנה הקודמת וב-20% ברבעון ל-883 מיליון דולר. זה כולל 486 מיליון דולר בהכנסות ממשלת ארה”ב, שקפצו ב-52% לעומת השנה הקודמת וב-14% ברבעון, ו-397 מיליון דולר בהכנסות מסחריות בארה”ב, שזינקו ב-121% לעומת השנה הקודמת וב-29% ברבעון. קארפ כינה את הקטע המסחרי האמריקאי “עוצמה מוחלטת” שלדעתו “יהפוך, בפני עצמו, לאחד מסיפורי העסקים המשמעותיים ביותר של המאה בחיי הכלכלה האמריקאית.”

בתקופה זו, מספר הלקוחות של Palantir גדל ב-45% לעומת השנה הקודמת. במקביל, המזומן החופשי המותאם שלה היה 540 מיליון דולר, הרווח למניה לפי GAAP היה 0.18 דולר, והרווח למניה המותאם היה 0.21 דולר. היא סיימה את הרבעון עם 6.4 מיליארד דולר במזומן, שווי מזומנים וניירות ערך לטווח קצר של האוצר האמריקאי.

“תוצאות אלה הופכות את ההשפעה הטרנספורמטיבית של שימוש ב-AIP להרחבת המינוף של הבינה המלאכותית לבלתי ניתנת להכחשה,” ציינה החברה.

לרבעון הרביעי של 2025, Palantir מצפה שההכנסות יהיו בין 1.327 ל-1.331 מיליארד דולר וההכנסה המותאמת מפעילות תהיה בין 695 ל-699 מיליון דולר.

באשר לשנת 2025 המלאה, Palantir העלתה את תחזית ההכנסות שלה ל-4.396-4.400 מיליארד דולר ומצפה לצמיחה של לפחות 104% בהכנסות המסחריות האמריקאיות כדי לעלות על 1.433 מיליארד דולר. במקביל, תחזית ההכנסה המותאמת מפעילות הועלתה ל-2.151-2.155 מיליארד דולר, ותחזית המזומן החופשי המותאם ל-1.9-2.1 מיליארד דולר.

החדשות האחרונות על מניות Palantir Technologies Inc. (PLTR)

סיכום

sozialen Medien

Sbposts__content/button_label: