AI Mengubah Media Sosial dan Kepercayaan Online

Konten AI ada di mana-mana, menumpuk konten manusia yang otentik dan sepenuhnya mengubah lanskap media sosial. Pengaruhnya kini telah meluas melampaui platform untuk memengaruhi arena politik, Internet yang lebih luas, bahkan ekonomi global.

Jadi, apakah ini berarti media sosial mendekati kematiannya? Baiklah, mari kita cari tahu.

Ringkasan:

Konten yang dihasilkan AI mengubah media sosial dengan membanjiri platform dengan media sintetis, mengikis kepercayaan, dan mengalihkan interaksi manusia yang bermakna ke ruang pribadi yang dapat diverifikasi.

Dari Koneksi Manusia ke Umpan Sintetis

Sekitar empat dekade yang lalu, bentuk awal interaksi sosial daring pertama kali muncul, dimulai dengan sistem papan buletin (BBS), Usenet, dan forum awal pada akhir 1970-an dan 1980-an. Namun, platform jejaring sosial yang dapat dikenali pertama kali tidak muncul hingga pertengahan hingga akhir 1990-an, meletakkan dasar bagi apa yang kemudian menjadi media sosial modern.

Awal abad ke-21 menandai popularitas luas media sosial dengan situs-situs seperti Friendster, MySpace, dan Facebook. Era modern media sosial ini memungkinkan koneksi global secara instan, memungkinkan orang mempertahankan hubungan, mengakses berita real-time, dan membangun komunitas di sekitar minat bersama.

Namun kini, setelah beberapa dekade, wajah media sosial berubah dengan meluasnya konten AI.

Secara tradisional, nilai inti media sosial adalah koneksi dan ekspresi, namun kini telah digantikan oleh produksi massal otomatis. Dengan feed orang didominasi oleh kebisingan sintetis, disengagement dan ketidakpercayaan di antara massa berkembang dengan cepat.

Menurut eksekutif senior Instagram, grid yang dikurasi dengan cermat kini menjadi hal yang sudah berlalu.

Dalam sebuah pesan di Threads, kepala Instagram Adam Mosseri memperingatkan bahwa kebangkitan AI telah mematikan estetika halus situs media sosial tersebut. Semua makeup, penyamaran kulit, lanskap indah, dan fotografi kontras tinggi kini “mati,” karena “orang secara luas berhenti membagikan momen pribadi untuk mengisi tahun‑tahun lalu,” katanya.

Sebaliknya, foto candid yang tidak dipoles dan “tidak menarik” kini dibagikan melalui pesan langsung.

Kebanyakan gambar AI berarti pembuat konten harus beralih dari grid yang dikurasi dan fotografi bergaya profesional ke “estetika yang lebih mentah,” dengan orang menginginkan “konten yang terasa nyata” daripada gambar yang memikat, yang “murah diproduksi dan membosankan untuk dikonsumsi.”

Segera, kita akan melihat pematangan alat AI dan dengan itu perluasan ragam estetika yang dapat mereka hasilkan, kata Mosseri, sambil mencatat bahwa sudah, feed media sosial mulai dipenuhi dengan “segala sesuatu yang sintetis,” yang berarti platform perlu berkembang untuk menangani banjir konten yang dihasilkan AI.

Sementara itu, co‑founder dan CEO Substack Chris Best mengatakan akhir tahun lalu bahwa “slop” yang dihasilkan AI dapat membanjiri internet, yang “menjaga orang bodoh terus mengklik.”

“Slop” dipilih sebagai kata tahun 2025 oleh kamus Amerika Serikat Merriam-Webster, yang mendefinisikannya sebagai “konten digital berkualitas rendah yang diproduksi, biasanya dalam jumlah besar, dengan cara kecerdasan buatan.”

Kebangkitan Internet Bot

Geser untuk menggulir →

Data menunjukkan bahwa hampir sepertiga dari seluruh lalu lintas internet berasal dari bot, program perangkat lunak otomatis yang meniru perilaku manusia.

Hal ini melahirkan teori Internet mati, yang berpendapat bahwa Internet pada dasarnya terdiri dari aktivitas bot dan konten yang dihasilkan secara algoritmik yang dirancang untuk mengendalikan populasi global.

Reddit (RDDT ) co‑founder Alexis Ohanian percaya ada sebagian kebenaran dalam ide tersebut, dan era baru media sosial akan muncul karenanya. “Memiliki bukti kehidupan, seperti penonton langsung dan konten langsung, sangat berharga untuk mempertahankan perhatian,” katanya dalam sebuah podcast.

Pendiri dan CEO OpenAI Sam Altman berbagi pandangan serupa di X tahun lalu, menulis:

“Saya tidak pernah menganggap teori internet mati itu serius, tetapi tampaknya ada banyak akun Twitter yang dijalankan LLM sekarang.”

Aktivitas bot di X (dulu dikenal sebagai Twitter) sebenarnya semakin buruk. Diperkirakan sekitar 10% akun X adalah bot, yang berjumlah jutaan pengguna.

Sementara itu, lebih dari 20% video yang algoritma YouTube tunjukkan kepada pengguna baru telah ditemukan sebagai “AI slop.”

Faktanya, di antara 15.000 saluran YouTube paling populer yang disurvei, 278 hanya berisi konten yang dihasilkan AI, dan bersama‑sama mereka mengumpulkan 221 juta pelanggan dan lebih dari 63 miliar tampilan, menghasilkan sekitar $117 juta pendapatan setiap tahun.

Ini tidak terbatas pada satu atau beberapa platform; hal ini berlaku untuk seluruh internet.

Seperti yang dicatat dalam Imperva Bad Bot Report 2025, lalu lintas otomatis telah melampaui lalu lintas manusia, menyumbang 51% dari seluruh lalu lintas internet, dengan 20% di antaranya berasal dari “bot jahat” yang melakukan aktivitas berbahaya.

Beberapa bulan lalu, Marshall Miller, senior director produk di Wikimedia Foundation, organisasi nirlaba yang mengelola Wikipedia, juga mencatat bahwa lalu lintas manusia situs tersebut telah menurun sekitar 8% karena orang mengubah cara mereka mencari informasi secara daring.

Penurunan tersebut terungkap setelah Yayasan mengubah cara membedakan antara lalu lintas manusia dan bot untuk lebih memahami pembaca nyata dan membatasi bot pihak ketiga yang mengikis data mereka untuk pencarian komersial dan alat AI.

“Kami percaya bahwa penurunan ini mencerminkan dampak AI generatif dan media sosial pada cara orang mencari informasi, terutama karena mesin pencari memberikan jawaban langsung kepada pencari, seringkali berdasarkan konten Wikipedia,” tulis Miller, menambahkan bahwa ini bukanlah kejutan karena mesin pencari semakin banyak menggunakan AI untuk menampilkan jawaban langsung di halaman hasil dan pengguna muda beralih ke TikTok dan YouTube.

Namun ini berarti komunitas yang menulis dan mengedit konten Wikipedia dapat menyusut. Oleh karena itu, platform tersebut mendesak mesin pencari, platform sosial, LLM, dan chatbot AI untuk membantu mengarahkan lebih banyak lalu lintas kembali ke situs.

Bagaimana Platform Media Sosial Memperkuat Konten AI

Platform media sosial telah dibanjiri konten yang dihasilkan AI berkat pertumbuhan eksplosif ekosistem alat generatif.

Misalnya, alat seperti Sora, Midjourney, Pika, Runway, dan Stable Diffusion telah membuat pembuatan gambar dan video hampir apa saja menjadi sangat mudah.

Semakin banyak solusi bahkan mempermudah orang meningkatkan tampilan dan menghasilkan uang melalui program penghargaan kreator atau tautan afiliasi. Mereka tidak hanya menghasilkan secara otomatis tetapi juga memposting konten langsung ke platform seperti YouTube, dengan biaya, melakukan lebih dari 100 video per bulan pada satu akun. Solusi ini bertujuan mengotomatisasi seluruh proses menjadi pembuat konten.

Namun itu belum semuanya. Peneliti telah menemukan bahwa platform sebenarnya telah meningkatkan posting yang dihasilkan AI. Platform seperti TikTok, Instagram, dan Meta (META ) bahkan menawarkan fitur AI native yang memungkinkan pengguna menghasilkan visual, skrip, atau remix media yang ada tanpa perangkat lunak eksternal.

Meta, khususnya, telah merangkul konten yang dihasilkan AI dengan penuh semangat, bahkan menciptakan “slop” mereka sendiri. Pada 2023, perusahaan memperkenalkan profil bertenaga AI dan mengumumkan rencana mengisi platformnya dengan karakter AI. Namun setelah menerima penolakan signifikan dari pengguna, Meta menghentikan profil AI tahun lalu.

Sementara itu, Instagram meluncurkan studio AI yang memungkinkan pengguna membuat chatbot khusus, termasuk versi digital mereka sendiri.

Baru‑baru ini, TikTok mengungkapkan ada setidaknya 1,3 miliar posting yang dihasilkan AI di platformnya, dengan lebih dari 100 juta konten diunggah setiap hari. Untuk transparansi, TikTok memberi label pada konten AI dan bahkan memberi opsi kepada pengguna untuk mengurangi jumlah konten AI yang mereka lihat.

Namun AI Forensics, organisasi nirlaba berbasis di Paris, menemukan bahwa kurang dari 2% akun memiliki label TikTok untuk konten AI. Kadang‑kadang, mereka juga lolos dari moderasi platform selama berbulan‑bulan, meskipun memposting konten yang dilarang oleh ketentuan layanan TikTok.

Menurut laporan tersebut, lebih dari 350 akun berfokus pada AI mendorong 43.000 posting yang dibuat dengan bantuan alat AI generatif, mengumpulkan 4,5 miliar tampilan selama periode satu bulan. Peneliti mengatakan:

“Garis yang semakin kabur antara manusia otentik dan konten AI sintetis di platform menandakan pergeseran baru menuju lebih banyak konten AI pada feed pengguna.”

Dapatkah Keaslian Bertahan dari Otomatisasi?

Dulu ramai dengan aktivitas nyata, tempat teman berkumpul dan berbagi momen khusus, jaringan sosial kini menjadi kota hantu, dipenuhi entitas buatan yang meniru keterlibatan manusia dan mempublikasikan konten yang dihasilkan AI.

Meskipun Anda mungkin berpikir dapat memblokir pengguna dan konten tersebut, sebuah studi menemukan¹ bahwa orang tidak dapat membedakan AI dari manusia, bahkan ketika mereka familiar dengan subjek LLM.

Studi tersebut mengevaluasi seberapa berhasil manusia mendeteksi konten yang dihasilkan AI dan menemukan bahwa teks manusia dikenali secara akurat hanya 67% waktu, sementara GPT‑4 secara keliru terdeteksi sebagai manusia 54% waktu.

Menurut Mosseri dari Instagram, platform sosial hanya akan semakin buruk dalam mengidentifikasi media yang dihasilkan AI seiring teknologi berkembang. Salah satu solusi bisa berupa perusahaan kamera menandatangani foto secara kriptografis saat diambil untuk membuktikan keasliannya.

Solusi untuk mengurangi kekuatan bot, menurut Ohanian, adalah melihat “generasi berikutnya media sosial muncul yang dapat diverifikasi sebagai manusia.”

Sementara kemajuan teknologi telah mengoptimalkan sebagian besar internet untuk keterlibatan, yang dibandingkan Best dengan “kecanduan narkoba,” dan percaya “akan menjadi sangat kuat,” ia masih optimis akan masa depan alternatif.

“Tujuan lain media adalah budaya,” tambahnya, “Itu sesuatu yang orang sangat, sangat inginkan juga.”

Menurut Best dari Substack, teknologi yang sama berpotensi memungkinkan “masa depan di mana ada lebih banyak leverage kreatif” bagi pembuat konten independen. Bottleneck nyata bagi media, katanya, bukan konten, yang “tidak ada kelangkaan,” melainkan perhatian. “Kita telah memasuki dunia di mana perhatian adalah sumber daya yang langka,” ujarnya.

“Kita telah memenangkan perang melawan kebosanan,” kata Best, menambahkan bahwa “ada kelangkaan besar konten yang bagus.”

Di tengah ini, Wikimedia Deutschland meluncurkan Proyek Embedding Wikidata, yang mengubah sekitar 120 juta titik data terbuka di Wikidata menjadi format yang lebih mudah digunakan LLM, membantu sistem AI mengakses data berkualitas tinggi secara gratis dan meningkatkan akurasi mereka.

Regulasi, Penelitian, dan Perjuangan untuk Kepercayaan

Saat AI mengambil alih internet, peneliti mulai memahami dampaknya. Salah satu studi, berjudul The Impact of Generative AI on Social Media: An Experimental Study² meneliti bagaimana bantuan AI memengaruhi produksi konten dan persepsi pengguna serta menemukan bahwa alat AI bermanfaat dalam meningkatkan volume konten dan keterlibatan tetapi menurunkan kualitas dan keaslian yang dipersepsikan.

Berdasarkan temuan mereka, mereka merekomendasikan agar platform media sosial, pembuat kebijakan, dan pemangku kepentingan merancang alat dengan personalisasi berfokus pada pengguna, menggabungkan sensitivitas konteks, dan memprioritaskan antarmuka pengguna yang intuitif untuk integrasi AI generatif yang etis dan efektif ke dalam media sosial.

Para peneliti juga merekomendasikan memastikan pengungkapan transparan konten yang dihasilkan AI, karena studi lainnya³ telah menemukan⁴ bahwa hal ini meningkatkan kepercayaan tanpa merusak keterlibatan.

Mengenai regulasi, pemerintah di seluruh dunia juga telah mengambil langkah untuk mempromosikan dan mengatur penggunaan AI yang bertanggung jawab.

Di Uni Eropa (EU), AI Act berfokus pada transparansi, klasifikasi risiko, dan kewajiban untuk sistem berisiko tinggi.

Sementara itu, Online Safety Act (OSA) telah memberi regulator komunikasi Ofcom wewenang luas untuk meminta platform mengelola konten berbahaya atau menyesatkan di Inggris, meskipun pembuat kebijakan telah meminta peningkatan untuk lebih efektif menangani misinformasi yang digerakkan AI.

Di AS, Presiden Donald Trump telah mengeluarkan Perintah Eksekutif untuk menghapus hambatan bagi kepemimpinan Amerika dalam AI dan menerbitkan rencana aksi untuk mengamankan dominasi sektor tersebut. Kemudian lagi, bulan lalu, ia memerintahkan standar nasional yang memungkinkan perusahaan AI berinovasi tanpa regulasi yang membebani.

Sementara itu, kerangka kerja China merupakan salah satu yang paling detail secara global dalam mengatur pembuatan dan distribusi konten AI. Administrasi Sibernya telah menerapkan pelabelan wajib untuk konten yang dihasilkan AI, memerlukan disclaimer yang terlihat dan metadata tersemat untuk menghindari misinformasi dan penipuan.

Beberapa pemerintah juga mendorong penyelidikan terhadap platform terkait disinformasi yang dihasilkan AI. Baru‑baru ini, Polandia mendesak Komisi Eropa untuk menyelidiki TikTok atas hosting konten AI yang dianggap destabilizing.

“Konten yang diungkapkan menjadi ancaman bagi ketertiban umum, keamanan informasi, dan integritas proses demokratis di Polandia dan seluruh Uni Eropa,” kata Deputi Menteri Digitalisasi Dariusz Standerski dalam surat yang dikirim ke Komisi. “Sifat narasi, cara distribusinya, dan penggunaan materi audiovisual sintetis menunjukkan bahwa platform gagal mematuhi kewajiban yang dikenakan padanya,” tambahnya.

Untuk saat ini, lanskap kebijakan AI tetap menjadi isu yang sedang berkembang di seluruh dunia, terfragmentasi antar yurisdiksi dan berjuang mengikuti kecepatan sistem generatif yang mengubah aliran informasi, kepercayaan publik, dan wacana demokratis.

Berinvestasi dalam Infrastruktur AI

Dalam dunia AI, Palantir Technologies Inc. (PLTR ) menonjol karena spesialisasinya dalam analitik data besar yang digerakkan AI.

Perusahaan ini telah membangun empat platform perangkat lunak utama, termasuk Apollo, Gotham, Foundry, dan Artificial Intelligence Platform (AIP). Apollo adalah lapisan kontrol yang menyelaraskan penyampaian fitur baru, konfigurasi, dan pembaruan keamanan untuk memastikan operasi berkelanjutan sistem kritis. Gotham membantu mengidentifikasi pola dalam dataset, dan Foundry membantu organisasi menciptakan sistem operasi pusat untuk data mereka. AIP memungkinkan aktivasi efektif model bahasa besar dan AI lainnya dalam organisasi mana pun.

Secara khusus, platform Palantir digunakan oleh pemerintah dan perusahaan swasta untuk mendeteksi misinformasi, jaringan bot, dan distribusi media sintetis. Alat ini dibangun untuk mengidentifikasi perilaku otentik vs. tidak otentik di seluruh ekosistem informasi yang kompleks.

Selain itu, analitik AI semakin digunakan oleh organisasi dan pemerintah untuk memantau ancaman kesehatan dan keselamatan. Dengan kapitalisasi pasar $400 miliar, saham PLTR saat ini diperdagangkan pada $174, naik lebih dari 110 % dalam setahun terakhir. Memiliki EPS (TTM) 0,43 dan P/E (TTM) 392,56.

Mengenai posisi keuangannya, Palantir mengumumkan pendapatan $1,181 miliar untuk kuartal ketiga yang berakhir 30 September 2025, mewakili pertumbuhan 63 % YoY dan 18 % QoQ, mencapai rekor pendapatan baru dalam sejarah lebih dua puluh tahun mereka. Laba bersih kuartal tersebut $476 juta.

“Kami masih berada pada tahap awal segala hal. Ini tetap menjadi permulaan, momen pertama dari bab pertama.”

– Co‑founder dan CEO Alex C. Karp, dalam surat kepada pemegang saham

Pendapatan AS‑nya, khususnya, tumbuh 77 % YoY dan 20 % QoQ menjadi $883 juta. Ini termasuk $486 juta pendapatan pemerintah AS, yang naik 52 % YoY dan 14 % QoQ, serta $397 juta pendapatan komersial AS, yang melonjak 121 % YoY dan 29 % QoQ. Karp menyebut segmen komersial AS “sebuah juggernaut absolut” yang ia percaya “akan menjadi, dengan sendirinya, salah satu cerita bisnis paling signifikan abad ini dalam kehidupan ekonomi Amerika.”

Selama periode ini, jumlah pelanggan Palantir tumbuh 45 % YoY. Sementara itu, arus kas bebas yang disesuaikan sebesar $540 juta, laba per saham GAAP $0,18, dan EPS yang disesuaikan $0,21. Perusahaan mengakhiri kuartal dengan $6,4 miliar dalam kas, setara kas, dan sekuritas Treasury AS jangka pendek.

“Hasil ini membuktikan dampak transformasional penggunaan AIP untuk menggandakan leverage AI,” catat perusahaan.

Untuk Q4 2025, Palantir memperkirakan pendapatan antara $1,327 dan $1,331 miliar serta pendapatan operasional yang disesuaikan antara $695 dan $699 juta.

Untuk tahun penuh 2025, Palantir menaikkan panduan pendapatannya menjadi $4,396‑$4,400 miliar dan memperkirakan pertumbuhan setidaknya 104 % pendapatan komersial AS untuk melampaui $1,433 miliar. Sementara itu, panduan pendapatan operasional yang disesuaikan dinaikkan menjadi $2,151‑$2,155 miliar, dan panduan arus kas bebas yang disesuaikan menjadi $1,9‑$2,1 miliar.

Intisari Investor:

Seiring konten AI berkembang lebih cepat daripada perhatian manusia, permintaan meningkat untuk infrastruktur yang mengatur keaslian, moderasi, dan kepercayaan—menciptakan peluang jangka panjang di luar platform sosial konsumen.

Berita Saham Terbaru Palantir Technologies Inc. (PLTR)

Kesimpulan

Media sosial, seperti yang kita kenal, jelas sedang menuju akhir. Itu bukan lagi tempat di mana orang secara aktif berbagi minat, kenangan, dan ide secara otentik. Apa yang dulu dibangun di atas koneksi manusia kini dipenuhi konten otomatis dan bot.

Sementara AI telah membuka leverage kreatif dan efisiensi ekonomi yang belum pernah terjadi sebelumnya, ia juga mengikis sinyal yang dulu membuat interaksi daring bermakna.

Masa depan media sosial kemungkinan akan terpecah, dengan satu jalur menuju feed hiper‑otomatis yang dioptimalkan untuk keterlibatan dan jalur lain mengarah ke ruang yang dapat diverifikasi sebagai manusia yang memprioritaskan budaya, kredibilitas, dan konteks di atas jangkauan.

Referensi

<sup>1. Jones, C. R. & Bergen, B. K. “Orang tidak dapat membedakan GPT-4 dari manusia dalam tes Turing.” arXiv preprint arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “Dampak AI Generatif pada Media Sosial: Studi Eksperimental.” arXiv preprint arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “Pelabelan Konten Sintetis: Persepsi Pengguna terhadap Desain Label Peringatan untuk Konten yang Dihasilkan AI di Media Sosial.” arXiv preprint arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “Mengevaluasi Dampak Detail Label dan Taruhan Konten terhadap Persepsi Pengguna terhadap Gambar AI yang Dihasilkan di Media Sosial.” arXiv preprint arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>