AI가 소셜 미디어와 온라인 신뢰를 재구성하고 있다

AI 콘텐츠가 어디에나 넘쳐나며 진정한 인간 콘텐츠를 밀어내고 소셜 미디어 환경을 완전히 바꾸고 있습니다. 그 영향력은 이제 플랫폼을 넘어 정치 영역, 광범위한 인터넷, 그리고 전 세계 경제까지 미치고 있습니다.

그렇다면 소셜 미디어가 죽음에 가까워지고 있다는 뜻일까요? 이제 확인해 보겠습니다.

요약: AI가 생성한 콘텐츠는 합성 미디어로 플랫폼을 범람시키고 신뢰를 약화시키며 의미 있는 인간 상호작용을 사적이고 검증 가능한 공간으로 이동시켜 소셜 미디어를 재구성하고 있습니다.

인간 연결에서 합성 피드로

대략 40년 전, 온라인 사회적 상호작용의 초기 형태가 처음 등장했으며, 이는 1970년대 후반과 1980년대 초반의 전자 게시판 시스템(BBS), Usenet, 초기 포럼에서 시작되었습니다. 그러나 현재 우리가 인식하는 소셜 네트워킹 플랫폼은 1990년대 중후반에야 등장했으며, 이는 현대 소셜 미디어가 되기 위한 기반을 마련했습니다.

21세기 초는 Friendster, MySpace, Facebook과 같은 사이트들로 소셜 미디어가 널리 보급된 시기였습니다. 이 현대적인 소셜 미디어 시대는 즉각적인 전 세계 연결을 가능하게 하여 사람들은 관계를 유지하고, 실시간 뉴스를 접하며, 공통 관심사를 중심으로 커뮤니티를 형성할 수 있게 되었습니다.

하지만 이제 수십 년이 지난 현재, 소셜 미디어의 모습은 AI 콘텐츠의 급증과 함께 변하고 있습니다.

전통적으로 소셜 미디어의 핵심 가치는 연결과 표현이었지만, 이는 자동화된 대량 생산으로 대체되었습니다. 사람들의 피드가 합성 잡음으로 가득 차면서 대중의 무관심과 불신이 빠르게 커지고 있습니다.

인스타그램 최고 경영진에 따르면, 신중하게 구성된 그리드는 이제 과거의 일이라고 합니다.

Threads에 올린 메시지에서 인스타그램 대표인 아담 모세리(Adam Mosseri)는 AI의 부상이 소셜 미디어 사이트의 세련된 미학을 죽였다고 경고했습니다. 메이크업, 피부 보정, 아름다운 풍경, 고대비 사진 등이 이제 “죽은” 상태이며, “사람들이 몇 년 전부터 개인적인 순간을 공유하는 것을 크게 중단했다”고 그는 말했습니다.

대신, 다듬어지지 않은 “매력적이지 않은 솔직 사진”이 다이렉트 메시지를 통해 공유되고 있습니다.

AI 이미지가 널리 퍼짐에 따라 창작자들은 정제된 그리드와 전문적인 사진 스타일에서 벗어나 “더 거친 미학”으로 전환해야 하며, 사람들은 “실제 같은 콘텐츠”를 원하고, 이는 “제작 비용이 저렴하고 소비가 지루하다”고 말합니다.

곧 우리는 AI 도구의 성숙과 함께 그들이 만들 수 있는 미학의 범위가 확대되는 것을 보게 될 것이며, 모세리는 이미 소셜 미디어 피드가 “합성 모든 것”으로 가득 차기 시작했다고 언급했습니다. 이는 플랫폼이 AI 생성 콘텐츠의 홍수를 처리하기 위해 진화해야 함을 의미합니다.

한편, Substack 공동 창립자이자 CEO인 크리스 베스트(Chris Best)는 지난해 말 AI가 생성한 “슬롭(slopp)”이 인터넷을 범람시킬 수 있으며, 이는 “멍청한 사람들을 클릭하게 만든다”고 말했습니다.

‘Slop’은 미국 사전 Merriam-Webster가 2025년 올해의 단어로 선정했으며, 이는 “인공지능을 통해 대량으로 제작되는 저품질 디지털 콘텐츠”를 의미합니다.

봇 인터넷의 부상

스크롤하려면 스와이프 →

데이터에 따르면 전체 인터넷 트래픽의 거의 3분의 1이 인간 행동을 모방하는 자동화 소프트웨어 프로그램인 봇에서 발생합니다.

이로 인해 ‘죽은 인터넷(dead Internet)’ 이론이 등장했으며, 이는 인터넷이 주로 봇 활동과 전 세계 인구를 통제하기 위해 설계된 알고리즘 생성 콘텐츠로 구성된다고 주장합니다.

Reddit (RDDT ) 공동 창립자 알렉시스 오하니안(Alexis Ohanian)은 이 아이디어에 어느 정도 진실이 있다고 믿으며, 이로 인해 새로운 소셜 미디어 시대가 등장할 것이라고 말했습니다. 그는 팟캐스트에서 “실시간 시청자와 실시간 콘텐츠와 같은 생존 증거는 주의를 끌기에 정말로 중요한 가치가 있다”고 말했습니다.

OpenAI 설립자이자 CEO인 샘 알트만(Sam Altman)은 지난해 X에 비슷한 견해를 공유하며 다음과 같이 게시했습니다:

“나는 죽은 인터넷 이론을 그다지 심각하게 여기지 않았지만, 현재 정말 많은 LLM이 운영하는 트위터 계정이 존재하는 것 같다.”

X(구 트위터)에서의 봇 활동은 실제로 악화되고 있습니다. X 계정의 약 10%가 봇으로 추정되며, 이는 수백만 명에 이릅니다.

한편, 유튜브 알고리즘이 신규 사용자에게 보여주는 동영상 중 20% 이상이 “AI 슬롭”으로 확인되었습니다.

실제로 조사된 15,000개의 가장 인기 있는 유튜브 채널 중 278개가 오직 AI 생성 콘텐츠만을 포함하고 있으며, 이들은 합쳐서 2억 2100만 구독자와 630억 회 이상의 조회수를 기록하고 연간 약 1억 1700만 달러의 수익을 창출하고 있습니다.

이는 하나 혹은 소수의 플랫폼에만 국한된 것이 아니라 전체 인터넷에 해당합니다.

2025년 Imperva Bad Bot 보고서에 따르면 자동화 트래픽이 인간 트래픽을 앞서며 전체 인터넷 트래픽의 51%를 차지하고, 그 중 20%가 악의적인 활동을 하는 “악성 봇(bad bots)”에서 발생합니다.

몇 달 전, 위키피디아를 운영하는 비영리 단체인 위키미디어 재단의 수석 제품 이사인 마셜 밀러(Marshall Miller)는 사람들이 온라인에서 정보를 검색하는 방식을 바꾸면서 웹사이트의 인간 트래픽이 약 8% 감소했다고 언급했습니다.

이 감소는 재단이 인간 트래픽과 봇 트래픽을 구분하는 방식을 변경하여 실제 독자층을 더 잘 이해하고, 상업적 검색 및 AI 도구를 위해 데이터를 스크래핑하는 제3자 봇을 제한한 후에 드러났습니다.

“우리는 이러한 감소가 생성 AI와 소셜 미디어가 사람들의 정보 탐색 방식에 미치는 영향을 반영한다고 믿습니다. 특히 검색 엔진이 위키피디아 콘텐츠를 기반으로 직접 답변을 제공함에 따라 그렇습니다.”라고 밀러는 썼으며, 검색 엔진이 점점 더 AI를 활용해 결과 페이지에 직접 답변을 제공하고 젊은 사용자들이 틱톡과 유튜브로 이동하고 있기 때문에 이는 놀라운 일이 아니라고 덧붙였습니다.

하지만 이는 위키피디아의 콘텐츠를 작성하고 편집하는 커뮤니티가 축소될 수 있음을 의미합니다. 따라서 플랫폼은 검색 엔진, 소셜 플랫폼, LLM, AI 챗봇이 사이트로 다시 트래픽을 유도하도록 촉구하고 있습니다.

소셜 미디어 플랫폼이 AI 콘텐츠를 증폭시키는 방법

소셜 미디어 플랫폼은 생성 도구 생태계의 폭발적인 성장 덕분에 AI 생성 콘텐츠로 넘쳐나고 있습니다.

예를 들어, Sora, Midjourney, Pika, Runway, Stable Diffusion과 같은 도구들은 거의 모든 것의 이미지와 비디오를 매우 쉽게 만들 수 있게 했습니다.

점점 늘어나는 솔루션들은 사람들에게 조회수를 늘리고 크리에이터 보상 프로그램이나 제휴 링크로 수익을 올리는 것을 더욱 쉽게 해줍니다. 이들은 자동 생성뿐 아니라 유료로 YouTube와 같은 플랫폼에 직접 콘텐츠를 게시하며, 단일 계정당 월 100개 이상의 비디오를 제작합니다. 이러한 솔루션은 콘텐츠 제작 전체 과정을 자동화하는 것을 목표로 합니다.

하지만 이것이 전부는 아닙니다. 연구자들은 플랫폼이 실제로 AI 생성 게시물을 부추기고 있음을 발견했습니다. TikTok, Instagram, 그리고 Meta (META )와 같은 플랫폼은 사용자가 외부 소프트웨어 없이도 시각 자료, 스크립트, 기존 미디어를 리믹스할 수 있는 기본 AI 기능을 제공하고 있습니다.

특히 Meta는 AI 생성 콘텐츠를 전폭적으로 수용했으며 자체 슬롭을 만들기도 했습니다. 2023년에 이 회사는 AI 기반 프로필을 도입하고 플랫폼에 AI 캐릭터를 채우겠다는 계획을 발표했습니다. 그러나 큰 사용자 반발을 받은 뒤, Meta는 지난해 AI 프로필을 폐지했습니다.

한편 Instagram은 사용자가 자체 디지털 버전을 포함한 맞춤형 챗봇을 제작할 수 있는 AI 스튜디오를 출시했습니다.

최근 TikTok은 플랫폼에 최소 13억 개의 AI 생성 게시물이 존재하며, 매일 1억 개 이상의 콘텐츠가 업로드된다고 밝혔습니다. 투명성을 위해 TikTok은 AI 생성 콘텐츠에 라벨을 붙이고 사용자가 보는 AI 콘텐츠 양을 줄일 수 있는 옵션도 제공합니다.

하지만 파리 기반 비영리 단체 AI Forensics는 AI 콘텐츠에 대한 TikTok 라벨이 붙은 계정이 2% 미만에 불과하다고 밝혔습니다. 또한 이들은 TikTok 이용 약관에 위배되는 콘텐츠를 게시함에도 불구하고 몇 달 동안 플랫폼의 검열을 피하기도 합니다.

보고서에 따르면 350개 이상의 AI 중심 계정이 생성 AI 도구의 도움으로 43,000개의 게시물을 올렸으며, 한 달 동안 45억 조회수를 누적했습니다. 연구자들은 다음과 같이 말했습니다:

“플랫폼에서 진정한 인간과 합성 AI 생성 콘텐츠 사이의 경계가 흐려지는 것은 사용자 피드에 더 많은 AI 생성 콘텐츠가 나타나는 새로운 전환을 알리고 있습니다.”

진정성은 자동화를 견딜 수 있을까?

한때 실제 활동으로 활기찼고, 친구들이 모여 특별한 순간을 공유하던 소셜 네트워크가 이제는 인공 존재가 인간 참여를 시뮬레이션하고 AI 생성 콘텐츠를 게시하는 유령 도시가 되고 있습니다.

이러한 사용자와 콘텐츠를 차단하면 된다고 생각할 수 있지만, 연구에 따르면¹ 사람들은 LLM의 주제에 익숙하더라도 AI와 인간을 구별할 수 없다고 합니다.

연구는 인간이 AI 생성 콘텐츠를 얼마나 성공적으로 감지하는지를 평가했으며, 인간이 만든 텍스트를 정확히 AI로 인식한 비율은 67%에 불과했고, GPT‑4는 54%의 경우 인간으로 잘못 감지되었습니다.

인스타그램의 모세리에 따르면, 기술이 발전함에 따라 소셜 플랫폼은 AI 생성 미디어를 식별하는 능력이 점점 더 악화될 것입니다. 한 가지 해결책은 카메라 회사가 사진을 촬영할 때 암호화 서명을 부여해 진짜임을 증명하는 것입니다.

오하니안에 따르면, 봇의 힘을 완화하는 해결책은 “검증 가능한 인간 기반의 차세대 소셜 미디어가 등장하는 것”이라고 합니다.

기술 발전으로 대부분의 인터넷이 참여를 최적화했으며, 베스트는 이를 “마약 중독”에 비유하고 “극도로 강화될 것”이라고 믿지만, 그는 여전히 대안적인 미래에 희망을 가지고 있습니다.

그는 “미디어의 또 다른 목적은 문화이며, 이는 사람들이 정말로 원하고 있는 것”이라고 덧붙였습니다.

Substack의 베스트에 따르면, 이 기술은 독립 창작자들에게 “훨씬 더 큰 창의적 레버리지를 제공하는 미래”를 가능하게 할 잠재력이 있습니다. 그는 미디어의 진정한 병목은 콘텐츠가 아니라 주의력이며, “콘텐츠는 부족함이 없지만, 우리는 주의력이 희소한 자원인 세상에 들어섰다”고 말했습니다.

베스트는 “우리는 지루함에 대한 전쟁에서 승리했다”고 말하며 “좋은 콘텐츠는 엄청난 희소성”이라고 덧붙였습니다.

이러한 상황 속에서 Wikimedia Deutschland는 Wikidata Embedding Project를 시작했으며, 이는 Wikidata의 약 1억 2000만 개의 개방형 데이터 포인트를 LLM이 사용하기 쉬운 형식으로 변환해 AI 시스템이 무료로 고품질 데이터를 접근하고 정확성을 향상시키도록 돕습니다.

규제, 연구, 그리고 신뢰를 위한 싸움

AI가 인터넷을 장악함에 따라 연구자들은 그 영향을 이해하려고 노력하고 있습니다. “The Impact of Generative AI on Social Media: An Experimental Study”(생성 AI가 소셜 미디어에 미치는 영향: 실험 연구)라는 연구는 AI 지원이 콘텐츠 생산과 사용자 인식에 어떻게 영향을 미치는지를 조사했으며, AI 도구가 콘텐츠 양과 참여를 증가시키는 데는 도움이 되지만 인식된 품질과 진정성은 감소시킨다는 결과를 도출했습니다.

그들의 발견을 바탕으로, 소셜 미디어 플랫폼, 정책 입안자 및 이해관계자들은 사용자 중심 개인화, 상황 민감성 통합, 직관적인 사용자 인터페이스를 우선시하는 도구를 설계하여 생성 AI를 소셜 미디어에 윤리적이고 효과적으로 통합할 것을 권고했습니다.

연구자들은 또한 AI 생성 콘텐츠에 대한 투명한 공개를 보장해야 한다고 권고했으며, 이는 다른 연구³가 신뢰를 향상시키면서도 참여를 해치지 않는다는 것을 발견했기 때문입니다.

규제와 관련해서는 전 세계 정부들이 인공지능의 책임 있는 사용을 촉진하고 규제하기 위한 조치를 취하고 있습니다.

유럽 연합(EU)에서는 AI Act가 투명성, 위험 분류, 고위험 시스템에 대한 의무에 초점을 맞추고 있습니다.

한편 영국의 온라인 안전법(Online Safety Act, OSA)은 통신 규제기관 Ofcom에 플랫폼이 유해하거나 오해를 일으키는 콘텐츠를 관리하도록 광범위한 권한을 부여했으며, 정책 입안자들은 AI 기반 허위 정보에 보다 효과적으로 대응하기 위한 업그레이드를 요구하고 있습니다.

미국에서는 도널드 트럼프 대통령이 AI 분야에서 미국의 리더십에 대한 장벽을 제거하기 위한 행정명령을 발표하고, 해당 분야에서의 우위를 확보하기 위한 행동 계획을 발표했습니다. 그리고 지난 달에는 AI 기업이 번거로운 규제 없이 혁신할 수 있도록 하는 국가 표준을 명령했습니다.

한편, 중국의 프레임워크는 AI 콘텐츠 생성 및 배포를 규제하는 데 있어 전 세계에서 가장 상세한 편에 속합니다. 사이버스페이스 관리국은 AI 생성 콘텐츠에 대한 의무 라벨링을 시행했으며, 이는 눈에 보이는 면책 조항과 메타데이터 삽입을 요구해 허위 정보와 사기를 방지합니다.

일부 정부는 AI 생성 허위 정보에 대한 플랫폼 조사도 추진하고 있습니다. 가장 최근에는 폴란드가 유럽 위원회에 TikTok이 불안정을 초래하는 AI 콘텐츠를 호스팅하고 있다며 조사할 것을 촉구했습니다.

“공개된 콘텐츠는 폴란드와 유럽 연합 전역에서 공공 질서, 정보 보안, 민주적 절차의 무결성에 위협을 가합니다.”라고 디지털화 차관 보좌관 다리우시 스탠더스키(Dariusz Standerski)가 위원회에 보낸 서한에서 말했습니다. “내러티브의 성격, 배포 방식, 합성 시청각 자료의 사용은 플랫폼이 부과된 의무를 이행하지 못하고 있음을 나타냅니다.”라고 그는 덧붙였습니다.

현재 AI에 대한 정책 환경은 전 세계적으로 아직 신흥 이슈이며, 관할 구역마다 파편화되어 있고, 생성 시스템이 정보 흐름, 공공 신뢰, 민주적 담론을 재구성하는 속도에 맞추기 위해 고군분투하고 있습니다.

AI 인프라에 투자하기

AI 분야에서 Palantir Technologies Inc. (PLTR )는 AI 기반 빅데이터 분석에 특화된 기업으로 두드러집니다.

이 회사는 Apollo, Gotham, Foundry, Artificial Intelligence Platform(AIP) 등 네 가지 주요 소프트웨어 플랫폼을 구축했습니다. Apollo는 새로운 기능, 구성 및 보안 업데이트의 제공을 조정하여 핵심 시스템의 지속적인 운영을 보장하는 제어 레이어입니다. Gotham은 데이터 세트 내 패턴을 식별하는 데 도움을 주며, Foundry는 조직이 데이터를 위한 중앙 운영 체제를 만들도록 지원합니다. AIP는 대형 언어 모델 및 기타 AI를 조직 내 어디에서든 효과적으로 활성화할 수 있게 합니다.

특히 Palantir의 플랫폼은 정부와 민간 기업이 허위 정보, 봇 네트워크, 합성 미디어 배포를 탐지하는 데 사용됩니다. 이러한 도구는 복잡한 정보 생태계 전반에서 진정한 행동과 위조된 행동을 식별하도록 설계되었습니다.

게다가 AI 분석은 조직과 정부가 보건 및 안전 위협을 모니터링하는 데 점점 더 많이 활용되고 있습니다. 시가총액 4천억 달러를 가진 PLTR 주식은 현재 주당 174달러에 거래되고 있으며, 지난 1년 동안 110% 이상 상승했습니다. EPS(TTM)는 0.43, P/E(TTM)는 392.56입니다.

재무 상황에 대해 Palantir는 2025년 9월 30일 종료된 3분기에 매출 11억 8100만 달러를 발표했으며, 이는 전년 대비 63%, 전분기 대비 18% 성장으로 20년 이상의 역사에서 새로운 매출 기록을 달성했습니다. 해당 분기의 이익은 4억 7600만 달러였습니다.

“우리는 아직 시작 단계에 있습니다. 이것은 첫 번째 장의 첫 순간, 시작에 불과합니다.”

– 공동 창립자이자 CEO Alex C. Karp, 주주 서한에서

특히 미국 매출은 전년 대비 77%, 전분기 대비 20% 성장해 8억 8300만 달러에 이르렀습니다. 여기에는 미국 정부 매출 4억 8600만 달러가 포함되며, 이는 전년 대비 52%, 전분기 대비 14% 증가했고, 미국 상업 매출 3억 9700만 달러는 전년 대비 121%, 전분기 대비 29% 급증했습니다. 카프는 미국 상업 부문을 “절대적인 거대 기업”이라 부했으며, 이는 “스스로 미국 경제 생활에서 이번 세기의 가장 중요한 비즈니스 스토리 중 하나가 될 것”이라고 믿고 있습니다.

이 기간 동안 Palantir의 고객 수는 전년 대비 45% 증가했습니다. 동시에 조정된 자유 현금 흐름은 5억 4000만 달러였으며, GAAP 주당 순이익은 0.18달러, 조정 EPS는 0.21달러였습니다. 분기 말 현금, 현금성 자산 및 단기 미국 국채는 총 64억 달러에 달했습니다.

“이러한 결과는 AIP를 활용해 AI 레버리지를 복합화하는 변혁적 영향을 부인할 수 없게 만든다”고 회사는 언급했습니다.

2025년 4분기에 Palantir는 매출이 13억 2700만 달러에서 13억 3100만 달러 사이가 될 것으로 예상하며, 조정 영업이익은 6억 9500만 달러에서 6억 9900만 달러 사이가 될 것으로 전망했습니다.

2025년 전체에 대해 Palantir는 매출 가이드를 43억 9600만 달러에서 44억 달러 사이로 상향했으며, 미국 상업 매출이 최소 104% 성장해 14억 3300만 달러를 초과할 것으로 예상합니다. 동시에 조정 영업이익 가이드는 21억 5100만 달러에서 21억 5500만 달러로, 조정 자유 현금 흐름 가이드는 19억 달러에서 21억 달러로 상향되었습니다.

투자자 요약: AI 콘텐츠가 인간의 주의력을 초과하는 속도로 확장함에 따라, 진정성, 중재, 신뢰를 관리하는 인프라에 대한 수요가 증가하고 있으며, 이는 소비자 소셜 플랫폼을 넘어 장기적인 기회를 창출하고 있습니다.

최신 Palantir Technologies Inc. (PLTR) 주식 뉴스

결론

우리가 알고 있던 소셜 미디어는 명백히 종말을 향해 가고 있습니다. 사람들 이 관심, 기억, 아이디어를 진정성 있게 활발히 공유하던 장소가 아니게 되었습니다. 한때 인간 연결을 기반으로 했던 것이 이제 자동화된 콘텐츠와 봇에 의해 뒤덮이고 있습니다.

AI가 전례 없는 창의적 레버리지와 경제적 효율성을 열어준 반면, 온라인 상호작용을 의미 있게 만들던 핵심 신호들을 침식시켰습니다.

소셜 미디어의 미래는 아마도 분열될 것이며, 하나는 참여를 최적화한 초자동화 피드로, 다른 하나는 도달 범위보다 문화, 신뢰성, 맥락을 우선시하는 검증 가능한 인간 공간으로 향할 것입니다.

참고문헌

<sup>1. Jones, C. R. & Bergen, B. K. “사람들은 튜링 테스트에서 GPT-4와 인간을 구별할 수 없습니다.” arXiv 사전 인쇄 arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. “생성 AI가 소셜 미디어에 미치는 영향: 실험 연구.” arXiv 사전 인쇄 arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. “합성 콘텐츠 라벨링: 소셜 미디어에서 AI 생성 콘텐츠에 대한 경고 라벨 디자인에 대한 사용자 인식.” arXiv 사전 인쇄 arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. “라벨 상세와 콘텐츠 중요성이 소셜 미디어에서 AI 생성 이미지에 대한 사용자 인식에 미치는 영향 조사.” arXiv 사전 인쇄 arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup>