틱톡 추천 시스템 설계, DSA 위반 예비 판단 받아

유럽연합 집행위원회는 2026년 11월 6일 발표를 통해 틱톡의 For You 추천 시스템에서 나타나는 ‘래빗홀 효과’를 근거로 틱톡이 디지털서비스법(Digital Services Act, DSA)을 위반한 것으로 예비 판단했다고 밝혔다. 이번 판단은 위험 평가와 완화 조치 모두를 다루며, 조사 결과를 미리 확정하는 것은 아니다. 집행위원회가 최종적으로 현재 견해를 확정할 경우, 위반 결정을 내리고 사업자의 전 세계 연간 총매출액의 최대 6%에 해당하는 과징금을 부과할 수 있다. 과징금 액수는 위반의 성격과 중대성, 반복 여부 및 지속 기간에 비례해 정해진다. 최종 결정이나 과징금은 발표되지 않았다.

참여 신호와 래빗홀 위험

틱톡의 For You 피드에는 개인 맞춤형 동영상이 끊임없이 이어진다. 알고리즘은 동영상 시청과 ‘좋아요’ 표시를 비롯한 이용자 참여 정보를 활용해 추천을 개인화한다. 이용자가 체중 감량이나 신체 이미지에 관한, 심리적 자극을 유발할 수 있는 콘텐츠를 반복해서 시청하거나 ‘좋아요’를 누르면, 시스템은 이를 해당 콘텐츠에 관심이 있다는 긍정적 신호로 해석해 비슷한 콘텐츠를 더 많이 추천한다.

집행위원회의 예비 평가에 따르면, 이러한 콘텐츠에 반복적으로 노출되면 슬픔이나 불안감이 커지고, 신체 이미지에 대한 불만이 생기거나 자존감이 낮아질 수 있으며, 기존의 섭식 장애나 정신 건강 문제가 악화될 수도 있다. 특히 슬픔, 고립감 또는 신체 이미지에 관한 콘텐츠에 끝없이 반복해서 노출될 경우 미성년자와 취약한 성인에게 특별한 위험이 있다고 지적했다.

이용자 통제 기능과 설계 변경

틱톡은 이미 래빗홀 위험을 완화하기 위한 조치를 도입했지만, 집행위원회는 예비 판단에서 이러한 조치가 비례적이고 합리적이며 효과적인 완화에 해당하지 않는다고 봤다. 콘텐츠 다양화 조치도 정신 건강 문제와 신체 이미지에 관한 콘텐츠를 비롯해 유사한 자료가 추천되는 빈도를 충분히 낮추지 못한다. ‘관심 없음’ 버튼 역시 피드를 충분히 바꾸지 못할 수 있다. 알고리즘이 특정 콘텐츠를 덜 보고 싶다는 이용자의 명시적인 선택보다 시청 시간을 우선시하기 때문이다.

현 단계에서 집행위원회는 틱톡이 For You 피드의 설계를 변경해야 한다고 본다. 집행위원회가 예로 든 변경 사항에는 이용자가 명시한 선호를 더 많이 반영하고, 시청 시간을 추천 신호로 사용하지 않으며, 통제 기능을 더 쉽게 찾고 사용할 수 있게 하고, 알고리즘을 정기적으로 시험하는 방안이 포함된다. 이는 예비 판단에서 제시된 설계 변경 사항이지, 최종 결정으로 부과된 시정 조치는 아니다.

기술 주권·안보·민주주의 담당 집행부위원장인 Henna Virkkunen은 플랫폼의 책임이라는 관점에서 의무를 설명했다. “디지털서비스법은 추천 시스템과 관련된 부정적 영향을 해결할 책임을 플랫폼에 부과합니다.”

방어권과 광범위한 조사 절차

틱톡은 조사 기록에 포함된 문서를 열람하고 예비 판단에 서면으로 답변할 수 있으며, 유럽 디지털서비스위원회의 의견도 구할 예정이다. 집행위원회의 견해는 틱톡의 위험 평가 보고서, 내부 데이터와 문서, 여러 차례의 정보 제공 요청에 대한 답변, 과학 연구 검토, 추천 시스템·심리학·정신의학 전문가 면담을 바탕으로 한다. 아일랜드 디지털서비스조정관인 Coimisiún na Meán도 조사에 협조했다.

이번 새 판단은 틱톡의 DSA 준수 여부를 살펴보는 공식 절차의 일부다. 이는 무한 스크롤, 자동 재생, 푸시 알림 및 개인 맞춤형 추천을 다룬 2026년 2월 6일 발표된 중독성 설계 관련 예비 판단과는 별개다. 절차의 다른 조사 분야에서는 미성년자 보호, 연구자의 공개 데이터 접근, 광고 투명성을 다뤘다.

다음 단계에서 틱톡은 추천 시스템에 대한 집행위원회의 설명과 통제 기능에 대한 평가 모두에 답변할 수 있다. 이후 남은 절차를 통해 피드 설계에 관한 예비 우려가 사실로 확인되는지 판단하게 되며, 위반 결정이나 금전적 제재가 내려질지는 아직 정해지지 않았다.