인공지능(AI)의 도래와 함께 진위 보장

AI의 모든 분야에서의 도입이 급증하고 있습니다. 추정에 따르면 향후 7년 동안 시장 규모가 세 배로 증가할 것으로 예상됩니다. 

약 2,420억 달러 규모였던 시장은 2030년까지 거의 7,400억 달러까지 성장할 것으로 예상됩니다. 다양한 산업이 AI를 운영에 도입하기 시작했습니다. 현재까지 가장 많이 활용하고 있는 산업은 의료, 금융, 제조, 비즈니스 및 법률 서비스 등입니다. 

덜 큰 규모이지만, AI는 미디어, 엔터테인먼트, 보안, 소매, 에너지 등 산업에서도 운영 패러다임을 변화시키기 시작했습니다. 

AI 도입이 증가함에 따라 진위 보장의 과제가 즉각적인 해결이 필요한 중요한 문제로 떠올랐습니다. 오늘 논의는 이러한 과제가 무엇인지 살펴보는 것으로 시작합니다.

인공지능 투자에 대해 모두 알아보려면 여기를 클릭하세요. 

AI 도입에서의 진위 보장 과제

AI의 강점이 바로 약점으로 떠올랐습니다. AI 알고리즘은 현실적인 이미지, 동영상, 기사 및 기타 모든 형태의 멀티미디어 콘텐츠를 생성할 수 있어 일반 시청자가 원본과 구별하기 매우 어렵습니다. 

일반적인 눈으로는 신뢰할 수 있는 출처의 진짜 정보처럼 보일 수 있지만, 실제로는 악의적인 선전용으로 생성된 가짜 콘텐츠일 수 있습니다. 최근 여러 사건이 AI 도입이 확대되면서 나타나는 이러한 문제를 드러냈습니다. 

AI가 만든 가짜 펜타곤 폭발 이미지

2023년 5월, 미국 펜타곤 인근에서 폭발이 발생했다는 뉴스가 보도되었습니다. 해당 이미지는 펜타곤 건물 근처 정원에서 검은 연기가 많이 피어오르는 모습을 보여주었습니다. 이 이미지는 파란 체크 표시가 있는 검증된 트위터 계정인 Bloomberg Feed에 의해 공유되었습니다. 곧이어 파란 체크가 있는 많은 검증된 계정들도 이 이미지를 공유했습니다. 그러나 이는 AI가 생성한 이미지였으며 많은 사람들을 속였습니다. X가 파란 체크를 월 8달러에 제공하는 최근 정책은 문제를 더욱 악화시켰습니다. 

누구든 검증된 계정을 가질 수 있고 검증된 계정은 더 많은 가시성을 얻기 때문에, 이 뉴스는 빠르게 퍼졌으며, 공인 인물, 정부 관계자 및 뉴스 사이트의 사칭에 대한 우려를 불러일으키고 디지털 영역에서 혼란과 진위 위기를 초래했습니다.

일반 소셜 미디어 사용자에게는 이 이미지가 AI가 만든 것인지 거의 알아차리기 어려웠지만, 일부 AI 연구자들은 결함이나 불규칙성을 식별할 수 있었습니다. 

에 따르면 Nick Waters, one such AI researcher:

“건물 울타리가 군중 방호막과 ‘이상하게’ 결합된 모습은 이미지가 인위적으로 제작되었거나 조작되었을 가능성을 보여줍니다.”

하지만 위조는 짧은 순간이라도 소셜 미디어와 그 밖에서 혼란과 혼동을 일으키는 목적을 달성했습니다. 

Adobe Stock에 수천 개의 가짜 이미지

워싱턴 포스트에 게재된 보고서에 따르면 AI가 만든 스톡 이미지가 만연합니다. Adobe Stock에서 ‘Ukraine War’라는 검색어로 검색하면 해당 전쟁에 대한 15,000개 이상의 가짜 이미지가 나타났습니다. 이 보고서는 실제로 일어나지 않은 Black Lives Matter 시위에서 수백 개의 AI 이미지가 대량 존재한다는 점도 언급했습니다.

마우이 산불에 대한 AI 생성 이미지도 수십 개 제공되었습니다. 이 이미지들은 사진기자들이 촬영한 실제 사진과 매우 흡사해 가짜와 진짜를 구분하기 어려웠습니다. 

실제처럼 보이는 뉴스 클립 사례

Forbes가 게시한 또 다른 보고서에 따르면, AI가 만든 가짜에 대해 틱톡과 유튜브 스타 Krishna Sahay는 주요 주류 뉴스 매체의 유명 앵커들의 실제와 같은 뉴스 클립을 생성하는 여러 소셜 미디어 사용자 중 한 명입니다.

CBS, CNN, BBC 등 많은 뉴스 기관의 앵커들이 이 목록에 포함됩니다. 이러한 비디오들은 딥페이크로도 알려져 있으며, 강력한 생성 AI 알고리즘이 앵커들의 모습과 목소리를 그대로 재현하는 시청각 콘텐츠를 만들게 됩니다.

보고서에 따르면 Krishna Sahay는 단독으로 수백만 명의 시청자를 보유하고 있습니다. Sahay의 비디오는 학교 총격 사건, 테러 공격, 범죄 사건 등 민감한 이슈에 대한 AI 조작 가짜 앵커들의 문제적 논평을 포함하고 있습니다.

딥페이크 전문가이자 UC 버클리 교수인 Hany Farid에 따르면, 이러한 비디오는 알려진 뉴스 앵커들의 인지도와 신뢰성을 ‘허위 정보를 전달하기 위한 설득력 있는 매개체’로 악용하고 있습니다.

Farid 교수는 다음과 같이 말합니다: “많은 경우에, 앵커들은 시청자에게 알려져 있고 신뢰받으며, 설사 그렇지 않더라도 일반적인 뉴스 포맷이 익숙해 더 신뢰받는다.” 그는 이러한 위협을 막기 위해서는 “그들의 외모와 목소리가 도용되는 사람들의 권리를 보호하는 데 더 진지해져야 한다”고 믿습니다.

가자 전쟁에서의 딥페이크

인터넷에서는 가자 전쟁과 관련된 딥페이크 비디오가 크게 급증했습니다. 이 문제에 대응하여, AI 전문 기술 기업 CREOpoint의 CEO인 Jean-Claude Goldenstein은 이러한 콘텐츠의 진위 여부를 평가하는 데 중요한 역할을 했습니다. 상황의 심각성을 인식한 회사는 가자에서 등장한 가장 바이럴한 딥페이크를 데이터베이스화하여 디지털 위협 대응에 중요한 발걸음을 내디뎠습니다.

Goldenstein에 따르면:

“사진, 비디오 및 오디오: 생성 AI와 함께, 지금까지 보지 못한 급격한 확대가 일어날 것입니다.” 

이 비디오들은 종종 과거 분쟁의 콘텐츠를 재활용합니다. 재난의 강도를 강조함으로써 강한 감정적 반응을 유도하려 합니다. 

생성 AI에 대한 깊은 이해 외에도, 이러한 딥페이크 제작 팀은 인간 심리와 사람들의 가장 깊은 충동과 불안을 겨냥하는 방법을 알고 있습니다. 

선전가, 음모론자, 테러리스트, 사기 조직의 손에 들어가면, 가짜 콘텐츠를 생성하는 AI 도구는 가장 치명적인 무기 중 하나로 진화했습니다. 이를 억제해야 할 필요성은 날이 갈수록 커지고 있습니다. 

이 증가하는 위협에 맞서 가장 효과적인 방법 중 하나는 출처의 진위를 보장하는 것입니다. 진위 보장을 위한 연구와 솔루션 개발이 활발히 진행 중이며, 다음은 몇 가지 실제 사례입니다.

인공지능 시대에 콘텐츠 진위를 어떻게 보장할 수 있나요?

소니의 카메라 내 인증 기술

소니 전자는 새로운 솔루션을 곧 선보일 예정입니다. AP와 협력하여 카메라 내 인증 기술의 2차 테스트를 완료했습니다. 

이 기술의 목적은 촬영된 이미지에 출처를 인증하는 출생 증명서를 부여하는 것입니다. 보다 구체적으로는 이미지 촬영 순간에 하드웨어 칩셋 내에서 생성되는 기계 기반 디지털 서명이 됩니다. 

소니 전자의 사장 겸 COO인 Neal Manowitz에 따르면, “카메라 내 인증 기술은 유의미한 결과를 보여주었으며”, 회사는 “더 넓은 출시를 위해 개발을 지속할 것”이라고 밝혔습니다.

소니 전자와 AP의 공동 현장 테스트는 올해 10월에 완료되었습니다. 이번 테스트 라운드의 목적은 캡처 인증 및 관련 워크플로우의 효율성을 평가하는 것이었습니다. 

이 프로젝트의 세 번째 협력자는 업계 표준 워크플로우 툴인 PhotoMechanic을 만든 CameraBits였습니다. 

CameraBits는 메타데이터 편집 과정을 통해 카메라의 디지털 서명을 보존하는 기술을 제공하는 역할을 했습니다. 

AP 사진 담당 이사인 David Ake에 따르면, “가짜 및 조작된 이미지는 뉴스 조직에 큰 우려 사항입니다. 이는 허위·오정보를 조장할 뿐만 아니라 궁극적으로 대중의 정확한 이미지에 대한 신뢰를 약화시킵니다.” 

카메라 내 서명 및 인증 기술은 2024년 봄에 여러 모델에 펌웨어 업데이트로 출시될 예정입니다.

소니 그룹 코퍼레이션은 시가총액 1,063.5억 달러, P/E 비율 19.49이며, 2022년 매출은 826.4억 달러였습니다.

딥페이크 음성 조작 방지 기술

AI 기반 기술은 현실적인 음성 합성 개발을 촉진했습니다. 원래 의도된 형태에서는 이 기술이 많은 이점을 제공할 수 있습니다. 개인화된 음성 비서 및 접근성을 향상시키는 기타 커뮤니케이션 도구를 개발하는 데 도움이 됩니다. 그러나 반대로 많은 이들이 딥페이크 비디오용 음성을 만들기 위해 이를 악용하고 있습니다. 

이 위협에 대응하기 위해 워싱턴 대학교 McKelvey School of Engineering의 컴퓨터 과학 및 공학 조교수 Ning Zhang는 AntiFake라는 도구를 개발했습니다. 이는 공격 후 탐지를 돕는 완화 도구가 아니라, 문제를 사전에 차단하는 선제적 도구입니다. 

Zhang 교수에 따르면:

“AntiFake는 우리가 음성 데이터를 공개할 때, 범죄자들이 그 정보를 이용해 우리의 목소리를 합성하고 사칭하기 어렵게 만듭니다.”

정교한 사이버 범죄자에 맞서기 위한 흥미로운 조치로, Zhang 교수는 그들에게 그들의 코인으로 보답하기로 했습니다. 그에 따르면:

“이 도구는 원래 사이버 범죄자들의 도구 상자에 있던 적대적 AI 기법을 사용하지만, 이제 우리는 이를 그들에 맞서 방어하는 데 활용하고 있습니다.”

AntiFake의 핵심 작동 원리는 녹음된 오디오 신호를 약간 왜곡하는 것입니다. 왜곡 정도가 미세하게 조정되어 인간 귀에는 정상적으로 들리지만 AI에게는 완전히 다른 것으로 인식됩니다. 

공개된 데이터에 따르면 AntiFake는 95% 이상의 보호율을 보였으며, 다양한 인구에게 접근성을 제공하는 데도 효능을 입증했습니다. 

진위 보장을 위한 블록체인 활용

OARO Media 솔루션은 블록체인의 불변성 특성을 활용해 딥페이크 위협에 맞섭니다. 이는 기업, 정부 기관 및 개인 사용자가 사진이나 비디오를 인증할 수 있는 불변의 데이터 트레일을 생성하는 데 도움을 줍니다. 

OARO Media가 사용자의 모바일 폰에서 작동하는 방식은 간단하면서도 혁신적입니다. 사용자는 SMS 웹 링크나 보험사의 앱을 통해 모바일 카메라에 접근합니다. 다음으로 시각 콘텐츠에 인증서가 발급되며, 여기에는 사용자 ID, 콘텐츠, 타임스탬프 및 GPS 좌표가 포함된 변조 불가능한 기록이 포함됩니다. 이 과정은 보험 산업이 청구를 인증하고 AI 생성 가짜와 진짜를 구분하는 데 도움을 줍니다. 

정보 전쟁의 일환으로 딥페이크 사용 차단

Sentinel의 안티 딥페이크 솔루션 및 서비스는 민주주의 정부, 방위 기관 및 기업이 악의적으로 생성된 AI 콘텐츠의 영향을 방지하도록 돕습니다. 이 회사는 유럽 연합 및 에스토니아 공화국 경제부와 협력했습니다. 그러나 이는 딥페이크가 유통된 후에 탐지하는 사후 대응 솔루션입니다. 

작동 방식은 네 단계의 간단한 흐름입니다. 첫 단계에서 사용자는 Sentinel 웹사이트나 API를 통해 디지털 미디어를 업로드합니다. Sentinel 시스템은 자동으로 미디어를 분석해 AI 위조 여부를 감지합니다. 이후 미디어가 딥페이크인지 여부에 대한 판정을 제공합니다. 마지막으로 사용자가 과정이 어떻게 진행되는지 시각화된 조작 과정을 보여줍니다. 

AI 속에서 진위 보장하기: 미래를 위한 번창하는 혁신 시나리오

AI가 만든 비진위 콘텐츠는 현실을 왜곡하고 악성 선전을 퍼뜨리는 강력한 도구입니다. 이러한 콘텐츠는 농담이나 소셜 미디어 좋아요와 같은 겉보기에 무해한 목적이라 할지라도 대규모 폭력을 촉발할 수 있습니다. 

그 영향은 국가 간 외교 관계, 서비스 기업과 사용자 간 상호작용, 개인 관계에 이르기까지 신뢰 감소로 확대됩니다. 따라서 전 세계 기술 연구자와 과학자들이 무분별한 가짜 콘텐츠의 위험성을 인식한 것은 긍정적인 신호입니다. 우리는 이미 이 문제를 다루는 여러 이니셔티브를 강조했습니다.

그 외에도 많은 사례가 있습니다. 예를 들어 Sensity는 시각 위협 인텔리전스 플랫폼을 개발하고 있습니다. 그들의 API는 이미 최신 AI 기반 조작 및 합성 기술을 탐지할 수 있습니다. 또 다른 스타트업인 Quantum Integrity는 이미지와 비디오 위조를 탐지할 수 있는 SaaS AI 솔루션을 선보였습니다.

사이버 범죄자들은 계속해서 새로운 기법을 고안해 우리를 속일 것이지만, 많은 기업이 이를 사전에 차단하고 물리칠 수 있을 것입니다. 혁신이 꾸준히 진행되는 한, 이 싸움은 더 이상 다윗 대 골리앗 구도가 아닙니다.

다섯 가지 융합 기술에 대한 투자를 모두 알아보려면 여기를 클릭하세요.