인공지능

논란이 되는 AI 훈련 전술, 증가하는 우려

David Hamilton
Securities.io를 Google의 선호 소스에 추가
공개: Securities.io는 검토한 제품 링크 이용 시 보상을 받을 수 있습니다. 이는 편집 평가에 영향을 주지 않습니다. 당사는 등록된 투자 자문사가 아니며, 이는 투자 조언이 아닙니다. 제휴 공개를 확인하세요.
AI Training Tactics
핵심 포인트메타와 오픈AI 같은 AI 기업들은 그림자 도서관에서 불법 복제된 도서 데이터를 모델 학습에 사용한 혐의로 소송에 직면해 있습니다.
더 보기
  • 메타와 오픈AI 같은 AI 기업들은 그림자 도서관에서 불법 복제된 도서 데이터를 모델 학습에 사용한 혐의로 소송에 직면해 있습니다.
  • 딥시크는 ChatGPT의 출력 결과를 활용해 600만 달러로 경쟁 AI를 구축했으며, 이로 인해 지적 재산권 침해 논란이 일고 있습니다.
  • AI 모델이 허가나 보상 없이 저작권이 있는 작품을 학습 데이터로 사용함에 따라 콘텐츠 제작자들은 보상 요구를 강화하고 있습니다.

AI 훈련 전술은 감독 부재로 인해 계속해서 면밀히 검토되고 있습니다. 현대 작가들이 이전 이야기에서 영감을 얻거나 일부 요소를 차용하는 것은 흔한 일입니다. 이러한 관행이 글쓰기의 진화의 일부이긴 하지만, 저자의 작품과 스타일이 동의 없이 복제되는 경우도 있습니다.

이러한 상황이 발생하면, 현대 저작권 침해법은 원본 콘텐츠 제작자가 손실을 회복할 수 있도록 허용합니다. 그러나 불법적으로 획득한 작품을 사용해 모델을 개발한 AI 시스템이 늘어나고 있는 현실은 마찬가지로 말할 수 없습니다. 이제 업계는 훈련 전술과 손실을 겪은 이들에 대한 보상의 교차로에 서 있습니다. 알아두어야 할 내용은 다음과 같습니다.

논란이 되는 AI 훈련 전술

최근 다수의 소송은 OpenAI와 META (META )가 모델 훈련을 위해 라이브러리 데이터를 확보할 때 고의적으로 우회 방법을 찾았다고 주장합니다. 소송 원고들은 해당 기업이 저자들로부터 보상이나 언급조차 없이 수백만 달러를 훔칠 가능성을 알고도 신경 쓰지 않았다고 주장합니다.

이와 같은 주장들은 AI 경쟁이 저작권법에 대한 기본적인 무시를 초래했다고 믿는 많은 사람들에게 큰 놀라움이 아닙니다. 따라서 작가들은 AI 개발자들에게 데이터가 어떻게 수집되고 처리되는지에 대한 더 많은 투명성을 요구하며 지속적으로 반발하고 있습니다.

아직 대중에게 명확한 방안이 제시되지 않았지만, 증거가 AI 기업들을 향해 쌓이고 있습니다. 이러한 증거는 향후 AI 개발자들이 사용하는 훈련 전술에 광범위한 변화를 가져올 수 있습니다.

기업이 모델을 만들 때 사용하는 훈련 전술

AI 시스템을 훈련하는 것은 복잡한 과정으로, 다양한 출처에서 방대한 데이터를 수집하고 처리하는 것을 포함할 수 있습니다. 이 데이터는 AI 시스템이 질문에 답하거나 새로운 상황을 파악하려 할 때 참조하는 기반이 됩니다. 따라서 대부분의 AI 시스템은 참조할 데이터가 많을수록 성능이 향상됩니다.

AI 만들기

AI 모델을 만드는 주요 방법은 데이터 수집입니다. 과거에는 데이터 수집이 시간이 많이 소요되는 과정으로, 엔지니어가 처음부터 구축하기보다 기존 데이터베이스를 찾아야 했습니다. 예를 들어, 의료 제공자는 국가 보건 통계를 활용하여 보다 관련성 높은 의료 답변을 제공하는 AI를 개발할 수 있습니다.

그 다음 개발자는 어떤 알고리즘을 선택할지 결정합니다. 주요 옵션으로는 지도 학습, 비지도 학습, 반지도 학습, 강화 학습, 선형 회귀, 딥 러닝, 랜덤 포레스트, 나이브 베이즈, 그리고 신경망이 있습니다. 각각의 알고리즘은 고유한 장단점을 제공하여 특정 작업에 더 적합하게 만듭니다.

마지막으로 반복적인 훈련 과정이 시작됩니다. 이 단계에서 모델은 질문을 받고 제공된 정확도와 성능에 대해 평가받습니다. 이 단계는 엔지니어가 모델을 미세 조정하고 검증하여 기능을 향상시킬 수 있게 해줍니다. 또한 모델이 단순히 암기하는 것이 아니라 훈련 데이터로부터 지속적으로 학습하도록 보장하는 데 도움이 됩니다.

Source - Uptech.team

출처 – Uptech.team

현재 AI 훈련 전술은 비용이 많이 듭니다

AI 모델 훈련 과정은 시간과 비용이 많이 들며 두 가지 주요 범주: 훈련과 실행으로 나눌 수 있습니다. 훈련은 특정 모델을 만드는 일회성 비용을 의미합니다. 예를 들어, ChatGPT는 4o 모델에 약 1억 달러(100M)를 투자했다고 회사 CEO인 Sam Altman이 밝혔습니다.

특히, 이러한 비용은 이전 모델 비용을 크게 초과합니다. 예를 들어, ChatGPT-3를 훈련하는 데는 약 400만 달러(4M)가 필요했습니다. AI 훈련 비용이 상승하는 것은 더 많은 계산 요구량 때문이며, 최신 모델은 최신 NVIDIA (NVDA ) 칩에서 실행되어 비용이 추가됩니다.

또한 AI는 클라우드 컴퓨팅 가격을 상승시켰습니다. 대부분의 AI 애플리케이션은 사용자의 PC에서 직접 실행되지 않으며, 최신 데이터 센터와 클라우드 컴퓨팅 알고리즘에 의존해 방대한 계산 요구를 지원합니다. 이러한 모든 요인이 AI 프로그래밍을 비용이 많이 들게 만들었습니다.

AI 마켓플레이스

최근 AI 훈련 마켓플레이스 수가 급증한 것은 비용 절감을 목표로 하는 새로운 개발이 늘어나고 있음을 나타냅니다. AI 마켓플레이스는 개발자, 콘텐츠 제작자 및 AI 통합을 원하는 이들이 만날 수 있는 장을 제공합니다. 개발자는 이미 구축된 모델을 찾아 필요에 맞게 향상하거나 미세 조정함으로써 시간과 자금을 크게 절약할 수 있습니다.

런타임 비용

AI 시스템의 런타임 또는 추론 비용은 개발자가 고려해야 할 또 다른 비용입니다. 추론 비용은 AI와의 각 상호작용에 드는 금액을 의미합니다. 오늘날 많은 AI 시스템의 운영 비용이 높은 이유는 정확하고 유용한 응답을 제공하기 위해 모델 내 모든 데이터를 접근해야 하기 때문입니다. 이는 AI가 고성능 장비를 자주 활용해야 함을 의미하며, 이러한 요구는 시스템에 상당한 비용을 추가합니다.

오늘날 AI 훈련 전술은 윤리적인가?

오늘날 거대 AI 기업들이 사용하는 훈련 전술과 전략을 살펴보면, 업계 내에 윤리적·도덕적으로 도전적인 입장이 존재함을 쉽게 알 수 있습니다. 최고의 AI 시스템을 만들기 위해서는 개발자가 모델에 가치 있고 정확한 데이터를 제공해야 합니다. 그러나 일부 개발자는 전체 데이터에 대한 저작권 승인을 받는 비용이 천문학적이라 혁신을 억제한다고 주장합니다.

국제 저작권법은 저작물, 스타일, 이미지 등에 대한 무단 사용으로부터 저자를 보호합니다. AI 시스템은 사람, 장소, 정보, 이야기를 거의 정확히 복제하여 사용할 수 있는 법적 허점을 발견한 것으로 보이며, 현재까지 큰 법적 반발은 보고되지 않았습니다.

하지만 콘텐츠 제작자들 사이에서는 이러한 시스템이 불법적으로 그들의 작품을 획득한 뒤, 형식, 어조, 스타일을 복제하는 AI 모델을 훈련시키는 데 사용했다는 인식이 커지고 있습니다. 최근 공개된 내용에 따르면 OpenAI의 훈련 모델에서 저작권이 있는 책이 불법적으로 사용된 증거가 드러났습니다.

OpenAI 소송

OpenAI 소송에서 원고들은 개발자들이 대규모 도서 컬렉션에 대한 비용을 회피하기 위해 그림자 도서관을 고의적으로 사용했다고 주장합니다. 그림자 도서관은 저작권이 있는 작품을 무료로 제공하는 온라인 플랫폼을 말합니다. OpenAI 소송에 언급된 도서관으로는 LibGen, Bok, Sci-Hub, Bibliotik이 포함됩니다.

이 소송은 OpenAI와 META가 저작권법을 회피하고 있다는 사실을 알고 있었다는 것을 입증하려 합니다. 기업들이 그림자 도서관 및 기타 무료 소스를 활용해 훈련 비용을 크게 낮추는 동시에 저자들의 정당한 보상을 빼앗았다는 점을 보여줍니다.

이러한 주장에 대한 대응으로 META는 처음에 해당 행위를 알지 못한 척했습니다. 그러나 회사가 그림자 도서관에서 81.7테라바이트 이상의 데이터를 토렌트로 다운로드했으며, 이는 수백만 건의 작품에 해당한다는 내용을 밝힌 이메일이 공개되면서, 회사가 자신의 행동을 완전히 이해하고 있었다는 것이 드러났습니다.

META 비공개 이메일

역설적으로, 내부 이메일이 회사가 그림자 도서관을 사용하기로 한 결정의 의문스러운 성격을 충분히 인식하고 있었음을 밝혔습니다. 비공개 이메일에서 Nikolay Bashlykov라는 걱정하는 엔지니어는 프로젝트의 도덕성을 질문한 뒤, 계획의 합법성에 대해 농담을 했습니다.

후속 이메일에서 해당 직원은 META IP 주소를 사용해 토렌트로 불법 콘텐츠를 로드하는 것에 대해 우려한다고 밝혔습니다. 이 문제가 될 수 있음을 인식한 META는 엔지니어들에게 Facebook이나 META와 연결되지 않은 외부 서버에서 데이터를 다운로드하도록 지시했습니다.

상위층의 명령

처음에 META의 토렌트 참여에 대해 질문받았을 때, Mark Zuckerberg는 해당 과정에 대해 전혀 모른다고 답했습니다. 그러나 비공개 이메일은 그와는 달리, 비-FB 서버 사용 결정이 Zuckerberg의 직접 승인 후에 이루어졌음을 보여줍니다.

AI 개발자들이 도난된 콘텐츠를 사용하고 있는가?

제시된 증거와 AI 역량의 급격한 향상을 고려하면, 많은 AI 시스템이 그림자 도서관 및 기타 수단을 이용해 보다 효과적인 훈련 모델을 구축하고 있다는 것이 명백해 보입니다. 이러한 데이터셋에는 저자나 출판사의 동의 없이 AI 모델 훈련에 사용된 저작권이 있는 자료가 포함되어 있습니다.

불법인가?

오늘날 가장 진보된 AI 모델에서 불법 복제 자료 사용을 부인하기가 점점 어려워지고 있지만, 이러한 관행의 합법성은 여전히 논란이 됩니다. 아직까지 AI 기업이 저작권 침해법에 적용된 사례는 없습니다. 또한 AI 경쟁이 한창인 가운데, 많은 정치인들은 지역 AI 시스템의 데이터 접근을 제한하는 것이 혁신을 저해한다고 보고 있습니다. 따라서 전통적인 절도와 같은 방식으로 AI 저작권 침해에 대응하려는 움직임이 활발하지 않을 수 있습니다.

소송이 급증하고 있다

규제 당국이 AI 기업에 압박을 가할 준비가 아직 되지 않았을 수 있지만, 콘텐츠 제작자들은 충분히 지쳐 있습니다. 자신의 콘텐츠가 불법적으로 획득, 배포, 복제되어 어떠한 보상도 받지 못했다고 주장하는 실망한 작가들로부터 소송이 계속해서 제기되고 있습니다.

최근 Joseph Saveri 법률 사무소는 이 사안에 대해 미국 연방 집단 소송을 제기했습니다. 이 소송은 Sarah Silverman 및 기타 작가들을 대리해 OpenAI와 META를 상대로 제기된 것으로, 제품이 형식과 스타일을 복제함으로써 발생한 손실에 대한 보상을 요구합니다.

이 집단 소송은 디지털 밀레니엄 저작권법(DMCA) 위반, 형사 과실, 불공정 경쟁법 위반 등을 다수 주장합니다. 소송의 목표는 저자들을 위한 공정한 보상 및 보호 전략이 마련될 때까지 이러한 훈련 전술에 대한 영구적인 금지 명령을 얻는 것입니다.

DeepSeek은 ChatGPT에 의해 훈련되었는가?

역설적으로, ChatGPT는 중국 AI 스타트업 DeepSeek이 시장에 파문을 일으킨 후, AI 시스템으로부터 지적 도둑질의 피해자라고 주장했습니다. DeepSeek은 지난달 회사가 인상적인 성능, 낮은 비용, 고급 기능을 공개하면서 큰 관심의 물결을 일으켰습니다.

OpenAI 개발자들은 DeepSeek이 ChatGPT 데이터를 사용해 모델을 프로그래밍했다고 비난했으며, 이를 통해 경쟁보다 뛰어나면서 비용도 훨씬 낮은 모델을 만들 수 있었다고 주장합니다. 비교하면 DeepSeek은 약 600만 달러(6M)의 비용으로 ChatGPT와 동등한 성능을 달성했으며, ChatGPT는 1억 달러(+$100M)를 사용했습니다.

또한 DeepSeek은 독특한 구성 덕분에 훨씬 적은 컴퓨팅 파워를 활용합니다. DeepSeek의 추론 비용은 여러 특수 모델을 사용하고 단일 거대 모델을 사용하지 않기 때문에 ChatGPT보다 훨씬 낮습니다.

따라서 DeepSeek은 질문에 따라 모델을 활성화하기만 하면 되므로 훨씬 저렴하고 강력한 NVIDIA 칩을 적게 사용합니다. 구체적으로 DeepSeek은 최신 Claude 3.5 Sonnet 모델을 실행하는 비용의 1/50만을 사용해 장기적으로 기업에 더 비용 효율적인 솔루션이 됩니다.

그것은 차용한다

흥미롭게도 DeepSeek은 “사고” 스크립트를 개발하기 위해 ChatGPT를 사용한 것을 부인하지 않습니다. 원본 DeepSeek 백서에서도 이 과정을 설명하고 있습니다. 엔지니어들은 이 접근 방식이 DeepSeek에 더 정확한 정보를 제공해 증류 과정을 가속화할 것이라고 판단했습니다.

또한 경쟁사의 AI 모델을 프로그래밍하는 데 사용된 데이터가 DeepSeek에 사용되지 않도록 보장했습니다. 그 결과, 전임자를 능가하고 운영 비용이 극히 적은 보다 효율적인 시스템이 탄생했습니다. 물론, 많은 사람들은 DeepSeek이 해당 시스템을 활용해 자체 모델을 만들었다면 ChatGPT의 비용을 예산에 포함시켜야 한다고 주장합니다.

DeepSeek 정체성 위기

최근 기사에서 AI 연구자는 DeepSeek이 ChatGPT에서 많은 것을 차용했는지 확인하기 위해 원천에 접근했습니다. 그는 LLM에게 DeepSeek이 Google의 경쟁사인 Gemini보다 더 똑똑하다고 생각하는지 물었고, 역설적으로 LLM은 “ChatGPT라고 생각한다”고 답했습니다. 이 폭로는 DeepSeek이 ChatGPT로부터 방대한 데이터를 수집했다는 증거로 많은 이들에게 받아들여졌습니다.

콘텐츠 제작자에게 AI 사용에 대한 보상이 이루어져야 하는가?

시장 내에서 콘텐츠 제작자에 대한 우려가 커지고 있습니다. AI 시스템이 발전함에 따라 더 많은 저작권이 있는 자료를 흡수하게 될 것입니다. 과거에는 엔지니어들이 기업이 저작권 관리 정보를 비활성화해 행동이 적발될 위험을 낮추는 것을 보았습니다. 그러나 상황이 바뀌고 있습니다.

2023년 7월, 8,000명 이상의 작가들이 서한에 서명하여 META CEO Mark Zuckerberg, OpenAI CEO Sam Altman, Alphabet CEO Sundar Pichai, Stability AI CEO Emad Mostaque, IBM CEO Arvind Krishna, Microsoft (MSFT ) CEO Satya Nadella에게 보냈습니다. 서한은 AI가 “우리의 언어, 이야기, 스타일, 아이디어를 모방하고 되풀이한다”고 명시하며 보상과 인정을 요구합니다.

미국 작가 조합(Writers Guild of America)과 배우 조합(Screen Actors Guild)도 AI 분야에서 그들의 작품 사용에 대해 목소리를 높이고 있습니다. 그들은 작품이 AI 모델을 만드는 데 사용될 때 작가들에게 특정 권리와 보상을 보장하려고 합니다.

훈련 전술 옵션이 등장하다

현재 설정의 한계와 실질적인 정당한 진전이 부족함을 인식한 BookCorpus는 더 나은 해결책을 제시하고자 했습니다. 이 회사는 2015년에 설립되어 AI 연구자들이 LLM을 훈련하는 것을 지원하는 것을 목표로 했습니다. 따라서 윤리적 경계를 넘지 않으면서 성능을 향상시키기 위해 수천 개의 작품과 모델을 포함하고 있습니다.

이미 다수의 AI 중심 서비스 제공업체가 시장에 진입하고 있습니다. 이들 기업은 귀중한 데이터와 모델 등에 대한 접근을 결합합니다. AI 계산 요구 사항을 충족하도록 맞춤화되어 있으며, 종종 클라우드 컴퓨팅 옵션을 제공해 개발 비용을 추가로 절감합니다.

AI LLM 혁신을 이끄는 기업들

LLM의 부상으로 누구나 이 시스템과 상호작용하기가 그 어느 때보다 쉬워졌습니다. 간단한 채팅 프롬프트만으로도 심층 연구를 수행하고, 이미지와 이야기를 만들며, 그 외 다양한 작업을 할 수 있습니다. 따라서 LLM은 인생에서 가장 큰 컴퓨터 인터랙션 기술 혁신 중 하나로 여겨집니다. 여기 LLM 시장에서 지속적으로 혁신을 주도하고 있는 한 기업을 소개합니다.

Alphabet Inc

Alphabet Inc. (GOOG )는 Google 및 그 다수의 자회사의 모회사이며, AI 분야에서 가장 인지도가 높고 성공적인 기업 중 하나입니다. 흥미롭게도 엔지니어들은 회사의 다른 모델인 Google DeepMind를 활용해 Google의 Gemini LLM을 만들었습니다. Gemini는 번역, 콘텐츠 이해, 질문 답변 등 다양한 기능을 제공하는 고급 LLM입니다.

특히 Google DeepMind는 기업을 위한 LLM 및 새로운 기능을 개발하는 데 매진하고 있습니다. 예를 들어, 새로운 SELF-DISCOVER 기능은 모델 내에서 작업별 아키텍처를 생성해 정확한 답변에 필요한 전체 시간을 단축합니다.

GOOG 가격 차트

Google이 시장에서 차지하는 지배력, 방대한 데이터에 대한 직접 접근, 그리고 목적에 맞춘 모델로의 지속적인 확장을 고려할 때, GOOG는 보유하기에 현명한 주식입니다. 이 회사는 전 세계적으로 최고의 AI 제공업체 중 하나이며, 기술을 통합하고 대중에게 효과적으로 확장할 수 있는 네트워크와 재정을 보유하고 있습니다.

미래에 훈련 전술은 어떻게 변할 것인가

산업이 확장됨에 따라 AI 훈련 전술은 데이터에 더 정교한 AI 시스템을 활용하게 될 것입니다. DeepSeek은 그 접근 방식으로 비용을 크게 낮춘 사례를 보여주었습니다. 또한, 기업이 직접 데이터를 사용하지 않고 다른 AI가 만든 데이터를 활용한다면 저작권 침해를 주장하기가 더욱 어려워질 것입니다.

이 모든 요인과 정부가 AI 경쟁을 선도하려는 수요가 증가함에 따라 콘텐츠 제작자들은 매우 위험한 상황에 처하게 되었습니다. 앞으로 몇 달 안에 AI 개발자들이 성공을 위해 활용하는 데이터 제공자들을 존중하고 보상하는 보다 효과적인 훈련 전술을 만들기를 기대합니다.

다른 멋진 AI 프로젝트에 대해 알아보세요 지금.

David Hamilton은 전임 기자이며 오랜 시간 비트코인에 관심을 가지고 있습니다. 그는 블록체인에 관한 기사를 작성하는 데 전문가입니다. 그의 기사들은 여러 비트코인 출판물에 게재되었으며, 포함된 출판물은 Bitcoinlightning.com입니다.