인공지능
Conversion AI는 기술적 정체를 피하는 핵심이 될 수 있다
Securities.io를 Google의 선호 소스에 추가
콘텐츠에 대한 수요는 꾸준하고 급격한 성장을 보이고 있습니다. 성장률에 대한 현실적인 파악을 위해 Adobe (ADBE ) 는 2,600명의 고객 경험 및 마케팅 전문가 주요 글로벌 경제권 전역에서.
Adobe가 2023년 3월에 발표한 설문 결과에 따르면, 지난 2년 동안 콘텐츠 수요가 최소 두 배 이상 증가한 것으로 나타났습니다. 약 3분의 2는 콘텐츠의 미래에 대해 더욱 낙관적이었습니다. 그들은 향후 20시간 안에 수요가 5배에서 20배까지 증가할 것으로 예상했습니다.
이러한 수요에 대응하기 위해 기업들은 새로운 콘텐츠 제작 모델을 채택해야 했습니다. World Federation of Advertisers, 주요 국제 기업의 절반 이상이 사내 콘텐츠 제작 역량을 개발했습니다. 하지만 그것만으로 충분할까요? 그렇지 않습니다. Conversion AI가 이 도전에 맞섰습니다.
Conversion AI란 무엇인가?
Conversion AI는 인공지능을 활용하여 기업이 고객과 더 나은 대화를 나누고 판매를 증대하도록 돕는 것입니다. 이를 위해 글쓰기, 이미지, 음성 등 다양한 콘텐츠를 생성·개선·관리하는 데 도움을 줍니다. 이러한 스마트 AI 기술을 통해 기업은 청중의 관심을 끌고, 그들에게 공감되는 콘텐츠를 제작하며, 경험을 향상시킬 수 있습니다.
오늘날 기업들은 Conversion AI를 사용하여 Facebook 및 Google 광고 카피, 웹사이트 콘텐츠, 소셜 포스트 등 다양한 콘텐츠 마케팅 목표를 달성할 수 있습니다. 하지만 Conversion AI가 이를 어떻게 가능하게 할까요? 그 기반 기술은 무엇일까요? 이를 위해서는 대규모 언어 모델(LLM)에 대해 알아야 합니다.
대규모 언어 모델이란?
이는 방대한 텍스트와 데이터로부터 학습할 수 있는 AI 유형입니다. 이러한 AI 모델은 수천억 개의 데이터 포인트를 처리하여 의미 있는 통찰, 전략 및 예측을 도출하는 사례가 있습니다.
LLM의 기원 간략히
현대의 LLM은 2017년, 즉 6년 전 등장했습니다. 이러한 LLM은 많은 수의 파라미터를 다룰 수 있는 트랜스포머 모델을 활용하여 빠르게 정확한 응답을 이해하고 생성합니다.
4년 후인 2021년에 Stanford Institute for Human-Centered Artificial Intelligence는 ‘foundation models’라는 용어와 개념을 제시했습니다. 이 명칭은 이러한 대규모이며 영향력 있는 모델들이 추가 최적화와 활용 사례를 위한 기반을 제공한다는 의미에서 비롯되었습니다. LLM의 발전으로 특히 텍스트 형태의 콘텐츠 생성이 크게 변화했습니다.
LLM의 영향
ARK Invest의 연구에 따르면, 지난 2년 동안 LLM의 글쓰기 품질이 크게 향상되었습니다. 이는 LLM 기반 솔루션에 대한 신뢰와 활용이 증가하여 콘텐츠를 생성하는 데 기여했습니다.
그 결과, 텍스트 콘텐츠 작성 비용이 크게 감소했습니다. 지난 세기 동안 실질적으로는 약 1,000단어당 100달러 수준으로 비교적 일정했으나, 최근 2년간 그 비용은 0.10달러 이하로 떨어졌습니다.
AI 학습 성능이 급속히 향상됨에 따라 성능과 생산성도 더욱 개선될 전망입니다. 연구자들은 학습 및 추론, 하드웨어, 모델 설계 분야에서 혁신을 이루어 성능을 높이고 비용을 낮추고 있습니다. 2023년을 기준으로 2024년에는 성능이 5배 이상 향상될 것으로 예상됩니다.
여러 알고리즘 혁신으로 LLM의 글쓰기 능력과 생산성·성능이 크게 향상되었습니다. 예를 들어 인간 피드백을 활용한 강화 학습이 큰 도움이 되었으며, 프롬프트는 인간이 만든 것보다 50% 이상 우수하도록 최적화되었습니다.
Speculative Decoding 기능은 특정 모델에서 추론 속도를 2~3배 가속화했습니다. 연구자들은 추론 비용을 우선시하는 데에도 적극적이며, 그 결과 연간 약 86% 수준으로 추론 비용이 감소하고 있어 학습 비용보다 빠르게 감소하고 있습니다. GPT 모델은 Flash Attention 2를 통해 학습 속도가 거의 3배 빨라졌습니다.
이러한 급속한 개선과 향상이 진행되는 가운데, LLM 사용에 잠재적인 정체가 임박했는지, 그리고 이를 피할 수 있는지에 대한 조사도 진행 중입니다.
2023년이 인공지능의 돌파 연도가 된 이유를 알아보려면 여기를 클릭하세요.
LLM의 잠재적 정체와 회피 방안
연구자들은 LLM이 데이터 고갈로 인해 성능이 제한되는 시나리오를 조사하고 있습니다. LLM은 지속적인 학습과 향상을 위해 대량의 학습 데이터를 지속적으로 공급받아야 합니다. 그러나 컴퓨팅 파워와 학습 데이터 부족이 우려되는 상황입니다.
Epoch AI의 추정에 따르면, 책과 학술 논문 등 고품질 언어/데이터 소스는 2024년까지 고갈될 수 있습니다. 따라서 그때는 아직 탐색되지 않은 비전 데이터의 더 큰 집합을 활용해야 합니다. LLM이 정체를 피하는 데 도움이 되는 이러한 미탐색 비전 데이터에는 음성 및 기타 물리적 세계 데이터가 포함됩니다.
연구에 따르면 매년 30경 단어가 발화됩니다. 음성-텍스트 변환기 및 유사 도구는 매일 80조 단어 이상을 포착합니다. 또한 택시, 트럭, 드론 등 로봇 차량은 물리적 세계 데이터와 기본 데이터를 보강하는 합성 데이터를 대량으로 생성합니다. 이러한 미탐색 데이터는 비교할 수 없는 풍부한 자원으로 작용하여 LLM을 더욱 향상시킬 수 있습니다.
하지만 성능·생산성·품질 향상은 미탐색 데이터 채굴만으로 이루어지는 것이 아닙니다. 여러 혁신적인 기업들이 전반적인 상황을 개선하기 위해 다각적인 노력을 기울이고 있습니다.
#1. Replit AI
생산성 향상 측면에서 Replit AI는 주요 성공 사례 중 하나입니다. 코딩 어시스턴트로서 소프트웨어 개발자의 생산성과 직무 만족도를 높였습니다. 반복적인 코딩 작업을 없애고 창의적인 작업에 집중할 수 있도록 돕습니다.
Replit AI는 탭 전환이 필요 없는 AI 코드 생성기를 통합하여 코딩을 간소화하고 자동 완성 코드 제안을 제공해 작업 속도를 높입니다. Code Context 기능을 통해 다음에 필요한 코드를 작성하고 프로젝트 이해도를 향상시키며, 문제를 사전에 감지해 원활한 편집기 인터페이스 내에서 직접 해결 방안을 제시합니다.
전체적으로 Replit AI는 Complete Code, Generate Code, Edit Code, Explain Code 등 효율적인 AI 코드 생성 기능을 제공하는 제품군입니다.
Replit AI의 기반은 LLM입니다. 공개된 코드를 학습하고 Replit이 튜닝한 대규모 언어 모델을 활용해 결과를 반환합니다. 대화형 프롬프트와 사용 중인 프로그래밍 언어를 고려해 생성된 코드에 대한 제안 및 설명을 제공합니다.
Replit AI의 기능은 모든 사용자에게 무료로 제공됩니다. 필요한 것은 Replit 계정뿐입니다. Replit AI는 JavaScript와 Python 코드에서 가장 뛰어나지만 Bash, C, C#, C++, CSS, Go, Java, JavaScript, HTML, PHP, Perl, Python, R, Ruby, Rust, SQL 등 16개 언어를 지원합니다.
최신 정보에 따르면, 회사가 모금한 금액은 US$97.4 million를 US$1.16 billion 평가액으로 조달했습니다.
#2. Github Copilot
Replit AI와 유사한 또 다른 코딩 지원 서비스인 Github Copilot은 2023년에 개발자들의 코딩 작업 생산성을 2.2배 향상시켰습니다. Github Copilot은 소프트웨어 개발 전 과정에 걸쳐 상황에 맞는 지원을 제공합니다.
소비자 만족도 조사에 따르면, Github Copilot을 사용하는 개발자는 사용하지 않는 개발자에 비해 업무 만족도가 최대 75% 높으며 코드 작성 생산성이 최대 55% 더 높고 품질을 저하시키지 않습니다.
Github Copilot은 GitHub의 공개 저장소를 포함한 공개 소스에서 자연어 텍스트와 소스 코드를 학습합니다. 공개 저장소에 존재하는 모든 언어를 학습하지만, 저장소에 적게 나타나는 언어는 효과가 떨어질 수 있습니다. Github Copilot은 개인 개발자, 프리랜서, 학생, 교육자, 오픈소스 유지보수자 등이 사용할 수 있습니다.
Microsoft 제품 부사장의 공개 발언에 따르면 Mario Rodriguez, GitHub Copilot은 번창하고 있으며 연간 1억 달러 규모의 수익을 창출하고 있습니다.
#3. MosaicML
MosaicML은 LLM 훈련을 지원하며, 모든 사람에게 생성형 AI를 제공하는 솔루션으로 사용자 데이터에 대한 모델 훈련 및 배포에 필요한 모든 것을 제공합니다. MPT Foundation Series는 오픈소스 및 상용 라이선스 모델 모두에서 실행되는 애플리케이션에 LLM을 손쉽게 통합할 수 있게 합니다.
MosaicML 훈련은 개발자가 전체 데이터 제어 하에 모델을 사전 훈련하거나 미세 조정할 수 있게 하며, S3 버킷을 지정하는 하나의 명령으로 과정을 단순화합니다. 이 플랫폼은 오케스트레이션, 노드 장애, 인프라 관리를 효율적으로 처리하며, Replit이 Mosaic ML을 사용해 Ghostwriter LLM을 훈련시켜 일주일 만에 선도적인 결과를 얻은 사례가 있습니다.
MosaicML은 모든 클라우드 환경에서의 훈련 접근 방식을 데이터 프라이버시, 보안, 완전한 모델 소유권을 강조합니다. 클라우드 간 원활한 전환을 지원하는 기능을 제공하며, 전체 데이터 소유권, 비즈니스 요구에 맞춘 콘텐츠 필터링, 기존 데이터 파이프라인과의 플러그인-플레이 통합을 제공해 클라우드에 구애받지 않고 엔터프라이즈 수준을 입증했습니다.
전년 6월, Mosaic ML이 Databricks에 인수된 13억 달러 규모는 시장에 큰 영향을 미치고 가치 제안을 강조했습니다.
#4. Anthropic
Anthropic의 대표 제품인 Claude는 두 모델, Claude와 Claude Instant에서 실행됩니다.
Claude는 Anthropic의 가장 강력한 모델로, 정교한 대화와 창의적 콘텐츠 생성부터 상세한 지시까지 다양한 작업에 뛰어납니다. 복잡한 추론, 창의성, 사려 깊은 대화, 코딩, 상세한 콘텐츠 제작이 필요한 상황에서 우수한 성능을 발휘합니다.
Claude Instant는 Claude의 더 빠르고 저렴한 버전으로, 일상적인 대화, 텍스트 분석, 요약 및 문서 이해에 도움을 줍니다. 낮은 비용으로 성능이 요구되는 상황에 적합하며, 지연 시간이 감소된 상태로 작업을 수행합니다.
전반적으로 Claude는 대량 텍스트 처리, 자연스러운 대화, 답변 제공, 워크플로 자동화에 적합합니다. 고객 서비스, 법률, 코칭, 검색, 백오피스 업무 등 다양한 활용 사례에 활용될 수 있습니다.
보도에 따르면 2023년 12월 말, OpenAI의 경쟁자로 여겨지는 Anthropic은 184억 달러 평가액으로 7억 5천만 달러 규모의 자금 조달을 논의 중이었습니다.
#5. Humata
Humata를 사용하면 긴 기술 논문을 손쉽게 스킵할 수 있습니다. Humata PDF AI는 발견 내용을 요약하고, 문서를 비교하며, 답변을 검색하는 데 도움을 줍니다. 파일 크기 제한 없이 무제한 파일 업로드를 지원합니다. 문서 AI 답변에는 인용이 포함되어 있어 통찰이 어디서 왔는지 추적할 수 있습니다.
PDF용 ChatGPT와 유사하게 만족스러울 때까지 요약을 재작성할 수 있습니다. 그러나 ChatGPT와 달리 Humata는 파일을 다루고, 업로드된 모든 파일을 읽으며, 문서 내용에 기반한 답변을 생성합니다.
2023년 10월 2일, Humata AI는 성공적인 완료를 발표했습니다 최신 펀딩 라운드에서 구글의 Gradient Ventures, Cathie Wood의 ARK Invest, M13 및 기타 주요 엔젤 투자자로부터 350만 달러를 유치했습니다.
#6. OpenAI
마지막으로, AI와 그 LLM 학습 및 콘텐츠 생성 기능에 대한 논의는 OpenAI를 언급하지 않고는 완전하지 않습니다. OpenAI는 대량 데이터를 활용한 딥러닝 기술로 생성 모델을 구축하는 가장 유명한 기업입니다.
OpenAI는 채팅, 이미지, 오디오 서비스를 제공합니다. 1750억 파라미터로 학습된 자동 회귀 언어 모델인 GPT-3가 대표적이지만, 사용자 의도를 더 잘 따르는 언어 모델도 개발했습니다.
이미지 관련 제품 중 OpenAI의 생성 모델 연구는 텍스트와 이미지를 연결하는 CLIP과 텍스트 설명으로 생생한 이미지를 생성하는 DALL·E와 같은 표현 모델을 탄생시켰습니다.
또한 오디오 분야에서는 Whisper, Jukebox, Musenet을 개발했습니다. Whisper는 강력한 영어 음성 인식 기능을 제공하고, Jukebox는 다양한 장르와 아티스트 스타일의 음악을 생성합니다. MuseNet은 다양한 악기로 완전한 음악 작품을 생성할 수 있는 심층 신경망입니다.
보도에 따르면 2023년 12월 말, OpenAI는 1천억 달러 이상의 평가액으로 새로운 펀딩 라운드를 조기에 논의 중이었습니다.
정체를 넘어: 앞으로의 길
인공지능은 짧은 시간 안에 콘텐츠 생성 분야를 수백만 마일 전진시켰습니다. 앞으로는 데이터와 함께 성장하는 컴퓨팅 시스템과 소프트웨어가 난제들을 해결하며 더욱 밝고 번영할 것입니다.
모든 산업 분야는 반복적이고 시간 소모적인 지식 작업을 자동화함으로써 기술을 보다 효과적으로 활용할 수 있게 됩니다. GPT-4와 같은 모델은 생산성을 높이고, 오픈소스 AI 모델은 운영 비용을 크게 낮추며 효율성을 급격히 향상시킬 것입니다. 연구자들은 2030년까지 기술 정체를 피할 뿐만 아니라 지식 노동자의 생산성을 4배로 늘릴 것으로 예상합니다.
이는 기술 생태계에서 대규모 언어 모델의 중요성을 강조합니다. LLM은 이러한 모든 과정에서 핵심적인 역할을 수행했으며, ChatGPT와 같은 제품이 AI에 대한 대중의 이해를 공고히 하고, 모든 언어를 구사하는 사람이 활용할 수 있는 간단한 채팅 인터페이스를 제공하도록 했습니다.
