인공지능
CoreWeave: 클라우드 AI 하이퍼스케일러
Securities.io를 Google의 선호 소스에 추가
AI Computing As A Service
AI는 거의 모든 비즈니스에서 점점 더 중요해지고 있으며, 점점 더 강력한 모델들이 등장하고 있습니다. 여기에는 DeepSeek와 같은 매우 효율적이고 저렴하며 오픈소스 모델도 포함됩니다.
하지만 AI와 연관된 계산 수요는 매우 변동성이 커서, 대부분의 사용자가 필요한 칩과 데이터 센터를 직접 소유하기보다 클라우드 서비스를 이용하는 것이 합리적입니다. 특수 효과 생성과 같은 다른 고연산 작업에도 동일하게 적용될 수 있습니다.
이러한 클라우드 서비스를 이용하는 한 가지 방법은 Amazon의 AWS (AMZN ), Google Cloud (GOOGL ), 또는 Microsoft의 Azure(MSFT )와 같은 대형 클라우드 제공업체에 의존하는 것입니다.
또 다른 옵션은 AI 전용 클라우드 제공업체에 직접 접근하는 것으로, 인프라가 AI 계산에 필요한 하드웨어에 전적으로 전념합니다.
이러한 유형의 가장 큰 제공업체 중 하나는 CoreWeave이며, 2017년부터 GPU를 축적해 왔습니다. CoreWeave는 현재 40억 달러 규모의 IPO를 준비 중이며, 이는 기업 가치를 350억 달러로 끌어올릴 것입니다.
따라서 투자자들은 이 회사와 AI 붐으로부터 혜택을 받을 수 있는 위치에 대해 더 알고 싶어 할 수 있습니다. 동시에 업계의 미래에 필요한 실제 계산 능력에 대한 불확실성이 쌓이고 있습니다.
CoreWeave의 역사
CoreWeave는 2017년에 설립된 클라우드 컴퓨팅 업계의 신생 기업입니다. 초기에는 GPU(그래픽 처리 장치)를 활용한 암호화폐 산업용 컴퓨팅을 전문으로 했습니다.
GPU는 원래 그래픽 계산, 특히 3D 비디오 게임을 위해 설계된 칩입니다. 이들은 프로세서(CPU)처럼 한 번에 몇 개의 복잡한 연산을 수행하는 대신, 수천 개의 단순 연산을 병렬로 수행하도록 특화되어 있습니다.
결과적으로 GPU는 암호화폐 채굴에 필요한 계산 유형과 신경망을 활용한 AI에 모두 완벽하게 맞는 설계였으며, 이로 인해 폭발적인 성장과 GPU 전문 기업인 Nvidia(NVDA )의 AI 하드웨어 분야 리더십을 확보하게 되었습니다.
(Nvidia에 대한 투자 사례를 우리 전용 보고서에서 더 읽어볼 수 있습니다 Nvidia에 대한 투자 사례).
그 후 2019년에 GPU 기반 계산에 특화된 상태를 유지하면서 보다 일반화된 클라우드 서비스를 제공하기 시작했습니다.
CoreWeave가 초기부터 대량의 GPU를 확보함으로써 추가 연산 능력을 찾는 AI 스타트업들의 핵심 파트너가 되었습니다.
“사람들은 작년에 여전히 GPU에 접근할 수 있었지만, 공급이 극도로 부족해지자 갑자기 ‘우리는 이걸 어디서 구해야 할까?’ 하는 상황이 되었습니다.
CoreWeave를 사용하던 AI 기업들이 이 사실을 벤처 투자자들에게 전파했으며, 그들은 갑자기 금광을 발견한 듯했습니다: “그들은 ‘왜 우리는 이 사람들과 이야기를 하지 않았을까?’ 라고 말했습니다.”
적절한 시기에 적절한 위치에 있었던 덕분에 CoreWeave는 성장에 필요한 풍부한 자본에 접근할 수 있었으며, 여러 차례 자금 조달 라운드를 진행했습니다. 2024년에는 11억 달러 규모의 라운드까지 진행했습니다.
“우리는 CoreWeave가 고성능 연산을 대규모로 제공하여 생성 AI 혁신을 지원하기 위해 사회의 현재 및 미래 수요를 충족시키는 핵심 인프라 기반을 구축하는 데 있어 주요 리더로 부상했다고 믿습니다.”
CoreWeave 개요
지금까지 이 회사는 주로 미국에 인프라를 구축했으며, 북미에 대부분의 서버가 위치하고 유럽에는 3개의 서버가 설치되어 있습니다.
출처: CoreWeave
출처: CoreWeave
CoreWeave는 장비의 “건강 상태”를 지속적으로 모니터링하여 잠재적인 문제를 사전에 식별하고 서버의 다운타임이나 성능 저하 위험을 줄입니다.
연산 능력 외에도 CoreWeave는 서버에 높은 수준의 보안을 제공하는데, 이는 AI와 관련된 데이터 프라이버시와 안전성 문제, 그리고 미국 및 해외 기업들의 치열한 경쟁을 고려할 때 중요한 사안입니다.
기술적으로는 대형 기술 기업들의 경쟁자이지만, CoreWeave는 그들에게 가치 있는 파트너로 인식될 수 있으며, 특히 Microsoft가 이 회사의 가장 큰 고객입니다.
2024년에 CoreWeave는 약 20억 달러의 매출을 기록했으며 2025년에는 80억 달러라는 매우 공격적인 성장 목표를 가지고 있습니다.
출처: CoreWeave
CoreWeave가 제공하는 AI 클라우드 서비스의 핵심은 유연성입니다. 빠르게 성장하는 기업을 위해 사용 가능한 연산 능력을 신속히 확대하거나, 프로젝트가 종료되면 축소할 수 있습니다. 수백 명의 다양한 고객을 보유함으로써 CoreWeave는 귀중한 GPU의 최대 활용도를 최적화할 수 있습니다.
“두 달 전만 해도 존재하지 않았던 기업이 이제는 5억 달러 규모의 벤처 자금을 확보했습니다. 그리고 그들에게 가장 중요한 것은 연산 자원을 확보하는 것입니다; 연산 자원이 없으면 제품을 출시하거나 사업을 시작할 수 없습니다.”
CoreWeave의 장점
비용 장점
대부분의 산업에서 어느 정도 전문화되는 것이 비용 효율적이며, 이는 회사에 추가적인 전문성을 부여하고 제품이나 서비스를 가장 저렴한 가격에 제공할 수 있게 합니다.
CoreWeave도 마찬가지인 것으로 보이며, 자사의 서비스를 기존 제공업체보다 최대 35배 빠르고 80% 저렴하게 제공한다고 주장합니다.
이 수치들이 비교 대상 경쟁자를 선택적으로 골라낸 것일 수도 있지만, 전반적으로 CoreWeave가 대부분의 업계보다 저렴하다는 점은 사실인 듯합니다.
예를 들어, 클라우드 제공업체 Digital Ocean의 방대한 데이터베이스에 따르면 가장 저렴한 GPU 제공업체는 CoreWeave이며, Quadro RTX 4000 GPU에 대한 접근 비용이 시간당 0.35달러로 나타났습니다.
출처: CoreWeave
또한 CoreWeave는 거대 기업인 Oracle(ORCL )과도 가격 경쟁을 할 수 있는 것으로 보이며, Oracle는 스타트업과의 시장 점유율을 확보하기 위해 클라우드 GPU 가격을 공격적으로 낮추려 시도했습니다.
(이와 관련된 자세한 내용은 전용 보고서 “Oracle (ORCL): Database Giant, Stargate, and DeepSeek”)
GPU만을 제공하는 데 전념함으로써 CoreWeave는 칩 활용도를 극대화하고 사용당 비용을 낮추는 강력한 전문성을 확보했습니다.
빅3가 클라우드 리전을 구축할 때, 그들은 수십만에서 수백만에 이르는 일반적인 사용 사례를 지원하기 위해 구축하며, 그 리전에서는 GPU 연산을 위해 할당된 용량이 소량에 불과할 수 있습니다.
비용 우위는 또한 초기 클라우드 GPU 서비스 제공업체였던 덕분에 얻어졌으며, 이는 회사가 규모를 확보해 오버헤드, 연구개발(R&D) 등 연산 단위당 비용을 낮출 수 있게 했습니다.
기술 전문성
전문 기업으로서 CoreWeave는 AI 기업을 위한 맞춤형 데이터 센터도 제공할 수 있습니다. 따라서 AI 기업이 매우 특정한 유형의 모델을 구축하려 할 때, CoreWeave는 그 요구에 정확히 맞는 맞춤형 인프라를 구축할 수 있습니다.
이 전문성은 일반적인 GPU 중심 데이터 센터 구축 방식에도 반영되어, 인력 요구량, 에너지 소비, 냉각 시스템 등을 최적화합니다.
이는 또한 고객이 하드웨어 인터페이스나 GPU 상태 등을 최적화할 필요성을 없애고, 핵심 역량에 집중할 수 있게 합니다.
이러한 이유로 최고 AI 기업들이 CoreWeave와 파트너십을 맺고 있습니다. 예를 들어 Inflection AI는 13억 달러 규모의 GPU 클러스터를 최신 펀딩 라운드로 확보했습니다.
“그들은 우리에게 전화를 걸어 ‘여러분, 우리 AI 회사를 지원하기 위해 지구상에서 가장 고성능 슈퍼컴퓨터 중 하나를 구축해 달라’고 말했습니다.
그들은 우리에게 ‘우리가 찾고 있는 것이 이것인데, 할 수 있나요?’라고 물었고, 현재 우리가 구축 중인 상위 5대 슈퍼컴퓨터 중 두 개가 FLOPS 측면에서 최고라고 생각합니다.
Nvidia와의 공생
다른 칩도 제공하지만, CoreWeave 연산 능력의 대부분은 Nvidia 칩에 기반합니다. GPU는 암호화폐 붐과 AI 붐 이후로 공급이 부족했으며, 반도체 파운드리는 수요를 따라잡기 어려워했습니다.
이로 인해 Nvidia와 같은 기업은 일부 고객에게 더 빠르거나 느리게 제공함으로써 AI 승자를 어느 정도 선택할 수 있는 상황이 발생했습니다.
Nvidia는 CoreWeave에 비교적 관대했으며, 종종 AWS와 같은 클라우드 선두 기업보다 GPU 공급에서 우선 순위를 부여했습니다. 이는 AWS를 비롯한 대부분의 대형 클라우드 제공업체가 자체 AI 칩을 개발하여 Nvidia에 대한 의존도를 줄이려 하고 있기 때문입니다.
장기적으로 보면 이는 Nvidia에게 문제가 될 수 있는데, 현재 고객 다수가 Nvidia의 높은 마진을 보고 수직 통합을 통해 비용을 절감하려 하기 때문입니다. 그러나 이는 CoreWeave에게는 장점이 됩니다. CoreWeave는 데이터 센터 구축에만 집중하므로 Nvidia에게 완벽한 파트너가 됩니다.
“자체 칩을 만들지 않는 것이 불리한 점은 전혀 없습니다. 오히려 이는 우리 동료들을 제치고 Nvidia로부터 더 많은 GPU를 확보하려는 지속적인 노력에 도움이 된다고 생각합니다.”
그 결과 CoreWeave는 대형 클라우드 제공업체가 따라잡기 어려운 상황에서도 약속한 연산을 제공할 수 있는 기업으로 인식되며, Nvidia의 최신 GPU인 H100 및 H200을 포함한 다수에 접근할 수 있게 됩니다.
출처: CoreWeave
슈퍼 GPU 시대
최근 CoreWeave는 일반적으로 이용 가능한 Nvidia GB200 NVL72 인스턴스를 제공하는 최초의 클라우드 제공업체가 되었습니다. Nvidia GB200 NVL72는 단일 거대한 GPU처럼 작동하도록 설계되어, 이전에 기록적인 H100 모델보다 훨씬 강력합니다. 또한 에너지 효율도 크게 향상되어, AI 데이터 센터가 구축되는 속도에 비해 에너지 부족이 칩 부족보다 먼저 발생할 수 있는 AI 산업에 중요한 포인트가 됩니다.
출처: Nvidia
이는 단순히 더 많은 GPU를 겹쳐서 AI 데이터 센터를 구축하는 설계가 구식이 되고 있기 때문에 중요합니다.
향상된 열 효율성과 전력 절감 덕분에 랙에 장착할 수 있는 GPU 수를 더 많이 확보할 수 있게 되었으며, 이는 고객에게 더 많은 GPU를 제공한다는 의미입니다.”
CoreWeave의 미래
얼마나 많은 연산이 필요할까?
기술 산업에서 수조 달러 규모의 공개된 질문은 AI의 미래입니다.
한편, 기술이 예상보다 빠르게 발전하고 있음은 분명합니다. 이는 이론적으로 CoreWeave와 같은 기업에게 이상적이며, 전체 AI 산업만큼 혹은 그보다 빠르게 성장할 것입니다. 하이퍼스케일러와 클라우드 제공업체가 AI의 가장 큰 수혜자가 될 것이며, AI는 모든 기업이 형태를 가리지 않고 활용할 정도로 보편화될 것입니다.
반면, 장기적으로 AI 애플리케이션에 실제로 필요한 연산 능력이 무엇인지 명확하지 않습니다. 업계는 아직도 중국의 DeepSeek가 미국 OpenAI보다 1/25th 가격으로 유사한 결과를 제공한다는 사실을 고려하고 있습니다.
지금까지는 더 나은 모델일수록 연산 능력을 더 많이 요구할 것이라는 가정이 있었으며, 그 결과 전력 공급이 우려될 정도로 전기 사용량이 늘었고 대형 기술 기업들이 핵 발전소의 미래 공급을 두고 경쟁에 나섰습니다.
DeepSeek는 이 생각을 크게 뒤흔들었습니다. AI의 미래가 기가와트 규모 데이터 센터의 중앙 집중형 애플리케이션이 아니라, 작고 초고효율적인 오픈소스 AI들로 구성된다면 어떨까요?
만약 이것이 AI의 미래라면, 연산 우위가 비즈니스 방어벽을 형성할 수 있다는 가정에 기반한 OpenAI와 같은 기업에게는 큰 위협이 될 것입니다.
하지만 이는 CoreWeave의 장기 전망에 큰 타격을 주지는 않을 것입니다. AI가 훈련 및 사용 비용이 매우 저렴해진다면, 거의 모든 기업이 고객 서비스, 유지보수 관리, 인사, 영업, 마케팅 등을 위해 자체 AI 모델을 원하게 될 것입니다. 이러한 기업 대부분은 AI를 실행할 자체 하드웨어를 관리하고 싶어하지 않을 것이며, 모델에 구애받지 않고 저비용인 CoreWeave와 같은 제공업체가 솔루션과 AI를 강요하는 것으로 의심받는 대형 클라우드 공급업체보다 선호될 가능성이 높습니다.
어떤 GPU가 필요할까?
지금까지 CoreWeave는 주로 업계 선두인 Nvidia의 칩을 사용해 왔으며, GB200 채택으로 인해 이는 당분간 변하지 않을 것입니다.
하지만 장기적으로는 일부 기업이 Nvidia의 병렬 컴퓨팅 및 GPU와 유사한 기술을 복제할 수 있게 될 수도 있습니다. 그런 경우 CoreWeave는 필요에 따라 새로운 제공업체로 천천히 전환할 수 있을 것입니다.
새로운 급진적인 AI 계산 방식이 등장한다면, CoreWeave의 규모와 AI 중심 고객 네트워크는 이 새로운 기술을 배포하는 데 최적의 파트너가 될 것입니다.
이는 Nvidia와의 핵심 파트너십을 만든 이유와 동일합니다: CoreWeave는 내부적으로 이러한 AI 칩을 복제하려 하지 않으며(구글, 마이크로소프트, 메타, AWS 등과는 달리), 대신 가능한 한 빠르게 배포하도록 도울 수 있습니다.
(AI 애플리케이션을 위한 잠재적 미래 GPU에 대해 자세히 보려면 DigitalOcean의 이 기사)
암호화폐
앞으로 CoreWeave가 가질 또 다른 잠재력은 암호화폐 분야입니다. 회사가 대부분 AI 시장으로 전환했지만, 암호화폐는 여전히 많은 연산 능력을 필요로 하는 활동입니다.
도널드 트럼프가 비트코인, 이더, XRP, 솔라나, 카르다노를 보유한 국가 암호화폐 준비금을 계획하고 있습니다에 따라, 암호화폐가 미국의 금융 및 결제 생태계에서 중요한 부분이 될 가능성이 명확합니다.
암호화폐가 공식화될수록 CoreWeave와 같은 안전하고 검증된 인프라 제공업체에 의존할 가능성이 높아집니다.
따라서 앞으로도 이 분야가 회사 사업에서 무시할 수 없는 부분을 차지할 것으로 기대됩니다.
결론
CoreWeave는 실제 AI라기보다 폭발적으로 성장하는 산업에 서비스를 제공하는 공급업체에 가깝습니다. 이는 대부분의 AI 기업이 겪는 적절한 신경망 기술이나 학습 방법 등을 선택해야 하는 불확실성에 덜 노출된다는 의미입니다.
오히려 최신이자 가장 강력한 GPU에 대한 접근을 확보하는 한, AI를 다루는 모든 스타트업에게 선택받는 파트너로 남을 가능성이 높습니다.
DeepSeek와 같은 강력한 오픈소스 모델의 등장은 전체 산업의 연산 집약도를 낮추더라도 CoreWeave 비즈니스에 큰 활력을 줄 수 있습니다. 이는 초기 단계에 필요한 벤처 자금을 줄여 OpenAI에 대한 경쟁자를 크게 늘리기 때문입니다.
이러한 작고 민첩한 스타트업들은 자체 AI 데이터 센터와 인프라를 구축하지 않고 클라우드 제공업체에 의존할 것이며, 자체 독점 AI를 개발하고 싶지만 비밀 데이터를 보유한 기업의 서버에 호스팅되는 것을 원치 않는 대기업 역시 마찬가지일 것입니다.
따라서 IPO가 앞두고 있는 CoreWeave는 투자자들이 다양한 AI 모델과 기술의 미묘한 차이를 이해하지 않아도 전체 AI 산업에 베팅할 수 있는 방법이 될 수 있습니다.
