인공지능
NVIDIA 영감을 받은 혁신으로 AI 훈련 전력 필요량을 100배 감소
Securities.io를 Google의 선호 소스에 추가
인공지능(AI)이 전 세계를 장악했으며, 이 기술 혁신의 마법에서 벗어난 분야는 없습니다. 오늘날, 77%의 기기가 AI 기술을 적용하고 있지만, 소비자의 3분의 1만이 자신이 AI 플랫폼을 사용하고 있다고 생각합니다.
점점 더 많은 조직이 비즈니스 성장을 위해 AI를 채택하고 있으며, 10개 기업 중 9개가 경쟁 우위를 위해 이 기술을 지원하고 있습니다. 이러한 사용은 8,500만 개의 일자리를 없애지만 동시에 9,700만 개의 새로운 일자리를 창출할 것으로 예상됩니다.
이 수치는 AI 시장이 2030년까지 전 세계 경제에 15조 7천억 달러를 기여할 것으로 추정된다는 것을 반영합니다. AI 시장 규모는 연간 최소 120% 성장할 것으로 예상됩니다.
하지만 AI 채택이 증가함에 따라, 에너지 집약도가 매우 높은 데이터 센터에 전력을 공급해야 하는 수요도 증가합니다. 수천 대의 서버를 24시간 가동하고 냉각하는 데는 막대한 에너지가 필요합니다. 현재 이 에너지는 전력망에서 공급되며, 피크 수요 시 문제를 일으키고 시스템에 부담을 줍니다. Chevron (CVX )의 CEO Mike Wirth에 따르면:
“전력의 성장과 수요는 이미 부담을 받고 있는 전력망에 추가적인 압력을 가할 수 있습니다. 이는 소비자에게 비용을 증가시킬 수 있습니다. 천연 가스는 신뢰할 수 있는 전기에 대한 끊임없는 수요를 통해 인공지능의 급속한 성장을 지원할 것입니다.”
이러한 수요에 대응하여 Chevron은 최근 GE (GE ) Verona 및 Engine No. 1과 협력해 데이터 센터에 직접 연결된 천연 가스 발전소를 건설함으로써 AI용 전력을 생산할 것이라고 발표했습니다.
현재 데이터 센터는 전 세계 전력 소비의 약 1%를 차지하고 있다고 국제 에너지 기구(IEA) 보고서가 밝혔습니다.
하지만 이는 시작에 불과합니다. 기업들은 수십억 달러를 투자해 더 많은 데이터 센터를 건설하고 있습니다.
Microsoft (MSFT )는 AI 지원 데이터 센터에 800억 달러를 투자할 계획이며, 그 절반은 미국에 할당될 예정입니다. Blackstone (BX )에 따르면 2030년까지 미국 데이터 센터에 1조 달러 이상이 투자될 것이며, Google (GOOGL ), Meta (META ), 그리고 Amazon (AMZN ) 등 기술 대기업들이 전국에 데이터 센터를 구축하고 있습니다.
따라서 이 분야의 에너지 소비는 앞으로 더욱 가속화될 것입니다. Goldman Sachs (GS )는 향후 5년간 데이터 센터 전력 수요가 160% 증가할 것으로 추정하며, 이는 전력 사용량의 전례 없는 성장을 자연스럽게 초래할 것입니다.
전력 연구소(EPRI)의 추정에 따르면, 미국 내 이러한 시설들의 에너지 소비는 이번 십년 말까지 전체 전력 생산량의 4.6%에서 9.1% 사이를 차지할 수 있습니다.
한편 유럽, 특히 독일에서는 2020년에 데이터 센터가 컴퓨팅, 저장 및 전송을 위해 약 160억 kWh의 에너지를 소비했으며, 이 수치는 2025년까지 220억 kWh로 증가할 것으로 예상됩니다.
그 결과, 연구자들은 AI의 전력 요구량을 낮추는 방법을 지속적으로 탐구하고 있습니다.
AI 에너지 소비 감소
AI 기술은 에너지 소비 최적화, 수요 예측, 스마트 그리드 관리 활성화를 통해 다양한 분야에서 에너지 효율성을 향상시키는 핵심 역할을 수행하며, 궁극적으로 에너지 낭비를 줄이고 탄소 배출량을 낮춥니다.
예를 들어, Vodafone UK는 Ericsson의 고급 AI 및 머신러닝 기반 소프트웨어 솔루션을 활용해 5G 라디오 유닛(RU)의 일일 전력 사용량을 낮췄습니다. 이미 런던의 선택된 사이트에서 33% 감소에 성공했습니다.
Vodafone UK는 이번 시험의 일환으로 세 가지 주요 에너지 절감 기능을 구현했습니다.
여기에는 모든 네트워크 셀을 시각화하여 성능이 낮은 사이트를 식별하고 순위를 매겨 목표 효율성 개선을 수행하는 라디오 전력 효율 히트맵이 포함됩니다. 또한 네트워크 셀의 행동 모델을 개발해 수면 파라미터를 미세 조정하여 에너지 절감과 성능 사이의 균형을 맞추는 4G 셀 슬립 모드 오케스트레이션이 있습니다. 한편 5G 딥 슬립은 AI 기반 예측 알고리즘을 사용해 비피크 시간대에 전력 사용량을 70% 감소시킵니다.
하지만 AI의 에너지 소비는 어떨까요? 연구자와 기업들은 이 급성장하는 기술의 에너지 소비를 줄이기 위해 다양한 분야를 목표로 하고 있습니다.
여기에는 AI 모델 최적화, 에너지 효율적인 하드웨어 활용, 데이터 센터에서 재생 에너지와 효율적인 냉각과 같은 지속 가능한 관행 채택이 포함됩니다.
AI 모델을 최적화할 때는 프루닝, 양자화, 증류와 같은 다양한 접근법을 사용할 수 있습니다. 모델 프루닝에서는 정확도에 영향을 주지 않으면서 불필요한 파라미터와 연결을 제거합니다. 양자화는 모델 파라미터의 정밀도를 낮춰 계산 요구량과 에너지 소비를 감소시킵니다. 증류에서는 더 작고 에너지 효율이 높은 모델이 더 크고 복잡한 모델의 동작을 모방하도록 훈련되어 유사한 성능을 제공합니다.
MIT Technology Review가 올해 발행물에서 언급했듯이, 작은 모델은 다음 시대를 정의할 기술적 돌파구 중 하나입니다. 이러한 모델은 보다 집중된 데이터셋으로 훈련되어 대형 언어 모델(LLM) 대비 도메인 특화 정밀도, 비용 효율성, 향상된 데이터 보안을 제공할 수 있습니다.
OpenAI의 GPT-4o mini, Microsoft의 Phi, Google DeepMind의 Gemini Nano, Anthropic의 Claude 3에서 파생된 Haiku는 대형 AI 모델의 소형 버전 예시입니다.
하드웨어 측면에서는 고성능 워크로드에 특화된 GPU 및 기타 전문 AI 프로세서를 사용하는 데 초점이 맞춰져 있습니다.
또한, 워크로드 요구에 따라 전력 사용을 조절하는 에너지 효율 서버와 프로세서, 물리적 머신 수를 줄이고 다중 프로세스를 실행해 자원 활용도를 높이는 가상화, 그리고 전력 집약적인 에어컨 시스템의 필요성을 줄이는 첨단 냉각 기술이 있습니다.
지난달에 공유했듯이, 도호쿠 대학, 일본 원자력 연구소, 그리고 국립 재료과학연구소의 연구원들은 고효율 및 에너지 절감 AI 하드웨어를 달성했습니다. 연구원들은 저전력 AI 칩을 위해 스핀트로닉 장치를 사용했으며, 새로운 세대 AI 하드웨어의 문을 여는 전류 프로그래밍 스핀-오빗 토크(SOT) 장치를 보여주었습니다.
AI 에너지 소비를 낮추는 또 다른 방법은 지속 가능한 관행을 도입하는 것입니다. 데이터 센터는 재생 에너지원을 활용하고, 에너지 효율적인 냉각 시스템을 구현하며, 효율적인 레이아웃을 설계해 에너지 소비를 줄일 수 있습니다.
기업들은 구글이 지열 에너지에 진전을 보이고 있는 등 이 방향으로 적극적으로 약속하고 있습니다. 마이크로소프트는 또 다른 사례로, 2030년까지 탄소 중립을 목표로 Three Mile Island 원자력 발전소를 재가동할 예정입니다.
흥미롭게도 AI 자체의 에너지 효율성을 높이기 위해 AI가 활용되고 있습니다. 이 기술은 건물 및 산업의 에너지 소비를 최적화하고, 장비 유지보수가 필요할 시점을 예측하며, 실시간 그리드 상황을 활용해 피크 수요를 감소시킵니다.
이 모든 가운데, 뮌헨 공과대학(TUM) 연구진은 신경망을 최대 100배 빠르게 훈련시키는 새로운 방법을 개발했으며, 이는 AI 응용 프로그램과 관련된 에너지 소비를 크게 줄입니다.
이를 위해 연구진은 반복적인 접근 대신 확률에 기반해 직접 파라미터를 계산했으며, 현재까지 그 결과는 기존 반복 방식과 품질 면에서 비교될 정도입니다.
AI 에너지 소비를 크게 줄이는 새로운 방법
AI 사용이 증가함에 따라, 향후 몇 년간 더 복잡한 AI 애플리케이션이 출시되면 데이터 센터 용량에 대한 수요가 크게 급증할 것입니다.
이러한 애플리케이션은 신경망 훈련에 막대한 에너지를 소비합니다. 따라서 새로운 연구는 AI용 신경망 훈련에 필요한 거대한 전력을 줄이는 데 초점을 맞추고 있습니다.
신경망은 이미지 인식, 언어 처리 등 다양한 작업에 AI에서 사용됩니다. 이러한 네트워크의 작동 방식은 인간 뇌의 작동 원리에서 영감을 받았습니다.
신경망은 인공 뉴런이라 불리는 상호 연결된 노드들로 구성됩니다. 여기서 입력 신호는 특정 파라미터로 가중치를 부여받아 합산되며, 정의된 한도를 초과하면 신호가 다음 노드로 전달됩니다.
이제 네트워크를 훈련시키기 위해 초기 파라미터 값은 일반적으로 무작위로 선택된 뒤, 점진적으로 조정되어 네트워크 예측을 개선합니다.
물론 이 접근법은 많은 반복을 필요로 하며, 이는 훈련을 매우 부담스럽게 만들고 결국 많은 전력을 소비하게 합니다.
그래서 물리학 기반 머신러닝 교수인 Felix Dietrich가 이끄는 연구팀은 새로운 방법을 개발했습니다. Dietrich는 뮌헨 데이터 사이언스 연구소(MDSI)의 핵심 멤버이며 뮌헨 머신러닝 센터(MCML)의 부회원입니다.
이 새로운 기술은 노드 간 파라미터를 반복적으로 결정하는 대신 확률을 활용합니다. 이 확률적 방법은 훈련 데이터의 중요한 위치에서 값을 목표로 사용합니다. 이러한 위치는 값이 크게 그리고 급격히 변하는 지점입니다.
이 접근법을 통해 연구는 데이터에서 에너지 절약형 동적 시스템을 도출하고자 합니다. 이러한 동적 시스템은 규칙에 따라 시간에 따라 변하며, 금융 시장 및 기후 모델에서도 찾아볼 수 있습니다.
“우리 방법은 최소한의 컴퓨팅 파워로 필요한 파라미터를 결정할 수 있게 합니다. 이는 신경망 훈련을 훨씬 빠르게 만들고, 결과적으로 에너지 효율을 높입니다. 또한, 새로운 방법의 정확도가 반복적으로 훈련된 네트워크와 비교해도 동등함을 확인했습니다.”
– Dietrich
이 혁신은 신경망 훈련에 필요한 에너지를 감소시켜 AI의 환경 영향을 크게 낮출 잠재력을 가지고 있습니다. 향후 1~3년 내에 대규모 AI 모델을 도입하는 산업들이 이 방법을 채택해 보다 지속 가능하고 비용 효율적인 AI 솔루션을 구현할 수 있을 것입니다.
혁신적인 기업
NVIDIA Corporation
AI 컴퓨팅을 선도하는 NVIDIA (NVDA ) 는 에너지 효율적인 GPU와 AI 가속기를 개발하며, 성능을 향상시키면서 전력 소비를 줄이기 위해 지속적으로 혁신하고 있습니다.
지난해 AI Summit DC에서, 이 회사는 지난 10년 동안 GPU 훈련 시 에너지 사용량이 무려 2,000배 감소했다고 보고했습니다. 같은 기간 토큰 생성에서도 100,000배의 에너지 감소를 경험했습니다. 효율성 향상은 2,000배였으며, 계산 성능은 지난 10년 동안 4,000배 향상되었습니다.
당시 Nvidia의 기업 플랫폼 부사장인 Bob Pette에 따르면:
“자동차가 우리가 추론 성능을 개선한 만큼 효율성을 높였다면, 한 번의 연료 주입으로 300년 이상 운전할 수 있을 것입니다. 가속 컴퓨팅의 핵심은 지속 가능한 컴퓨팅입니다.”
Nvidia의 Blackwell은 Hopper를 잇는 새로운 주력 GPU 아키텍처로, AI 성능을 “현저히” 향상하도록 설계되었습니다. 이 플랫폼은 세계 최강의 칩, 2세대 트랜스포머 엔진, 5세대 NVLink를 탑재하면서 추론 및 훈련에 매우 에너지 효율적입니다.
NVIDIA Corporation은 실제로 Compute & Networking 및 Graphics 부문을 포함하는 풀스택 컴퓨팅 인프라 기업입니다.
Compute & Networking은 데이터 센터, 네트워킹, 자율 및 전기차 솔루션, DGX 클라우드 컴퓨팅 서비스, Jetson을 포함하고, Graphics 부문은 GeForce GPU, GeForce NOW, 가상 GPU 소프트웨어, NVIDIA RTX GPU, Omniverse Enterprise 소프트웨어를 다룹니다.
NVDA 가격 차트
시가총액 2.96조 달러인 NVIDIA 주식은 현재 $121.50에 거래되고 있으며, 연초 대비 9.4% 하락했습니다. 회사의 EPS(TTM)는 2.94, P/E(TTM)는 41.40이며, 배당 수익률은 0.03%입니다.
최근 NVIDIA 주가가 하락했음에도 불구하고(칩 제조업체에만 해당되는 것은 아닙니다), 회사는 계속해서 투자자를 끌어들이고 있습니다. 결국 2020년 이후 주가가 1,800% 이상 급등해 세계에서 가장 가치 있는 기업 중 하나가 되었습니다.
NVIDIA에 대한 관심은 특히 젊은 투자자들 사이에서 높으며, 이는 Tesla (TSLA )를 제치고 Robinhood (HOOD )에서 가장 많이 보유된 주식이 되었습니다. 이 수수료 없는 투자 플랫폼에서 자금이 입금된 계좌의 75%가 밀레니얼과 Z세대에 의해 보유되고 있습니다.
Robinhood CEO Vlad Tenev는 AI 덕분에 Nvidia가 그 어느 때보다 더 중요해질 것이라고 믿고 있습니다.
“AI가 투자에 더 큰 중요성을 부여할 것이라고 생각합니다. 기술에 대한 통제가 기술 기업에 집중된다면, 그 기업에 투자해야 혜택을 받을 수 있기 때문입니다.”
– Tenev
기업 재무와 관련해, Nvidia는 2025년 1월 26일에 종료된 4분기 매출이 393억 달러이며, 전 분기 대비 12%, 전년 대비 78% 증가했다고 보고했습니다.
데이터 센터 부문에서, 회사의 4분기 매출은 사상 최고인 356억 달러였습니다. 이 기간 동안 NVIDIA는 5천억 달러 규모의 Stargate 프로젝트의 핵심 기술 파트너로 선정되었습니다.
그 외에도 클라우드 서비스 제공업체인 AWS, CoreWeave (CRWV ), Google Cloud Platform(GCP), Microsoft Azure, Oracle (ORCL ) Cloud Infrastructure(OCI)가 급증하는 AI 수요를 충족하기 위해 NVIDIA® GB200 시스템을 사용했으며, NVIDIA DGX™ Cloud AI 컴퓨팅 플랫폼과 NVIDIA NIM™ 마이크로서비스를 AWS Marketplace를 통해 제공했습니다. Cisco는 자사 네트워킹 포트폴리오에 NVIDIA Spectrum-X™를 통합했으며, Verizon과 협력해 NVIDIA AI Enterprise를 통합했습니다. 또한 IQVIA (IQV ), Mayo Clinic, Illumina, Arc Institute와 파트너십을 맺어 신약 발견, 유전체학, 의료 분야를 발전시켰습니다.
Gaming 및 AI PC 부문의 매출은 25억 달러로 감소했으며, NVIDIA는 Blackwell 아키텍처 기반의 새로운 GeForce RTX™ 50 시리즈 그래픽 카드와 노트북을 발표하고, GeForce RTX 5090 및 5080 그래픽 카드를 출시했으며, DLSS 4를 도입했습니다.
이 외에도 전문 Visualization 부문 매출은 5억 1,100만 달러였으며, 자동차 및 로보틱스 부문 매출은 5억 7,000만 달러였습니다.
이번 분기 동안 회사의 GAAP 희석 주당 순이익은 0.89달러로 전 분기 대비 14% 상승했으며, 전년 대비 82% 증가했습니다. 비GAAP 희석 주당 순이익도 0.89달러였습니다.
2025 회계연도 매출은 1,305억 달러로 전년 대비 114% 급증했습니다. 해당 기간 GAAP 희석 주당 순이익은 2.94달러였으며, 비GAAP 희석 주당 순이익은 2.99달러였습니다.
“Blackwell에 대한 수요는 놀랍습니다. 추론 AI가 또 다른 스케일링 법칙을 추가했는데, 훈련을 위한 compute를 늘리면 모델이 더 똑똑해지고, 장시간 사고를 위한 compute를 늘리면 답변이 더 스마트해집니다.”
– CEO 겸 창업자 Jensen Huang
따라서 회사는 Blackwell AI 슈퍼컴퓨터 생산을 확대해 수십억 달러 규모의 매출을 달성했습니다.
2026 회계연도 1분기에는 매출이 430억 달러, GAAP 영업비용이 52억 달러, 비GAAP 기타 수익이 약 4억 달러가 될 것으로 예상합니다.
“AI는 에이전트형 AI와 물리적 AI가 차세대 AI 물결을 준비함에 따라 빛의 속도로 발전하고 있으며, 이는 가장 큰 산업들을 혁신할 것입니다.”
– Huang
NVIDIA Corporation 최신 소식
결론
AI는 모든 분야의 비즈니스를 혁신할 예정이지만, 이는 전례 없는 에너지 수요 증가를 의미합니다. 이 수요는 큰 도전 과제로, 많은 연구자들이 이를 극복하기 위해 노력하고 있습니다.
새로운 확률적 훈련 방법의 개발은 전력 필요량을 최대 100배 감소시켜 에너지 효율적인 AI 분야에서 중요한 돌파구를 마련했습니다. 데이터 센터가 확대됨에 따라 AI 관련 에너지 소비가 급증할 것으로 예상되는 상황에서, 이 혁신은 운영 비용과 환경 영향을 크게 낮출 수 있습니다.
Nvidia가 에너지 효율적인 GPU와 AI 가속기에 집중함과 결합해, 이러한 혁신은 AI 도입을 가속화하고 생산성을 높이는 데 도움이 될 수 있습니다.
