인공지능
Oracle, Google 외부의 첫 하이퍼스케일 클라우드 사업자로 Google TPU 제공
Securities.io를 Google의 선호 소스에 추가
Oracle과 Google은 2026년 10월 27일, Google의 텐서 처리 장치(TPU)를 Oracle Cloud Infrastructure(OCI)에서 이용할 수 있게 된다고 발표했다. 이에 따라 Google 외부의 하이퍼스케일 클라우드 플랫폼에서 Google TPU를 제공하는 것은 이번이 처음이다. 양사는 라스베이거스에서 열린 Oracle AI World에서 이 소식을 발표하며, OCI의 Google TPU 서비스가 2027년에 시작되고 고객의 수요에 맞춰 여러 해에 걸쳐 단계적으로 확대될 것이라고 밝혔다.
이번 계약에 따라 OCI는 자체 인프라에서 Google TPU를 대규모로 배포하는 데 필요한 전력, 냉각 및 데이터센터 네트워킹을 제공한다. 발표에 따르면, OCI의 AI 컴퓨팅 포트폴리오에 Google의 특정 용도에 맞게 설계된 TPU를 추가하면 고객은 가장 까다로운 워크로드에 맞춰 인프라를 선택할 수 있다. 해당 인프라는 거의 선형적인 확장성과 고도로 최적화된 경제성을 제공하도록 설계됐다.
Oracle Cloud Infrastructure의 사장인 Oracle의 Mahesh Thiagarajan은 “AI 워크로드마다 필요한 컴퓨팅 자원이 다릅니다”라며 “Google TPU를 OCI에 도입하면 고객은 하나의 클라우드에서 여러 선도적인 AI 컴퓨팅 아키텍처를 이용할 수 있습니다. 이러한 선택권을 통해 각 AI 워크로드의 성능, 처리량 및 경제성에 적합한 인프라를 유연하게 선택할 수 있습니다”라고 말했다.
Google의 AI 및 인프라 부문 수석 부사장 겸 최고 기술 책임자인 Amin Vahdat은 TPU가 까다로운 학습 및 추론 워크로드에 맞게 설계된 선택지라며, 이를 OCI에 도입하면 더 많은 조직이 이 기술을 이용하고 가장 복잡한 AI 애플리케이션을 구축하고 실행하는 방식을 더욱 유연하게 선택할 수 있다고 말했다. 그는 “차세대 AI에는 다양한 컴퓨팅 자원이 필요할 것”이라고 덧붙였다.
학습 및 추론 워크로드
이번 발표는 Google TPU를 AI 라이프사이클 전반을 지원하기 위해 개방형 소프트웨어와 공동 설계한 맞춤형 가속기로 설명한다. 여기에는 최첨단 모델 학습과 대규모 추론은 물론, 에이전트형 AI의 다단계 추론에 필요한 데이터 수요도 포함된다. TPU 아키텍처는 전력 1와트당 AI 처리량을 극대화하고, 모델 데이터에 빠르게 접근하며 칩 간 통신 속도를 높이도록 설계됐다.
보도자료에 따르면 Google TPU는 밀집 모델과 전문가 혼합 모델을 포함한 대규모 모델의 학습 및 학습 후 처리를 지원하며, 추론·에이전트형 AI·긴 컨텍스트 애플리케이션을 위한 프로덕션 추론도 지원할 수 있다. 고객은 자신의 워크로드, 성능 요구 사항 및 비용 목표에 최적화된 Google TPU를 OCI에서 선택할 수 있다.
TPU 8T 및 TPU 8I 아키텍처
보도자료에 따르면 Google의 TPU 제품군은 10년이 넘는 맞춤형 AI 실리콘 개발 경험을 바탕으로 하며, 8세대 TPU에는 특정 용도에 맞게 설계된 두 가지 아키텍처인 학습용 TPU 8t와 추론용 TPU 8i가 도입됐다. 자료는 TPU 8t가 최첨단 모델 개발 주기를 수개월에서 수주로 단축하고, 이전 세대보다 팟당 컴퓨팅 성능을 거의 3배 높인다고 주장한다. TPU 8i는 여러 특화 에이전트의 반복 작업을 처리하도록 설계됐다.
Google은 두 시스템의 기술 사양을 2026년 4월 22일자 인프라 블로그 게시물에서 공개했다. 해당 게시물에 따르면 TPU 8t는 칩 9,600개를 하나의 슈퍼팟에 집적해 121엑사플롭의 컴퓨팅 성능과 2페타바이트의 공유 메모리를 제공한다. 이 메모리는 고속 칩 간 인터커넥트를 통해 연결된다. 통합 메모리와 두 배로 늘어난 인터커넥트 대역폭은 거의 선형적인 확장과 시스템 활용률 극대화를 뒷받침하도록 설계됐다. Google은 Pathways와 JAX 소프트웨어를 사용해 하나의 클러스터에서 TPU 칩 100만 개 이상을 조율할 수 있다고 밝혔다. 또한 Virgo Network 패브릭을 이용하면 한 데이터센터에서 TPU 134,000개를 하나의 패브릭으로 연결하고, 여러 데이터센터에 걸쳐 TPU 100만 개 이상을 하나의 학습 클러스터로 연결할 수 있다고 설명했다.
Google의 게시물에 따르면 TPU 8i는 온칩 SRAM을 3배인 384MB로 늘리고 고대역폭 메모리를 288GB로 확장하며, 칩 간 인터커넥트 대역폭을 두 배인 19.2Tb/s로 높이는 한편 ICI 네트워크 직경을 50% 넘게 줄였다. 전용 Collectives Acceleration Engine은 온칩 지연 시간을 최대 5배까지 줄여 동시성이 높은 요청에서 지연을 최소화한다. Google은 이 설계가 추론에서 달러당 성능을 이전 세대보다 80% 높인다고 밝혔다. Google은 4월에 TPU 8t와 TPU 8i를 클라우드 고객에게 곧 제공할 예정이라고 밝혔으며, 10월 27일 발표를 통해 처음으로 Google 외부의 하이퍼스케일 플랫폼에서도 이 가속기를 이용할 수 있게 됐다.
