NVIDIA의 Rubin이 Google의 가상 머신에 탑재되며, 멀티 사이트 클러스터를 거의 100만 GPU까지 확장
NVIDIA’s Rubin Lands Inside Google’s Virtual Machine, Stretching Multi Site Clusters to Nearly 1 Million GPUs
TL;DR AI
1분핵심 요약
구글은 에이전틱 AI 워크로드를 위한 A5X 클라우드 인스턴스를 출시하고, NVIDIA와의 AI 인프라 협력을 확대했다.
새 구성은 Google Cloud에서 NVIDIA Vera Rubin GPU와 ConnectX-9 네트워킹을 지원한다.
Virgo 기반 스케일링 플랫폼을 통해 단일 사이트에서 최대 8만 GPU, 다중 사이트에서는 96만 GPU까지 확장할 수 있다.
구글은 이번 발표로 대규모 AI 학습과 배포의 토큰 처리량이 높아지고 추론 비용은 낮아질 것으로 기대한다고 밝혔다.
같은 주제
