KubeCon Amsterdam 2026: ML의 산업화 - Uber의 AI 플랫폼 아키텍처 심층 분석

Uber는 분산된 스크립트 중심의 초기 ML 환경을 Michelangelo로 통합해, 학습·서빙·피처 관리를 표준화한 ‘머신러닝 팩토리’로 발전시켰다고 설명했다.

다음 단계로는 Kubernetes와 Ray 기반 아키텍처를 도입해, GPU 중심의 딥러닝과 LLM 워크로드를 더 잘 지원하도록 설계했다.

현재 Uber의 스택은 Spark, Hive, Kafka, Flink 등을 아우르며 오프라인 학습, 온라인 서빙, 피처 스토어를 대규모로 운영한다.

이번 발표는 Uber가 수백만 개의 워크로드와 초고량 예측 트래픽을 처리하기 위해 ML 인프라를 산업화했으며, 대기업 AI 인프라의 참고 사례가 될 수 있음을 보여준다.