LiteRT.js, 구글의 고성능 웹 AI 추론
LiteRT.js, Google's high performance Web AI Inference
TL;DR AI
1분핵심 요약
Google이 브라우저에서 AI 추론을 직접 실행하는 JavaScript 런타임 LiteRT.js를 공개했다.
LiteRT.js는 기존 .tflite 모델을 지원하며 WebAssembly 기반으로 CPU, GPU, 향후 NPU까지 활용할 수 있다.
npm 패키지, 데모, PyTorch 변환 도구, 양자화 옵션도 함께 제공된다.
Google은 일부 벤치마크에서 다른 웹 AI 런타임보다 최대 3배 빠를 수 있다고 밝혔다.