Google AI, Gemma 4용 멀티 토큰 예측(MTP) 드래프터 공개… 품질 저하 없이 최대 3배 빠른 추론 제공

구글이 Gemma 4용 Multi-Token Prediction(MTP) 드래프터를 공개해 추론 속도를 높였다.

이 방식은 작은 드래프터가 여러 토큰을 먼저 제안하고, 큰 모델이 한 번에 검증하는 스펙ულ레이티브 디코딩을 사용한다.

구글은 출력 품질을 그대로 유지하면서 생성 지연 시간을 최대 3배까지 줄일 수 있다고 밝혔다.

이번 업데이트에는 엣지용 변형 모델 최적화도 포함돼, 서빙 비용 절감과 응답성 개선에 도움이 된다.