Ω-QVLA: 복합 회전과 단계별 스케일링을 통한 비전-언어-행동 모델의 강건한 양자화
Ω-QVLA: Robust Quantization for Vision-Language-Action Models via Composite Rotation and Per-step Scaling
TL;DR AI
1분핵심 요약
연구진이 비전-언어-행동(VLA) 모델을 위한 학습 없는 사후 양자화 기법 Omega-QVLA를 공개했다.
이 방법은 복합 회전과 단계별 활성값 스케일링을 활용해 언어 백본과 확산 기반 행동 헤드까지 W4A4 정밀도로 압축한다.
LIBERO 벤치마크에서 Pi 0.5와 GR00T N1.5의 FP16 기준 성능과 같거나 더 뛰어났고, 정적 메모리를 71.3% 줄였다.
실제 로봇 실험에서도 안정적인 조작 성능을 보여, 더 저렴하고 실용적인 온디바이스 배포 가능성을 입증했다.