LLM 추론 자동화: 토큰 69.5% 감소
LLM reasoning, automated: tokens drop 69.5%
TL;DR AI
1분핵심 요약
메타, 구글, 대학 연구진이 LLM의 테스트타임 스케일링 전략을 자동으로 찾는 프레임워크 AutoTTS를 공개했다.
AutoTTS는 분기, 프루닝, 중단 규칙을 사람이 직접 설계하는 대신 탐색 모델이 제어기를 반복적으로 설계·개선한다.
실험에서 AutoTTS는 성능을 유지하면서 토큰 사용량을 최대 69.5%까지 줄였다.
이 방식은 추론 모델의 인퍼런스 비용을 낮추고 수작업 휴리스틱 튜닝 부담을 줄일 수 있다.