멀티헤드 잠재 제어: LLM 에이전트 의사결정을 위한 통합 인터페이스
Multi-Head Latent Control: A Unified Interface for LLM Agent Decision Making
TL;DR AI
1분핵심 요약
연구진은 고정된 LLM과 VLM의 hidden-state trace를 읽어 에이전트 행동을 예측하는 경량 레이어 Multi-Head Latent Control을 제안했다.
이 레이어는 더 강한 모델에 넘길지, 도구를 사용할지, 추가 설명을 요청할지, 바로 답할지, 또는 응답을 보류할지를 결정할 수 있다.
기반 모델은 수정하지 않고 사후 학습만으로 적용되며, 여러 벤치마크에서 라우팅과 도구 사용 성능을 높였다.
더 저렴하고 유지보수가 쉬운 방식으로 에이전트 행동을 제어해, 큰 성능 손실 없이 고비용 모델 호출을 줄일 수 있다.