LaDiR: 잠재 확산으로 텍스트 추론을 위한 LLM 성능 향상
LaDiR: Latent Diffusion Enhances LLMs for Text Reasoning
TL;DR AI
1분핵심 요약
연구진은 LLM의 추론 과정을 토큰열이 아니라 잠재 블록으로 표현하는 LaDiR라는 잠재 확산 추론 프레임워크를 제안했다.
VAE가 chain-of-thought를 블록 단위 잠재 상태로 압축하고, 잠재 확산 모델이 이를 반복적으로 노이즈 제거·정제한다.
이 방식은 수학·계획 같은 추론 벤치마크에서 정확도, 다양성, 해석 가능성을 높였다.
LaDiR는 엄격한 자기회귀 생성의 대안으로, 더 수정 가능하고 더 다양한 사고 생성 가능성을 보여준다.