대규모 추론 모델의 비평 메커니즘 해독

연구진은 대형 추론 모델이 산술 오류를 일부러 넣어도, 텍스트상으로 오류를 명시적으로 바로잡지 않아도 정답에 도달할 수 있음을 확인했다.

이 현상은 표면적인 체인오브쏘트 아래에서 작동하는 내부 비판 메커니즘 때문인 것으로 보인다.

연구진은 또한 특징 공간에서 해석 가능한 critique vector를 찾아, 여러 모델 계열에서 오류 탐지와 테스트 시 성능을 높일 수 있음을 보였다.

이번 결과는 추가 학습 없이도 모델의 자기검증을 더 안정적으로 유도해, 신뢰성과 정확도를 높일 수 있음을 시사한다.