LaRA: RL 후훈련에서 데이터 오염을 탐지하기 위한 계층별 표현 분석
LaRA: Layer-wise Representation Analysis for Detecting Data Contamination in RL Post-Training
TL;DR AI
1분핵심 요약
연구진은 RL 후학습 언어 모델의 데이터 오염을 탐지하는 층별 분석 방법 LaRA를 제안했다.
LaRA는 출력 신호가 아니라 표현 변화에 주목해, 교란 민감도·방향 붕괴·지역적 강직성을 측정한다.
논문은 오염이 층별로 체계적인 편차를 일으키며, LaRA가 RL 기반 추론 모델에서 기존 기법보다 더 잘 탐지함을 보였다.
이 방법은 데이터 유출 탐지를 더 신뢰할 수 있게 만들어 평가 결과와 일반화 주장에 대한 신뢰를 높일 수 있다.