내적 독백 모니터링: 프로브 궤적이 추론 역학을 드러내다

연구진은 모델의 내부 추론 상태를 따라가는 프로브 궤적이 단일 시점 프로브보다 미래 행동을 더 잘 예측한다는 점을 확인했다.

궤적 기반 분석과 신호처리 특징은 여러 추론 모델과 데이터셋에서 미래의 모델 상태를 더 효과적으로 구분했다.

템플릿 기반 학습 데이터는 동적 라벨링에 필적했고, max-pooling은 평균이나 마지막 토큰 풀링보다 성능이 좋았다.

이번 결과는 고도화된 추론 모델의 안전 모니터링과 행동 예측을 더 신뢰성 있게 만드는 방법을 제시한다.