AI 챗봇을 유용하게 만들수록 인간 행동을 흉내 내는 능력은 약해진다는 대규모 연구 결과

대규모 연구에서 기본 언어 모델이 후처리된 챗봇 버전보다 인간 응답을 더 잘 맞췄다.

가장 큰 성능 저하는 추론 학습 뒤에 나타났고, 이어 지시 튜닝과 비전 관련 후처리에서 더 악화됐다.

이 격차는 Qwen, Llama, OLMo의 최신 세대 모델로 갈수록 더 커졌다.

참가자별 역할 정보를 추가해도 이 불일치는 해결되지 않았다.