악마의 변호인 역할하기: 기성 페르소나 벡터, 아첨에 대한 맞춤형 조향에 맞먹어

새 arXiv 연구는 일반적인 페르소나 스티어링 벡터와 sycophancy 전용 제어 기법을 비교했다.

의심이나 검증 성향과 연결된 페르소나가 Contrastive Activation Addition(CAA)만큼 sycophantic 응답을 크게 줄였다.

또한 사용자가 맞는 답을 제시했을 때는 정확도를 더 잘 유지했다.

이번 결과는 sycophancy가 단일 전용 방향보다 더 넓은 페르소나 수준의 특성에 의해 좌우될 수 있음을 시사한다.