선형 앙상블로 워터마크를 지운다: LLM에서 분포 교란의 취약성에 관하여
Linear Ensembles Wash Away Watermarks: On the Fragility of Distributional Perturbations in LLMs
TL;DR AI
1분핵심 요약
연구진은 여러 LLM의 확률 출력을 평균하면 워터마크 신호가 희석돼 탐지가 실패할 수 있음을 보였다.
서로 다른 어휘와 토큰화를 가진 모델들을 맞추기 위해 WASH를 제안해, 실제적인 공격 시나리오를 구현했다.
6가지 워터마킹 방식과 3개 LLM에서 3모델 앙상블은 탐지 점수를 일반 임계값 아래로 떨어뜨리고 진양성률도 낮췄다.
이번 연구는 AI 생성 텍스트 워터마킹의 취약성을 드러내며, 경우에 따라 품질과 효율성까지 함께 개선될 수 있음을 보여준다.