해커들, 팟캐스트나 랜덤 영상에 숨겨진 들리지 않는 소리로 AI 음성 챗봇을 탈취할 수 있음을 발견

중국과 싱가포르 연구진이 사람에게 들리지 않는 적대적 오디오로 음성 AI 모델을 제어할 수 있음을 보여줬다.

이 공격은 팟캐스트, 노래, 영상 같은 일상적인 미디어에 숨겨 넣을 수 있어 탐지가 어렵다.

시연은 Microsoft와 Mistral 제품에 쓰이는 오픈소스 모델을 대상으로 했으며, 현재 방어 체계의 취약성을 드러냈다.

이번 연구는 평범한 오디오 콘텐츠를 통해 음성 비서 탈취, 계정 접근, 데이터 유출이 가능하다는 우려를 키운다.