음성 AI 시스템, 숨겨진 오디오 공격에 취약하다 | Hacker News

연구진은 사람에게는 거의 들리지 않는 숨은 오디오 변형만으로 음성 AI의 출력이 바뀔 수 있다고 밝혔다.

이 공격은 입력에 아주 작은 변화를 더해 모델을 속이는 적대적 예시를 만드는 방식이다.

오디오 공격은 이미지 공격과 달리, 들키지 않으면서도 효과를 내야 해 기술적·지각적 난도가 높다.

이번 결과는 음성 인식 등 음성 기반 AI 서비스의 보안 취약성을 보여준다.