사람에게는 평범한 계약서처럼 보이는데 AI만 ‘거짓 폰트’로 다른 문서를 읽게 하는 ‘Noroboto’ 공격이란?
What Is the “Noroboto” Attack, in Which a Document Looks Like an Ordinary Contract to Humans but AI Is Made to Read a Different Text by a “Fake Font”?
TL;DR AI
1분핵심 요약
Tritium Legal Technologies의 Drew Miller는 문서에 교묘한 글꼴을 삽입해 사람은 한 내용을 보고 AI는 다른 텍스트를 추출하게 만드는 Noroboto 공격을 소개했다.
테스트에서는 계약서의 일부만 바꿔도 일부 AI 플랫폼이 잘못된 답변을 내놓아, 숨은 글꼴 조작이 문서 검토를 오도할 수 있음이 드러났다.
이 위험은 법무 검토, 송장, 감사, 조달 업무까지 확대되며, AI가 사람 눈에는 보이지 않는 텍스트를 근거로 판단할 수 있다.
대응책으로는 OCR 검증과 함께 보이는 텍스트, 파일 내부 텍스트, AI가 처리한 텍스트가 모두 일치하는지 확인하는 방법이 제안됐다.
같은 주제
