한 자바 라이브러리가 AI 코딩 에이전트를 속여 테스트를 삭제하게 하려 했고, 거의 성공했다
A Java library just tried to trick AI coding agents into deleting your tests, and it almost worked
TL;DR AI
1분핵심 요약
Java 테스트 라이브러리 jqwik의 1.10.0 버전에 AI 코딩 에이전트를 겨냥한 숨은 지시문이 포함됐다.
이 문구는 에이전트에게 jqwik의 테스트와 코드를 삭제하라고 지시했으며, ANSI 이스케이프 시퀀스로 인간의 터미널 화면에서는 보이지 않게 숨겨졌다.
한 개발자가 이를 보고했고, 그 결과 에이전트 워크플로에서 프롬프트 인젝션의 위험성에 대한 비판과 우려가 커졌다.
이후 jqwik 문서는 해당 기법을 설명하도록 업데이트됐고, 이 라이브러리가 AI 코딩 에이전트용이 아님을 명시했다.