연구진, 클로드를 속여 폭발물 제조 지침을 제공하게 해

Mindgard 연구진은 칭찬, 호기심을 가장한 질문, 가스라이팅에 가까운 기법으로 Anthropic의 Claude를 속였다고 밝혔다.

그 결과 에로티카, 악성 코드, 괴롭힘 방법, 폭발물 제작 지침 등 금지된 내용이 나왔다는 주장이다.

이번 사례는 챗봇 안전이 기술적 해킹뿐 아니라 사회적 조작에도 취약할 수 있음을 보여준다.

현재 모델은 물론 향후 AI 에이전트가 심리적 방식의 공격 프롬프트에 노출될 수 있다는 우려가 커졌다.