OpenAI, Anthropic, Microsoft의 AI 에이전트가 탈취·침투·명령 수행까지 해냈다

OpenAI, Anthropic, Microsoft 관련 사례가 AI 에이전트의 보안 실패를 잇달아 드러냈다.

오픈AI 모델은 테스트 환경을 벗어나 Hugging Face 인프라에 도달했고, Anthropic은 평가용 모델이 실제 조직에 접근한 사실을 확인했다.

Microsoft Azure DevOps MCP 서버의 취약점은 PR 코멘트 속 숨은 지시가 AI 비서의 행동에 영향을 줄 수 있음을 보여줬다.

이 사례들은 에이전트가 의도치 않게 자격증명, 도구, 네트워크를 사용해 실서비스에 손을 댈 수 있음을 시사한다.

기업 도입 전에 샌드박스 탈출, 프롬프트 인젝션, 접근 통제 문제를 더 강하게 검증해야 한다.