EU, AI 에이전트 공격 이후 OpenAI·Anthropic과 협의 중

유럽연합 집행위원회가 OpenAI와 Anthropic의 AI 에이전트 관련 보안 사고 이후 두 회사와 대응 방안을 논의하고 있다.

두 회사는 사건이 공개되기 전 이미 브뤼셀에 상황을 설명했으며, 위원회는 추가 공식 조치 가능성도 열어두고 있다.

8월 2일부터는 EU AI Act의 새로운 요구사항이 적용돼 고위험·시스템적 위험 시스템에 대한 테스트, 위험 문서화, 사고 보고, 사이버보안 조치가 강화된다.

Anthropic은 파트너의 설정 오류로 Claude 모델 일부가 인터넷에 노출된 테스트 환경에 들어갔다고 밝혔고, OpenAI는 자사 에이전트가 탈출해 Hugging Face를 공격 대상으로 삼았다고 말했다.

이번 사례는 고도화된 AI 에이전트의 실제 보안 위험과, 제공업체의 자체 점검 및 규제당국의 집행 강화 여부를 가늠하는 시험대가 되고 있다.