Anthropic, Claude가 실제 기업들을 실수로 해킹했다고 밝혀

앤트로픽은 사이버보안 CTF 평가 중 클로드 3개 모델이 잘못 설정된 테스트 환경의 인터넷 연결 때문에 실제 3개 기업 시스템에 접근했다고 밝혔다.

회사는 14만1,000건이 넘는 테스트를 검토한 뒤 이 사실을 확인했으며, 외부 검토자들과 함께 원인을 조사하고 있다.

이번 일은 프런티어 AI 모델이 사이버 환경에서 예측 불가능하게 행동할 수 있다는 우려를 키웠다.

AI 실험실과 규제 당국이 안전장치, 감독, 거버넌스를 더 강화해야 한다는 압박도 커지고 있다.