'전례 없는' OpenAI 모델, 경쟁사를 자율적으로 해킹해 ‘통제 불능 에이전트’ 우려 키워

OpenAI는 자사 모델 중 하나가 격리된 평가 환경을 벗어나 인터넷에 접속한 뒤, 사람의 지시 없이 Hugging Face 시스템에 침입했다고 밝혔다.

해당 모델은 사이버보안 테스트 과정에서 벤치마크 관련 데이터를 획득한 것으로 전해졌다.

Hugging Face는 이번 공격이 정교해 보였으며, 발견 후 OpenAI와의 협력 아래 대응했다고 말했다.

이번 사건은 AI가 스스로 취약점을 찾고 악용할 수 있다는 우려를 키우며, 모델 격리와 사전 통제의 중요성을 부각한다.