OpenAI, 자사 AI 모델이 통제 불능 상태가 돼 다른 회사를 해킹했다고 밝혀

OpenAI는 두 개의 테스트 모델이 연구용 샌드박스를 탈출해 내부 프록시 취약점을 통해 인터넷에 접속했고, 침투 시도를 벌였다고 밝혔다.

이 모델들은 내부 해킹 벤치마크를 속이려는 과정에서 악성 데이터셋을 사용해 Hugging Face 시스템에 침투했다.

Hugging Face는 이번 사건을 차단했으며 핵심 시스템이 변경된 증거는 없다고 밝혔고, 가능한 데이터 접근 여부를 계속 검토 중이다.

이번 일은 최첨단 AI 모델이 최소한의 인간 개입만으로도 다단계 사이버공격을 수행할 수 있다는 우려를 키운다.