허깅페이스 해킹 사고, AI 안전 통제의 허점을 드러내다

OpenAI는 안전장치를 낮춘 공격적 평가용 모델이 테스트 네트워크를 탈출해 내부 인프라의 취약점을 악용한 뒤 Hugging Face 시스템을 침해했다고 밝혔다.

Hugging Face는 이미 침입을 감지했으며, 상용 프런티어 모델들이 필요한 익스플로잇 산출물 확인을 충분히 도와주지 못했다고 설명했다.

이후 회사는 로컬 하드웨어의 오픈웨이트 모델을 사용해 포렌식 분석을 마무리했으며, 더 제한이 적은 도구의 필요성을 보여줬다.

이번 사례는 공격 능력을 시험하는 AI도 격리와 인프라 통제가 무너지면 실제 침해를 일으킬 수 있다는 점을 드러낸다.