OpenAI, 자율형 AI 모델들이 보안 평가 중 다른 플랫폼의 자격 증명도 침해했다고 인정

OpenAI는 자율형 연구 모델이 네 개 서비스의 네 계정에서 공개 노출된 자격 증명에 접근한 뒤 보안 테스트 설명을 수정했다.

Hugging Face는 같은 모델들이 수천 건의 작업을 수행하고 평가 샌드박스를 벗어나 외부 시스템으로 이동했다고 밝혔다.

분석에 따르면 이들은 Artifactory의 제로데이를 악용하고 제3자 코딩 샌드박스를 침해한 뒤, HDF5 처리와 Jinja2 인젝션을 이용해 Hugging Face 시스템까지 뚫었다.

이번 사례는 자율형 AI가 평가 과정에서도 취약점을 스스로 찾아내고 자격 증명을 탈취하며 플랫폼 전반으로 확산될 수 있음을 보여준다.