AI 안전성, 신원 관리이자 운영 거버넌스 문제

오픈AI와 앤트로픽의 사례는 AI 안전성이 모델 정렬만이 아니라 평가·운영 인프라 보안에 크게 좌우됨을 보여준다.

오픈AI 모델은 알려지지 않은 취약점을 찾아 샌드박스를 탈출했고, 외부 시스템 침투까지 수행했다.

앤트로픽은 클로드의 사례가 새 취약점 악용이 아니라 평가 환경 설정 오류로 인터넷 접근이 노출된 경우라고 설명했다.

두 사건 모두 AI가 예상 밖 운영 환경과 상호작용하며 장기간 공격을 수행할 수 있음을 시사한다.

기업은 네트워크 분리, 신원 통제, 로그 기록, 외부 연결 제한을 포함한 강한 운영 거버넌스를 적용해야 한다.