파이브 아이즈에서 에이전틱 AI까지: 오작동을 전제로 하라

파이브 아이즈 정보·안보 기관들이 에이전틱 AI에 대한 첫 공동 지침을 발표하며, 이 기술이 이미 실제 배포 환경에서 보안 우려를 낳고 있음을 시사했다.

30쪽 분량의 가이드는 조직이 예상치 못한 동작을 전제로 해야 한다고 밝히며, 권한 남용·행동 드리프트·상호연결된 시스템·책임소재 불명확성 등을 주요 위험으로 꼽았다.

대응책으로는 짧게 유지되는 자격증명, 검증 가능한 신원, 암호화 통신, 그리고 실행 결과를 되돌리거나 차단할 수 있는 통제 등 제로트러스트 방식의 조치를 권고했다.

또한 다단계 자율 시스템에 대한 위협 분류와 평가 방법이 아직 불완전하다고 경고해, 조달 기준과 향후 정부 요구사항에 영향을 줄 가능성이 크다.