물리적 AI의 침묵하는 실패: 자율 시스템의 런타임 동작 승인에 관한 문헌 검토

이 논문은 Physical AI의 런타임 가드레일을 검토하며, 자율 시스템이 겉보기에는 맞아 보여도 위험한 행동을 내놓을 수 있음을 강조한다.

현재의 안전 방법만으로는 블랙박스 모델과 실제 물리 행동 사이를 완전히 차단할 수 없다고 지적한다.

제안하는 프레임워크는 런타임 권한 부여, 불확실성 추정, 검증을 통해 실행 전 유해 행동을 걸러내는 데 초점을 둔다.

연구는 로보틱스 파운데이션 모델과 비전-언어-행동 시스템에서 발생하는 침묵형 실패 위험을 부각한다.

핵심 메시지는 Physical AI의 안전한 배포를 위해 모델 정확도보다 강한 런타임 보증이 필요하다는 점이다.