추론 기반 가드레일은 언제 비효율적인가? ResponseGuard: 실시간 모더레이션을 위한 빠른 비전-언어 가드

ResponseGuard는 이미지, 요청, 응답을 한 번의 전방 통과로 평가하는 2B 비전-언어 안전 가드로, 실시간 모더레이션에 맞춰 설계됐다.

벤치마크에서 3B 추론형 가드보다 유해 응답 탐지 성능이 더 좋았고, 속도는 약 150배 빨랐다.

또한 생성 중인 텍스트를 토큰 단위로 검사해 위험한 출력을 조기에 중단할 수 있다.

이 결과는 가벼운 비추론형 가드레일이 더 저렴하고 빠르면서도 안전 성능을 유지할 수 있음을 보여준다.