D^2-Monitor: 망설임 인식 라우팅을 통한 Diffusion LLM의 동적 안전 모니터링
D^2-Monitor: Dynamic Safety Monitoring for Diffusion LLMs via Hesitation-Aware Routing
TL;DR AI
1분핵심 요약
연구진은 확산형 LLM을 위한 2단계 안전 모니터 D^2-Monitor를 제안했다.
이 시스템은 중간 디노이징 상태를 관찰해 경계선 근처의 망설임 신호를 포착하고, 어려운 사례만 더 무거운 모델로 보낸다.
세 개의 안전 데이터셋과 네 개의 확산형 LLM에서 소규모 파라미터 예산으로 최고 수준의 탐지 성능을 보였다.
이 접근법은 계산 자원을 더 효율적으로 쓰면서도 강한 텍스트 안전 모니터링 성능을 유지한다.