노이즈 하에서 행동하기 배우기: 잡음이 있는 환경을 통한 에이전트 견고성 향상
Learning to Act under Noise: Enhancing Agent Robustness via Noisy Environments
TL;DR AI
1분핵심 요약
연구진은 학습 중 사용자 및 도구 노이즈를 주입해 LLM 에이전트의 강건성을 높이는 NoisyAgent 훈련 프레임워크를 소개했다.
이 방법은 점진적 노이즈 확대와 부분 롤아웃 노출을 통해 에이전트가 불완전하고 확률적인 상호작용에 적응하도록 돕는다.
NoisyAgent는 노이즈가 있는 환경뿐 아니라 깨끗한 벤치마크에서도 성능을 향상시켜, 더 나은 일반화 가능성을 보여준다.
이번 연구는 벤치마크 성능과 실제 배포 환경에서의 신뢰성 사이의 간극을 보여준다.