최종 답변을 넘어: 다중 에이전트 산업 워크플로우에서 궤적 수준 환각 감사
Beyond Final Answers: Auditing Trajectory-Level Hallucinations in Multi-Agent Industrial Workflows
TL;DR AI
1분핵심 요약
연구진은 다중 에이전트 산업 워크플로를 위한 궤적(trajectory) 수준 감사 프레임워크와 데이터셋 Trajel을 제안했다.
이번 연구는 사실·지시 대상·논리·절차·범위 기반 오류로 이루어진 5종 환각 분류 체계를 추가했다.
AssetOpsBench의 전문가 주석 에이전트 트레이스를 바탕으로 여러 수준에서 탐지 성능을 비교했다.
최종 답변만 평가하면 많은 실패를 놓치며, 환각이 있는 궤적의 거의 절반은 여러 오류 유형을 동시에 포함했다.
궤적 인지형 탐지기가 일반적인 사후 검증보다 우수해, 더 안전한 에이전트 배포의 필요성을 보여줬다.