에이전트형 계획-실행 파이프라인에서 시간적 의미 캐싱과 워크플로 최적화 평가
Evaluating Temporal Semantic Caching and Workflow Optimization in Agentic Plan-Execute Pipelines
TL;DR AI
1분핵심 요약
연구진은 temporal semantic caching과 워크플로 최적화가 산업용 에이전트 파이프라인의 지연 시간을 크게 줄일 수 있음을 보여줬다.
AssetOpsBench의 plan-execute 워크플로에서는 출력이 변동하는 파라미터에 좌우돼 일반적인 챗봇형 캐싱이 잘 맞지 않았다.
temporal semantic cache와 디스크 기반 tool-discovery 캐싱 등 MCP 개선으로 전체 처리 성능이 향상됐다.
의존성을 고려한 병렬 실행은 정답성을 유지하면서도 큰 속도 향상을 이끌었다.
