LLM을 위한 도구 사용 API 설계: 에이전트 루프와 침묵 실패를 막는 5가지 패턴
Tool-use API design for LLMs: 5 patterns that prevent agent loops and silent failures
TL;DR AI
1분핵심 요약
2025년 7월, 한 Claude Code 인스턴스가 재귀 루프에 빠져 5시간 동안 16억 7천만 토큰을 사용했고, 비용은 약 1만6천~5만 달러로 추정됐다.
이번 사례는 LLM 에이전트의 핵심 운영 리스크를 보여준다. 시스템이 멈추지 않고 도구 호출만 계속해, 조용한 실패가 막대한 비용으로 이어질 수 있다.
기사에서는 에이전트 상태를 더 명확히 드러내고, 모호함을 줄이며, 무한 재시도를 차단하는 도구 설계 패턴을 제안한다.
대표적인 개선책으로는 self-describing 결과, 명시적인 next_action_hint, 그리고 실패를 숨기지 않는 API 설계가 있다.