Gemma 4가 갑자기 답을 못 했다 — 외부 협업이 24시간 만에 root cause를 찾아낸 이야기
Gemma 4 Suddenly Stopped Answering — How an External Collaboration Found the Root Cause in 24 Hours
TL;DR AI
1분핵심 요약
PROJECT JAMES의 로컬 Graph-RAG 시스템에서 Gemma 4 일부 단계가 결정적으로 빈 응답을 반환했다.
외부 사례 검증과 내부 단일 변수 실험 결과, max_tokens를 늘리자 문제가 사라지는 것으로 확인됐다.
모델이 가시적 출력 전에 약 500 토큰의 숨은 추론을 소모해 기존 상한에서는 답을 내지 못했던 것이다.
4개 단계의 기본 토큰 상한을 4096으로 올리는 수정이 PR #399로 병합돼 장애가 빠르게 완화됐다.