AI에게 도메인을 가르치다, 두 번 갈아엎은 이야기 — LLM Wiki + RAG 혼합기 - 컬리 기술 블로그

한 엔지니어가 한 달간 사내 도메인 지식을 LLM에 넣는 세 가지 방법—LLM Wiki, 키워드 검색, 벡터 검색—을 실험했다.

마크다운 문서를 그대로 넣는 위키 방식은 문서가 늘수록 비용이 커지고 신뢰성도 떨어졌다.

역인덱스 검색은 속도는 좋았지만 동의어를 놓치고 관련 없는 키워드를 섞어 가져오는 문제가 있었다.

sqlite-vec와 multilingual-e5-small을 쓴 의미 기반 검색은 재현율을 높였지만, 혼합 주제 문서와 짧은 내부 식별자는 여전히 어려웠다.

이번 사례는 기업용 LLM에서 키워드 검색의 한계, 전체 문맥 주입의 높은 비용, 임베딩 검색의 보완 필요성을 보여준다.