품질을 유지하면서 AI 검색 비용을 줄이세요
Cut your AI search costs without sacrificing quality
TL;DR AI
1분핵심 요약
Vespa와 Voyage AI가 AI 검색용 비대칭 검색(asymmetric retrieval)을 공개했다.
문서는 더 고품질의 모델로 한 번만 임베딩하고, 쿼리는 실행 시 더 작은 로컬 모델로 임베딩한다.
이를 통해 반복적인 쿼리 임베딩 비용을 줄이고, 검색 경로에서 외부 API 의존성도 없앨 수 있다.
Vespa는 여기에 바이너리 1차 검색과 bfloat16 재랭킹을 더해 대규모 환경의 효율을 높였다.