Gemini의 도구 호출 기능을 증류해 스마트폰에서도 작동하는 경량 모델로 만든 'Needle' 등장, 개발자는 스마트폰용 AI 에이전트 구축에 도움이 된다고 강조
'Needle' debuts as a lightweight model distilled from Gemini's tool-calling capabilities to run on smartphones, with developers touting its usefulness for building mobile AI agents
TL;DR AI
1분핵심 요약
Cactus Compute가 Gemini-3.1-Flash-Lite를 증류해 만든 2,600만 파라미터 함수 호출 모델 Needle을 공개했다.
회사 측은 Needle이 스마트폰과 같은 소형 기기에서 로컬로 빠르게 동작해 모바일 AI 에이전트 개발에 적합하다고 설명했다.
Needle은 MIT 라이선스로 공개됐으며, Hugging Face와 Cactus Chat 데모를 통해 제공된다.
이번 출시는 지연이 적은 온디바이스 AI의 가능성을 보여주는 동시에, Gemini 증류 제한 준수 여부에 대한 논란도 불러일으킨다.
같은 주제
