“speculative decoding” 검색 결과

검색된 기사

테크2026년 5월 27일

Eagle 3.1: EAGLE 팀, vLLM 팀, TorchSpec 팀의 협업 | Hacker News

논문2026년 5월 20일

덜 생성하고 더 많이 가져오기: 추론적 디코딩을 위한 하이브리드 트리 구성

Hugging Face Papers

테크2026년 5월 16일

Orthrus-Qwen3: Qwen3에서 최대 7.8배의 토큰/포워드, 동일한 출력 분포 | Hacker News

테크2026년 5월 13일

AntAngelMed 만나보기: 1/32 활성화 비율 MoE 아키텍처로 구축된 103B 파라미터 오픈소스 의료 언어 모델

논문2026년 5월 12일

SlimSpec: 가속화된 추측 디코딩을 위한 저랭크 드래프트 LM 헤드

Hugging Face Papers

논문2026년 5월 11일

SpecBlock: 동적 트리 드래프팅을 활용한 블록 반복적 추측 디코딩

Hugging Face Papers

논문2026년 5월 8일

패스트 바이트 잠재 트랜스포머

Hugging Face Papers

테크2026년 5월 7일

소형 AI로 초안을 생성해 대형 AI를 고속화하는 ‘멀티 토큰 예측’ 기술을 Google이 발표

테크2026년 5월 7일

구글, MTP 드래프터로 Gemma 4 모델 속도 3배 향상

테크2026년 5월 7일

구글의 Gemma 4 AI 모델, 미래 토큰 예측으로 속도 3배 향상

테크2026년 5월 6일

Google AI, Gemma 4용 멀티 토큰 예측(MTP) 드래프터 공개… 품질 저하 없이 최대 3배 빠른 추론 제공

테크2026년 5월 6일

Gemma 4 가속화: 멀티 토큰 예측 드래프터로 더 빠른 추론