Ollama, 애플 MLX 프레임워크로 맥에서 속도 향상
Ollama Now Runs Faster on Macs Thanks to Apple's MLX Framework
TL;DR AI
1분핵심 요약
Ollama가 애플 MLX를 적용해 맥 성능을 끌어올렸다.
prefill 속도는 약 1.6배, decode 속도는 거의 2배 빨라졌다.
M5 시리즈에서 개선 폭이 가장 크고 메모리 관리도 강화됐다.
미리보기는 Ollama 0.19이며 32GB 이상 메모리와 Qwen3.5 지원이 필요하다.
같은 주제
