Show HN: NixOS-DGX-Spark – DGX Spark에서 Nix와 NixOS 사용하기 | Hacker News
Show HN: NixOS-DGX-Spark – Nix and NixOS on the DGX Spark | Hacker News
TL;DR AI
1분핵심 요약
Show HN 게시물에서 Nvidia DGX Spark 위에 Nix와 NixOS를 올려 로컬 AI 추론 워크로드를 돌리는 NixOS-DGX-Spark 프로젝트를 소개했다.
DeepSeek 기반 모델을 커스텀 vLLM 이미지로 실행해 높은 토큰 처리량을 보고했으며, FP8 같은 설정도 함께 논의됐다.
코딩과 리뷰 작업에서 어떤 모델이 더 적합한지 비교했고, Hermes, Qwen 3.6 27B, DeepSeek-V4-Flash-0731 등이 언급됐다.
이 사례는 재현 가능한 Nix 기반 시스템으로 특수 Nvidia 하드웨어의 LLM 배포와 튜닝을 실용적으로 보여준다.



