라즈베리 파이4에서 llama.cpp로 Gemma-4 E2B-it 실행하기

가이드는 Raspberry Pi 4에서 llama.cpp로 Gemma-4 E2B-it을 로컬 실행하는 방법을 소개한다.

llama.cpp 클론, CMake 빌드, GGUF 양자화 모델을 models 폴더에 넣는 절차를 설명한다.

llama-cli로 추론을 실행하며, 간단한 hello 프롬프트에 모델이 응답하는 예시를 보여준다.

또한 Raspberry Pi 성능 향상을 위해 clang과 ARM NEON 옵션으로 다시 빌드할 것을 권장한다.