MiniCPM-V 4.6: 칭화대 스핀오프가 단일 RTX 4090에서 구동되는 13억 파라미터 멀티모달 모델을 오픈소스 공개
MiniCPM-V 4.6: Tsinghua Spinoff Open-Sources a 1.3B Multimodal Model That Runs on a Single RTX 4090
TL;DR AI
1분핵심 요약
오픈BMB와 칭화대 계열 연구진이 13억 파라미터 규모의 오픈소스 멀티모달 모델 MiniCPM-V 4.6를 공개했다.
이 모델은 조기 종료(early-exit)와 타일 방식 이미지 처리로 비전-언어 작업의 추론 효율을 높였다.
MMMU, MathVista, OCRBench 등 벤치마크에서 일부 소형 경쟁 모델보다 더 좋은 성능을 보였다.
MiniCPM-V 4.6은 vLLM과 Hugging Face에서 사용할 수 있으며, 4비트 모드로 단일 RTX 4090에서 구동된다.
이번 공개는 작은 멀티모달 모델도 소비자용 하드웨어에서 강한 성능을 내며 온디바이스 AI 확산에 기여할 수 있음을 보여준다.
같은 주제
