Unsloth AI, Unsloth Studio 출시: VRAM 사용 70% 감소 고성능 LLM 파인튜닝용 로컬 노코드 인터페이스
Unsloth AI Releases Unsloth Studio: Local No-Code Interface for High-Performance LLM Fine-Tuning with 70% Less VRAM Usage
TL;DR AI
1분핵심 요약
Unsloth Studio 출시되었다, unsloth AI가 파인튜닝용 로컬 노코드 인터페이스를 공개했다.
Triton 커널 교육 속도를 2배로 향상시킨다 핵심 백프로퍼게이션 커널은 OpenAI의 Triton 언어로 작성되었다.
Unsloth 커널 VRAM 사용량을 70% 줄인다 전통적 프레임워크 대비 메모리 사용량을 줄이도록 설계되었다.
Unsloth Studio 8B 및 70B 파라미터 모델을 단일 GPU로 파인튜닝할 수 있다 소비자용 GPU 한 대에서 특정 모델 크기의 파인튜닝을 지원한다.
LoRA와 QLoRA를 통한 4비트 및 8비트 양자화를 지원한다 스튜디오는 파라미터 효율적 기법을 지원한다.
같은 주제
