새로운 메모리 솔루션, DRAM과 SSD를 활용해 AI의 GPU 병목을 해소하고 기업 배포 비용을 50% 이상 절감
This New Memory Solution Breaks AI’s GPU Bottleneck, Slashing Enterprise Deployment Costs by Over 50% by Using DRAM and SSDs
TL;DR AI
1분핵심 요약
ADATA의 Trusta가 COMPUTEX에서 AI Scaler Extended Memory Solution을 공개했다.
이 솔루션은 AI Scaler Toolkit을 중심으로 GPU 메모리, 시스템 DRAM, 고속 SSD에 AI 워크로드를 분산한다.
이를 통해 VRAM 병목을 완화하고, 일반 모델과 에이전트 워크플로를 지원하며, 추론·파인튜닝 배포 비용을 50% 이상 낮추는 것을 목표로 한다.
기업은 부족한 GPU 메모리에 덜 의존하면서 온프레미스 AI를 더 효율적으로 운영할 수 있을 전망이다.