기업용 GPU 활용률이 5%에 머무는 이유 — 그리고 해결책이 더 악화시키는 이유

기업 GPU 플릿의 평균 활용률이 약 5%에 그치며, 공급 부족 속에서 팀들이 확보한 용량을 놓지 않고 있습니다.

Cast AI는 이런 보유 행태가 고가의 AI 인프라를 낭비하고, 기업의 GPU 조달 방식을 왜곡한다고 지적합니다.

동시에 상위급 GPU와 메모리 가격이 오르거나 더 이상 떨어지지 않아, 예약 물량과 최첨단 하드웨어까지 부족 압력이 번지고 있음을 보여줍니다.

이는 더 저렴해지던 클라우드 컴퓨트 흐름이 끝나고, AI 예산과 구매 전략이 재편될 수 있음을 시사합니다.