2030년까지 1조 개 파라미터 LLM의 추론 비용이 90% 이상 줄어들 것, 가트너 전망
Gartner predicts that by 2030, inference costs for LLMs with 1 trillion parameters will be reduced by more than 90%
TL;DR AI
1분핵심 요약
가트너는 반도체와 모델 설계의 발전으로 1조 파라미터급 LLM의 추론 비용이 2030년까지 2025년 대비 90% 이상 낮아질 수 있다고 전망했다.
다만 AI 에이전트 활용이 늘면서 처리 토큰 수가 증가해, 기업 전체의 AI 비용 절감 효과는 상쇄될 수 있다고 경고했다.
가트너는 가능한 작업에는 소형 모델을 쓰고, 꼭 필요한 경우에만 대형 모델을 사용하는 전략을 권고했다.
같은 주제
