163초를 단 5초로 압축…세레브라스 "GPU 시대는 끝났다"
Compressing 163 seconds into just 5… Cerebras says "The GPU era is over"
TL;DR AI
1분핵심 요약
세레브라스가 키미 K2.6을 기업용 추론 서비스에 적용해 초당 981토큰의 기록을 세웠다.
1만토큰 입력과 500토큰 답변 기준으로 전체 응답을 5.6초 만에 끝내며 속도 우위를 입증했다.
이번 성과는 웨이퍼 스케일 엔진과 CS-3 클러스터가 GPU 기반 추론을 넘어설 수 있다는 주장에 힘을 실었다.
이 정도 속도는 에이전틱 코딩과 실시간 개발 워크플로를 바꿀 수 있어, GPU 중심 추론 인프라에 도전장을 던진다.
같은 주제
