Arcee, 엔터프라이즈용 오픈소스 399B 추론 모델 Trinity-Large-Thinking 공개
Arcee releases Trinity-Large-Thinking, an open-source 399B reasoning model for enterprises
TL;DR AI
1분핵심 요약
Arcee가 Apache 2.0으로 Trinity-Large-Thinking을 공개했다.
모델은 2048개 B300 GPU로 33일간 훈련됐고 훈련비용으로 2000만 달러가 투입됐다.
Mixture-of-Experts 구조로 토큰당 약 130억 파라미터만 활성화된다.
훈련 코퍼스는 선별 웹 데이터와 DatologyAI 합성 데이터 각 10조 토큰이다.