원칙적 샘플 선택을 통한 효율적인 LLM의 어닐링을 향하여
Towards Efficient LLMs Annealing with Principled Sample Selection
TL;DR AI
1분핵심 요약
연구진은 손실 지형의 스펙트럴 기하와 Hessian 고유방향을 활용해 LLM 사전학습의 annealing 단계를 분석했다.
이를 바탕으로, 훈련 샘플의 방향별 그래디언트 제약을 적용하는 곡률 인지형 샘플 선택법 DiReCT를 제안했다.
다양한 모델 규모에서 DiReCT는 강한 성능을 보여, 더 나은 수렴과 최종 성능 향상을 시사했다.
이 방법은 사전학습 데이터 선택을 이론적으로 뒷받침하는 접근으로, 학습 효율과 모델 품질을 함께 높일 수 있다.