ResMerge: 대규모 언어 모델의 잔차 기반 스펙트럴 병합
ResMerge: Residual-based Spectral Merging of Large Language Models
TL;DR AI
1분핵심 요약
연구진은 여러 강화학습 언어 모델 전문가를 추가 학습 없이 합치는 ResMerge를 제안했다.
이 방법은 태스크 벡터를 강한 스펙트럴 헤드와 잔차 부분으로 나누고, 신뢰도 가중 잔차 합의로 안정적인 기반을 만든다.
이후 합의 기반으로 헤드 정보를 다시 보정해 전문가들 사이의 충돌을 줄인다.
여러 전문가 집단과 능력 영역에서 기존 태스크 벡터 및 스펙트럴 병합보다 학습된 능력 보존이 더 좋았다.