PEFT-Arena: 안정성-가소성 관점에서 본 파라미터 효율적 미세조정 이해

PEFT 평가는 이제 과제 성능뿐 아니라 사전학습된 능력의 손실까지 함께 봐야 한다고 이 논문은 주장한다.

새 벤치마크 PEFT-Arena는 대규모 언어모델에서 다운스트림 성능과 일반 능력 유지 여부를 함께 측정한다.

비슷한 파라미터 예산에서는 orthogonal finetuning이 가장 좋은 안정성-가소성 균형과 전반적 트레이드오프를 보였다.

연구는 weight-space와 activation-space 기하를 통해 방법 차이를 설명하고, path-wise rewinding을 사후 개선책으로 제안한다.