MAAT: 다단계 어댑터 인식 표적 언러닝
MAAT: Multi-phase Adapter-Aware Targeted Unlearning
TL;DR AI
2분핵심 요약
연구진은 who, what, when, where, why를 각각 1,000개씩 담은 균형형 5W 벤치마크 5WBENCH를 공개했다.
기존 데이터셋에서 Why 유형의 인과 지식이 부족했고, 여러 단계의 추론이 필요한 만큼 가장 지우기 어렵다는 점을 확인했다.
또한 gradient-projected ascent, rank-dimension pruning과 task-vector negation, retain repair로 구성된 3단계 LoRA 전용 언러닝 기법 MAAT를 제안했다.
5WBENCH 평가에서 MAAT는 기존 방법보다 forget-retain 균형을 개선했으며, 5개 범주 모두에서 망각과 보존이 60%를 넘은 유일한 방법으로 보고됐다.