비전-언어 모델의 머신 언러닝 강건성에 대하여
On the Robustness of Machine Unlearning for Vision-Language Models
TL;DR AI
1분핵심 요약
연구진이 비전-언어 모델의 머신 언러닝에 대한 첫 체계적 설문과 강건성 분석을 발표했다.
이들은 3가지 공격 테스트를 제안했고, 많은 언러닝 기법이 문맥 프롬프트와 재학습에 의해 우회될 수 있음을 확인했다.
결과적으로 이런 방법들이 기억된 지식을 완전히 지우기보다 숨기는 데 그칠 수 있음을 시사한다.
이는 멀티모달 AI의 개인정보 보호, 안전성, 거버넌스에 대한 우려를 키운다.