개념 기반 설명가능성에서 제로샷 이미지 생성을 평가하기 위한 프레임워크

연구진은 제로샷 텍스트-투-이미지 모델로 개념 기반 XAI용 합성 개념 데이터셋을 만들 수 있는지 평가하는 프레임워크를 제안했다.

이 연구는 유사도, 개념 내부 유사도, 다운스트림 설명 성능, 개념 제거 테스트로 생성 모델을 검증했다.

결과는 대규모 라벨 데이터 의존을 줄일 가능성을 보여주지만, 생성 이미지의 충실성은 여전히 불확실하다.

이번 연구는 합성 개념 이미지가 설명 가능한 컴퓨터 비전에서 지닌 잠재력과 한계를 함께 보여준다.