표현 오토인코더를 활용한 개선된 기준선

연구진이 비전 디퓨전 모델용 representation autoencoder 설계를 전반적으로 재검토했고, 더 단순한 선택이 더 나은 성능을 낼 수 있음을 확인했다.

인코더 레이어 합산, representation alignment, 출력 재파라미터화가 재구성, guidance, 학습 안정성을 개선했다.

이렇게 만든 RAEv2는 ImageNet-256과 다른 과제에서 훨씬 적은 에폭으로 최고 수준의 성능을 달성했다.

이번 연구는 이미지 생성 모델을 더 빠르고 효율적으로 학습할 수 있는 유망한 방법을 제시한다.