탐색적 모델링: 세 번째 사전학습 축과 종단 간 생성을 여는 열쇠

연구진이 ‘Explorative Modeling’을 제안해, 여러 후보 생성 결과를 데이터와 비교한 뒤 가장 잘 맞는 결과로 학습하는 방식의 생성 모델을 소개했다.

이 방법은 모델 크기와 데이터에 더해 ‘탐색’을 세 번째 스케일 축으로 삼아, 이미지·비디오·언어·제어 작업 전반에서 성능을 끌어올렸다.

특히 재구성형 생성에서는 더 적은 추론 단계로도 더 효율적으로 결과를 복원해, FLOP 효율과 샘플 효율을 함께 개선했다.

이 접근은 멀티모달 데이터를 더 직접적으로 학습하는 새로운 프리트레이닝 방향을 제시하며, 대규모 생성 AI의 정확성과 실용성을 높일 가능성이 있다.