얀 르쿤의 새로운 LeWorldModel(LeWM) 연구, 픽셀 기반 예측 월드 모델에서 JEPA 붕괴 문제 겨냥

LeWorldModel 얀 르쿤 등이 LeWM을 도입했다 얀 르쿤을 비롯한 연구진이 LeWorldModel(LeWM)을 소개함.

LeWM 원시 픽셀로부터 중단 없이(end-to-end) 학습한다, leWM은 원시 픽셀에서 엔드투엔드로 학습함.

학습 목적 두 개의 손실 항(다음 임베딩 예측 손실 및 SIGReg 정규화)을 사용한다 학습 목적함수는 예측 손실과 SIGReg 정규화로 구성됨.

모델 구조 ViT-Tiny 인코더(약 5M 파라미터)와 트랜스포머 예측기(약 10M 파라미터)를 사용한다 모델 구조: ViT-Tiny 인코더와 트랜스포머 예측기 사용.

예측 손실 예측된 임베딩과 실제 연속 임베딩 사이의 평균제곱오차(MSE)를 계산한다 예측 손실은 예측 임베딩과 실제 연속 임베딩 간의 MSE를 계산함.