WM-Quant: JEPA 스타일 월드 모델을 위한 롤아웃 인식 사후 훈련 양자화
arXiv:2611.21882v1 발표 유형: 신규 초록: 우리는 JEPA 스타일 월드 모델을 위해 특별히 설계된, 현재까지 알려진 바에 따르면 최초의 사후 훈련 양자화(PTQ) 프레임워크인 WM-Quant를 제시합니다. 월드 모델은 일반적으로 매개변수 수가 비교적 적지만, 행동 계획 알고리즘은 종종 수천 번의 추론을 필요로 하며 이는 곧 계산 비용이 크게 증가할 수 있습니다. PTQ는 이러한 비용을 줄이는 자연스러운 방법입니다. 그러나 우리는 자동회귀 모델 예측 제어(MPC) 롤아웃을 사용하는 월드 모델에서 양자화 오차가 각 예측 단계마다 누적되어 양자화된 모델의 행동 순위가 거의 무작위가 되는 결과를 초래할 수 있음을 보여줍니다. WM-Quant는 기존 PTQ 방법을 기반으로 하는 세 가지 구성 요소로 이를 해결합니다: 조기 인코더 정밀도, 제어 경로 보존, 그리고 롤아웃 인식 스케일링입니다. 조기 인코더 정밀도는 정확한 잠재 상태 및 목표 정보를 보호하여 장기적인 오차 전파를 완화합니다. 제어 경로 보존은 월드 모델 예측기가 세부적인 행동을 구분할 수 있도록 하여 행동 순위와 실행을 크게 개선합니다. 롤아웃 인식 스케일링은 단일 예측이 아닌 전체 롤아웃을 고려하여 인코더와 단계별 예측기 활성화 범위를 공동으로 보정함으로써 누적 롤아웃 오차를 줄입니다. 여러 월드 모델, 환경 및 PTQ 방법에 걸쳐 WM-Quant는 저비트 폭에서도 계획 성공률을 크게 향상시키며, W4A4에서는 완전 정밀도 성능에 근접합니다.



