Обучение постоянству объекта в world-моделях
Представлен WROP: 150 задач в духе когнитивной науки (сгенерированные в Blender, 1,5M примеров), проверяющих, усваивают ли видео-world-модели постоянство объекта. Обучена PWM-WROP — 16B world-модель на AWS Trainium2, занимающая первое место среди моделей продолжения и третье в общем зачёте в слепом Elo-исследовании 14 видеомоделей. Данные, экзамен и веса открыты.
Почему это важно
Топ-документ Hugging Face Daily за 25 сентября со 177 голосами; первая систематическая попытка масштабно обучить видео-world-модель когнитивному приору — постоянству объекта.
Важность: 4/5
Топ-документ HF Daily (177 голосов, 100+ прирост), масштабное обучающее исследование с открытым релизом
Источники
вторичный
Hugging Face Daily Papers entry