QQWorld: квантиль-квантильное сопоставление для регуляризации мировых моделей
Выявлено, что цель регуляризации Эппса-Пулли в LeWorldModel, подталкивающая латентные представления к изотропному гауссову распределению, имеет корректирующие градиенты, которые исчезают для изолированных выбросов в хвостах, оставляя тяжелохвостые отклонения латентного пространства плохо контролируемыми. QQWorld заменяет её целью квантиль-квантильного сопоставления, сохраняющей активные градиенты в хвостах, что улучшает качество латентного пространства для планирования.
Важность: 2/5
Заметная исследовательская статья по мировым моделям, только официальный источник arxiv/HF; 22 апвоута на HF Daily Papers, ниже порога буста в 100 апвоутов.