Self-OPD: on-policy дистилляция для flow matching моделей без учителя
Метод убирает специфичного для задачи учителя из on-policy дистилляции flow matching моделей, превращая собственное самостоятельное исследование студента в пошаговую супервизию: каждое детерминированное предсказание следующего состояния ветвится на K стохастических SDE-кандидатов, оцениваемых относительно self-reference базлайна, с pull-push-целевой функцией, притягивающей ветки с высоким advantage и отталкивающей ветки с низким. Сообщается о преимуществах над прежними методами RL и OPD на бенчмарках с одиночной и смешанной наградой без какого-либо учителя.
Почему это важно
66 апвоутов; self-distillation без учителя снижает стоимость выравнивания flow matching моделей
Важность: 3/5
заметная статья, 66 апвоутов на HF
Источники
официальный
arXiv 2608.26872
официальный
HF Papers — 66 upvotes, Aug 28