←

Self-OPD: on-policy дистилляция для flow matching моделей без учителя

исследования официальный 2 ист. ~1 мин

Метод убирает специфичного для задачи учителя из on-policy дистилляции flow matching моделей, превращая собственное самостоятельное исследование студента в пошаговую супервизию: каждое детерминированное предсказание следующего состояния ветвится на K стохастических SDE-кандидатов, оцениваемых относительно self-reference базлайна, с pull-push-целевой функцией, притягивающей ветки с высоким advantage и отталкивающей ветки с низким. Сообщается о преимуществах над прежними методами RL и OPD на бенчмарках с одиночной и смешанной наградой без какого-либо учителя.

Почему это важно

66 апвоутов; self-distillation без учителя снижает стоимость выравнивания flow matching моделей

Важность: 3/5

заметная статья, 66 апвоутов на HF

Источники

официальный arXiv 2608.26872
официальный HF Papers — 66 upvotes, Aug 28