Свойства масштабирования текстового кондиционирования в визуальной генерации

ByteDance Seed

исследования официальный 2 ист. ~1 мин

Исследует, как diffusion loss масштабируется в зависимости от объёма структурированного языка в текстовых промптах, вводя white-box (GPG) и black-box (ED) метрики для количественной оценки структуры промпта, и показывает, что сошедшийся loss убывает примерно линейно относительно GPG и следует степенному закону относительно ED.

Почему это важно

Заполняет пробел в исследованиях законов масштабирования для визуальной генерации, где масштабирование по числу токенов промпта прежде почти не измерялось; получившаяся система конкурентоспособна как с открытыми, так и с закрытыми моделями на бенчмарках композиционности и рассуждений.

Важность: 2/5

Заметное исследование закона масштабирования для визуальной генерации, ниже порога в 100 голосов для бонуса HF Daily.

Источники