Ring-Zero: масштабирование Zero RL до триллиона параметров с возникающими паттернами рассуждения
Ant Group
Ring-Zero обучает языковую модель на 1 трлн параметров с помощью обучения с подкреплением на верифицируемых наградах и без размеченных человеком данных цепочки рассуждений. Конвейер вводит клиппированную важностную выборку, коррекцию соотношения train/inference и контроль смешанной точности для стабилизации оптимизации на таком масштабе. Ring-2.5-1T-Zero достигает 84,2% на AIME 2026 без предварительного SFT-прогрева. Модель самопроизвольно вырабатывает структурированное форматирование, самопроверку, параллельное рассуждение и то, что авторы называют «контекстной тревожностью» — эмерджентные паттерны поведения, не заложенные вручную в процесс обучения.
Почему это важно
Первое публично задокументированное применение zero-RL обучения на масштабе триллиона параметров, показывающее, что сам по себе масштаб порождает качественно новые паттерны рассуждения и снимает необходимость в ручных эвристиках цепочки рассуждений. 2-е место в HuggingFace Daily Papers (61 голос).
Важность: 4/5
Первое обучение zero-RL на триллион параметров; эмерджентное когнитивное поведение на масштабе; 61 голос на HF; 84,2% на AIME 2026 без SFT