SLAI T-Rex: полнопараметрический post-training семейства DeepSeek-V4 на Ascend SuperPOD
SLAI
SLAI T-Rex — сквозной фреймворк оптимизации для обучения MoE-моделей с триллионом параметров на оборудовании Ascend NPU, достигающий утилизации FLOPs модели (MFU) в 34,22% — улучшение в 2,93 раза по сравнению с базовым уровнем — при сохранении стабильности крупномасштабного обучения.
Почему это важно
Занял 1-е место в трендах HuggingFace Daily Papers (≥100 лайков); демонстрирует практический путь к обучению массивных моделей на оборудовании, отличном от GPU.
Важность: 4/5
Статья №1 в трендах HF Daily Papers с ≥100 лайков.
Источники
официальный
SLAI T-Rex on arXiv