Tencent открывает DSpine — параллельный drafter для speculative decoding

Tencent

исследования официальный 1 ист. ~1 мин

Tencent опубликовала инференс-код и веса DSpine — ~1B drafter'а для параллельного speculative decoding с целевой моделью Qwen3-8B — под Apache-2.0 на Hugging Face. Его сеть с conditioning по глубине генерирует draft'ы для всех позиций параллельно и достигает средней длины приёма 7,83 при T=0, опережая DSpark, DFlash2, DFlash и Domino. Статья (arXiv 2609.36173) вышла в сентябре 2026; релиз кода попадает в этот период.

Почему это важно

Открытый drop-in drafter, ускоряющий сервинг мейнстримных открытых моделей вроде Qwen3-8B.

Важность: 2/5

заметное обновление (минорная версия с реальными изменениями)

china open-weights inference speculative-decoding apache2

Источники

официальный Hugging Face model card (tencent/Qwen3-8B-DSpine-b16)