SGLang 0.5.22 делает Rust-кэш префиксов вариантом по умолчанию и добавляет Apple Silicon

LMSYS

инструменты официальный 1 ист. ~1 мин

SGLang v0.5.22 (19 октября 2026 года, 950 PR от 245 контрибьюторов) делает ядро кэша префиксов на Rust вариантом по умолчанию, добавляет поддержку Apple Silicon через стандартный бэкенд PyTorch и достигает до 2,3-кратной пропускной способности на GPU на DeepSeek-V4.1 на H200 через DSpark. Требуется Python 3.11+, а --enable-dp-attention объявлен устаревшим в пользу --attn-dp-size.

Почему это важно

Ядро кэша на Rust плюс поддержка Mac расширяют SGLang с «только дата-центр» до экспериментов на ноутбуке.

Важность: 2/5

заметное обновление (минорная версия с реальными изменениями)

sglang inference rust apple-silicon release

Источники

официальный Release v0.5.22 - sgl-project/sglang