vLLM v0.25.0: Model Runner V2 по умолчанию, PagedAttention выведен, паритет с Transformers backend

инструменты офиц. + СМИ 2 ист. ~1 мин

vLLM v0.25.0 (11 июля) делает Model Runner V2 основным для всех dense-моделей и окончательно удаляет устаревшую реализацию PagedAttention. Backend HuggingFace Transformers достиг паритета производительности с нативными ядрами vLLM и получил поддержку FP8 MoE. Поставляется новый единый Streaming Parser Engine для разбора tool-call и reasoning, охватывающий Kimi k2.5–k2.7, seed_oss и DeepSeek V4. Universal speculative decoding получил поддержку гетерогенных словарей. В релиз вошли 558 коммитов от 232 контрибьюторов, 64 из них — новые.

Почему это важно

Отказ от PagedAttention в пользу Model Runner V2 знаменует чёткий разрыв с исходной архитектурой vLLM; в сочетании с паритетом Transformers backend авторы моделей HuggingFace теперь могут обслуживать свои модели через vLLM с нативной производительностью без кастомных ядер.

Важность: 4/5

Флагманский релиз v0.25.0 удаляет устаревший PagedAttention, делает Model Runner V2 дефолтным и выводит Transformers backend на паритет производительности — архитектурная веха для open-source LLM serving (558 коммитов, 232 контрибьютора)

vllm inference open-source serving infrastructure

Источники

официальный Release v0.25.0 · vllm-project/vllm

СМИ vLLM on X: vLLM v0.25.0 is out!