#quantization
- Google DeepMind публикует QAT-чекпоинты Gemma 4: модель E2B занимает менее 1 ГБ на устройстве Google DeepMind models-llm
- ViQ: текстово-выровненные дискретные визуальные представления с поддержкой произвольного разрешения (ECCV 2026) Tencent Hunyuan research
- Мираж оптимизации политик обучения: монотонные политики инференса как реальная цель для RL языковых моделей Tianjin University / Alibaba research
- PrismML выпустила Bonsai 27B: первую модель класса 27B, работающую на iPhone PrismML models-llm
- PrismML выпускает Bonsai 2 27B: тернарные веса с потерями, близкими к нулевым, относительно учителя PrismML models-llm
- LongLive-2.0: параллельная инфраструктура NVFP4 для генерации длинных видео (NVIDIA, 1220 апвоутов на HF) NVIDIA research
- Квантизированные модели рассуждения думают, что им нужно думать дольше, — но это не так Meta research
- vLLM v0.24.0: Model Runner V2 по умолчанию, Rust-фронтенд, ускорение SM90 FP8 vLLM tools
- llama.cpp b9603: OpenCL-ядра Qualcomm Adreno для инференса на устройстве ggml-org tools
- Ночные сборки llama.cpp b10668-b10679 содержат исправление wrong-token в Vulkan llama.cpp tools