PrismML выпускает Bonsai 2 27B: тернарные веса с потерями, близкими к нулевым, относительно учителя

PrismML

модели/LLM офиц. + СМИ 2 ист. ~1 мин

PrismML выпустила Bonsai 2 27B (17 сентября) — мультимодальную модель (рассуждения, кодинг, зрение, агентность) с тернарными весами {-1,0,+1}, построенную на Qwen3.8 27B и сохраняющую 98,2% совокупных бенчмарков учителя (83,9 против 85,4) при размере 5,9 ГБ и контексте 262K, под Apache 2.0. Заявленная пропускная способность — до 143 ток/с на RTX 5090 и 46,8 ток/с на M5 Max.

Почему это важно

Сохранение 98% бенчмарков при ~5,9 ГБ существенно поднимает потолок локальных агентов — кладёт кодинг и зрение уровня 27B на одну потребительскую GPU.

Важность: 3/5

Заметный open-source релиз модели, 2 подтверждения

quantization open-source local-inference moe

Источники

официальный Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint

СМИ HN: Bonsai 2 27B (301 points, Sep 17)