Ant Group открывает SingProbe — токен-уровневый safety-барьер, адаптированный к 29 популярным открытым моделям
Ant Group
Лаборатория inclusionAI из Ant Group выпустила SingProbe — лёгкий токен-уровневый safety-барьер: небольшие probe-головы (GuardMLP или attention-probe на causal-MQA) обучаются на скрытых состояниях замороженной базовой модели, чтобы помечать риск запроса, небезопасные ответы и галлюцинации на уровне отдельных токенов. Фреймворк поставляется с обученными адаптерами для 29 популярных открытых моделей на Hugging Face, включая Qwen3.5/3.8, GLM-5.3, DeepSeek-V4-Flash, gpt-oss-120b и MiniMax-M2.7.
Почему это важно
Барьеры, подключаемые к замороженным моделям без переобучения, дают open-model-развёртываниям drop-in слой безопасности, а покрытие сразу нескольких семейств показывает переносимый рецепт, а не аддон одного вендора.
Важность: 2/5
Заметный open-source релиз в области безопасности с покрытием моделей нескольких семейств