←

Cohere открыла публичную бету конфиденциального инференса Model Vault на H100 через Azure

Cohere

инструменты официальный 2 ист. ~1 мин

22 октября 2026 года Cohere открыла публичную бету Confidential Computing в Cohere Model Vault: её стек обслуживания работает внутри конфиденциальной ВМ, а память GPU защищена от операторов хоста и инфраструктуры. Полезная нагрузка запросов шифруется для аттестованного окружения через Oblivious HTTP, а клиенты проверяют подписанные свидетельства о железе, прошивке и ПО до отправки данных. Бета работает на GPU NVIDIA H100 в Microsoft Azure, поддержка Blackwell B200 запланирована.

Почему это важно

Аппаратная аттестация, достаточно надёжная, чтобы клиент отказался отправлять данные при сбое, — то, что нужно регулируемым предприятиям, прежде чем переносить чувствительные рабочие нагрузки на сторонний inference API.

Важность: 2/5

бета новой функции

Источники