OpenAI рассказала о Habitat — storage-платформе, обрабатывающей 70 млн запросов в секунду
OpenAI
В серии из двух инженерных постов OpenAI описывает Habitat — свою онлайн storage-платформу, выросшую из Python-библиотеки поверх Azure Cosmos DB в сервис, обрабатывающий более 70 млн запросов в секунду, свыше 500 ПБ данных, почти в 40 регионах, для продуктов, которыми еженедельно пользуются более 1 млрд человек. Посты рассказывают о переходе от библиотеки к самостоятельному сервису и о росте более чем в 10 раз год к году на протяжении трёх лет.
Почему это важно
Habitat — storage-слой под каждым взаимодействием с ChatGPT и Codex; посты — редкий публичный взгляд на операционную инфраструктуру за consumer AI frontier-масштаба.
Важность: 2/5
Заметное инженерное раскрытие; официальный пост в блоге