OpenAI расширяет Habitat, чтобы обслуживать более миллиарда пользователей ChatGPT, благодаря мультиарендности, глобальному кэшированию и Azure Cosmos DB.
Кратко:
- ●OpenAI масштабирует систему хранения для ChatGPT через Habitat.
- ●Используются мульти-tenant, кэширование и Azure Cosmos DB.
- ●Производительность увеличена в 12 раз, чтения сокращены до 10 мс.
- ●Почему важно: Поддержка более 1 млрд пользователей требует надёжной и быстрой инфраструктуры.
23 октября 2026 года OpenAI опубликовала вторую часть отчёта о масштабировании системы хранения для более миллиарда пользователей ChatGPT. Основное внимание уделено улучшению надёжности и скорости работы через внедрение многоконтейнерной архитектуры и использование Azure Cosmos DB.
Эволюция Habitat
Habitat, система хранения OpenAI, претерпела значительные изменения. От изолированных контейнеров компания вернулась к мульти-tenant архитектуре, что позволило обеспечить изоляцию и управление ресурсами. Это особенно важно для борьбы с проблемами, когда один пользователь перегружает систему.
Технологии для скорости и надёжности
- ●Throttling горячих ключей: механизм, позволяющий избегать перегрузок.
- ●QoS: приоритизация запросов, чтобы критические задачи не страдали из-за нагрузочных.
- ●Azure Cosmos DB: использует serverless-режим, позволяющий масштабироваться до 10 000 RU/s.
Производительность на новом уровне
С 2026 года OpenAI сосредоточилась на сокращении латентности чтений. Это удалось благодаря:
- Репликации данных ближе к пользователям.
- Внедрению кэширования в регионе.
- Переписке части системы на Rust.
Будущее — экзабайтное хранилище
В планах OpenAI — создание на базе RocksDB Cloud хранилища, которое сможет обрабатывать данные в экзабайтном масштабе. Эта система будет совместима с моделью данных Cosmos DB и снизит требования к флеш-ёмкости.
Что это значит
Эти нововведения позволят OpenAI обеспечить поддержку более миллиарда пользователей ChatGPT, гарантируя высокую скорость и надёжность. Сотрудничество с Azure и передовые технологии помогают компании справляться с нагрузками и поддерживать лидерство в области ИИ.
Частые вопросы
Как OpenAI удалось улучшить производительность чтений?
▾
Использована репликация данных в регионы ближе к пользователям и внедрено региональное кэширование.
Что такое мульти-tenant архитектура?
▾
Это система, в которой несколько пользователей (арендаторов) используют один и тот же физический ресурс, но с изоляцией и управлением ресурсами.
Какова роль Azure Cosmos DB в этой системе?
▾
Azure Cosmos DB обеспечивает масштабируемость и высокую производительность, поддерживая обработку 20 млн запросов в секунду.
Что планирует сделать OpenAI для дальнейшего масштабирования?
▾
Компания разрабатывает экзабайтное хранилище на базе RocksDB Cloud, снижая требования к флеш-ёмкости.
