Как OpenAI масштабировала PostgreSQL для 800 млн пользователей
Мария Соколова19 июля 2026 г.5 мин чтения
OpenAI раскрыла, как PostgreSQL справляется с миллионами запросов в секунду для 800 млн пользователей ChatGPT.
Кратко:
●Нагрузка на PostgreSQL выросла в 10 раз за год
●Используются почти 50 реплик для чтения
●Оптимизация запросов и изоляция нагрузок
●Кэширование и rate limiting снижают нагрузку
Как OpenAI масштабировала PostgreSQL для ChatGPT
22 января 2026 года инженер OpenAI Бохан Чжан рассказал, как компания адаптировала PostgreSQL для поддержки 800 миллионов пользователей ChatGPT. В статье он делится стратегиями, которые помогли выдержать миллионы запросов в секунду.
Увеличение нагрузки и архитектура
За последний год нагрузка на PostgreSQL выросла более чем в 10 раз. Основная архитектура базируется на одном сервере Azure PostgreSQL Flexible Server и почти 50 репликах, распределённых по миру.
Основные проблемы и их решения
1. Миграция write-heavy workloads
OpenAI перевела интенсивно записывающие данные на шардированные системы, такие как Azure Cosmos DB, чтобы разгрузить основной сервер.
2. Оптимизация запросов
Затратные операции, такие как многотомные JOIN, были оптимизированы или перенесены на уровень приложения.
3. Повышение отказоустойчивости
Реплики используются для чтения, а горячий standby готов к переключению при сбое основного сервера.
4. Изоляция рабочих нагрузок
Запросы разделяются по приоритету для предотвращения ситуации "noisy neighbor".
5. Connection pooling с помощью PgBouncer
Уменьшено время установки соединения с 50 мс до 5 мс благодаря PgBouncer.
6. Кэширование и защита от всплесков
Введён механизм блокировки cache miss, чтобы предотвратить лавинные нагрузки.
7. Масштабирование реплик чтения
OpenAI тестирует каскадное реплицирование для безопасного увеличения числа реплик.
8. Rate limiting
Введены ограничения скорости на всех уровнях для предотвращения резких всплесков вызовов.
Итоги и планы на будущее
PostgreSQL обрабатывает миллионы QPS для 800 млн пользователей с доступностью 99.999% и R-latency p99 в пределах двузначных миллисекунд. В будущем OpenAI планирует дальнейшую миграцию write-heavy нагрузок и расширение каскадного реплицирования.
Частые вопросы
Как OpenAI справляется с высокой нагрузкой на PostgreSQL?
OpenAI использует реплики для чтения, шардирование write-heavy данных и оптимизацию запросов.
Какие инструменты помогают в оптимизации?
Используются PgBouncer для connection pooling и механизмы кэширования для снижения нагрузки.
Как обеспечивается отказоустойчивость?
Горячий standby и распределение реплик по регионам обеспечивают отказоустойчивость.
Какие планы по дальнейшему масштабированию?
OpenAI планирует расширение каскадного реплицирования и миграцию на шардированные системы.
