Дмитрий Орлов24 сентября 2026 г.5 мин чтения
OpenAI представила усовершенствованное кеширование для GPT-6, что позволяет снизить задержки и затраты на обработку запросов.
Кратко:
- ●OpenAI улучшила кеширование для GPT-6.
- ●Новые инструменты позволяют повысить cache-hit-rate.
- ●Снижение затрат на обработку запросов до 90%.
- ●Возможность гибкого управления кешем.
Новые возможности кеширования в GPT-6
22 сентября 2026 года OpenAI представила усовершенствованную систему prompt-кеширования для моделей семейства GPT-6. Эти изменения направлены на повышение эффективности обработки запросов, улучшение доли кеш-хитов и значительное снижение затрат.
Увеличенные cache-hit-рейты
Модели GPT-6 теперь обеспечивают более высокие показатели кеширования, что позволяет повторно использовать вычисления при многозапросных цепочках. Это снижает время ответа и стоимость обработки запросов за счёт кеш-дисконта до 90%.
