OpenAI обновила алгоритм кэширования промптов: теперь можно сохранять кэш входного контекста минимум на 12 часов вместо стандартных 30 минут. Модификация рассчитано на длительные агентные задачи, где модель многократно использует одни и те же инструкции, описания инструментов и историю работы.

Раньше после длительного перерыва кэш мог перестать использоваться, и модели приходилось заново обрабатывать совокупный контекст. Увеличенный срок хранения даёт возможность повторно применять его даже после нескольких часов бездействия — если последующие запросы содержат подходящий неизменённый префикс.

Что изменилось в программный интерфейс

Для поддерживаемых моделей в Responses api появился параметр prompt_cache_options.ttl, который принимает значения 30m и 12h.

За увеличение срока хранения приходится платить больше при записи кэша:

• 30 минут: 1,25× обычной стоимости входных токенов.

• 12 часов: 2,5× обычной стоимости входных токенов.

Это полная стоимость записи, а не дополнительная комиссия. Повторное чтение кэша тарифицируется по прежней сниженной ставке. Следовательно 12-часовой режим может быть выгоднее, если контекст повторно используется спустя некоторое количество часов, но не гарантирует экономию в каждом сценарии.

Зачем?

Длительные сессии Codex и других ИИ-агентов могут включать десятки последовательных запросов с общим контекстом. Если кэш приходится записывать заново после каждого длительного перерыва, расходы растут, а обработка занимает больше времени.

Увеличенный TTL помогает сохранять повторно используемый контекст между такими обращениями.