Статьи по тегу «оптимизация токенов»
1 час назад
OpenAI продлила дедлайн жизни кэша промптов до 12 часов
OpenAI обновила механизм кэширования промптов: теперь можно сохранять кэш входного контекста минимум на 12 часов вместо стандартных 30 минут. Изменение рассчитано на длительные агентные задачи, где сх