OpenAI обещает кэш навсегда в Codex и 12 часов в API
Кэш для пользователей Codex и Work, вошедших в аккаунт, хранится «навсегда», говорится в посте 16-го дня спринта OpenAI. В API срок кэширования вырос до 12 часов.
Возвращаться к старому разговору или продолжать работу через несколько часов можно без штрафа, а попадание в кэш, как сказано там же, гарантировано. Кэш хранит уже обработанную часть запроса, поэтому повтор того же контекста обходится дешевле и быстрее.
В сентябре OpenAI уже обновляла кэширование для GPT-6: тогда пообещали скидку до 90% на кэшированные входные токены.
Дальше
OpenAI выпустила официальный CLI для своего API
Уже при первом интерактивном запуске официальный CLI OpenAI тихо сохраняет Tab-сочетания для выбора картинок в Bash, zsh и fish. Отказаться можно, инструкция по удалению лежит в документации. У вас бывало, что консольная утилита сама что-то дописывала в оболочку без спроса?
Читайте также
- GPT-6 научили чаще попадать в кэш промптов
- OpenAI обещает, что Codex займёт на 60% меньше диска
- Подписку ChatGPT Plus и Pro пустили в сторонние приложения
- OpenAI готовит три тарифа API, старший от 50 долларов
- Free Mode в Replit снимает плату за токены
- Jev обогнал OpenAI Decisions и Clef: 195 против 208 и 344 мс
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.