Перейти к содержанию

Anthropic

Вывод в Claude Code стоит примерно в 5 раз дороже ввода

8 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: Claude Code: версии и изменения →
Изображение: claude.com

Anthropic 14 августа разобрала, из чего складывается расход токенов в сессии Claude Code и какие действия посреди работы заставляют платить за всю переписку заново. Главные цифры такие: вывод стоит примерно в 5 раз дороже ввода, повторное чтение из кеша обходится в 0,1 от цены ввода, а сам кеш живёт час на подписке и пять минут на API-ключе.

Разбор вышел в блоге Claude. Он касается и подписчиков: эти цены они напрямую не видят, но лимиты расходуют те же самые запросы.

Почему вывод в пять раз дороже

Каждый запрос проходит по GPU в две фазы. Сначала идёт prefill: модель читает весь запрос целиком, от системного промпта и CLAUDE.md до вашего сообщения и всего, что накопилось в разговоре, включая прочитанные файлы и вывод команд. Всё это входные токены. Затем начинается decode, генерация ответа, и модель пишет выходные токены: рассуждения, вызовы инструментов и видимый текст.

Decode идёт строго по одному токену за раз. Ответ на 200 токенов означает 200 прогонов модели подряд, поэтому в пересчёте на токен эта фаза держит GPU намного дольше. Отсюда и цена вывода, примерно в 5 раз выше ввода.

Заметная часть выходных токенов в сессии приходится на рассуждения, и их объём на каждом ходе задаёт уровень effort. Выбранный через /effort уровень, как и модель, сохраняется по умолчанию для следующей сессии. В Anthropic советуют один раз запустить /model и /effort в свежей сессии и проверить, на чём вы на самом деле работаете. Для сессии с заведомо рутинной работой есть шаг ниже /effort low: запуск MAX_THINKING_TOKENS=0 claude отключает рассуждения на эту сессию. На Fable 5 это не работает.

Пять запросов на один тест

Кеширование промпта устроено так: если запрос начинается ровно с тех же токенов, что и недавний запрос, сервер хранит уже посчитанное состояние для общего начала и заново обрабатывает только хвост. Чтение из кеша стоит 0,1 от цены ввода, потому что состояние загружается, а не вычисляется. Запись в кеш дороже обычного ввода, до 2 раз, поскольку сервер ещё и держит это состояние после. Но пишется каждый токен один раз, а дешёвые чтения повторяются на каждом следующем ходе.

Claude Code управляет кешем сам, включать ничего не нужно. В разборе показано, как это выглядит на запросе «fix the failing test in utils.test.ts».

  • Первый запрос: системный промпт с определениями инструментов, CLAUDE.md и ваше сообщение. Кеш пуст, всё обрабатывается и записывается.
  • Модель отвечает вызовом Read для тестового файла. Claude Code читает файл, добавляет его в разговор и отправляет всё заново. Содержимое первого запроса идёт из кеша, по полной цене считаются только вызов Read и файл.
  • Ещё один Read для тестируемого файла, ещё одна отправка всего разговора.
  • Модель делает Edit, результат правки дописывается в конец, всё перед ним снова читается из кеша.
  • Модель запускает npm test, новым в запросе оказывается только вывод тестов.
  • Тесты проходят, модель пишет короткое резюме без вызова инструмента, и шестого запроса уже нет.

На одну маленькую правку ушло пять запросов, и каждый содержал весь разговор до этого момента. Типичный ход выглядит перекошенным: десятки тысяч токенов на входе и несколько сотен на выходе. Счёт за ход складывается из трёх частей: чтение истории из кеша, полная цена ввода за новое и цена вывода за ответ. Насколько кеш доминирует во входе, видно по июльскому тесту инструмента сжатия headroom: там на обычном Claude около 98% входных токенов приходило из кеша.

Что выбрасывает кеш

Совпадение проверяется с самого начала запроса, а порядок всегда один: определения инструментов, системный промпт, затем разговор, в начале которого стоит CLAUDE.md. Если в этом префиксе что-то меняется, всё, что стоит за изменением, обрабатывается заново. Результат инструмента в конце разговора ничего не ломает, потому что за ним ничего нет. Дорогими оказываются изменения ближе к началу запроса или в том, по чему кеш индексируется.

  • /model: у каждой модели свой кеш, и на следующем ходе весь разговор считается по полной цене. Сюда относится и opusplan, который переключает модели при каждом входе в режим планирования и выходе из него.
  • /effort: уровень effort тоже входит в ключ кеша. Поэтому и /model, и /effort просят подтверждения при переключении посреди разговора.
  • Быстрый режим: тоже часть ключа, причём повторный prefill идёт по ценам быстрого режима. Включать его советуют в начале сессии, а выключение кеш не трогает.
  • /compact: разговор заменяется более коротким, и в нём ничего не совпадает, уцелевает только системный промпт перед ним. Само резюме обходится дёшево, пока старый разговор ещё в кеше, так что сжимать выгоднее перед долгим перерывом, чем после него.
  • Время: каждый ход перезапускает отсчёт, но кеш истекает через час на подписке и через пять минут на API-ключе. Вернётесь позже, и следующий ход пересчитает весь разговор. Возобновление старой сессии почти всегда делает то же самое: кеша к тому моменту обычно нет, а системный промпт при запуске собирается заново.

Для API-ключа срок растягивается до часа переменной ENABLE_PROMPT_CACHING_1H=1. Она появилась в Claude Code 2.1.108 и распространяется на сессии через API, Bedrock, Vertex и Foundry, а парная FORCE_PROMPT_CACHING_5M закрепляет пятиминутный срок. Значения по умолчанию при этом не поменялись.

Переключаться между моделями и уровнями effort в Anthropic не запрещают, а предлагают делать это в дешёвые моменты: в начале сессии или сразу после /clear. Дорогой момент - середина длинного разговора. Если последние несколько ходов ушли не туда, вместо /compact советуют /rewind на точку перед ними: откат только отрезает хвост, всё до него остаётся в кеше и ничего не стоит.

Что занимает контекст

Ничего не отправляется один раз. Любой прочитанный файл или вывод команды уходит заново на каждом следующем ходе до конца сессии. Из кеша это дёшево, но не бесплатно, и всё это место в контексте модель обходит на каждом ходе. В Anthropic сводят модель затрат к трём величинам: сколько токенов попало в контекст, сколько ходов они там пролежали и сколько контекстов работает одновременно.

Часть контекста загружена ещё до первого сообщения: определения инструментов, системный промпт, CLAUDE.md и прочее, что подгружается при старте. Посмотреть это можно командой /context в свежей сессии. В CLAUDE.md советуют держать конкретные инструкции, а всё, что относится к отдельным сценариям работы, выносить в skills, которые подгружаются только при использовании. Ненужный в этой сессии MCP-сервер отключается через /mcp.

Остальное почти целиком составляют результаты инструментов, и их объём зависит от того, сколько Claude приходится выяснять самому. На «the tests are failing» он сначала ищет, какие именно тесты: пара grep, несколько открытых файлов, и все эти результаты остаются в контексте. Указание файла по имени экономит поиск и стоит одного вызова Read. С @utils.test.ts не нужен и он: Claude Code прикрепляет файл к сообщению ещё до отправки. Место в контексте файл занимает то же, поэтому упоминать его достаточно один раз за разговор, а повторное @-упоминание обычно прикрепляет вторую копию.

Вывод команд ведёт себя так же. Очень большой вывод как раз не страшен: после 30 000 символов Claude Code пишет его в файл и оставляет в разговоре короткое превью и путь, порог меняется через BASH_MAX_OUTPUT_LENGTH. Проблема в том, что под порогом. Тестовый раннер, который печатает 400 успешных тестов по строке на каждый, укладывается в лимит, и эти 400 строк едут в каждом оставшемся ходе. Claude часто сам добавляет флаги и tail, а в документации есть небольшой hook, который переписывает шумные команды до запуска. Ещё один совет: прописать в CLAUDE.md две-три команды, которые вы запускаете весь день, сразу с тихими флагами, например «run a single test file with npx vitest run <file> --reporter=dot».

Сколько ходов он там живёт

Одна длинная сессия стоит дороже той же работы, разбитой на несколько коротких, потому что сороковой ход заново читает 39 предыдущих. Для новой задачи Anthropic советует /clear, а когда закончена ранняя часть той же задачи, /compact. Перед /clear сессию можно сохранить через /rename, если она ещё понадобится. При сжатии стоит сказать, что оставить, или завести в CLAUDE.md раздел «Compact instructions», если это всегда одно и то же. На моделях с окном в 1M автосжатие возвращается на прежнюю отметку командой /autocompact 200k, для этого нужен Claude Code 2.1.221 или новее.

Отдельно в разборе упомянуты ходы, которые идут, пока вы ничего не набираете. /loop срабатывает полноценным ходом в той сессии, где его настроили, и каждый раз тащит за собой весь её разговор. Если с прошлого хода прошло больше часа, сверху добавляется промах мимо кеша. Цикл советуют запускать из свежей сессии в другом терминале.

Субагенты убирают работу в отдельный контекст. Субагент получает своё окно со своим системным промптом, инструментами и вашим CLAUDE.md, но без вашего разговора, и в основную сессию возвращается только его ответ. Цена такой изоляции в том, что ему иногда приходится перечитывать уже известное основной сессии, оплачивая собственные ходы. На мелкой задаче это лишние расходы, а окупается субагент там, где много вывода, который не нужно хранить, например при разборе лога. Основная сессия при этом получает только то, что субагент решил сообщить.

Для шумной задачи, которую вы отдаёте раз за разом, в Anthropic советуют завести отдельное определение субагента с model: haiku или sonnet. Иначе он работает на той же модели, что и основная сессия.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.