После 141-го хода ход в Claude Code стоит в 2,1 раза дороже

Когда сессия Claude Code переваливает за 141-й ход, каждый следующий ход стоит в 2,1 раза дороже, чем ход из первых двадцати в той же сессии. Такую кривую автор проекта my-status.app Том построил по 144 сессиям и 14 640 ходам и 3 сентября выложил в посте Show HN на Ycombinator.

Сам проект - публичный трекер задач, от подготовки к забегу на 20 миль до списка поддерживаемых версий приложения. Ведут его вдвоём, человек и Claude, и делят работу по тому, что у кого лучше получается. 26 августа Том спросил Claude, что ещё стоит измерить, и тот предложил шесть направлений. Среди них была кривая старения сессии, которая показывает, когда выгоднее открыть свежую сессию. Ещё одно направление - стоимость собственных правил проекта, которая, по словам Claude, ползёт вверх: 87 999, затем 92 619 и 93 809 на трёх рабочих местах. Через четыре дня кривая старения была готова.

Дорожание объясняется тем, что модель между ходами ничего не помнит и с каждым запросом получает весь разговор заново. Постоянная часть контекста перечитывается на каждом ходу: 114 133 токена на главной сессии проекта и 108 213 на одной из рабочих. Кеш промптов снижает цену повторно отправленной истории до 10% от обычной цены входных токенов, но бесплатной она не становится. В замерах Wmedia на трёх реальных сессиях модель на каждый новый токен перечитывала от 16 до 61 токена истории, и на это перечитывание пришлось от 39 до 65% счёта.

Хуже всех по кривой оказались собственные пакетные сессии проекта, и пакетную обработку там отменили. Теперь работа устроена так: одна сессия для размышлений и короткие сессии под отдельные задачи. Том объясняет, что ему постоянно не хватало лимита на Fable, а на Opus при этом оставалась примерно половина.

Первый прогон скрипта, по признанию автора, насчитал 46,6 млн токенов там, где их было 28,1 млн, и ошибку пришлось исправлять. Кроме кривой, в статистике проекта есть доля времени человека: на него приходится 67% общего времени работы.

«Лучшее во всём этом для меня то, что теперь каждая новая функция идёт с чеками», - пишет Том. Сама кривая старения, по его подсчёту, обошлась в 2,6 человеко-часа и 8,23 доллара на токены по прайсовым ценам.

Скрипт, которым можно построить такую кривую по своим сессиям, лежит в открытом репозитории lordbron/mystatus-samples на GitHub.