API Claude перестал гонять всю переписку на каждом ходу

В Claude Code, где треды сообщений по умолчанию включены у большинства пользователей, медианное время до первого токена на запросах от 500k до 1M токенов сократилось примерно на 35%. 2 ноября Anthropic открыла треды всем в публичной бете Messages API. Запрос с параметром thread передаёт серверу только новые сообщения, но токенов уходит столько же: Claude по-прежнему читает весь разговор на каждом ходу, а тарифы и лимиты остаются обычными.

Схему Anthropic описала в своём блоге. Первый запрос несёт всю переписку и открывает тред, следующие везут только новые сообщения и ID предыдущего ответа. Между ходами тред лежит в памяти сервера, зашифрованный и без записи на диск, а через 5 минут после последнего запроса истекает, и клиент снова шлёт разговор целиком. В аккаунте ClaudeDevs в X добавили, что медианный запрос в длинных разговорах похудел примерно с 800 КБ до всего 1,8 КБ. Чем больше контекста тащит агент, тем заметнее эффект, поэтому в списке сценариев стоят долгие агенты для кода, агенты computer use, у которых скриншоты остаются в треде, и работа с тяжёлыми документами и картинками.

Как подключить

Нужен бета-заголовок message-threads-2026-08-12. Первый ход идёт с "thread": {"type": "create"}, следующие с {"type": "continue", "previous_message_id": …}, причём system и tools в них уже не передаются. На истёкший тред API отвечает ошибкой 404 с кодом thread_not_found. В TypeScript SDK поддержка появилась в версии 1.2.0 от 23 октября, а в 1.4.0, вышедшей в день анонса, есть помощник ThreadState с запасным режимом continue_unthreaded. Бета доступна на Claude Platform, Claude Platform on AWS, в Microsoft Foundry и на Google Cloud в варианте под управлением Anthropic.

Кэшировать тред сам ничего не будет: по документации, кэш промптов запрашивается как обычно, а в запросе с thread допускается не больше 4 точек cache_control, считая верхнеуровневое поле. Треды не работают с Message Batches, подсчётом токенов, compaction и context editing (кроме clear_thinking_20251015 с keep: "all"), а также в организациях с включёнными HIPAA readiness или inference hooks.