anthropic

Точность моделей падает уже на 32 тысячах токенов

Promtime

anthropic

Тест NoLiMa прогнали на 13 моделях с заявленным окном от 128 тысяч токенов. Одиннадцать из них уже на 32 тысячах показали меньше половины своего результата на коротком контексте, у GPT-4o точность упала с 99,3% до 69,7%.

Anthropic описывает механизм как бюджет внимания: n токенов дают n² попарных связей, и каждый новый расходует конечный ресурс. Chroma в работе о деградации контекста зафиксировала снижение надёжности у всех 18 проверенных моделей.

Команда /context в Claude Code 2.1.220 разбивает окно по категориям и показывает строку Autocompact buffer, зарезервированное место под будущее резюме. Автосжатие срабатывает у самого предела, поэтому /compact разумнее запускать с запасом, а на границе задач делать /clear.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.