Revolut перевела около 2 000 инженеров с Claude Code на GLM

Revolut сделала GLM от китайской Z.ai, развёрнутую на собственных серверах банка, моделью по умолчанию для примерно 2 000 инженеров вместо Claude Code и Codex. По словам компании, счёт упал примерно до десятой части того, что она платила Anthropic и OpenAI, но в эти 90% экономии, по разбору StartupHub.ai, не входят облако, персонал и мониторинг. Подробности рассказал Дэвид Абитбол, отвечающий в Revolut за ИИ-операции и инфраструктуру, на конференции AI Engineer в Нью-Йорке: запись доклада лежит на YouTube с 29 октября, а 3 ноября его пересказал Trending Topics.

Сам Абитбол называет около 30 центов за миллион токенов и говорит, что ровный счёт пришёл на смену непредсказуемым инвойсам в конце месяца. Главная перемена для инженеров в том, что исчезли лимиты на токены: экономить их под конец квартала или на тяжёлых задачах не нужно.

На выборке примерно из 2 000 инженеров время на написание кода, по подсчётам Абитбола, упало на 60%, а время от взятия задачи в работу до мержа на 70%. Цифры собственные, и, как замечает Dealroom, сравнение не отделяет смену модели от снятия лимитов на токены.

Gemini, который Revolut раздала всей компании в начале 2025 года, сократил время на код на 20%, а путь задачи до мержа на 10%. Claude Code пришёл в начале 2026-го, сразу со строгими бюджетами на инженера. «Мы очень скептически относились к стоимости ИИ. Видели, как инженеры тратят 1 000 долларов в месяц, 10 000 долларов в месяц без особой отдачи», - говорил Абитбол (цитату приводит The Register). Польза от Claude Code поначалу была небольшой, расходы высокими. То, что путь до мержа сократился сильнее, чем время на код, он считает показательным: «Узкое место в разработке - не обязательно сам код». Много времени уходит на поиск по почте, Jira и Confluence.

Как 56 B200 тянут 2 000 человек

Начинала Revolut с GLM-5.1, потом перешла на GLM-5.3, сообщает The Register. Модель крутится на 56 чипах Nvidia B200. Самый большой прирост, по словам Абитбола, дали не новые GPU, а настройка: гиперпараметры модели, переход на NVFP4 (4-битный формат весов от Nvidia), раздельные prefill и decode, когда обработка промпта и генерация ответа идут на разных группах GPU, и подбор длины контекста.

Из коробки инференс был «ужасным». Trending Topics и The Register приводят падение времени до первого токена после настройки с более чем 10 секунд до 1,6 секунды при росте нагрузки на 76%; Dealroom называет примерно 14 и 1,7 секунды на тех же GPU. Абитбол целится в 3 секунды и меньше, а после пяти, по его словам, «мой Slack начинает разрываться». Генерация идёт со скоростью около 200 токенов в секунду. В августовском тесте Ed-o-meter медиана до первого токена у glm-5.3 составила 16,3 секунды.

Контекст урезан до 256 тысяч токенов. «Длинный контекст - это развод, - говорит Абитбол. - Даже если можно отдавать миллион токенов, на деле нужно 256 тысяч». GLM понимает только текст, поэтому задачи с картинками роутер отправляет в Gemini. Claude Code и Codex остались: свежие модели Anthropic и OpenAI Абитбол называет отличными, но достают их как исключение для самой сложной работы.

Китайские веса, американские серверы

«Вокруг китайских опенсорсных моделей было много предубеждений», - признаёт Абитбол. Revolut берёт только открытые веса и запускает их на инфраструктуре в США, минуя эндпоинт Z.ai в Китае. Данные должны обрабатываться только в юрисдикциях с равноценной защитой: США, ЕС, Великобритания, Израиль. Провайдеры по умолчанию обязаны ничего не хранить.

Регуляторам банк объясняет, что агенты не действуют автономно: они работают в песочнице, где правила решают, какие команды разрешены. «Там всегда есть человек в контуре», - говорит Абитбол.

Что не вошло в 90%

Результат держится на 56 B200, постоянной настройке и том, что Revolut может формировать нагрузку правилами песочницы и рабочими часами; у небольших команд, по оценке StartupHub.ai, счета могут выйти высокими, а ответы медленными. Купил банк чипы или арендует, Абитбол не сказал.

Чипы к тому же стареют: Nvidia выпускает новое поколение каждый год, за Blackwell уже идёт Rubin. Операторы дата-центров вроде Nscale списывают GPU за пять-шесть лет, но признают, что срок может оказаться слишком долгим. Инвестор Майкл Бьюрри считает реалистичными два-три года.