Перейти к содержанию

Открытые модели

Granite 4.2 остались плотными и научились рассуждать

3 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: thenewstack.io

IBM 25 августа добавила режим рассуждений в открытые модели Granite 4.2. Меньше чем за четыре месяца до этого, на запуске Granite 4.1, компания утверждала, что рассуждающие модели недостаточно эффективны. Архитектуру IBM менять не стала: модели остались плотными трансформерами, в которых работает только механизм внимания.

Новое семейство выходит в трёх размерах: 3, 8 и 30 миллиардов параметров. Как пишет The New Stack, все три модели плотные, состоят только из декодера, и IBM предобучила их с нуля. Лицензия Apache 2.0. Сама IBM называет 4.2 «релизом с упором на рассуждения».

Режимов три. С рассуждением модель думает перед ответом, без него отвечает сразу, а режим с низкими затратами тратит на рассуждение немного токенов и рассчитан на простые вопросы.

Granite 4.1 вышла 29 апреля 2026 года в тех же трёх размерах и заменила серию 4.0. Тогда IBM доказывала, что для отдельных задач вроде следования инструкциям и вызова инструментов корпоративным пользователям «имеет смысл переходить на более дешёвые модели без рассуждений с похожими результатами на бенчмарках». Теперь, по оценке The New Stack, команда явно считает рассуждение необходимой функцией, хотя в 4.2 оно остаётся опциональным.

С архитектурой у IBM своя история. Многие свежие модели ушли от трансформеров, построенных целиком на внимании, к гибридам, где часть слоёв внимания заменена слоями Mamba. Mamba обрабатывает последовательность без попарного сравнения всех токенов, поэтому дешевле на длинном контексте. Туда же пошла Nvidia с семейством Nemotron 3. IBM эту дорогу уже прошла: Granite 4.0, выпущенная 2 октября 2025 года, строилась на гибриде Mamba-2 и трансформера, и в то поколение входили обычные плотные, плотные гибридные и гибридные модели со смесью экспертов.

В Granite 4.1 основное семейство вернулось к плотному трансформеру на одном внимании. IBM тогда утверждала, что новые модели обходят прошлое поколение, «при этом используя более простую, а значит, более гибкую архитектуру для дообучения под прикладные задачи».

Предобучение 4.2 шло в пять этапов на 15 триллионах токенов. Один из этапов был посвящён длинному контексту, и окно семейства выросло до 512 000 токенов. Опубликованная конфигурация, впрочем, нативно поддерживает всего 128K.

В обучающий набор вошёл 1 триллион токенов синтетического кода, сгенерированного конвейером IBM CodeAlchemy. Программирует Granite 4.2 при этом, по оценке The New Stack, средне.

Конвейер у всех моделей в основном общий, но 8B и 30B прошли ещё один этап: агентное обучение с подкреплением, после которого модели умеют вызывать инструменты, править и запускать код, работать в терминале и искать в интернете. «В сочетании с выравниванием через обучение с подкреплением на обратной связи от людей (RLHF) такой подход даёт модели, лучше подготовленные к сложной многошаговой агентной работе», - говорится в объявлении IBM.

Модель на 3B вызов инструментов тоже поддерживает, но многого от неё ждать не стоит, предупреждает The New Stack.

Granite 4.2 работает только с текстом. Конкуренты того же класса, Qwen-3.8 27B, Muse Glimmer 30B и Gemma 4 31B от Google, мультимодальные. Для изображений у IBM есть отдельная Granite Vision 4.1 4B, и версия 4.2 у неё может появиться. В тот же день IBM выпустила две новые модели распознавания речи в семействе Granite Speech.

Нового рубежа на бенчмарках Granite 4.2 не берёт, считает The New Stack. Зато 8B часто почти догоняет 30B, и её, по оценке издания, легко запустить практически на любом современном Mac и даже на некоторых сравнительно слабых видеокартах Nvidia RTX.

Qwen 3.8 27B, которая в августе вышла тоже плотной и под той же лицензией Apache 2.0, обходит модели Granite по всем тестам, сильнее всего в коде, где у IBM результаты неровные.

Главным доводом за Granite IBM называет высокопроизводительные агентные задачи, где фронтирные модели часто избыточны. В объявлении компания формулирует цель так: помочь предприятиям строить агентов, которые умеют рассуждать, действовать и подстраиваться под реальные рабочие процессы. «Отвечать ясно и кратко уже недостаточно, - пишут в IBM. - Система ИИ должна уметь планировать, вызывать приложения и надёжно и последовательно выполнять сложные задачи, оставаясь достаточно лёгкой, чтобы ею можно было пользоваться, не разоряясь».

OpenAIOpenAI

Из OpenAI ушёл глава дата-центров

По данным The Wall Street Journal, глава дата-центров OpenAI Крис Мэлоун ушёл из компании на прошлой неделе, пополнив волну уходов в руководстве перед запланированным выходом на биржу.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.