Thinking Machines выпустила Inkling 2 Mini для ноутбука

Thinking Machines Lab, компания бывшего технического директора OpenAI Миры Мурати, в пятницу, 20 ноября, выпустила Inkling 2 Mini, небольшую модель с открытыми весами. Главное в ней устройство: средние слои обрабатывают каждый токен трижды. По словам лаборатории, так модель лучше рассуждает и приходит к ответу за меньшее число токенов. В анонсе Thinking Machines её называют достаточно компактной, чтобы работать на ноутбуке. Веса доступны сразу, а ещё модель можно запускать и дообучать в Tinker.
До сих пор модели Thinking Machines были большими. У Inkling 2 Small, вышедшей в начале ноября, 594 миллиарда параметров, из которых на каждый токен работают 17 миллиардов. У Mini всего 26,4 миллиарда параметров, активных 3,4 миллиарда.
Как это устроено
Обычная языковая модель пропускает каждый токен через свои слои один раз. Согласно карточке модели на Hugging Face, в Inkling 2 Mini 24 слоя, и средние 12 из них прогоняются по три раза с одними и теми же весами. Модель рассуждает дольше, не записывая рассуждения текстом и не увеличиваясь в размере. С учётом повторов на токен приходится 5,4 миллиарда задействованных параметров. Сильнее всего это помогает там, где важно качество рассуждений, например в агентном программировании.
У такого устройства есть обратная сторона, и лаборатория разбирает её сама. Если модель думает «молча», за ней труднее следить по цепочке рассуждений, которую она выписывает. Вместе с Mini Thinking Machines выложила исследовательский вариант, в котором число повторов можно менять. По замерам лаборатории, с ростом числа повторов цепочка рассуждений становилась короче, но оставалась читаемой, а результаты в тестах на саботаж не росли.
Знаний повторы не добавляют: сколько фактов помнит модель, зависит в основном от общего числа параметров, и здесь Mini на уровне моделей того же размера. Нехватку фактов она восполняет поиском и инструментами, и в таких тестах, по данным лаборатории, обходит открытые модели похожего размера.
Что она умеет
Лаборатория делает упор на программирование. На DeepSWE v1.1, тесте агентного программирования, у Inkling 2 Mini 48,2%, лучший результат среди открытых моделей меньше 100 миллиардов параметров. Ближайший соперник в таблице лаборатории, Qwen3.8-27B, набрал 42,2%. Исследователи Thinking Machines взяли модель в самолёт, и там без интернета на MacBook Pro она за несколько минут собрала играбельный авиасимулятор.
Слабые места лаборатория называет сама: среди небольших моделей Mini не лучшая для долгого диалога и для инструкций с множеством условий. Веса выложены под лицензией Apache 2.0, а для запуска у себя карточка перечисляет привычные инструменты, в том числе Ollama и llama.cpp.
Авторский разбор
Что мы проверили
21 ноября мы разобрали опубликованные файлы модели на Hugging Face: заголовки весов, конфигурацию и список сборок от сообщества. Устройство совпало с заявленным, и общее число параметров, 26,4 миллиарда, сходится с файлом.
Главное касается памяти. В нашем коротком посте сказано, что модели хватает около 20 ГБ памяти. На деле 20 ГБ - это размер официальных файлов на диске, а карточка просит Mac на Apple silicon с памятью от 32 ГБ, для других видеокарт рекомендует от 32 ГБ видеопамяти. У MacBook Pro из демонстраций лаборатории 48 ГБ. Официальные веса уже в основном 4-битные, поэтому ужать их почти некуда: 4-битные сборки сообщества весят от 16,6 до 17,6 ГБ, а в машину с 16 ГБ помещаются только сборки на 3 бита и меньше. Это размеры файлов, расход памяти при работе мы не измеряли.
Лаборатория пишет, что модель лидирует среди открытых моделей до 100 миллиардов параметров и на Vals Index v2.2 (46,5%). Но в её же таблице у всех трёх соперников такого размера в этой строке результата нет. Единственная другая цифра, 29,8%, у Nemotron 3.5 Super VL на 124,5 миллиарда параметров. Возможно, у лаборатории есть и другие результаты, но в таблице их нет.
Текст лаборатории расходится с таблицей и в одном из слабых мест. В тексте сказано, что на ComplexConstraints v1.1 модель уступает Qwen3.8-27B, а в таблице у Inkling 2 Mini 33,4% и второе место, у Qwen3.8-27B 30,1%. Что из этого верно, мы определить не можем.
Дальше
Акции Anthropic упали почти на 13% после дебюта
На дебюте акции Anthropic открылись на 34% выше цены IPO, а в первый полный день торгов падали уже до 13%. Распродажу на рынке, по данным NBC News, возглавила сама Anthropic, и Nasdaq стёр весь рост за 2026 год. Купили бы акции Anthropic сейчас, после падения, или подождали бы?
Читайте также
- Inkling-Small: 276 млрд параметров, 12 млрд активных
- Inkling набрал 1257 баллов в Agentic Web Dev, у GPT-5.6-Sol 1260
- Flint от Recursive обещает 125+ токенов/с на MacBook
- Cohere представила North Mini Code для разработчиков
- Moonshot AI представила Kimi K2.7 Code
- Microsoft обещает в MAI Code 2 почти Opus за 5% цены
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

