Перейти к содержанию

Релизы моделей

У Microsoft-Decision-1 выходные токены бесплатные

3 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Всё о теме: Цены на ИИ →
Видео: threads.com

Microsoft 9 октября открыла в Foundry модель Microsoft-Decision-1, которая раздаёт вероятности вариантам из заданного списка, и платить за неё нужно только за вход: 0,042 доллара за миллион токенов, выходные токены бесплатны. Если ваш агент или классификатор выбирает из фиксированного набора вариантов, счёт будет зависеть только от длины запроса. Все цифры точности и скорости в анонсе Microsoft получены на тестах самой компании.

Что модель делает с запросом

Внутри дообученная Qwen3.5-9B. Ей передают запрос и варианты ответа: да или нет, выбор из нескольких, оценку по шкале или проверку ответа модели либо действия агента по рубрике. За один проход Microsoft-Decision-1 возвращает вероятность для каждого варианта, и всё это через один структурированный вызов API. Своих вариантов модель не добавляет, поэтому задачи, где ответ нужно сформулировать, остаются за обычной LLM. Пока она есть только в Foundry, в OpenRouter, как обещает компания, появится скоро, а позже Microsoft собирается пересобрать её на других базовых моделях, включая MAI и модели OpenAI.

Вероятность в Microsoft считают частью API, а не служебным баллом для сортировки. По ней приложение решает, действовать, подождать или отправить случай на проверку. Поэтому прогноз с уверенностью 90% на типичных данных должен оказываться верным примерно в девяти случаях из десяти.

Отдельно мерили устойчивость. В продакшене, объясняют в Microsoft, инструкции перефразируют, описания вариантов меняются, порядок и ключи вариантов тоже, а в форматировании появляется мусор. Один и тот же запрос искажали восемью способами и считали, как часто меняется решение. В среднем оно менялось в 1,3% случаев. Когда перефразировали описания вариантов или переставляли варианты в обратном или случайном порядке, решение не изменилось ни разу.

Сценарии Microsoft предлагает знакомые: выбрать модель под запрос с учётом качества, цены и задержки; решить, продолжать ли агенту, остановиться, повторить шаг или передать его человеку; оценить ответ модели по критериям; разметить отзывы; выбрать следующее действие в интерфейсе по текущему экрану.

Как читать множители

Главное сравнение шло на 36 бенчмарках, это почти 150 000 вопросов, которые не попадали в обучение. В этом наборе Microsoft-Decision-1 показала лучшую точность и оказалась самой быстрой из измеренных. Громкие 35 раз посчитаны против GPT-6 Sol, универсальной модели, по медианной задержке (P50). Против Quyet-1.0-Large, занявшей в сравнении второе место, разрыв по скорости 4,5 раза.

В приложении со списком сравнённых моделей значится и GPT-6 Luna Decisions. На GPT-6 Luna работает Decisions API от OpenAI, который 6 октября открыли всем разработчикам в публичной бете, так что прямой конкурент в замерах Microsoft был.

Внутренние команды Microsoft мерили модель каждая на своей задаче:

  • XBOX Research разложила больше 10 000 отзывов из опросов, STEAM и Twitter/X по темам, которые задали исследователи. По качеству модель была на уровне GPT-6 Sol, при этом работала больше чем в 14 раз быстрее и обошлась в 200 раз дешевле.
  • Команда Copilot, которая оценивает ответы чата и агентов, назвала её конкурентной с GPT5.6 Luna при скорости в 100 раз выше.
  • В Microsoft Discovery агент оценивает прошлый эксперимент по рубрике и перестраивает план. Там оценки Microsoft-Decision-1 оказались в 46 раз согласованнее, чем оценки на базе LLM, втрое быстрее, а перепланирование ускорилось почти в четыре раза.

Безопасность проверяли на 5 250 запросах из 11 бенчмарков: вредный контент, попытки джейлбрейка и prompt injection. По словам Microsoft, модель отказывала во вредных запросах и при этом сохраняла высокую полезность.

Подключить Microsoft-Decision-1 можно уже сейчас через её карточку в каталоге Foundry.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.