Перейти к содержанию

Google

Gemini Decisions API берёт до 1 000 вопросов за вызов

3 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: threads.com

Google 11 ноября открыла в Gemini API и Google AI Studio сервис Gemini Decisions API. Модель Gemini Decision 1 (gemini-decision-1) за один запрос отвечает на 1 000 закрытых вопросов к общему входу и берёт 0,10 доллара за 1 млн входных токенов, а выходные токены не оплачиваются вовсе. Если вы сейчас решаете маршрутизацию моделей, выбор инструмента или проверку политик обычными генеративными вызовами, Google обещает счёт почти в 5 раз меньше, чем у Gemini 3.5 Flash-Lite через Interactions API. Но это сравнение самой Google на её же наборе тестов.

Экономия держится на устройстве модели. Как объясняют в анонсе Google, Decision 1 не пишет ответ токен за токеном. Она за один прямой проход оценивает варианты, которые вы задали заранее, и возвращает вероятности и оценку уверенности. Общий вход из текста, картинок, аудио, видео и PDF до 256K токенов оплачивается один раз за запрос, сколько бы вопросов к нему ни шло, и каждый вопрос добавляет только токены своей инструкции и критериев. Отдельных счетов за токены рассуждений, расшифровку аудио и OCR нет. У картинок и видео можно снизить разрешение и так сэкономить токены.

Для сравнения: у Decisions API от OpenAI, вышедшего из беты в октябре, лимит был 400 вопросов за вызов.

Какие вопросы можно задать

В одном запросе можно смешивать три типа вопросов:

  • noul: да или нет. Возвращает вероятность того, что условие выполняется, а критерии для «да» и «нет» можно описать отдельно. По документации модели, вероятность калибрована и лежит в пределах от 0,01 до 0,99.
  • choice: выбор из 2-255 вариантов. Возвращает победителя и нормированные вероятности для каждого кандидата.
  • score: оценка по упорядоченной шкале, которая начинается с 0. Возвращает непрерывный взвешенный балл и вероятность каждого уровня.

К каждому ответу прилагается уверенность от 0 до 1. Google предлагает по ней отправлять неоднозначные случаи на запасной путь или живому проверяющему. Поле input принимает блоки Content в том же формате, что и Interactions API. В Python вызов идёт через client.decisions.create из SDK google-genai с api_version v1beta, а руководства есть ещё для JavaScript и REST.

Задержка и лимиты

Медианная задержка, по словам Google, составляет 50-100 мс вычислений модели и 150-250 мс от запроса до ответа и почти не растёт при переходе от 1 к 100 вопросам за запрос. Но замерены эти цифры только на контекстах до 16K токенов, хотя вход принимает до 256K токенов, а вопросов за раз до 1 000. На тестах по маршрутизации агентов, рассуждениям, ранжированию и мультимодальному пониманию Google ставит Decision 1 на первое место по всему набору и называет у неё самую низкую ошибку калибровки. Это тоже собственные тесты компании.

Внутри Google сервис уже работает. Gemini Notebook с его помощью за миллисекунды определяет, какой модели и с каким уровнем рассуждений отдать запрос, и обычные вопросы обслуживает с задержкой ниже вплоть до 40%. CC из Google Labs выбирает реакцию из палитры более чем в 200 эмодзи, а Google Search ставит Decisions API защитным слоем для MCP-инструментов: он ловит враждебное поведение и контент.

Для прототипов в AI Studio есть бесплатный уровень. Интеграции с OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit и OpenCode пока только раскатываются, а поддержка в Gemini в Google Cloud обещана «скоро».

OpenAIразбор

Через задачу на GitHub Depi добралась до npm-пакета Codex

Цепочка, которая вела к публикации официального npm-пакета Codex, начиналась с обычной задачи на GitHub, текст которой шёл прямо в промпт агента. Исследователи Depi прошли её до конца, и OpenAI уже закрыла дыру. Текст чужих задач на GitHub вы отдаёте агенту напрямую или сначала читаете сами?

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.