Decisions API от OpenAI вышел из беты с 400 вопросами за раз

OpenAI 22 октября открыла общий доступ к Decisions API. Это отдельный эндпоинт на GPT-6 Luna для вопросов с ограниченным набором ответов: классифицировать входящий запрос, выбрать маршрут, решить, что агенту делать дальше. Публичную бету всем разработчикам открыли 6 октября и тогда же обещали общий доступ в ближайшие недели.

Как сказано в анонсе OpenAI, решения приходят до 10 раз быстрее, чем от той же Luna через Responses API. В сентябре на DevDay звучали абсолютные цифры: 150 миллисекунд на выбор ответа против 1,6 секунды у обычной Luna.

В бете цена была одна: 0,10 доллара за миллион входных токенов, без отдельной платы за выход, чтение и запись кэша. Базовая цена осталась прежней, выходные токены по-прежнему бесплатны. Зато теперь повторяющийся контекст можно кэшировать, и у кэшированного входа своя цена: 0,01 доллара за миллион токенов, в десять раз ниже обычной. Запись в кэш со сроком хранения 30 минут и 12 часов оплачивается по отдельным тарифам, их OpenAI вынесла в гайд по ценам.

Где обрабатываются данные, теперь можно выбрать: доступны регионы США и ЕС. Zero Data Retention, режим, при котором OpenAI не хранит данные запросов, открыт клиентам, которые под него подходят. Для снижения задержки компания добавила мощности в нескольких регионах Азии.

В одном запросе теперь можно задать до 400 вопросов, вдвое больше прежнего лимита. Расширились и входные данные. В бете картинки принимались только как встроенные base64 data URL. В документации перечислено, что добавилось с тех пор:

• картинки по публичным HTTP- и HTTPS-ссылкам;
• история разговора: сообщения, вызовы функций и кастомных инструментов вместе с их результатами;
• нативный JSON на входе;
• картинки в инструкциях к вопросам;
• отчёты об использовании на уровне организации, с токенами и числом запросов;
• Private Link, чтобы отправлять запросы по частному соединению;
• нативная интеграция с голосовым GPT-Live.

Схема запроса в документации такая. В model указывается gpt-6-luna, в input идёт контекст: строка текста или упорядоченный массив сообщений, вызовов инструментов и их результатов. В questions лежат сами вопросы: у каждого тип, инструкция и, если нужно, список вариантов или уровней шкалы. Ответы приходят массивом answers, и каждый повторяет уникальное имя своего вопроса.

Типов вопросов три:

• predicate возвращает вероятность от 0 до 1 того, что условие выполняется, например что на товаре есть видимые повреждения;
• choice возвращает один из заданных разработчиком вариантов, например продолжить, повторить или попросить уточнение; вместе с ним приходят вероятности и уверенность;
• score оценивает вход по упорядоченной шкале, например по тяжести повреждений, и возвращает среднее индексов уровней, взвешенное по вероятностям, поэтому результат может лечь между уровнями.

Choice подходит для категорий без порядка, вроде отделов, куда направить обращение. Score нужен там, где уровни выстроены по возрастанию. Вероятности в ответе служат сигналом уверенности, и пороги для фильтрации, маршрутизации или ручной проверки OpenAI советует подбирать на размеченных примерах из своего приложения. Если же нужен объект по собственной JSON-схеме, например извлечённые поля или текстовое объяснение, документация отправляет к Structured Outputs в Responses API. Для вызова инструмента с аргументами остаётся function calling.

Внутри OpenAI API работает в нескольких командах. Команда dots сокращает с его помощью время ответа. Personal Finance раскладывает по категориям описания транзакций. Communications классифицирует публикации о компании по темам и оценивает, подкрепляют они ключевые нарративы или спорят с ними, чтобы понять, что стоит разобрать внимательнее. Среди внешних клиентов OpenAI называет сценарии от точной атрибуции расходов на ИИ до более интерактивных приложений для изучения языков.

Интеграция с GPT-Live настраивается в существующей голосовой сессии: конфигурацию решения добавляют в session.triggers. По ходу разговора Live отправляет decision.event, приложение читает выбранный вариант и действует. Агент поддержки так может решить, задать ли уточняющий вопрос, перенаправить запрос или эскалировать проблему. В примере OpenAI решение выбирает выражение лица аватара по обновлениям транскрипта: пока пользователь говорит, персонаж подмигивает или улыбается.

Для демо на странице анонса OpenAI предлагает произнести фразу: «Я отрепетировал прослушивание перед своей кошкой. Она ушла на середине».