В корпоративный Codex завозят GLM-5.3 Flash и Kimi K3

Baseten 29 сентября вошла в B2B Marketplace OpenAI как поставщик инференса открытых моделей и объявила об этом в X. Корпоративные клиенты OpenAI смогут работать с GLM-5.3 Flash и Kimi K3 прямо в Codex и оплачивать эти модели из уже согласованного с OpenAI обязательства по расходам. Встроенный доступ в Codex пока выдают через лист ожидания Baseten.
Самое осязаемое в сделке касается расчётов. Обязательство по расходам - это сумма, которую компания заранее согласовала с OpenAI. На странице маркетплейса OpenAI описывает программу как возможность «направить часть существующего обязательства перед OpenAI на подходящие продукты партнёров». Baseten там значится как «платформа для продакшн-инференса, исполнения и пост-обучения». Засчитать траты можно не только в Codex: открытые модели Baseten доступны и через Responses API, в который разработчики шлют запросы из своих приложений.
Зачем открытые модели в инструменте для кода, Baseten объясняет в блоге о партнёрстве. По её словам, команды в агентной разработке раскидывают задачи «через статические или адаптивные роутеры» на ту модель, у которой лучшее для конкретной работы сочетание цены, качества и производительности, а новые открытые и закрытые модели сменяют друг друга за недели. Крупные открытые модели компания обещает выкладывать в Model APIs в день их выхода, а проверку новой модели называет делом «одной строки кода». Генерация кода, по оценке Baseten, тяжёлая нагрузка для инференса: много ходов диалога, длинные промпты по большим репозиториям и огромные контекстные окна.
Для корпоративных требований Baseten перечисляет инфраструктуру в США, нулевое хранение данных для всех промптов, привязку развёртываний к конкретным регионам, детальную настройку аутентификации и авторизации и статистику расходов по любой модели, пользователю или ключу. Работает компания, по её словам, на более чем 90 кластерах в 20 с лишним облаках. Развёртывания там active-active: при отказе провайдера или региона трафик уходит в другое место и работа не встаёт. Каждый агент получает собственную песочницу от Blaxel, которая теперь входит в Baseten.
Чтобы подключить открытые модели в Codex за счёт обязательства перед OpenAI, компании нужно записаться в лист ожидания Baseten. Для остальных сценариев Baseten предлагает напрямую обсудить задачу со своими инженерами.
Дальше
Похоже, первый иск к OpenAI из-за взлома Hugging Face
Сам истец от автономного взлома, по его словам, не пострадал, но всё равно судится с OpenAI из-за атаки на Hugging Face, пишет Politico. Он просит запретить её ИИ заходить в чужие системы без разрешения.
Читайте также
- Codex доделывает задачи в облаке, пока ноутбук спит
- OpenAI выводит GPT-6 Astra и Codex в Google Cloud
- Codex помог починить видео на Radeon 2007 года в Linux
- Через задачу на GitHub Depi добралась до npm-пакета Codex
- OpenAI покупает Pierre, чьи Trees и Diffs уже стоят в Codex
- Новый бэкенд Git в OpenAI ускорил пуши почти в 5 раз
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

