Decisions API от OpenAI вышел в публичную бету с типизированными ответами в 10 раз быстрее

OpenAI выпустила Decisions API в режиме публичного бета-тестирования. Она превращает текст и изображения в типизированные ответы, на основе которых ваш код может принимать решения. Команда OpenAI заявляет, что OpenAI Decisions API работает примерно в 10 раз быстрее Responses API. API предназначена для распространённого сценария: передать запрос LLM, а затем преобразовать её текстовый ответ в метку.

Кратко

Размер: количество параметров GPT-6 Luna не раскрывается. В её карточке модели указано контекстное окно размером 1 050 000 токенов.
Работает на: только API, размещённой на стороне OpenAI, через POST /v1/decisions. Открытых весов и возможности самостоятельного хостинга нет.
Производительность: примерно в 10 раз быстрее Responses API, согласно OpenAI.
Цена: $0.10 за 1 млн входных токенов, без платы за выходные токены, чтение и запись кэша.
Итог:
- Плюсы: быстрые типизированные решения с вероятностями.
  - Минусы: 1 модель, статус бета-версии, независимые оценки пока отсутствуют.

Что такое OpenAI Decisions API?

Decisions API — это конечная точка OpenAI, которая оценивает текст, изображения или и то и другое и возвращает типизированные ответы. Она не генерирует связный текст. Запрос содержит 3 поля: model, input и questions. Сегодня поддерживается только модель gpt-6-luna. OpenAI ожидает, что общий доступ к API станет доступен в ближайшие недели.

Как работает Decisions API?

Каждый запрос содержит общие исходные данные и список вопросов. У каждого вопроса есть уникальное поле name, тип и инструкции. В ответе возвращается массив answers, элементы которого связаны с этими именами.

Какие существуют 3 типа вопросов?

predicate: проверяет условие и возвращает probability в диапазоне от 0 до 1. Пример: есть ли на фотографии товара трещина, разрыв или вмятина?
choice: выбирает 1 значение из предоставленных вами вариантов. Также возвращает probabilities для каждого варианта и поле confidence.
score: оценивает входные данные по упорядоченным levels, проиндексированным начиная с 0. Оценка представляет собой среднее значение индексов уровней, взвешенное по вероятностям.

Пример OpenAI с оценкой серьёзности делает расчёт наглядным. Вероятности уровней 0.1, 0.7 и 0.2 дают оценку 1.1. Это значение находится между «Доступен обходной путь» и «Полностью заблокировано».

Когда вместо этого следует использовать Structured Outputs?

OpenAI проводит чёткое разграничение. Используйте Decisions для вероятностей, вариантов или оценок. Используйте Structured Outputs, чтобы заполнять собственную JSON-схему или писать объяснения. Используйте вызов функций, когда модели необходимо запросить вызов инструмента с аргументами.

Насколько это быстро и каковы подтверждения?

В документе OpenAI заявлено, что ответы примерно в 10 раз быстрее ответов Responses API. В материалах DevDay решение занимало около 150 мс по сравнению примерно с 1,6 секунды для обычных вызовов Luna. OpenAI не опубликовала данные о точности или калибровке этой конечной точки. В документации рекомендуется устанавливать пороговые значения с помощью размеченных примеров из собственного приложения.

Сколько это стоит и где можно развернуть API?

При использовании gpt-6-luna входные данные стоят $0.10 за 1 млн токенов. Плата за выходные токены, чтение и запись кэша не взимается. Дополнительная плата за региональную обработку и множители для длинного контекста по-прежнему применяются. В карточке модели Luna указано, что для запросов объёмом более 272 тыс. токенов применяется двойной тариф на входные данные.

Конечная точка: POST /v1/decisions в API OpenAI, а также Playground.
Минимальные версии SDK: Python 3.26.0, JavaScript 7.30.0, Go 3.73.0, Ruby 0.101.0, Java 4.78.0.
Соответствие требованиям: Zero Data Retention и HIPAA для соответствующих требованиям клиентов.
Регионы хранения данных: США и Европа (ЕЭЗ и Швейцария).
Голос: решения могут инициировать действия через делегирование клиенту с помощью Live API.

Как это сравнивается с TypeSafe Jev?

Ближайший конкурент — TypeSafe Jev, выпущенная 15 сентября 2026 года. Jev — модель System One, которая возвращает типизированные значения с калиброванными вероятностями. TypeSafe устанавливает цену на входные данные в размере $0.042 за 1 млн токенов, а выходные данные предоставляются бесплатно. Таким образом, базовый тариф OpenAI примерно в 2,4 раза выше. TypeSafe сообщает о задержке от 70 до 500 мс от начала до конца, измеренной на западном побережье США. Jev поддерживает до 255 вариантов, но по-прежнему находится на этапе раннего доступа. Преимущества OpenAI — поддержка изображений, варианты обеспечения соответствия требованиям и открытый доступ к бета-версии.

Характеристика	OpenAI Decisions API	TypeSafe Jev 1.13	GPT-6 Luna через Responses API
Релиз	Бета-версия, 6 окт. 2026 г.	Ранний доступ, 15 сент. 2026 г.	Общая доступность, 22 сент. 2026 г.
Базовая модель	`gpt-6-luna`	Jev (модель System One)	`gpt-6-luna`
Параметры	Не раскрываются	Не раскрываются	Не раскрываются
Входные данные	Текст, изображения (встроенный base64)	Текст и структурированное состояние	Текст, изображения
Выходные данные	Вероятность, вариант или оценка	Типизированные значения с вероятностями	Сгенерированный текст (JSON через Structured Outputs)
Максимальное количество вариантов на вопрос	Не раскрывается	До 255	Не применимо
Скорость (по данным поставщика)	Примерно в 10 раз быстрее Responses API	От 70 до 500 мс от начала до конца	Базовый уровень
Цена входных данных за 1 млн токенов	$0.10	$0.042	$0.10
Цена выходных данных за 1 млн токенов	$0	$0	$0.50
Соответствие требованиям	ZDR, HIPAA (для соответствующих требованиям клиентов); хранение данных в США и ЕС	Не раскрывается	Доступно хранение данных в ЕС

Основные выводы

OpenAI Decisions API возвращает вероятности, варианты и оценки, а не связный текст.
Входные данные стоят $0.10 за 1 млн токенов; выходные данные предоставляются бесплатно.
OpenAI заявляет, что API примерно в 10 раз быстрее Responses API.
TypeSafe Jev дешевле: $0.042 за 1 млн входных токенов.

Ознакомьтесь с техническими подробностями здесь. Все заслуги принадлежат исследователю этого проекта. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с аудиторией более 150 тысяч участников и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь к нам можно присоединиться и в Telegram.

Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.