Sakhanda Wire
NVDA — MSFT — GOOGL — META — AMZN —
← До новин

Decisions API від OpenAI вийшов у публічну бета-версію з типізованими відповідями у 10 разів швидше

OpenAI випустила Decisions API у форматі публічної бета-версії. Вона перетворює текст і зображення на типізовані відповіді, на основі яких ваш код може ухвалювати подальші рішення. Команда OpenAI заявляє, що OpenAI Decisions API працює приблизно у 10 разів швидше за Responses API. API орієнтований на поширений сценарій: передати запит LLM, а потім перетворити її текст на мітку.

Коротко

  • Розмір: кількість параметрів GPT-6 Luna не розкривається. У його картці моделі зазначено контекстне вікно на 1 050 000 токенів.
  • Працює на: лише API, розгорнутому на серверах OpenAI, через POST /v1/decisions. Відкритих ваг немає, самостійне розгортання не підтримується.
  • Продуктивність: приблизно у 10 разів швидше за Responses API, за даними OpenAI.
  • Найкраще: $0.10 за 1 млн вхідних токенів, без плати за вихідні токени, читання кешу чи запис у кеш.
  • Підсумок:
    • Переваги: швидкі типізовані рішення з імовірностями.
      • Недоліки: 1 модель, статус бета-версії, незалежних оцінювань поки немає.

Що таке OpenAI Decisions API?

Decisions API — це кінцева точка OpenAI, яка оцінює текст, зображення або і те, і інше та повертає типізовані відповіді. Вона не генерує прозу. Запит містить 3 поля: model, input і questions. Єдина підтримувана модель на сьогодні — gpt-6-luna. OpenAI очікує на загальну доступність найближчими тижнями.

Як працює Decisions API?

Кожен запит містить спільні докази та список запитань. Кожне запитання має унікальне поле name, тип та інструкції. У відповіді повертається масив answers, елементи якого прив’язані до цих назв.

Які існують 3 типи запитань?

  • predicate: перевіряє умову та повертає probability від 0 до 1. Приклад: чи видно на фотографії товару тріщину, розрив або вм’ятину?
  • choice: обирає 1 значення з наданих вами варіантів. Також повертає probabilities для кожного варіанта та поле confidence.
  • score: оцінює вхідні дані за впорядкованими levels, індексованими від 0. Оцінка є середнім значенням індексів рівнів, зваженим за ймовірностями.

Приклад OpenAI із визначенням критичності допомагає конкретизувати математику. Імовірності рівнів 0.1, 0.7 і 0.2 дають оцінку 1.1. Це значення перебуває між «Доступний обхідний шлях» і «Повністю заблоковано».

Коли замість цього варто використовувати Structured Outputs?

OpenAI чітко розмежовує ці можливості. Використовуйте Decisions для ймовірностей, вибору або оцінок. Використовуйте Structured Outputs, щоб заповнювати власну JSON-схему або писати пояснення. Використовуйте виклик функцій, коли модель має запросити виклик інструмента з аргументами.

Наскільки це швидко і які є докази?

У документі OpenAI заявлено, що відповіді приблизно у 10 разів швидші за Responses API. У матеріалах DevDay зазначалося, що рішення надходить приблизно за 150 мс, тоді як звичайні виклики Luna займають близько 1,6 секунди. OpenAI не опублікувала даних про точність або калібрування цієї кінцевої точки. Документація радить встановлювати пороги на основі розмічених прикладів із вашого власного застосунку.

Скільки це коштує і де можна це розгорнути?

Для gpt-6-luna вхідні дані коштують $0.10 за 1 млн токенів. Плата за вихідні токени, читання кешу чи запис у кеш не стягується. Надбавки за регіональну обробку та множники для довгого контексту все ще застосовуються. У картці моделі Luna зазначено, що запити обсягом понад 272 тис. токенів оплачуються за подвоєною ставкою для вхідних даних.

  • Кінцева точка: POST /v1/decisions в API OpenAI, а також Playground.
  • Мінімальні версії SDK: Python 3.26.0, JavaScript 7.30.0, Go 3.73.0, Ruby 0.101.0, Java 4.78.0.
  • Відповідність вимогам: Zero Data Retention і HIPAA для відповідних вимогам клієнтів.
  • Регіон зберігання даних: Сполучені Штати та Європа (ЄЕЗ і Швейцарія).
  • Голос: рішення можуть ініціювати дії через делегування на стороні клієнта за допомогою Live API.

Як це порівнюється з TypeSafe Jev?

Найближчим конкурентом є TypeSafe Jev, запущений 15 вересня 2026 року. Jev — це модель System One, яка повертає типізовані значення з каліброваними ймовірностями. TypeSafe стягує $0.042 за 1 млн вхідних токенів, а вихідні дані надає безкоштовно. Це означає, що базова ставка OpenAI приблизно у 2,4 раза вища. TypeSafe повідомляє про затримку від 70 до 500 мс від початку до кінця, виміряну на західному узбережжі США. Jev підтримує до 255 варіантів, але все ще перебуває на етапі раннього доступу. Перевагами OpenAI є введення зображень, варіанти забезпечення відповідності вимогам і відкритий доступ до бета-версії.

ФункціяOpenAI Decisions APITypeSafe Jev 1.13GPT-6 Luna через Responses API
РелізБета-версія, 6 жовтня 2026 рокуРанній доступ, 15 вересня 2026 рокуЗагальна доступність, 22 вересня 2026 року
Базова модельgpt-6-lunaJev (модель System One)gpt-6-luna
ПараметриНе розкриваєтьсяНе розкриваєтьсяНе розкривається
Вхідні даніТекст, зображення (вбудований base64)Текст і структурований станТекст, зображення
Вихідні даніЙмовірність, вибір або оцінкаТипізовані значення з ймовірностямиЗгенерований текст (JSON через Structured Outputs)
Максимальна кількість варіантів на запитанняНе розкриваєтьсяДо 255Не застосовується
Швидкість (заявлена постачальником)Приблизно у 10 разів швидше за Responses API70–500 мс від початку до кінцяБазовий показник
Ціна вхідних даних за 1 млн токенів$0.10$0.042$0.10
Ціна вихідних даних за 1 млн токенів$0$0$0.50
Відповідність вимогамZDR, HIPAA (для відповідних вимогам); регіони зберігання даних у США та ЄСНе розкриваєтьсяДоступний регіон зберігання даних у ЄС

Основні висновки

  • OpenAI Decisions API повертає ймовірності, варіанти та оцінки, а не прозу.
  • Вхідні дані коштують $0.10 за 1 млн токенів; вихідні дані безкоштовні.
  • OpenAI заявляє, що API приблизно у 10 разів швидший за Responses API.
  • TypeSafe Jev дешевший — $0.042 за 1 млн вхідних токенів.

Ознайомтеся з технічними деталями тут. Уся подяка досліднику цього проєкту. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого сабреддіту 150k+ ML та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? Тепер ви також можете приєднатися до нас у Telegram.

Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Текст і зображення належать MarkTechPost і наводяться тут із зазначенням авторства та посиланням на оригінальну публікацію.

← До новин

Ще новини

Усі останні новини