Pokee AI випустила Pokee-Isaac 28B: агентну модель із контекстом у 10 млн токенів для роботи в контурі клієнта

Агенти з довгим горизонтом накопичують контекст швидше, ніж розв’язують завдання. Кожен результат роботи інструмента, спостереження та проміжний крок міркування залишається у вікні, а дві найважливіші здатності — утримувати цей контекст і зберігати узгодженість у ньому — досі були доступні майже виключно через хмарні кінцеві точки. Це виключає регульовані галузі, установи державного сектору та застосунки на пристроях, де даним взагалі не дозволено залишати межі системи. Pokee AI випустила Pokee-Isaac 28B — базову текстову модель із 28 млрд параметрів і контекстним вікном на 10 млн токенів, призначену для роботи всередині цих меж. Дослідницька команда Pokee заявляє про результат 93,3% у RULER на 10 млн токенів, паритет із найсильнішими оптимізованими за вартістю хмарними базовими моделями в агентних бенчмарках і профіль обслуговування, який уміщується на одному GPU.

Чи придатна вона для розгортання

Так — але за ліцензією, а не з відкритими вагами. Pokee AI надає доступ до Isaac через API для розробників, сумісний з OpenAI, і ліцензує модель для розгортання у VPC, локально або на пристрої. В анонсі запуску заявлено підтримку vLLM і SGLang із першого дня, а також обслуговування на одному GPU, починаючи з RTX 4090 або еквівалентної моделі. Дослідницька команда публікує вимірювання лише для одного GPU класу B200, тож твердження щодо споживчих GPU слід сприймати як рекомендацію постачальника, а не як опублікований результат.

• Рівень компанії: Це підходить організаціям, які вже мають власний стек інференсу, — командам середнього розміру та корпоративним командам із платформною групою, а також виробникам пристроїв. Окремому спеціалісту без локального обладнання варто використовувати розміщений API; аргумент щодо межі працює лише тоді, коли у вас є така межа.
• Галузі: Охорона здоров’я та страхові платники, фінансові послуги та страхування, оборонний і державний сектори, юриспруденція та електронне розкриття доказів, а також фармацевтичні чи напівпровідникові дослідження та розробки. Спільною рисою є правило, за яким дані не можуть перетинати межу зовнішнього API, а не просто перевага конфіденційності.
• Застосування: Перевірка коду в усьому репозиторії, аналіз багаторічних контрактів і страхових вимог, криміналістичний аналіз інцидентів за повними архівами журналів, а також довготривалі агенти з інструментами, яким ніколи не потрібно узагальнювати або скорочувати контекст. У дослідницькій роботі цей момент сформульовано прямо: коли в межах системи доступно достатньо придатного для використання контексту, ієрархії пам’яті та стиснення стають необов’язковими, а не необхідними.

Результати роботи з довгим контекстом

У RULER Isaac утримує результат понад 93,3% на кожній протестованій довжині, завершуючи з показником 93,3% на 10 млн токенів. GPT-5.6 Luna та Gemini 3.5 Flash Lite тримаються на одному рівні з ним до 512 тис. токенів, а потім стикаються з переповненням контексту на 1 млн.

У MRCR v2 із 8 голками Isaac набирає 0,607, 0,743 і 0,500 на 256 тис., 512 тис. і 1 млн токенів відповідно. Його перевага над Gemini збільшується з 0,133 до 0,295 у цьому діапазоні.

Результати в агентних завданнях і безпеці

Isaac очолює BFCL v4 із результатом 70,94 проти 70,61 у Luna. У звіті це названо паритетом, а не лідерством, і це правильна інтерпретація. У τ³-bench його середній результат у чотирьох доменах становить 0,662, що випереджає Gemini з показником 0,631; у банківській сфері результат для всіх становить 0,186, що свідчить про складність завдання. У MCP-Atlas він посідає третє місце з охопленням 74,59%, але використовує 9,10 ходу на завдання проти 14,99 у Gemini. У Terminal-Bench 2.1 він розв’язує 56 із 86 текстово сумісних завдань (65,1%), поступаючись Luna з її 60. Це єдиний бенчмарк, у якому хмарна базова модель перемагає, і у звіті це чітко зазначено.

Під час red-teaming у DTAP Isaac демонструє найнижчі показники успішності прямих (36,0), непрямих (35,2) і комбінованих (35,6) атак, а також 82,5 успішності доброякісних завдань. Одна умова відрізняється: базові моделі працювали у стандартному запускальнику, а Isaac — у середовищі Pokee.

Ефективність, ціни та портативність

За робочого навантаження RULER на одному GPU класу B200 TTFT становить 23,6 с на 1 млн і 72,9 с на 10 млн токенів. Пропускна здатність попереднього заповнення зростає разом із контекстом — із 42 400 до 137 200 токенів/с, тож промпт, довший у десять разів, збільшує TTFT приблизно втричі. Ціна за прайс-листом становить $0.15/$1.00 за мільйон вхідних/вихідних токенів і позначена як попередня. Isaac також повністю працює на пристроях із Intel Arc Pro B70 і Core Ultra Series 3 (Panther Lake), а також на Qualcomm Snapdragon X2 Elite.

Ключові висновки

• Pokee-Isaac 28B набирає 93,3% у RULER на 10 млн токенів; кожна базова модель у його порівняльній групі повертає 0,0 після 2 млн.
• Швидкість попереднього заповнення досягає 137 200 токенів/с за контексту 10 млн на одному B200; декодування стабільно тримається на рівні близько 335 токенів/с.
• Модель очолює BFCL v4 (70,94) і τ³-bench (середній результат 0,662), посідає друге місце в Terminal-Bench 2.1 і третє — у MCP-Atlas.
• Найнижчий комбінований показник успішності атак у DTAP (35,6) при збереженні 82,5 успішності доброякісних завдань.
• Ваги не опубліковані; розгортання ліцензується у VPC, локально або на пристрої.

---

Перегляньте блог і дослідницьку роботу. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого субреддіту про машинне навчання з понад 150 тис. учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.

Потрібно налагодити партнерство з нами для просування вашого репозиторію GitHub АБО сторінки Hugging Face, АБО релізу продукту, АБО вебінару тощо? Зв’яжіться з нами