Pokee AI пусна Pokee-Isaac 28B: агентен модел с контекст от 10 млн. токена, създаден да работи в периметъра на клиента

Агентите с дълъг хоризонт натрупват контекст по-бързо, отколкото решават задачи. Всеки резултат от инструмент, наблюдение и междинна стъпка на разсъждение остава в прозореца, а двете способности, които имат значение — да поддържат този контекст и да запазват последователност в него — досега бяха достъпни почти изключително чрез облачни крайни точки. Това изключва регулираните индустрии, институциите от публичния сектор и приложенията на устройството, където данните изобщо не могат да напускат границата. Pokee AI представи Pokee-Isaac 28B — фундаментален текстов модел с 28 млрд. параметъра и контекстен прозорец от 10 млн. токена, проектиран да работи вътре в тази граница. Изследователският екип на Pokee твърди, че моделът постига 93,3% в RULER при 10 млн. токена, равенство с най-силните оптимизирани по цена облачни базови модели при бенчмаркове за агентни системи и профил за обслужване, който се побира в един GPU.

Може ли да бъде внедрен

Да — но се лицензира, а не се предоставя с отворени тегла. Pokee AI предоставя Isaac чрез API за разработчици, съвместим с OpenAI, и го лицензира за внедряване във VPC, локално или на устройство. Съобщението за премиерата обявява поддръжка от ден 0 за vLLM и SGLang, както и обслужване с един GPU, започвайки от RTX 4090 или еквивалентен. Изследователският екип публикува измервания само от един GPU от клас B200, затова приемайте твърдението за потребителски GPU като насока от доставчика, а не като отчетен резултат.

• Ниво на компанията: Това е подходящо за организации, които вече притежават своя стек за инференс — средни и големи екипи с платформена група, както и производители на устройства. Самостоятелен специалист без локален хардуер трябва да използва хоствания API; аргументът за границата има смисъл само ако разполагате с такава граница.
• Индустрии: Здравеопазване и здравноосигурителни компании, финансови услуги и застраховане, отбранителен и публичен сектор, право и електронно разкриване на доказателства, както и фармацевтични или полупроводникови научноизследователски и развойни дейности. Общата характеристика е правило, според което данните не могат да преминават през граница на външен API, а не просто предпочитание към поверителност.
• Приложения: Преглед на код на цели хранилища, анализ на договори и искове за период от много години, криминалистичен анализ на инциденти върху пълни архиви на логове и дълго работещи инструментални агенти, които никога не се нуждаят от обобщаване или съкращаване на контекста. Изследователската статия изрично подчертава и втория момент: когато достатъчно използваем контекст е наличен в рамките на границата, йерархиите на паметта и компресирането стават опционални, а не задължителни.

Резултати при дълъг контекст

В RULER Isaac остава над 93,3% при всяка тествана дължина, като завършва с 93,3% при 10 млн. GPT-5.6 Luna и Gemini 3.5 Flash Lite се движат наравно с него до 512 хил. токена, след което достигат препълване на контекста при 1 млн.

В MRCR v2 с 8 игли Isaac получава резултати 0,607, 0,743 и 0,500 при 256 хил., 512 хил. и 1 млн. токена. Преднината му пред Gemini се увеличава от 0,133 до 0,295 в рамките на този диапазон.

Резултати при агентни системи и сигурност

Isaac оглавява BFCL v4 със 70,94 спрямо 70,61 за Luna. Докладът определя това като равенство, а не като преднина, което е правилното тълкуване. В τ³-bench той постига средно 0,662 в четири области, пред 0,631 за Gemini, като банковият сектор е с 0,186 заради трудността за всички модели. В MCP-Atlas заема трето място със 74,59% покритие, но използва 9,10 хода на задача спрямо 14,99 за Gemini. В Terminal-Bench 2.1 решава 56 от 86 текстово съвместими задачи (65,1%), зад Luna с 60. Това е единственият бенчмарк, в който облачният базов модел печели, и докладът го посочва ясно.

При DTAP тестване за сигурност Isaac отчита най-ниските нива на успеваемост на директни (36,0), индиректни (35,2) и комбинирани (35,6) атаки, при 82,5% успеваемост на безвредните задачи. Едно условие е различно: базовите модели са работили със стандартния изпълнител, а Isaac — с инструментариума на Pokee.

Ефективност, ценообразуване и преносимост

При работното натоварване на RULER върху един GPU от клас B200 TTFT е 23,6 сек. при 1 млн. и 72,9 сек. при 10 млн. токена. Пропускателната способност при предварително запълване се увеличава с контекста — от 42 400 до 137 200 токена/сек., така че десетократно по-дълъг промпт струва приблизително три пъти повече TTFT. Обявената цена е 0,15/1,00 долара за милион входни/изходни токени и е обозначена като предварителна. Isaac работи изцяло и на устройства с Intel Arc Pro B70 и Core Ultra Series 3 (Panther Lake), както и на Qualcomm Snapdragon X2 Elite.

Ключови изводи

• Pokee-Isaac 28B постига 93,3% в RULER при 10 млн. токена; всеки базов модел в панела му връща 0,0 над 2 млн.
• Предварителното запълване достига 137 200 токена/сек. при контекст от 10 млн. токена върху един B200; декодирането се задържа почти без промяна около 335 токена/сек.
• Оглавява BFCL v4 (70,94) и τ³-bench (средно 0,662), заема второ място в Terminal-Bench 2.1 и трето в MCP-Atlas.
• Най-ниско комбинирано ниво на успеваемост на атаките в DTAP (35,6), като запазва 82,5% успеваемост на безвредните задачи.
• Теглата не са публикувани; внедряването се лицензира във VPC, локално или на устройство.

---

Разгледайте блога и статията. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Почакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.

Имате нужда от партньор за популяризиране на вашето GitHub хранилище ИЛИ страница в Hugging Face ИЛИ представяне на продукт ИЛИ уебинар и т.н.? Свържете се с нас