Meta представи Muse Spark Open: MoE с отворени тегла, 816 млрд параметъра и контекст от 1 млн токена

Meta Superintelligence Labs пусна Muse Spark Open — версията с отворени тегла на своя модел Muse Spark. Muse Spark Open е Mixture-of-Experts модел с 816 млрд. параметъра, който активира 42 млрд. параметъра за всеки токен. Той приема текст, изображения, видео и аудио, връща текст и разполага с контекстен прозорец от 1 млн. токена. Екипът на Meta твърди, че това е най-способният модел с отворени тегла от САЩ досега. За разработчиците истинската новина е свързана с внедряването: версията NVFP4 работи на 2 Apple M5 Ultra Mac Studio.

Накратко

• Размер: 816 млрд. общо / 42 млрд. активни параметъра (256 експерта, 8 активни за всеки токен); контекст от 1 млн. токена.
• Работи на: 2 Mac Studio (M5 Ultra, по 512 GB всеки) чрез MLX; 4 Blackwell Ultra GPU или 8 H200 с NVFP4; конфигурации с около 300 GB чрез 2-битовия GGUF на Unsloth.
• Производителност: Силен при агентно използване на инструменти; в средата на класа при големите отворени модели за програмиране.
• Най-добър резултат: MCP-Atlas 89.2 — най-високият резултат в сравнителната таблица на Meta.
• Най-слаб резултат: Terminal-Bench 2.1 76.4 — зад Kimi K3 (85.0), GLM 5.3 (83.9) и Qwen3.8 (82.0).

Какво представлява Muse Spark Open?

Muse Spark Open е нативно мултимодален MoE модел от Meta, създаден за програмиране и агентна работа с дълъг хоризонт. Теглата са достъпни във формати BF16 и NVFP4 в Hugging Face. Отворената версия е преминала допълнително обучение за безопасност. Екипът на Meta заявява, че това я прави по-устойчива без предпазни механизми на системно ниво.

Как работи архитектурата?

Картата на модела посочва 62 слоя и скрито измерение от 8192. Всеки MoE слой съдържа 256 експерта, а маршрутизирането top-k активира 8 за всеки токен. Механизмът за внимание е с групирани заявки, със 128 глави за заявки и 16 KV глави. Отделен Perception Encoder с 1,8 млрд. параметъра обработва визуалния вход. Речникът съдържа 202 048 токена, а данните за обучение обхващат над 100 езика.

Дълбочината на разсъжденията се задава чрез reasoning_effort: low, medium, high или xhigh. Стойността по подразбиране е xhigh.

Как се представя Muse Spark Open в бенчмарковете?

Meta го сравнява с Kimi K3, GLM 5.3, Qwen3.8-2.4T-A95B и други модели при максимално усилие за разсъждение. Най-силните му резултати са при използването на инструменти и надеждността на знанията:

• MCP-Atlas: 89.2 — пред Qwen3.8 (84.5) и GLM 5.3 (84.2).
• JobBench: 61.8 — малко пред GLM 5.3 (61.4).
• HLE-Diamond, без инструменти: 26.1 срещу 22.2 за Kimi K3.
• AA Omniscience: 25 — най-високият резултат в таблицата на Meta.
• ZeroBench с инструменти: 50.0 срещу 41.0 за Kimi K3.

Програмирането е слабата му страна. В Terminal-Bench 2.1 с набора Terminus 2 той постига 76.4. Kimi K3 достига 85.0, GLM 5.3 получава 83.9, а Qwen3.8 — 82.0. Индексът Artificial Analysis Intelligence е 39. Това го поставя зад GLM 5.3 (45), Kimi K3 (44) и Qwen3.8 (40). Така че твърдението „най-способният модел от САЩ“ е валидно, но китайските отворени модели все още водят като цяло.

Някои от резултатите на конкурентите са предоставени от самите тях; методологията за оценяване посочва всеки източник.

Какъв хардуер е необходим за Muse Spark Open?

Според ръководството за разработчици на Meta теглата във формат BF16 заемат около 1,6 TB. При NVFP4 се квантизират само експертите и размерът е близо 530 GB. Картата на модела препоръчва поне 700 GB VRAM за NVFP4 и 2 TB за BF16.

• Център за данни: NVFP4 на 4 Blackwell Ultra GPU или 8 H200.
• Настолен компютър: 2 M5 Ultra Mac Studio с по 512 GB, свързани чрез Thunderbolt 5 с RDMA. MLX разделя всеки слой между двете машини чрез тензорен паралелизъм.
• Работна станция: Динамичните GGUF файлове на Unsloth до 2 бита се побират в около 300 GB обща памет.

Къде могат разработчиците да го използват?

Достъпните още от първия ден енджини включват SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, MLX, llama.cpp и Unsloth. Хостваните API са налични в Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter и Together AI. OpenRouter посочва цена от $1.25 за 1 млн. входни токена и $4.25 за 1 млн. изходни токена.

Два модела за предварително генериране ускоряват декодирането: DFlash V2 за SGLang и DSpark за vLLM. Meta отчита 3,7 пъти по-висока пропускателна способност при единична заявка с DFlash V2 на AMD MI355X. Финото настройване работи с TorchTitan, Hugging Face TRL и NVIDIA NeMo AutoModel.

Какво позволява лицензът Muse Model License?

Лицензът Muse Model License разрешава използване, фино настройване, дистилация и преразпределение. Най-важни са 2 условия:

• Продуктите трябва да показват „Built with Muse Spark Open.“
• Доставчиците на Model-as-a-Service с приходи над $20 млн. за 12 месеца се нуждаят от отделно споразумение с Meta.

Вътрешното използване, изследователската работа и захранването на собствени продуктови функции са освободени от клаузата за приходите.

Muse Spark Open срещу Kimi K3 срещу GLM 5.3 срещу Qwen3.8

Функция	Muse Spark Open	Kimi K3	GLM 5.3	Qwen3.8-2.4T-A95B
Общо параметри	816B	2.8T	753B	2.4T
Активни параметри	42B	104B	~40B	95B
Контекст	1M	1,048,576	1,048,576	262,144 нативно, до 1,010,000
Вход	Текст, изображение, видео, аудио	Текст, изображение, видео	Текст	Текст
Лиценз	Muse Model License	Kimi K3 License	glm-5.3 license	qwen3.8-max license
Публикувани тегла	BF16, NVFP4	MXFP4 (QAT)	BF16, FP8	BF16
AA Intelligence Index (чрез Meta)	39	44	45	40
Terminal-Bench 2.1, Terminus 2 (чрез Meta)	76.4	85.0	83.9	82.0
MCP-Atlas (чрез Meta)	89.2	82.3	84.2	84.5
Toolathlon Verified (доставчик)	72.8	76.5	73.0	72.5
HLE с инструменти (доставчик)	61.0	56.0	62.5	56.2
DeepSWE 1.1 (доставчик, собствен набор)	60	67.5	66.9	56.6
Настолна конфигурация	2x M5 Ultra Mac Studio	Не е разкрито	Не е разкрито	Не е разкрито

Основни изводи

• 816 млрд. общо, 42 млрд. активни параметъра, контекст от 1 млн. токена, вход на текст/изображение/видео/аудио.
• Води в таблицата на Meta за отворени модели при MCP-Atlas (89.2) и JobBench (61.8).
• Изостава от Kimi K3, GLM 5.3 и Qwen3.8 в Terminal-Bench 2.1 (76.4).
• Версията NVFP4 работи на 2 M5 Ultra Mac Studio чрез MLX.
• Безплатен за повечето потребители; доставчиците на MaaS с приходи над $20 млн. се нуждаят от споразумение.

---

Разгледайте теглата на модела, изследователския блог, ръководството за разработчици и методологията за оценяване. Всички заслуги са за изследователя на този проект. Също така не се колебайте да ни последвате в Twitter и не забравяйте да се присъедините към нашия SubReddit за машинно обучение с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.