Meta представила Muse Spark Open: MoE з відкритими вагами, 816 млрд параметрів і контекстом у 1 млн токенів

Meta Superintelligence Labs випустила Muse Spark Open — версію своєї моделі Muse Spark з відкритими вагами. Muse Spark Open — це модель Mixture-of-Experts із 816 млрд параметрів, яка активує 42 млрд параметрів на токен. Вона приймає текстові, графічні, відео- та аудіодані, повертає текст і має контекстне вікно на 1 млн токенів. Команда Meta стверджує, що це найпотужніша американська модель із відкритими вагами на сьогодні. Для розробників справжня новина — можливість розгортання: збірка NVFP4 працює на 2 Mac Studio з Apple M5 Ultra.

Коротко

• Розмір: 816 млрд загальних / 42 млрд активних параметрів (256 експертів, 8 активних на токен); контекст на 1 млн токенів.
• Працює на: 2 Mac Studio (M5 Ultra, по 512 ГБ кожен) через MLX; 4 графічних процесорах Blackwell Ultra або 8 H200 із NVFP4; конфігурації приблизно на 300 ГБ через 2-бітний GGUF від Unsloth.
• Продуктивність: високі результати у використанні інструментів агентами; середні результати серед великих відкритих моделей у програмуванні.
• Найкращий результат: MCP-Atlas — 89,2, найвищий показник у порівняльній таблиці Meta.
• Найгірший результат: Terminal-Bench 2.1 — 76,4, що нижче за Kimi K3 (85,0), GLM 5.3 (83,9) і Qwen3.8 (82,0).

Що таке Muse Spark Open?

Muse Spark Open — це нативно мультимодальна модель MoE від Meta, створена для програмування та агентної роботи з довгим горизонтом. Ваги доступні у форматах BF16 і NVFP4 на Hugging Face. Відкрита версія пройшла додаткове посттренування для безпеки. Команда Meta заявляє, що це робить модель надійнішою без системних обмежень безпеки.

Як працює архітектура?

У картці моделі зазначено 62 шари та приховану розмірність 8192. Кожен шар MoE містить 256 експертів, а маршрутизація top-k активує 8 експертів на токен. Механізм уваги використовує груповані запити: 128 голів запитів і 16 голів KV. Окремий Perception Encoder із 1,8 млрд параметрів обробляє візуальні дані. Словник містить 202 048 токенів, а навчальні дані охоплюють понад 100 мов.

Глибина міркувань задається параметром reasoning_effort: low, medium, high або xhigh. Значення за замовчуванням — xhigh.

Як Muse Spark Open показує себе в бенчмарках?

Meta порівнює її з Kimi K3, GLM 5.3, Qwen3.8-2.4T-A95B та іншими моделями за максимального рівня міркувань. Найкращі результати вона демонструє у використанні інструментів і надійності знань:

• MCP-Atlas: 89,2 — вище, ніж у Qwen3.8 (84,5) і GLM 5.3 (84,2).
• JobBench: 61,8 — трохи вище, ніж у GLM 5.3 (61,4).
• HLE-Diamond, без інструментів: 26,1 проти 22,2 у Kimi K3.
• AA Omniscience: 25 — найвищий показник у таблиці Meta.
• ZeroBench з інструментами: 50,0 проти 41,0 у Kimi K3.

Програмування є слабким місцем моделі. У Terminal-Bench 2.1 із набором інструментів Terminus 2 вона набирає 76,4 бала. Kimi K3 досягає 85,0, GLM 5.3 — 83,9, а Qwen3.8 — 82,0. Її Artificial Analysis Intelligence Index становить 39. Це нижче, ніж у GLM 5.3 (45), Kimi K3 (44) і Qwen3.8 (40). Отже, твердження «найпотужніша американська модель» справедливе, але китайські відкриті моделі все ще лідирують у загальному заліку.

Деякі результати конкурентів надані самими розробниками; у методології оцінювання наведено джерело кожного показника.

Яке обладнання потрібне Muse Spark Open?

Згідно з посібником для розробників Meta, ваги BF16 займають близько 1,6 ТБ. Квантизація NVFP4 застосовується лише до експертів, зменшуючи обсяг приблизно до 530 ГБ. У картці моделі рекомендовано щонайменше 700 ГБ відеопам’яті для NVFP4 і 2 ТБ для BF16.

• Центр обробки даних: NVFP4 на 4 графічних процесорах Blackwell Ultra або 8 H200.
• Настільна конфігурація: 2 Mac Studio з M5 Ultra і 512 ГБ кожен, з’єднані через Thunderbolt 5 із RDMA. Паралелізм тензорів MLX розподіляє кожен шар між обома машинами.
• Робоча станція: динамічні GGUF від Unsloth до 2-бітного формату вміщуються приблизно у 300 ГБ об’єднаної пам’яті.

Де розробники можуть запускати модель?

Серед доступних із першого дня рушіїв — SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, MLX, llama.cpp і Unsloth. Хостингові API доступні на Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter і Together AI. OpenRouter вказує ціну $1,25 за 1 млн вхідних токенів і $4,25 за 1 млн вихідних токенів.

Дві чернеткові моделі пришвидшують декодування: DFlash V2 для SGLang і DSpark для vLLM. Meta повідомляє про 3,7-кратне збільшення пропускної здатності для одного запиту з DFlash V2 на AMD MI355X. Тонке налаштування працює з TorchTitan, Hugging Face TRL і NVIDIA NeMo AutoModel.

Що дозволяє ліцензія Muse Model License?

Ліцензія Muse Model License дозволяє використання, тонке налаштування, дистиляцію та повторне розповсюдження. Найважливішими є 2 умови:

• Продукти мають містити напис «Built with Muse Spark Open».
• Постачальникам Model-as-a-Service із доходом понад $20 млн за 12 місяців потрібна окрема угода з Meta.

Внутрішнє використання, дослідження та застосування для роботи власних функцій продукту не підпадають під обмеження щодо доходу.

Muse Spark Open проти Kimi K3, GLM 5.3 і Qwen3.8

Характеристика	Muse Spark Open	Kimi K3	GLM 5.3	Qwen3.8-2.4T-A95B
Загальна кількість параметрів	816 млрд	2,8 трлн	753 млрд	2,4 трлн
Активні параметри	42 млрд	104 млрд	~40 млрд	95 млрд
Контекст	1 млн	1 048 576	1 048 576	262 144 нативно, до 1 010 000
Вхідні дані	Текст, зображення, відео, аудіо	Текст, зображення, відео	Текст	Текст
Ліцензія	Muse Model License	Kimi K3 License	ліцензія glm-5.3	ліцензія qwen3.8-max
Опубліковані ваги	BF16, NVFP4	MXFP4 (QAT)	BF16, FP8	BF16
AA Intelligence Index (за даними Meta)	39	44	45	40
Terminal-Bench 2.1, Terminus 2 (за даними Meta)	76,4	85,0	83,9	82,0
MCP-Atlas (за даними Meta)	89,2	82,3	84,2	84,5
Toolathlon Verified (за даними постачальника)	72,8	76,5	73,0	72,5
HLE з інструментами (за даними постачальника)	61,0	56,0	62,5	56,2
DeepSWE 1.1 (за даними постачальника, власний набір інструментів)	60	67,5	66,9	56,6
Настільна конфігурація	2x M5 Ultra Mac Studio	Не розкрито	Не розкрито	Не розкрито

Основні висновки

• 816 млрд загальних, 42 млрд активних параметрів, контекст на 1 млн токенів, текстові/графічні/відео/аудіовхідні дані.
• Очолює таблицю відкритих моделей Meta у MCP-Atlas (89,2) і JobBench (61,8).
• Поступається Kimi K3, GLM 5.3 і Qwen3.8 у Terminal-Bench 2.1 (76,4).
• Збірка NVFP4 працює на 2 Mac Studio з M5 Ultra через MLX.
• Безкоштовна для більшості користувачів; постачальникам MaaS із доходом понад $20 млн потрібна угода.

---

Ознайомтеся з вагами моделі, дослідницьким блогом, посібником для розробників і методологією оцінювання. Уся заслуга належить досліднику цього проєкту. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого 150k+ ML SubReddit та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.