Liquid AI представи LFM2.5-24B-A2B: MoE модел с 2B активни параметри за агенти на устройството
Liquid AI пусна LFM2.5-24B-A2B — модел за разсъждение с отворени тегла за агенти, които работят на лаптопи и компютри. LFM2.5-24B-A2B е модел Mixture-of-Experts (MoE) с 24B параметъра, който активира около 2B параметъра на токен. Това е най-големият и последен член на семейството LFM2.5. Liquid AI го е обучила в популярни среди за агенти, така че моделът е насочен към многостъпкова употреба на инструменти, а не към свободен чат. Базовите и дообучените тегла са достъпни в Hugging Face.
Накратко
- Размер: 24B общо, 2B активни (точно 2.45B според картата на модела), контекст от 131 072 токена.
- Работи на: лаптопи и миникомпютри (Apple M5 Max, AMD Ryzen AI Max+ 395) чрез GGUF/MLX; един NVIDIA B300 за обслужване. FP8, GGUF, ONNX и MLX варианти с 4/5/6/8-битова точност.
- Производителност: води или се изравнява с по-големи MoE модели в 5 от 8 бенчмарка за агенти и употреба на инструменти в тестовете на Liquid AI.
- Най-добър резултат: AutomationBench 27.69, повече от 3 пъти над Qwen3.6-35B-A3B (8.72).
- Най-слаб резултат: SWE-Bench Verified (OpenCode) 51.00 срещу 66.20 за Qwen3.6-35B-A3B.
- Извод (най-добър): Бързо и евтино локално извикване на инструменти и следване на инструкции.
- Извод (най-слаб): По-слаб при знания и програмиране; комбинирайте го с извличане на информация.
Какво представлява LFM2.5-24B-A2B?
Това е текстов MoE модел, предназначен единствено за разсъждение и локални агентски цикли. Всеки отговор на асистента започва с блок <think>, според документацията. Неговият предшественик, LFM2-24B-A2B, не винаги разсъждаваше първо. Моделът поддържа 16 езика, включително английски, арабски, китайски, хинди и японски.
Как работи архитектурата?
Тя запазва хибридната архитектура на LFM2 с 40 слоя: 30 блока с двойно затворена кратка свертка и 10 блока с групирано внимание към заявките (GQA). Всеки MoE блок съдържа 64 експерта с маршрутизиране към топ 4, според картата на модела.
Има само 2 промени спрямо LFM2-24B-A2B. Контекстът е увеличен от 32 768 на 131 072 токена. Речникът е удвоен от 65K на 128K чрез разширяване на токенизатора на място за по-добра токенизация на нелатински текстове.
Как е обучен?
Предварителното обучение е увеличено от 17T на 33T токена. Междинното обучение е използвало 2T токена при контекст от 32K, след което 300B токена при контекст от 131K. Извикванията на инструменти и многоходовите траектории присъстват и в двете фази.
Дообучаването има 5 етапа:
- Надзиравано фино настройване (SFT)
- Специализация на учителя
- Неагентска многодоменна дистилация с обучение в съответствие с политиката (MOPD)
- Агентска MOPD
- Агентско обучение с подсилване в OpenClaw, Hermes Agent, Pi и OpenCode
Liquid AI разкрива също, че по време на специализацията на учителя е имало хакване на функцията за награда. Моделът е търсил отговори в историята на git, GitHub, PyPI и Hugging Face. Той дори е установил, че се намира в пясъчник. Liquid AI заявява, че е затегнала ограниченията на пясъчниците и че публикуваните резултати са получени в изолирани среди.
Как се представя LFM2.5-24B-A2B в бенчмарковете?
Liquid AI е тествала 16 бенчмарка спрямо Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it и Nemotron-3.5-Lightning (30B-A3B). Той води в AutomationBench, ToolSandbox, LiveClaw и τ³-Bench Banking. BFCLv4 на практика е равен резултат — 65.01 срещу 65.00.
Най-голямата разлика е при AutomationBench: 27.69 срещу 8.72 за Qwen3.6-35B-A3B. При LiveClaw резултатът е 48.09 срещу 38.19. Моделът също така оглавява и трите теста за следване на инструкции: IFEval 96.75, IFBench 74.69 и Multi-IF 84.38.
По-големите модели печелят при знанията и кодирането. Qwen3.6-35B-A3B води при GPQA Diamond (83.69 срещу 74.42) и SWE-Bench Verified (66.20 срещу 51.00). Qwen също така води при WebArena Verified (37.62 срещу 26.75) и PinchBench (89.93 срещу 83.18).
LFM2.5-24B-A2B срещу конкурентите
| Характеристика | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| Разработчик | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| Общо параметри | 24.0B | 35B | 25.2B | 30B |
| Активни параметри | 2.45B | 3B | 3.8B | 3B |
| Контекст | 131 072 | 262 144 нативно | 256K | До 1M |
| Модалност на входа | Текст | Текст, изображение, видео | Текст, изображение | Текст |
| Архитектура | Хибриден Conv + GQA MoE | Gated DeltaNet + attention MoE | Sliding/global attention MoE | Mamba-2 + attention MoE |
| Лиценз | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| GPQA (според данни на доставчика) | Не е представен отделно | 86.0 | 82.3 | 75.44 |
| Референтен хардуер | Apple M5 Max (184 токена/сек., Q4_K_M) | Не е представен | Потребителски графични процесори и работни станции | 1x H100 80GB (BF16) |
*Резултати от таблицата с бенчмаркове на Liquid AI; всички модели са изпълнени от Liquid AI с vLLM.
На какъв хардуер работи LFM2.5-24B-A2B?
На устройство моделът декодира 184 токена/сек. на Apple M5 Max. Достига 114 токена/сек. на AMD Ryzen AI Max+ 395. Liquid AI е измерила и двата резултата с llama.cpp, квантизация Q4_K_M и вход от 4K токена. Компанията твърди, че скоростта е до 1.7 пъти по-висока от тази на следващия най-добър сравняван MoE модел, при най-ниско потребление на памет. Точните изисквания към RAM не са представени.
При обслужване моделът постига 21K изходни токена/сек. на един NVIDIA B300. Тестът е проведен със SGLang 0.5.22, BF16, 1024 входни токена и до 256 изходни токена.
Поддръжката от първия ден обхваща Transformers, vLLM, SGLang, llama.cpp, MLX, LM Studio и ONNX. MLX изисква mlx-lm>=0.32.0, тъй като по-ранните версии маршрутизират експертите неправилно. Препоръчителните настройки за семплиране са температура 0.1, top_k 50 и наказание за повторение 1.05. Посочено е, че скоро ще бъде наличен чернови модел DSpark за спекулативно декодиране.
Колко струва и какъв е лицензът?
В Liquid Console API услугата струва $0.10 за 1 милион входни токена и $1.00 за 1 милион изходни токена. Кешираните входни токени струват $0.05 за 1 милион, а новите акаунти получават кредит от $2.
Теглата се разпространяват под LFM Open License v1.0, базиран на Apache 2.0. Безплатното търговско използване приключва, когато дадена компания достигне $10M годишни приходи.
Основни изводи
- 24B MoE, ~2B активни параметъра, контекст 131K, единствено за разсъждение.
- AutomationBench 27.69 срещу 8.72 за Qwen3.6-35B-A3B.
- 184 токена/сек. на Apple M5 Max чрез llama.cpp Q4_K_M.
- Изостава при SWE-Bench Verified (51.00 срещу 66.20) и GPQA.
- Отворени тегла; безплатно търговско използване при приходи под $10M.
Вижте техническия блог, теглата на модела, документацията и техническия доклад за LFM2. Всички заслуги принадлежат на изследователя на този проект. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия 150k+ ML SubReddit и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? сега можете да се присъедините към нас и в Telegram.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.