Текстовые модели серии Liquid AI LFM3: 1.73B параметров, гибридная архитектура из трёх компонентов (13 слоёв с управляемой короткой свёрткой + 5 слоёв с вниманием в скользящем окне + 6 слоёв глобального внимания), дообученные для агентных фреймворков, таких как Hermes Agent, Pi и OpenClaw, с акцентом на локальный запуск вызовов инструментов и генерации структурированного вывода на смартфонах и ноутбуках.
Рост рейтинга на 178 · Лайков 178 · Загрузок 6311
Обоснование
- По официальным данным, при квантовании до 4-бит требуется около 1 ГБ памяти; на процессорах Ryzen AI Max+ 395, чипах Apple M5 Max и iPhone 17 Pro при контексте 32K фазы предзаполнения выполняются как минимум в 2.5 раз быстрее, а декодирования — как минимум в 1.8 раз быстрее по сравнению со всеми моделями-конкурентами, при этом потребление памяти также минимально.
- Результаты собственного тестирования: BFCL V4 71.39 (у Qwen3.5 9B — 62.83), LiveClaw 45.60 (у Qwen3.5 9B — 35.77); однако в тесте SWE-bench Verified результат 43.40 всё ещё ниже, чем 51.20 у Qwen3.5 9B, а в MCP-Atlas 32.57 также ниже, чем 41.37 у Qwen3.5 4B.
- Поддерживается отложенная загрузка инструментов (defer_loading) в сочетании с поиском по инструментам, что позволяет не включать все инструменты в промпт при их большом количестве; официально представлены четыре примера дообучения на одной видеокарте: SFT, DPO, GRPO и продолжение предобучения. В текущем рейтинге также присутствуют модели из той же серии: LFM3-Omni-2B (понимает текст, изображения и аудио, отвечает текстом или голосом) и LFM3-VL-2B.
Использование
- Transformers: pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True); для общих задач официально рекомендуются параметры temperature 0.1, top_k 50, repetition_penalty 1.1, а для математических задач — temperature 1.0, top_p 0.95, top_k 20.
- Локальный запуск: официально доступны форматы GGUF (для llama.cpp / Ollama / LM Studio), MLX 4-bit и ONNX; для GPU-серверов предусмотрены версии FP8 и NVFP4 (для SGLang), также поддерживается vLLM.
- Режим размышлений включён по умолчанию, его можно отключить параметром enable_thinking=False, однако, по заявлению разработчиков, после отключения стабильность работы снижается; определения инструментов передаются через apply_chat_template(tools=...), модель выводит вызовы в формате XML, а результаты добавляются как сообщения типа tool.
Риски
- Не рекомендуется использовать для агентного программирования и сложного многошагового рассуждения; для задач, требующих обширных знаний, необходимо подключать поиск или поиск в интернете.
- Лицензия — LFM Open License v1.0, а не Apache или MIT, поэтому перед коммерческим использованием следует внимательно изучить условия.
- Все сравнения по оценкам и скорости основаны на данных собственного тестирования разработчиков; тесты скорости проводились с использованием сборки llama.cpp с поддержкой LFM3, а поиск по инструментам в llama.cpp также требует совместимой с LFM3 версии и актуального шаблона чата.