Liquid AI LFM3 系列的文本模型:1.73B 参数,三混合架构(13 层门控短卷积 + 5 层滑动窗口注意力 + 6 层全局注意力),针对 Hermes Agent、Pi、OpenClaw 等智能体框架做过后训练,主打在手机和笔记本上本地跑工具调用和结构化输出。
上升分 178 · 点赞 178 · 下载量 6311
理由
- 官方称 4-bit 下约占 1 GB 内存;在 Ryzen AI Max+ 395、Apple M5 Max 和 iPhone 17 Pro 上、32K 上下文时,预填充至少快 2.5 倍、解码至少快 1.8 倍于所有对比模型,内存占用也最少。
- 官方自测:BFCL V4 71.39(Qwen3.5 9B 为 62.83)、LiveClaw 45.60(Qwen3.5 9B 为 35.77);但 SWE-bench Verified 43.40 仍低于 Qwen3.5 9B 的 51.20,MCP-Atlas 32.57 也低于 Qwen3.5 4B 的 41.37。
- 支持延迟加载工具(defer_loading)配合工具搜索,工具很多时不用全部塞进提示词;官方给了 SFT、DPO、GRPO、继续预训练四个单卡微调示例。同系列的 LFM3-Omni-2B(能看能听、用文字或语音回答)和 LFM3-VL-2B 也在本期榜上。
用法
- Transformers:pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True);官方推荐通用任务 temperature 0.1、top_k 50、repetition_penalty 1.1,数理任务 temperature 1.0、top_p 0.95、top_k 20。
- 本地运行:官方提供 GGUF(llama.cpp / Ollama / LM Studio)、MLX 4-bit、ONNX;GPU 服务有 FP8、NVFP4 版(SGLang),也支持 vLLM。
- 默认开启思考,enable_thinking=False 可关,但官方说关闭后表现不稳定;工具定义通过 apply_chat_template(tools=...) 传入,模型以 XML 输出调用,结果作为 tool 消息追加。
风险
- 官方不建议用于智能体编程和复杂多步推理;知识密集任务要配检索或搜索。
- 许可是 LFM Open License v1.0,不是 Apache / MIT,商用前要看条款。
- 分数和速度对比均为官方自测;速度测试用的是带 LFM3 支持的 llama.cpp 构建,工具搜索在 llama.cpp 上也要求兼容 LFM3 的版本和最新聊天模板。