Liquid AI LFM3 シリーズのテキストモデル：1.73B パラメータ、3混合アーキテクチャ（13 層のゲート付き短距離畳み込み + 5 層のスライディングウィンドウアテンション + 6 層のグローバルアテンション）、Hermes Agent、Pi、OpenClaw などのエージェントフレームワーク向けに後訓練済みで、スマートフォンやノートパソコンでのローカル実行におけるツール呼び出しと構造化出力を主軸としています。
上昇スコア 178 · いいね数 178 · ダウンロード数 6311
理由
- 公式によれば、4-bit 環境では約 1 GB のメモリを消費します。Ryzen AI Max+ 395、Apple M5 Max、iPhone 17 Pro において、32K コンテキスト長の場合、プリフィル速度は比較対象の全モデルに対し最低 2.5 倍、デコード速度は最低 1.8 倍高速であり、メモリ使用量も最小です。
- 公式の自己テスト結果：BFCL V4 71.39（Qwen3.5 9B は 62.83）、LiveClaw 45.60（Qwen3.5 9B は 35.77）；ただし、SWE-bench Verified の 43.40 は Qwen3.5 9B の 51.20 より低く、MCP-Atlas の 32.57 も Qwen3.5 4B の 41.37 より低いです。
- ツール検索と組み合わせた遅延読み込みツール（defer_loading）に対応しており、ツールが多い場合でもすべてをプロンプトに含める必要がありません。公式は SFT、DPO、GRPO、継続事前学習の4つの単一GPUファインチューニング例を提供しています。同シリーズの LFM3-Omni-2B（視覚・聴覚入力に対応し、テキストまたは音声で回答可能）および LFM3-VL-2B も今期のランキングに含まれています。
使い方
- Transformers：pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True)；公式は一般的なタスクでは temperature 0.1、top_k 50、repetition_penalty 1.1、数理タスクでは temperature 1.0、top_p 0.95、top_k 20 を推奨しています。
- ローカル実行：公式は GGUF（llama.cpp / Ollama / LM Studio）、MLX 4-bit、ONNX を提供しています。GPU サービスでは FP8、NVFP4 バージョン（SGLang）が利用可能で、vLLM にも対応しています。
- デフォルトで思考モードが有効ですが、enable_thinking=False で無効化できます。ただし、公式はこれを無効にすると性能が不安定になると述べています。ツール定義は apply_chat_template(tools=...) を通じて渡され、モデルは XML 形式で呼び出しを出力し、結果は tool メッセージとして追加されます。
リスク
- 公式はエージェント型プログラミングや複雑な多段階推論への使用を推奨していません。知識集約型のタスクには検索やサーチ機能を併用する必要があります。
- ライセンスは LFM Open License v1.0 であり、Apache / MIT ではありません。商用利用前に条項を確認してください。
- スコアおよび速度比較はすべて公式の自己テストによるものです。速度テストには LFM3 対応の llama.cpp ビルドが使用されており、ツール検索機能も llama.cpp 上で LFM3 互換のバージョンと最新のチャットテンプレートを必要とします。