Liquid AI의 LFM3 시리즈 텍스트 모델: 1.73B 파라미터, 3중 하이브리드 아키텍처(13 레이어의 게이트된 짧은 컨볼루션 + 5 레이어의 슬라이딩 윈도우 어텐션 + 6 레이어의 글로벌 어텐션), Hermes Agent, Pi, OpenClaw 등 에이전트 프레임워크에 맞춰 후학습(post-training)을 수행했으며, 스마트폰과 노트북에서 로컬로 도구 호출 및 구조화된 출력을 실행하는 데 중점을 둡니다.
상승 점수 178 · 좋아요 178 · 다운로드 수 6311
이유
- 공식적으로 4-bit에서 약 1 GB의 메모리를 차지한다고 합니다. Ryzen AI Max+ 395, Apple M5 Max 및 iPhone 17 Pro에서 32K 컨텍스트일 경우, 모든 비교 모델 대비 프리필(prefill) 속도가 최소 2.5배, 디코딩(decoding) 속도가 최소 1.8배 빠르며 메모리 사용량도 가장 적습니다.
- 공식 자체 테스트 결과: BFCL V4 71.39 (Qwen3.5 9B는 62.83), LiveClaw 45.60 (Qwen3.5 9B는 35.77)로 나타났습니다. 하지만 SWE-bench Verified 43.40은 Qwen3.5 9B의 51.20보다 여전히 낮으며, MCP-Atlas 32.57 또한 Qwen3.5 4B의 41.37보다 낮습니다.
- 도구 검색과 함께 지연 로딩(defer_loading)을 지원하여 도구가 많을 때 모든 도구를 프롬프트에 포함시킬 필요가 없습니다. 공식적으로 SFT, DPO, GRPO, 계속 사전 학습(continued pre-training) 등 4가지 단일 GPU 미세 조정 예제를 제공합니다. 같은 시리즈의 LFM3-Omni-2B(시각 및 청각 입력을 받아 텍스트 또는 음성으로 응답)와 LFM3-VL-2B도 이번 순위 목록에 포함되어 있습니다.
사용법
- Transformers: pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True); 공식적으로 일반 작업에는 temperature 0.1, top_k 50, repetition_penalty 1.1을, 수학 및 논리 작업에는 temperature 1.0, top_p 0.95, top_k 20을 권장합니다.
- 로컬 실행: 공식적으로 GGUF(llama.cpp / Ollama / LM Studio), MLX 4-bit, ONNX 형식을 제공합니다. GPU 서비스의 경우 FP8, NVFP4 버전(SGLang)이 있으며 vLLM도 지원합니다.
- 기본적으로 사고(thinking) 기능이 활성화되어 있으며, enable_thinking=False로 비활성화할 수 있지만 공식적으로는 비활성화 시 성능이 불안정하다고 합니다. 도구 정의는 apply_chat_template(tools=...)을 통해 전달되며, 모델은 XML 형식으로 호출을 출력하고 결과는 tool 메시지로 추가됩니다.
리스크
- 공식적으로는 에이전트 프로그래밍 및 복잡한 다단계 추론에는 사용하지 않는 것이 좋습니다. 지식이 밀집된 작업에는 검색 또는 검색 기능을 함께 사용해야 합니다.
- 라이선스는 Apache / MIT가 아닌 LFM Open License v1.0이므로, 상업적 사용 전 약관을 확인해야 합니다.
- 점수 및 속도 비교는 모두 공식 자체 테스트 결과입니다. 속도 테스트는 LFM3 지원이 포함된 llama.cpp 빌드를 사용했으며, 도구 검색을 llama.cpp에서 사용하려면 LFM3과 호환되는 버전과 최신 채팅 템플릿이 필요합니다.