Modèles de texte de la série Liquid AI LFM3 : 1.73 milliards de paramètres, architecture hybride à trois composants (13 couches de convolutions courtes à porte + 5 couches d'attention à fenêtre glissante + 6 couches d'attention globale), entraînés après formation pour des frameworks d'agents tels que Hermes Agent, Pi et OpenClaw, conçus pour exécuter localement sur smartphones et ordinateurs portables des appels d'outils et des sorties structurées.
Hausse de score 178 · J'aime 178 · Téléchargements 6311
Raisons
- Selon l'éditeur, l'occupation mémoire est d'environ 1 Go en 4 bits ; sur Ryzen AI Max+ 395, Apple M5 Max et iPhone 17 Pro, avec un contexte de 32K, le pré-remplissage est au moins 2.5 fois plus rapide et le décodage au moins 1.8 fois plus rapide que tous les modèles comparés, avec une occupation mémoire minimale.
- Tests internes de l'éditeur : BFCL V4 71.39 (Qwen3.5 9B : 62.83) ; LiveClaw 45.60 (Qwen3.5 9B : 35.77) ; mais SWE-bench Verified 43.40 reste inférieur aux 51.20 de Qwen3.5 9B, et MCP-Atlas 32.57 est également inférieur aux 41.37 de Qwen3.5 4B.
- Prise en charge du chargement différé des outils (defer_loading) combiné à la recherche d'outils, permettant de ne pas tout inclure dans le prompt lorsque le nombre d'outils est élevé ; l'éditeur fournit quatre exemples de micro-ajustement sur une seule carte GPU : SFT, DPO, GRPO et pré-entraînement continu. Les modèles LFM3-Omni-2B (capables de voir et d'entendre, répondant par texte ou voix) et LFM3-VL-2B de la même série figurent également dans ce classement.
Utilisation
- Transformers : pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True) ; l'éditeur recommande pour les tâches générales temperature 0.1, top_k 50, repetition_penalty 1.1, et pour les tâches mathématiques temperature 1.0, top_p 0.95, top_k 20.
- Exécution locale : l'éditeur fournit des formats GGUF (llama.cpp / Ollama / LM Studio), MLX 4 bits et ONNX ; pour les services GPU, des versions FP8 et NVFP4 sont disponibles (SGLang), avec prise en charge de vLLM.
- La réflexion est activée par défaut ; enable_thinking=False permet de la désactiver, mais l'éditeur précise que les performances deviennent instables une fois désactivée ; les définitions d'outils sont transmises via apply_chat_template(tools=...), le modèle génère les appels au format XML, et les résultats sont ajoutés sous forme de messages d'outil.
Risques
- L'éditeur déconseille l'utilisation pour la programmation d'agents et le raisonnement complexe multi-étapes ; les tâches nécessitant beaucoup de connaissances doivent être associées à la récupération ou à la recherche.
- La licence est la LFM Open License v1.0, et non Apache / MIT ; il convient de consulter les conditions avant toute utilisation commerciale.
- Les comparaisons de scores et de vitesse sont issues de tests internes de l'éditeur ; les tests de vitesse utilisent une build de llama.cpp avec prise en charge de LFM3, et la recherche d'outils sur llama.cpp nécessite également une version compatible avec LFM3 et le dernier modèle de chat.