LiquidAI/LFM3-Omni-2B

Liquid AI LFM3 系列第一个全模态模型,2.17B 参数:一个端到端模型同时理解文字、图片、视频(连同声音)和音频,用文字、24 kHz 语音或文字语音交错回答,可以在手机、笔记本上替代 ASR、视觉语言模型、LLM、TTS 四个模型。

Liquid AI LFM3 系列第一个全模态模型,2.17B 参数:一个端到端模型同时理解文字、图片、视频(连同声音)和音频,用文字、24 kHz 语音或文字语音交错回答,可以在手机、笔记本上替代 ASR、视觉语言模型、LLM、TTS 四个模型。

上升分 144 · 点赞 146 · 下载量 714

理由

  • 官方自测音视频联合理解:Daily-Omni 70.09、WorldSense 47.10、AV-SpeakerBench 46.79,都高于对比的 Qwen2.5-Omni 7B(61.32 / 45.37 / 43.24);但 OmniBench 整体 46.32 低于 Qwen2.5-Omni 3B 的 47.11。
  • 语音输出覆盖 19 个语言或口音(含中文,英语分英式、美式),可选男声或女声;官方称英文 TTS 的 UTMOSv2 为 3.80(Qwen2.5-Omni 3B 为 3.42),英文 ASR 平均 WER 6.36,VoiceBench 64.73 低于 Gemma 4 E4B 的 72.90。
  • 支持用语音发起工具调用,视频按 2 fps 采样(默认 4–384 帧),32K 上下文;GGUF 版可在 llama.cpp 上跑实时语音服务。10 月 21 日发布,此前各期没有收录。上升分 144 只代表关注度。

用法

  • Transformers ≥5.20.2:AutoModelForMultimodalLM.from_pretrained("LiquidAI/LFM3-Omni-2B", trust_remote_code=True),编解码器用 processor.audio_tokenizer;generate 时 generation_mode 选 "text"、"audio" 或 "interleaved"。
  • 用系统提示词切任务:Perform ASR in <语言>. 做转写;Perform TTS in American English using a female voice. 做合成;Respond in interleaved text and audio. 做语音对话。语音输出用 audio_temperature=0.4、audio_repetition_penalty=1.2,文字输出贪心解码即可。
  • SGLang 只服务文字输出;llama.cpp 用 GGUF 版,视频固定 2 fps;卡里附 SFT 微调笔记本。

风险

  • 非推理模型,不支持 enable_thinking;文字语言 16 种、语音语言 19 个,两者不完全重合。
  • 许可是 LFM Open License v1.0,不是 Apache / MIT,商用前要看条款;需要 trust_remote_code。
  • 所有分数都是 Liquid AI 自测;模型卡没有提到音色克隆,也没有人工自然度评测。

编辑:它以理解为主,但能直接输出语音(含 TTS),这里归生成类。

打开

Hugging Face Trending

Explore the latest AI Radar updates