原题：nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B
英伟达的离线语音 / 音频大模型（SALM）：Transformer ASR 编码器和 Nemotron-3-Diarization 说话人编码器把音频送进 Nemotron-3.5 Lightning 30B-A3B 混合 Mamba-Transformer MoE 语言模型，总参数 34B、激活约 4.3B（含音频编码器）。支持 40 种语言转写、最长 1 小时录音（上下文 65,536 token），用指令选择转写风格（逐字含口头语、整理成可读文本、带领域术语、谁在何时说了什么），也能做语音翻译、语种识别和音频问答，可选词级时间戳。同时放出 FP8、NVFP4 版和一个 DFlash2 投机解码草稿模型。卡片写的发布日期是 10 月 28 日，前几期没有收录。
上升分 334.5 · 点赞 3057 · 下载量 57297
理由
- 官方称多说话人整场会议转写（AMI、CALLHOME、Mixer 6、NOTSOFAR-1）平均 cpWER 15.80，低于此前最好公开结果 16.83；开放权重模型里，英文 Open ASR 榜 9 个公开集平均 WER 4.71、长音频 10.98、7 个语种的多语榜 4.62，均为表中最低（结果截至 10 月 12 日）。
- 一个模型替代转写、说话人分离、翻译几套工具：卡里给了每种需求对应的指令原文（例如只转写离麦克风最近的人、加入术语表），适合会议纪要、字幕、客服录音分析和音频检索。
- 能照做：官方示例在一张 H100 80 GB 上用 vLLM 0.32.0 + NeMo Speech 起 OpenAI 兼容服务，也可以用源码版 Transformers 在进程内调用；许可 OpenMDW-1.1，卡片写明可商用。抱脸点赞 3057（只代表关注度）。
用法
- vLLM：按卡片 Environment Setup 装好 vLLM 0.32.0 和 NeMo Speech main 分支，设 VLLM_PLUGINS=nemo_speechlm、VLLM_MAX_AUDIO_DECODE_DURATION_S=3600、VLLM_USE_V2_MODEL_RUNNER=0（词级时间戳需要），再照 Quick Start 的整条 vllm serve 命令启动（含 --max-model-len 65536 和 MTP 投机解码配置）；客户端用 OpenAI chat.completions，把 base64 的 wav 放进 audio_url，文字写 Transcribe the following audio.，temperature 0、enable_thinking 关。
- Transformers：pip install git+https://github.com/huggingface/transformers，AutoModelForMultimodalLM 和 AutoProcessor 加载，processor.apply_transcription_request(音频) 后 generate。
- 转写、翻译、语种识别用 temperature 0 并关推理，系统提示留空；音频问答用 temperature 0.6、top_p 0.95 并开推理。
风险
- 中文普通话在支持矩阵里只是 Supported 档（可能需要微调），不在 Leading 档；音频理解、推理和口语指令只在英文上评测过。
- 这是离线模型，内部切块不等于实时流式转写；卡里一张 RTX PRO 6000 每秒转 2238 秒音频、30 秒录音 0.13 秒出结果的数字来自 NIM 里的优化版 vLLM，这些优化还没进开源版，官方估计开源版约慢一倍。
- 10 月 7 日建仓，已上榜一段时间；说话人标签只区分录音里的不同人，不代表真实身份。