ServiceNow 的语音智能体模型：把 Whisper large-v3-turbo 语音编码器通过投影层接到 Gemma 4 26B-A4B 上，直接听口述请求，做转写、语音翻译、语音问答，也能推理并按 OpenAI 格式发出工具调用，同时保留文本和图像输入。它只输出文字和工具调用，自己不出声，要接外部语音合成才能做成语音助手。10 月 29 日上传权重，此前各期没有收录。
上升分 65 · 点赞 65 · 下载量 338
理由
- 官方称在语音客服类评测上 EVA-A（服务准确度）51.27、EVA-X（对话体验）74.13、τ-Voice 任务成功率 65.51，整套系统平均响应 1.91 秒（开思考、配 Cartesia Sonic 3.5 合成）。同一张表里，Parakeet + Gemma 4-26B + TTS 的开源三段式方案是 39.97、3.93、67.78；GPT Realtime 2.1 是 59.03、61.6、69.82。
- 加上语音后文本能力基本没掉：官方称文本输入时 MMLU-Pro 84.42（底座 85.27）、GPQA Diamond 80.40（底座 77.80）、τ² 70.95（底座 68.93）。英文识别 LibriSpeech test-clean / test-other 词错率 2.23% / 5.15%。
- 长音频会自动切成 30 秒一段，官方称 30 分钟左右的连续录音表现稳定，服务示例按 30 分钟配置，也给了 1 小时的参数；卡里列了 49 种语言标签。
用法
- vLLM：用卡里给的 Docker 镜像 amant555/vllm_apriel_voice:plain-26b-v0.32.0（或上游 vLLM 的 PR #64683），运行 vllm serve --model ServiceNow-AI/Apriel-Voice-27B-preview --trust-remote-code --tensor-parallel-size 4 --enable-auto-tool-choice --tool-call-parser gemma4 --reasoning-parser gemma4，起 OpenAI 兼容接口；示例还用 google/gemma-4-26B-A4B-it-assistant 做推测解码。另有 optimised 镜像，官方称在 4 张 H100 80GB 上输出吞吐约高一倍。
- 调用时在 messages 里放 audio_url 加一句文字指令。转写和翻译用 temperature 0.4 并关思考（chat_template_kwargs 里 enable_thinking=false）；一般指令和工具任务用 temperature 1.0、top_p 0.95、top_k 64 并开思考。音频要 16 kHz 单声道。
- 不想部署可以先在官方的 Apriel Live 页面（servicenow-ai-apriel.hf.space）试；用 Transformers 离线推理要开 trust_remote_code=True。
风险
- 成绩都是官方自测：EVA / τ-Voice 用的是官方优化镜像和 Cartesia 合成，延迟算的是整套系统，换部署就会变。官方说多语言表现不均，英文成绩不代表其他语言，中文没单独给分。
- BF16 权重约 54.5 GB，官方示例按 4 卡张量并行配置；Docker 镜像发在个人账号 amant555 名下，vLLM 原生支持还在 PR 阶段。
- 预览版：官方提醒工具调用可能出错，复杂的多步工作流不一定能可靠完成，嘈杂或远场录音难识别，长录音可能重复或跑题；有实际后果的操作要人工把关。