ServiceNow の音声言語モデル：Gemma 4 26B-A4B に Whisper large-v3-turbo 音声エンコーダと投影層を接続し、音声から直接テキスト回答と構造化されたツール呼び出しを出力します。事前に文字起こしして別の対話モデルに渡す必要がなく、テキストおよび画像入力も維持されます。学習は2段階で行われます。まず音声インターフェースのアライメントを行い、次に教師あり微調整、テキストリプレイ、およびデータソース別に区別されたクロスエントロピー / 正方向 KL 蒸留を用いて、投影層とバックボーンを同時に調整します。出力はテキストとツール呼び出しのみであり、音声合成は別途接続する必要があります。
いいね 33
理由
- 著者によると、思考モードにおいて Big Bench Audio 98.90、Speech-BFCL 81.13、τ-Voice タスクの成功率は 65.51%、平均遅延は 1.91 秒です。モデルカードの表では、EVA 体験スコアが列挙されているオープンソースの2段階および3段階のアプローチよりも高くなっています。
- 重みは MIT ライセンスで提供されており、モデルカードには vLLM でのデプロイ（OpenAI 互換インターフェース、自動ツール選択）と Transformers を使用した2つの利用方法が記載されています。音声カスタマーサービスや音声によるツール呼び出しなどのアプリケーションに直接適用できます。
- Hugging Face での公開当日のいいね数は第5位（注目度のみを示します）。モデルカードによると、テキスト推論とツール呼び出しのスコアは Gemma 4 26B-A4B とほぼ同等であり、音声機能の追加によってテキスト能力が著しく低下することはありません。
使い方
- オンライン体験：モデルカード内の Apriel Live（servicenow-ai-apriel.hf.space）。
- デプロイ：モデルカードに記載されている vLLM v0.32.0 イメージ（または上流の vLLM PR #64683）を使用します。コマンドは
vllm serve --model ServiceNow-AI/Apriel-Voice-27B-preview --trust-remote-code --tensor-parallel-size 4 --enable-auto-tool-choice --tool-call-parser gemma4 --reasoning-parser gemma4です。例は4GPU構成で示されています。 - 呼び出し：OpenAI クライアントの messages に
{"type": "audio\_url"}とテキスト指示を含めます。ツール呼び出しには tools を渡し、message.tool\_callsを読み取ります。文字起こしタスクでは temperature を 0.4 に設定し、思考モードを無効にします。 - 音声は 16 kHz のモノラルである必要があります。長い録音は自動的に 30 秒ごとにチャンク分割されます。モデルカードによると、約 30 分以内の音声でより良いパフォーマンスが得られます。
リスク
- プレビュー版であり、独立したコードリポジトリはありません。デプロイ用イメージは個人 Docker アカウントでホストされており、公式の vLLM サポートはまだ PR 段階です。
- デプロイのハードルが高い：例示されている構成は H100 80GB 級の GPU を4枚使用します。エンドツーエンドの体験は、外部接続された TTS とターン管理にも依存し、モデル自体は全二重音声ではありません。
- モデルカードには、多言語パフォーマンスの不均一性、ノイズ環境や遠距離音声での難しさ、複雑なツールフローでのエラーの可能性が明記されています。ベンチマークスコアは公式レポートによるものです。