Tencent Hunyuanのリアルタイム同時通訳モデルで、中英双方向に対応しています。音声を受信し続けながら、聞き取った内容を逐次翻訳テキストとして出力し、TTSサービスを設定すれば、話者の声質を保持した翻訳音声の出力も可能です。これはFP8量子化版であり、同シリーズにはBF16、GGUF、および原文と訳文を同時に出力するInterleave版も存在します。
上昇スコア 132 · いいね 135 · ダウンロード数 93
理由
- 公式によれば、RealSI長尺音声評価においてStreamLAAL（ストリーミング翻訳遅延）は約3秒で、比較システムの中で最も低く、GEMBA品質スコアは比較対象のオープンソースモデルおよび5個の商用APIのうち4個を上回っています。ただし、公式はStreamLAALが最初の音声出力までの時間とは異なることを明記しています。
- 公式は4つの短尺音声ベンチマークを報告しています。FLEURS 90.3、CoVoST2 75.5、ACL6060 81.2、RealSI-Sentence 84.7（表中最高）です。FLEURSはGemini3.5-LiveTranslateの92.4を下回り、CoVoST2はQwen3.8-LiveTranslateの82.1を下回っています。
- 公式はさらに、18年2026月以降に新たに出現した中英音声9セグメント（各セグメント約6分）を用い、CATTI一級・二級資格を持つ6名の同時通訳者と比較しました。品質は同等で、遅延はしばしば低いとされていますが、この結論は当該サンプルセットにのみ適用される旨が注記されています。10月26日に公開され、それ以前の号には収録されていません。上昇スコア132は単なる注目度を示すものです。
使い方
- ワンクリックデプロイ：git clone https://github.com/Tencent-Hunyuan/Hy-SimulMT.git，进入 SimulInfer/ を実行し、bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave を実行します（--modelには他のバージョンのIDやローカルパスを指定できます）。Readyが表示されたらhttp://127.0.0.1:8080/，选翻译方向，上传音频或开麦克风。を開いてください。
- コマンドライン：curl -N http://127.0.0.1:8080/translate/stream -F direction=en-zh -F [email protected] を実行します。翻訳音声と声質クローンの出力を行うには、まずcp deploy.example.toml deploy.tomlを実行し、その中でTTS接続を設定した上で、bash deploy.sh --config deploy.tomlを実行します。
- 環境要件：Linux、Python 3.12+、NVIDIA GPUが必要です。既存の環境ではvLLM >=0.31（HYV3ForCausalLMをサポート）およびsimulstのインストールが必要です。また、SGLang-Omniも利用可能ですが、BF16版のみサポートし、テキストのみを出力し、1リクエストあたりの音声長は最大30秒です。GGUF版はllama.cppのPR #31198のマージ待ちです。
リスク
- 中英相互翻訳のみをサポートしており、タグに記載されている他の言語についてはモデルカードに説明がありません。翻訳音声と声質クローンは、別途設定したTTSサービスに依存します。
- モデルカードにはFP8版のVRAM要件が記載されていません。公式によれば、BF16版の重みは約57 GiB（KVキャッシュを除く）で、H200カード1枚で十分です。
- スコアおよび通訳者との比較はすべて公式による自己評価であり、通訳者との比較サンプルは小規模です。声質クローンについては類似度データが提供されておらず、2つのデモ動画はオフライン再生であり、公式は遅延測定として使用できないことを明記しています。
編集：GitHubリポジトリにはSimulTrainトレーニングツールがあり、公開済みのチェックポイントから継続学習が可能です。テキスト翻訳のみが必要な場合、SGLang-Omniのパスの方が軽量ですが、FP8版はカバーされていません。