Edge0/Audio8-TTS-Realistic-0.6b

Edge0 の 0.6B マルチリンガル音声合成モデルは、Audio8-TTS-Preview の改良版です。参考音声とその文字起こしテキストを提供すればゼロショットで音色をクローンでき、参考音声なしで直接合成することも可能です。中国語、広東語、英語、日本語、韓国語など 23 言語に対応し(Preview より 12 言語多い)、44.1 kHz の音声を出力します。

Edge0 の 0.6B マルチリンガル音声合成モデルは、Audio8-TTS-Preview の改良版です。参考音声とその文字起こしテキストを提供すればゼロショットで音色をクローンでき、参考音声なしで直接合成することも可能です。中国語、広東語、英語、日本語、韓国語など 23 言語に対応し(Preview より 12 言語多い)、44.1 kHz の音声を出力します。

上昇スコア 118 · いいね 119 · ダウンロード数 813

理由

  • Fish Audio S2 Pro の DualAR 構造を踏襲:遅い自己回帰モデルがフレームごとに1つのセマンティックトークンを予測し、速い自己回帰モデルが 10 個のコードブックを補完します。メインモデルは 601M パラメータ(リポジトリに同梱されている 44.1 kHz コーデックを除く)で、リポジトリにはチェックポイント、コーデック、トークナイザー、コードがすべて揃っています。
  • 公式によれば、Seed-TTS の中国語・英語での誤り率は 1.25(Preview は 1.23)、話者類似性は 0.704(Preview は 0.682)です。MiniMax の 24 言語での誤り率は 5.89 で、Qwen3-TTS-1.7B の 27.41 より優れていますが、4B クラスの Higgs Audio v3(2.74)や Fish S2 Pro(4.40)には及びません。公式は、これらの指標は可読性と音色の類似性のみを測定し、「リアルさ」を直接測定するものではないと明記しています。
  • インストール不要の Hugging Face Playground があり、SGLang Omni プラグインは OpenAI 互換の /v1/audio/speech インターフェースを提供します。ライセンスは Apache-2.0 で、過去の号では取り上げられていませんでした。

使い方

  • コマンドライン:git clone Edge0-AI/Audio8\_TTS、pip install -r requirements.txt、python audio8\_tts\_infer.py --model Edge0/Audio8-TTS-Realistic-0.6b --text "合成するテキスト" --output outputs/realistic.wav。音色のクローンには --reference-audio reference.wav --reference-text "参考音声の文字起こしテキスト" を追加します(音声の内容と完全に一致している必要があります)。
  • Transformers(4.57 以上 5 未満、trust_remote_code=True):processor に text、reference_audio、reference_text を渡し、generate では temperature 0.8、top_p 0.95、top_k 50 を使用し、その後 model.decode_audio で波形にデコードします。
  • 長い段落は短い文に分割してください:参考音声、文字起こしテキスト、ターゲットテキストは 2,048 個の位置のコンテキストを共有します。

リスク

  • 言語によって品質に大きな差があります:CV3 ではタイ語の誤り率が 48.574、フィンランド語が 32.279、MiniMax データセットでは広東語が 31.349 です。サポートリストは、すべての言語が同等に利用可能であることを意味しません。
  • 公式は H20 BF16 での動作確認のみを行っており、スループットやストリーミングはテストされていません。誤読、繰り返し、文字の欠落、または早期終了が発生する可能性があります。公式は、完成品として使用する前に各サンプルを個別に試聴するよう注意を促しています。本欄ではサンプルを聴いていません。
  • 他人の声をクローンする際は許可を得て、必要に応じて合成音声であることを明示してください。

開く

Hugging Face Trending

最新の AI ニュースを見る