原题:Edge0/Audio8-TTS-Realistic-Air
Edge0がAudio8-TTS-Preview-0.6bを継続学習した音声合成モデル:メインモデルは0.6B(601,159,424パラメータ、別途提供される44.1 kHzコーデックを除く)。作者によると、発話がより自然で、韻律の表現力が高い。23言語に対応し、Preview版からアラビア語、フィンランド語、ヒンディー語、インドネシア語、マレー語、ノルウェー語、ポルトガル語、ロシア語、スウェーデン語、タイ語、トルコ語、ベトナム語の12言語が追加され、中国語、広東語、英語、日本語、韓国語も含まれる。参考音声と逐語的な文字起こしを提供すればゼロショットで音色をクローンでき、参考音声なしでも直接合成が可能。構造はFish Audio S2 ProのDualARを参考にしている:遅いARがフレームごとに1つのセマンティックトークンを予測し、速いARがそのフレームの10個のコードブックを予測する。10月14日にリポジトリが作成されたが、過去数回は未収録だった。
上昇スコア 252 · いいね 318 · ダウンロード数 11349
理由
- 小規模モデル、多言語対応:作者によると、Seed-TTSの中国語・英語平均エラー率は1.25%(Preview版は1.23%)、話者類似度は0.704(Preview版は0.682)。CV3における8言語共通の言語でのエラー率は4.80%から4.56%に低下。作者はこれらの指標が可読性と類似度を測定するものであり、「リアルさ」を直接測定するものではないと明記している。
- 展開パスが完全:Transformersで直接読み込み可能(コーデックは同梱されており、別途探す必要なし)。さらにSGLang Omniプラグインにより、ページングアテンション、動的バッチ処理、OpenAI互換の/v1/audio/speechインターフェースが提供される。GitHubリポジトリにはコマンドライン、バッチ処理、教師あり微調整スクリプトも含まれている。
- Apache-2.0ライセンス、ZeroGPUでのオンライン試用Spaceあり。Hugging Faceでのいいね数は318(注目度のみを示す)。
使い方
- pip install "torch>=2.5.0" "torchaudio>=2.5.0" "transformers>=4.57.0,<5" soundfile safetensors;AutoProcessor / AutoModel.from_pretrained('Edge0/Audio8-TTS-Realistic-Air', trust_remote_code=True)を使用。クローン時はreference_audioと録音と逐語的に一致するreference_textを指定。generate(max_new_tokens=1024, temperature=0.8, top_p=0.95, top_k=50, do_sample=True, return_dict_in_generate=True)を実行後、model.decode_audio(output.codes)でwavファイルとして書き出す。
- 参考音色を使用しない場合は、processorにtextのみを渡す。参考音声はクリーンである必要があり、長いテキストは数セグメントに分割してから合成する(参考音声、文字起こし、ターゲットテキストはコンテキストを共有する)。サービス化にはGitHubのEdge0-AI/Audio8_TTSにあるsglang_omni設定ファイルaudio8_tts_0_6b.yamlを使用し、モデルパスに本リポジトリを指定する。
リスク
- 言語間の差が大きい:作者のCV3表では、中国語のCERは1.814%、英語のWERは2.907%だが、タイ語は48.574%、フィンランド語は32.279%、ベトナム語は28.111%。中国語の難例ではCERがPreview版よりわずかに高い(11.510% → 12.797%)。
- SGLangサービスはH20での動作のみ検証済み(非ストリーミング、torch.compileとCUDA Graphは無効)。スループットとストリーミングは未テスト。作者は読み間違い、繰り返し、文字欠落、早期停止の可能性を警告しており、完成品使用前に個別に試聴することを推奨している。
- 他人の声をクローンする際は事前に許可を得る必要がある。合成音声は状況に応じて明示する必要がある。カードにはウォーターマークに関する記載はない。