텐센트 혼위안(Tencent Hunyuan)의 실시간 동시통역 모델로, 중국어-영어 양방향 번역을 지원합니다. 음성 입력을 지속적으로 수신하면서 듣는 동시에 번역 텍스트를 출력하며, TTS 서비스를 설정하면 화자의 음성을 유지한 번역 음성도 출력할 수 있습니다. 이는 FP8 양자화 버전이며, 동일 시리즈에는 BF16, GGUF 버전과 원문과 번역문을 동시에 출력하는 Interleave 버전도 있습니다.
상승 점수 132 · 좋아요 135 · 다운로드 수 93
이유
- 공식 발표에 따르면 RealSI 장시간 오디오 평가에서 StreamLAAL(스트리밍 번역 지연)은 약 3초로 비교 시스템 중 가장 낮았으며, GEMBA 품질 점수는 비교 대상 오픈소스 모델 및 5개 상용 API 중 4개보다 높았습니다. 또한 공식적으로 StreamLAAL이 첫 음성 출력 시간과 동일하지 않다고 명시했습니다.
- 공식적으로 네 가지 짧은 오디오 벤치마크를 언급했습니다: FLEURS 90.3, CoVoST2 75.5, ACL6060 81.2, RealSI-Sentence 84.7(표에서 최고 점수). 다만 FLEURS는 Gemini3.5-LiveTranslate의 92.4보다 낮았으며, CoVoST2는 Qwen3.8-LiveTranslate의 82.1보다 낮았습니다.
- 공식적으로 18개의 2026년 9월 이후 새로 등장한 중·영 오디오(각 약 6분)와 CATTI 1급 및 2급 자격증을 보유한 동시통역사 6명을 비교하여, 품질은 동등하고 지연 시간은 일반적으로 더 낮다고 주장했으나, 이 결론은 해당 표본에만 적용된다고 명시했습니다. 10월 26일에 발표되었으며, 이전 호에서는 다루지 않았습니다. 상승 점수 132는 단지 관심도를 나타냅니다.
사용법
- 원클릭 배포: git clone https://github.com/Tencent-Hunyuan/Hy-SimulMT.git，进入 SimulInfer/ 실행 후 bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave (--model 인자는 다른 버전의 ID 또는 로컬 경로로 변경 가능); Ready 메시지가 표시되면 http://127.0.0.1:8080/，选翻译方向，上传音频或开麦克风。 열기
- 명령줄: curl -N http://127.0.0.1:8080/translate/stream -F direction=en-zh -F [email protected]; 번역 음성 출력 및 음성 복제를 원할 경우, 먼저 cp deploy.example.toml deploy.toml을 실행하여 TTS 연결을 설정한 후 bash deploy.sh --config deploy.toml을 실행합니다.
- 환경: Linux, Python 3.12+, NVIDIA GPU 필요. 기존 환경에는 vLLM >=0.31(HYV3ForCausalLM 지원)가 설치되어 있어야 하며 simulst를 추가로 설치해야 합니다. 또한 SGLang-Omni를 사용할 수도 있지만(BF16 버전만 지원, 텍스트 출력만 가능, 단일 요청 오디오 최대 길이 30초), GGUF 버전을 사용하려면 llama.cpp의 PR #31198 병합을 기다려야 합니다.
리스크
- 중국어-영어 상호 번역만 지원하며, 태그에 나열된 다른 언어들은 모델 카드에서 설명되지 않았습니다. 번역 음성 출력 및 음성 복제는 별도로 설정한 TTS 서비스에 의존합니다.
- 모델 카드에는 FP8 버전의 VRAM 요구 사항이 명시되어 있지 않습니다. 공식적으로 BF16 버전의 가중치는 약 57 GiB(KV 캐시 제외)이며, H200 GPU 한 장으로 충분하다고 합니다.
- 점수 및 통역사 비교는 모두 공식 자체 테스트 결과이며, 통역사 비교 샘플 크기가 작습니다. 음성 복제에 대한 유사도 데이터는 제공되지 않았으며, 두 개의 데모 영상은 오프라인 재생이므로 공식적으로 지연 시간 측정으로 간주할 수 없다고 명시했습니다.
편집: GitHub 저장소에는 이미 공개된 체크포인트에서 계속 학습할 수 있는 SimulTrain 학습 도구가 있습니다. 텍스트 번역만 필요한 경우 SGLang-Omni 경로가 더 가볍지만, FP8 버전은 지원하지 않습니다.