Mô hình dịch song song thời gian thực của Tencent Hunyuan, hỗ trợ hai chiều Trung-Anh: liên tục nhận âm thanh, vừa nghe vừa xuất văn bản dịch, và sau khi cấu hình dịch vụ TTS, còn có thể xuất giọng nói dịch giữ nguyên âm sắc của người nói. Đây là phiên bản lượng tử hóa FP8, cùng dòng sản phẩm còn có các phiên bản BF16, GGUF, và phiên bản Interleave xuất đồng thời cả văn bản gốc và văn bản dịch.
Điểm tăng 132 · Lượt thích 135 · Lượt tải 93
Lý do
- Theo thông tin chính thức, trong bài đánh giá âm thanh dài RealSI, chỉ số StreamLAAL (độ trễ dịch song song) khoảng 3 giây, thấp nhất trong số các hệ thống so sánh; điểm chất lượng GEMBA cao hơn các mô hình mã nguồn mở được so sánh và 4 trong số 5 API thương mại; phía chính thức cũng lưu ý rằng StreamLAAL không tương đương với thời gian phát ra âm thanh đầu tiên.
- Theo thông tin chính thức, trên bốn tiêu chuẩn âm thanh ngắn: FLEURS 90.3, CoVoST2 75.5, ACL6060 81.2, RealSI-Sentence 84.7 (cao nhất trong bảng); điểm FLEURS thấp hơn 92.4 của Gemini3.5-LiveTranslate, điểm CoVoST2 thấp hơn 82.1 của Qwen3.8-LiveTranslate.
- Phía chính thức cũng đã so sánh với 6 phiên dịch viên song song có chứng chỉ CATTI cấp 1 và 2, sử dụng 18 đoạn âm thanh Trung-Anh mới xuất hiện sau tháng 9 năm 2026 (mỗi đoạn khoảng 6 phút), cho biết chất lượng tương đương, độ trễ thường thấp hơn, nhưng lưu ý rằng kết luận chỉ áp dụng cho tập mẫu này. Được công bố vào ngày 26 tháng 10, trước đó chưa được ghi nhận trong các kỳ trước; điểm tăng 132 chỉ phản ánh mức độ quan tâm.
Cách dùng
- Triển khai một chạm: git clone https://github.com/Tencent-Hunyuan/Hy-SimulMT.git，进入 SimulInfer/ rồi chạy bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave (có thể thay --model bằng ID của phiên bản khác hoặc đường dẫn cục bộ); sau khi xuất hiện trạng thái Ready, hãy mở http://127.0.0.1:8080/，选翻译方向，上传音频或开麦克风。
- Dòng lệnh: curl -N http://127.0.0.1:8080/translate/stream -F direction=en-zh -F [email protected]; để xuất giọng nói dịch và nhân bản âm sắc, trước tiên hãy cp deploy.example.toml deploy.toml, cấu hình kết nối TTS trong đó, sau đó chạy bash deploy.sh --config deploy.toml.
- Môi trường: Linux, Python 3.12+, GPU NVIDIA, nếu đã có môi trường thì cần vLLM >=0.31 (hỗ trợ HYV3ForCausalLM) và cài đặt simulst; ngoài ra có thể dùng SGLang-Omni (chỉ hỗ trợ phiên bản BF16, chỉ xuất văn bản, âm thanh trong một lần yêu cầu tối đa 30 giây), phiên bản GGUF cần chờ hợp nhất PR #31198 của llama.cpp.
Rủi ro
- Chỉ hỗ trợ dịch qua lại giữa tiếng Trung và tiếng Anh, các ngôn ngữ khác được liệt kê trong thẻ mô hình không có giải thích chi tiết; giọng nói dịch và nhân bản âm sắc phụ thuộc vào dịch vụ TTS được cấu hình riêng.
- Thẻ mô hình không nêu rõ yêu cầu VRAM cho phiên bản FP8; phía chính thức cho biết trọng số của phiên bản BF16 khoảng 57 GiB (không bao gồm bộ nhớ đệm KV), một card H200 là đủ.
- Điểm số và so sánh với phiên dịch viên đều do phía chính thức tự kiểm tra, mẫu so sánh với phiên dịch viên nhỏ; nhân bản âm sắc không cung cấp dữ liệu về độ tương tự, hai video demo là phát lại ngoại tuyến, phía chính thức giải thích rằng không thể dùng để đo độ trễ.
Biên tập: Trong kho lưu trữ GitHub có công cụ huấn luyện SimulTrain, có thể tiếp tục huấn luyện từ các điểm kiểm tra đã công bố; nếu chỉ cần văn bản dịch, quy trình SGLang-Omni nhẹ hơn, nhưng không hỗ trợ phiên bản FP8.