Модель Tencent Hunyuan для синхронного перевода в реальном времени, двунаправленный перевод между китайским и английским языками: непрерывно принимает аудиосигнал и выводит переведенный текст по мере прослушивания; после настройки сервиса TTS также может выводить переведенную речь, сохраняя тембр голоса говорящего. Это версия с квантованием FP8, в той же серии также доступны версии BF16, GGUF, а также версия Interleave, которая одновременно выводит оригинальный и переведенный текст.
Рост рейтинга 132 · Лайки 135 · Количество загрузок 93
Обоснование
- Официально заявлено, что в длинных аудиотестах RealSI показатель StreamLAAL (задержка потокового перевода) составляет около 3 секунд, что является наименьшим значением среди сравниваемых систем, а балл качества GEMBA выше, чем у сравниваемых открытых моделей и 4 из 5 коммерческих API; официально также указано, что StreamLAAL не равен времени до первого звука.
- Официально заявлено по четырем коротким аудиобенчмаркам: FLEURS 90.3, CoVoST2 75.5, ACL6060 81.2, RealSI-Sentence 84.7 (наивысший показатель в таблице); FLEURS ниже, чем у Gemini3.5-LiveTranslate с показателем 92.4, CoVoST2 ниже, чем у Qwen3.8-LiveTranslate с показателем 82.1.
- Официально также проведено сравнение с 6 синхронными переводчиками, имеющими сертификаты CATTI первого и второго уровней, на 18 новых китайско-английских аудиозаписях, появившихся после 9 месяца 2026 года (каждая длительностью около 6 минут); заявлено, что качество сопоставимо, а задержка часто ниже, но отмечено, что выводы применимы только к этой выборке. Опубликовано 26 числа 10 месяца, ранее в выпусках не публиковалось; рост рейтинга 132 отражает только уровень внимания.
Использование
- Развертывание в один клик: git clone https://github.com/Tencent-Hunyuan/Hy-SimulMT.git，进入 SimulInfer/ и запуск bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave (в параметре --model можно указать ID другой версии или локальный путь); после появления сообщения Ready откройте http://127.0.0.1:8080/，选翻译方向，上传音频或开麦克风。
- Командная строка: curl -N http://127.0.0.1:8080/translate/stream -F direction=en-zh -F [email protected]; для вывода переведенной речи и клонирования тембра голоса сначала выполните cp deploy.example.toml deploy.toml, настройте в нем подключение к TTS, затем запустите bash deploy.sh --config deploy.toml.
- Окружение: Linux, Python 3.12+, NVIDIA GPU; в существующем окружении требуется vLLM >=0.31 (с поддержкой HYV3ForCausalLM) и установленный simulst; также можно использовать SGLang-Omni (поддерживает только версию BF16, выводит только текст, максимальная длительность аудиозаписи в одном запросе — 30 секунд), для версии GGUF нужно дождаться слияния PR #31198 в llama.cpp.
Риски
- Поддерживается только перевод между китайским и английским языками; другие языки, перечисленные в тегах, не описаны в карточке модели; вывод переведенной речи и клонирование тембра голоса зависят от отдельно настроенного сервиса TTS.
- В карточке модели не указаны требования к видеопамяти для версии FP8; официально заявлено, что веса версии BF16 занимают около 57 GiB (без учета кэша KV), чего достаточно для одной карты H200.
- Результаты тестов и сравнение с переводчиками получены в ходе официальных самостоятельных испытаний, выборка при сравнении с переводчиками мала; для клонирования тембра голоса не приведены данные о сходстве, два демонстрационных видео являются офлайн-воспроизведением, и официально указано, что их нельзя использовать для измерения задержки.
Примечание редактора: в репозитории GitHub есть инструмент обучения SimulTrain, позволяющий продолжить обучение с опубликованных контрольных точек; если нужен только текстовый перевод, путь через SGLang-Omni легче, но он не покрывает версию FP8.