腾讯混元开源Hy-SimulMT同传大模型 低时延中英互译及音色克隆

近日,腾讯混元开源推出了一款名为Hy-SimulMT的同声传译大模型,该模型拥有仅3秒的低时延响应表现,翻译质量可媲美人类专家,支持中英实时互译及音色克隆功能。
10月26日,腾讯混元团队正式开源了这款同声传译大模型Hy-SimulMT。该模型具备低时延、高准确率的特性,支持中英双向语音到语音实时翻译——当说话人的音频实时输入时,模型会边听边译,同步输出译文和对应语音,还支持实时音色克隆,能够高度还原说话人的声音与语气。
低时延是该模型的核心优势之一,实测响应时间仅3秒左右,而人类专业译员的平均响应时间在4-5秒之间。测评结果显示,Hy-SimulMT的翻译效果不仅超过了市面上多数主流开源同传模型,甚至优于大部分商用同传API。
开源资源
该模型的相关资源可在官方开源平台获取,包含模型集合页面与代码仓库,具体链接可通过官方渠道查询。
中英双向同传效果
Hy-SimulMT支持中文与英文的双向同声传译,在输出翻译内容的同时可兼顾语音播报效果,还能适配多说话人场景下的音色克隆需求。
中文-英文同传效果:模型可实现中文到英文的实时翻译,同时输出对应语音。
英文-中文同传效果:模型可实现英文到中文的实时翻译,针对多说话人场景,该模型可分别克隆不同说话人的音色,精准还原各说话人的声音特征。
公开基准测试:兼顾翻译质量与低延迟
在业界常用的长音频开源评测集上,Hy-SimulMT展现了出色的同传翻译效果。评测横轴的StreamLAAL指标代表翻译延迟,数值越低表示延迟越小;纵轴为翻译质量,通过专业工具打分,数值越高质量越好。Hy-SimulMT在实现最低延迟的同时,翻译效果达到开源模型的最优水平,甚至超过多数商业API。在短音频测试集上,该模型同样表现优异。
与人类同传专家对比
为验证模型在真实场景中的表现,腾讯混元团队在合规范围内收集了覆盖软件与AI、医学、制造与能源等十个领域的公开音频,包含演讲、访谈、会议等多种场景。
评测邀请了6位拥有多年实战经验的人类同传专家参与,其中3位持有CATTI一级口译证书,3位持有二级证书。测评从翻译质量和同传延迟两个维度对比模型与人类专家的表现。
结果显示,Hy-SimulMT的翻译质量达到人类同传专家水平,同时拥有更低的翻译延迟。公开基准与真实场景的对照结果表明,该模型在长短音频、中英双向翻译及多说话人场景中,均兼顾了翻译质量与响应速度,为会议、访谈、演讲等实时跨语言沟通提供了新的开源解决方案。
本地部署与推理
Hy-SimulMT可通过vLLM加载模型,官方提供了SimulInfer工具,支持网页操作、音频文件上传及实时WebSocket接口。
模型下载
pip install 模型下载工具 模型下载命令: modelscope download --model Tencent-Hunyuan/Hy-SimulMT-30B-A3B --local_dir 本地存储路径
vLLM与SimulInfer部署
在执行模型下载命令的目录中,克隆官方项目并启动服务,步骤如下:
MODEL_DIR="本地模型路径" git clone 官方代码仓库地址 cd Hy-SimulMT/SimulInfer bash deploy.sh --install-server --model "$MODEL_DIR"
部署脚本会在独立环境中安装依赖、准备模型,依次启动vLLM和SimulInfer。默认模型服务端口为8800,网页与API端口为8080。如需两卡部署,在启动命令末尾添加参数--gpus 0,1 --tensor-parallel-size 2。
使用本地服务
等待终端提示Ready后,可在浏览器中打开对应地址,选择翻译方向,上传音频或开启麦克风。远程使用麦克风需通过HTTPS访问;语音输出及语音克隆需另行配置TTS服务。
也可通过命令行上传音频,流式获取翻译结果,示例命令如下:
curl -N http://127.0.0.1:8080/translate/stream \ -F direction=en-zh \ -F file=@audio.wav
将audio.wav替换为本地音频文件,en-zh表示英译中,中译英则改为zh-en。

