腾讯Hy3大模型295B开源，支持VLLM/SGLang部署

塔猴速递

2026-07-07 17:22:42

文章摘要

腾讯Hy3大模型295B正式开源，采用Apache 2.0协议，是Hy3预览版的迭代升级。它在智能体交互等场景表现出色，解决了输出格式、知识准确性等痛点。实测在多场景性能提升显著，文中还给出本地部署指南及OpenAI兼容API调用方法。

一款全新的大模型Hy3正式对外开源，这款模型总参数量达295B，激活参数为21B，采用Apache 2.0开源协议，在智能体交互、生产力工具任务等场景下的表现，已经可以比肩参数规模2到5倍的旗舰级大模型。

该模型是今年4月推出的Hy3预览版的迭代升级产品，研发团队基于超过50个真实业务场景的用户反馈，对模型进行了全面优化。开发者可以通过官方托管平台、代码仓库、技术文档以及在线体验入口获取该模型及相关资源。

更强的智能体与生产力表现

研发团队在Hy3的迭代过程中，进一步提升了后训练数据的质量与多样性，同时扩大了强化学习的算力投入规模，让模型在推理、智能体交互、长上下文处理等核心任务上都实现了显著进步。

在软件开发、办公生产、金融建模、前端设计、游戏制作等生产力相关任务中，Hy3的表现尤为突出，成为高性价比的可靠选择。在内部组织的270位专家参与的真实工作场景盲测中，Hy3以2.67/4的均分，展现出优于另一款模型的表现，尤其在前端开发、数据与存储管理、CI/CD流程优化等类别中优势明显。

具体来看，Hy3可以完成多种复杂任务：比如设计核聚变能源引擎的概念宣传网页，通过摄像头手势交互控制图片粒子的融解与重组，通过多轮交互快速制作一款落日飞车游戏，从101个SKU的销售数据中完成Excel建模分析并生成30页的汇报PPT，还能将公司三个地区的业务数据通过联动公式汇总成一张包含5000多个单元格的综合表格。

更可靠的实际使用体验

大模型的实际使用体验并不完全等同于榜单成绩，Hy3针对用户反馈的多个体验痛点进行了定向优化，获得了产品侧的一致积极评价。

输出格式与工具调用稳定性：Hy3修复了多个基础底线问题，确保模型在各类工具设置和输出要求下都能达到生产级标准，工具调用的错误恢复能力与执行效率都得到了大幅提升。同时，模型的跨脚手架泛化性得到增强，不同脚手架在SWE Bench Verified上的分数标准差控制在4个百分点以内。

知识准确性与抗幻觉能力：针对内生知识错误和外部幻觉问题，Hy3基于“有依据才回答、无依据明示缺失，多来源信息不乱拼，数据和状态不乱编”的原则，进行了细粒度的数据清洗和训练约束。在基于真实产品的内部评测中，Hy3的幻觉率从12.5%降至5.4%，常识错误率从25.4%降至12.7%，有效改善了“张冠李戴”、无中生有、逻辑矛盾等常见问题。

复杂上下文承接与多轮意图保持能力：Hy3在SFT与RL训练阶段，联合优化了指代消解、省略还原及多轮约束继承等业务痛点，内部评测的多轮问题率从17.4%降至7.9%。同时，模型在长对话理解基准中取得显著突破，比如MRCR指标从42.9%提升至75.1%，能够在保持输出精炼的同时，确保复杂意图在长程交互中不衰减、不跑偏。

实测性能表现

Hy3在长对话理解与幻觉控制两项核心指标上改善最为明显，工具编排类任务中的盲目重试、应止未止等无效操作大幅减少，复杂办公任务可以用更少的Token消耗即可获得可用结果。

以下是Hy3在内部多个产品线中的实测数据：

在WorkBuddy场景中，相比Hy3预览版，任务解决率从72%跃升至90%，平均耗时缩短34%。高频办公任务的Token消耗显著低于同类模型，文档处理节省47.4%，PPT制作节省49.0%。
接入元宝Agent后，用户反馈Excel格式调整、数据分析结果可用性都得到明显改善，覆盖五大场景的内部评测显示，文档生成综合分提升7%，网页制作与自动化脚本提升6%。
在知识库问答场景中，推理质量净提升近19%，幻觉率下降15个百分点，长文写作与方案生成的结构完整度、可用性明显增强。
在多Agent协作场景中，任务完成率达到93.7%，产物卡与操作卡的指令遵循率提升18.3%，在任务耗时、Token消耗等工程指标上表现优异，为降本增效带来实质性帮助。
QQ浏览器的元宝助手在接入Hy3后，编程与代码输出类任务的成功率大幅提升37.6%，覆盖HTML网页、插件开发等场景，用户体验从“获取代码初稿”升级为“获得可直接使用的成品”。
在网络文学标签标注场景中，Hy3相较预览版在高质量人工标注数据集上准确率提高14.1%，综合分类效能提升8.4%，让内容推荐的初始判断更加可靠。
在AI分身和AI客服场景中，针对用户不完整的需求表达，Hy3的意图识别准确率从98.28%提升至98.94%，同时能够结合账号定位与上下文做出合理判断，避免过度脑补或机械套模板。
《流放之路：降临》的AI游戏助手接入Hy3后，多轮推理与工具调度综合成功率提升至92%，幻觉率从4.5%降至2.8%，玩家无需再反复验证AI回答的准确性。后续相关产品也将接入该模型，为更多用户带来优质体验。

本地部署指南

Hy3总参数量295B，8卡部署建议使用H20-3e或其他显存更大的卡型。推荐默认参数为temperature=0.9、top_p=1.0；对于数学、编程、推理等复杂任务，建议设置reasoning_effort="high"启用深度思维链，日常对话可使用默认的"no_think"直接获取回复。

模型下载

modelscope download --model Tencent-Hunyuan/Hy3 --local_dir Tencent-Hunyuan/Hy3

vLLM部署

从源码构建vLLM：

uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate
git clone https://github.com/vllm-project/vllm.git
cd vllm
uv pip install --editable . --torch-backend=auto

启动vLLM服务（开启MTP）：

# 切换到trtllm后端以规避mnnvl workspace尺寸问题
export VLLM_FLASHINFER_ALLREDUCE_BACKEND=trtllm
vllm serve tencent/Hy3 \
  --tensor-parallel-size 8 \
  --speculative-config.method mtp \
  --speculative-config.num_speculative_tokens 2 \
  --tool-call-parser hy_v3 \
  --reasoning-parser hy_v3 \
  --enable-auto-tool-choice \
  --port 8000 \
  --served-model-name hy3

SGLang部署

从源码构建SGLang：

git clone https://github.com/sgl-project/sglang
cd sglang
pip3 install pip --upgrade
pip3 install "transformers>=5.6.0"
pip3 install -e "python"

启动SGLang服务（开启MTP + EAGLE投机采样）：

python3 -m sglang.launch_server \
  --model tencent/Hy3 \
  --tp-size 8 \
  --tool-call-parser hunyuan \
  --reasoning-parser hunyuan \
  --speculative-algorithm EAGLE \
  --speculative-num-steps 2 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 3 \
  --port 8000 \
  --served-model-name hy3

OpenAI兼容API调用

服务启动后可通过标准OpenAI SDK直接访问：

from openai import OpenAI
client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="EMPTY")
response = client.chat.completions.create(
    model="hy3",
    messages=[{"role": "user", "content": "你好！请简单介绍一下你自己。"}],
    temperature=0.9,
    top_p=1.0,
    # reasoning_effort: "no_think"（默认）/ "low" / "high"（深度思维链）
    extra_body={"chat_template_kwargs": {"reasoning_effort": "no_think"}},
)
print(response.choices[0].message.content)

附录：模型性能数据

模型的具体性能对比数据可参考官方公开的评测结果，包含各类基准测试的详细得分情况。

塔猴是一个专注于为用户提供系统学习、内容创作与商业连接的AIGC综合服务平台，致力于为每一位AI探索者打造理想的创作、成长家园。在塔猴，你不仅可以学习众多AIGC类实战课程，获得与时俱进的AIGC技能和视野，还有机会获得长期商业合作和接单机会！点击进入：https://www.tahou.com/

AI生成内容提示：本文由人工智能辅助创作，内容仅供参考，不代表平台观点。请注意核实信息的准确性，并理性判断。

以上内容不代表本平台立场，仅供读者参考