文章摘要
腾讯WorkBuddy国内、国际版已同步接入新上线的Hy4 flash大模型,原有Hy3模型将下线,此前的限时免费体验已结束。该模型总参数2240亿、激活参数仅120亿,经多阶段优化后综合表现优于前代、成本大幅降低,支持多模态与百万长度上下文,平台现设每日免费体验额度,超限可消耗积分使用。

某科技企业旗下的 WorkBuddy 平台近期完成了新模型的接入工作,其最新推出的 Hy4 flash 模型已同步在国内版与国际版完成首发上线。本次上线的 Hy4 flash 模型曾于11月16日至11月30日开放限时免费体验,目前该免费阶段已结束,同时原有的 Hy3 模型也将从平台中下线。

Hy4 flash 模型的总参数规模达2240亿,其中包含640亿的 Engram 参数,实际激活使用的参数仅为120亿,支持多模态处理与100万长度的上下文输入。该模型是目前性价比最高的 Hy 系列模型:每百万输入 token 仅需0.5元,输出 token 2元,命中缓存时仅需0.02元,相比前代 Hy4 模型成本大幅降低。

智能与效率,更优平衡

为了在保证智能水平的同时实现极致性价比,研发团队在模型开发的各个阶段进行了针对性优化:

在预训练阶段,Hy4 flash 引入了混合注意力、LatentMoE、Engram 等架构特性,其 KV 缓存大小仅为 Hy3 的1/24、Hy4 的1/6,同时通过大量缩放阶梯实验确保模型效果达到预期。

在后训练阶段,通过自蒸馏技术,Hy4 flash 获得了较强的综合智能能力,再结合强化学习方法,将端到端任务的输出长度降低了50%。

在评估阶段,团队构建了基于 WorkBuddy 典型任务的内部评测集 WorkIndex,并结合人工评测,重点考察日常工作中的任务效果、单轮输出长度与处理时长,而非依赖脱离实际的公开榜单分数。

在推理阶段,通过结合 megakernel、4bit 量化、Dflash 等技术手段,Hy4 flash 的解码速度超过150 token per second,可实现大规模低成本部署运营。

最终测试显示,Hy4 flash 在综合效果上略优于参数规模更大的 Hy4 preview 模型(总参数7700亿,激活参数490亿),但成本却显著降低。根据内部评测集 WorkIndex 的综合测算,Hy4 flash 在 PPT 制作与修改、文档编辑、表格修复、音视频处理及视觉理解等 WorkBuddy 典型任务中的单任务成本,相比 Hy4 preview 和前代 Hy4 模型均有明显下降。

实际任务表现兼顾体验与效率

某科技企业内部曾组织85位 WorkBuddy 用户参与 Hy4 flash 的盲测,测试覆盖27类共259个不同任务。结果显示,参与测试的用户对 Hy4 flash 的满意度较高,该模型的单任务成本显著低于其他参测模型,且任务处理时长也最短。

WorkBuddy 平台体验说明

针对本次 Hy4 flash 相关的体验规则,补充两点说明:

① Hy4 flash 是具备视觉理解能力的大语言模型,若用户有生成图片或视频的特定任务,系统会切换至对应的多模态模型完成,此时会按照正常规则产生积分消耗。

② 由于免费体验参与热度较高,为保障每位用户都能顺畅体验,平台对每日免费额度进行了合理分配;当模型触及免费限额后,用户可消耗积分继续使用,页面会提示额度重置时间;当日资源繁忙时,用户需进入排队等待。

以上内容不代表本平台立场,仅供读者参考