文章摘要
百度近期发布文心5.5 Flash Preview轻量大模型,具备速度快、成本低、开源灵活三大核心特性,每秒可生成200余token,两项专业基准测试位列同定位模型第一,可覆盖游戏开发、内容制作、工业建模等跨领域应用场景,11月25日将开放预览版权重,目前已可通过智能云千帆平台调用。

近期,文心大模型阵营推出全新轻量模型——文心5.5 Flash Preview,这款兼具速度、成本优势的模型一经发布便引发行业关注。

它具备三大核心特性:速度快、成本低、开源灵活。速度层面,每秒可生成200余个token,拥有2800亿参数但每次仅激活140亿,处理效率远超同类模型;成本方面,API调用定价亲民,输入忙时每百万token2元、闲时1元,输出忙时8元、闲时4元,目前还限时推出五折优惠;开源规划清晰,上线首日起可通过智能云千帆平台调用API,11月25日将面向全球开源社区开放预览版权重。

在多项专业基准测试中,它交出了亮眼答卷:终端效率测试Terminal-Bench 4.0获46.5分,跨应用自动化测试AutomationBench获61.9分,真实Excel处理测试SpreadsheetBench V2获36.4分,在同定位模型中竞争力突出。

除了测试数据,它的实际应用能力更具说服力。比如完成一款名为《云岫行》的第三人称东方武侠游戏,以虚幻5.8为引擎、用C++代码实现,全程耗时11小时。作为纯文本模型,它没有视觉感知能力,便通过量化的方式解决3D游戏常见的人物悬空、方向错位等问题,把模糊的视觉感受转化为可验证的代码测试,反复迭代优化,还顺手完成了跨代引擎素材的整合工作。

类似的落地案例还有:打造《御剑穿云》3D御剑游戏,实现完整游玩流程;制作科普片,以“月亮距离地球减半的世界”为主题,精准计算引潮力、洛希极限等关键数据;完成117秒的2D动画《鹈鹕测试》,从公元前4000年的撒哈拉岩画到梵高《星月夜》风格,跨越20种艺术风格;在Blender中搭建机场和飞机模型,在FreeCAD中生成W16发动机模型,还设计了月球概念车等,展现了跨领域应用的潜力。

这份高效源于架构设计的深度优化。模型共43层,其中37层处理历史内容时仅提取摘要(每128个token压缩为一条),仅6层逐字处理原文,大幅节省显存;每层有512位“专家”,每次仅激活10位加1位共享专家,将2800亿参数压缩至每次仅用140亿,且采用多调度员打分机制避免单一路径错误;还设计了ECHO机制,生成下一个词时顺带生成后续内容并核对,提升生成速度。此外,mHC拓宽信息通道、MultiMax优化选词、R2L分词器处理数字等部件,共同实现了每秒200多token的生成速度。

更值得关注的是研发层面的突破,11月9日披露的自动研究系统ERNIE Evolve,让AI自主推进研发,此次就用它优化了文心5.5 Flash的推理速度,在国产昆仑芯P800低时延场景下,生成速度提升至基线的623.6%,确定性推理吞吐量提升33.7%,极致解码环节也通过7个方向的优化实现14.9%的提速,展现了AI自我迭代的潜力。

近期百度大模型发布节奏紧凑,11月5日文心5.5 Flash Base开源,11月9日披露自动研究进展,11月11日发布Preview版,七天内完成三次重要动作,11月25日还将开放Preview版权重开源,配合即将开幕的行业大会,持续推进技术落地。

面对行业的期待与质疑,百度团队以实际行动回应,打磨架构、提升效率,连零点几个百分点的优化都投入精力。追赶并不可怕,文心的姿态坦诚且务实,用实际成果展现技术实力。目前,文心5.5 Flash Preview已上线智能云千帆平台,开发者可通过API调用,相关体验渠道可通过官方获取。

以上内容不代表本平台立场,仅供读者参考