百度ERNIE Evolve:AI自主研发 优化文心5.5 Flash性能

当前AI模型研发仍依赖人工调参与手动训练,近日推出的自动研究系统ERNIE Evolve打破了这一模式,让AI成为自身的开发者——它可自主选题、修改代码、运行实验,通过全流程自动化实现自身能力的持续升级。
此前推出的大模型版本因“量大管饱”获得广泛关注,而本次披露的进展显示,ERNIE Evolve已应用于即将发布的相关版本的推理优化工作,覆盖三大核心方向。
递归自我改进(RSI)是当前AI领域的重要探索方向,核心在于让AI深度参与自身研发流程,形成“提出方向—执行实验—验证结果—积累经验”的闭环。ERNIE Evolve采用双层循环架构推进研究:外层循环结合历史实验数据与领域知识,并行探索多个研究方向;内层循环针对具体方向,持续迭代代码、评测效果并沉淀经验。
系统内部由多个智能体协同运作:负责选择研究方向的智能体、确定每轮实验目标与代码起点的智能体、修改代码生成新版本的智能体,以及独立评测性能的程序、复核研究方向的审核智能体。只有通过多轮验证的改进才会被保留,所有实验的代码改动、结果与经验均会记录留存,供后续研究参考。
在NanoChat AutoResearch和NanoGPT Speedrun两项任务的三个评测指标上,ERNIE Evolve均取得了公开验证的最优表现。
将ERNIE Evolve接入真实推理优化场景后,系统在生产环境中实现了显著收益,具体优化成果如下:
- 在昆仑芯P800低时延场景优化中,该系统历时约168小时,经过4轮方向探索,先后接入原生融合算子、启用投机解码,并优化主机调度与通信路径,最终最优版本的生成速度提升至基线的623.6%;
- 在确定性推理吞吐优化中,系统用3天时间探索3个方向,在严格保持确定性的前提下,吞吐提升至基线的133.7%,平均每token生成时间缩短26%,首token延迟降低12%;
- 在极致解码速度优化中,系统累计探索7个方向,其中3项优化MoE与mHC算子、矩阵乘调度策略及草稿模型关键路径,最终推理性能累计提升至基线的114.9%,精度与基线保持一致。
上述所有改动均通过生产级验证,完成了相关团队的压测与正确性检查。
推理基础设施优化是RSI在真实研发中的首个落地场景。未来,该研究闭环将逐步延伸至训练系统优化、模型能力研究与评测体系迭代,推动AI自主完成问题发现、假设提出、实验设计与结果验证。扩展过程将在明确的边界内进行,并接受持续的安全评估与人工监督。
更多技术细节可参考相关技术博客。

