RoboFoundry:以系统即策略进化赋能具身智能

相同的大模型在不同的具身智能系统中表现差异悬殊。以GPT-5.5为例,直接使用时在EmbodiedBench基准上的平均成功率仅为56.9%;当保持模型参数完全不变,仅对模型周边的支撑系统进行持续进化后,这一数字提升到了72.7%。这种性能差异的核心来源并非模型本身,而是模型接收的信息、留存的经验,以及决策转化为物理动作的完整流程。
长期以来,大模型在机器人系统中的角色一直在向上迁移:从最初的高层规划器,到代码即策略框架中整合感知与控制原语的决策核心。但围绕模型的配套系统大多仍是人工搭建且部署后固定的,现有研究往往仅改进记忆、技能、交互组件中的某一个部分,执行中暴露的问题也仅用于评测或人工调试,导致同类弱点会在多个任务中反复出现。
由此,一个全新的研究方向被提出:具身智能体能否将整套系统作为策略,自主诊断系统短板并从实践中进化?
近期,多机构研究团队推出了RoboFoundry框架,这是首个将智能体系统本身形式化为“自进化的系统即策略”的具身智能体方案。该框架保持基座模型参数冻结,进化仅发生在模型周边的上下文系统、技能系统与执行接口层,同时通过共享语义接口实现不同机器人平台之间的系统复用。
在多项基准测试中,RoboFoundry让五款基座模型全部实现性能提升;在长程记忆基准RoboMemArena上,任务成功率比所有基线模型高出至少39.0%;在LIBERO-PRO的扰动测试中,性能比CaP-Agent0提升243.8%至679.7%。此外,该框架还在真实机器人上实现了跨平台、跨任务的零样本迁移,以及部署后的在线进化。
基础研究信息
- 论文标题:RoboFoundry: System-as-Policy Evolution for Self-Learning Embodied Agents
- 论文链接:https://arxiv.org/abs/2609.32862
- 项目主页:https://jingsongliang.com/robofoundry
模型冻结,系统进化:像维护代码库一样迭代自身
RoboFoundry的核心设计思路是不更新基座模型的参数,仅优化支撑模型完成任务的整套系统。这套系统以文件目录的形式存在,模型可以像开发者维护代码库一样,通过查看、添加、修改、删除操作来迭代系统。系统分为两层:服务于当前任务的任务级系统,以及跨任务、跨机器人本体持续留存的通用系统。
进化过程通过内外双层循环实现:内循环负责执行任务并记录执行轨迹;外循环则根据轨迹分析问题并提出系统修改方案,再交由后续执行环节验证效果。修改主要作用在两个核心进化面上:
- 上下文面:管理当前回合的活跃上下文与跨回合的文件系统记忆,通过保存、检索、利用三类操作决定需要记录、调取和使用的信息。
- 技能面:覆盖从原子技能到组合流程再到失败恢复树的完整技能体系,当执行出现失败时,系统可以从有效状态重新规划任务。
在两个进化面之下,还存在一层共享语义接口。语义层仅处理跨机器人本体的通用任务逻辑,执行层则负责将决策适配到具体的机器人硬件上,后端可以是冻结的视觉语言模型、编码智能体生成的函数,或是视觉运动接口。由于进化仅作用在语义层面,在一台机器人上进化出的系统,仅需要更换执行适配层,就可以在另一台机器人上复用,也可以接入不同的基座模型。
有诊断、有验证的进化闭环,而非无约束的自我重写
当执行过程中出现失败或低效时,RoboFoundry会先将问题归因到六大能力维度:感知、推理、规划属于决策能力,保存、检索、利用属于记忆管理能力。系统仅会在对应的进化面上提出修改方案,且只有能够修复当前任务失败的修改才会被正式提交。
具体来说,RoboFoundry会先将成功的修改抽象为候选规则,随后在其他任务中寻找同类能力缺口的修复记录,回放这些任务修复前的状态,让应用候选规则的系统重新生成修复方案。接着由系统自身充当验证者,将新方案与当时实际奏效的修复进行对比打分,只有平均得分不低于原有修复的候选规则,才会被写入通用系统。
举个具体的进化示例,在EB-Habitat的空间关系子集任务中,以GPT-5.5为基座模型的系统经过六次候选评估:前三次修改成功将held-in成功率从21.4%提升至50.0%;接下来两个候选仅达到42.9%,未被采纳;最后一个候选将成功率推至78.0%,并通过了held-out检查,最终被标记为晋升进通用系统。
被接受的修改会以具体的文件改动形式落地。例如针对“将水槽中的清洁剂全部移至沙发”这类指令,系统规则被调整为:
- Each plan should include no more than 20 actions. + Prefer one action; at most two when both are currently supported. + After Navigation, observe before Pick/Place/Open/Close. + Trust environment feedback over visual appearance for proximity. + After a not-near Pick failure, navigate before retrying.这些新规则中没有出现具体的物体名称,因此可以跨任务共享。整个进化过程会被记录在专属目录中,论文将其称为“进化账本”,方便回溯查看。
全基座性能提升,模型间差距显著缩小
EmbodiedBench包含四个环境中的1128个任务,覆盖高层语义规划与底层动作执行。所有测试设置使用相同的任务流与交互预算,从第一个计分回合就开始进化,进化过程中的每一条轨迹都会计入最终成绩。
测试结果显示:
- GPT-5.5的相对提升幅度达到27.8%,进化后的GPT-5.5性能已经高于未经进化的GPT-6 Astra。
- 不同基座模型之间的性能差距明显缩小,五款基座原始成绩的最大差距为19.6个百分点,接入RoboFoundry后这一差距缩小到约11.5个百分点。
- 即便是性能最强的模型也能从系统进化中获益,GPT-6 Astra的相对提升幅度为8.5%。
消融实验验证了通用进化模块的关键作用:以Qwen3.7-Plus为基座时,完整版框架比仅保留任务级修改的Lite版相对高出11.2%。当将上下文预算从4K扩展到16K后,原始模型的成绩有升有降,但在16K的设置下,RoboFoundry依然让四款参与测试的基座模型相对各自基线实现7.9%至13.1%的性能提升。
长程记忆与分布偏移:进化不止于提示词调整
RoboMemArena是长程记忆基准测试,包含26个任务,分为搬运、遮挡、计数、顺序四类。以Qwen3.7-Plus为基座的RoboFoundry取得了53.5%的任务成功率和72.8%的累计成功率,四类任务全部领先,其任务成功率比所有基线模型至少高出39.0%。
在这一基准上,进化修改的不仅是提示词,还包括决定“保留什么状态、检索什么证据、如何向模型呈现信息”的整套机制。例如,将任务进度转换为当前子目标,以及明确规定“尝试过的指令不能作为物理成功的证据”等规则。
LIBERO-PRO用于测试系统在物体布局和任务设定变化下的鲁棒性。在不使用特权物体位姿的方法中,RoboFoundry的平均成功率最高,达到91.9%;其性能比CaP-Agent0高出243.8%至679.7%的相对提升幅度。
进化后的系统还会将改进分为两种时间尺度:可复用的组合技能会被长期保留进共享系统,而单次试验中临时生成的恢复逻辑则仅留存于当次试验中。
真机落地:零样本迁移与在线进化
真机实验旨在验证通用的RoboFoundry系统能否迁移到物理机器人上,并在部署后继续进化。实验中,RoboFoundry以GPT-5.5为基座模型,以视觉语言模型为操作执行后端;为保证公平,RoboFoundry与单独使用的对应后端模型在对应任务上使用同一个微调checkpoint。RoboFoundry初始时不进行任何任务级的系统适配,每个任务测试10次,用于在线进化的试验会计入成功率,系统更新仅发生在两次试验之间。
- 套娃任务:在线进化测试。在协作机器人平台上,套娃任务要求从小到大排序并精确插入。第一次试验因物品掉落失败,系统加入对准检查;第二次试验改用带对准的插入,但执行丢失了任务进度,系统再加入进度追踪,让执行可以从最后完成的子任务继续;第三次试验完整完成任务。最终RoboFoundry的成功率为70%,而单独使用的后端模型仅为30%。
- 叠毛巾任务:零样本迁移。叠毛巾技能仅在蓝色毛巾上进化,随后直接应用于外观、几何形状和材质都不同的绿色、粉色毛巾。在不进行额外适配的情况下,RoboFoundry的成功率超过80%,而单独使用的后端模型成功率低于20%,需要进一步微调。
- 人形机器人导航:在人形机器人平台上,RoboFoundry借助共享语义接口,将“找到饮用水”的指令对应到RGB画面中识别出的饮水机,再通过本体相关的执行绑定转换为导航动作。
- 长程化学实验:跨子任务的长程依赖。六个相互依赖的子任务依次为:将漏斗插入锥形瓶、放置称量皿、天平去皮、用药匙加粉末、放回药匙、向锥形瓶倾倒粉末。RoboFoundry通过任务状态记录串起整个流程,最后的倾倒步骤会读取几个子任务之前写下的状态来指导执行;而单独使用的后端模型难以完成整个流程。
结语:从训练更强模型到优化系统生态
从语言模型规划,到代码即策略的执行,再到系统即策略的进化,大模型在具身系统中的角色一直在向上层迁移。RoboFoundry给出了一种具体可行的方案:保持基座模型不变,由执行轨迹决定系统需要修改的部分;每一次修改都需要先在当前任务上验证能够修复失败,只有在其他任务的同类能力缺口上同样被验证有效的改进,才会沉淀为通用能力,服务后续任务。
随着基础模型的能力不断增强,具身智能的进步或许不再仅仅来自“训练一个更强的模型”,也可以来自“让模型所在的整套系统持续进化变强”。

