文章摘要
针对智能体执行长任务时,错误残留于任务历史造成状态污染、导致逐步偏离目标的痛点,中国人民大学研究团队推出AEWM框架,搭配“判断-改写-执行”的EditAct闭环流程,可在错误扩大前修正决策。多项实验验证该方案性能显著优于现有基线模型,直接编辑决策的纠偏效果优于同类方案。

当智能体执行长任务时,即使能获取准确的工具反馈,依然很容易逐步偏离任务目标。这是因为错误会留在任务历史中,形成持续的状态污染,不断误导后续的决策。针对这一痛点,相关研究团队提出了AEWM(Agent Editing World Model)框架,搭配EditAct执行流程,从根源上解决长任务的错误累积问题。

AEWM的核心设计思路是,将世界模型的关注点从“环境会返回什么”,转向“当前决策会把任务带向哪里”。

EditAct:判断-改写-执行的闭环流程

EditAct包含三个核心步骤:

(1)判断阶段:在执行行动前,Action Judge模块会基于已有的任务历史和当前提议,将决策分为三类:关键推进类、有效探索类和噪声决策类。

(2)改写阶段:仅针对噪声决策调用状态修订功能,替换当前的推理和行动内容,同时完整保留此前的任务历史,不会编造不存在的工具反馈。

(3)执行阶段:通过真实工具执行修改后的行动,并将新的推理、行动和实际获取的反馈加入后续的任务历史中。

这里有一个重要的认知区别:没有直接完成解题不等于决策无用。能够排除不合理分支、降低任务不确定性的探索依然具备价值,而AEWM不只是给出修正建议,而是直接改写下一步的行动方案。

纠偏能力的训练方式

AEWM基于Qwen3.5-35B-A3B模型,在搜索、终端和软件工程三个领域进行统一训练:首先使用521.6亿个token进行中期预训练,再用12万条高质量样本进行监督微调,其中判断样本和修订样本各占一半。

判断标签来自完整任务轨迹的回溯标注,但模型输入不会包含未来的信息;修订样本则要求实际执行后确实能够推动任务进展。

实验效果:精准判断与任务增益

在包含3000条决策的Action Judge基准测试中,AEWM的macro-F1值达到70.5%,比最强的对照模型高出10.6个百分点。

接入EditAct流程之后,4B、9B、35B-A3B三个不同规模的智能体,在六项基准测试中的平均分分别比最强基线高出6.7、5.2和3.2分。以35B-A3B模型为例,相比基础的ReAct框架,BrowseComp的得分从40.9提升到48.1,Terminal-Bench 2.0的得分从37.1提升到48.3。需要说明的是,在线的判断和修订流程需要额外的模型调用成本。

深入验证:直接编辑比单纯提示更有效

消融实验结果证明,直接编辑当前决策的方式,比“判错后让智能体重采样”或者“仅给出推理提示”的效果更好;如果只修改推理部分或者只修改行动部分,整体效果也不如同时修改两者。

举一个终端操作的直观案例:智能体在IPv4列表里没有找到服务端口,就误以为服务启动失败,而AEWM会将检查转向IPv6地址,之后再通过真实的RPC调用验证功能——其实问题不在于服务没启动,而是检查方式漏掉了IPv6的相关信息。

搜索行为也发生了明显变化:最长连续搜索序列的平均值从16.9降到了13.2,每个题目访问的不同网页数从7.7提升到10.1,表现为更少的连续搜索、更多的页面阅读,而不是反复更换搜索关键词。

将外部纠偏转化为内生能力

AEWM-RFT(拒绝采样微调)方案,使用EditAct生成并经过验证筛选的高质量轨迹,在各个领域分别微调智能体,这样在测试阶段就不需要再调用AEWM模块了。

相比Self-RFT方法,三个领域的得分又提升了2.2到2.6个百分点。相比基础智能体,BrowseComp和Terminal-Bench 2.0的平均交互轮数分别下降了30.0%和16.7%,不过Doc2Repo的轮数有所增加,并不是所有任务的交互轮数都会减少。

研究总结

AEWM的核心启发是:世界模型未必需要完整复刻整个环境,也可以学习决策如何影响任务的进展,并在错误扩大前改写当前的决策。让真实工具提供客观证据,让模型负责判断和纠偏,这就是这套框架的核心思路。

论文: https://arxiv.org/abs/2609.28416
代码: https://github.com/RUCAIBox/Agent-Editing-World-Model
Hugging Face: https://huggingface.co/collections/RUC-AIBOX/agent-editing-world-model

以上内容不代表本平台立场,仅供读者参考