为何Agent越做越偏?人大推出AEWM与EditAct

当智能体执行长任务时,即使能获取准确的工具反馈,依然很容易逐步偏离任务目标。这是因为错误会留在任务历史中,形成持续的状态污染,不断误导后续的决策。针对这一痛点,相关研究团队提出了AEWM(Agent Editing World Model)框架,搭配EditAct执行流程,从根源上解决长任务的错误累积问题。
AEWM的核心设计思路是,将世界模型的关注点从“环境会返回什么”,转向“当前决策会把任务带向哪里”。
EditAct:判断-改写-执行的闭环流程
EditAct包含三个核心步骤:
(1)判断阶段:在执行行动前,Action Judge模块会基于已有的任务历史和当前提议,将决策分为三类:关键推进类、有效探索类和噪声决策类。
(2)改写阶段:仅针对噪声决策调用状态修订功能,替换当前的推理和行动内容,同时完整保留此前的任务历史,不会编造不存在的工具反馈。
(3)执行阶段:通过真实工具执行修改后的行动,并将新的推理、行动和实际获取的反馈加入后续的任务历史中。
这里有一个重要的认知区别:没有直接完成解题不等于决策无用。能够排除不合理分支、降低任务不确定性的探索依然具备价值,而AEWM不只是给出修正建议,而是直接改写下一步的行动方案。
纠偏能力的训练方式
AEWM基于Qwen3.5-35B-A3B模型,在搜索、终端和软件工程三个领域进行统一训练:首先使用521.6亿个token进行中期预训练,再用12万条高质量样本进行监督微调,其中判断样本和修订样本各占一半。
判断标签来自完整任务轨迹的回溯标注,但模型输入不会包含未来的信息;修订样本则要求实际执行后确实能够推动任务进展。
实验效果:精准判断与任务增益
在包含3000条决策的Action Judge基准测试中,AEWM的macro-F1值达到70.5%,比最强的对照模型高出10.6个百分点。
接入EditAct流程之后,4B、9B、35B-A3B三个不同规模的智能体,在六项基准测试中的平均分分别比最强基线高出6.7、5.2和3.2分。以35B-A3B模型为例,相比基础的ReAct框架,BrowseComp的得分从40.9提升到48.1,Terminal-Bench 2.0的得分从37.1提升到48.3。需要说明的是,在线的判断和修订流程需要额外的模型调用成本。
深入验证:直接编辑比单纯提示更有效
消融实验结果证明,直接编辑当前决策的方式,比“判错后让智能体重采样”或者“仅给出推理提示”的效果更好;如果只修改推理部分或者只修改行动部分,整体效果也不如同时修改两者。
举一个终端操作的直观案例:智能体在IPv4列表里没有找到服务端口,就误以为服务启动失败,而AEWM会将检查转向IPv6地址,之后再通过真实的RPC调用验证功能——其实问题不在于服务没启动,而是检查方式漏掉了IPv6的相关信息。
搜索行为也发生了明显变化:最长连续搜索序列的平均值从16.9降到了13.2,每个题目访问的不同网页数从7.7提升到10.1,表现为更少的连续搜索、更多的页面阅读,而不是反复更换搜索关键词。
将外部纠偏转化为内生能力
AEWM-RFT(拒绝采样微调)方案,使用EditAct生成并经过验证筛选的高质量轨迹,在各个领域分别微调智能体,这样在测试阶段就不需要再调用AEWM模块了。
相比Self-RFT方法,三个领域的得分又提升了2.2到2.6个百分点。相比基础智能体,BrowseComp和Terminal-Bench 2.0的平均交互轮数分别下降了30.0%和16.7%,不过Doc2Repo的轮数有所增加,并不是所有任务的交互轮数都会减少。
研究总结
AEWM的核心启发是:世界模型未必需要完整复刻整个环境,也可以学习决策如何影响任务的进展,并在错误扩大前改写当前的决策。让真实工具提供客观证据,让模型负责判断和纠偏,这就是这套框架的核心思路。
论文: https://arxiv.org/abs/2609.28416
代码: https://github.com/RUCAIBox/Agent-Editing-World-Model
Hugging Face: https://huggingface.co/collections/RUC-AIBOX/agent-editing-world-model

