清华智谱开源HarnessPro:Agent降本提效34%

近期,清华大学、智谱等团队联合推出的HarnessPro工具,让智能体能够自主迭代自身的执行框架,在优化任务表现的同时有效控制执行成本。该项目由唐杰担任论文共同通讯作者,为智能体的成本优化提供了全新思路。
当搭配GPT-5.5与Codex模型时,在Terminal-Bench 2测试子集上,HarnessPro的Heavy版本相比同类方案RHO,通过率从76.3%提升至80.8%,单任务平均调用成本从1.09美元降至0.72美元,成本节省约34%。
与过往侧重提升表现却常伴随成本上涨的智能体优化工作不同,HarnessPro将成本控制纳入进化目标。它会从每轮执行轨迹中同时识别两类问题:哪些环节导致任务失败,哪些环节存在预算空耗。该方法不调整模型权重,仅对指令、工具、上下文与运行策略进行修改。
轨迹分析模块会联合分析同一任务的多次运行记录,将失败、重复计算和无效探索定位到具体执行步骤。规划模块据此提出成本优先、均衡、性能优先三种优化方案,编辑模块在独立工作区实现修改后,交由后续评测环节筛选最优方案。
每轮迭代都会将新候选方案与父代方案共同评估,先淘汰低于初始通过率底线或被其他方案Pareto支配的候选,再根据性能与成本的归一化加权距离,保留Lite、Medium、Heavy三个代表方案进入下一轮迭代。
为避免虚假进步,HarnessPro采用定制测试机制:它不会依赖官方测试集与标准答案,而是根据任务描述和初始轨迹生成专属测试用例,所有候选方案均在这套固定测试用例上运行。在20个初步测试案例中,模型直接评判仅识别出5个实际失败案例,而生成的测试用例识别出10个,失败召回率从41.7%提升至83.3%。
测试用例仅在初始阶段生成一次,不会随候选方案变化而调整。待多轮优化完成、执行框架固定后,才用官方评测检查预留测试集上的表现。移除测试生成模块后,不同设置下的任务通过率下降了3.4至10个百分点,凸显了该机制的重要性。
实验覆盖Terminal-Bench 2、SWE-Bench Pro和ProgramBench三个基准,采用GPT-5.5×Codex、GLM-5.2×Claude Code两组模型配置,每个基准预留59、100、100个测试任务。不同变体方案各有取舍:
在GPT-5.5搭配Codex的SWE-Bench Pro测试中,RHO的通过率为80%,单任务平均成本2.68美元;HarnessPro的Medium版本通过率79%,仅需1.26美元,通过率下降1个百分点,成本却减少约53%;Heavy版本通过率80.7%,成本1.97美元,在表现与成本上均优于RHO;Lite版本侧重低预算,通过率72.3%,成本0.80美元,仍超过原始Codex配置的59%(成本1.88美元)。
换成GLM-5.2搭配Claude Code时,Terminal-Bench 2上的Heavy版本同样表现亮眼,通过率从RHO的78.0%提升至81.4%,单任务平均成本从1美元降至0.62美元。
成本优势源于执行细节的优化:进化后的执行框架会根据任务选择推理强度与工具预算,通过运行时钩子控制探索过程与收尾步骤,压缩工具输出并减少重复指令。例如,Terminal-Bench 2的Medium版本选中标准配置后,会在第14次工具调用时提醒合并可并行调用、减少重复检查;第26次时要求转向完成与验证;第44次后阻止继续调用。这些调整保留了提示词前缀以利用缓存,折叠重复日志、压缩冗长输出,避免后续轮次重复读取。
单独移植某一项优化无法获得相同收益:在SWE-Bench Pro上,仅给RHO增加动态路由或预算钩子,通过率分别从80%降至76%和75%;统一调低推理强度则降至59%。HarnessPro的Heavy版本在Terminal-Bench 2上,第一轮通过率74.6%、成本0.91美元,第三轮便达到80.8%、0.72美元,实现了性能与成本的同步提升。
该项目的开源仓库提供了三个基准的9套选定执行框架(每个基准对应三档方案)及评估脚本,运行策略、钩子函数和部分验证工具均可查看,推理强度与工具预算的具体配置可在runtime/policy.json中查看。复现需另行准备基准数据、任务环境和模型接口,当前发布包主要包含选定配置与评估入口,论文中的GLM-5.2演化配置尚未一并放出。

