文章摘要
让大小模型自己学会分工如今,大模型驱动的智能体已能完成软件开发、科学研究等复杂任务,但多轮交互中频繁调用大模型,导致推理成本居高不下。深入分析后发现,复杂任务的不同环节对模型能力的要求差异明显:小模型

让大小模型自己学会分工

如今,大模型驱动的智能体已能完成软件开发、科学研究等复杂任务,但多轮交互中频繁调用大模型,导致推理成本居高不下。深入分析后发现,复杂任务的不同环节对模型能力的要求差异明显:小模型虽无法独立完成整项任务,却能胜任其中的部分子任务。因此,让大小模型合理分工、协同作业,是平衡任务效果与推理成本的核心思路。

某研究团队提出了一种名为RSI-Router的自进化智能体路由框架,该框架通过分析执行轨迹挖掘可复用的子任务,探索大小模型的合理分工,并提炼出各模型专属的执行技能,使得分工策略与执行技能能在持续迭代中不断优化。该框架对应的论文可通过学术平台查阅。

在测试中,研究团队以一款大模型和一款小模型为基础,在五个智能体评测基准上验证了RSI-Router的效果:其一,任务表现全面超越纯大模型的基线水平;其二,推理成本平均降低51.7%,最高降幅达82.2%;其三,与九种现有路由方法相比,该框架实现了更优的性能-成本权衡。

研究背景:模型路由的现存局限

当前的模型路由方案存在明显局限:任务级路由将整项任务分配给单一模型,容易忽略小模型在部分环节的作用——比如代码修复,问题定位、修改和验证对模型能力的要求各不相同;而步骤级路由允许逐步切换模型,但学习有效分工仍面临诸多挑战:预先收集的轨迹覆盖范围有限,逐步探索的成本较高,且最终反馈难以说明每一步决策的优劣。

RSI-Router针对这些问题,围绕可复用的子任务探索模型分工,并从执行中的失败与冗余操作中提炼技能,共同优化路由策略与执行技能,从而帮助小模型胜任原本难以完成的子任务。

RSI-Router的四阶段迭代机制

RSI-Router以大小模型的训练轨迹为起点,由大模型驱动的提案智能体组织四阶段迭代流程:

1. 子任务挖掘:按执行目标划分轨迹,归纳子任务及识别规则,回放轨迹以检查小模型能否识别下一步所属阶段,并修正模糊的定义;

2. 路由策略进化:并行提出多种大小模型分配方案,按适用性继承历史技能,再通过实际执行评估任务表现和推理成本;

3. 模型专属技能进化:对比候选路由与纯大模型在相同任务上的训练轨迹,分析失败与冗余操作,为对应模型和子任务生成或修订技能;

4. 帕累托路由筛选:根据验证集上的性能与成本,比较历史路由及技能更新前后的候选,保留帕累托最优策略,落选的路由也作为反例参与后续进化。

推理阶段,小模型会根据用户请求、最近三步交互历史及上一次子任务预测,识别接下来的子任务,调用分配的模型,并附加匹配的执行技能。例如,在代码修复场景中,可由大模型负责问题定位和代码修改,小模型负责结果验证;对应的执行技能则会提醒模型运行测试、检查文件差异,减少漏检与无效操作。

实验结果:性能与成本的双重提升

实验选取了覆盖环境交互、科学实验、购物、代码修复与终端操作的五个任务子集,训练、验证和测试集互不重叠,共进行六轮进化,每轮提出四种候选策略,测试任务不为进化提供反馈。

性能表现上,各基准均有明显提升:ALFWorld的成功率从90.62%提升至98.44%,Terminal-Bench 2.0从40.00%提升至46.67%,相对提升16.7%,其余三个基准的任务表现也均超过纯大模型基线。

成本控制上,多个基准降幅显著:ALFWorld、ScienceWorld和WebShop分别降低75.3%、82.2%和74.7%,SWE-bench Verified和Terminal-Bench 2.0分别降低8.1%和18.0%,实现了性能与成本的双重改善。

持续进化:性能成本的动态优化

RSI-Router具备持续进化的能力:在验证集上,当保留至少95%大模型性能时,五个基准在首轮之后均实现进一步降本。例如,WebShop的成本降幅从首轮的28.5%逐步扩大至65.0%、68.4%和72.5%;同时,历史技能也会被持续复用,ScienceWorld最后一轮的候选路由仍大量复用早期迭代积累的技能,为后续分工与执行提供支持。

总结与展望

RSI-Router将子任务分工、技能积累与策略筛选有机结合,让执行经验持续用于优化模型协作。实验表明,小模型在合适的分工与技能支持下,能够参与原本无法独立完成的复杂任务,为长程智能体降本增效提供了新的路径。

随着路由策略与执行技能的不断积累,系统可从历史经验中探索更高效的协作方式,减少对人工反复调整规则的依赖,推动智能体模型协作的自动化与智能化。

以上内容不代表本平台立场,仅供读者参考