AREX-2模型：长程反思训练实现AI跨领域自我改进

当模型学会持续迭代改进算法，便推开了通往智能自主进化的大门。近日，由来自智源研究院、中国科技大学、中国人民大学等多个机构的研究人员组成的AREX研究小组发布AREX-2模型。该模型以轻量级的Qwen3.8-27B为基座，基于围绕机器学习与算法编程场景构建的长程反思数据训练而成，不仅在MLE-bench Lite、Frontier-CS上展现出领先的机器学习与算法编程能力，更将这种能力迁移至深度研究与科学问题求解，在BrowseComp、HLE等重要基准上刷新了开源轻量模型的最佳表现。这些结果表明，长程反思训练有望帮助模型习得跨领域的自我改进能力，让更多测试时投入持续转化为更好的结果，为递归自我改进（RSI）提供一条可训练、可验证的实现路径。

九月的前三周，多款旗舰AI模型接连登场，Claude完成费马大定理的首个形式化证明，OpenAI模型也在Navier–Stokes方程研究中取得进展，新模型不断刷新人们对智能边界的想象，也让一个核心问题愈发引人关注：模型能否持续改进自身，从而走得更远？

递归自我改进（简称RSI）由此成为研究者、创业者和投资人共同关注的方向。但热议之下，一个基本问题仍有待回答：究竟什么是RSI，又该如何培养和衡量这种能力？

AREX团队给出了一个具体的切入点：在单次任务中，让智能体在测试时通过持续反思与迭代，不断改进自身的解题方案。从这一视角看，RSI并不神秘，而是一种新的测试时扩展范式——让更多轮次的投入，持续转化为更好的结果。

这一能力的核心，在于反思与长程：前者决定每一轮改进的质量，后者决定改进能够持续多久。二者如同复利中的收益率与时间，共同影响最终的回报。而培养这种能力的关键，是让模型从训练数据中学会“如何持续改进”。遗憾的是，能够完整展现这一过程的数据，恰恰是现有语料中最稀缺的部分。

AREX团队进一步提出：长程反思是一种可以跨领域迁移的元能力。如果能找到合适的训练场，模型便有望将在一个领域习得的改进方法，运用到其他领域。为此，团队选择了机器学习与算法编程两个场景：它们既有丰富的任务素材，也能提供清晰、可验证的环境反馈，为智能体在多轮迭代中持续提升表现创造了条件。

具体而言，智能体在相关项目中改进模型与训练方案，在在线评测题目中优化算法程序，并通过隐藏评测中的模型指标、测试通过比例或解的质量，检验每轮改进的效果。在这两个场景下，教师智能体先自主构建任务、评分机制与运行环境，通过实际执行，筛选出可运行且有足够提升空间的环境。随后，在充足的时间与轮次预算下，循环开展“提交方案→获取反馈→反思改进”，并按需查阅资料、使用技能和开展实验。推理、尝试、失败及后续调整均保留在轨迹中，形成展示“如何持续改进”的训练数据。

以上述场景为训练场，团队基于Qwen3.8-27B开发了AREX-2。实验中，AREX-2展现出突出的测试时扩展能力：在MLE-bench Lite上取得81.8的成绩，大幅刷新开源轻量模型的最佳表现；在Frontier-CS上取得70.7的成绩，领先所有已报告该项成绩的开放权重模型。

这组结果说明，围绕可验证反馈构建的长程改进轨迹，能够成为有效的训练信号。模型学习的不只是如何生成初始方案，还包括如何根据反馈继续优化方案。对于机器学习与算法编程这类任务，这种持续改进能力已经体现为具有竞争力的任务表现。

更重要的问题是：在机器学习与算法编程中学到的持续改进能力，能否用于深度研究？AREX-2沿用之前的深度研究数据，并在此基础上加入新合成的长程反思轨迹。也就是说，这次探索并不是依靠新增深度研究数据来提升深度研究成绩，而是检验其他领域的改进过程能否提供有效的能力增益。

实验中，AREX-2在BrowseComp与HLE上分别取得84.0和52.6，均为本次报告列出的不超过40B参数模型中的最高成绩。这一结果支持了AREX团队提出的能力迁移假设：长程反思不只是某一类任务中的求解技巧，也可以成为跨领域发挥作用的自我改进能力。

将任务成绩与参数规模放在一起，AREX-2的特点更加清晰。在MLE-bench Lite上，27B的AREX-2取得81.8，高于35B的同类模型和2.8T的更大规模模型；在BrowseComp上，AREX-2取得84.0，高于1T和1.6T的更大模型。这说明除了扩大模型规模，还可以通过针对持续改进过程的专门训练，让模型更有效地利用反馈、修正方案并积累迭代收益。

AREX-2的探索表明，长程反思数据不仅能改善模型在训练领域内的表现，还有望帮助模型习得可迁移的自我改进能力。对RSI而言，这提供了一条值得探索的路径：让模型学会从每一轮尝试中积累经验，并在更长的任务进程中，将这些经验转化为持续的进步。