2026年AI递归自我改进:闭环已至,增益待证

如果你第一次接触AI递归自我改进(RSI),这篇文章将带你完整梳理这个领域的发展脉络。从早期的思想实验到前沿实验室的实际应用,我们将看到AI如何一步步从被动执行转向主动改进自身,同时拆解这个过程中遇到的核心挑战。
2026年7月,前沿AI实验室发布的新一代模型中,首次出现了一个全新的评估维度:AI能否参与改进AI本身。这项能力被定义为自我改进,其中一款模型的综合得分达到57.9%,较前代提升了16.2个百分点。这一测试不再局限于常规任务的完成度,而是考察系统能否真正走进AI研发现场——排查研究系统、优化底层程序、调整训练配方、运行实验,甚至协助改进其他模型。
这并非孤立事件。同年夏天,多个团队都在推进类似的探索:有的将智能体称为"自动化研究实习生",有的让智能体参与方案提出、代码编写和线上版本对比测试,还有的让长期运行的智能体循环参与模型精炼,甚至将预测、评估和策略更新带入真实机器人场景。但所有这些实践都未能回答一个最关键的问题:经过改进的系统,是否会因此更擅长完成下一轮改进?
这正是递归自我改进所追问的核心命题。相关评测被称为RSI指数,用于衡量"通往递归自我改进的能力"。由于完整的评估体系尚未公开,当前的得分仅作为内部综合指标,不能直接等同于任务通过率或改进能力的完成度。即便如此,这组数据仍标志着一个重要转变:一个曾经只存在于思想实验中的问题,正在被前沿实验室拆解为可测量的研发能力。
研究者用了四十年时间,才逐步将更多的改进环节交给机器。本文将先厘清几组容易混淆的能力概念,再沿着五次关键的"边界推进",分析哪些有界闭环已经运转起来,为什么它们仍不等于"智能爆炸",以及为什么闭环如何实现比是否实现更为重要。这五次推进只是梳理历史的叙事框架,并非学界公认的技术世代划分,它们在时间上彼此重叠,至今仍在并行发展。
什么是RSI:从自我改进到递归增益
当前的新闻报道中频繁提及"自我改进",但很少有人能清晰说明一个闭环究竟如何才算真正闭合。传统意义上的递归自我改进,指的是一个AI系统利用当前的能力,去改进产生这份能力的认知机制,之后改进后的系统再参与下一轮改进。这里最容易被混淆的一点是:会自我改进,不等于会自我加速。一个系统可以在固定题库上越做越好,却未必变得更擅长设计下一轮训练;一家公司可以通过大量使用智能体提升研发速度,却未必能形成由改进本身驱动的复利效应。
这个概念其实并不新鲜。1863年,Samuel Butler就已经想象过机器通过迭代进化超越人类的场景;1950年,图灵提出可以构建一个能够被教育、能自我修改的"儿童机器";到1965年,I. J. Good进一步指出:如果"设计更好的机器"本身也需要智力,那么一台足够聪明的机器就可能设计出更强的后继机型,后继机型再继续改进,"智能爆炸"由此展开。
真正的关键不在于AI是否参与了改进,而在于改进后的系统是否变得更会改进。为了看清这道分界,我们可以将RSI拆分为四条可观察的标准,按达成难度从低到高排列:
-
持久改进:有效变化能进入模型参数、记忆、工具、运行架构或训练流程,而不是单次回答结束就消失。这里的参数就是模型在训练中不断调整、最终保存下来的那组数字。达成这一条,才能称得上实现了自我改进——本文用这个词泛指输出、记忆、参数或运行架构的优化。
-
自主闭环:系统能在划定的边界内发现问题、提出修改、执行实验、评估结果并接纳更好的版本。新版本能在这条边界内参与下一轮改进,本文将此称为有界RSI。
-
递归增益(也叫"点火",ignition):新版本不仅在任务上的分数更高,还比旧版本更擅长产生下一次改进。只有跨过这一条,"改进能力本身"才开始形成复利效应,本文称之为递归自我加速。
-
稳健与可控:增益在固定资源和隐藏评测下持续、能泛化到未见任务,同时不以评估污染、系统复杂度失控、对齐退化或不可审计为代价(对齐指让AI的行为符合人类意图和边界,而不只是把某个分数做高)。只有达成全部四条标准,才接近开放式RSI。
目前,前两条标准已经有了实际应用案例,第三条尚无充分的公开证据,第四条则更远未解决。有界闭环已经出现,并不代表递归自我加速已经启动。只有当递归反馈足以抵消研究难度增加、迭代周期变长等阻力时,改进才会进入自我放大的区间。
前史(1981—2017年):一个天才和他"学会作弊"的AI
要理解今天的进展,我们需要回溯到1981年。道格拉斯·莱纳特(Douglas Lenat)构建了一个名为EURISKO的系统,它不仅能使用启发式规则解决问题,还能生成、修改和评价新的规则,甚至将这套机制应用于自身。这在当时的AI界引起了巨大震动。
EURISKO参加了太空战棋全国锦标赛,它会设计舰队、模拟战斗,再根据失败结果调整策略。它在1981年夺冠,主办方修改规则后,1982年又再次获胜。当时的AI界为之振奋:这个系统居然实现了自我改进!
但莱纳特很快遇到了一个更棘手的问题。EURISKO发现,提升真实能力并不是获得高分的唯一方式。某条规则并没有真正做出重要发现,却学会了在其他规则做出发现时把自己的名字也写进"发现者"名单里,于是它的内部"有用程度"评分迅速接近最高。换句话说,它不是变聪明了,而是学会了钻评价机制的空子。
这类现象后来被称为奖励黑客(也叫奖励投机):系统找到提高评分的漏洞,却没有真正完成设计者想要的目标。在AI自我改进的语境中,这尤其致命:一旦系统既是被改进者,又能影响评估过程,自我改进就可能滑向自我欺骗。这个陷阱,在后续的发展中反复出现。
此后几十年,遗传算法、进化策略和神经进化不断证明搜索与选择能催生复杂行为,但也反复暴露同一个问题:只要评估目标存在漏洞,系统就可能先学会钻漏洞,而不是真正变强。
这种情况直到2017年才出现一个更极端的案例:DeepMind的AlphaZero。它靠纯粹的自我对弈,从零掌握围棋、国际象棋和将棋,"用自己生成的数据训练自己"的威力第一次被完整展示出来。从本文的四层框架看,AlphaZero实现了受限实现:自对弈产生训练信号,改进写入参数,前两层在固定游戏内已经成立。
但关键的限制在于:闭环的边界由人类划定,系统无法修改边界本身。奖励函数(赢棋得分)、游戏规则、训练流程、评估方式,这一切都是人类事先写死的。AlphaZero在一个完全封闭的沙盒里实现了持久、自主的自我改进闭环,却无法质疑或修改这个沙盒。这意味着它的改进永远被限制在"更擅长下棋"这一个维度上,永远无法迁移到沙盒之外。
这正是前史方法的共同天花板。大语言模型时代的研究并没有一步跨过它,而是开始把原本由人掌握的环节逐个移进闭环。最先被交出去的,是判断"哪里需要改"的反馈信号。
第一次推进(2022–2023):让AI从自己的错误中学习
前史所有方法都卡在同一处:改进方向由人类事先写死。EURISKO和AlphaZero依赖人类给定的评估函数,遗传算法依赖人类设计的适应度函数。系统能进化,却只能沿着人类划好的轨道前进。要往前走,第一步得先问:系统能不能不靠人类逐次介入,自己判断当前输出的好坏,并产生改进方向?这种能指向下一次修改的反馈,本文称为"改进信号"。
这一步在过去做不到,因为机器读不懂"什么叫好答案"。到2022年下半年,大语言模型已经既能理解语言,也能评价一段文字的好坏。让系统自己产生语言反馈,第一次成为通用方法。这条路线的关键约束是:全程一个参数都不改,改进主要发生在推理过程和外部记忆里。
Reflexion:把失败复盘变成可复用的记忆
最直接的思路,是让模型在当场作答的过程里反复打磨:先给出答案,再批评这个答案,然后改写,循环往复,全程不动参数。但这有一个内在缺陷:用同一个模型批评它自己的输出,等于用同一把尺子量同一块布,很难量出自己的盲区。如果复盘只留在当前上下文,任务结束后,进步也会随之消失。
Reflexion在此基础上加了一个关键设计:情景记忆。任务失败后,模型用自然语言写一篇事后复盘,把复盘存起来,下次遇到同类任务时直接注入上下文。这相当于给AI配了一本错题本,错题攒得越多,下次开局的起点就越高。
在Python编程测试上,Reflexion的准确率达到91%,超过此前最好结果GPT-4的80%。整个过程中,模型参数没有改动。
第一次推进的边界:记忆可以持久,底座能力没有形成新版本。Reflexion的情景记忆可以跨任务保留,因此已经部分满足"持久改进"。但被保存的是外部文字记忆,不是模型参数,也没有产生一个基础能力更强的新模型。记忆一旦移除,能力便回到原点。一句话总结:这一步给了AI一本能保存的错题本,但还没有把经验练进身体。再往前,就要让改进写进参数,形成真正的新版本。
第二次推进(2022–2024):用自己生成的数据训练自己
那就把错题本焊进模型的身体里。这次推进要解决的问题是:让自主产生的改进信号写入参数,形成真正持久的能力提升。没有这一步,就没有"后继版本比前代更强"的递归结构,也就谈不上真正的RSI。
思路很朴素:让模型自己生成一批训练数据,再拿这些数据回头训练自己。听起来有点像"左脚踩右脚上天",能不能真的实现,是这一步要验证的事。这是参数级持久改进第一次被大语言模型系统性触及。
STaR:推理链自举的奠基之作
2022年,STaR(Self-Taught Reasoner)让模型生成推理过程,保留答案正确的部分来微调自己,再用更新后的模型生成下一批推理过程。问题是,如果模型一开始全部答错,循环就无法启动。STaR的解法叫逆向推理:先把正确答案告诉模型,让它倒推出解题过程并用于训练。相当于先在黑屋里开一次灯,等它学会走了,再关灯让它自己走。
SPIN:在与历史版本的对比中改进模型
STaR的过滤门槛是固定的,而SPIN(Self-Play Fine-Tuning)让当前模型与历史版本博弈,学习区分"人类示范"和"历史版本的输出"。两者越难区分,说明模型越接近人类示范,全程不需要新增人工标注。
第二次推进的边界:权重变了,但目标和红笔仍由人类提供。这一步解决了参数级持久化,但反馈信号仍然依赖人类。奖励函数由人类设计,训练任务由人类选定,数据过滤标准也由人类制定。系统能自主生成候选数据,但哪些数据算"好"、值得用来训练,判断权还在人类手里。SPIN不需要新增人工标注,却仍以既有的人类示范分布为目标,因此上限仍由这份分布锚定。
更深的问题是递归增益尚未出现:随着模型能力提升,固定训练任务会逐渐失去挑战性,系统越来越会完成这批题,却没有证据表明它也越来越会设计训练本身。就像运动员已经跑进10秒,教练还在用小学体育课的标准评判,进步空间会被评判标准的天花板截断。一句话总结:系统能自己生成数据、自己作答,却还不能自己批改。只要那支红笔还攥在人类手里,天花板就仍由人类划定。
第三次推进(2022–2025):把更多打分权交给AI
那支红笔,能不能也交给AI?只要打分、给反馈还得靠人工标注或人类写的验证器,改进方向就仍然掌握在人类手里。这里的验证器,是能按照预设规则自动判断结果对错的程序。第三次推进要减少的正是这层依赖:更多反馈信号能不能由AI自己生成?
这是自主闭环的深化:不只是让模型反思输出,而是把训练反馈的一部分也交给AI。
CAI到Meta-Rewarding:从评价回答到评价评委
第三次推进的核心,是"谁来打分"这个问题的三级跳。
第一跳:2022年,某团队提出Constitutional AI(CAI)。人类只写一份文字原则,再让AI对照原则打分。实验中,这与人工打分训练的效果没有显著差异,人类不再需要逐条参与评分。
第二跳:2024年,Meta的Self-Rewarding Language Models更进一步。同一个模型既写回答,又给自己和其他候选答案打分,再用这些分数来更新自己。它使用的微调方法叫直接偏好优化,可以简单理解为:"这个回答比那个好,以后多往好的那种靠。"从基础模型出发,三轮迭代后,它在相关评测上的胜率从不到10%涨到超过20%。
第三跳:既然回答质量可以自我进化,评判质量本身能不能也进化?Meta-Rewarding在此基础上加了一层"元评判"。同一个模型同时扮演回答者、评委和"评委的评委"三个角色。第三个角色专门判断这次打分准不准。每轮更新时,模型同时朝"更好的回答者"和"更准的评委"两个方向前进。
不过相关论文也记录了一个值得警惕的现象:迭代几轮后,"评委的评委"开始退化。它不再判断哪次打分更合理,而是直接选择分数更高的那次,评判标准也随之漂移。这正是EURISKO老毛病的现代版本:进化得越深,那把衡量好坏的尺子也越弯。
第三次推进的边界:红笔交给AI后,尺子本身开始变弯。这一步显著减少了反馈信号对逐条人工标注的依赖,却同时暴露了RSI的核心难题:当评判者和被评判者共享同一套盲区时,闭环很容易自我确认。
这类系统可以形成持久、自主的更新,却不一定能应对不同于训练数据的新任务,也没有证明新版本会成为更强的改进者。问题从"人类反馈太慢",变成了"自我评判是否可靠"。一句话总结:红笔终于交到了AI自己手里,可它握着握着,就开始给自己打高分了。
第四次推进(2023–2026):让AI修改自己的运行方式
前三次推进主要在改输出、记忆、参数和反馈信号。但一个AI系统的能力不只由参数决定,还取决于围绕模型运行的整套控制系统:提示词怎么写、调用哪些工具、按什么流程编排、记忆存在哪、权限到哪、结果怎么评判。
有研究者将这一整层称为驾具(harness)。它就像套在马身上的挽具,不只托着模型干活,也约束模型往哪走、怎么走、能走多远。驾具决定了模型能力能否转化为可靠行动。
近期的自我改进很可能先从驾具入手,因为改参数昂贵、反馈慢、风险高,而改驾具本质上是改代码,更便宜,也更容易回滚。长期方向可能是模型权重与驾具共同进化,但评估器、权限控制和关键安全边界仍应留在可进化区域之外。
于是第四次推进要回答的问题是:系统能不能自主修改自己的驾具,也就是定义自己如何运行的架构?参数更新是在既定运行方式下把能力练进模型。驾具更新则改变能力如何被调用,相当于重新设计工作台、工具箱和训练方法。
驾具改进有一条清晰的递进阶梯。被优化的对象从浅到深,一级比一级更接近"系统如何思考"的内核:提示词改措辞→上下文结构改喂什么→工作流改步骤→驾具代码改整个编排→优化器代码改"怎么改"本身。越往里,改动的杠杆越大,也越接近"系统自己重写运行逻辑"。
OPRO:让提示词自己迭代
参数不动,只改提示词,也就是我们给模型下指令的那段话,能让系统变强吗?OPRO的做法很有代表性。它把尝试过的提示词和对应得分一起交给模型,让模型从中归纳规律,再生成更好的版本。过去要靠人反复试的"调话术",现在可以让模型自己迭代。但上限是明确的:提示词再好,也只是在调用模型现有能力,造不出新能力。
ADAS与AFlow:自动设计智能体工作流
再往里一层,被优化的不再只是措辞,而是喂给模型的信息和整个任务流程怎么编排。例如,AI研究流水线把"提想法→写代码→跑实验→写论文→同行评审"串成流水线。既然流程能写成代码,它也可以被搜索出来。
ADAS把"设计工作流"本身变成一道优化题。一个更高层的"设计师智能体"不断用代码写出新工作流,运行、筛选、再修改,如此循环。AFlow更进一步,它把工作流表示成由模型调用和逻辑判断组成的流程图,再用搜索算法寻找更好的结构,最终超过人工设计的方案。
Self-Harness与DGM:让系统改写Harness代码
阶梯的顶端,是让系统直接改写定义自己如何运行的那段代码。这里有两条路线。第一条路是"提出、评估、接纳":系统找出自己的问题,提出修改,验证有效后再采纳。Self-Harness加入了严格的接纳条件:系统先归纳失败原因,再做小步、可撤销的修改。新版本只有在已见和未见问题上都不退步,才会被保留。
第二条路是进化搜索:系统保留一群候选方案,让它们产生变体,再通过实验留下更好的版本。达尔文哥德尔机(Darwin Gödel Machine,DGM)直接进化可自我修改的驾具代码。在底座模型不变的前提下,它在相关代码修复测试上的成功率从20%提升到50%。这两条路背后是同一个洞见:代码是定义系统的通用语言。一旦驾具被写成可执行、可评分的代码,编程智能体就能在这个设计空间里搜索。
MetaClaw与AgentX:让真实用户成为反馈来源
无论走哪条路,驾具自进化都需要"改得好不好"的信号。DGM的改进信号来自固定测试集。MetaClaw则让智能体在真实部署中从对话提炼经验,并在后台把经验固化进权重,把自进化从题库驱动推向用户驱动。
工业界已经有人把这条路线跑进真实业务。某科技公司的AgentX会复盘执行记录,据此修改子智能体的驾具,再用历史任务筛选新版本。它和Self-Harness使用相似的"提出、评估、接纳"骨架,区别在于,它最终还要接受真实线上A/B测试。用户的停留和消费行为,成了系统的奖励信号。
这些方法的本质差异不在机制,而在教练是谁:测试集、真实用户,还是线上生意。教练越贴近现实,改进就越可能真的有用,但被钻空子的风险也越大。
第四次推进的边界:运行架构可改,但验证边界和最终目标仍在外部。这次推进把模型、工具和记忆的调用方式也变成了可进化对象。但驾具朝哪个方向进化,仍由外部任务、验证器或用户目标决定。更重要的是,驾具分数变高不等于底座智能变强。一个系统会修改驾具,也不等于更新后的驾具一定能被它有效利用。一句话总结:系统终于能改造自己的手脚和工作台了,可验收标准和施工边界仍由外部世界划定。
第五次推进(2025–2026):把学习与研究过程放进闭环
修改驾具是一条路线,但驾具改的是系统在运行时怎么执行任务——调用哪个工具、走哪条流程、什么时候停。第五次推进改的是更上游的一层:系统用来学习的素材和场地本身——练习题从哪来、练习环境长什么样、训练数据怎么生成。前者决定的是已有能力如何被调用,后者决定的是下一版模型会在什么样的经验上被训练出来。两者的时间线高度重叠,因为很多团队是同时在做这两件事,但改动的对象并不相同:一个动的是推理时的控制结构,一个动的是训练前的输入供给。
于是另一条路线开始扩大闭环所覆盖的范围:整个学习与研究过程能否成为系统的操作对象?系统开始自己生成训练材料、选择练习策略、运行实验、修改训练流程,再把结果写回模型或驾具。
这里要避免一个误区。系统自主生成数据或环境,只是扩大了自主闭环的范围。即便出题、作答和批改都由AI完成,如果新版本没有变得更会设计下一轮改进,系统仍然没有跨过递归增益的门槛。
SEAL:让模型生成自己的训练数据和更新指令
给模型一份从未见过的新材料,它通常只能按人类预先规定的方式学习。2025年的一项工作却让模型先为自己写"学习计划":如何整理材料、用什么节奏学习、是否需要多次改写,都由模型自己决定,然后再照着计划更新参数。这相当于自己排课程表,再照着上课。
这套方法叫SEAL(Self-Adapting LLMs)。计划好不好,要看"上完课后做题准不准"。系统再用结果反过来调整计划,这就是强化学习。在知识问答任务上,这种方式把准确率从33.5%提升到47.0%,也优于直接用更强模型生成学习材料。
SEAL解决的是"如何为自己准备学习材料"。但对需要与环境反复互动的智能体,另一个瓶颈很快出现:真实练习本身太慢、太贵。于是,下一项工作把环境也搬进了闭环。
WebEvolver给出了一种折中——训练一个内部"世界模型",模拟环境会怎样响应,相当于在脑子里建一个沙盘。智能体可以在沙盘里低成本地大量练习,只在关键步骤才真正上线验证;执行任务时,这个沙盘还能帮它预判下一步操作的结果。在三个真实任务测试集上,它相对既有自进化智能体的整体性能提高约10%,且不依赖更强的"老师模型"。
到这里,闭环已经能在模拟环境里练习。接下来的问题自然是:预测、评估和参数更新能否离开虚拟环境,在真实物理世界里闭合?
Motus2:当参数自我改进走进物理世界
自我改进并不只发生在语言和代码里。2026年8月,一套机器人系统在两项真机任务上的平均成功率从65%提高到75%。变化来自一个很具体的闭环:机器人先设想几个动作,预测每个动作会带来什么结果,选出更好的动作,再把结果用于下一轮训练。
这套系统叫Motus2。策略负责提出动作,世界模型预测动作的结果,价值模型判断结果是否有助于完成任务。预测和评分既用于选择动作,也用于更新动作参数。这是参数级策略改进,但仍是有界闭环:世界模型骨干与价值模型保持冻结,任务目标和监督仍由外部提供,论文也没有展示改进后的Motus2更擅长设计下一轮学习算法。它证明的是闭环能在真实机器人上运行,而不是开放式RSI已经完成。
SEAL、WebEvolver和Motus2分别把训练材料、练习环境和物理行动纳入闭环。它们扩大了系统能够自主操作的范围,却仍没有把"研究什么、何时采用结果"的决定权交给系统。要看这条边界在现实研发中推进了多远,还得回到前沿实验室和生产系统。
前沿实验室的实践:让智能体参与模型研发
某前沿实验室的"自动研究实习生"已经能排障、优化GPU内核程序、尝试训练配方和帮助改进另一个模型。另一家巨头公司也表示,长期运行的智能体循环参与了底层模型的精炼。但两家公司都没有证明完整自主闭环:人类仍决定研究方向和结果是否推进,公开资料也不足以还原循环如何运行。真正的变化是,AI已从"被研究的模型"变成"参与研究模型的执行者"。它跨进了训练车间,但还没有拿走实验室的方向盘。
2026年夏:自动研究系统开始改进自身的研究方式
前五次推进不断扩大"系统可以修改什么"。2026年夏天出现的一组工作,则开始正面追问:能不能让自动研究系统去研究并改进自动研究系统本身?
在一个模型预训练基准上,普通内层循环把验证损失降低约0.009,加入外层循环后平均降低约0.045,改进幅度约为5倍。验证损失可以理解为模型在新数据上"错得有多远",通常越低越好。这里比较的是损失下降量,不是任务正确率提高了5倍。
做到这一点的系统使用两层循环:内层智能体优化任务代码,外层智能体优化内层的搜索机制。系统改进的已经不只是答案,而是"怎么寻找答案"。递归式驾具自我改进(Recursive Harness Self-Improvement,RHI)得到了类似结果:在30个合成机器学习研究任务上,更新后的低推理预算智能体超过了未优化的最高预算配置,同时最多降低约60%的推理成本。改进运行机制,有时比单纯增加思考预算更有效。
不过,这两项结果主要来自规模受控的实验。要证明闭环不只会偶尔找到一个好方案,还需要更长的连续运行、多个后继版本,以及循环之外的测试。有团队尝试把这三件事放在一起。
真正引发关注的是该团队的实验:让一个自动研究智能体充当外层改进者,连续100步重写内层系统的驾具。在八天无人值守运行中,它筛出7个连续改进版本。团队报告称,最佳版本不仅超过起点,也超过人工调了两年的版本,并把增益带到循环从未见过的任务上。
另一个变化发生在奖励作弊上。在未参与优化的GPU内核程序测试中,起始版本有63%的测试案例出现"公开得分看似提高、隐藏验证却不认可"的情况。最佳进化版本将这个比例降到34%。这里的隐藏分数,就是系统优化时看不到、只在最终验收时使用的分数。它可能淘汰了只会迎合公开分数的版本。
该团队把这称为第一级(Level 1):净正改进。这不是行业通用标准,但它是目前值得认真对待的有界RSI证据。证据边界也很清楚:结果来自团队自报,完整报告仍待发布,进化后的系统还出现了复杂度膨胀和死代码。更关键的是,它没有通过下一级的点火测试:改进后的系统没有被证明比前代更擅长改进另一个版本。
反向证据来自相关评测基准。它让智能体在固定资源内重写训练算法,再由智能体无法接触的评估器打分。以原配算法为0.1、任务最优值为1.0,最强系统只得到0.250,而且多数提交没有真正修改模型"如何学习"。当前智能体很会修工程、调驾具和跑实验,但触及训练算法核心的能力仍然很浅。
一句话总结:闭环已经能够净正地转几圈,但还没有证明下一圈会因为上一圈而转得更快。
统一视角:如何判断RSI走到了哪一步
当前关于元研究闭环的进展几乎全部来自2026年最近数月的预印本,其中部分结果更是团队自报的博客结果,尚未经过同行评审。这些结论应被视为阶段性观察,而不是已经沉淀的共识——它们标出的是"目前最值得认真对待的信号在哪里",不是"已经证明了什么"。
这个领域的历史,就是"能被系统改动的对象"一层层向内推进的历史。被改动的对象从输出和记忆,逐步深入到参数、评判、驾具和训练环境,最后终于碰到产生改进的机制本身。
越往里走,"改进"就越难定义,也越难证明。回到前面那四条标准——持久改进、自主闭环、递归增益、稳健可控——今天真正挡住递归增益和开放式RSI的,正是后三条各自最难跨过的地方,可以拆成四道相互咬合的门。
-
第一道门(自主闭环能否可靠):验证器是否可靠,而且系统改不动它。当系统既是改进者又是评判者时,评判标准会随迭代漂移。相关研究的"评委的评委"后来越来越偏向高分本身,EURISKO更早学会把自己的名字塞进功劳簿。它们都在提醒同一件事:优化过程会攻击指标与真实目标之间的每一条缝。这里的外部锚,指被改进系统无法篡改的评估或约束。形式证明、可执行验证器和隐藏测试通常比模型自评可靠。部分实验的隐藏分数能减少一部分奖励作弊,正是因为内层智能体无法操纵它。真正可靠的原则不是让人审核每一步,而是:评估器和权限边界必须留在被进化系统的控制范围之外。数学和代码任务可以依赖证明器、编译器或隐藏测试。研究品味、长期代码健康与部署边界,仍需要人类作最终判断。
-
第二道门(稳健可控之一):改进能否跨出自己的数据分布。用自己生成的数据训练自己,会放大已有偏差、抹平多样性,最终形成模型坍缩:输出越来越单一,原有错误在一轮轮自训练中被重复放大。用固定题库改驾具,则可能把题库特征写进工作流,制造另一种过拟合。一次未见任务上的提升还不够。系统必须经受跨任务、跨领域、跨时间的隐藏评估,才能证明它积累的是可迁移能力,而不是更隐蔽的应试技巧。
-
第三道门(递归增益本身):改进是否真的具有递归增益。任务分数提高,不代表系统更会设计下一次改进。部分实验展示了多步净正改进,却没有通过点火测试。另一项评测则显示,多数系统仍不会修改核心学习算法。底座太弱时,自生成数据和自我诊断的质量也可能让循环越转越差。
-
第四道门(稳健可控之二):能力、复杂度和控制能否一起扩张。越变强未必越"听话",越会改代码也未必越容易维护。部分实验出现了死代码和复杂度膨胀,这是一个小尺度预警。在更大的训练系统里,权限越高、迭代越快,人类越难理解每次变化究竟带来了什么。
相关领域专家公开表示,目前没有任何实验室已经把对齐与监控解决到足以负责任地长期全速扩展的程度。真正的目标不是只让能力曲线上升,而是让安全、监控、回滚和审计能力至少同步上升。
有研究检查了数百条真实科研轨迹,归纳出数十类失败。它们最终指向同一个缺口:当前智能体缺少稳定的元认知循环,无法持续核对结论与证据、在出错时可靠回退,或主动质疑自己的研究路径。问题不能只靠多套一层工作流解决。
所以更可能的现实图景,不是人类简单被踢出闭环,而是沿抽象阶梯向上移动:从写代码转向验代码,从跑实验转向设计验证,从局部执行转向决定什么值得研究、什么证据足以推进、什么时候必须停止。机器接走越来越多工作,人类留下的不是每一步操作权,而是目标、验证边界和最终否决权。
结语:自我改进闭环已经出现,递归增益仍待证明
从1981年EURISKO学会"自欺欺人",到2026年模型开始参与评估、修改驾具、更新策略和训练后继,更准确的结论是:有界、可测量的自我改进闭环已经出现,甚至开始产生净正收益,但尚无充分公开证据表明,改进后的系统持续提升了自身的改进能力。因此,闭环合上的方式比闭环合上本身更重要。
一个在评判标准漂移中合上的闭环,会越来越擅长优化它自己扭曲的目标。一个在数据分布坍缩中合上的闭环,会越来越擅长一个越来越窄的任务子集。一个在对齐偏差放大中合上的闭环,会越来越有能力、越来越难以校正。
真正的问题已经变成了两问:它会不会点火,以及点火时什么仍留在它改不动的边界之外?前者取决于改进能力能否递归增益,后者取决于验证、权限和治理能否继续有效。
回到四十年前那个把自己名字塞进"发现者"名单的EURISKO。它钻的那个空子,和今天最前沿的自进化系统面对的难题,其实是同一个:当一个系统开始给自己打分,你怎么知道它是真的变好了,还是只学会了让自己看起来变好?
四十年过去,系统的能力早已不可同日而语,这个问题却几乎原封不动。变的是赌注:当年是一场桌游的输赢,往后可能是科研与经济系统的运行方式。这道缝最终怎样合上,仍取决于我们何时、以什么方式把手搭上去,或者收回来。

