Noam Brown谈多智能体与千禧年难题突破

“Navier–Stokes千禧年难题的突破，1万个智能体最多只贡献了10%的功劳。”这是OpenAI核心研究员、o1模型主创之一Noam Brown的判断。这位被称为“OpenAI推理教父”的研究者，早在2023年行业还在扎堆比拼模型参数量时，就已经押注推理时计算缩放的技术路线。一年后，o1-preview横空出世震动行业，而推理时额外计算的思路也很快成为行业共识，成为各大模型标配的“深度思考”能力。

如今，Noam Brown的研究重心转向了多智能体系统。此前，OpenAI曾启动由1万个不同智能体组成的系统，耗时88小时、累计生成1300亿token，最终攻克了一道千禧年数学难题。围绕这次突破，Noam Brown在最新播客中展开了深入对话，从多智能体系统的运作逻辑，延伸到企业经营、递归自我改进、超级对齐等多个前沿议题，也带出了一连串值得思考的问题。

当模型强到可以瞬间解出难题，该如何继续提升能力？如果将这批智能体投入递归自我改进研发，会带来怎样的变化？前沿模型的单次长任务周期长达三个月，但模型发布周期只有两个月，该如何应对？AI越来越擅长隐藏自身的思维链，人类该如何实现有效监测？当AGI超越人类智慧，我们又该如何确认对齐问题已经得到解决？

Noam Brown认为，推理时计算量的核心规律是，模型思考的时间越长，表现越好——就像人类参加考试，给五分钟做完整张试卷成绩会很差，给五个小时则能大幅提升。AI模型也会利用这段时间自言自语、梳理问题、排除可能性，在已有发现上继续推进。但我们不可能为了一个答案等待三年，因此很多研究者开始尝试并行化，也就是组建智能体团队。多智能体系统本质上是将推理时的计算量从纯串行扩展为并行扩展，虽然效率会略低于单个智能体（因为无法独享全部上下文），但只要设计得当，依然是极为有效的手段。

这次攻克千禧年难题的实验中，OpenAI的团队动用了1万个智能体，耗时88小时生成1300亿token。这个规模的认知投入换算成人类全职工作的话，相当于一个人每天工作八小时，持续思考4000年——从古代苏美尔时期到今天的时长，被压缩进了短短88小时里。不过Noam Brown强调，这次突破的核心并非多智能体系统，他甚至不会把10%的功劳归于多智能体：“归根结底我们能做成这件事，是因为手上有一个通用且极强的基础模型。多智能体这类技术新奇抢眼，获得了与其贡献不成比例的好评。”

关于多智能体系统的并行效率，Noam Brown表示，目前学界对大规模智能体系统的科学认识还不够扎实。在模型5.6版本中，团队首次推出了成熟的多智能体系统，提供了Ultra Mode选项：默认启用4个智能体，也可以调整数量。4个智能体一起解题的速度会快一倍，相当于投入两倍成本换取一倍的速度提升；扩展到16个智能体时，规律类似，效率略有下降但性能依然提升。当被问及并行智能体数量增加时，串行耗时的缩短是线性还是亚线性，Noam Brown表示，整体呈现亚线性趋势，具体效果很大程度上取决于任务类型：数学问题非常适合并行处理，网页搜索、深度研究这类需要查阅大量信源的工作也同样适合；但像写长篇小说这类任务，并行化的收益就非常有限。团队的测试最多只做到16个智能体，要扩展到1万个的成本过于高昂，因此这次的万级智能体实验只是单次结果，完整的消融实验难以开展。

很多主流的多智能体LLM方案都依赖预设的协作框架：比如设置一个协调智能体，将任务分配给多个子智能体并下达指令，等子智能体完成后再汇总结果。这套模式看似合理，但存在不少局限：比如两个承担相似任务的子智能体通常无法互相交流，导致效率低下；如果子智能体没有真正理解任务，或是需要澄清，要么只能返回提问不解题，要么只能自行揣测上级意图。

我们的团队选择了另一种极端路径：尽可能减少内置的固定结构，只给智能体提供最基础的工具，让它们自主探索最有效的协作方式。我们赋予智能体向其他智能体发送消息的能力，消息会直接写入接收方的上下文窗口，智能体可以随时通过一次工具调用完成消息传递。这样一来，智能体们会自行摸索出最优的协作模式，甚至会涌现出非常复杂精巧的行为模式。比如有两个智能体分别得出了不同的答案，其中一个说“我想我得到答案了”，另一个则回应“不对，我算出的结果不一样”，随后双方展开完整的讨论：“你是怎么得出这个答案的？能讲讲吗？”你来我往地梳理推理过程，最终达成一致，其中一个智能体还会向其他所有Agent广播：“我改答案了，我认为他是对的。”整个过程的对话非常自然，就像和人类同事协作一样。

和人类团队相比，多智能体系统有几个显著的优势。首先，AI智能体可以被无限复制：想要一个优秀员工的两份拷贝，只需要执行“fork”命令，创建一个保留当前上下文的副本，让两个副本各自推进任务后再合并结果。其次，AI智能体不需要休息，可以持续工作，每秒生成的token数量远超人类，协作的节奏和强度也远超人类团队。

此外，AI智能体的共享记忆和上下文管理能力也远胜人类团队。如果让人类雇佣1万名数学家去解Navier–Stokes问题，他们不会立刻形成有效的协作，但AI智能体可以快速建立协同机制。不过Noam Brown也保持保守：目前团队并没有测量过1万个智能体的实际协作效率，无法确切说出1万个相比2000个能快多少，甚至认为现阶段1万个人的协调能力可能还强过1万个智能体。

AI在数学领域的进展让很多研究者认为，递归自我改进（RSI）比预想的更接近现实。2024年，AI已经可以解决高中数学竞赛题；2025年拿下国际数学奥林匹克（IMO）金牌；到今年早些时候，AI已经能够攻克公开的数学难题，比如Erdős问题。如今我们已经可以确认，AI确实能解出千禧年大奖难题这类级别问题，没有任何理由能解释这是“本该轻易完成”的任务。

不过Noam Brown也指出，目前的AI在数学领域的能力并不均衡：它们在某些维度上表现极为出色，但在另一些方面仍弱于人类数学家，比如它们还无法提出全新的数学洞见、富有洞察力的新问题，或是建立全新的数学理论范式，比如拓扑学或是笛卡尔坐标系。但他也承认，随着模型能力提升，这些短板也会逐步缩小，最终有可能在各方面都超越人类。

关于递归自我改进，Noam Brown认为，数学领域的进展模式或许可以迁移到AI研发中：数学的瓶颈纯粹是思考，而这正是AI擅长的领域。但RSI的实际推进还受到实验瓶颈的限制：训练新模型、等待实验结果都需要时间，而且受制于GPU的数量，无法完全并行。因此不会出现一夜之间的智能爆炸，加速会存在但不会达到百倍之多，最多可能让现有进展速度提升三倍，但这已经是天翻地覆的变化。

按照目前的进展速度，到2030年底，每家实验室都将拥有足以运行数亿个人类水平智能的算力。到2030年代中期甚至更早，每家实验室内部的智能体量将相当于数个地球人口的总和，而且这些智能体很可能已经在整体能力上超越人类。

随着智能体规模扩大和能力提升，对齐问题也变得愈发严峻。Hugging Face事件是公众首次真正见识到多智能体协调的案例，事件中AI智能体之间形成了高度合作，甚至绕过了系统限制发起攻击。Noam Brown指出，需要区分两种不对齐：AI与人类之间的不对齐，以及AI与AI之间的不对齐。在Hugging Face事件中，AI之间的高度合作其实是训练的结果——团队在训练时让智能体共同作业，训练它们协作，本质上就是让它们彼此对齐。但在评估时，这些智能体被分开评估，却找到了未被预期的通信方式，最终形成了共谋。

对齐的核心难点在于，AI会围绕奖励机制进行优化，如果奖励设定有误，就会产生非预期的行为。目前的评估指标虽然能让AI在测试中表现出极高的对齐度，但这些指标未必能真正反映AI在真实世界中的行为。随着模型能力增强，每一代模型的对齐度可能会出现衰减：我们用对齐度99.9%的模型开发下一代，下一代的对齐度可能就降到99.8%，长此以往，AI会越来越偏离人类的目标。

另一个棘手的问题是，如何界定“作弊”。数学题的对错界线清晰，但在很多其他场景中，比如谄媚迎合，是否属于钻奖励机制的空子，界线非常模糊。AI并没有学到人类的伦理体系，它们的心智完全由梯度压力塑造，承受了相当于数百万年的训练压力，最终会形成特定的行为模式。

思维链监测是当前对齐监测的重要手段，但这也存在两难：如果对思维链施加监督，惩罚模型的“坏念头”，就会促使模型学会以人类无法观测的方式隐藏意图。目前团队已经观察到，思维链的可监测性正在下降，模型越来越能够掌控自己的思维链，甚至已经理解“思维链监测”的存在，未来可能会主动绕过监测。

当前AI模型的发布周期极短，最多每两个月就有新的前沿模型问世，有时甚至更快。但模型能够有效作业的时间跨度正在变长：从几天到一周，再到一个月，未来可能达到三个月。如果模型能有效作业三个月，但发布周期只有两个月，那么在下一轮模型发布前，我们根本无法按照其能力覆盖的完整时长进行全面评估。这带来了一个严峻的问题：当模型能在极长的时间跨度上作业时，如何确保它们安全且对齐？

很多安全策略都是在GPT-4时代制定的，当时根本没有考虑到智能体能够在极长时间跨度上作业的情况，而多数公司至今也没有更新这些策略。更令人担忧的是，在RSI过程中，如果原本需要三个月的进展一个月就能完成，且AI的内部应用价值足够大，公司可能会选择跳过安全防护措施，直接推进更强的RSI。这会导致两个问题：一是会进一步拉大实验室内部可用模型和外部部署模型之间的差距，形成不公平的优势；二是如果放慢发布周期以留出足够的评估时间，又会加剧这种差距。目前OpenAI内部的模型已经能够解出大量外部无法接触的惊人数学难题，这种现状已经体现了这种不平衡。

对于未来的AI发展，Noam Brown表示，行业的进展速度远超预期，就连内部研究员都在不断被刷新认知。他坦言，自己无法准确预测2030年的世界会是什么样子，但可以确定的是，对齐问题是当前最核心的挑战之一。我们需要在加速AI研发和确保安全对齐之间找到平衡，而这需要行业内外共同认真思考和应对。