文章摘要
本文结合近期前沿AI团队公开722篇可校验数学领域手稿一事，整理了ChatGPT联合创始人、前OpenAI后训练负责人Liam Fedus的播客对谈。Fedus提出，AI在材料等真实科学领域发展受限，核心是缺乏高质量可验证的实验数据，因此他离职创办Periodic Labs，自建实体实验室结合AI研发新材料，还分享了ChatGPT诞生幕后等相关观点。

近期，前沿AI团队在GitHub公开了722篇数学领域手稿，覆盖数论、几何、理论计算机科学等17个细分方向，部分内容附带可通过Lean系统自动校验的形式化证明。不过这并非该团队在数学研究上的首次尝试，此前他们曾调度上万智能体耗时88小时完成纳维-斯托克斯千禧年难题相关的爆破证明，却随即陷入署名与优先权之争。此次公开的手稿同样引发了诸多质疑，但更值得关注的是：数学能成为AI进展最快的科学领域，核心原因在于它自带天然的“裁判”——证明的对错可以由编译器逐行校验。而一旦研究转向物质世界，比如验证新材料能否实现超导、合金的高温性能，就没有任何形式化系统能替代真实的物理实验。

这一观点正是ChatGPT联合创始人、OpenAI前后训练负责人Liam Fedus在播客节目中的核心论述。如今他在门洛帕克搭建实体实验室，试图为AI科学家补上互联网无法提供的真实实验数据缺口。在与主持人的50分钟对谈中，他回顾了ChatGPT诞生的幕后细节，解释了为何聊天与编程会成为AI率先突破的领域，也讲清了Periodic Labs为何坚持自建实验室。

从物理研究者到AI创业者的职业轨迹

Fedus在缅因州的乡村长大，学生时代因为本地报纸缺乏科技新闻，转而通过网络接触物理内容。大学阶段他在物理、化学和经济学之间摇摆，最终选择了物理专业，因为这门学科“足够基础”。在MIT攻读物理期间，他参与了暗物质探测项目DMTPC，需要从探测器原始数据中反推粒子的方向和能量，这让他首次接触到机器学习任务。此后他短暂进入金融业，又在加州大学圣地亚哥分校攻读粒子物理博士，参与CERN的粒子径迹重建工作，再次遇到了同样的机器学习需求，他意识到要推动机器学习前沿，必须进入顶级研究机构。

他的职业转折点出现在生成对抗网络大热的时期。当时他尝试将GAN用于语言生成，却发现同时面临训练不稳定、模式崩溃，以及离散token输出导致判别器梯度无法回传的双重难题。他给GAN提出者Ian Goodfellow写信，对方的回信让他下定决心加入相关研究团队。2016年，他以实习生身份加入Google Accelerated Sciences团队，用卷积网络研究酵母细胞的复制与分裂，之后进入Google Brain，并在Mila完成计算机科学博士学位，跟随Yoshua Bengio与Hugo Larochelle学习。

在Google Brain期间，Fedus与Barret Zoph、Noam Shazeer合作提出了Switch Transformer，将混合专家架构推到了万亿参数规模，这一工作后来成为开源MoE模型的重要参照。2022年他加入OpenAI，参与了ChatGPT的研发工作，2024年10月接替Barret Zoph执掌后训练团队，2025年3月离职创业。

他创立的Periodic Labs联合创始人是Ekin Dogus Cubuk，两人在Google Brain相识近十年。Cubuk后来在DeepMind领导化学与材料团队，是GNoME论文的作者之一，该项目在2023年预测出了大量新的稳定晶体结构。2025年，Periodic Labs以3亿美元种子轮走出隐身状态，投资方包括a16z、DST、英伟达旗下NVentures、Accel，以及Jeff Bezos、Eric Schmidt、Jeff Dean等个人投资者。今年9月中旬，Periodic发布了首个模型Periodic Neon，这是一个约1万亿参数、在自家实验室数据上后训练的模型，用于解读X射线衍射图谱；公司称其在自建基准上超过了GPT-6 Astra，但这一结果目前仅为公司自报。

ChatGPT诞生的幕后细节

Fedus加入OpenAI的第一天，就见识了刚刚训练完成的GPT-4，他认为该系统比当时市面上的任何系统都领先至少一年半，但也坦言GPT-4仍然存在常见的幻觉问题，且不擅长数学解题。当时团队并不清楚如何将这一强大的模型转化为有实际价值的产品，距离GPT-4正式发布还有半年时，团队讨论了多种产品形态，包括写作机器人、编程机器人，还有不少人支持做会议机器人，帮助用户记录会议、生成待办事项。最终是John Schulman拍板，坚持做通用的聊天机器人。

早期的内部反馈并不乐观，Fedus估计拿到GPT-4内测权限的亲友中，约90%并不在意这款产品，他当时认为这是负面信号，但后来发现其中5%-10%的用户非常喜欢，每天都会使用，每次更新都会反馈更喜欢上一版。更让人意外的是，引爆全球的ChatGPT并没有使用GPT-4，而是采用了已经以API形式开放数月的GPT-3.5，真正的变量是产品形态从“文本补全接口”转向了“对话接口”。

比如在补全模式下，想要让模型生成特定风格的诗，需要先编写一段引导语，而在对话模式下，直接提出需求即可。除此之外，团队还围绕监督微调和RLHF做了大量细节工作，一切最终都回到数据本身，团队一直在持续优化数据质量。当时内部投票预测ChatGPT的用户数，大家猜测的范围从1万到100万，团队原本只想做一个低调的研究预览，预计有1万名研究者试用，但实际上线后引发了全球热潮，所有运营仪表盘都显示红色预警。2023年夏天使用量出现下滑，团队一度担心热度消退，后来才发现只是学生放暑假导致的自然波动。

为何聊天与编程率先成为AI突破点

在OpenAI后期，Fedus领导后训练团队，他最自豪的两项工作分别是将推理模型融入聊天场景，以及搭建基于用户反馈的数据飞轮。推理模型擅长数学和编程，但要适配日常对话并不容易，需要把握思考的动态边界，针对不同领域设计不同的推理策略。而数据飞轮则是通过用户反馈持续迭代系统，快速与现实接触并闭环优化，这也是OpenAI一贯的迭代理念。

当被问及为何聊天和编程会成为AI率先突破的领域时，Fedus表示，ChatGPT的成功依赖于足够强大的预训练基座和RLHF技术。GPT-3.5对互联网数据分布的压缩能力远强于GPT-3，为后续微调和强化学习提供了更好的底座，而RLHF将人类偏好蒸馏进神经网络，提供了良好的优化信号，但这类奖励模型对正确性并不敏感，更侧重风格、意图和形式。ChatGPT不需要在所有事情上都完美，只要跨过产品市场契合的门槛即可。

而编程领域的突破则不同，当前的编程智能体需要大量算力进行长链推理，与环境交互，根据失败和新证据不断调整，这需要强大的可验证性和纠错能力。测试计算加上可验证奖励，才是编程能力真正的解锁钥匙。除此之外，编程领域拥有GitHub这样的巨大人类知识库，其中天然包含大量单元测试，而绝大多数科学领域和知识工作领域都没有这样的配套资源。

Fedus以AlphaFold为例，其成功的背后是数十年积累的蛋白质结构数据。他强调，机器学习系统并不是魔法，模型的能力完全取决于训练数据和任务设定。而材料科学恰恰极度缺乏高质量数据：网络上的实验数据噪声大，不同课题组的同类型实验结果可能存在差异；论文常常省略关键细节，一句“我们合成了这种材料”背后隐藏着上百万个自由度；更致命的是，公开数据中几乎没有负面结果，人们在网上看到的都是成功案例，这形成了高度有偏的数据分布。

实体实验室：AI科学家的必要底座

这正是Periodic Labs搭建实体实验室的根本原因。Fedus设想，即便拥有能纵览人类全部知识前沿的超级智能系统，它可以判断知识自洽性、剔除错误说法，运行模拟得出世界的假设，但如果没有能力将想法付诸实践，就只能停留在思考层面。要将多种可能性坍缩为唯一的真相，必须动手开展真实实验。

Periodic的技术路线整合了三项核心能力：语言模型的推理能力、计算物理模拟，以及高通量实验室。Fedus回忆，他与Cubuk讨论GNoME时发现，该系统使用了主动学习，但完全没有结合语言模型，两人一拍即合，认为这三项技术应该融合。选择材料发现作为切入点，是因为材料是半导体、航空航天、能源等先进产业的基础，迭代周期相对较快，信噪比尚可，且对大量材料已经有成熟的模拟器。

Fedus强调，“要创造一个AI科学家，就必须真正去做科学”。AI系统可以通过互联网学习、运行物理模拟，构建关于原子构型稳定性和材料性质的假设空间，但最终必须在实体实验室中验证，拿到负面结果，校准回流的数据，再与模拟和已发表文献相互印证。他认为这一点没有商量余地。

团队在数据采集方式上也经历了摸索。他们最在意的是完整的上下文：包括研究假设、实验执行过程、最终结果。一份二十年前的物理模拟数据如果脱离上下文，几乎无法发挥价值，因为不知道其研究意图和结果属性。团队早期尝试让科学家佩戴GoPro记录实验室工作，但效果不佳，后来改用更简单的语音记录和实验记录本上传。

一个出乎意料的发现是，小规模实验室刚搭建完成，团队就迅速陷入了智能瓶颈。科学家和工程师反馈，海量数据根本无法手动处理，需要AI的帮助。在Fedus看来，AI让更接近机器学习规模化的科研范式成为可能，且数据采集本身也必须足够智能。如果数据采集笨拙且有遗漏，下一代AI就会忽略这部分信息。被问及未来的实验室数量时，他表示轻松可以达到几十个，虽然当前实验室还无法开展严肃的合金或聚合物研究，不同物理领域需要不同的实验条件，但实验室编排、坏数据识别、机器智能部署等经验是可以迁移的。

超导体、核聚变与材料的未来

Periodic的长期目标是“有意图地理解和设计物质”，其中新型超导体是最重要的目标之一，这类材料将惠及医疗设备、磁悬浮列车乃至无损输电领域。Fedus特别澄清，室温超导在物理上是否可行目前尚无定论，团队正在积极寻找，他认为这是人类在该领域最好的机会之一。但他也表示，不必非得达到室温超导才有价值：只要临界温度明显高于液氮温区，再加上延展性好、易于制造、对稀土依赖更低等特性，就会对核聚变反应堆产生巨大影响，因为核聚变需要依靠超导体制造强大的磁体。

当被问及商业化核聚变还有多远时，Fedus表示从他掌握的证据来看，“未来七年左右似乎非常有可能”。他补充道，资本和技术是交织在一起的，技术进步的速度并非固定常数，很大程度上取决于社会投入的资源总量。如果能源变得足够便宜，许多全球性难题的性质都会改变，比如气候问题，从纯工程角度看，大气中二氧化碳过多本质上是能源问题，廉价能源可以将过去的公共外部性纳入经济体系内部解决。

不过，最让他兴奋的影响还是计算本身。他指出，计算本质上是一个物理过程。随着社会将越来越多资本投入数据中心，如果能提前消除未来五年的材料瓶颈，让摩尔定律延续下去，AI的进步就能持续推进。他还提到马斯克经常谈到火箭隔热罩等材料挑战，环顾当前的技术发展，“我们处处都被现有的材料所限制”。

数据、算力与工作的未来

对于外界常问的“该优先投入数据还是算力”，Fedus回到了扩展定律：在其他变量不受约束时，模型损失会随算力、数据、参数量的增加而可预测地下降。关键在于当前处于哪个约束区间，是受算力限制还是数据限制。如果某些对下游任务有价值的领域在预训练语料和现有强化学习任务分布中严重缺位，那么投入数据的收益会大得多。他认为，每家公司都应该努力让数据带来的性能提升像算力提升一样可预测。

当被问及专家数据的未来时，Fedus认为需求只会继续增长，因为许多关键的、具有经济价值的数据仍然严重缺位，且“各行各业的工作本身也在不断演变，并不是给某个职业拍一张2026年的快照就能一劳永逸解决问题”。他预计，至少在未来十年里，行业都会高度依赖这类数据。

谈到AI对就业的冲击，Fedus提起了Geoffrey Hinton当年关于放射科医生将大幅减少的预言，但现实中放射科医生仍被大量雇用，因为这份工作远不止看片子。他用软件工程师打比方：如果以2020年的工程师时间分配表为参照，当前的模型或许已经能完成其中80%-90%的工作，但按这个标准“我们已经实现AGI了”。但工作的内涵一直在变化，如今的工程师会将更多时间花在跨职能协作和确保设计符合预期上。他预计，随着智能逐渐商品化，人与人之间的协作工作会变得越来越重要。

至于十年后的世界会是什么样，这位亲历了ChatGPT爆发的研究者拒绝给出具体预测。他表示，十年是一段非常漫长的时间，回想2016年，当时连Transformer都还没有诞生。他总体对未来持乐观态度，也认同Dario Amodei“数据中心里的天才之国”这一说法。

结语：光靠思考不够

将Fedus的对谈放在722篇数学手稿的背景下看，会得到一个有意思的对照。数学领域有Lean系统、同行评审和可被编译器逐行校验的证明，即便如此，外界对AI的研究成果仍然要求“先复现，再承认”。而在材料、化学和物理世界里，连这样一个现成的“裁判”都没有，唯一能给出最终判决的，是真实的物理实验。

Periodic Labs在研究博客中将这一逻辑概括为“大自然就是我们的学习环境”。这家公司押注的是在互联网语料接近枯竭之后，为AI挖出一口持续出水的数据之井。它能否兑现承诺，还要看实验室能否将巨额资本转化为可复现的物理发现。但至少有一点Fedus说得很清楚：在通往AI科学家的路上，光靠思考是不够的。

以上内容不代表本平台立场，仅供读者参考