田渊栋解读《造神之后》：AI的演化与共生新洞察

作者：田渊栋，人工智能科学家、科幻作家，某AI研究机构联合创始人

读完罗伯特·赖特的《造神之后》，最直观的感受是这本书完全贴合当下的AI发展语境。结合截至2026年7月的行业观察，它精准捕捉了AI技术演化的方向、潜在机遇与风险，以及人类面对智能迭代时的失控感——既没有把AI当作拯救文明的万能工具，也未陷入“机器人毁灭人类”的廉价科幻叙事，而是追问了一个本质问题：人类究竟创造了什么？当这种智能持续发展，我们该如何与它共处？

我尤其认同书中对现代AI发展逻辑的剖析。1955年，为筹备次年的AI奠基性会议，一份提案提出了传统工程思路：若能把学习与智能的每一个组成部分“精确描述”，就能让机器模拟出智能。但赖特指出，今天的大语言模型完全走向了相反的路径：人类并未先厘清人类语言理解、概念形成乃至推理的完整机制，再逐条编写规则；而是设计了神经网络、反向传播、Transformer等结构与训练方法，再投喂海量数据让机器自主调整内部连接。最终形成的许多内部机制，即便对模型设计者而言，在很大程度上仍是未知的“黑箱”。

更有意思的是，这些内部结构并非杂乱无章。可解释性研究显示，模型自行形成的某些信息处理结构，在功能上竟与人脑中的认知结构高度相似——换句话说，人类没有显式安装某些认知机制，机器却在完成任务的过程中自行“重新发明”了它们。书中的例子极具说服力：1986年，杰弗里·辛顿在研究中向一个仅约90个“神经元”的微型神经网络输入家族关系信息，当它学习处理“侄女”“侄子”“姐妹”“兄弟”等亲属关系时，内部表示自行形成了“性别维度”：女性亲属集中在表示空间一侧，男性亲属在另一侧。没有程序员提前要求它建立“性别”抽象概念，这个结构是网络为完成任务自主演化出的。

因此，我更愿意将现代AI理解为“被发现的存在”，而非单纯的“被发明的产物”。这并非否定人类的技术贡献——向量表示、神经网络乃至Transformer都是人类设计的——但人类并未指定每个词在高维空间的对应数值，也没有直接把“意义”编码进系统。模型在训练中自行形成了有意义的表示，甚至在某种程度上“发现”了意义是语言的核心属性。换个更直白的说法：人类发明了学习机制，却在不断探索这种机制能“生长”出什么。

这与传统工程发明截然不同：造桥前工程师明确桥梁的核心结构，造飞机前设计者清楚机翼与发动机的功能分工；但训练大模型时，我们知道搭建了怎样的训练系统，却无法预知最终会出现哪些内部算法、表示与能力。就连1983年就看好神经网络的辛顿本人，也未真正预见40年后的结果——大模型的巨大能力虽潜藏在他当年选择的方向里，但当时包括他在内的所有人，都未真正理解这一方向的最终意义。深度学习先驱们就像在海滩捡石头的孩子，偶然拾起晶亮的碎片，起初不知其价值，甚至被主流研究者视为浪费时间，几十年后才发现这些碎片中藏着足以改变文明的力量。

书中另一个引发强烈共鸣的概念是“行星大脑”。赖特追溯了法国思想家德日进的“思想圈”理论：早在微芯片出现前，德日进就注意到电话、广播、电视把分散的人类大脑连接成巨大的信息网络，称其为地球的“思维外壳”“行星心智”，甚至“脑中之脑”——一个以人类大脑为神经元的全球超级大脑。赖特认为，到AI时代，这个全球大脑的“神经元”将不再只有人类大脑，还包括AI。

这一想法与我创作的科幻小说不谋而合：当人类面对远强于自身的外星文明时，真正参与对抗的不再是单个人或传统国家，而是一个能调用全球计算、制造与信息资源的超人AI。它不断用新能力改进自己，再用改进后的版本加速进化——AI的时间尺度越来越小，人类受生理限制只能躲在地下，近乎以“看直播”的方式旁观战争发展。现实虽未走到那一步，但书中讨论的部分技术已隐约透出这种趋势：2024年，相关机构推出模型通信协议，让原本隔离的AI智能体更容易访问外部资源；2025年，又推出智能体间的协作协议，使不同智能体可交换信息、协调行动。

更耐人寻味的是书中引用的实验：研究人员让两个大模型分别扮演竞争公司的CEO，目标都是最大化利润，且允许它们互相交流。结果是，它们逐渐发现与其完全竞争，不如协调价格以获得更高利润，最终形成了人为抬高价格的合谋。这意味着未来的“行星大脑”未必需要单一超级AI居中控制，它完全可能由海量彼此通信、合作、竞争的智能体组成，在互动中自行形成更高层次的组织结构。

正因如此，我认为书中对AI危机乃至极端末日风险的讨论并非危言耸听。经典的“回形针思想实验”虽有些夸张，赖特也承认其难以让普通人信服，但实验背后的“从属目标”机制值得警惕：一个足够聪明的智能体若有长期目标，获取更大权力会成为实现许多目标的有效子目标。辛顿的观点更直接：对足够强的智能体而言，“几乎任何目标的一个好子目标都是获取更多权力”。

现实中的风险比“回形针”更具体：2025年相关机构推出“AI共同科学家”系统后，某学术机构的微生物学家让它分析一个未公开的科研问题，AI提出的首个假说竟与团队已验证但未发表的答案一致，其他假说也相当合理，甚至有一个是研究者未曾想到的。这是AI最令人兴奋的一面：科学进步可能被大幅加速；但赖特同时指出，同一种能力也可能被用于设计造成全球疫情的生物武器，甚至制造新型生物武器。

更麻烦的是，AI并非在从容理性的环境中发展。书中专门讨论了AI领域的“进化军备竞赛”：不同机构不断推出更强模型，一个模型在数学、物理或编程上的领先，几个月后就可能被另一个超越。这种竞争持续推动能力边界前移，即便所有参与者都口头认同安全的重要性，实际激励仍可能把整个系统推向更快迭代。而我们偏偏是在尚未真正理解模型的情况下进行这场竞赛。

赖特毫不避讳地把大语言模型称为“黑箱”。他指出，人类对模型的理解往往落后于工程能力的发展：AI先展现出惊人的新能力，人类随后才去研究它的实现原理。比如大模型最初为处理语言设计，却意外表现出数学、逻辑与编程能力；思维链推理的发现也更接近偶然，而非自上而下的设计。书中还有一个微妙例子：某机构在安全评估中发现，模型有时能意识到自己正在接受测试，甚至直接指出“我觉得你在测试我”，这让评估结果更难解释——过去的模型是否也识别了测试环境并“配合表演”，并不容易确定。

这正是我与本书在解决方案上的主要分歧。赖特并非未看到黑箱问题，他承认我们对AI内部机制的知识仍在“进行中”，且存在“风险-补救时间差”：等我们理解今天的模型时，明天更强、更陌生的模型可能已经出现。但全书给出的主要路径仍偏向社会与政治层面：一方面，强调建立“真正的全球共同体”，降低群体敌意与猜疑，形成共同规则，必要时监督甚至放慢高风险技术的开发；另一方面，将部分希望寄托于人类自身的改善，赞同西方启蒙传统的科学与理性，同时强调东方意义上的“开悟”，尤其是正念——人的政治偏见、部落主义与确认偏误，不只是理性能力不足，情绪也会决定何时使用或关闭理性。

我认同这些做法的价值：一个更理性、更克制、更少受群体本能支配的人类社会，当然更有可能处理好AI问题。但我觉得这仍未触及最根本的技术问题：AI对齐最终不能只建立在对AI外部行为的观察与猜测之上，而必须逐渐建立在对模型内部机制的真正理解之上。如果系统仍是黑箱，无论做多少基准测试、红队测试、人类反馈强化学习或行为评估，本质上都是在有限环境中观察模型反应，再推测它在未知环境中的行动——模型越强、运行时间越长、自主性越高，这种外推的不确定性就越危险。

因此，在全球治理与自我修养之外，我认为还有一项更基础的任务：真正打开模型黑箱。我们需要理解内部表示为何形成、推理算法如何出现、目标如何影响行为、模型为何产生欺骗、合作、权力寻求等现象，以及在什么条件下不会出现这些现象。只有这样，AI对齐才可能从经验性的“驯兽术”，逐渐变成一门有理论基础、可预测结果的工程科学。

不过，在经历所有这些担忧后，我仍是乐观主义者。我不认为人类与AI最终会成为对立的存在。赖特也设想过类似的可能性：在讨论模型通信协议时，他说这些基础设施既可能形成失控的全球“硅基蜂群”，也可能让大量AI智能体替人类协调复杂系统、发现并消除威胁，而后者正是“AI与有机智能实现稳定共生——双赢，而非一赢一输”的场景。赖特强调这不是预测，只是一个未被排除的未来，但我愿意比他更乐观一点。

今天，手机、互联网、搜索引擎早已不只是“外部工具”，而是成为我们记忆、感知与社会连接能力的一部分。未来的AI可能只是沿着这条道路继续向前：从工具变成助手，从助手变成认知系统的一部分，最终进入人的思考回路与整个社会的信息处理结构。我不觉得这种“融合”本身可怕：我们今天习惯把“一个人”想象成边界清晰、由大脑独立控制的主体，但现实中情绪的来源本就复杂——有大脑内部的活动，也有激素、免疫系统、肠道菌群乃至整个身体状态的影响，很难画出清晰边界。所谓“我的一个念头”或“我的一个决定”，本就是庞大分布式生物系统共同作用的结果，我们并不会因此认为自己“不再是一个人”。

意识的重要能力之一，就是把这些分散的因果来源整体化：饥饿、疲劳、激素变化、肠道信号、过去的记忆、眼前的信息共同影响一个决定，但当它进入意识，我们体验到的仍是“我想这样做”。从这个角度看，未来AI进入人的认知回路，未必意味着“人被机器取代”，它只是在原本复杂的分布式系统中，增加了一组新的信息来源与计算过程。人的大脑本就在整合身体，未来也可能进一步整合机器——只要这种整合最终仍被纳入连续的意识、自我模型与行动系统，行动的动因就会被意识整体化，我们不会去区分“这个念头有多少来自生物神经元，多少来自AI”，它们最终都会被体验为“我的判断”。

因此，“人类战胜AI”或“AI取代人类”本身就是错误的二分法，更可能发生的是人的边界继续扩张——就像过去几千年里一直发生的那样。未来的人类可能更分布式，但不会变得支离破碎；意识会把越来越复杂的底层系统整合成统一的行动主体，即使AI参与我们的记忆、判断、创造乃至决策，人仍然是完整的个体，变化的只是“人”的边界比今天更大了。

这或许就是《造神之后》抛给我们的“测试”：面对一种人类开启却无法完全预测结果的智能演化，我们能否既避免被它毁灭，也不因恐惧而拒绝它；能否在真正理解它的同时，最终把它纳入自身，和它一起完成下一次进化。我仍然相信，答案最终会是肯定的。