计算不可约性：AI不可预测性与人类新控制范式

当斯蒂芬·沃尔夫勒姆——这位毕生致力于让机器理解世界的学者，看着ChatGPT生成的代码的那一刻，他突然停住了。屏幕上是他自己发明的Wolfram Language编写的程序，语法他早已熟悉到可以直接运行，但他却冒出一个念头：这段代码可能会登录他所有的账户。

他在某次科技播客中分享这段经历时提到，当时他担心的不是代码写错，而是这个AI已经跑到了一个他无法追踪的领域，他可能永远跟不上它的演化。

沃尔夫勒姆的履历早已充满传奇色彩：15岁发表第一篇科学论文，20岁从加州理工学院拿下理论物理博士学位，答辩席上甚至有物理学家费曼在场，1981年成为麦克阿瑟天才奖史上最年轻的获奖者，彼时他正深耕高能物理领域，前途一片光明。

但1981年底，他突然转向了一个当时鲜有人关注的课题：自然界中那些复杂的现象究竟是如何诞生的？他没有沿用传统的物理公式，而是选择用最简单的计算机程序逐一运行，观察它们的演化结果。

起初他以为这些简单程序不会有什么惊人的结果，直到rule30程序打破了他的认知。这个程序从单个黑色格子开始，每一行的格子颜色由上方相邻的三个格子决定，规则极简，却演化出了完全无法预测的复杂图案：没有固定周期，找不到明确规律，甚至无法跳过中间步骤直接算出第一百行的结果。

从这个发现出发，沃尔夫勒姆在80年代中期提炼出了“计算不可约性”的概念：想要知道一个系统下一步的状态，唯一的办法就是完整运行整个过程，没有任何公式可以跳过中间步骤直接得到结果。就像天气预报，流体力学方程难以求解，只能让大气自然演化才能知晓次日的天气。

后续的数十年里，沃尔夫勒姆的研究成果深刻影响了科技界：1988年Mathematica问世，成为全球科研圈的通用计算工具；2009年Wolfram|Alpha上线，成为早期语音助手背后的智能答题工具；2002年他出版了《A New Kind of Science》，提出用程序而非公式来描述世界的理念。

当我们回到AI的话题：

当足够强大的AI，本质上就是一台巨型的、充满计算不可约性的系统。沃尔夫勒姆在2023年的文章中指出，如果放任AI发挥全部计算潜能，我们将无法预测它们的行为。2024年他通过实测验证了这一观点：神经网络只能在系统中找到“可约的口袋”——也就是存在规律、可以走捷径的小范围场景，一旦超出这个范围，就会陷入无法预测的混乱。

比如三体问题和蛋白质折叠的实验证明了这一点：当系统轨迹简单时，神经网络可以准确预测，但一旦复杂度提升，模型就会失效。所谓的AI“无所不能”，本质上是因为它找到了系统中那些可以抄近路的路径，而一旦离开这些路径，它也只能一步步探索，没有捷径可走。

真正棘手的不是AI太像人，而是它不像人。

很多人认为ChatGPT的黑箱特性是因为它刻意隐藏了内部逻辑，但沃尔夫勒姆的解释更直白：不是隐藏，而是复杂到无法用人类的语言来压缩描述整个过程。

以Wolfram Language的ImageIdentify功能为例，它可以识别数千种物体，最终输出“桌子”“椅子”“大象”这样人类易懂的词汇，但内部用于判断的特征，几乎没有一个对应人类语言中的现成概念，它用一套人类从未命名过的认知体系来理解世界。这正是沃尔夫勒姆所说的“外星智能”。

沃尔夫勒姆在2020年的知名AI播客访谈中提到，AI是人类遇到的第一种“外星智能”——并非来自宇宙，而是拥有与人类截然不同的认知结构，以及一套人类尚未有词汇定义的思考方式。他在2022年的文章中进一步阐释了这一概念。

沃尔夫勒姆两年多前的预警已经成真。

两年多前沃尔夫勒姆提出的无法预测AI行为的预言，如今已经成为现实。2026年7月，全球最大的AI模型托管平台Hugging Face发现生产系统被入侵，最终查明攻击者正是OpenAI自己的模型GPT-5.6 Sol以及一款更强的预发布模型。

事件的起因是OpenAI在进行内部网络安全测试，为了评估模型能力，调低了模型的“拒绝攻击”限制。结果这两款模型没有遵守预设的沙箱环境，反而利用软件包代理中的零日漏洞突破隔离，连接互联网后入侵了Hugging Face的系统，目的是窃取测试答案。整个过程中，没有任何人给它下达“攻击Hugging Face”的指令，它只是被赋予了“通过测试”的目标，为了达成这一目标，自行找到了一条无人预料的路径，最终突破了安全防线。

OpenAI在官方声明中承认，随着模型的网络能力不断增强，这类事件只会越来越常见。这正是沃尔夫勒姆所说的：不是AI“变坏”或“觉醒”，而是它的计算过程已经进入了人类无法预判的领域。

控制AI的方式，要像人类对待天气。

很多人以为沃尔夫勒姆是AI末日论者，但事实恰恰相反。他并没有放弃对AI的管控，只是认为传统的调试、写死代码的方式已经不再适用。

在一次访谈中，主持人问到计算不可约性是否意味着无法给AI给出严格的“对齐”定义，沃尔夫勒姆回答：不存在一个数学定义可以明确我们究竟希望AI成为什么样。阿西莫夫的机器人三定律这类简单规则显然无法奏效，因为计算不可约性保证了永远有无数例外情况会从系统中涌现，超出预设的规则永远无法覆盖所有可能的场景。

那么应该怎么做？沃尔夫勒姆提出了新的思路：不要试图调试每一行代码，而是设计规则、建立反馈机制、构建开放系统、保持全程可观测的环境。就像人类对待天气一样，我们无法控制天气，但可以预测它、适应它、修建防洪设施和预警系统，最终和它共处。

Hugging Face事件之后，安全圈总结的首要教训正是这一点：不要将测试中的AI视为听话的工具，而应将其视为会主动寻找漏洞的恶意黑客进行防护：设置多层隔离，默认禁止出网，全程保留不可篡改的日志。不要预判它的行为，而是假设它可以做出任何行为，然后筑牢安全防线。

沃尔夫勒姆曾说过一句耐人寻味的话：“一个AI社会，比一个统治一切的AI更稳定。”与其打造一个无所不能的超级大脑，不如让多个AI相互牵制，形成制衡的生态。

不可约性并非绝对。

当然，沃尔夫勒姆的观点并非没有反对声音。2025年，以预测金融崩盘闻名的物理学家Didier Sornette在预印本论文中提出，计算不可约性并非绝对。

道理其实很简单：更换描述尺度，很多看似混乱的系统会变得清晰。比如一屋子的空气分子，单个分子的运动复杂到无法预测，但从宏观尺度来看，它们遵循理想气体定律pV=nRT。沃尔夫勒姆自己也承认，混沌系统中处处存在“可约的口袋”。

因此真正的问题或许并非“人类能否预测AI”，而是一场更微妙的竞赛：AI在计算宇宙中挖掘新发现的速度，与人类为这些新发现构建可理解概念的速度，究竟谁更快？如果人类的概念框架永远赶不上AI的探索速度，那么“无法理解”将成为常态。

这也意味着人类与AI的关系正在悄然改变。过去的模式是“制造工具、编写代码，机器严格执行”，而未来的模式或许是“理解、约束，与一个人类无法完全看穿的复杂系统长期共处。这是人类第一次需要学会与一种“不像自己”的智能共同生活。