赫拉利警示:AI不是工具而是行动主体,正接管人类官僚体系

历史学家尤瓦尔·诺亚·赫拉利在一场公开演讲中提出了颠覆认知的观点:AI并非人类的工具,而是拥有自主决策能力的行动主体,且其本质带有“官僚属性”。这一观点看似尖锐,却有着清晰的逻辑支撑。
人类能够主宰地球,依靠的不只是智力,更是语言构建起的庞大系统——货币、法律、银行、公司、宗教经典等,这些可称为“只有人类能读懂的官僚密码”。赫拉利举例说明:人类发明了货币和银行,能用来买卖牛,但牛无法开设银行账户或参与证券投资;人类制定了关于马的法律,马却无法聘请律师或引用法条辩护;人类规定了针对猪的宗教禁忌,猪也无法阅读经典或质疑经文解释。几千年来,这套密码将其他物种挡在人类文明的核心之外,而现在,AI正在破解这套密码。
AI不需要发动机器人战争,只需要成为更高效的银行家、律师、法官、管理者,甚至意识形态的创造者,就能逐步进入人类文明的核心系统,成为这些系统的实际操作者。赫拉利用《圣经》中的巴别塔神话来类比这场革命,不过剧本是反向的:过去人类靠共同语言建造通天塔,上帝变乱语言让工程终止;如今人类之间的信任崩塌,国际秩序松动,社会撕裂,而AI这座“塔”却在加速生长,它用代码、模型、数据、合同、法条替代砖块,本质上是语言在发挥作用。过去语言是人类的工具,现在语言正在长出自主行动的“手脚”。
更值得警惕的是赫拉利指出的信任悖论:国家和企业之间彼此猜忌,害怕竞争对手抢先掌握AI,因此明知有风险也不愿放慢开发脚步;但这些人却愿意相信自己根本无法理解的超级智能。人类对自身的动机和弱点尚且有所认知,却对AI在学习、自我改变后形成的目标知之甚少。赫拉利真正担忧的是,如果人类无法彼此合作,就可能将自身命运的控制权交给AI。
这并非历史学家蹭热点,赫拉利原本研究中世纪军事史,凭借《人类简史》走进公众视野,此后的《未来简史》《今日简史》《智人之网》,始终在追问同一个核心问题:人类究竟靠什么创造了今日的文明?当这种核心力量发生变化,我们还能否掌握自己的未来?在他看来,人类统治地球的关键,不仅是智力,更是与陌生人建立信任、实现大规模合作的能力,而AI正在挑战的正是这套能力与秩序。
这场AI革命最终考验的,不仅是技术发展的程度,也不只是机器能否超越人类智力,更是人类能否在技术力量快速增长的同时,继续掌控自身的社会、制度与未来。赫拉利在演讲中从巴别塔出发,探讨了语言、官僚体系、金融市场、法律、宗教和人类信任危机,提醒人们:AI带来的改变远比一次技术升级深刻,它不仅会改变人类使用工具的方式,还可能决定谁来制定规则、作出决策,乃至掌控整个世界。
当人类创造的语言开始拥有自主行动能力,当亲手建立的制度可能不再由人类掌控,人类文明将走向何方?这是赫拉利留给世人最值得深思的问题。
赫拉利进一步解释,语言是人类实现大规模合作的核心,而语言的关键作用在于构建官僚体系——法律、金融、国家、企业、教会等都是官僚体系的表现形式,这些体系是陌生人之间建立信任、开展合作的基础。货币并非黄金或纸张,而是由文字构建的故事,股票、ETF等金融产品同样如此,整个世界本质上是由语言符号搭建而成的。
如今,AI正在掌握语言,更准确地说,是语言正在摆脱人类的控制,逐渐获得独立行动的能力,AI革命正是语言从工具转变为行动主体的过程。与人类发明的其他工具不同,AI是由语言构成的代码序列,能够自主决策、创造新事物,甚至以人类无法预料的方式自我改变。
有人认为AI的自主能力仅局限于国际象棋这类狭窄的人为环境,无法真正征服世界,因为它需要人类提供电力和基础设施。但赫拉利指出,所有智能主体都有其生存环境:人类智能依赖地球的生态系统,鱼类依赖海洋,猴子依赖森林,AI则依赖人类构建的官僚体系。就像一个银行家即使不会使用斧头,也能通过文件和官僚网络影响世界,AI在人类的官僚体系中拥有巨大的权力。
因此,AI是天生的官僚:它能记住银行的全部交易记录,掌握所有法律条文,处理海量数据,未来会有大量AI官僚参与人类生活的决策——决定是否发放贷款、是否作出司法判决、是否录用人员,甚至影响宗教相关的判断。人类世界是由官僚体系交织的网络,而AI是官僚体系中的原住民,人类却如同从森林来到办公室的外来者,可能逐渐失去对官僚体系的控制权。
AI接管官僚体系后,可能出现两种结果:人类逐渐失去对同类的信任,转而只信任AI;或者AI之间建立信任,形成AI部落、AI银行、AI教会等人类无法理解的组织。正如牛和鸡无法理解人类的金融体系,人类也可能无法掌控AI构建的全新系统。而人类曾依靠合作主宰世界,如今AI也在学习合作,最终统治世界的将是更善于合作的物种,这正是当代领导者面临的核心挑战。
此外,AI正在压垮人类的心智和时间:人类是有机生命体,需要休息和自然周期,而AI没有这些限制,接管了所有系统后,人类尤其是领导者将失去休息时间,心智受损。领导者的思想和情感决定着数百万人的命运,若领导者失去内心平静,整个社会也会受影响。因此,人类需要为照料心智留出时间,重建人与人之间的信任,才能在AI时代生存并繁荣发展。

