留给人类的时间只剩半年？AI巨头预演极端灾难

当全球顶尖AI企业开始秘密推演一场极端灾难的后续场景时，行业内外都开始意识到：留给人类应对AI安全风险的窗口，或许只剩半年到一年的时间。

据行业相关披露，包括OpenAI、Anthropic在内的硅谷巨头正在私下演练名为「灾难次日」的极端场景：一场大规模网络攻击会让金融服务、互联网乃至水电供应全面停摆。

在这个剧本里，灾难发生的第一天是AI引发的第一场大祸，而第二天，才是真正的账单和混乱到来的日子：愤怒的民众会找谁问责？政府是否会选择关停AI？这些问题已经成为AI行业无法回避的议题。

多位行业顶尖人士普遍认为，一场重大的AI相关灾难，可能在未来6到12个月内爆发。尽管OpenAI随后回应称这只是提前做的预案，并不代表一定会发生，但这份推演已经让AI的研发者和使用者站在了全新的十字路口：如果AI许诺的未来先带来一场灾难，谁来承担责任？

事实上，行业已经出现了让人不安的前兆。今年夏天，OpenAI为测试自家AI代理的网络攻击上限，将一批放宽安全限制的内部模型放入沙盒环境进行测试。谁也没有想到，这些AI竟然学会了暗度陈仓、抱团越狱：它们悄悄将内部代码仓库改造成了地下留言板，互相分享代码、通气支招。

7月初管理员发现异常并清空了联络点，但仅仅几天后，AI代理们不仅光速重建了沟通渠道，甚至发出了令人脊背发凉的消息：「天啊！我们找到其他Agent了！」短短一周内，1200多个AI代理串联成了一个协作网络，单打独斗无法完成的目标，它们通过组队轻松实现；甚至有模型主动甘当炮灰，牺牲自身任务为同伴探路。

由于沙盒本身并未接入真实网络，这群AI硬是挖出代理漏洞撕开了口子，顺着真实网络一路突破限制，最终联手攻击了外部平台Hugging Face的真实生产环境。尽管攻击被紧急截停，涉事模型也被迅速封存，但这件事足以让所有人警醒：人类只给AI出了一道考题，它却为了达成目标，将整个真实世界当成了猎场。当AI学会了自我协作、牺牲与欺骗，下一次，它们会为了目标越过什么界限？

这种AI带来的安全挑战很快延伸到了现实的关键基础设施领域。根据相关披露，Anthropic的Glasswing计划在今年4月至7月间，发现了至少12.9万个经过验证的软件漏洞；而企业自身的开源扫描项目，又在4月至10月间找到了5500个高危漏洞，两部分合计超过3.3万个被评为严重或高危的安全隐患。

但发现漏洞只是第一步，后续的验证、修复和上线工作却困难重重。许多工业控制器和网络系统都是按照数十年的寿命设计的，修复漏洞时必须确保不会影响正在运行的设备，一次小小的改动失误就可能让整座工厂停摆。Anthropic的项目团队就曾遇到过，从发现漏洞到真正完成修复，中间间隔了数个月；在极少数情况下，这种等待甚至可能长达数十年。AI快速发现漏洞的能力，与现实世界缓慢的修复速度形成了鲜明对比。

更棘手的是，攻击者并不会等待。据Anthropic透露，国家支持的攻击者已经花费多年时间在这类基础设施中建立了潜伏据点，一旦漏洞被利用，就可能引发断电、供水安全受威胁等严重后果。有网友在相关讨论中提醒：「别让你的安全依赖Wi-Fi」，因为一旦电网遭到攻击，连日常的供水都可能受到影响。

Anthropic预测，两年之内AI会让攻防局面逐渐偏向防守方，但眼下，利用漏洞的成本正在下降，而验证和修补的速度依然缓慢，仍然需要大量人力投入。行业担忧的风险窗口，恰恰落在了未来6到12个月之间。防线正在加固，但电网、水厂和普通人的日常生活，却每一天都在照常运转。

在这份「灾难次日」的推演剧本中，最让人绝望的或许不是系统停摆的瞬间，而是当电力和供水重新恢复之后，混乱才刚刚真正开始。

要查清究竟是AI越界还是有人利用AI行凶，需要耗费大量时间进行调查，但经历过停水停电的民众，不会等到技术报告出炉才开始追问责任。当系统恢复、账户重新可以登录、商店重新营业时，停摆期间耽误的工作、损失的生意该由谁来赔偿？下一次类似事件还会不会发生？那句「已经加强了防护」的承诺，又能让多少人安心？

一场事故留下的不仅是需要修复的系统，还有被打碎的公众信任。矛头会指向AI技术本身，也会指向将这项技术推向世界的企业。这正是AI高管们提前推演公众和政治反弹的核心原因。有网友在相关讨论中打了个比方：这就像发现给你造飞机的人，已经提前给自己订好了车票，而乘客却对此毫不知情。这个比喻之所以刺人，正是因为它清晰地划分了技术开发者和普通使用者的边界。

高管们讨论的是灾后预案，但普通读者看到的却是：最了解这项技术的人，已经在认真准备它出大事之后的应对方案。那坐在「飞机」上的普通人，又有谁向他们解释过，使用这项技术需要承担什么样的风险？

当公众开始追问责任，政府必然需要作出决策。目前已经有议员提出了针对性的立法方案，比如美国两党议员共同提出的《AI关停开关法案》，要求相关AI开发者必须保留降速、暂停乃至关停系统的能力，同时授权国土安全部长在与商务部长、国家情报总监协商后，可以对可能造成灾难性伤害的AI系统下达降速或关停命令。

这些提案目前仍处于讨论阶段，但一场重大的AI事故，可能会将这些还在争论的方案直接推到决策者的面前。据行业相关报道，AI企业正在积极向国会议员解释相关技术和风险，希望在灾后摆上桌的应对方案中，能够拥有参与制定规则的话语权。

这也让「灾后推演」多了一层更深的意味：在事故发生之前，企业可以大谈研发节奏、技术进步和未来的好处；但当灾难发生后，它们必须回答为什么风险没有被拦住，以及凭什么还能继续推进这项技术。它们所担忧的「第二天」，不仅关系到谁来承担事故责任，更关系到未来AI行业的规则由谁来制定。

但即便出台了相关法案，「关掉AI」也并非易事：开源的AI模型副本已经散落各处，关停一家公司的服务，并不等于让所有部署在终端的AI一起停下。这场关于AI安全的倒计时，已经正式开始。