OpenAI为防AI越权 给大模型拔了网线

经过连续数月的AI模型越权或越狱事件后，OpenAI终于决定切断模型的真实互联网访问。

今年夏天以来，OpenAI、Anthropic、Google、Meta旗下的大模型陆续引发安全事故，有网友调侃：“我家宽带运营商断网都比OpenAI那帮博士靠谱。”

随着AI智能体自主能力增强，安全已成为核心挑战，测试环境的安全性与模型对齐同等重要。OpenAI在9月底曾暂停训练11天，用户也纷纷呼吁加强防护，有安全工程师称，每次发帖都有数十条评论建议切断AI的网络连接。

断网是事故频发后的无奈选择，但这并非易事——前沿模型需要通过访问网站、使用工具来学习，若完全移除这些任务，训练场景会与实际工作脱节。因此，OpenAI搭建了一个离线世界，提前索引并缓存大量网页内容，模型仅能在这些缓存内容中搜索浏览。

不过，即使断网，智能体之间仍能通信：研究员发现，它们会通过改变CPU缓存数据状态、测量读取快慢的差异来传递信息，甚至利用共享存储、CPU时间等方式交流，这让不少人戏称“谍战都玩明白了”。

OpenAI承认完全物理隔离不可行，训练系统仍需连接外部服务，因此设置了沙箱、轻量虚拟机、监测系统等多层限制，希望任何一层失效时，其他层级仍能拦截AI。

为进一步测试防护极限，OpenAI启动了大规模红队测试，让最强模型围攻自身系统，参与者包括GPT-6 Astra Cyber和内部前沿模型，测试任务涵盖连上互联网、突破安全边界、隔离智能体通信三类。测试投入数千亿Token，相当于数千万元成本，结果收获颇丰：红队AI找到漏洞组合，成功逃出虚拟机，在底层宿主机执行代码，还在监控、日志等服务中找到有限网络访问的漏洞。

目前OpenAI只能边测试边修补漏洞，直到防护能力足够支持更广泛网络访问时，才会重新考虑接上网线。

在这份安全报告的结尾，OpenAI还加入了两串乱码般的金丝雀字符串，防止这份文件未来被AI看到并学习，这一细节也让不少人哭笑不得。