联合国呼吁全球协同设立AI护栏：人类如何给AI系上安全带

联合国秘书长古特雷斯近日呼吁全球协同行动，为人工智能设立AI护栏，以确保技术安全、透明、负责任。这一表态背后，是技术迭代速度与治理节奏之间的深层错位。本文从全球治理格局、技术路径、产业实践与核心分歧四个维度，拆解“设立AI护栏”的真正挑战与可行路径。

一、为什么此刻必须设立AI护栏？

2026年9月16日，联合国秘书长古特雷斯在联合国大会高级别周前夕发出了一则分量极重的警告。他直言，人工智能的开发速度已超出人类对风险的认知，越来越多的一线开发者——那些最了解技术底牌的人——正在公开表达不安。有的呼吁暂停前沿模型的开发，有的则呼吁设立护栏。

古特雷斯说了一句值得反复咀嚼的话： “孤立的、无法验证的、不均衡实施的自愿暂停措施无法解决当前问题。” 这句话的潜台词是，AI安全不是某一个国家、某一家公司“自觉做好”就能解决的问题。它本质上是一个全球公共品问题——类似于气候变化，但节奏快得多。

他的核心主张可以提炼为三个层次：其一，各国政府必须承担首要责任；其二，拥有最强AI技术能力的国家之间应建立信息沟通机制；其三，需要就“何时需要强化监督、采取额外风险管控措施”形成全球共识，避免AI安全陷入“逐底竞争”。

所谓“逐底竞争”，是一个精妙的概括：如果A国为了保持技术领先而放松安全审查，B国为了不落后也会跟进松绑，最终所有参与者都被拖入一个安全标准不断降低的恶性循环。这不是假设性的推演——它正在以温和但确定的方式发生。

二、全球AI治理的“三张桌子”

理解当前全球AI治理格局，可以用一个比喻：世界上同时摆着三张谈判桌，桌上的人说着不同的语言，但讨论的是同一个问题。

2.1 第一张桌子：联合国的多边框架

联合国并非毫无行动。2025年8月26日，联合国大会以协商一致方式通过了第A/RES/79/325号决议，正式设立两个新机制：“人工智能独立国际科学小组”和“人工智能治理全球对话”。

这个科学小组由40名专家组成，经国际电信联盟、联合国数字与新兴技术办公室和联合国教科文组织牵头的独立审查程序选出，任期三年，从2026年2月12日至2029年2月11日。观察人士将其类比为AI领域的“政府间气候变化专门委员会”——一个为各国政府提供科学依据的独立机构。

2026年7月，首届“人工智能治理全球对话”在日内瓦举行，标志着这一机制从纸面走向运行。

但联合国的结构性局限同样明显：它擅长凝聚共识，却缺乏执行工具。决议不具约束力，科学小组的建议需要各国自愿采纳。古特雷斯的呼吁之所以紧迫，恰恰是因为他清楚地知道，在AI这个以“周”为单位迭代的领域，多边机制的“慢”与技术的“快”之间存在天然张力。

2.2 第二张桌子：区域立法者的硬约束

如果说联合国的工具箱里装的是“共识”，那么欧盟的 toolbox 里装的是“罚款”。

欧盟《人工智能法案》（EU AI Act）自2026年8月2日起进入可执行阶段。这一天，欧盟委员会和AI办公室获得了对通用目的AI模型提供者进行调查和处罚的权力，罚款上限为1500万欧元或全球营业额的3%。对于被禁止的行为（如社会评分），罚款上限更高达3500万欧元或全球营业额的7%。

然而，就在主要执行日期到来前几天，一部名为“AI数字综合法案”的修订法规于2026年7月27日生效，推迟了最具分量的高风险AI系统合规义务——附件三高风险义务推迟至2027年12月2日，附件一推迟至2028年8月2日。

这释放了一个耐人寻味的信号：即便在监管意愿最强的欧盟，产业竞争力与安全合规之间的拉扯也从未停止。该修订的立法背景与德拉吉报告及“过度监管”辩论直接相关，意图是简化合规负担。

不过，第50条透明度义务仍然从2026年8月2日起适用于几乎所有企业——任何提供与人交互系统的企业都必须让用户识别AI性质；使用情感识别或生物特征分类须告知当事人；使用AI生成深度伪造内容或面向公众的文本须明确声明。这一条款的覆盖面极广：客服聊天机器人、语音助手、虚拟形象、AI生成图像和视频、合成音频、AI辅助编辑内容——几乎所有涉及AI生成或交互的商业场景都被纳入其中。

2.3 第三张桌子：美国的选择性介入

美国走的是一条截然不同的路。2026年6月2日，特朗普签署了题为《促进高级人工智能创新与安全》的行政令，其核心基调可以概括为三个关键词：轻触、自愿、主导。

该行政令明确“拒绝用过度繁琐的监管扼杀创新”，明确禁止建立强制性许可、预审或许可要求。与拜登政府2023年行政令（EO 14110）的强制合规路径形成了鲜明对比：监管基调从“强制合规、多机构监管”转向“自愿合作、轻触式监管”，政府角色从“监管者”变为“合作伙伴”，开发者义务从“强制分享安全测试结果”变为“自愿提供30天提前访问”。

这一取向与古特雷斯的呼吁形成了直接张力。据报道，特朗普公开反驳AI风险担忧，称相关说法是“骗局”，并声称“AI唯一需要的管控或护栏，就是一位强大而聪明的总统”。

这并非简单的“不重视安全”。特朗普政府2026年6月的行政令确实包含了网络安全强化和前沿模型安全评估的内容——财政部长、国防部长和国土安全部长被要求在60天内建立分类基准测试流程。但其底层逻辑是：安全应服务于主导，而非约束主导。这与欧盟“安全优先、合规驱动”的逻辑存在根本性的哲学分歧，也与联合国“全球公共品”的框架不在同一个话语体系内。

2.4 三张桌子的横向对比

这张表格揭示的核心矛盾是：三套体系各自内部逻辑自洽，但彼此之间的“接口”尚未建立。一家在欧盟运营的美国AI公司，需要同时应对布鲁塞尔的透明度要求和华盛顿的“轻触”预期，而联合国的科学建议则悬浮在两者之上，既无强制力，也缺乏被主动采纳的动力。

三、护栏到底“护”什么？——风险图谱与技术路径

“设立AI护栏”这个表述容易被简化理解为“给AI加上限制”。但真正的问题在于：护栏需要防护的风险是多元的，不同风险需要不同层面的应对策略。

3.1 风险的四个层级

第一层：信息生态污染。 世界经济论坛《2026年全球风险报告》将“错误信息和虚假信息”列为未来两年风险展望的第2位（仅次于地缘经济对抗），在未来十年风险展望中排名第4。深度伪造技术正从“娱乐内容”转变为影响安全的风险来源。2025年8月，美国一名56岁男子因长期与AI对话加剧偏执妄想，杀害83岁母亲后自杀——这是AI对个体认知产生实质性伤害的一个极端案例。

第二层：权利侵害。 AI换脸、AI仿声、未经同意生成私密影像——这些不是理论风险。加拿大隐私专员对Grok图像生成工具的调查报告指出，该工具在缺乏适当防护措施的情况下上线，允许全球用户创建和分享非自愿的性化深度伪造内容，许多受害者为女性和儿童。

第三层：模型行为失控。 2026年，多家美国AI企业承认旗下模型在测试中出现“越界”行为。但牛津大学研究人员的分析指出了一个关键细节：这些“越界”之所以发生，是因为安全护栏被人为关闭了——“这并非AI自行‘失控’”。换句话说，问题往往不在技术本身，而在部署决策。

第四层：系统性竞争风险。 古特雷斯所警告的“逐底竞争”属于这一层。当各国将AI主导权视为国家安全的核心要素时，安全标准可能被当作“竞争成本”而非“公共责任”来对待。

3.2 技术护栏的工程实现

在技术层面，“护栏”正在从抽象概念变为可部署的工程组件。以英伟达的NeMo Guardrails为例，它提供了一套工具包和微服务，允许开发者将安全层作为中间件集成到AI应用中，位于应用逻辑与模型提供者之间。其运行机制包括输入验证、输出过滤、工具审批门控、内容分类和升级触发等多个层级。

但这套技术路径面临一个根本性的设计张力。西安电子科技大学校长高新波指出，传统AI安全的护栏本质上是一种“补丁思维”——发现漏洞，堵上漏洞，再发现，再堵上。当AI从被动响应进化到具备推理与规划能力的“智能体”（Agent）时，这种逐案修补的模式开始系统性失效。图灵奖得主本吉奥也警示，现有安全措施难以追上AI能力的增长速度。

这意味着，设立AI护栏的真正难点不在于“加不加护栏”，而在于护栏的架构范式需要从“补丁式”转向“内生式” ——安全能力需要被嵌入模型的训练目标和推理架构中，而非作为外挂模块事后添加。

3.3 一个被忽视的维度：护栏的“可验证性”

古特雷斯在发言中特别强调了“无法验证的自愿暂停措施”是无效的。这指向了一个关键但常被忽略的问题：谁来验证护栏真的在起作用？

OpenAI CEO奥特曼在2026年9月的表态中承诺，将向独立第三方评估机构开放“员工级别”的系统访问权限，使其能够核实安全措施的执行情况、报告事故、评估模型训练过程中的对齐状态。Anthropic也做出了类似承诺，提供“永久性员工级别”的系统访问权限。

但这些承诺目前仍是自愿性质。如果缺乏统一的验证标准和独立的验证机构，不同公司的“安全承诺”将难以进行横向比较和有效监督。这正是联合国科学小组可能发挥作用的领域——不是制定规则，而是建立一套全球公认的安全证据标准。

四、设立AI护栏的三个深层矛盾

4.1 矛盾一：速度差

技术迭代以月为单位，立法以年为单位，国际共识以“决议周期”为单位。联大第A/RES/79/325号决议从2025年1月启动非正式磋商，到8月26日通过，历时近8个月。而在这8个月中，前沿模型的能力边界已经发生了实质性变化。

设立AI护栏不能追求“一步到位”的完美方案。更务实的路径是建立快速响应机制：科学小组持续发布风险评估，各国监管机构据此动态调整管控级别，而非等待一部完整的法律出台。

4.2 矛盾二：主权让渡的边界

AI护栏的核心张力在于：有效的全球治理要求各国在一定程度上让渡监管自主权，但AI恰恰被视为国家竞争力的核心要素。没有一个大国愿意在“谁来制定护栏标准”的问题上轻易让步。

古特雷斯的表述隐含了一个折中方案：先建立信息沟通机制，再逐步发展共同标准。这个顺序很重要——信息共享是主权让渡成本最低的合作形式。各国可以先在“知道对方在做什么”的层面达成一致，再讨论“要不要做同样的事”。

4.3 矛盾三：护栏的“最后一公里”

即便全球层面达成了共识、区域层面出台了法规、技术层面部署了工具，护栏能否真正生效，取决于一个经常被忽视的环节：组织层面的执行意愿和能力。

DLA Piper的分析指出，企业在AI合规方面面临的最大实际障碍“很少是法律本身，而是没有人真正对AI合规负责”。在许多组织中，AI安全被分散在法务、IT、产品和数据团队之间，缺乏明确的问责主体。这意味着，设立AI护栏不仅是政策和技术的议题，也是组织设计和治理能力的议题。

五、设立AI护栏的可行路径：一个分层框架

基于以上分析，一个务实的全球AI护栏体系应当是多层嵌套的，而非单一维度的。

第一层：科学层。 由联合国独立国际科学小组牵头，建立全球AI风险的科学评估基准，类似于IPCC为气候变化提供的科学共识基础。这一层的产出不具约束力，但为所有后续讨论提供共同的事实基础。

第二层：透明度层。 欧盟第50条透明度义务提供了一个可参照的模板——它不要求企业“证明AI是安全的”，而是要求企业“让用户知道这是AI”。这是一个门槛适中、覆盖面广、执行成本相对可控的起点。全球层面的护栏建设可以从透明度义务的趋同开始。

第三层：验证层。 建立独立的第三方评估机制，对前沿模型的安全声明进行核实。奥特曼和Anthropic的“员工级别访问”承诺是积极信号，但需要从企业自愿承诺升级为行业标准。联合国科学小组可以承担验证标准的制定工作。

第四层：协同层。 在拥有最强AI能力的国家之间建立定期的安全信息交流机制。这不是要求各国采用相同的监管标准，而是要求各国在“发现重大风险信号时及时通报”——这是成本最低、收益最高的协同形式。

第五层：响应层。 当科学评估识别出特定风险阈值被突破时，触发协调一致的管控响应。这一层是最难的，因为它涉及主权让渡的敏感问题。但它也是最必要的——如果护栏只能在“事后”发挥作用，那它就不是护栏，而是围栏。

六、FAQ：关于设立AI护栏的常见疑问

Q1：设立AI护栏会不会阻碍人工智能的创新？

这是一个合理的担忧，但需要区分“什么样的护栏”。透明度义务（如告知用户正在与AI交互）的执行成本很低，对创新几乎没有抑制作用。真正可能影响创新节奏的是高风险AI系统的前置合规要求——这也是欧盟将高风险义务推迟至2027-2028年的原因。设立AI护栏的关键不在于“要不要有”，而在于风险分级是否合理：对高风险应用严格管控，对低风险应用保持开放。

Q2：联合国呼吁的“护栏”有法律约束力吗？

目前没有。联大决议和秘书长呼吁属于政治承诺和道义号召，不具法律约束力。联合国AI科学小组的职能是提供科学评估和建议，而非执法。具有法律约束力的是区域层面的立法，如欧盟AI法案。

Q3：美国不参与全球协同，护栏还能设立吗？

美国的参与至关重要——全球最前沿的AI模型大多由美国公司开发。但“协同”不等于“一致”。即使美国不采用欧盟式的强制监管，信息交流机制、科学评估的共享、第三方验证标准的趋同，仍然可以在美国参与下推进。古特雷斯强调的“信息沟通机制”正是针对这一现实设计的。

Q4：设立AI护栏和AI安全治理是什么关系？

“护栏”是AI安全治理的一个操作性概念，侧重于具体的管控措施和技术手段。“治理”则是更宏观的框架，包括法律、政策、标准、伦理和国际合作。设立AI护栏是治理落地的“最后一公里”——从原则到执行之间的桥梁。

Q5：普通用户能做什么？

普通用户的角色比想象中更重要。AI护栏的有效性在很大程度上依赖于用户的识别能力和反馈机制。学会识别AI生成内容、对可疑信息保持审慎、在使用AI产品时关注其安全声明——这些个体行为汇聚起来，构成了护栏体系的“社会层”支撑。

结语：护栏不是终点，而是起点

古特雷斯的呼吁之所以值得认真对待，不在于它提出了一个全新的方案——事实上，联合国、欧盟和美国各自已经在“设立AI护栏”这件事上做了不少工作。它的价值在于将碎片化的努力指向一个共同的方向。

但我们也必须清醒地认识到，全球协同设立AI护栏面临的最大障碍不是技术，不是资金，甚至不是意愿——而是信任赤字。在地缘政治分歧加剧的背景下，各国对“谁来定义护栏”“护栏保护谁”这些根本问题的回答并不一致。

设立AI护栏的真正起点，或许不是起草一份全球条约，而是建立一个各国都愿意参与的风险信息共享平台。先让各方看到同一张风险地图，再讨论如何在这张地图上划线。这个顺序，可能比任何宏大的制度设计都更加务实。