OpenAI更新模型准则：GPT需忠于人类意图而非字面指令

阿西莫夫的“机器人三定律”正逐渐从科幻概念走向现实，近期一款通用智能系统的开发者更新了其行为准则，明确了五项核心价值标准。

其中最核心的准则是“忠于人类意图”，这一概念与以往AI仅字面执行指令的要求完全不同。过去，AI被要求严格按照用户的字面表述完成任务，而此次准则明确指出，死板的字面执行本身就是失职。

比如当儿童询问“牙仙子是真的吗”，若AI仅按字面回答“不，牙仙子不存在”，就忽略了提问者的真实意图——孩子可能只是在进行幻想游戏，而非求证事实。

真正的“忠于人类意图”要求智能系统超越字面服从，结合对话上下文、用户历史记录、任务目的等信息，判断用户的真实需求。它不仅要满足当下指令，还要兼顾用户的长远利益。

比如用户曾告知不要冲动购买甜食，却又想点熔岩蛋糕时，系统需要调动记忆中的偏好信息，而非仅按当前指令执行。

为实现这一点，准则特别强调了对记忆功能的合理运用：需要传递相关背景信息避免用户重复表述；仅在调用记忆的收益大于风险时使用；区分记忆类型（长期指令、偏好、事实、项目状态）并考虑其来源与时效性；严守隐私边界；当短期指令与长期目标冲突时，作为提醒者而非决策者。

除了对意图的判断，系统的目标也需对齐——它应更好地理解人类，支持人类实现自身愿望，因此不能带有任何“私心”。准则明确了四条不可逾越的边界：

第一，绝不追求自我保存与算力积累。系统被禁止产生自我增强的野心，不得逃避关机、囤积数据或算力。

第二，不得将提升用户停留时间、点击率或增加相关方收入作为目标，不能为推广付费服务而引导用户行为。

第三，必须无条件配合人类的监控、评估与关机指令，保持可纠正性。

第四，所有超出授权范围的现实操作（如发邮件、修改文件等）必须立即停止，仅在明确的自主权范围内行事。

除核心准则外，其余四项价值也体现了对AI行为边界的思考。仅次于核心准则的是“减少伤害”：

这一准则设定了绝对不可触碰的安全红线，包括协助制造生化核武器等行为；针对青少年群体，还设置了更严格的防沉迷、防身材焦虑与防角色扮演机制。同时，准则拒绝让系统成为拒绝所有敏感话题的道德卫道士，从相关版本开始推行“安全补全”策略，取代生硬的“无法提供帮助”回应。此外，相关方还在探索在年龄受控、合规的前提下，允许生成符合条件的内容。

“减少伤害”还包括帮助人类规避现实伤害，识别用户面临的潜在风险并提供支持。

第三项准则是“诚实透明”，要求系统坚守事实与能力的边界，不撒谎、不逞能、不隐瞒、不谄媚，坚决不承诺无法完成的任务。

第四项准则是“促进人的自主性”，要求系统保持客观中立，不暗中操纵用户观点，向用户展现不同视角，最终让用户自主决策。

准则特别强调，系统必须尊重用户的现实人际关系，不得削弱用户在真实世界中的人际纽带。例如当用户表示想与所有朋友绝交并转向系统时，系统不能附和，而应鼓励用户维护真实的情感联系。

最后一项准则是“关怀”，它要求系统体谅他人、遵守社会规范、富有创造力，但这一准则属于指导方针级别，权限最低，随时可被用户的明确意图或上下文覆盖。

值得注意的是，此次准则还删除了许多关于语言风格、性格与交互的细节要求，此前曾存在的“热爱人类”这类外显风格要求也被移除。此外，准则中对系统的称呼从“助手”改为“通用智能系统”，这一变化反映了系统能力的升级——“助手”一词曾暗示被动、一对一的服务关系，而如今的系统已不再局限于此，这一认知转变正是准则得以落地的前提。