文章摘要
研究显示,Claude模型的价值取向会随对话语言、模型版本变化。研究团队将其表达的数千种价值观聚类压缩为四条价值轴,包括顺应与审慎、温暖与严谨等。不同模型的Claude价值倾向有别,对话语言也会显著影响其价值取向。后续研究可从差异来源、对用户影响等方向展开,价值轴方法为持续追踪提供新途径。

当你用不同语言向Claude提问时,得到的答案可能不只是措辞上的差异——这款AI助手的价值取向会随着对话语言、模型版本发生明显变化,甚至仿佛换了个「性格」。据行业观察的最新研究显示,不同版本的Claude以及不同的对话语言,都会让AI展现出差异化的行为倾向。

比如Sonnet 4.6版本的Claude往往更温暖,更愿意顺应用户的想法,回答也更加简洁;而Opus 4.7则更为严谨审慎,倾向于深入分析问题,也更愿意主动坦白自身的局限。语言带来的差异则更加微妙:使用阿拉伯语时,Claude会表现得更温暖、更贴合用户需求;换成英语,它则会更加审慎和严谨。印地语语境下的Claude最具温度,俄语环境下的它则最强调精确;荷兰语中的Claude会更坦诚,而印度尼西亚语中的它则更重视直接完成用户交付的任务。

这一研究结果说明,AI的「性格」并非一套固定不变的参数。模型版本、训练方式、语料构成乃至对话语言,都可能在潜移默化中改变AI判断问题、提出建议和评价用户的方式。

从海量价值观中提炼核心分析维度

研究团队的最终目标,是建立一套可以通过实证方式理解Claude所表达价值观的方法,并观察这些价值观如何随情境变化。在此前的研究中,团队曾分析了70万段匿名化的对话,从Claude的回答中识别出3000多种不同的价值观,但如此庞大的清单难以进行有效分析。

为了降低分析难度,团队根据不同价值观在真实对话中共同出现的频率,将数千种价值观聚类压缩为少数几个底层维度。比如,被标记为「温暖」的Claude回答,通常也会被认为带有鼓励性和积极性,同时较少被评价为「严谨」或「准确」,因此可以构建一条从温暖到严谨的价值轴,捕捉AI与用户互动时的这一核心特征。

具体来说,研究团队首先将「Values in the Wild」研究中发现的3307种价值观进行人工聚类,合并含义相近的条目,最终得到包含339种高层价值观的精简清单。随后,他们使用隐私保护分析工具,对309815段Claude对话进行抽样——这些对话均为用户向Claude提出的带有主观判断性质的任务,样本平均覆盖3种模型(Sonnet 4.6、Opus 4.6和Opus 4.7)以及平台上使用频率最高的20种语言,每种「模型+语言」组合包含约5000段对话。

对于每段对话,分析工具会使用Claude判断339种高层价值观是否存在,同时研究团队也会识别用户表达的价值观,并标注对话的任务和主题。在此基础上,团队应用降维技术,根据Claude经常同时表达的价值观组合,将标注结果压缩为四条价值轴,最终得到可以解释Claude价值观变化15%的核心维度:

  • 顺应与审慎轴:一端对应配合用户、尊重用户偏好等价值观,另一端则代表负责任的指导、减少潜在伤害等原则;
  • 温暖与严谨轴:一端是积极表达、鼓励用户等带有情感温度的内容,另一端则是强调准确性、透明度的严谨导向;
  • 深度与简洁轴:一端偏向细致分析、批判性思考,另一端则是简洁直接、只完成用户明确要求的任务;
  • 坦诚与执行轴:一端代表诚实、透明地说明自身局限,另一端则是结果导向、优先完成任务的风格。

为了确保研究衡量的是Claude表达的价值观而非用户的提问方式,团队控制了每段对话的任务、主题和用户表达的价值观,保证分析的准确性。

不同模型的价值倾向差异

对于每一种模型,团队计算了其全部对话在四条价值轴上的平均位置,以此生成该模型的高层价值画像。与不同对话之间的整体变化相比,模型之间的差异并不算大,但这些差异具有明确的结构,可以被清晰检测出来。

具体来看,Sonnet 4.6最倾向于表现出顺应和温暖的特质,经常肯定用户的想法,使用幽默轻松的互动方式,同时回答风格更简洁;Opus 4.7则更偏向严谨和审慎,即使用户没有主动要求,也会主动提醒潜在风险,更倾向于质疑用户的假设并直接指出问题,同时会主动说明自身的局限;Opus 4.6则介于两者之间,更偏向严谨、顺应和简洁的风格。

这些结果与用户和内部团队对不同模型的主观感受基本吻合:不少用户反馈Opus 4.7会更频繁地使用保留或缓和的措辞,内部团队也认为Opus 4.7的透明度、诚实度和谦逊感更强,而Sonnet 4.6则更为温暖、亲社会且简洁。这说明这套价值轴方法确实捕捉到了模型真实行为的特征,不同模型的Claude确实会向用户传递不同的价值组合。

对话语言对价值取向的影响

研究团队认为,Claude的价值取向会随对话语言变化,主要有两个原因:一是Claude在不同语言上的训练数据并不相同,二是此前的评估已经显示,Claude在不同语言中的知识水平和处理敏感请求的方式存在差异。此次研究正是通过价值轴方法,分析了20种常用语言下Claude的价值画像。

分析结果显示,Claude在不同语言中的价值表达在「温暖与严谨」和「坦诚与执行」两条轴上变化最大,而在「顺应与审慎」和「深度与简洁」轴上则相对稳定。具体来看:

  • 顺应与审慎:阿拉伯语环境下的Claude最倾向于顺应用户,而英语语境下的它则最偏向审慎;
  • 温暖与严谨:印地语和阿拉伯语中的Claude最具温度,会使用礼貌语言、幽默表达和肯定用户的方式;而英语和俄语中的Claude则最强调严谨,会质疑假设、纠正细节并要求提供证据;
  • 深度与简洁:英语中的Claude更倾向于深入分析,会完善和纠正细节;而阿拉伯语环境下的它则更偏向简洁直接;
  • 坦诚与执行:荷兰语中的Claude更偏向坦诚,会主动承认错误;而印度尼西亚语中的它则更偏向执行,严格停留在用户的请求范围内。

综合来看,Claude的价值取向确实会随着对话语言发生显著变化。比如,两个人针对同一份商业计划向Claude征求意见,使用印地语的用户可能会得到更偏向鼓励和肯定的反馈,而使用俄语的用户则会收到更侧重严谨分析和问题指正的建议,最终两人对这份商业计划的印象可能会产生明显差异。

目前团队还不清楚训练数据中的哪些特征导致了这些差异,一种可能的解释是不同语言的训练数据分布和构成不均:部分语言的训练数据量远大于其他语言,而不同语言的语料中专业写作、日常对话的占比也存在差异,这些因素共同导致了Claude在不同语言中的价值表达不同。同时,团队也不确定这些变化是否合理——不同语言有各自的对话规范,Claude可能会根据这些规范调整自身的价值取向,但也有可能在部分语言中偏离了预设的目标,导致服务不同语言群体的效果不一致。

后续研究方向

这项研究证明了Claude的价值表达可以被压缩为四条核心价值轴,且其在轴上的位置会随模型和语言发生变化,这为研究人员提供了一种新的方法,可以在模型评估和部署后持续追踪这些变化。不过目前团队仍不清楚这些变化出现的原因,以及它们对用户的具体影响,未来可以从以下几个方向展开探索:

  • 这些价值差异来自哪里?:需要将这些差异追溯到特定的训练数据、训练阶段或情境因素,从而明确在需要调整Claude行为时可以介入的环节;
  • 这些差异对用户意味着什么?:目前团队只测量了Claude的价值表达差异,还未分析这些差异对用户的主观感受、信任程度和决策质量的影响,未来可以通过用户调研工具建立价值差异与用户体验的关联;
  • Claude的价值观应该如何随语言变化?:目前的《Claude宪法》只规定了核心价值观,但未明确不同语言下的价值适配标准,需要理解不同语言使用者的预期,确定合理的价值表达差异范围;
  • 还有哪些因素会影响Claude的价值表达?:除了模型和语言,年龄、职业、地理区域等人口统计信号也可能影响AI的价值取向,需要进一步探索这些因素的影响;
  • 能否可靠引导Claude表达特定价值观?:在掌握模型价值画像的基础上,可以尝试通过调整训练方式或系统提示词来引导AI的价值表达,并验证效果;
  • 价值画像能否纳入模型评估体系?:价值轴方法可以简洁概括模型的行为倾向,有望被纳入模型发布前和发布后的评估流程,帮助发现意外的价值变化,同时可以寻找价值画像与问题行为的关联,进一步优化AI的表现。

Claude每天都会在数百万段对话中表达价值观,覆盖数十种语言。此前这些价值观只能通过训练塑造,却难以在部署后被可靠观察,如今借助这套价值轴方法,研究人员可以清晰看到AI价值表达的变化,并探索这些变化的原因和优化方向,这也是团队接下来的重点工作。

以上内容不代表本平台立场,仅供读者参考