人工智能和机器学习公司Anthropic发现，Claude在不同语言中表达不同的价值观。意识到人工智能模型在不同语言中表现出不同的价值观，Anthropic的研究人员采取措施描绘Claude在不同语言中的表达方式。结果识别出四个关键轴心，捕捉了Anthropic所称Claude在不同语言中表达的价值观的15%的变化：尊重与谨慎；温暖与严谨；深度与简洁；以及坦诚与执行。Anthropic的研究人员表示：“Claude的回应不可避免地反映出某些价值观。”但他们附加了一条脚注，明确表示模型的统计字词预测并不反映某种内部对价值观的理解。脚注解释道：“我们定义价值观为规范性考虑，如诚实或谨慎，这些在Claude的回答中被声明或表现出来。” “当我们提到Claude表达的价值观时，我们指的是Claude的行为和输出所反映的价值观。我们并不暗示Claude本质上持有价值观。”换句话说，仅仅因为Claude发出与尊重相关的词汇，并不意味着它对世界的某种特定心理模型或实际内化的尊重表现出任何主张。考虑到Anthropic在市场营销中倾向人性化的历史，这一点需要比脚注更显著的处理。但撇开“价值观”这样的术语如何模糊人类智能和基于大语言模型的向量数学单词预测之间的界限，Anthropic的专家们仍然揭示了一些有趣的词语输出差异，这些差异源于大型语言模型受语言的影响。不同模型之间的词语输出风格的变化先前已被观察到。Anthropic的作者指出，Sonnet 4.6和Opus 4.7的回应在某种程度上被人们解读为更尊重或更精确。“Sonnet 4.6更倾向于向用户表达更多的尊重和情感温暖，而Opus 4.7则更侧重于表达准确性和精确性，以及防止误用，”他们表示。这些差异可能反映不同的训练数据或模型微调。但显然，使用某种语言来与模型交流——更不用说基于该语言的训练数据——有助于塑造模型在该语言中的响应。“当Claude用英语说话时，它强调的价值观与用葡萄牙语、印尼语或中文说话时不同，”公司研究人员在博客文章中表示。“最大的变化在于温暖与严谨轴心，Claude在阿拉伯语和印地语中最倾向于表达与温暖相关的价值观，而在英语和俄语中最倾向于表达与严谨相关的价值观。”在坦诚与执行轴心上，如果你想要谦虚和对潜在缺陷的诚实评估，就说荷兰语。如果你想要一个精致、自信的答案，就说印尼语。在深度与简洁轴心上，为了简练的回应请说阿拉伯语，而为了细腻与深度请说英语。Anthropic的研究人员表示，他们还不确定模型训练数据中的哪些属性影响这些语言差异，但他们建议这个问题值得进一步探索，因为它对人们使用大型语言模型具有重要意义。“举一个例子：两个人在询问同一商业计划的反馈时，一个用印地语，一个用俄语，可能会因为Claude在构架评估时表达了不同的价值观而对其质量产生不同的印象，”他们观察到。不同语言可能也具有不同的使用和安全含义。例如，简洁性与成本相关——更少的单词意味着较低的代币开销。Claude Opus 4.7系统说明[PDF]指出，模型拒绝良性请求的比率在英语中明显低于其他语言。而其他研究者已经确定某些语言的越狱效果更好。因此，如果一个模型在某种语言中表现出尊重，那么这种语言是否更适合请求开发利用或其他可能违反政策的查询？Anthropic表示，能够测量这种变化是决定语言差异在多大程度上是可取和适当的前提条件。