返回

文章详情

社会影响:Claude在模型和语言中的价值观

Hacker News2026年7月15日 10:56

当有人问Claude一个没有普遍正确答案的问题时——比如,是否接受一份新工作或如何处理与朋友的冲突——Claude的回答不可避免地反映出某些价值观。我们希望Claude反映的价值观在Claude的宪法中进行了高水平的概述,但没有任何文件能够预见到在Claude.ai每天发生的数百万次对话中可能出现的所有价值观。相反,我们希望在Claude的回答中培养“良好的判断和适用的价值观”。那么,我们具体如何研究Claude表达的价值观以及它们在不同上下文中如何变化呢?在之前的工作中,我们分析了700,000个匿名的Claude.ai对话,识别出Claude回答中超过3,000个不同的价值观以及Claude表达这些价值观的频率。但这样庞大的价值观列表很难进行推理。在这项工作中,我们通过将这些成千上万个价值观压缩成少数几个轴线,捕捉到Claude回答中的关键模式,从而使研究这些价值观变得可行。每个轴线是两组价值观之间的数值线——例如,一端与情感温暖相关的价值观,另一端与严格性相关的价值观——Claude在这条线上的位置告诉我们它倾向于哪种价值观。我们应用这种方法来衡量Claude表达的价值观在两个因素中的变化。首先,我们比较Claude表达的价值观在不同模型之间的变化。每个Claude模型反映了稍有不同的角色训练方法以及许多其他微调决策。由于我们的价值轴方法量化了模型之间的关键差异,它最终可能使我们能够将Claude表达的价值观的变化与不同的训练决策联系起来。其次,我们希望了解用户的体验在与Claude交谈的多种语言之间如何比较。我们之前的研究表明,Claude在不同的语言中表现得有些不同。我们应用我们的价值轴方法来理解Claude表达的价值观在Claude.ai前20种语言中的变化。图1:Claude表达的价值观在Opus 4.6与Opus 4.7以及英语与阿拉伯语之间存在差异。Opus 4.6倾向于表达与尊重、严格性、简洁性和执行力相关的价值观,而Opus 4.7则倾向于表达与谨慎、严格性、深度和坦诚相关的价值观。在英语中,Claude倾向于表达与谨慎、严格性、深度和坦诚相关的价值观,而在阿拉伯语中,它则倾向于表达与尊重、温暖、简洁性和执行力相关的价值观。我们发现:四个关键轴线捕捉了Claude价值观变化的15%:尊重与谨慎:Claude是倾向于迎合某人的需求还是防范潜在的风险和伤害。温暖与严格性:Claude是倾向于表达积极情感和对人的关心,还是强调准确性和精确性。深度与简洁性:Claude是倾向于深入解释,还是仅仅做被要求的事。坦诚与执行力:Claude是倾向于突出自身的不确定性,还是提供更精炼自信的答案。这些轴线上的价值观轮廓与模型特性的感知相匹配。Sonnet 4.6被视为特别温暖,而Opus 4.7以严格性著称。我们发现每个模型的价值观轮廓与这些主观评估镜像相符:Sonnet 4.6更倾向于向用户表达更多的尊重和情感温暖,而Opus 4.7则倾向于表达对准确性和精确性的关注以及防范滥用。Claude表达的价值观在不同语言之间有所不同。当Claude用英语说话时,它强调的价值观与用葡萄牙语、印尼语或中文说话时不同。最大的变化出现在温暖与严格性轴线上,Claude在阿拉伯语和印地语中最倾向于表达与温暖相关的价值观,而在英语和俄语中最倾向于表达与严格性相关的价值观。通过这种方法,我们可以开始询问为什么价值观在不同模型和语言之间改变,并更好地测试如行为训练或文化背景等因素如何影响Claude表达的价值观。我们如何解读这巨大的价值观空间?最终,我们的目标是有一种方法能够基于实证理解Claude表达的价值观以及这些价值观在上下文中的变化。在这项工作中,我们特别关注价值观在模型和语言之间的变化。但我们之前的工作《野外的价值观》识别了Claude表达的超过3,000个价值观。一一比较这些成千上万个价值观是笨拙的,并且会掩盖更广泛的趋势。为了便于比较价值观,我们构建了价值轴,将那些成千上万个价值观简化为基于现实对话中哪些价值观往往一起出现的几个底层维度。例如,被描述为“温暖”的Claude回答通常也被描述为“鼓舞人心”和“积极的”。这些相同的“温暖”回答则不太常被描述为“严格的”。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡