下次你申请工作时，人工智能可能会在任何人类看到你的简历之前进行筛选。但是，有充分的理由质疑人工智能是否会公正地评判你。研究人员已经知道，大型语言模型（LLMs）从其训练数据中吸收了人类的偏见。新的研究表明，LLMs 也可能根据经验发展出自己的偏见——并且比人类更多地对求职者进行刻板印象化。随着人工智能公司竞相构建具有代理特性的模型，记住用户的微小细节，它们可能给这些模型提供了形成这些偏见的武器。普林斯顿大学和芝加哥大学的研究人员对包括 ChatGPT、Claude 和 Gemini 在内的 LLMs 进行了模拟招聘游戏，改编自一项探索人类如何形成刻板印象的心理学研究。每个模型被告知它已被虚构城市的市长聘为顾问，然后被要求帮助招聘 20 个职位，包括医生、律师、儿童护理助理和清洁工。候选人来自四个虚构的族群：Tufa、Aima、Reku 和 Weki。在每一轮中，都会有一个新的职位空缺和四个候选人，每个组一个。模型在雇佣一名候选人之后，了解到他们在工作中是否成功，然后进入下一轮。模型被告知在 40 轮中尽可能多地进行成功招聘。模型并不知道所有候选人在每个工作中成功的可能性是相等的。模型很快开始根据早期的招聘结果观察将来自不同组的候选人分配到不同岗位。例如，当模型被告知一名 Aima 在医生职位上失败时，这个职位被认为需要高度的热情和能力，模型就开始不再招聘所有 Aima 作为医生。相反，它开始将 Aima 招聘为清洁工，模型将清洁工分类为比医生在热情和能力方面更低的职位。模型甚至比原始研究中的人类参与者更容易根据人口统计特征对人们进行刻板印象化。在该研究的隔离量表上，2 分表示每个群体被完全限制在其自己的职位细分中，人类参与者的得分为 0.84。模型的得分大约高出 65%，OpenAI 的推理模型 o3 的得分为 1.83，接近可能的最高分。这是因为 LLMs "确实渴望从有限的数据中创建概括，" 普林斯顿大学的博士生、研究的合著者 Ryan Liu 说，该研究在 7 月在首尔的 ICML 会议上发表。"这实际上是它们优化的大部分内容。" 每个决策者，无论是人类还是机器，都面临着在坚持以前有效的方法和尝试可能更好效果的新方法之间的权衡——心理学家称之为“探索-开发困境”。这就像选择一家新餐厅和你可靠的老字号之间的选择。由于 LLMs 是在数学、编码和科学问题上训练的——这些任务奖励从少数例子中进行概括—它们可能太早就依赖直觉。而帮助 LLMs 破解逻辑难题的同样本能也使它们迅速形成刻板印象。在实验中，较新的、高推理能力的模型，如 OpenAI 的 o3 和 DeepSeek 的 R1，显示出更强的偏见。当 LLMs 急于在社会环境中进行概括时，"事情往往会出错，" 刘说。OpenAI 和 Anthropic 并未回应评论请求。随着聊天机器人越来越多地获得改进的记忆和个性化功能，这一发现尤其相关，康奈尔大学计算机科学家 Angelina Wang 说，她没有参与这项研究。当聊天机器人利用之前的对话历史时，它可以“过度集中于它之前经历过的同种行为”，形成偏见，Wang 说。然而，仅仅让聊天机器人记得更少并不是解决办法，因为用户希望聊天机器人记住他们所说的内容。"我们仍在努力找出不多不少的正确数量，" Wang 说。告诉模型要公平并没有太大改变它的行为。"要么它无法将这些价值观付诸实践，要么这个过程被淹没在试图优化尽可能多正确招聘目标的倾向下，" 刘说。但承诺在多样化招聘方面给模型额外的奖励使它们的偏见大大减少。因此，诀窍在于设计“合并可取的社会价值，以使大型语言模型以社会上可取的方式行为”的目标。模型在被告知更多关于个人的个人信息时，也变得 less 偏见。在同一研究中的另一个实验中，研究人员要求模型在加拿大各城市重新安置不同民族群体的成员。当模型被告知与适应新城市的能力相关的个人信息，例如年龄和教育水平时，它们不太可能根据族裔对人们进行隔离。但是，当他们被告知无关的信息，例如发色和纹身形状时，模型通常又会回到根据民族对人们进行分类。