论文 代码 博客 引用 超过90%的美国雇主依赖招聘算法筛选求职者。许多不同的雇主使用来自同几家供应商的算法。我们进行了一项针对算法招聘的最大规模实证研究，数据来源于340万真实求职者向156家雇主提交的400万份申请，涵盖11个市场部门。每份申请都是由单一供应商的算法评估的：我们测试这种算法单一作物是否瓶颈了工作机会。我们是首个展示高风险招聘决策中种族差异和同质化结果的大规模证据。 关键发现 1 对亚洲人和黑人有大规模负面影响。我们是首个证明已部署的算法招聘中存在负面影响的研究，这是对真实高风险人工智能决策中不公平结果的最大展示之一。黑人求职者提交的申请中有25.87%和亚洲求职者提交的申请中有14.74%被指向对他们产生负面影响的职位，依据相关美国就业法（第七条）规定。 2 仅通过逐职位分解分析才能揭示负面影响。由于数据获取限制，算法招聘的实证研究非常受限，之前的研究通过整体研究所有供应商的数据发现最小的负面影响。通过逐职位研究，依据第七条规定，我们识别出那些在整体数据中被稀释掉的负面影响职位。 3 招聘中的算法单一作物导致系统性拒绝。我们是首个证明已部署的算法招聘中存在系统性拒绝的研究，支持了之前关于算法单一作物的理论研究。观察到的系统性拒绝率显著高于统计独立决策的基线，即使基线在没有集中算法单一作物的情况下也准确预测了其他招聘数据的观察到的系统性拒绝率。 4 数据获取阻碍了对招聘算法的独立研究。我们是唯一一个能够在大规模上独立进行已部署招聘算法的实证研究的团队，尽管招聘算法在高风险决策中中介作用且被普遍采用。鉴于数据障碍，可能需要政策干预以便于科学研究并增加对这一高影响人工智能应用的问责制。 算法招聘管道 许多雇主从同一第三方供应商采购招聘算法。超过60%的财富100强公司使用HireVue的算法。当来自同一供应商的招聘算法在多个雇主中中介招聘决策时，它们构成了算法单一作物。 图1：求职申请由招聘人工智能评估，以决定是否推荐。如果申请者未被算法推荐，他们可能会在没有进一步考虑的情况下被人类拒绝。 揭示负面影响 美国民权法案第七条规范招聘中的歧视。之前的研究发现，在算法招聘数据整体上，负面影响非常有限。我们通过逐个职位研究发现了之前被忽视的负面影响。黑人申请者最有可能受到负面影响：30%的黑人申请者申请至少一个对黑人申请者产生负面影响的职位。在总效果方面，亚洲申请者经历了最大的短缺：如果亚洲申请者以每个职位最被选中的种族群体的相同比例被选中，那么将有29000份额外的亚洲申请获得推荐。 图2：根据第七条四分之五规则测量的负面影响，按职位（左），申请/申请者（中）计算。短缺（右）是如果被负面影响的种族群体以与最被选中群体相同的比例被选中，将会被选择的申请数量。 识别系统性拒绝 当申请者申请多个职位时，他们可能会获得相同的结果。算法单一作物可能使这一现象最为常见。如果是这样，申请者到处被拒绝的系统性拒绝将特别令人担忧。在提交了4份申请的申请者中，10%系统性被拒绝。观察到的系统性拒绝率显著高于在独立决策下预期的基线率（χ2 = 18,481，p < 0.001）。 图3：招聘人工智能数据中的系统性拒绝率。观察到的比率始终超过基线：对一个供应商的共享依赖导致同质化结果。为了将观察到的系统性拒绝率放入背景中，我们引入了独立决策的基线（Toups等，2023）。为了测试这一基线的可预测性，我们使用了前一个最大研究的数据显示数据（Kline等，2022），该研究向108家财富500强公司发送了83,000份申请。该基线准确预测了观察到的比率（χ2 = 20.05