在过去四年中，Erin Kistler向Paypal、Microsoft和Netflix等公司申请了数千个职位，却发现她的简历消失在了黑洞中。这位拥有近20年经验的产品经理相信自己符合每个职位的资格，但她从未收到过一次面试邀请。现在，Kistler正在起诉Eightfold AI，这家位于硅谷的招聘软件制造商被数百家公司使用，包括她申请过的公司，发起了集体诉讼。这个案件于一月在加州法庭提起，是首批主张自动筛选作为未披露的消费者报告或申请人档案，按成功概率对求职者进行排名的案件之一，而这些求职者没有机会查看或质疑结果，Kistler的法律团队表示。此诉讼是几起关于公司在就业决策中使用人工智能的新法律斗争中的一部分。工人们还在起诉Meta，指控其内部人工智能系统因他们请产假或医疗假而将他们定为裁员目标。最近针对IBM的诉讼称人工智能工具歧视老年工人。美国的公司越来越多地转向人工智能，以更快速和更有效地做出工作决策，通常以客观性的名义进行。但研究这种软件的专家表示，这也可能引入或加剧偏见，可能会在跨公司之间影响候选人。立法者正在关注这一问题。这些法律斗争的结果可能会影响未来的就业实践、透明度及候选人在这一过程中所拥有的权力。Emory大学法学院教授及人工智能与未来工作项目创始主任Ifeoma Ajunwa表示：“实际上并没有法律要求通知或披露使用这些人工智能招聘系统，因此公司并不一定告知工人何时被人工智能评估。”人工智能在招聘中的使用正在增长。根据世界经济论坛的一份报告，去年的90%雇主在招聘过程中使用了某种形式的自动化。这些工具的范围从基本的筛选——例如排除没有四年制学位或其他先决条件的候选人——到利用人工智能进行求职者技能评估，甚至进行初步电话面试。在Eightfold的案例中，该公司自称是“全球最大、自我更新的人才数据来源”。它不断更新一个内部数据库，收录来自超过十亿求职者的简历、LinkedIn资料和社交媒体资料。借助这些数据，该公司利用人工智能对申请者进行0到5分的评分，预测他们在特定工作中的表现如何。最终，这个评分可能会使某些候选人在面试中优先于其他候选人。Kistler的代理律师Rachel Dempsey表示：“很大一部分问题在于求职者不知道……报告内容。”Dempsey辩称，求职者应获得与美国人在信用报告中已经获得的招聘流程透明度相同的信息。通过这些信息，他们可以质疑不准确之处或在影响其申请的因素上改进。但没有任何见解，很难知道这些算法是否以明确的方式歧视求职者，Dempsey说。“黑箱的概念令人非常恐惧，”她说。在给卫报的声明中，Eightfold AI否认了这些指控。“我们相信，这些主张没有依据，并打算积极地为自己辩护，”Eightfold AI的一位发言人在电子邮件中写道。针对IBM提起的诉讼中，该公司否认使用人工智能自动筛选候选人，并在一份声明中表示它“不容忍或纵容任何形式的歧视。”Meta对于其诉讼未回应评论请求。算法黑名单的恐惧尽管招聘软件提供商声称能够让招聘经理腾出更多时间与合格候选人交谈，并消除人类的个人偏见，但专家们对此表示不同意见。他们认为人工智能可以加剧某些人口统计特征工人的偏见。“随着我们对人工智能招聘系统的研究越来越深入，我们实际上看到它们倾向于复制人类经理所具有的许多相同偏见，”Ajunwa说。几乎所有的人工智能系统都被训练以寻找模式，这可能会强化刻板印象或遗留偏见。例如，亚马逊曾经使用一种人工智能工具，该工具因公司顶级表现者为男性而对女性的简历进行降级。亚马逊在发现这一问题后停止了使用。在其他情况下，人工智能招聘系统可能会引入自身的偏见。在她的书《量化工人》的研究中，Ajunwa发现人工智能在语音面试中对南方口音的求职者给予了较低的评分，因为它难以理解他们。虽然人类招聘经理可能不公平——选择同一个兄弟会的候选人