据《连线》报道，英国一政府监督机构正在考虑对内政部使用生成性人工智能工具处理庇护申请展开调查。这项潜在调查是在立法者和研究人员公开质疑这些工具的准确性以及政府在使用过程中的保密性之后提出的。负责监督内政部边界、移民和海关管理的独立首席边境与移民监察员（ICIBI）已经要求数字权利非营利组织开放权利小组（ORG）分享有关这些工具的更多信息，以便其制定明年将检查的主题，活动人士萨拉·阿尔舍里夫告诉《连线》。ORG的调查结果源于对这些工具的六个月调查，其中包括11个议会问题、两封部长信件和10个公共记录请求，试图从一直对工具的细节保持沉默的内政部获得信息。ICIBI告诉《连线》，在发布其年度检查优先事项之前，无法确认正在积极考虑的主题，但表示已意识到对使用人工智能工具的担忧，并指出其去年的发现中提到其中一个工具的“有效性和可靠性存在差异”。 一名内政部发言人在电子邮件中告诉《连线》：“庇护决定由经过培训的案件工作人员作出，人工智能工具仅用于帮助处理面谈记录和政策信息。它们不能单独使用，且不对申请做出决定。” “我们定期监测这些工具的性能，并结合我们的质量保证流程，并已承诺发布关于其在推行过程中更新的评估。”内政部使用庇护案件摘要工具（ACS）和庇护政策搜索工具（APS），这些工具基于OpenAI的2023年GPT-4大型语言模型和Microsoft Foundry，旨在总结与庇护申请者的面谈记录和其原籍国的信息，ORG获得的文件显示。移民和执法机构在2024年底开始试点这些工具，当时工党政府试图清理大约100,000个庇护案件的积压，同时应对每年英国收到的数以万计的新申请。尽管该部门取得了显著进展，在截至6月的一年内将等待初步决定的人数减少了一半，但是对决定提出的上诉数量却激增。研究人员对人工智能工具的准确性感到担忧，尤其是在决定是否将某人送回一个他们害怕迫害的国家这样高风险的事项上。ORG发现，ACS生成的摘要中被认定为不适合使用的比例（通常是由于内容中的事实错误或误传）明显高于试点评估中公布的9%错误率。它还发现，APS生成的摘要没有质量控制。庇护决策者在审查庇护案件时使用这些工具以节省时间；根据政府估算，结合使用时，试点显示这些工具每个案件可节省大约一个小时的时间。案件工作人员使用ACS加速对面谈记录的审查，在面谈中，庇护申请者解释他们在自己的国家如何受到迫害，以及他们为什么害怕回国。他们使用APS作为搜索助理，以查找和总结国家政策信息，从而通知他们申请者在其本国是否面临真正的伤害风险。7月，一名英国法官指责内政部引用了一份“人工智能幻觉”文件，拒绝了一名摩洛哥女性及其子女的庇护申请，理由是她的祖国对她回国是安全的。工党后备议员贝尔·里贝罗-阿迪在接受《连线》采访时表示：“我们在处理人们的生命。我们在谈论那些经历了最糟糕情况的人，我们本应根据事实和对伤害的理解作出决定。我认为机器来做这样的事情是不合适的。” 内政部发言人表示：“使用人工智能仅仅是我们保护边界的工具之一，并不能取代或自动化人类决策者的角色。”里贝罗-阿迪、阿尔舍里夫和公共法律项目（Public Law Project）对此工具进行单独调查，他们也担心GPT模型中记录在案的“文化偏见”可能导致语言障碍和摘要中文化细微差别的丧失，这可能会导致歧视性决定。OpenAI发言人向《连线》强调了公司在改善模型准确性方面的持续工作，并指出该公司将在1月份退役GPT-4。在缺乏监管的情况下，英国的“人工智能游戏手册”要求各部门在决策过程中必须对其使用的算法工具保持透明，并向公众提供这些工具的信息，包括在公共库中列出这些工具。