一位法官警告在法庭听证中使用AI的风险，因为来自英国皇家检控署（CPS）的文件中引用了‘不存在’的法律案件。斯维廷法官在周三的裁决中发出了这一警告，他驳回了两名挑战将他们引渡到罗马尼亚以服刑的人的上诉。CPS在高等法院反对了这些上诉。在他的裁决结束时，斯维廷法官表示，CPS在形成其案件的一份文件中引用的两个法律权威并不存在。他继续说，这两个案件随后在另一份文件中被引用，然后在二月份的听证会之前向CPS提出了这个问题。CPS承认并为这一错误道歉，表示未试图误导法院，并正在调查错误的发生原因。法官表示，在三月份的一封信中，CPS承认对案件的引用不准确，并‘解释说它们可能源于人工智能的使用’。法官说：‘然而，CPS识别出关键失误在于审查律师在提交和送达文件之前没有妥善检查文件的准确性。’他继续说道：‘因此，CPS的立场是，虽然错误的直接来源可能是生成性人工智能的使用，但根本原因是人类的错误，没有核实在正式提交给法院时所依赖的权威。’‘CPS强调这并不是故意误导，而是由于对书面工作检查不充分而产生的孤立事件。’斯维廷法官还表示，CPS对此事件进行了全面的内部审查，并审查了与同一律师相关的78个其他案件，未发现问题，并使其相信再发生此类事件的风险较低。他总结道：‘就上诉而言，错误在听证之前浮出水面，因此对辩论或法院的裁决没有影响。’‘我已接受CPS代表的道歉和对不存在误导企图的保证。’他继续说道：‘天真地认为未来法律工作中不会越来越多地使用人工智能是不切实际的；事实上，这可能是必要和有益的。’‘这一事件突显了在缺乏适当监督的情况下使用人工智能的风险，尤其是在法律研究中。’CPS已被要求发表评论。