一名佛罗里达州男子因被错误识别而被逮捕和起诉，声称他诱拐一名儿童，因此对几家执法机构提起诉讼。这起事件因使用有缺陷的AI面部识别软件而导致的错误识别而发生。根据杰克逊维尔海滩警方的说法，一个算法返回了93%的概率，认为罗伯特·迪伦是被摄像头拍到正在试图说服一名未满12岁女孩与他离开的男子。然而，迪伦住在迈尔斯堡，距离杰克逊维尔超过300英里，车程五小时，并告诉侦探他一生中从未去过杰克逊维尔海滩。此案在2024年8月的事件后被驳回，指控被撤销。 现年52岁的迪伦已对警方部门、杰克逊维尔警长办公室以及皮尔纳斯县警长鲍勃·古尔提埃里提起诉讼，他的机构维护和操作Faces（面部分析比较和检查）系统，并将其租赁给其他执法机构。“[这]项调查导致了一名无辜男子的错误逮捕和起诉，”美国公民自由联盟（ACLU）在周二提起的诉讼中表示，该诉讼是在迪伦的名义下提交给迈尔斯堡地区法院的。“迪伦先生在妻子面前在家中被逮捕。他被指控试图诱拐儿童，这一指控带来了毁灭性的社会耻辱和永久的名声破坏。他遭受了数月的刑事起诉，公共曝光的逮捕照在指控被撤销后仍然可以在网上找到。“他不再感到与孩子友好相处的自在。没有任何执法机构对此表示歉意或承认错误。”诉讼进一步指控，迪伦的案件在全国范围内至少是第15宗涉及因错误识别而被指控或逮捕的案件。本月早些时候《卫报》的调查发现，AI面部识别系统的监管严重不足，包括在英国和其他地方，技术的进步远远超过了当局的监管能力。“而不是将机器的答案与能够证明他清白的证据进行核对，警官们却构建了一个确认机器答案的案件，”迪伦的诉讼写道。它确定了杰克逊维尔海滩警察局的首席调查员斯科特·奥康奈尔故意在逮捕宣誓书中遗漏了“多种类别的可轻易核实的证据”。法院文件指出，车牌识别器显示迪伦的任何车辆从未靠近过那家餐馆。诉讼还声称，奥康奈尔没有向签发逮捕令的法官透露，经过Faces软件处理的嫌疑人照片是从警官的手机上拍摄的低清晰度、质量差的屏幕截图，而不是来自录制本身的数字上传。此外，诉讼指出，奥康奈尔没有对一名麦当劳员工的主张提出质疑，该员工在六张类似面孔的照片中挑选出迪伦，并称该嫌疑人是她餐厅的“常客”，在之前几周曾多次光顾。诉讼表示，奥康奈尔知道迪伦住在数百英里之外，并且知道这在现实中是不可能的。“这些佛罗里达州警方应对迪伦先生做出补救，并采取严肃措施确保这种情况不会再发生在其他人身上。”ACLU言论、隐私和技术项目副主任内特·弗里德· 韦斯勒在声明中表示。“全国各地的警察都已得到通知：不可靠的面部识别技术正在伤害人们，我们将继续为追究这些滥用行为而奋斗。”在本月早些时候报道的另一起类似案件中，来自北卡罗来纳州夏洛特的贾利尔·理查德森表示，他被引渡到杰克逊维尔，并在汽车盗窃事件中花费了近三个月的时间在监狱中。考勤卡显示他在盗窃发生时在400英里以外的工作。与此同时，迪伦表示，他仍然因自己的经历而受到创伤。“一年多过去了，我仍在收拾生活的碎片，都是因为警方依赖这种危险的技术而不是履行职责并进行真正的调查，”他说。“佛罗里达州警方必须实施保障措施，确保这种情况不会再发生在其他人身上，因为在他们做到之前，没有一个人是安全的。”《卫报》已联系杰克逊维尔海滩警方寻求评论。