图片说明：马特·阿诺德称他被人工智能摄像头错误地标记为盗窃者。 作者：詹姆斯·W·凯利 伦敦 Sainsbury's已暂停在其伦敦某分店使用实时面部识别技术，因为一名顾客被错误地质疑为盗窃者并被要求离开。46岁的马特·阿诺德在东杜利奇商店购物时，在自助结账机被管理层拦下。他将这次经历形容为“对未来的可怕一瞥”，警告零售监控技术存在羞辱顾客的风险，并可能导致员工在没有应用人类逻辑的情况下，被迫跟随自动警报。超市表示已向阿诺德道歉，并称错误是“由人类错误造成的”，但批评者呼吁废除这项技术。 这一事件发生在8月6日，当时阿诺德——一名为邻近的杜利奇汉默特足球俱乐部举办单口喜剧活动的喜剧推广者——在等待工作人员批准酒精购买。他已经扫描了自己的商品，并使用了Nectar忠诚卡，他表示，他曾招手示意一名工作人员前来。但他表示，接下来接近他的却是两名管理人员，并告诉他因“本周早些时候的事件”无法为他提供服务。 ‘人们只听机器’ “他们过来告诉我我必须离开。这名员工说我被人工智能识别出来，摄像头标记了我，”他告诉BBC伦敦。“盗窃者不会带着那么多购物品四处走，他们不会扫描过收据，也不会使用Nectar卡。 “但让我感到沮丧的是，这让我想到了未来可能的状况——人们只听机器告诉他们该做什么，而不考虑后果。”被 escorted 出场后，阿诺德表示他从入口处回头看到 overhead CCTV 监视器显示他的脸被红圈围绕的警告信息。 Sainsbury's总部第二天联系了阿诺德进行道歉，坚称事件是由“人类错误”而非软件故障造成的。 图片说明：Sainsbury's称员工标错了人，原因是另一标记 这并不是Sainsbury’s面部识别系统首次导致无辜的购物者受到质疑。去年9月，沃伦·拉贾在大象与城堡的一个分店被要求离开，因为他被同一Facewatch软件错误标记——安全公司随后确认他甚至不在其系统内。Sainsbury's和技术公司也将这一事件归因于“人类错误”。Facewatch还与其他零售商的合作案件相关，包括2024年的家庭折扣商店和去年的卡迪夫B&M。 阿诺德表示，他的经历令他相信员工在繁忙的商店环境中操作该系统存在困难。 “尽管我经历的事件可怕，我对员工感到遗憾，”他说。“错误是不可避免的。他们没有得到正确实施人工智能的装备。”阿诺德认为，即使这项技术的准确度如Sainsbury's所声称，0.2%的错误率在每周有数百万顾客进店的情况下，意味着“很多人会受到影响”。 “除我以外，受此影响的人还有其他人，”他补充道。 Sainsbury's发言人确认在东杜利奇商店暂停了这项技术的使用，并正在进行调查，但辩护该系统的全面推广——由面部识别公司Facewatch提供——以应对零售工作人员日益严重的暴力问题。他们表示："我们已联系阿诺德先生，为他在我们杜利奇超市的经历表示歉意。事件是由人类错误造成的，而非面部识别技术。" “顾客可以放心，Facewatch系统的准确率为99.98%，每次匹配都会经过经过培训的经理审查。” 图片来源：沃伦·拉贾 图片说明：Sainsbury's去年开始在一些商店试用面部识别软件 Facewatch发言人也表示，他们的技术在此案中“没有过错”。“正确的警报发送给了零售商，但随后在商店处理时出现了人类错误，”他们说。该公司补充说，暂停一家商店是“预防措施”，以防止进一步警报，同时员工接受额外培训。针对系统准确性的担忧，Facewatch表示，其99.98%的数据基于使用双算法检查和人工分析师审查的实时零售测试。它补充说，剩余的0.02%的误差范围不是“实际的误识别率”，而是一个界限，在此界限上，附加的人类检查可以过滤掉潜在错误，然后再发送警报。Facewatch表示，警报在员工设备上可见长达一个小时，并记录所有误识别。 ‘错误不可避免’ Sainsbury's强调，最近的英国零售协会数据显示