Sainsbury's在其位于伦敦的一家门店暂停使用实时AI面部识别技术，因为有顾客错误被标记为扒手。46岁的马特·阿诺德（Matt Arnold）本月早些时候在东杜利奇（East Dulwich）分店被迫离开，超市巨头将这一事件描述为“人类错误”。阿诺德先生在尝试购买酒精饮料时，被AI技术误认为与当周发生的事件有关。作为一名喜剧推广者，他形容这是一种“可怕的未来窥视”，可能会让顾客感到尴尬，并迫使员工遵循自动警报，而非人类的逻辑。他对BBC伦敦表示：“他们过来告诉我我必须离开。员工说我被AI识别了，摄像头标记了我。‘一个扒手不会带着这么多购物品，他们不会扫描物品，也不会使用Nectar卡。’“但让我感到不安的是，想到这就是未来会是怎样——人们只是听从机器所告诉他们的，而不考虑后果。”阿诺德先生本月被迫离开了东杜利奇分店（谷歌地图）离开商店后，他看到一个上方的监控摄像头警告，上面有一个红色圆圈围着他的脸。该超市使用的是Facewatch安防系统，该系统在英国超过100家公司使用。Sainsbury's表示，可能会要求该公司在需要调查投诉时暂停系统。这为他们提供了时间以进行额外培训或审查其流程。发言人补充道：“我们已联系阿诺德先生，对他在我们杜利奇超市的经历表示歉意。‘事件是由于人为错误造成的，而不是面部识别技术。’‘顾客可以放心，Facewatch系统的准确率为99.98%，每一次匹配都经过受过培训的经理审核。’Sainsbury's为这一事件表示歉意，并暂停了该技术（盖蒂）Facewatch发言人表示：“我们可以确认，我们的实时面部识别技术在此事件中并无过错。发送给零售商的警报是正确的，但在处理和传达给顾客时出现了人类错误。”阿诺德先生告诉广播公司，0.2%的错误率在每周进入Sainsbury's商店的数百万顾客中仍然是“很多人”。今年1月，42岁的沃伦·拉贾（Warren Rajah）在他当地的伦敦分店购物时，被员工接触并被迫离开。拉贾描述他感觉像一个“罪犯”，他与系统中列为违法者的另一名个体混淆，并且当时该个体也在商店内。Sainsbury's在当时也表示Facewatch技术没有错误。该超市在9月于其两家门店试用该技术，盗窃、伤害、攻击和反社会行为的记录事件减少了46%。