塞恩斯伯里在其一家商店暂停使用AI面部扫描，原因是一名顾客被误认为是小偷而被驱逐。46岁的马特·阿诺德（Matt Arnold）描述了他的经历：“我感到尴尬，甚至是羞愧，感到非常屈辱和无助。”这位喜剧推广者在东达利奇（East Dulwich）商店购买用品，以备在达利奇哈姆莱特足球俱乐部的单口喜剧活动使用，当他扫描了物品和纳克特卡后，二名经理靠近他，告诉他由于早前的事件，他无法继续服务。随后，他被要求离开，经理们试图护送他离开商店。“他们只是告诉我他们会带我出去，”阿诺德说，“当时我坚持自己走出来。我下定决心要保持一些尊严。在这一点上，他们确实让步了。”马特·阿诺德在塞恩斯伯里东达利奇大超市被错误识别为小偷。照片由保罗·墨菲（Paul Murphy）拍摄。当他离开时，他看到上方的闭路电视监视器显示了一个红色圆圈围绕着他的脸。他请求他们将购物保持在购物车中，方便他的朋友来接走正在邻近商店举办的喜剧夜的用品：“我想他们对此感到相当困惑，这也是可以理解的。但他们同意了，我的同事戴夫大约五分钟后进去付款并取走了购物。“员工毫无反应，根本没有表明他们理解小偷不会这样做。只是盲目地遵循机器的命令。”塞恩斯伯里总部第二天向阿诺德道歉，并在进行调查的同时暂停其AI辅助的Facewatch技术。但阿诺德表示，这项技术应该在所有商店暂停，并且他“担心”人工智能在社会中的使用程度。“任何人都可能被错误指控，总有一天会是某个弱势群体，某个心理健康有问题的人，就像焦虑症患者。这是不可避免的，”他说。“而且我担心此事发生在年轻人或其他不太愿意或能力去维护自己的人身上所造成的自信心破坏。”这家超市连锁使用面部识别技术来识别小偷和其他罪犯，并表示这是为了保护员工免受虐待。但这项技术一直受到问题困扰，包括去年九月，当购物者沃伦·拉贾（Warren Rajah）被同一Facewatch软件错误识别后在伦敦南部的一个分店被要求离开。其他类似情况也发生在Home Bargains和B&M商店。“塞恩斯伯里，以及任何其他使用Facewatch的公司应该立即停用它，至少在他们能够保证系统毫无瑕疵地工作之前，”他说，“他们已经宣布在我事件发生的东达利奇商店暂停监控，但因为这是一个集中系统，那为什么不在每家商店暂停呢？如果东达利奇有潜在问题——无论是AI本身还是其实施——那么所有商店都有潜在问题。”他说他对人工智能在社会中的崛起感到担忧：“我不喜欢监控文化，但我明白有时这是必要的。而不必要的是让机器做决定，然后期望人类不加质疑地去执行其命令。”一位塞恩斯伯里发言人表示：“我们已联系阿诺德先生，为他在我们东达利奇大超市的经历表示歉意。事件是由于人为错误造成的，而不是面部识别技术造成的。“顾客可以放心，Facewatch系统的准确率为99.98%，并且每一笔匹配都会由经过培训的经理进行审查。”Facewatch的发言人补充说他们的技术“在此案例中并无过错。“发送给零售商的警报是正确的，但在商店处理时发生了人为错误，”他们说。该公司表示暂停一家商店是一个“预防措施”，以防止在员工接受额外培训期间进一步的警报发生。塞恩斯伯里补充说，警报在员工设备上可见的时间为最多一个小时，并且记录所有误识别情况。