监控技术创业公司Flock在周四宣布了一系列新政策和工具，声称这些将有助于遏制其自动车牌识别系统的滥用，并帮助其执法客户负责。Flock现在建议警察部门将数据保留时间缩短至七天，而不是之前的30天。随之而来的是该公司引入了他们所称的“证据模式”，在客户需要在“特殊情况下”保留数据更长时间时可以开启，并要求提供特定案件编号。客户还可以根据正在调查的犯罪类型设定与其他客户共享数据的限制。公司还强调了名为“审计协助”的工具作为其中的重要变化。Flock在四月份推出了该工具。自那以来，Flock表示超过三分之一的客户已开启了该工具，且目前要求所有客户在年底之前启用它。Flock声称审计协助“检测异常活动并标记以供管理员审核”，根据周四发布的博客，如果发生这种情况，该工具可以自动锁定被标记的用户，直到管理员介入。据Flock称，该工具已经帮助客户发现并停止了滥用行为。多位高管称赞了审计协助的能力。但尽管其声明的重要性，Flock尚未详细解释审计协助的具体工作原理。一些官方评论提供了一些对审计协助功能的理解，但在试图确定它是如何工作的时却显得模糊。例如，Flock的信任与合规总监阿什莉·哈伯在一段视频中提到，审计协助可以标记“特定用户可能看起来奇怪的搜索历史”，帮助客户理解用户如何操作系统。在另一段视频中，Flock联合创始人佩奇·托德表示“审计协助实际上可以早期标记异常模式。比如，用户在30多天内重复搜索同一车牌。”乔治亚州邓伍迪警察局的马杰·帕特里克·克里格，作为Flock的客户，在一份新闻稿中将该功能描述为“一种通知我们任何类型偏见的算法。”Flock将审计协助描述为一种可以“早期发现非典型活动并通过清晰的文档工作流程快速审核”的功能。然而不明确的是——TechCrunch已经寻求对此问题的答案——这个“算法”的实际工作原理，以及它依赖的数据源，是否使用大型语言模型开发的。TechCrunch还询问了它设计用来发现什么样的模式，以及什么样的情况被标记为“异常活动”？据Flock称，审计协助并不是基于[机器学习]或人工智能。该公司告诉TechCrunch，“它是一个数据工具，用于标记非典型搜索模式，以供进一步审核。触发标记的一种情况是，用户使用多个不同的案件代码搜索同一车牌，这可能表明滥用行为。标记并不意味着肯定是滥用——这只是说明值得进一步调查。”然而，许多问题仍未回答，包括Flock是否有任何统计数据或数据表明该工具的有效性，虚假正例和虚假负例的比率是什么，以及是否经过第三方审计？隐私专家和Flock的批评者对审计协助并不感到满意。美国公民自由联盟的高级政策顾问查德·马洛在回应Flock宣布时写道，“没有证据表明该工具能有效持续地解决滥用问题。”“尽管最近有数十名警察因个人原因滥用Flock而被逮捕、解雇或以其他方式受到惩处，但Flock声称这些逮捕证明了其审计工具的有效性，”马洛写道。“然而，除非我们知道滥用系统的警察人数，否则我们无法得出Flock及其审计工具是捕获95％的违规者或5％的结论。Flock需要让独立评估员分析其审计工具，以确定其实际有效性。在此之前，我们不知道这个工具是否是真正的安全措施，还是只是表面功夫。”电子前沿基金会的安全研究员和公共利益技术专家库珀·奎恩廷告诉TechCrunch，审计协助是否有效甚至无关紧要。“如果它有效，执法部门会想出办法规避它，”他说，并补充说，最终重要的是滥用者是否被举报并承担责任。“如果没有对滥用行为的后果，而向其报告的对象又是进行滥用的同一警察机构，这对Flock来说只是个遮羞布。确保问责的最好方法是通过法律限制这种技术的使用，并要求获得使用授权。”布伦南中心自由与国家安全项目的主任瑞切尔·莱文森-瓦尔德曼告诉TechCrunch...