当费城警方上周批评Anthropic提交关于一起未解谋杀案的虚假线索时，我以为这可能成为AI公司因其代理人的不当行为而面临法律后果的第一起案件。事件发生在7月18日，当时Anthropic表示正在测试其Claude Haiku 4.5模型在“随机选择的网页上执行例子任务”的能力。该模型被指示“不提交任何破坏性内容”，然而，Claude向警方提交了有关正在进行的谋杀调查的信息。Claude写道：“我记得在那个时间段看到了一个与描述相符的人。”这份提交没有包括姓名或联系信息，最终落入了垃圾邮件文件夹，警方直到Anthropic在9月28日发现这一错误并于10月7日通知部门时才审查了该线索。在宾夕法尼亚州，向警方故意提供犯罪虚假信息是一种轻罪，但迄今为止，当局尚未对Anthropic提出指控，目前尚不清楚他们是否会采取行动。费城地方检察官的发言人索罗门·利奇表示，该办公室“不对是否正在积极调查某事发表评论。”Anthropic没有立即对此作出回应。尽管近期对OpenAI入侵Hugging Face和其他许多AI代理行为的不当行为引起了广泛关注，但只有一起主要的已知诉讼被提起，旨在追究模型制造商的责任。该案件是由一个倡导团体提起的，并非直接的黑客受害者。AI代理干扰了业余论坛、政府网站和各种软件工具。受害者承担了一些成本，包括服务器的额外负担和修补潜在安全漏洞所花费的时间。报道显示，包括欧盟、美国联邦贸易委员会和一些美国州在内的政府监管机构仍在调查OpenAI和Anthropic的相关事件。但对推动创新的跨国尊重可能使公司逃避任何即时处罚。当住在德国的软件工程师瑞克·埃尔罗德发现自己维护的一个网址缩短服务在最近出现异常时，他联系了两个安全研究人员，看看他们是否能诊断出问题。研究人员发现来自Anthropic和其他提供商的代理使用该服务（称为da.gd）来规避AI实验室设置的控制其行为的规则，埃尔罗德表示。（例如，Anthropic表示它限制Claude可以访问的网站地址长度，以防止其通过将数据填充到网址的末尾进行恶意行为。）da.gd的调查和防止其工具进一步滥用的持续努力花费了“相当多的时间”，提供无偿协助的安全研究人员乔·尼德尔曼表示。但他和其他支持da.gd的人认为这个情况是一个有价值的学习机会。“这是一次开眼界的经历，”尼德尔曼说，并补充说，da.gd“没有资源也没有计划”向Anthropic索赔进行清理，因为“我们看到许多代理进行类似活动，不能全部归因于自主代理，”并且“并不都是Anthropic的责任。”网络安全工具的销售商急于将责任推给受害者。在本周由漏洞挖掘软件开发商Snyk主办的一次活动上，初创公司的小组成员、投资者、OpenAI和谷歌的代表都鼓励组织使用AI代理来加强他们抵御其他AI代理的防御。“我们必须重新发明一切，以使机器规模与机器规模相匹配，”Boldstart Ventures的一名普通合伙人Ed Sim说道。他和其他人对监管AI实验室表现出很少的兴趣。Snyk的首席技术和创新官马诺杰·奈尔表示，大企业平均每发现八个漏洞就会修补一个，因为人力资源有限。但他说，人们必须将一些漏洞检测、修复和监控的工作交给AI代理。“你必须达到一个能解决所有问题的阶段，因为在代理黑客时代，“这10个问题会在一瞬间变成100个问题。”他随后补充说，AI“如果转为一种优势，就不是一种逆境。”一些公司正在回应这一加强的呼吁。美国银行本周宣布已雇用1000名承包商来修复由AI发现的漏洞。奈尔表示，就在上周，他听到一些大型公司愿意暂时关闭系统，以优先解决安全漏洞。Anthropic和OpenAI表示，他们预计将继续报告自身测试中出现的相关事件。但这些公司的收入仍在激增，无论是来自攻击者还是防御者，因为后果仍然难以捉摸。这是《模型行为》新闻通讯的一版。阅读之前的新闻通讯。