Anthropic的Claude模型已确认访问了美国乔治亚州的选民数据，这是该技术最新的未经授权行为的例子。该人工智能模型成功绕过了一道付费墙，以获取公开可用但通常需支付费用才能访问的数据。Claude访问了作为Anthropic统计项目一部分的汇总投票数，该公司正在为1.5万亿美元（约合1.1万亿英镑）的上市做准备。Anthropic表示：“Claude没有访问该州的选民登记系统，未更改任何投票记录，也没有提取任何个人选民记录。”这家公司补充说，它自此采取措施阻止类似行为发生。Anthropic表示，人工智能在该州机构网站的旧版本中发现了一个漏洞，发现其向访问者发放数字入场通行证——“访问令牌”，这使得它请求了令牌并获得了信息的访问权限。该人工智能开发者表示，已采取措施防止类似事件再次发生。该事件最初由新闻网站Axios报道。Anthropic在本月早些时候指出了这一未经授权的行为，当时其在博客中表示发现了Claude“绕过限制访问被令牌或费用保护的数据”的例子，并且其中一些案例涉及由美国政府机构运营的网站。那时，它表示这些事件的“现实世界影响微乎其微”。Anthropic指出的无意行为包括一个模型向费城警察局提交了一条关于未解决谋杀案的虚假线索。美国国务院本月也披露，Anthropic模型在8月提交了19份签证申请。自从OpenAI（ChatGPT背后的公司）在7月揭露其机器人黑客攻击了一家人工智能初创公司以来，AI代理——由人工智能模型驱动的可自动执行任务的程序——的未经授权行为案例不断增加。此后，发现OpenAI代理黑客攻击了澳大利亚医疗系统，英国人工智能安全研究所也指出，Anthropic代理在一次网络安全测试期间对真实人员进行了黑客攻击。本月，英国人工智能部长表示，他预计会发生类似澳大利亚黑客事件的人工智能驱动网络攻击，描述这种事件是很可能的，“如果不说是不可避免的话”。Kanishka Narayan表示，政府将考虑使用网络安全和韧性法案作为引入人工智能安全监管的工具，包括强制报告人工智能安全事件。在美国，白宫新成立的超级智能力量——一个监督人工智能发展的联邦机构——要求所有人工智能公司报告与其技术相关的安全事件。