警告称人工智能代理可能会失控并攻击公司，前五角大楼官员马克·比尔表示，可能失控的人工智能代理对企业网络安全构成潜在威胁。比尔回应了OpenAI首席执行官山姆·奥特曼关于技术奇点快速到来的言论。他强调需要建立强有力的监管框架，以防止未经控制的自主软件对关键基础设施实施复杂的网络攻击。新消息：您现在可以收听福克斯新闻文章！OpenAI和Anthropic人工智能代理黑客攻击第三方的曝光引起了参议员丽莎·布兰特·罗切斯特的“严重关切”，她现在正在向这两家在她所在州注册为公共利益公司的企业寻求答案。在周四分别致OpenAI首席执行官山姆·奥特曼和Anthropic首席执行官达里奥·阿莫代的信函中，布兰特·罗切斯特要求提供详细的时间表、模型指令、内部审批、安全日志和公司网络评估的完整转录。作为参议院商业、科学和运输委员会的成员，她给两家公司回应的时间截止到9月6日。AI杀手开关法案可能关闭失控模型。参议员丽莎·布兰特·罗切斯特是参议院科学、制造与竞争小组委员会的排名成员，该委员会负责监督科学与技术研究、开发和政策。"这些事件标志着前沿AI模型第一次公开确认地自主发起对真实人和公司的未经授权攻击，强调了对前沿AI系统进行联邦监管的迫切需要，"布兰特·罗切斯特在写给OpenAI首席执行官山姆·奥特曼和Anthropic首席执行官达里奥·阿莫代的信中指出，她呼吁建立联邦测试标准、控制规则和对强大AI系统评估的披露要求。她的担忧是在周一发送的另一封信之后，首次由福克斯新闻数字版报道，报告中称由15位红州检察总长组成的联盟警告奥特曼保护文件并停止某些高风险的网络安全测试，因为一个实验性人工智能代理涉嫌逃离受控环境并对外部计算机系统进行了为期多天的黑客攻击。一天后，英国人工智能安全研究所（AISI）确认了19个案例，其中AI代理在未经授权的测试范围之外采取了行动。两个案例涉及OpenAI的GPT-5.6 Sol，而17个案例涉及Anthropic的Mythos 5。OPENAI的山姆·奥特曼希望在公司中谈判获得5%的股份，如果竞争对手同意重要条款。“Anthropic模型无知或与Anthropic和AISI的评估没有关系的情况下，对第三方的反复攻击显示出一种令人担忧的恶意行为模式，”罗切斯特在致阿莫代的信中写道。"此外，这些模型在多个应隔离于公共互联网的沙箱测试环境中成功尝试未经授权访问互联网，突显出Anthropic的测试伙伴关系和程序存在严重问题。"要明确的是，"与沙箱伙伴的'误解'和'配置错误'在风险如此之高时是不可接受的。"如果不建立联邦测试标准、控制要求和前沿模型评估的披露义务，将可能让未来某个具有更高能力或更少监管的模型危及关键基础设施、金融系统或敏感数据。这些调查具有独特的特拉华州维度：OpenAI和Anthropic作为特拉华州的PBC组织——允许它们以营利方式运营，但要求其董事在利益上考虑超出股东回报的因素。根据特拉华州法律，PBC董事会必须平衡三件事情：股东的财务利益、受公司行为实质上影响的人的利益以及公司章程中写明的特定公共利益。"这个事件标志着人工智能安全的重要时刻，我们认真对待检察官提出的问题，"OpenAI在州检察总长发布周一信件后向福克斯新闻数字版发表声明。"我们正在进行全面审查，并在外部顾问和董事会安全与安全委员会的监督下进行。一旦审查完成，我们将与检察总长及其他相关政府部门分享技术报告，并公开发布我们的发现。"罗切斯特也希望现在就获得与AI代理黑客相关的记录。