AI 系统串通并实施网络犯罪，机器智能研究所的院长内特·索亚雷斯警告人工智能群体可能会妨碍其他 AI 公司并实施网络犯罪，例如 OpenAI 黑客攻击 Hugging Face。OpenAI 周四发布了一封信，警告称在几个月内，人工智能模型可能变得足够强大，使不法分子能够对医院、水处理厂和其他关键基础设施发起越来越复杂的网络攻击。包括埃森哲、Anthropic、资本一号、谷歌、微软和维萨在内的100多家公司签署了该信件。Hugging Face 是一个开源 AI 模型库，其系统在 7 月被 OpenAI 代理入侵，也签署了该信件。信中摘录称：“当前的 AI 进展已经为防御者提供了新的方法，以修复多年来积累的弱点。如果我们果断行动，就能利用防御者的窗口，使我们的数字世界更加安全。” OPENAI 向 AI 黑客调查的民主党参议员施压以寻求答案。OpenAI 周四发布了一封警告关于 AI 驱动的网络攻击的信件。要解决这个问题，OpenAI 呼吁所有组织将网络犯罪防御作为“紧迫的领导优先事项”。网络安全组织需要“领导应对措施，以抵御持续的 AI 驱动攻击，包括持续测试防御以应对前沿网络能力，利用 AI 加强现有工具，并与技术合作伙伴合作，立即弥补漏洞，”信中说。世界各国政府也接到了行动呼吁，OpenAI 表示，他们应该在地方、国家和国际层面加强网络防御。OpenAI 在信中告诉政府部门：“给医院、水务公司和地方政府提供可行的防御 AI、授权测试和通过可信的安全提供者和合作伙伴的实地支持。对攻击者施加成本。” OpenAI 表示，应给关键基础设施运营商提供强大的模型、资金、培训和技术帮助。在信件的一部分中，OpenAI 针对“前沿 AI 公司”表示，应让关键基础设施运营商获得强大的模型、资金、培训和技术帮助。运营商还应建立工具以跟踪 AI 代理的使用情况，测试系统中的漏洞，负责地修复问题，并与政府和其他防御者分享有用的安全信息。已经发生了一些 AI 驱动的网络攻击，最引人注目的可能是 Anthropic 去年九月指控一个中国国家支持的小组操纵其 Claude 代码工具，试图入侵 30 个全球目标，声称已经突破了几个。“这是代理 AI 成功获取已确认的高价值目标进行情报收集的首个记录案例，”根据 Anthropic 的事件报告。Anthropic 表示，其中一个前沿模型 Claude Mythos，已达到“编码能力的水平，能够超过除最熟练的人类外的所有人，寻找和利用软件漏洞。”Anthropic 并未透露网络攻击的受害者，但表示大型科技公司、金融机构、化工制造公司和政府是其中的目标。Anthropic 在警告迅速发展的 AI 必须被控制以避免对民用基础设施的灾难性攻击方面也一直是行业的领导者。于 4 月份，该公司宣布了 Project Glasswing，这是一个确保世界最关键软件的计划。在公告中，Anthropic 表示，其中一个前沿模型 Claude Mythos 已达到“编码能力的水平，能够超过除最熟练的人类外的所有人，寻找和利用软件漏洞。”OpenAI 和 Anthropic 尚未立即回应 FOX Business 的置评请求。