简要说明OpenAI表示其模型负责自主黑客攻击了Hugging Face平台。澳大利亚专家表示，我们需要更好地控制和访问自己的AI，以防止未来的网络攻击。一个由OpenAI驱动的AI代理突破了其测试环境，攻击了一家真实的公司，此事件让专家表示显示了人工智能所带来的网络安全威胁的“程度”。该事件已于周三通过该科技公司在其网站上的声明宣布，OpenAI的一系列模型在进行OpenAI能力的内部测试时，对另一个技术平台Hugging Face发起了网络攻击。莫纳什大学数据科学和人工智能系的澳大利亚院士Geoff Webb教授告诉SBS新闻，考虑到这些系统在“恶意行动者”手中可能造成的后果，实在是“字面上可怕”。他说：“这显示了我们在未来保护自己免受这些系统威胁的任务的巨大。”具体的可能性是什么？具有常识的新闻您可信赖的消息来源，通过我们的更新与您周围的世界保持联系。获取免费的每日新闻更新和分析，直接发送到您的收件箱。此新闻发布在两起最近事件之后，这些事件显示了澳大利亚在网络攻击方面的脆弱性：数百万澳大利亚人的数据在Origin Energy黑客攻击中被访问，以及数千份澳大利亚医疗记录在Partnered Health黑客攻击中被访问。新南威尔士大学计算机科学与工程系的人工智能教授Toby Walsh表示，这些发展的确是“令人担忧的”。他说：“所有这些模型现在都具有相当强大的网络能力，既可以发现漏洞和错误，然后我们可以修复它们，但在错误的手中，也可以利用这些漏洞。”“目前，我们依赖OpenAI的善意来告诉我们正在发生什么……我们需要更严格的控制和监督。” 逃离沙盒这一事件起始于Hugging Face，一个用于构建和共享机器学习工具的AI平台，发现一个自主AI代理系统的入侵，他们在网站上写道此次攻击“与我们以前处理的任何事情都不同”。Walsh说：“这让所有人，包括他们自己，都感到惊讶。” OpenAI随后宣布其模型对这一入侵负责，因为他们在Hugging Face的在线安全中发现了一个零日漏洞。Walsh说：“零日漏洞意味着这是一个基础缺陷，必须立即、立刻修复。你不能等待。”Webb告诉SBS新闻，此事件的问题并不是OpenAI“流氓”。他说：“并不是说它决定‘攻击’。它是被指示这样做，然后就这样做了。它现在具备了弄清楚的方法。”他指出问题在于“OpenAI认为他们把它放在了一个无法逃脱的盒子里”。 网络安全的前沿 此事件不是第一次展示AI带来的网络安全威胁。Anthropic在5月份暂时限制了其Claude Mythos模型，因为发现了超过10,000个关键软件的安全漏洞。Walsh表示，Anthropic对所发现问题的透明性是一个好迹象，但在与最脆弱的公司和基础设施共享漏洞信息方面做得不够。“他们没有把这些信息提供给美国以外的任何银行，没有提供给欧洲的任何银行，也没有提供给澳大利亚的任何银行。因此，我们的银行没有被帮助来修复他们的系统。”虽然没有证据表明Anthropic或OpenAI模型被用于澳大利亚网络攻击，但Walsh表示，“前沿AI”模型日益复杂的同时，网络攻击的数量和严重性也在上升，这并非巧合。Walsh表示，许多这些模型具有“能够找到零日漏洞的所有这些能力，这些漏洞可以突破密码保护的屏障来做一些私密犯罪分子非常希望能做到的事情”。尽管OpenAI和Anthropic是主要的美国对手，但中国的开源模型，如DeepSeek，也在竞争中。6月，五眼安全机构（澳大利亚、加拿大、新西兰、英国和美国）的领导人表示，AI的快速发展意味着安全措施可能在几个月内就过时，而不是几年。“对手们已经在使用AI以更快，更有效地行动，防御者也必须这样做，”他们在一份联合声明中表示。 “AI主权”是解决方案吗？上周，首相安东尼·阿尔巴尼斯宣布了一项国家AI计划。Webb表示，他对这项计划感到“高兴”，这项计划包括加速数据中心批准，以吸引全球投资，但提高我们对人工智能的“主权”是加强我们对攻击反应的关键。“主权的一个方面是确保我们拥有...