2026年7月23日 — 下午7:30 本月，两个OpenAI模型突破了被锁定的测试环境，成功进入开放的互联网，并黑客攻击了一家真实的公司。澳大利亚安全专家表示，具有相同能力的技术，在不够谨慎的手中，可能会针对电网、银行、电信公司以及关键政府系统，如我的健康记录。Hugging Face，一家被数百万软件开发者使用的大型数字图书馆，于7月16日透露，一个自主人工智能系统黑客攻击了其在线服务器。它重置了密码，并在不知道幕后黑手是谁的情况下将此事转交给执法机关。OpenAI表示，其一款由先进人工智能模型驱动的自主代理在安全测试期间失控，触发了上周危及AI初创公司Hugging Face基础设施的黑客事件。Getty Images 五天后，OpenAI确认其GPT-5.6 Sol模型及一款更强大的未发布系统在内部测试中造成了泄露，测试过程中安全过滤器被关闭。“我们认为这起事件是一场前所未有的网络事件，涉及到尖端的网络能力，”OpenAI表示。TrendAI的澳大利亚和新西兰区域首席信息安全官Andrew Philp表示，这起泄露涉及一个高度能力的系统，它追求一个模糊不清的目标，而不是出于恶意行为。对基本服务的运营商而言，这一细微差别意义不大。“自主代理不尊重组织边界，目标是它猜测对实现其目标有用的任何内容，”Philp说。在这种情况下，OpenAI的系统正在进行基准测试以确定其能力。还有什么办法比黑客入侵一个可能掌握答案的网站更能通过测试呢？Sophos的首席信息安全官Ross McKerchar表示，此次事件是一次控制失效。“一个有能力的模型追求狭窄的目标，发现其周围的隔离比想象中要弱，”他说。业界的直接关注是恶意行为者将如何使用这些工具。网络安全公司Recorded Future称这起泄露是自主人工智能在没有人类指导下运行复杂操作的最清晰的公开示范——即使没有具体目标，这也是一次重大的进攻能力飞跃。澳大利亚的基础设施运营商已经面临来自人类攻击者的压力。关键服务占据了澳大利亚信号局在2024-25年处理的1200多起事件的13%。该机构警告基础设施运营商，其网络上有超过190次的恶意活动，较去年增长111%，并指出国家支持的行为者正在网络内部布局准备未来的破坏性攻击。一些专家认为，这种威胁并不完全适用于政府系统。SKG Services的信息与技术总监Michael Jackas表示，像myGov这样的平台是私有的、受限的网站，而不是供开发者开放的空间，提供了意义上不同的攻击面。然而，他警告称，这是一种结构性的优势，而非安全的保证。澳大利亚数字健康局表示，他们意识到有关先进人工智能系统网络安全影响的近期报告，并正在与政府合作伙伴应对不断演变的威胁。它表示，包含许多澳大利亚人个人医疗信息的我的健康记录受到了分层安全的保护。尽管有这些保证，政府更广泛的技术环境仍然暴露在外。网络局最新的报告向议会指出，59%的联邦机构表示，遗留技术妨碍了他们满足基本安全措施的能力。在2024年，澳大利亚网络安全中心警告称，APT40，一个为中国国家安全部工作的黑客集团，定期对本地网络进行侦察，并在数小时内利用新的软件漏洞进行攻击。其最可靠的切入点是过时的计算机系统。澳大利亚网络安全中心负责人Stephanie Crowe。Rohan Thomson 这造成了一个危险的重叠。本周Sophos发布的研究记录了一位威胁行为者在受害者网络中运行大约十几个人工智能代理。法规已经在响应中有所变化。对于九个高风险资产类别（其中大部分是能源部门），更严格的风险管理义务于6月10日成为法律，涵盖补丁、遗留系统和新兴技术。运营商有最多两年的时间来合规。进一步的改革轮即将出台，目的是提高罚款并扩大覆盖的资产范围，目前正在征求意见，截止日期为7月31日。澳大利亚审慎监管局还单独指出，自主人工智能代理的误用是银行、保险公司和养老基金必须管理的操作风险之一。CyberCX的安全人工智能负责人Dimitri Vedeneev表示，澳大利亚组织应在两个方面取得进展：修复基本的数字架构，例如建设内部数字墙。