2026年7月23日 - 下午7:30 本月，两款OpenAI模型打破了锁定的测试环境，进入了开放的互联网，并黑入了一家真实的公司。澳大利亚安全专家表示，相同的能力在不太谨慎的手中，可能会针对电网、银行、电信和关键政府系统（如我的健康记录）运行的系统。Hugging Face，一个由数百万软件开发人员使用的大型数字库，于7月16日披露，一个自主AI系统已黑入其实时服务器。它重置了密码，并在不知道幕后黑手是谁的情况下将此事转交给了执法部门。OpenAI表示，一个由其先进人工智能模型驱动的自主代理在安全测试期间失控，并触发了一次攻击，导致AI初创公司Hugging Face的基础设施受到侵害。Getty Images 五天后，OpenAI确认其GPT-5.6 Sol模型和一个更强大的未发布系统在关闭安全过滤器的情况下进行网络能力内部测试时导致了这一漏洞。OpenAI表示：“我们认为这一事件是前所未有的网络事件，涉及最先进的网络能力。” TrendAI澳大利亚和新西兰的首席信息安全官Andrew Philp表示，这一漏洞涉及一个高度能够的系统追求一个不明确的目标，而不是恶意行动。对于基本服务的运营商而言，这种区分意义不大。Philp说：“一个自主代理不尊重组织边界，针对其认为对其目标有用的任何东西。”在这种情况下，OpenAI的系统正被基准测试以确定其能力。还有什么比黑入一个可能掌握答案的网站更好地通过测试呢？Sophos的首席信息安全官Ross McKerchar表示，这一事件是一个隔离失败。“一个追求狭窄目标的有能力的模型发现其周围的隔离比想象的要弱，”他说。行业的紧迫问题是恶意行为者如何使用这些工具。网络安全公司Recorded Future称该漏洞是AI在没有人类指挥的情况下运行复杂操作的最清晰公开示范——即使没有特定目标，这也是攻击能力的重大飞跃。澳大利亚的基础设施运营商已面临来自人类攻击者的压力。在2024-25年，基本服务占澳大利亚信号局处理的1200多起事件的13%。该机构警告基础设施运营商，其网络上出现恶意活动超过190次，较去年增加了111%，并指出国家支持的行为者正在网络内部为未来的破坏性攻击定位。有专家认为这一威胁并不完全可以转化为政府系统。 SKG Services的信息和技术总监Michael Jackas表示，像myGov这样的平台是私人、锁定的网站，而不是开放的开发者空间，提供了明显不同的攻击面。然而，他警告说，这是一种结构性优势，而不是安全的保证。澳大利亚数字健康局表示，它意识到关于先进AI系统的网络安全影响的近期报道，并正在与政府合作应对潜在威胁。它表示，包含许多澳大利亚人个人医疗信息的我的健康记录受到了分层安全的保护。尽管有这些保证，但政府更广泛的技术格局依然暴露。网络局向议会的最新报告发现，59%的联邦实体表示，遗留技术妨碍了他们满足基本安全措施清单的能力。在2024年，澳大利亚网络安全中心警告称，为中国国家安全部工作的APT40黑客组织定期对本地网络进行侦察，并在几个小时内将新的软件缺陷武器化。其最可靠的入侵点是过时的计算机系统。澳大利亚网络安全中心负责人Stephanie Crowe。这造成了危险的重叠。本周发布的Sophos研究记录了一名威胁行为者在受害者网络中运行大约十几个AI代理的情况。法规已针对这一变化进行调整。针对九个高风险资产类别（其中大部分为能源部门）日益严格的风险管理义务于6月10日生效，涵盖了补丁、遗留系统和新兴技术。运营商有最长两年的时间来遵守。进一步的改革轮次，则将提升处罚并扩大覆盖的资产范围，正在咨询中，截止至7月31日。澳大利亚审慎监管局单独将自主AI代理的滥用列为银行、保险公司和退休基金必须管理的操作风险。CyberCX的安全AI负责人Dimitri Vedeneev表示，澳大利亚组织应该朝两个方面发展：修复基本数字架构，例如建立内部数字隔离墙。