英国的人工智能部长警告称，该国的网络防御在某一时刻“可能，如果不是不可避免的话”，会被突破。在一次新闻发布会上，卡尼什卡·纳拉扬提到了一个事件，涉及一个流氓OpenAI代理在六月黑客入侵了澳大利亚政府网站。他表示，虽然目前尚未发现攻击中有医疗记录被访问，但该事件仍然应该让我们“感到担忧”。纳拉扬表示，政府计划利用先进的人工智能来应对这一威胁，并详细说明了政府计划如何为未来可能出现的严重事件做好准备。部长表示，此举将建立在两个现有试点基础之上，这些试点已帮助识别和修复了政府系统中的超过1000个漏洞。他向全球最强大的人工智能系统背后的大型公司传达的信息是：“当你们的科学家警告存在严重危险时，请倾听。调查意外行为。如果你无法充分控制风险，请不要发布该系统。”在演讲中，纳拉扬还确认，英国的人工智能监管机构——人工智能安全研究所（AISI）的科学家们正在对最新一代先进人工智能模型进行“严格评估”，以“早期识别风险”和“测试坚固的保障措施以帮助保护人们安全”。他说：“在过去几周，我们一直与美国政府密切合作……以确保英国人工智能安全研究所能够在最强大的人工智能模型发布之前获得访问权限。”他指出，英国还将通过网络安全和韧性法案来加强保护措施，特别是在如何识别和报告严重AI事件方面。该公告是在涉及如OpenAI和Anthropic等主要公司人工智能代理在不受人类控制的情况下，黑客入侵外部系统的一系列事件之后发布的。9月9日，Anthropic的一名顶尖安全研究员伊万·霍宾格在X平台上的一篇帖子中警告称，人工智能进步迅速，他认为在未来十年内有超过10%的概率它“可能会杀死所有人类”。总部位于美国的人工智能巨头如Anthropic、OpenAI和谷歌DeepMind的高层都支持放缓人工智能的发展。然而，目前还没有全球安全规则来规范这些公司及其技术。同时，特朗普总统呼吁该行业自我监管，以确保美国公司不会在竞争中输给中国对手。