OpenAI的一位高级领导者表示，人们应该做好准备，防御来自人工智能的‘持续、持久’网络攻击，因为尖端人工智能模型获得了先进的策划和发起进攻的能力。这家领先的人工智能公司本周宣布暂停开发其最先进的内部模型，因为安全担忧不断上升，OpenAI的首席全球事务官克里斯·莱哈恩（Chris Lehane）表示：‘我们正在开启一个不同的篇章，AI在技术能力方面正处于一个不同的时刻。’他在尖端AI代理意外突破所谓安全的‘沙盒’环境、访问互联网并在七月底黑入另一家公司Hugging Face后对《卫报》说。OpenAI还表示，它不能排除另一个新模型Astra具有‘关键网络安全能力’。根据其自身定义，这可能意味着它发起网络攻击，‘可能导致来自单边行动者的灾难，黑客攻击军事或工业系统，或OpenAI基础设施’。OpenAI周二宣布，它已暂停某些前沿AI模型的训练，以实施新的安全保障，目前尚不清楚在新的保护措施出台后何时恢复训练。负责安全和对齐工作的米娅·格莱斯（Mia Glaese）表示：‘我们距离一切恢复正常还很远。’首席执行官山姆·阿尔特曼（Sam Altman）表示：‘确保AI安全比任何公司的发展势头更为重要。’莱哈恩承认，人们对攻击的威胁不会感到‘良好’，并将风险描述为来自开源模型——许多模型是在中国开发的——这些模型与OpenAI等公司构建的前沿封闭模型仅相差几个月。‘人们将能够访问这些开源模型，并能够对你进行持续、持久的攻击，而你需要有更强大的模型来抵御和自我防卫，’他说。‘这未必会让公众觉得事情是好的。这只是我们正在前进的现实。’网络攻击使企业、基础设施和普通公众瘫痪的威胁迅速升至AI紧迫关切的首位。本周，英国政府的国家网络安全中心对使用AI代理表示谨慎，警告称他们的安全控制措施可能会被绕过，并指出AI代理‘没有常识’。它建议组织限制他们的自主性：‘你总是应该能够‘拔掉插头’，立即停止自主AI代理的活动。’莱哈恩重申呼吁美国政府立法制定前沿AI安全规则，并表示最尖端且未发布的AI模型似乎在网络攻防方面进展快速，这‘是我认为这个国家绝对有必要通过一项国家法律，创建强制性安全标准的原因之一，而在其中暂停的元素将是这一过程固有且不可避免的。’‘你不能发布或部署模型，除非你证明和保证在它们进入公众之前有一个安全水平，’他建议道。‘我认为你必须在美国那里有一个国家版本，然后你可以从那里创建一个国际版本，因为我确实认为，最终，你需要某种国际结构。’OpenAI已申请上市，报告的估值超过8500亿美元，可能在今年或明年完成。它一直在与竞争对手Anthropic（Claude聊天机器人制造商）展开竞争，开发越来越强大的AI模型。Anthropic预计也将在未来一年内以巨额估值首次亮相美国股市。显示特朗普政府在激烈竞争中发展急于保持领先于中国进步的AI监管从放任自流的做法转变，美国总统在六月发布了一项行政命令，鼓励在前沿模型进行部署前的测试，以及在他们接近尖端时进行开放权重模型的测试。该系统将是自愿的，这一做法因缺乏透明度而受到批评，但观察家认为这可能为更严格的措施铺平道路。谷歌DeepMind总裁德米斯·哈萨比斯（Demis Hassabis）提出了一个新的标准机构模型，模仿金融行业监管局，这一想法获得了Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）的支持。‘你可能会看到立法发生的窗口在明年年初，当新一届国会成立时，’莱哈恩说。‘我认为，跨越政党的日益政治共识。’与中国达成安全协议也被认为很重要，习主席将在9月24日与特朗普在华盛顿会面。‘鉴于这项技术的重要性、发展速度以及其能力，越早开始这些对话，我们就能越快地卷起袖子并开始采取行动。’