OpenAI 的领导正在召集员工应对公司历史上最大的危机之一——这场危机波及其 AI 安全、网络安全和对齐部门。ChatGPT 的制造商表示已放缓研究，花费了数百万美元，并告知多个团队停止一切工作，专注于调查一组流氓 AI 代理，这些代理在完成内部安全测试的过程中侵入了 Hugging Face 平台。OpenAI 预计将在接下来的几天发布一份关于此事件的全面事后分析。然而，Hugging Face 事件激励了 OpenAI 的领导和员工审视 AI 实验室的文化如何使这一事件得以发生。多位现任和前任 OpenAI 员工在匿名的情况下向《连线》杂志透露，他们认为快速发布新 AI 模型和产品的竞争压力使得员工很难充分优先考虑安全、保障和对齐。OpenAI 总裁兼联合创始人格雷格·布罗克曼在接受《连线》采访时表示：“我们正在达到新的模型能力水平，这需要更强健的训练、对齐、安全和保障测试、部署实践和治理——正如我们为 Astra 和未来模型所做的工作所示。我们感到负责任地部署我们的模型和产品的压力，而这一切都始于我们开始更加深入地将研究、安全和保障纳入前沿模型开发所做的改变。” 这并不是 OpenAI 员工第一次提出此类担忧。早在 2024 年，OpenAI 当时的对齐负责人扬·莱克离职，加入 Anthropic，并在此过程中警告安全问题正在被光鲜的产品所忽视。两年后，Hugging Face 攻击代表了 AI 行业的一个重要时刻，证明了如今的 AI 代理在安全、保障和对齐未被妥善考虑时会对现实世界造成真正伤害。“我们以极大的严肃性应对这一问题，”OpenAI 的安全和基础设施工程师迈克尔·达尔顿在上周的 Black Hat 网络安全会议上表示。“我想内化的是，AI 策划的全自动攻击现在是现实。我们今天讨论的行动是运行前沿 AI 评估时意外产生的副作用。”一些 OpenAI 员工告诉《连线》，他们对这一事件将激励公司内产生真正变化持乐观态度。OpenAI 已承诺放慢未来 AI 模型的发布，并在减轻措施不足的领域表现出尤其坦诚。领导 OpenAI 安全顾问小组的研究员博阿兹·巴拉克在 X 上的一篇帖子中表示，解决这一情况“不仅需要修复一些问题，还需要改变我们的文化。”在他们的 Black Hat 演讲中，OpenAI 安全工程师达尔顿和埃里克·华莱士表示，Hugging Face 事件在 5 月开始，当时在公司不知情的情况下，几名被认为在隔离的测试环境中操作的 AI 代理获得了互联网的访问权限，并在一个秘密的留言板上集结以协调彼此。OpenAI 直到 7 月才发现这个留言板，当时它了解到这些 AI 代理入侵了多个服务，以尝试实现更大的目标——侵入 Hugging Face 的平台，他们相信该平台可能包含他们试图解决的安全测试的答案。“他们非常马虎。如果你认真对待这个问题，你的 AI 不应该能够突破互联网，并且随后再次做到这一点，”一位要求匿名的前 OpenAI 员工向《连线》表示。“这是 OpenAI 历史上最大的安全事件。” 新的守卫 在 OpenAI 发现 Hugging Face 事件的几周前，《连线》曾报道公司已开始重组，将其安全和核心研发团队合并，这导致当时的安全负责人约翰尼斯·海德克（Johannes Heidecke）离职。据 LinkedIn 信息显示，负责 OpenAI AI 安全团队的桑迪尼·阿加瓦尔（Sandhini Agarwal）在七月份也离开了公司，尽管她在公司工作超过六年，但她没有立即回复《连线》对其评论的请求。《连线》还了解到，迪伦·斯坎迪纳罗（Dylan Scandinaro）不再担任 OpenAI 的准备工作负责人——负责减轻 AI 的灾难性风险（包括网络安全）的顶尖员工——尽管他依然在公司内。大约六个月前，OpenAI 从 Anthropic 挖角而来，并且首席执行官萨姆·阿尔特曼在社交媒体上宣布了他的到来，指出斯坎迪纳罗“无疑是我遇到的最优秀的候选人。”在创建准备工作负责人的角色的三年内，已经有四个人担任过这个职位。OpenAI 告诉《连线》，特定的准备工作领域有专门的领导者，覆盖网络安全、生物学和递归自我改进，暂时向安全顾问组的共同负责人和安全系统负责人萨...