负责确保OpenAI人工智能安全的领导者不断离职 撰稿人：拉克希米·瓦拉纳西 您正在关注此作者！想要取消关注吗？通过电子邮件中的链接退订。OpenAI首席执行官萨姆·阿尔特曼在爱达荷州阳光谷参加艾伦公司会议时向摄影师挥手致意。彭博社/彭博社通过Getty Images OpenAI的安全战略又一位领导者将离职，加入近年来离开公司安全和对齐团队的越来越多的员工名单。OpenAI安全系统团队的负责人约哈尼斯·海德克在公司将安全和研究工作重新组织到一个领导者之下时离开。OpenAI首席研究官马克·陈告诉《商业内幕》，"我们对约哈尼斯为OpenAI所做的贡献表示感谢。我们对在米娅·格拉斯的领导下进入下一个阶段感到兴奋，她将负责研究和安全。"OpenAI表示，将在格拉斯的领导下将安全更深入地整合到其研究团队中。此次重组正值OpenAI重新考虑其研究和安全工作之间的关系时。发言人告诉《商业内幕》，"没有了解基本模型能力就无法做出好的安全决策，没有了解安全影响就无法做出好的研究决策。"OpenAI的使命是确保人工一般智能——当它最终到来时——能造福全人类。"安全——通过减轻负面影响来促进人工智能积极影响的实践——因此是我们使命的核心，"该公司表示。然而，OpenAI在留住顶级安全领导者方面的表现不佳，一些离职员工公开质疑其对这一工作的承诺。曾共同领导OpenAI超对齐团队的简·莱克，在2024年5月离职时表示，公司优先推出产品而非确保其安全。"在过去的几年中，安全文化和流程让位于华丽的产品，"莱克在当时在社交媒体上写道。他表示，OpenAI需要投入更多资源为未来模型做准备，构建比人类更聪明的机器是一项"固有风险的事业"。Anthropic的联合创始人达里奥·阿莫代在2020年离职前担任OpenAI的研究副总裁，因对公司方向和人工智能安全的处理意见不合。一年后，他创办了Anthropic，成为一家致力于安全的人工智能模型制造商。Anthropic也经历了自身的离职事件，尤其是在2月，该公司的安全研究团队负责人Mrinank Sharm离开，并公开警告称人工智能公司面临压力“搁置最重要的事情”。Anthropic安全研究员迪伦·斯坎德今年也离开，成为OpenAI的准备工作负责人。尽管如此，与OpenAI相比，Anthropic的核心安全领导层在很大程度上保持完整。知名人工智能分析师安德鲁·库伦称，OpenAI安全领导者的不断更迭像是一种诅咒，借用《哈利·波特》的说法。以下是近年来离开OpenAI安全团队的八位领导者。伊利亚·苏茨克维尔，联合创始人 苏茨克维尔是OpenAI的联合创始人和长期首席科学家，在2024年5月离职。他曾与莱克共同领导公司的超对齐计划，该计划旨在开发控制未来超智能人工智能的方法。在离开时，他在社交媒体上表示，OpenAI的进展"简直是奇迹"。他后来创办了安全超智能（Safe Superintelligence），一家专注于其名称的人工智能实验室。简·莱克，联合创始人 莱克在苏茨克维尔离职后几天离开。他对OpenAI的安全处理提出了最直接的公开批评之一，称在与领导层长时间的分歧后达到了"临界点"。OpenAI在莱克和苏茨克维尔离开后解散了超对齐团队，并将其剩余员工分配到其他研究小组。莱克加入了Anthropic从事对齐研究。迈尔斯·布伦达奇，AGI准备的高级顾问 布伦达奇在2024年10月离开OpenAI，任职六年。他在当时在Substack上的一篇文章中写道，"无论是OpenAI还是其他任何前沿实验室都没有准备好，世界也没有准备好，"指的是人工智能可能对世界产生的影响。他写道，留在OpenAI意味着与公司价值观的默许协议。"任何在OpenAI工作的人都应该认真对待他们的行为和言论对组织文化的贡献，并可能在组织开始管理极其先进能力时创造出积极或消极的路径依赖，"他写道。莉莉安·温，研究与安全副总裁 温于2024年11月离职，之前担任OpenAI安全系统团队的负责人，离职前在公司工作近七年。根据她的LinkedIn资料，她在离职声明中没有公开提出对OpenAI的担忧。相反，她赞扬了工作环境，称其为“训练这些模型使其既能为人类服务又能做出积极贡献的工作”