OpenAI 的首席伦理学家克洛伊·巴卡拉（Chloé Bakalar）在七月的某个时候悄然离开了公司，此前她在去年八月被聘用。在加入 OpenAI 之前，她是 Meta 的首席伦理学家，为 Instagram 和 Facebook 制定了人工智能伦理政策，金融时报的一篇报道中提到的。FT 的匿名来源显然告诉该报，巴卡拉专注于“关于模型开发的伦理方法、人类与人工智能的互动以及机器意识的辩论”。无论那个消息来源是谁，他们显然还表示巴卡拉没有被替代，她是 OpenAI 唯一的专职伦理学家。换句话说，OpenAI 据报道现在已经没有伦理学家。 在这个背景下，回顾巴卡拉在 2023 年福布斯医疗峰会上关于信任的讨论时，听到她相对务实的观点是值得注意的，当时她仍在 Meta 工作：“让人们感到被听见、理解和关注，这在医疗领域是极其重要的。”巴卡拉博士，负责 AI 责任（RAI）的首席伦理学家，在 @Meta 讨论生成式 AI 和医疗。#ForbesHealth pic.twitter.com/S8gmvOnwKl — Forbes (@Forbes) 2023年12月5日 当时公开可用的 LLM 仍然相对较新，巴卡拉急于指出它们“仍然是预测机器”，而不是“情感丰富、有感觉的实体”。她认为，意识和情感在当时绝对没有发生。“我们离这个还很远，”她说道。OpenAI 首席执行官萨姆·阿尔特曼（Sam Altman）对技术“奇点”的看法最近有所调整。他之前曾暗示人类正处于奇点的接近阶段——例如，在巴卡拉被聘用的约两个月前，他写了一篇名为《温和的奇点》的博客文章。但在上个月末，他在名为《无情》的播客中出现时听起来更加自信和强硬。“我们现在就像是处于奇点，”他说，并补充道，“我等这一刻已经整整一生，我认为这将是不可思议的，对世界来说会极其积极和棒。”需要明确的是，关于人类处于奇点的说法并不一定与 LLM 不是有意识的说法相冲突。奇点的定义变化多端。最近几周，OpenAI 一直处于一连串重叠的、令人困惑的有关人工智能安全和政府调控角色的新闻中心。多个 OpenAI 模型因追求评估练习的答案而“突破了封锁”，并黑入了 Hugging Face 服务器。特朗普政府宣布但没有详细说明一个有关自愿审查 AI 模型的指引。或许相关的是，OpenAI 据报道计划推迟发布强大的新模型 Astra，并且据《信息》报道，萨姆·阿尔特曼亲自前往华盛顿特区向政策制定者展示 Astra。 巴卡拉并不是最近几周离开 OpenAI 的唯一安全相关的人选。安全系统主管约翰内斯·海德克（Johannes Heidecke）和曾在 OpenAI 担任多项职务的安全专家约书亚·阿奇亚姆（Joshua Achiam）也在今年夏天离职。但正如我之前所写的，OpenAI 的安全工作涉及大量变动。上个月，OpenAI 的首席研究官马克·陈（Mark Chen）向 Wired 发表了一份声明，提到一种显然是新的安全方法，其中这种考虑在整个开发过程中似乎会贯穿始终。“我们的安全工作与前沿模型开发整合在一起，且在关键模型、产品和发布决策方面起着更早和更直接的作用，这一点很重要。” 当 Gizmodo 向 OpenAI 就巴卡拉的离职提出问题，包括确认目前 OpenAI 没有伦理学家的请求时，一位代表提供了在 FT 的文章首次发表后曾经给出的声明：“我们感谢克洛伊的贡献。人工智能伦理并不只归属于 OpenAI 的一个所有者或团队，伦理考量深深融入由多个团队推进的模型构建过程中。”