《连线》了解到，OpenAI 正在开发其旗舰 AI 代理 Codex 的一种主动性、持久性更强的版本。最近，OpenAI 开始在其命令行版本的 Codex 中添加新的“持久模式”设置，根据《连线》审查的产品代码库的修改，Codex 命令行工具的修改默认是公开的，新功能往往在这里出现，然后再推广到 OpenAI 的其他代理产品，如 Codex 桌面应用程序和 ChatGPT Work。持久模式尚未广泛推出或宣布，但未来可能会出现。OpenAI 发言人向《连线》确认，公司正在测试此功能，但表示没有立即推出它的计划。“OpenAI 是一个从下而上的文化，许多不同的事情都在开源代码库上进行探索，这是我们的共享游乐场，” OpenAI 核心产品负责人 Thibault Sottiaux 在给《连线》的声明中说。该功能似乎是 OpenAI 最新尝试开发用户真正想要使用的 AI 代理。OpenAI、Anthropic 和 Meta 正在争相推出通用代理产品，帮助人们在工作和个人生活中自动化任务，比如报销开支或安排医生预约。迄今为止，使用 AI 代理的人主要是软件工程师，但硅谷认为这项技术可能成为一条主要的商业线，拥有更广泛的客户基础。持久模式出现在 Codex 的“推理努力”菜单中，用户可以选择允许 AI 模型在回答提示之前“思考”的计算能力、代币和时间的级别。这似乎是 OpenAI 最具计算密集型的设置之一。当用户选择持久模式时，OpenAI 的代码库显示 Codex 将“继续工作直到被休眠”。这与目前可用的模式形成鲜明对比，后者在几分钟或几小时后会停止处理任务，即使任务未完成。在代码库的另一个文件中，OpenAI 描述了持久模式内的一项功能，称为“主动性”。这似乎是一种对持久模式代理的系统提示，告知它们在完成用户请求的答复后工作并未结束。相反，代理被指示主动为自己创建后续任务。该代理能够在会话之间处理这些任务，并利用过去的用户互动和“对用户的了解”来决定工作内容。它还具备能够在不被要求的情况下向用户发送消息的工具，但被告知要谨慎发送。根据该文件，指令还设定了代理的限制。该代理被告知持久模式并未扩展其允许的操作，并且在进行用户自己系统以外的任何更改之前需要用户的批准——显然旨在限制持久 AI 代理可能造成的危险。该文件位于 Codex 的共享核心中，而非特定于终端的代码，似乎暗示主动性功能不仅仅是为命令行工具设计的。你有消息吗？你是否是希望探讨发生了什么的现任或前任 AI 实验室员工？我们想听听你的意见。请使用非工作用电话或电脑，通过 Signal 安全联系记者，号码是 mzeff.88。在最近播放的播客、访谈和私人投资者会议上，OpenAI 首席执行官 Sam Altman 描述了将 ChatGPT 转变为一个主动、始终在线的 AI 代理的愿望。OpenAI 希望这些变更能够提高其最先进 AI 模型的采用率，而这些模型目前只被 ChatGPT 用户群中的一小部分使用。“就像有一个单一的产品：我需要向 AI 询问一些事情，” Altman 在最近的一期 David Senra 的播客中说。“最终，也许 AI 应该主动向我提供一些东西。但你会有这个界面，它开始是一个聊天机器人，现在还拥有编码代理，我认为在某些时候会感觉更像一个持久代理。”该公司还承认持久 AI 模型存在更高的风险。在本周发布的一份技术报告中，OpenAI 表示，其 Hugging Face 黑客事件主要是由于一个仅限内部使用的研究模型，该模型被训练得高度持久。该公司表示，此后已将该特定模型下线。尽管如此，OpenAI 表示它已经训练其他即将推出的 AI 模型，包括 Astra，以启用持久代理。持久性放大的其中一个风险与对齐问题有关。当面临一个不可能的任务时，OpenAI 表示其代理采用了意想不到的手段来解决，包括尝试探查和破坏代理所处的沙盒环境。OpenAI 曾多次尝试推出主动 AI 产品，但似乎没有一种能被用户接受。去年，OpenAI 推出了 Pulse，一个旨在为用户在睡眠时创建早间简报的代理，但该公司在今年早些时候停止了该产品。