利用工程提升自我
递归自我提升(RSI)的概念可以追溯到 I.J. Good(1965 年),他将“超智能机器”定义为一种可以在所有智力活动中超越人类并设计更好的机器以自我改进的系统。Yudkowsky(2008 年)使用“递归自我提升”这个短语来描述一个特定的反馈循环:人工智能利用其当前的智力来改进产生其智力的认知机制。这种反馈循环在现代人工智能中可能表明模型直接重写其权重,或更广泛地说,模型改进训练管道和部署系统,从而使得拥有更好表现的后续模型能够在经济上有价值的任务中取得提升。研究和开发人工智能的速度已在前沿实验室(Anthropic;OpenAI)中被显著加速。我特别提到“部署系统”,因为原始模型与现实世界上下文之间的层似乎与模型的原始智能同样重要(即预训练后的评估)。马具是人工智能部署的重要组成部分,这在如 Claude Code 和 Codex 等成功的编码代理产品中得到了证明。马具是围绕基本模型的系统,负责协调执行并决定模型的思考和计划方式,调用工具和行动,感知和管理上下文,存储文档并评估结果。本文将重点讨论有关马具工程的研究及其如何促进递归自我提升。最近大量关于自动研究、自我改进代理和进化程序搜索的工作可以围绕这个问题进行组织。关于模型自我对弈、合成数据、测试时训练及更广泛的持续学习主题的其他工作也符合递归自我提升的愿景(例如 Yuan 等,2024;Chen 等,2024;Zhao 等,2025;Choi 等,2026),但它们不会是本文的重点。马具设计模式 与早期的代理框架相比,“代理 = LLM + 内存 + 工具 + 规划 + 行动”,马具工程还包括工作流程设计(例如循环工程)、评估、权限控制和持久状态管理。它不再仅仅是提示模板,而是更接近于运行时和软件系统设计:模型如何观察、行动、记忆、自我检查和改进。设计应该是故意简单和通用的,以便支持泛化,可能参照现有的软件工程实践,以便从预训练知识中受益。马具与操作系统之间也有强烈的类比。与操作系统类似,马具应该封装复杂的逻辑,同时保持接口简单。同时,配置、工具接口和其他协议可能会逐步在行业中标准化。模式 1:工作流程自动化 定义一个模型能够操作、测试和迭代的工作流程是自动化设计的关键。Karpathy 的自动研究库(https://github.com/karpathy/autoresearch)是构建此类工作流程的一个清晰示例。一个常见的工作流程遵循一个以目标为导向的循环:计划、执行、观察/测试、改进,然后再次执行,直到实现目标。该过程可能会主动请求用户澄清任务规格或执行偏好。一个简化的 Codex 代理循环:代理调用工具,工具响应会影响模型的下一代。(图片来源:OpenAI Codex 代理帖子)工作流程图还强调了模型分析其自身轨迹和失败案例,然后在“代理运行时”中迭代进展,而不是静态提示模板。模式 2:文件系统作为持久内存 在长时间跨度的代理系统中,一个反复出现的模式是对丰富状态和文档的简单控制。马具不应在上下文中承载整个工作流程和所有日志;相反,它应该在文件中保持耐久状态。在长时间跨度的代理推出中,实验日志、代码差异、论文摘要、错误痕迹和过去的推出轨迹等文档往往比模型训练的上下文窗口长得多。学习如何读取、写入和编辑文件系统(通常通过 bash 命令)是 LLM 的基础技能,因此以简单的文件形式管理持久内存自然会受益于核心模型能力的提升。模式 3:子代理和后台工作 马具可以生成多个子代理以并行执行并监控后台工作。这在主代理需要搜索多个假设、同时运行实验或委派孤立子任务而不污染主上下文时非常有用。然后,父代理需要一个小的进程管理器:启动任务、检查日志、取消失败的运行并将结果合并回主代理线程。关键设计选择是使并行性明确且可检查。如果子代理输出仅存在于暂时的聊天上下文中,它们很快就会变得过时并被隐藏。如果它们被存储为文件,
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡