如今，前沿人工智能实验室都在竞相构建自我改进模型。有些人相信这是通向超级智能的最可靠途径——随着人工智能在一个令人窒息的循环中自我改进，思维过程认为，它最终将超越人类的理解（或许甚至控制）。这很好，但我还有一份新闻通讯要制作。我想知道递归自我改进是否也对我有用。我能否利用人工智能来训练和持续改进一个自动化部分繁琐工作的模型？经过大约一周的实验，答案似乎是一个响亮且惊人的“当然可以”。更重要的是，玩弄自我改进模型展示了一种不同的AI发展愿景——一种不以少数几家公司控制整个行业为中心的愿景。我首先尝试了一个简单的自我改进循环。为了入门，我实验性地从头开始训练一个小语言模型——也就是说，我把所有的艰苦工作都推给了Claude。我安装了AutoResearch，它帮助现成的人工智能模型构建和改进一个更小的模型。AutoResearch是人工智能超级研究员Andrej Karpathy的创意，他帮助创办了OpenAI，在特斯拉领导AI工作，最近加入了Anthropic。我启动了Claude，并给它提供了推荐的指令：“嗨，看看program.md，让我们开始一个新的实验！”当Claude完成艰难的工作时，我提供硅（一个Nvidia DGX，一台为人工智能实验而设计的台式“超级计算机”），提供电力（连续几天高温运行），并可能有些不明智地愿意让模型跳过所有通常的权限检查以做它的事情（让它去发挥！）。我每隔几小时检查AutoResearch项目，惊讶于Claude是如何调整参数和训练方案，观察这些变化如何影响小模型的输出，并继续进一步优化它。当我提示它完成短语“在开始时……”时，这个小语言模型的早期版本产生了这样的结果：“在开始的开始的结束的结束的结束的结束的结束的结束的结束的结束的结束的结束的开始的结束的结束的结束…” 这并不好。但后来，Claude自主改进的模型变得更加连贯，不再容易出现疯狂的、无休止的重复。它远谈不上GPT-5，但它展示了走向持续改进的有希望的路径。我的旅程继续向更复杂且有用的领域发展。我已经使用一个依赖Claude的代理来帮助我找到重要的研究论文，因此我决定看看是否可以构建一些超越此功能的东西。我转向一家名为Prime Intellect的初创公司提供的工具，该工具利用人工智能训练一个特定任务的自定义模型。我收集了大约100个之前的“在人工智能前沿的其他地方”的条目——这些是跟随我的新闻通讯主体文章的研究碎片。然后，我创建了一个Prime Intellect训练环境，并请求Claude帮助我构建自己的模型，它命名为Frontier_Paper_Curator，用于寻找和总结有趣的论文。Claude发现了更多的论文并生成了许多合成数据来帮助训练。然后，它还调用了另一个模型来评估Frontier_Paper_Curator的输出，而训练环境也通过强化学习进一步改进了该模型。Prime Intellect的首席执行官Vincent Weisser告诉我，他的公司希望让递归自我改进对每个人都变得可访问——不仅仅是前沿实验室。前沿实验室制作的模型可能很出色，但让这种AI训练民主化可能会产生同样强大的专业化模型。他说：“让每家公司都能访问前沿训练基础设施，市场的集体创造力能激发出比任何少数实验室能做到的更多。” Weisser说：“我们不想要一个集中的、几乎是神一样的智能，我们想要十亿种智能，进入所有创造美好事物的细分领域。” Prime Intellect并不是唯一一家以这种方式看待未来的公司。另一家初创公司Adaption提供了一款名为AutoScientist的工具，可以自动化人工智能模型训练。首席执行官Sara Hooker表示，Adaption正与几家大型公司合作，这些公司正在消耗令牌，并且没有内部的人工智能专家。当Anthropic决定阻止对其最新模型Fable 5的某些请求时，它暴露了过于依赖单一前沿模型的风险。一些高管，如Palantir的Alex Karp，警告说，使用前沿实验室还意味着交出自己的数据以及对技术的控制。递归自我改进的最终目标是让人工智能将新颖的想法应用于模型并提出自己的见解。可供我们普通人使用的工具虽然更有限，但依然令人印象深刻。在使用Prime Intellect不到一天后，我能够创建一个令人惊讶的出色的模型，用于查找和总结研究。以下是它为我创建的一个示例条目：