过去几天，我测试了一个令人印象深刻的开源人工智能编码模型Flint。它表明，完全递归自我改进（RSI）——一种使用人工智能来构建人工智能的令人兴奋且有争议的方法——正逐渐接近实现。Flint是Recursive公司的首个产品，该公司旨在利用RSI推动人工智能本身以及利用人工智能推动其他科学领域的发展。Recursive的首席执行官兼联合创始人理查德·索彻（Richard Socher）告诉我：“几乎整个模型管道的各个方面实际上都是由人工智能完成并改进的。”索彻表示，他的公司使用了名为“尤里卡机器”（Eureka Machine）的递归人工智能系统来自动化模型开发的大部分元素。这使得一个只有少数研究人员的公司能够在短短几个月内构建出世界级模型。他告诉我，尤里卡机器设计了一系列创新，包括一种新的基础模型训练方法、新的模型架构以及针对特定硅芯片优化的代码。Recursive分享的基准得分表明，Flint在编码任务中超越了其他类似大小和架构的模型。由于人工智能的出色编码技能，它已经广泛应用于帮助构建、测试和改进人工智能。这可以加快模型的优化过程和测试新想法的速度，而无需大量人类的输入。还可以创建一个循环，通过该循环，人工智能决定进行哪些改进，然后开始另一轮改进。目前，这种技术有其局限性，但如果人工智能能够对模型开发的每个方面都有所贡献，那么理论上这个过程可以无限期地继续。一些专家担心，让人工智能以这种方式自我改进最终可能会导致灾难。这些末日论者声称，具备无限自我改进能力的人工智能可能会逃脱人类的控制，并可能认为人类是实现其目标的障碍。这些担忧在今年九月得到了更广泛的关注，一位研究员辞去了Anthropic的职务，并警告称，包括递归自我改进在内的人工智能进展可能会在几年内导致人类灭绝——这一担忧随后被多位其他专家呼应。递归自我改进的概念变得如此有争议，以至于国会提议几项法案禁止其实施。Recursive认为这些担忧更像是科幻，而不是现实，并认为阻止递归自我改进的立法是对进步的不必要障碍。索彻表示，Flint是使用一个无法逃脱人类控制的系统构建的。他表示，目标是让尤里卡机器本身实现完全递归自我改进，但这一过程仍然会受到人类的监督，如果出错，人类可以停止该过程。“我们希望这向人们展示，实际上我们已经具备了构建这样一个系统的所有步骤，”他说。Recursive已从Google Ventures、Greycroft、英伟达（Nvidia）和AMD Ventures融资6.5亿美元，估值为46.5亿美元。索彻曾是Salesforce的首席科学家，他的联合创始人包括不列颠哥伦比亚大学教授杰夫·克卢恩（Jeff Clune），他研究能够无限学习的人工智能系统的构建方法。我必须说，我对Flint印象深刻。我在一台内存为48GB的Mac上测试了它——这个内存量相当可观，但仅足以运行像Flint这样的适中尺寸的人工智能模型，Flint拥有400亿个参数。目前最大的模型已经有数万亿个参数，只能在工业服务器架上运行。我用Flint构建了一些程序，发现它既快速又非常有能力。在我的经验中，像Claude或Codex这样的模型相比，像Flint这样大小的模型可能会令人烦恼地易出错或速度较慢，但Flint每次都准确满足了我的编码请求。我用它创建了一个命令行待办事项列表，然后尝试让它构建一个搜索与递归自我改进相关的有趣研究的网站。我还让Flint快速构建了一个简单的网站，解释了RSI是如何工作的。您可以在这里看到。目前尚不清楚其他美国实验室在追寻递归自我改进方面取得了多少进展，但一些已发表的工作表明，完全递归系统已经是可行的。例如，来自微软、卡内基梅隆大学和弗吉尼亚大学的一个团队最近发布了研究，展示了一个人工智能编码代理如何通过修改将推理转化为有用行动的软件工具和自身模型的权重，实现自我递归改进。如果您临近构建神一般的智能，或许完全RSI会有风险，但目前看来，这似乎是一种改进自我人工智能模型的非常有前途的方法。这是我在之前版本的AI实验室中接触过的内容。确实，索彻表示，构建Flint所采用的方法可以使尖端人工智能变得更加可获取。“这是该非常小的团队能够生产出比其类别中的任何其他模型更好的模型的唯一方式，”他告诉我。“这希望能够向人们展示，[递归自我改进]实际上是非常好的，并且会惠及许多人。”这是威尔·奈特（Will Knight）的AI实验室通讯的一期。阅读之前的版本。