《经济学人》2026年7月4日 — 上午10:00 当人工智能实验室Anthropic在今年晚些时候首次公开募股时，它很可能成为历史上最大的首次公开募股之一。这是因为公司的聊天机器人Claude深受程序员的喜爱，他们愿意为获得访问权支付高额费用。自从2025年2月推出Claude Code这一软件工程代理以来，它已成为全球开发人员不可或缺的工具。包括Anthropic自身的开发人员在内，该公司表示，五月发布的代码中超过五分之四是由Claude编写的。在Claude Code推出之前，这一比例只有“低个位数”。Anthropic的Claude受到程序员的喜爱。彭博社 这些系统在输出质量和数量方面都有所提升。一个来自智库METR的影响力基准显示，早在2025年初，Anthropic的模型就能够完成那些人类工程师需要不到一小时才能完成的任务。该公司的最新系统可以完成需要一个工作日以上的任务。因此，当该公司在6月5日呼吁世界“有选择地放慢或暂时暂停前沿人工智能的发展”时，可能很容易引发怀疑的眉头。哪个行业领袖不希望其竞争对手停止追赶？ 我，机器人 然而，Anthropic的领导者们多年来一直担心失控的人工智能造成的混乱，这似乎是发自内心的。最新一代的人工智能模型在编码、工程和（即将）科学方面如此娴熟，以至于许多人担心它们可能是人类制造的最后一批。Anthropic的共同创始人Jack Clark认为，到2028年底，一个AI系统有60%的可能性能够在没有人类参与的情况下创造出自己的后继版本。那一时刻将标志着一个名为“递归自我改进”（RSI）的过程的开始，一个封闭循环。模型的第一个版本生成第二个版本，后者更快更强；第二个版本生成第三个版本，功能又更强。这个循环持续下去，每次迭代都带来改进。构建一个能够实现这一目标的人工智能系统后，您的人类工程师就再也不需要再构建另一个了。“看似幻想的故事，可能实际上是一个真正的趋势，”Clark说。 人工智能悲观者担心超级智能将超出人类的控制。没有人确切知道递归自我改进的后果是什么。因为人工智能可以不疲倦地工作并且不断运作，有人认为这很快会导致超级智能的AI — 一种“快速起飞”。（这种现象也被形象地称为“爆炸”，因为人们可能想象一种智慧爆炸的声音。）人工智能悲观者担心超级智能将超出人类的控制，而RSI的开始是人类命运移交给机器的时刻。然而，自我改进的人工智能可能会在开始时面临速度限制。构建一个能够进行递归自我改进的模型需要自动化一系列目前由人类执行的专业任务。目前，数据科学家研究人工智能的理论，而程序员将其付诸实践。系统工程师构建支撑玩具模型扩展到生产规模的基础。其他人则寻找新颖的训练数据来源，或者实验生成新数据的方法。对齐和安全团队检查训练过程中产生的结果是否会造成伤害，无论是故意还是无意的。 重复的乐趣 并非所有团队都同样乐于接受AI的辅助，各个专业领域中的某些任务也比其他任务更具自动化潜力。人类程序员很快就能在没有编写一行计算机代码的情况下完成他们的工作，但可能需要一段时间才能让AI能够谈判获得以前未数字化的科学论文收藏。 “锯齿状的前沿”如何进展并不总是显而易见。设计新算法似乎是相对安全的工作，直到谷歌DeepMind的模型AlphaEvolve于2025年5月开始执行这项任务。它提出了如何在其数据中心分配工作负载的变更，节省了0.7%的全球计算能力，并找到了更好的矩阵乘法方式，使得公司的旗舰大型语言模型（LLM）Gemini的训练速度提高了1%。 完全的递归自我改进需要在这一链中的每个任务变得自动化。然而，人工智能驱动的研发（R&D）加速可能会在此之前显现。“随着由人工智能系统执行的AI研发比例的增加，针对仅由人类进行的研发的生产力提升”可能会增加十倍、百倍乃至千倍，根据乔治城大学智库安全与新兴技术中心（CSET）在一月发布的报告。在这种情况下，该报告警告，即使一些AI R&D的方面最初难以自动化，