《经济学人》2026年7月4日 — 上午10:00 当人工智能实验室Anthropic在今年晚些时候首次公开上市时，它有可能成为历史上最大的首次公开募股之一。这是因为该公司的聊天机器人Claude受到了程序员的喜爱，他们愿意为其访问支付高额费用。自2025年2月推出Claude Code这款软件工程助手以来，它已成为全球开发者不可或缺的工具。根据Anthropic的说法，该公司在5月份发布的代码中有超过五分之四是由Claude编写的。而在Claude Code推出之前，这一比例仅为“低个位数”。该公司的Claude深受程序员的喜爱。彭博社 报告称，系统在输出质量和数量上都有所改善。一项来自智库METR的影响力基准显示，在2025年初，Anthropic的模型能够完成耗时不到一小时的人类工程师任务。该公司的最新系统能够完成需要一天以上工作时间的任务。因此，当该公司在6月5日呼吁世界“有选择地减缓或暂时暂停前沿人工智能发展”时，可能会让人很容易扬起怀疑的眉毛。哪个市场领导者不希望其竞争对手停止追赶？ 我，机器人 然而，Anthropic的领导者们多年来一直担心失控的人工智能造成的混乱，似乎是出于真诚。最新一代人工智能模型在编码、工程和（即将来临的）科学领域表现如此卓越，以至于许多人担心它们可能会成为人类制造的最后一批。Anthropic的联合创始人Jack Clark认为，到2028年底，人工智能系统有60%的机会能够在没有人类介入的情况下创造出自己的继任者。那一时刻将标志着一种称为“递归自我改进”（RSI）过程的开始，这是一个闭环。模型的第一版生成第二版，后者更快且更强大；第二版生成第三版，后者甚至更强大。这个循环持续进行，每次迭代都伴随改进。构建一个能够实现这一点的人工智能系统，那么您的人工工程师将不再需要再构建另一个。Clark表示：“对许多人来说似乎是虚构的故事实际上可能是一个真正的趋势。” 人工智能悲观主义者担心超级智能将超出人类控制。没有人确切知道递归自我改进的后果会怎样。因为人工智能与人类不同，可以不知疲倦地工作，有人认为这将很快导致超级智能人工智能的出现——一种“快速起飞”。（它还被拟声词称为“泡沫声”，因为人们可以想象智能爆炸时的声音。）人工智能悲观主义者担心超级智能将超出人类控制，而RSI的开始正是人类命运被交给机器的时刻。然而，自我改进的人工智能可能会面临速度限制，至少在一开始是这样。构建一个能够实现RSI的模型需要自动化一系列目前由人类完成的专业任务。目前，数据科学家负责研究人工智能理论，程序员负责将其付诸实践。系统工程师构建基础设施，从而使玩具模型能够扩展到生产规模。其他人则寻找新的训练数据来源，或尝试生成新数据的方式。对齐和安全团队检查训练过程产生的结果不会造成伤害，无论情感是否故意。重复的乐趣 并非所有团队都同样愿意接受人工智能的辅助，而在每个专业中，有些任务比其他任务更容易实现自动化。人类程序员可以在不编写任何计算机代码的情况下完成他们的工作，但人工智能能够协商收购以前未数字化的科学论文集合可能还需要一些时间。如何推进“凌乱的前沿”并不总是显而易见。设计新算法似乎是较安全的工作之一，直到谷歌DeepMind的模型AlphaEvolve于2025年5月开始进行这项工作。它提出了一种改变谷歌如何在数据中心间分配工作负载的建议，从而节省了公司全球计算能力的0.7%。它还找到了更好的执行矩阵乘法的方法，从而将谷歌旗舰大型语言模型（LLM）Gemini的训练速度提高了1%。完整的RSI要求这一链条中的每个任务都实现自动化。 然而，人工智能驱动的研发加速可能在那之前就会显现。“随着人工智能系统在人工智能研发中所占份额的增加，与仅由人类进行的研发相比，其生产力提升可能会增加十倍、百倍，再到千倍，”乔治城大学内的安全与新兴技术中心（CSET）在1月份发布的一份报告警告称。在这种情况下，它警告说，即使某些人工智能研发方面在初期难以实现自动化，“加速…”