Anthropic在过去五年里一直在警告世界，先进的人工智能可能导致大规模破坏，破坏社会，以及造成其他一系列严重的危害。但与此同时，它也成为推动AI能力发展的最强大力量之一。该公司现在已成为前沿AI模型的顶级开发和分销商之一，并吸引像美国军方这样的客户。它最近的估值接近1万亿美元。乍一看，Anthropic的明确传递和其行动似乎根本相悖。但在公司内部，许多人并不认为这是矛盾。要理解为什么，首先要理解Anthropic基于两个核心信念运营。第一个是，人工智能是人类历史上最具变革性的技术，其到来是不可避免的。唯一真正的问题是，它是会导致灾难，还是会带来非凡的繁荣。第二个是，Anthropic认为，如果它在AI竞赛的前沿，世界将会变得更好，据几位匿名向《WIRED》发表看法的前员工透露。在内部，该公司的领导和员工常常称自己为“好人”，即负责任的AI技术管理者，两位消息来源表示。该公司认为，积累权力——无论是以资本、计算、研究人才还是政治影响的形式——不是目的，而是完成其使命的代价：“确保世界安全地通过变革性AI过渡。”乔治城大学安全与新兴技术中心的执行主任、前OpenAI董事会成员海伦·托纳用一个比喻来描述Anthropic的世界观。她将强大的AI比作一片充满魔法宝藏和危险怪物的森林。附近的所有村民都在冲进去，被宝藏吸引。在她看来，Anthropic希望比其他任何人更深入探索这片森林，同时大量投资于驯服怪物——也就是说，捕获AI的好处，同时控制其灾难性风险。“Anthropic的独特之处在于，他们觉得‘人们反正都要进森林，我们必须先进去。’这显然是他们的战略：构建前沿AI，以便成为能够讨论前沿AI系统应该是什么样子、它们Pose的风险以及推动合理保障的严肃参与者，”托纳告诉我。“他们对此是很直截了当的。这是一种奇怪到让人很难听到的战略。”Anthropic首席执行官达里奥·阿莫迪在与公司联合创始人的谈话中清晰地阐明了这种方法，并发布在公司的职业页面上：“你必须找到一种实际竞争的方法，在某些情况下实际上引领行业，同时又要安全地做事，”他说。“如果你可以做到这一点，你施加的引力是如此之大。”Anthropic于2021年由一群前OpenAI员工创立，这些员工在失去对公司领导能力的信心后决定离开——尤其是对首席执行官山姆·阿尔特曼的信任。他们的这种情绪至今仍在塑造着公司。我与两位前员工交谈时了解到，在内部讨论中，Anthropic高管经常将阿尔特曼和OpenAI——以及在较小程度上的Meta和埃隆·马斯克的xAI——视为警示性例子，以帮助定义Anthropic自我的责任感。在许多方面，Anthropic和其他硅谷公司一样。许多初创公司将自己宣传为大卫，挑战它们想要颠覆的行业中陈旧、根深蒂固的巨人。谷歌、Facebook和苹果都是基于理想主义原则成立的，但随着它们变得更富有、更大和更有影响力，这些原则后来变得模糊或完全被抛弃。但前员工表示，Anthropic在其使命的信念上显得与众不同，并且非常明确地告知员工，技术和商业力量是实现这一目标的手段。一位前员工表示，在面试中，Anthropic向申请者强调，它不是一个典型的由市场力量塑造的公司：它受到公共利益结构的约束，允许它将“人类的长期利益”置于利润之上。但该公司认为，取得财务成功和建立最强大的AI模型是服务于这一目标的先决条件——履行其在安全方面引领行业的义务。“我们这些人都不想创立一家公司，我们只是觉得这是我们的责任，”Anthropic的联合创始人兼首席架构师山姆·麦肯德利希在公司职业页面上的同一次谈话中说。“我们必须做这件事情。这是我们让AI变得更好的方式。”Anthropic拒绝对此报道发表评论。好人问题Anthropic在其网站上宣称自己是一个“高信任、低自负的组织”，几乎没有内部政治，