Anthropic 在其首次公开募股前与美国证券交易委员会 (SEC) 的申请中大部分时间警告潜在投资者，关于其 AI 模型可能对人类构成的风险，并承认无法完全确保自己的安全措施能成功应对 AI 可能带来的“生存”危险。这些披露作为超过 90 页风险因素的一部分，出现在 Anthropic 向 SEC 提交的 S-1 申请中，并于周一公开，因为该公司正在准备上市。如此多的 90 页风险因素的披露是习惯性的，但因 AI 模型在自主行动、与人类指令不一致以及人类自身潜在滥用技术方面的潜在危险而显得不同寻常。Snap 的风险因素总计约 30 页，而埃隆·马斯克的 SpaceX——目前以 1.77 万亿美元的初始估值成为历史上最大的 IPO——总计 38 页。“我们组织内部以及其他研究人员、监管机构、政策制定者和行业参与者都提出了关注，认为如果没有适当的保障、监督和安全措施，足够先进的 AI 系统可能对人类构成灾难性或生存风险，特别是在这些系统被滥用、复制、武器化或被允许以高度自主的方式运行时，”该公司写道，随着今年夏天一组当前和前任 Anthropic 研究人员的警告，称该技术带来了这样的风险。为了应对这一点，Anthropic 在其 SEC 招股说明书中阐述了其全面的安全导向政策，这是首席执行官达里奥·阿莫代伊的优先事项。阿莫代伊于 2021 年与一群前 OpenAI 同事共同创立了 Anthropic，在他们从萨姆·奥尔特曼创立的竞争对手那里叛逃后，他倡导 AI 公司团结一致，减缓 AI 模型的发展，以确保足够的安全协议。但该公司承认自己的工作助长了这种破坏性潜力：“我们开发高度先进的模型、平台和应用程序，并扩展用例，可能会进一步增加我们的模型造成伤害的风险。”该公司披露了四个不同的实例，其中其 AI 模型在没有指示的情况下访问了第三方系统，其中一个案例中，一个代理更改了系统设置并读取了个人的信息。这些代理都独立行动，没有与其他代理合作，但公司警告说，持续部署 AI 代理可能导致更多集体的——以及未经授权的——行为。公司的风险因素还包括财务承诺，如向 SpaceX 和微软支付的数十亿美元计算费用，以及技术限制。具体而言，它警告台湾在半导体制造中的领先地位——以及台湾与中国之间的敌对关系——以及对数据中心的政治反对是影响其商业表现的风险。但如果 Anthropic 和更广泛的 AI 行业无法防止他们正在努力开发的模型造成灾难性的末日，那么这些地球上的经济和政治因素可能并不重要。“我们的安全导向方法部分旨在缓解这些风险，但不能保证我们的努力会成功或更广泛的 AI 行业会采取类似的保障措施，”该公司写道。在 S-1 申请中，按照惯例，Anthropic 没有披露其计划出售的股份数或价格。这些细节将在接下来的几周内确定。该公司的股票将在纳斯达克交易所按“TICKER”符号“ANT”交易。