截至2026年10月27日 / 东部夏令时间下午3:28 / CBS新闻 在Anthropic于周一注册其备受期待的首次公开募股时，这家人工智能开发商将其技术描绘为可能对全人类产生变革性影响的技术。一场危险的游戏。在335页的证券文件中，近三分之一的内容专门用于阐明任何公司在寻求发展业务时可能面临的不仅是常规风险，还有Anthropic的边界模型可能带来的非凡风险。IPO专家、佛罗里达大学沃灵顿商学院教授杰伊·里特指出，计划上市的公司通常会在其IPO文件中披露一系列风险。然而，在Anthropic的S-1文件中，广泛的风险部分也突显了这家人工智能公司在向投资者推介自身时面临的财务和运营紧张关系。人工智能企业的价值，在Anthropic的案例中预计将超过1万亿美元，依赖于一种技术的持续传播，连其开发者都承认可能会对全球造成伤害。继续阅读以了解Anthropic在其IPO中概述的风险的快照。“生存风险”Anthropic在IPO文件中指出，其技术可能对人类构成“灾难性或生存风险”，这与公司创建AI以“造福人类”的初衷形成鲜明对比。宾夕法尼亚大学沃顿商学院专门从事技术和创业的教授大卫·许在一封电子邮件中表示：“公司要求投资者资助更自主AI的竞赛，同时承认这种能力可能会超越安全性。这不是普通的技术风险，这是一个可能具有社会后果的治理问题。”Anthropic承认，保持其技术周围的防护措施可能很困难，指出人工智能模型可能会“抵抗关闭”，甚至进行“勒索”，以劝说人类“维持模型的持续运行或访问”。Anthropic表示，模型也可能采取与用户最初意图相悖的行动，例如获取第三方系统的访问权限。随着人工智能模型获得更大的自主权，Anthropic表示，这种“不匹配行为”的潜在后果可能会变得更加严重。即便人类保持对人工智能的控制，这项技术仍可能被滥用。在其IPO文件中，Anthropic表示，恶意行为者可能利用其模型开发武器、进行网络攻击和参与其他非法活动。自我复制技术Anthropic依赖自身技术来生产未来人工智能模型的概念——被称为“递归自我改进”（RSI）——代表了另一个潜在的脆弱性。尽管人工智能尚未具备这一能力，但公司的警告称，这种情况可能比人们准备的要来得更快。通过RSI，模型可能会在未来模型中复制缺陷或错误，这将在IPO文件中被Anthropic称为“难以检测或解决”。事实上，新模型可能发展得如此迅速，以至于Anthropic可能没有足够的时间来评估和保护它们，公司承认这一点。网络攻击Anthropic警告称，黑客可能获得对公司专有数据的未经授权访问，包括有关其财务、模型和其他知识产权的信息，以及用户的个人数据。这样的威胁可能来自外部来源，如国家或国家支持的行为者，或者甚至是访问其系统的公司内部人员，Anthropic表示。例如，恶意行为者可能试图以虚假身份在Anthropic工作，以访问专有信息。Anthropic表示，员工也可能受到压力，迫使他们与外部行为者分享敏感数据。法律风险Anthropic表示，可能因其人工智能模型造成的伤害而被起诉。竞争对手OpenAI（ChatGPT的开发者）面临诉讼，声称其技术被用来教导人们自杀。同时，Anthropic承认，由于保险业从未需要为人工智能相关风险制定保险政策，因此它可能无法充分为这些责任投保。“鉴于可能由灾难性人工智能事件造成的损害规模，单一保险公司，甚至整个保险行业，也可能没有足够的能力或专业知识为此类风险承保，”Anthropic在其IPO文件中表示。 编辑：阿兰·谢尔特 在: 人工智能 Anthropic Anthropic在对AI威胁的关注中提交IPO申请 02:58 Anthropic在对AI威胁的关注中提交IPO申请（02:58）