安索普去年支持了美国首批前沿人工智能安全法律，为加利福尼亚和纽约带来了新的透明度要求，而这些要求得到了硅谷的大多数反对，认为它们会扼杀人工智能的发展。但安索普表示，这些法律可能已经过时，该公司目前正推动各州采取更严格的监管措施。“以透明度为重点的2025年安全法案是一个非常重要的开始，但随着人工智能系统的能力迅速提升，政策响应需要相匹配，”安索普美国州和地方政府关系负责人塞萨尔·费尔南德斯在一次采访中告诉《连线》杂志。“我们认为，透明度和自我报告不再足够作为最强大人工智能系统的安全措施。”如此支持监管的信息对一家目前估值接近1万亿美元的创业公司而言显得有些奇怪。但安索普是一家不同寻常的公司。正如我们之前所写，安索普的领导者相信，它需要建立一个庞大的商业，以发展和销售先进人工智能的访问权限，以实现其创立使命：“确保世界安全地通过变革性人工智能进行过渡。”随着安索普的发展，它开始支持一些国家对前沿人工智能公司提出的最严厉的监管措施。这些规则旨在减轻灾难性的人工智能风险，包括先进模型可能导致金融灾难或大量死亡的可能性。在加利福尼亚和纽约州的自我报告法律之外，安索普还支持伊利诺伊州的一项措施，要求人工智能实验室让第三方审计员评估其安全流程。最近，该公司支持了一项马萨诸塞州政策，该政策还要求人工智能实验室进行第三方审计，并授权州检察长寻求对不合规公司的禁制令。 本周，我与费尔南德斯坐下来，了解公司人工智能政策的走向。费尔南德斯于今年稍早加盟安索普，此前曾担任体育博彩巨头FanDuel的美国州政府关系负责人，并作为Uber的高级公共政策助理。他帮助这两家公司在全国各州赢得了政策斗争。随着国会对通过人工智能监管的拖延，州政府开始领导，这一专业知识对安索普将是宝贵的。“可疑”的动机 尽管安索普的支持监管议程得到了人工智能安全组织、工会及其他亲密盟友的称赞，但一些硅谷领导者却将其政治努力解读为更阴险的动机。前白宫人工智能主管、现任特朗普总统技术顾问的戴维·萨克斯曾声称，安索普基本上是在试图推动繁琐的法律，以将较小的人工智能初创公司困在繁复的监管中，从而确保自己在人工智能竞争中的领导地位。“安索普正在实施一种基于恐慌制造的复杂监管控制策略，”萨克斯去年在社交媒体上写道。“它对损害初创生态系统的州监管狂潮负有主要责任。”费尔南德斯明确否认此指控，指出安索普只支持适用于“大型人工智能模型开发者”的州人工智能法案，这一术语在每一项法案中都有不同的定义，但通常指的是在人工智能开发上花费了数亿美金、年收入超过5亿美元的公司。“很难想象一家初创公司会达到这个门槛，”费尔南德斯说。但在一个如今开发竞争性前沿人工智能模型需要数十亿美元资本的世界中，几家有潜力的初创公司可能会迅速达到这些门槛。比如，安全超级智能、思维机器实验室和米斯特拉尔等公司都已从投资者那里筹集了数十亿美元，尽管它们的收入远低于安索普或OpenAI。当然，这些不是寻常的初创公司，但它们是安索普的潜在竞争者。我认为费尔南德斯论点的更可辩护版本是，任何足够大到可以开发强大人工智能模型的公司都应受到相同的监管，因为这种技术的潜在风险是相同的。费尔南德斯指出，安索普的部分目标是“激励一场向上发展的竞赛，开发最安全和最可靠的人工智能系统，”而公司认为，这包括推动政府立法。“我们的使命是确保这一向拥有先进人工智能的世界的过渡对美国人民和人类来说是顺利的，”费尔南德斯说。“如果你是一家正在开发强大人工智能系统的模型开发者，就需要对人们透明，包括你正在构建的内容、模型能力以及与州内关键基础设施相关的风险——所有这些都应该是一项首要任务。”安索普在这方面的立场...