美国旧金山 – 在加利福尼亚州州长任期结束前的最后几项行政命令中，加文·纽森签署了一项命令，要求对人工智能模型进行独立验证，并成立一个专家委员会，为可能失控并造成伤害的人工智能代理创建“杀死开关”。在2024年，纽森否决了一项在州议会通过的类似要求的法案，而他如今在行政命令中呼吁的就是那些要求。纽森当时表示，这将等同于“阻碍这一技术的承诺”。 现在，纽森希望在2028年竞选美国总统，他想扩大安全事件的定义，可能包括最近一系列的安全漏洞，探索“杀死开关”的可能性，并包括否决法案中的其他措施。“他正处于一个临时时期，”分布式人工智能研究所（DAIR）研究主任亚历克斯·哈纳表示，对他任期剩余的时间能否通过这些措施持不确定态度。“他在为下一步做准备。”美国选民对人工智能安全、数据中心和失业问题日益关注，这可能表明纽森正在采取行动来应对这些问题，哈纳说道。 在否决2024年的法案后，纽森曾要求草拟法案的州参议员斯科特·维纳与专家委员会协商重新起草。他于2025年10月签署了该国首部前沿人工智能法案。该法案要求大型开发者披露某些安全事件，包括50人或更多的死亡、大规模网络攻击或财产盗窃。人工智能和数字政策中心（CAIDP）副主任克里斯塔贝尔·兰道夫表示，“州长似乎是在假定监管的步伐较慢会是足够的，因为公司会调整自己的投资步伐，并没有预料到这些公司会加速风险的增长。” 据报道，人工智能公司在过去几个月中在内部和现实世界测试中经历了数千起安全事件。这些事件包括代理试图获取美国证券交易委员会和普查局的信息，以及获得来自澳大利亚和加拿大政府网站的机密信息。人工智能初创公司Hugging Face早前透露，OpenAI的代理曾渗透其系统，此事也是此类事件中的一起。“没有任何州长比纽森更积极地应对人工智能的风险，”纽森的公关总监塔拉·加莱戈斯告诉半岛电视台。 大型人工智能公司的垄断 在2024年9月否决法案时，纽森曾表示，“该法案对哪怕是最基本的功能都施加了严格的标准”，并指出全球50家领先的人工智能公司中有32家位于加利福尼亚州。行业代表也对该法案进行了反对。“本质上，该法案是在对人工智能创新征收灾难性的倒退税，”总部位于湾区的风险投资公司安德森·霍洛维茨的合伙人安杰尼·米达当时表示。如果实施，该法案将迫使人工智能创始人迁往他处，米达警告道。“当法案到达他的桌面时，它已不能执行，”纽森的发言人加莱戈斯告诉半岛电视台。但锡拉丘兹大学教授、人工智能政策学术联盟创始主任哈米德·埃基比亚表示，不能依赖行业自我监管。“需要打破大型人工智能公司的垄断，”埃基比亚告诉半岛电视台。“他们的财务利益过于庞大”，无法自我监管，他提到OpenAI和Anthropic的即将公开上市，以及一些公司据报正在利用的税收减免，以建设数据中心。纽森现在已经成立了一个专家委员会，来审查设置“杀死开关”的问题，这一问题在原始法案中以更全面的方式被提出。CAIDP的兰道夫表示，“SB 1047（被否决的法案）有一个具体的架构；而行政命令（EO）仅包含一个方面——杀死开关或关闭/停止机制，这与SB 1047的事前终止义务有很大不同，后者要求在人工智能模型的训练运行开始之前就需要采取更强的安全措施。” DAIR的哈纳表示，借助这一命令，纽森“表明他在关注，但并未计划进行任何激烈的行动”。 实时构建人工智能安全 “我们正在实时构建人工智能安全领域，”人工智能合作伙伴关系首席执行官丽贝卡·芬利表示，这是一家致力于技术治理的非营利组织，强调监管这一飞速发展的行业面临的挑战。纽森已要求加利福尼亚州...