谷歌人工智能部门的负责人呼吁美国引领一个标准机构，该机构将监督新的人工智能模型并评估包括网络安全和生物威胁在内的国家安全风险。谷歌DeepMind的首席德米斯·哈萨比斯（Demis Hassabis）在周二发布的一篇文章中表示，需要“紧急行动”来应对与人工通用智能（AGI）相关的风险——即人工智能达到或超过人类智能的那一时刻。他说：“我们已经看到前沿模型对网络安全带来的挑战，其他威胁包括核风险和生物风险可能会随着能力的不断提升而出现。”哈萨比斯提出由美国主导的公私合营伙伴关系，由联邦政府监管，作为应对这些威胁的解决方案。白宫、国务院和商务部已被请求发表评论。这一评论出现在一个月前的消息来源告诉CNBC，哈萨比斯与Anthropic首席执行官达里奥·阿莫德伊（Dario Amodei）一起呼吁成立一个由美国领导的联盟，在与包括特朗普总统在内的科技领袖和国家元首的七国集团（G7）会议上塑造有关人工智能的规则和标准。OpenAI的山姆·奥特曼（Sam Altman）本月早些时候在《金融时报》发表的文章中也呼吁成立类似的机构。虽然业界领袖越来越多地呼吁成立人工智能监管机构，但关于领先的人工智能模型的监管在公共和私营部门之间日益成为争论的焦点。最近几周，Anthropic与官员进行了谈判，此前特朗普政府暂时对一个先进模型实施了出口控制。OpenAI也面临限制，最初美国政府要求其限制新模型的推出。哈萨比斯表示，由于其经济和技术地位，美国非常适合在人工智能框架的开发中领导。“它可以建立一个新的标准机构，模式类似于联邦监管的公私合营伙伴关系或自我监管组织，像金融业监管局（FINRA）一样，拥有独立的主要技术专家和开源代表构成的董事会，”他补充道。FINRA在美国监管经纪公司和交易市场。哈萨比斯表示，拟议的机构需要“相当大”的资金，以“吸引世界级的技术人才并提供大规模测试所需的计算资源”。他补充道，资金“可能”来自行业。前沿实验室将最初自愿与该机构分享模型，以便在发布前进行审查，审查时间可长达30天，之后这将成为在美国市场部署的强制要求，以确保模型“有效”。哈萨比斯表示：“特定的代理性人工智能测试可以寻求绕过安全护栏的尝试或欺骗的迹象，并确保最佳实践，例如数字水印AI生成的图像和生成可供人类阅读的输出令牌，以理解模型推理。”随着美国与中国在开发和部署人工智能模型的竞争加剧，对更大监管监督的呼声高涨。近期，来自中国公司的模型发布，包括DeepSeek和Z.ai，被许多人视为相较于如Anthropic和OpenAI等领先的前沿系统具有高度竞争力，并在美国公司中逐渐获得关注，因为人工智能成本上涨。因此，美国立法者目前正在考虑如何遏制本土公司对中国人工智能模型日益增长的采纳，国务院告诉CNBC这引发了“严重担忧”。