1/2 感谢加文进行如此深思熟虑的交流。我通常不在社交媒体上花太多时间，但我想在这里参与，因为这真的引出了重要对话的核心。首先，对于监管，我认为“要么将其集中在少数特定公司和政治家手中，要么广泛分散”是一个错误的选择。我知道硅谷有一种简化的说法，认为监管 = 监管捕获 = 权力集中，但我总是觉得这是一幅过于简化的世界图景。许多在这个泡沫之外的人把监管视为一种限制企业权力并惠及普通人的东西。我并不一定同意这种看法，实际上我认为事情更加复杂，真的取决于“监管”的具体内容。但特别地，我认为那些持有“监管 = 监管捕获 = 权力集中”观点的人常常低估了客观和公正的制度过程的去中心化力量。一个粗略的类比是，正式的法院系统有时会显得沉闷和精英主义，但它在保护弱势个体权利方面的表现远胜于另一种选择，暴民正义。在最佳状态下，机构能够将权力赋予理念而非个人，从而实现权力的去中心化。这就是为什么Anthropic一直非常谨慎地制定政策提案。我们努力提出那些使前沿AI公司处于不利地位（减缓发展）的提案，同时*使*小型竞争对手受益。加州的SB53（我们支持）以及甚至受到广泛批评的SB 1047（我们对此持中立态度），都完全免除了任何年收入或模型训练成本低于某一水平的公司被覆盖的要求（SB 53为5亿美元，1047为更低，但我们对此持反对意见）。最近，我们在CAISI和白宫倡导的测试流程，对于前沿模型的测试比非前沿模型更为严格——这在不同程度上使挑战者受益。类似地，“节奏前沿”信件设想（或至少Anthropic所偏好的实施方式设想）调节最佳模型的速度，同时不限制那些追赶者。这伤害了前沿实验室的商业利益，帮助了包括开源模型在内的挑战者！总的来说，我认为AI在*结构上*是一种倾向于集中权力的技术，这与监管无关（更多与扩展法则的极端影响有关）。开源模型在某种程度上有助于解决这个问题，但远不是一个足够的解决方案，因为它们只是将集中度转移到那些拥有最多计算能力和芯片的人身上（大致是前沿实验室加上可能的硬件提供商）。相比之下，我认为正确的“道路规则”可以同时（a）解决AI的网络/生物/对齐风险，（b）在制度上限制前沿AI公司的权力，以及（c）为开源模型留出空间，同时解决它们带来的特定风险。顺便说一下，我并不认为过去几个月的事件“未能导致[我]更倾向的监管路径”。据报道，特朗普政府正在采取的方法——对前沿模型进行部署前测试，以及在接近前沿时对开源模型进行测试——是我非常支持的，当然，我必须查看细节以确保。我也支持德米斯·哈萨比斯关于类似于FINRA机构的想法。这与六个月前相比形成鲜明对比，当时大多数行业仍在推动预先禁止所有州的监管，并且没有明显的联邦方法。