2026年7月31日 · 5分钟阅读 #科技 #机器学习 领导者往往是内心矛盾的人。马库斯·奥勒留在《沉思录》中写下所有理性存在的共同人性，同时指挥入侵。亚伯拉罕·林肯认为奴隶制在道德上是错误的，然而他“首要的目标”是维持联邦，使得他最初抵制立即废除奴隶制。上周，在接受《经济学人》采访时，埃隆·马斯克表示，他每天都能在“兴奋与恐惧之间”变换。达里奥·阿莫迪似乎也是内心矛盾。在他最近关于开放权重人工智能模型的备忘录中，目前在中国训练的最佳模型，他用粗体字写到自己从未主张禁止这些模型，但在接下来的句子中却开始给这个声明添加注释。上周，《纽约时报》报道说，Anthropic私下游说增加对中国开放权重人工智能模型的限制。达里奥·阿莫迪写道，他只把“不具备危险能力”的开放权重人工智能模型视为公共产品。在备忘录后面，他支持对所有足够强大的模型进行政府组织的强制安全测试，认为开放权重模型本质上更难做到安全，因为其保护措施可以被移除。他所说的专有模型本质上更安全，因为其使用受到监控，随时可撤销进入权。这种思维表明，只要开放权重保持在某个政府定义的能力阈值以下，它们是可以接受的。如果它们过于强大，它们的使用就应该受到监控或限制，而由于它们的使用无法被监控，因此应该通过法律加以限制。Anthropic销售对集中托管模型的受控访问。围绕昂贵的发布前评估、持续的使用监控、身份验证和可撤销访问建立的监管体系，自然有利于大型专有模型提供商。即使大学实验室、初创企业或社区设法训练出足够强大的模型，它们也没有符合该制度的合规、法律和评估基础设施。此外，名义上对关闭和开放权重模型应用相同测试并不真正对称。Anthropic可以控制Claude的保护措施。开放模型必须在其最糟的可行修改下进行有效评估，因为用户可以规避其内置的限制。因此，开放模型面临的标准本质上更高。这符合监管俘获的定义：围绕现有者的运营模式来监管行业，同时将规则描述为中立。达里奥·阿莫迪对开放权重模型的一些主要优势几乎没有关注。公司和机构可以可靠地运行自己的人工智能，而不用依赖政策多变且账单和访问条件不可预测的少数供应商。研究人员可以检查、研究（或者至少尝试）并微调它们。保护主义，特别是对进口的限制，将始终降低竞争力，长期而言对旨在“保护”的企业和国家造成伤害。如果当前美国政府听从Anthropic负责人的建议，结果将是削弱西方在人工智能领域的全球竞争力，进一步放弃我们在这项新兴技术中的文明主导地位。中国将继续发布新的开放权重模型，促使开发者和工具适应开放的中国技术栈，而不是限制性和竞争力较低的美国产品。此外，达里奥·阿莫迪公开倡导的出口管制，已经促使中国自建芯片。中国自然落后于西方，但并不像你想象的那样多。中国不再依赖我们的技术堆栈和我们的技术来构建其人工智能模型，而是越来越依赖自己的芯片，从而减少了西方的杠杆作用。达里奥·阿莫迪提议的另一个“打击”目标是“工业规模的蒸馏”。他承认“蒸馏并不能让中共获得与美国等效或更强的人工智能能力”，但他认为重要的是这“背后有一个寻求在前沿超过美国的威权国家”。我理解他因中国实验室可能通过提供廉价的Claude蒸馏而捕获他部分利润而感到沮丧。然而，我认为他不应该把这种（严肃的）商业担忧打扮成关于中国人工智能通过蒸馏超越美国的更宏大的说法。我认为，达里奥·阿莫迪真诚地担心人工智能可能带来的未来危险。我同意应该有一个行业或政府机构在发布前简要评估人工智能模型，也许可以基于Demis Hassabis最近的建议。我还认为，以信任和安全为基础的Anthropic创立的理想尚未充分思考，或者可能并未真正重视，因此正在崩溃。