就在一周多前，我参加了在北京繁忙的高科技区中关村举行的一场重要人工智能会议。会议内容引人入胜，涵盖了从递归自我改进——即模型可以调整自己的代码并无限进步的理念——到类人机器人等主题。并且它邀请了几位计算机界的传奇人物，包括公共密钥密码学的共同发明人惠特菲尔德·迪菲，以及与里奇·萨顿共同获得图灵奖的安德鲁·巴尔托，他们因在强化学习方面的开创性工作而获奖励。但我离开时留下的一个最重要的感悟是：美国和中国应该把激烈的人工智能竞争放一边。前沿人工智能带来的网络安全和系统性风险实在是太严重，越来越强大的自主模型如果不让世界的人工智能超级大国合作，将可能很快引发混乱。麻省理工学院的计算机科学家斯蒂芬·卡斯珀在会议后通过视频对我表示：“人工智能是一项全球技术，具有全球利益和全球危害，而且新能力最终会扩散的趋势是一致的。”到目前为止，美国在很大程度上将中国的人工智能进步视为经济和国家安全威胁。华盛顿对芯片和芯片制造设备施加了严格的限制，以阻碍中国在强大人工智能领域的发展。最近，美国政府命令Anthropic防止外国国籍人士访问其最强大的模型Mythos和Fable 5，因为国家安全问题。作为回应，Anthropic撤回了所有人的访问权限。据WIRED此前透露，特别引起担忧的一家公司是一家与中国有潜在联系的南韩电信巨头。但这场由北京人工智能研究院主办的会议强化了这样一个观念：如果人工智能发展得过快和不负责任，美中双方都有可能遭受损失。随着人工智能变得更加强大、更加自主并与日常生活更紧密地结合，其被用来进行网络攻击或以灾难性的方式失败的风险只会增加。由于世界上两个主导的人工智能强国负责着最先进的模型，它们之间的合作显得至关重要。卡斯珀指出研究表明，国际合作应对人工智能风险的好处超过了因合作而出现的任何国家安全风险。他将当前的情况比作美国和苏联被迫在核风险问题上合作，尽管它们寻求不断地超越对方的军备。“现在几乎每个人工智能领域的人都能达成的共识是：人工智能不需要一个切尔诺贝利时刻。”卡斯珀说。一天的会议中有一个环节突显了更先进人工智能带来的网络挑战的普遍性。这包括人工智能生成代码中出现的新类型漏洞、利用自主工具使用新型攻击系统的方法，以及进行社会工程攻击的自动化方式。在另一场讨论后，我与从事人工智能和计算机安全研究的上海交通大学教授林云进行了交谈。林云告诉我，他预计黑客在短期内会占据优势，但新的对策，包括对人工智能的新颖应用，应该会随着时间的推移将平衡倾向于防御。林云说，即使国际合作因竞争而复杂化，但它仍应优先考虑。“如果不同国家以相似的方式理解风险，开发共同的安全原则和技术标准就会变得更容易。”他说。“关键是找到共享能够降低系统性风险而不暴露敏感操作细节的领域。”可能对两国而言最紧迫的问题是如何在开放与风险之间取得平衡。开放模型已经成为研究和创新的关键，中国的模型在美国也颇受欢迎。但随着这些模型的发展，确保它们不会帮助黑客识别安全漏洞，并且不能作为网络武器的难度将越来越大。在过去几年中，中国公司在提供高度有能力的开放模型方面走在了前面，如Moonshot的Kimi、阿里巴巴的Qwen和Z.ai的GLM。美国也通过Nvidia的Nemotron重新启动了自己的开放人工智能推动。但我们正接近一个拐点，即使是性能较弱的开放模型，如果没有防护措施，也可能证明是危险的。根据专家分析，中国Z.ai最新的模型GLM 5.2包含前沿的自主和编码能力。下一代开放模型可能与Fable或Mythos一样强大。事实上，就在本周，360安全科技，这家中国顶尖的网络安全公司，表示它已经开发出具有与Mythos相当的黑客能力的人工智能模型。林云表示，业内将需要想出新的方法，确保开放模型是最新的，没有后门和漏洞，并已达到安全标准。一个可能预示未来的迹象？一种不快的情绪在与会者之间蔓延。