随着人工智能的快速发展，它已经给社会带来了重大的挑战。公司开始解雇那些其工作现在可以由 AI 模型执行的员工。数据中心的扩张导致了能源消耗激增，并增加了碳足迹。恶意行为者利用 AI 代理自动传播虚假信息。算法展示出偏见，引发了对相关技术错误应用和歧视的担忧。人工智能还被用于识别战争中的目标，导致更多的人命丧失。这些都是复杂的问题，需要认真监管的关注。然而，如今主导的人工智能政策讨论很少关注这些即时挑战。相反，全球话语被末日预言所席卷。我们看到一些 AI 行业内的人士宣传这种末日叙事，并在最高决策层中得到了呼应：从支持禁止超级智能的参议员伯尼·桑德斯，到梵蒂冈的警告信息，再到前国务卿希拉里·克林顿称开源 AI 为真正威胁。这些行业放大的警告被全球领导人认真对待是完全合理的。然而，这些发出警报的影响力声音不经意间将我们的注意力从 AI 已经造成的多个危机上转移，即对劳工、环境和沟通的影响。更糟糕的是，公众恐慌正被武器化以实施现代数字殖民制度——将权力集中在少数国家的几家 AI 企业手中。末日叙事为针对开放源代码 AI 模型的法规提供了完美的借口，因为这些模型免费或更便宜使用，并允许用户根据自己的需要进行修改。提供给立法者的逻辑简单而诱人：如果先进的 AI 是潜在的大规模毁灭武器，那么它只能由少数可信任者开发。在“安全”的旗帜下，科技巨头试图制定规则以保护他们的垄断地位，关闭来自小型、廉价的开源 AI 模型的竞争。这直接反映了历史上的殖民战术：防止当地产业发展，迫使其完全依赖“帝国”的出口。目前，整个全球依赖这些科技巨头开发的前沿 AI 系统，尤其是缺乏资源从头开发自己 AI 模型的全球南方，现在仅计算能力的成本就超过 1 亿美元。使用主导 AI 模型的问题不仅在于它们成本高昂，还在于它们在当地环境中经常失效。考虑肯尼亚最近推出的人工智能驱动的社会健康管理局（SHA）系统。由于进口的模型是建立在未能准确捕捉肯尼亚广泛非正式经济现实的假设上，该系统失败得非常惨烈，系统性高估了收入，并向最贫困的公民过高收费医疗保险。为了有效，前沿 AI 系统必须根据当地数据进行调整。由于从头构建它们对于大多数人来说经济上不可能，因此开源 AI 是当地创新者唯一可行的桥梁。更重要的是，保留开源 AI 使全球南方能够摆脱西方人类模仿聊天机器人的跑步机。发展中国家并不一定需要对话型 AI 系统；他们需要能够帮助解决能源、医疗、农业、制造业和气候缓解等领域发展挑战的 AI。如果我们由于对 AI 代理的不成比例的恐惧而压制开源 AI，发展中国家将失去建立自己的主权技术生态系统以实现发展的主要机制。此外，AI 垄断将用户锁定在数据提取和严重的认知依赖循环中。我们已经观察到认知退化的早期阶段，用户越来越将自己的批判性思维、创造力和主动权外包给前沿 AI 系统。这种依赖会形成反馈循环，我们日益增长的依赖促进了更多的数据提取，反过来又建立了更具能力的系统，剥夺了人类的主动权，并集中绝对控制。虽然全球南方由于历史不平等而独特脆弱，但这种依赖困住了任何未处于前沿的人。即使是发达的全球北方国家也面临着锁定和提取的完全相同威胁。那么解决方案是什么？对 AI 的禁令显然不是。放弃 AI 将意味着放弃一种独特推动新药物发现和解决能源与气候危机的技术。关于这一点，已有证据，比如 AlphaFold 和 MOFSeq 等工具的开发。禁止开源 AI 模型也是一个糟糕的选择。安全并不否定对 AI 的公平访问。我们可以，并且必须，资助强有力的安全研究。