随着像“前沿步伐”等项目寻求通过大型实验室来确保人工智能研究的安全，开源模型已成为该行业的一个痛点。由于免费分发和对它们使用方式的控制较少，开放权重模型并不容易控制，这导致一些实验室将其视为非常可怕的事物。然而，在上周拉斯维加斯的Ai4大会上，世界上三位最受尊敬的人工智能研究者——诺贝尔奖获得者杰弗里·辛顿、世界实验室首席执行官及联合创始人李飞飞以及Coursera联合创始人安德鲁·吴——对该问题发表了看法。尽管他们在具体策略上存在不同意见，但三人都强烈主张保持人工智能的开放性。对这三位演讲者来说，核心关注点是让少数大型人工智能公司控制进展的步伐。当少数公司掌握访问技术的权利时，就像苹果和谷歌在移动操作系统中那样，创新可能会减缓，而控制平台的公司则可以影响其上构建的内容。安德鲁·吴表示，他担心人工智能中会出现类似的动态。“我不想有守门人，”吴说。“这限制了我们所有人访问人工智能的方式。”公司有动机保护他们的竞争优势，包括通过影响行业法规来实现。这可能导致只有最大的、资本最充足的公司才能够拥有建设最先进人工智能系统的资源。吴提出的解决方案是保持多个供方，使模型和公司相互竞争，而不是让少数参与者主导该领域。“如果我只能给出一个建议，那就是促进开放，”吴说，“因为人工智能是一个令人惊叹的技术，我希望它能掌握在每个人手中。”但并不是所有人都同意开放权重模型会帮助保持这种状态。辛顿特别区分了开源软件和开放权重模型，前者使底层代码可以被检查和修改，而后者则将已训练人工智能模型的参数向公众发布。“开源很棒。你展示给人们的代码，很多人会查看这些代码行并说，‘哦，有个bug。’开放权重意味着你训练一个大模型，然后给人们权重。这是非常不同的，”辛顿说。“我反对开放[权重]，因为这使得人们很容易拿到这些训练成本昂贵的大型基础模型并以更少的钱训练它们去做一些坏事，比如网络攻击。”但尽管他有保留意见，辛顿承认开放权重模型已经成为人工智能的一个永久特征。“我认为这场战斗已经失利。我们现在拥有开放权重模型，所以许多人获得这些大模型的障碍，就是训练基础模型的成本，那个障碍已经消失。为时已晚。”然而，接受现实并不意味着忽视风险。辛顿的立场很明确：人工智能将继续进步，他认为这在很大程度上是件好事。他说，这将提升生产力并改善教育和医疗。“担心人工智能可能带来的不良影响以及智能生物在比我们更智能时可能做的事情。我认为这并不不公平。我认为不公平的是给任何这样想的人贴上‘制造恐慌者’的标签，”辛顿补充道。吴则持不同观点。他认为，问题不是开放模型是否有风险，而是谁控制访问以及谁将在市场中获胜。无论谁建立了更便宜的模型，谁就会占据优势。如果中国的开放权重模型在亚洲、非洲或发展中国家得到了广泛采用，他警告说，它们可能会影响数十亿人对民主、自由和人权的看法。“我希望我们能做的一件事是鼓励美国的竞争力和开源人工智能。事实证明，人工智能是软实力的重要来源。例如，中国的模式在非洲有着巨大的成就，”吴说。“但我担心的是，由于美国的游说和制造恐慌，建立开源人工智能在美国难以与来自中国的开放权重模型竞争，我担心如果中国找到了一个根本上更具成本效率的方法来构建人工智能，那么更具成本效率的东西将具有根本的商业采纳优势。”李对此做出了反驳。“将这一问题形成完全开放和完全封闭之间的二分法是非常危险的，”她说。“在复杂的软件系统以及科学系统中，这要复杂得多。”李以核物理为例：科学论文是公开发表的，但铀受到监管，而实验室工作则处于两者之间。她解释的教训是，开放不一定是一个非此即彼的选择。生态系统的不同层次可以在不同的开放程度上运作。她还强调了公共和私人机构之间的合作，