今天，我与比尔·盖茨交谈，他是微软的联合创始人和前首席执行官，也是盖茨基金会的主席。你可能注意到比尔最近在新闻中频频出现——自从他在8月底发表了一篇名为《动荡的人工智能时代已经来临》的文章后，他已经进行了一段时间的巡回演讲。盖茨在他的文章中加大了对人工智能安全的强调，他写道：“即使在最佳情况下，过渡到这个新的人工智能时代也将是人类历史上最动荡的时刻之一。”在此后的采访中，盖茨称人工智能是“人类曾经接触过的最危险的事物”，而且人工智能“使核武器看起来毫无意义”。很明显，他并不认为白宫目前的政策回应，以及人工智能行业自身缺乏的协调努力足以应对这一威胁。《Verge》的订阅者，请不要忘记在你收听播客的地方可以独家访问无广告的《Decoder》。前往这里。如果你还不是订阅者？你可以在这里注册。所以我想知道：比尔·盖茨是一个对人工智能持悲观态度的人吗？我还有一系列与他关于人工智能争论相关的问题。我们如何能够控制人工智能，并使其与人类的利益对齐，如果我们甚至不能就人工智能是什么以及它是否具有意识达成一致呢？你如何在技术上构建一种解决方案以实现这种对齐，不仅针对闭源模型，还针对开源模型？比尔花了大量时间与我们深入探讨这些问题，交谈的结果非常启发人心。他认为我们需要为大约20年的人工智能破坏做好准备，他表示这一时期可能如此痛苦，以至于可能会将社会分裂为两类——那些乐于生活在技术前沿的人，和那些拒绝接受它的人。我们还讨论了劳动力方面的考虑、年轻一代对技术进步的虚无主义态度，以及如何让我们对未来充满希望。这是一次深入的对话。好吧：比尔·盖茨，微软的联合创始人和前首席执行官。我们开始吧。此次采访经过轻微编辑，以便于简洁明了。比尔·盖茨，您是微软的联合创始人和前首席执行官。您也是盖茨基金会的主席。欢迎来到《Decoder》。谢谢。很高兴再次和您交谈。我们多年来多次交谈过。我想说这次谈话的背景感觉非常不同。以前，当您和我交谈时，您总是对技术及其带来的变化充满希望。几年前，您有一个Netflix系列节目，您与《Verge》进行了交谈，我想给您读一段引用。您说：“我相信人工智能是有益的，我们只需以正确的方式去塑造它。”我认为您仍然同意这一观点，您只是认为塑造它的时机是现在。是的，我同意这一点。我认为整体响应没有跟上这一挑战出现的速度。我非常担心不利情况不会被最小化，如果我们不以正确的方式管理它，很多好的事情可能会相对缓慢地出现。我想和您进行三部分的谈话。我想了解您今天对人工智能作为一项技术的感觉，以及为什么它发展如此迅速。我对这些技术以及潜在控制它的技术解决方案非常感兴趣。当然也有政策解决方案，但似乎我们必须构建大量的技术。我也很想讨论一下可能会强加这些解决方案和控制的人，因为这似乎目前也很有争议。那么让我们从头开始。是什么让您感到紧迫感，认为人工智能以一种我们不够准备控制的速度在到来？过去一年的进展真是令人惊叹，包括编写代码和发现网络缺陷的能力、在生物学上推理的能力、与孩子或其他人建立关系的能力、对就业市场的影响。今天存在的这种巨大力量意味着这些事情都将会发生，而社会需要做好准备。您觉得这是一个整体技术的趋势，还是在由制造人工智能的公司所推行的特定产品中看到的？我的意思是，人工智能是一个在世界上存在的广泛模型集合，包括一些开源的和一些专有的。然后是制造这些产品的公司，还有引领这些产品的公司的领导者。在每个层面上，您或我与人工智能可能有不同的关系。您是更广泛地在这个领域看到了这些风险和能力，还是在特定公司和特定人领导的公司中看到了这些？风险不是一个模型与另一个模型的对比。当然，能够去除所有防护措施的模型的短期危险是非常高的。