今天在华盛顿州柯克兰是个美好的日子，这是西雅图东岸的一个富裕郊区，气温在华氏80度中间，天空蔚蓝得无法再蓝。盖茨风险投资会议室的视野俯瞰着卡里伦点码头，那里一队昂贵的船只在水中摇曳，湖对面的奥林匹克山脉勾勒出地平线。景色如画，令人心旷神怡，但又略显恐怖。因为即使这幅画面如此安详，但传达者却并不平静。比尔·盖茨坐在会议桌对面，摇晃着椅子，神态夸张。他越是谈论关于恐怖威胁、经济崩溃或失去对人工智能系统控制的问题，我也越是感到不安。这位慈善家和前微软首席执行官表示，他对人工智能技术的快速发展感到越来越担忧，特别是相关的防护措施并没有跟上。今天他发表了一篇新文章，指出我们已经越过了应当检查的多个潜在危险节点。“在[人工智能的]生物能力、网络能力、社会心理能力、就业市场破坏能力，甚至缺乏控制方面，我们已经跨越了阈值，”他在接受《麻省理工科技评论》关于新备忘录的采访时说。“我对行业外缺乏关注和讨论感到震惊。”为了唤醒世界，对他所认为的快速增长的社会破坏因素保持警觉，这位70岁的科技巨头开始以“刺耳的声音”发出警报，他在公开的新文章（这是他计划围绕这一主题发表的多篇文章中的第一篇）和与媒体的会议，以及与行业、政府和公民社会领袖的私下对话中都在发声。尽管盖茨关注了许多问题，但他对当前前沿模型生物能力的警告尤其令人寒心。“任何能够制造新分子的模型都应该受到监控，”他说。“我认为生物恐怖主义的风险，相较于自然大流行，恐怖得多，发生的可能性是自然大流行风险的50倍。”除了这些警告，他还提出了一些推动社会前进的新想法。其中包括人类保留工作和对机器人以及代币征税的概念（机器人税是他长期以来的想法）。前者将为人类保留一些社会公认的工作，这些工作可能因国家而异。后者是一种对用人工智能替代人类工作的收益征税的提案。此外，他的确表达了乐观的暗示。盖茨对人工智能在农业、医疗和教育等领域的转型 continua持乐观态度，或是人工智能在帮助我们处理官僚事务方面的帮助。他还辩称，最终我们会走向丰裕。但首先呢？动荡，且是大量的动荡。《麻省理工科技评论》与这位亿万富翁慈善家进行了交谈，聊聊未来的道路、面临的危险以及如何有一天能将我们带到一个更好的地方。以下采访经过编辑以缩短篇幅并提高清晰度和可读性。马特·霍南 / 《麻省理工科技评论》：感谢您参加此次访谈。我不知道您是否有想分享的开场白，或者我可以直接开始。比尔·盖茨：你知道，我遇到的一个好问题是：我为什么现在发声？《麻省理工科技评论》：这正是我第一个问题！比尔·盖茨：实际上有两个原因。第一是我们在生物能力、网络能力、社会心理能力、就业市场破坏能力方面已经越过了阈值，我们看到了这些领域的困难迹象。这些年里，人们一直在说，“好吧，当我们接近这些阈值时，我们就会真正弄清楚如何让只有好人来使用它，或者如何不让它做到这些事情，也许那时我们就不会让人们复制模型。”我对我们已经跨越了这些阈值感到震惊。因此，我们已经走过这些阈值就是一个原因，第二个原因是我对行业外缺乏关注和讨论感到震惊。在行业内情况很复杂，因为行业并不喜欢自我批评，或者彼此批评。一些公司正在雇佣更少的初级员工，这可谓是一个相当温和的信号。但这即将发生，而且并不会在很长的时间框架内发生——因为那些在能力和可靠性方面限制人的因素，所有这些都在得到解决。因此对于广大白领市场来说，存在非常低成本的替代方案。然后你对机器人技术的进步速度可以有不同的看法。我们还没到那一步，但在这方面取得的进展是令人震惊的——在中国的进展稍快于美国，但两国都有所涉及。《麻省理工科技评论》：你提到这一切发生得比互联网还要快。