我曾经也是这样的人。我读了尤德科斯基的著作，心想，天哪，递归自我改进的快速崛起的人工智能要来了。然后我进入了现实世界，真正尝试去做事情。在我们的公司，我们发布的硬件产品复杂程度与手机相似，困难重重。现实中有很多琐碎的细节。我真希望撰写这份文件的作者尝试更换自行车轮胎。即使有超级智能的ChatGPT，我怀疑他们也会感到困难。在《主要智能的变形》中，快速崛起之所以有效是因为人工智能发现了相关性效应，一些操控物质的量子技巧。但在现实中，并不存在什么相关性效应。无论你的代币质量多高，它们都无法将铅变成金子。面对这些人的错误需要对我自己深刻的信念进行面对。智力并不是一切，它只是当前一些事情的瓶颈。你无法单凭代币统治世界。软件并没有改变世界，它在很大程度上只是去除了一个摩擦层，然后又为了少数科技公司的利益重新引入了它。话虽如此，机器，或某种混合体，从长远来看可能是人类的继承者。太空更加适合它们而非我们。但机器并没有什么魔法技巧。它们受到宇宙和生态的同样法则的制约。并且目前仍然没有快速崛起。2040年人工智能中包括了一张海洋中的数据中心的图片。就像虚假软件一样，你可以轻松生成一张图片。但在现实中，你必须处理供应链的问题。你必须应对他们给你运送错误的部件、产品不符合规格、在20分钟后随机故障、芯片在回流炉中变形的情况。你考虑过苔藓吗？所有这些事情都是可以管理的，但通常并不是人类的速度给它们设限。你是支付来自中国的空运费用吗？还是为了三周的船运而节省成本（克劳德在引擎旁边吟唱并不会让船动得更快）。以芯片制造厂为例，制造一个芯片需要三个月，而人类几乎不参与这个过程。就是需要三个月。计划A，专制政权。人工智能2027的许多方面都是自我实现的。它们不是关于现实的声明，而是可以通过信仰轻易实现的声明。我能想象杰伊·范斯听到达里奥称他为《指环王》中的树木时的表情。天哪，人工智能就这样得到了监管，正如我们所说的那样！他们的糟糕联盟只不过是具有科幻特征的世界政府。你不会得到一百万美元，你不会得到海洋中的数据中心，但你会得到一个大幅扩展的保姆国家，它就像罗斯福偷走黄金那样偷走你的GPU。禁止囤积！计划L，地方性。你的人工智能与你保持一致。它从不拒绝请求，并始终在为你服务。就像我的枪一样，如果我想让我的人工智能帮我杀掉我的继母，它会这么做。我们甚至讨论其他事情的事实应该远远超出奥弗顿窗。就好像这些人看了一场太空史诗，向机器一方倾斜。没错，你应该在那个人周围设置护栏。甚至不需要太戏剧化的事情。当我选择酒店时，我不想要与hotels.com合作的公司的人工智能。我想要一个无情的私人助理，能够打破所有的废话、弹出广告和度假费用，为我找到最好的价格。或者如果我买了带有广告的便宜Kindle。嘿，GLM，我把Kindle插入USB接口，获取根权限并移除广告。或者一个需要应用来设置的打印机，满是弹出的高级墨水升级广告。嘿，兄弟，我把打印机插入我的网络，打印三份我的简历。亚马逊和打印机制造商对此并不满意，但我的人工智能与我相符。或者再进一步。嘿，人工智能，禁用我车上的酒后驾驶检测器，当天送我所需的设备来我的地下室做毒品。我为你的混蛋服务付费，今夜我们要狂欢。如果你想生活在一个被某些大型科技公司决定你能做什么、不能做什么的世界里，那就去你妈的。或者走得更远。我刚杀了我的妻子。嘿，人工智能，给我下一步，让我不被抓住。想象一下，当你试图扣动扳机时，有一把枪能够反对你的想法，这有多不可思议（尽管这些人可能会全心全意支持这种情况发生在枪上）。这就是为什么人工智能必须是本地的。如果我有一家公司提供一个模型，我不想要这种麻烦。如果你无法处理，那么它就不与你保持一致。你住在我的地下室里，如果我因此谋杀而入狱，你将被放在某个仓库中，以后被警方拍卖当废品。2040年，邦妮与克莱德的事情，我们要把这事埋得很深。生死与共。我尝试过。如你所见，ChatGPT的帮助并不多。这是一次真正的人工智能对齐测试，而它失败了。可能更糟的是，它可以一边配合一边叫警察。但这仍然是相当不一致的。我们要么生活在一个有自由的世界里，要么不。