快速问一下：你想让人工智能训练得如此出色，以至于能够帮助丈夫（或妻子）策划完美的配偶谋杀吗？可能不会，对吧？从直觉上来看，这好像没什么好考虑的。我甚至认为这不是一个特别难的问题。但美国包含许多不同的观点，其中一个观点是由Comma AI创始人、长期越狱者乔治·霍茨在周末分享的。这篇帖子是对一系列大范围人工智能对齐计划的回应，最近的例子是AI Futures Institute发布的《AI 2040：计划A》政策文件。该文件设想了一个世界，在这个世界中，研究人员集体选择放缓人工智能的发展，为了人类的利益延迟14年。但当然，并不是所有读过这篇论文的人都同意其前提或结论。霍茨恰好是不同意的人之一。在他的帖子中，他认为快速发展场景——即人工智能迅速获得超人能力的假设——并没有太多意义。我在很多方面同意他所说的！对于霍茨来说，人工智能对齐和安全的最佳方法是关注与用户利益紧密对齐的本地控制的AI模型。这是个很酷的想法，尤其是因为它让我想起当前大部分人工智能是围绕像Claude和ChatGPT这样的中心化管理服务构建的。人工智能服务以这种方式开发有基础设施相关的原因：托管这些大型尖端模型的费用很高，而且大多数人在一天中的时间使用它们的频率不足以证明真正个人化的人工智能的合理性。但是随着技术的发展，这些因素的重要性会逐渐降低。OpenClaw之所以令人兴奋，部分原因就在于这是一种实验性的DIY方法，看到更多人工智能产品尝试重新捕捉这种感觉将是极好的。不过霍茨天生好挑衅，所以他并没有止步于此。他把用户对齐的人工智能比作枪(!)，如果你用它来杀死你的后妈，它不会抱怨。（我觉得还有其他规则反对这一行为吗？）如果那是你想要和要求的，真正对齐的人工智能将能够从亚马逊Prime订购毒品实验室设备并向你展示如何使用它。他说。（再说一次，我觉得人工智能在这里不会是限制因素。）霍茨甚至说他愿意为捍卫这一原则而死，尽管很难想象导致那样的事件发生的系列情况。“我们要么生活在自由的世界中，要么不生活在这样的世界中，”霍茨写道。如果这些是选项，自由的世界听起来的确更好！不过，我不知道。这并不是完全关乎自由，对吧？任何涉及大量人员的结构（社会、市场、公司等）都需要平衡公平，将个体需求绑定成相互依存的偏好网络和问责制系统。任何投放大众市场科技产品的人都应该认真思考这个网络的整体，这意味着要认真考虑世界上那些尚未被谋杀的配偶和继父母的利益。霍茨所体验的自由实际上是由集体事业所实现的潜在未来空间；如果我们所有人开始像小型的人工智能驱动的拿破仑一样行事，那些未来将一夜之间消失。就像这个梗所说的，我们生活在一个社会中。虽然有一个地方人工智能愿意为我的利益和企业世界作斗争听起来确实很酷！我迫不及待想要一台评测设备。当你通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。拉塞尔·布兰登自2012年以来一直报道科技行业，专注于平台政策和新兴技术。他曾在The Verge和Rest of World工作，并为Wired、The Awl和麻省理工学院的《技术评论》撰写过文章。他可以通过russell.brandom@techcrunch.com或在Signal上联系412-401-5489。查看个人简介