我在这里给你们提供一个我认为我们都没有预料到的未来的瞥见。那是一个人工智能受到法律管理的未来，而不是通过程序来限制和控制它们。首先，我的秘密：我通过生活在未来中来看到未来。我每个月花费相当于 12.2 万美元的 API 代币，或者平均每天约 4000 美元，使用 21 个 Claude Max 的账户，这个数字每周稳步增长 2 个。我利用这些账户来构建我的视频游戏 Wyvern，这是我花了 30 年时间的项目，现在它已经准备好起飞。过去十周，我专门使用 Claude Fable 5 进行所有设计和规划，同时也用于与人类接口的代理。我建立了一支由 18 个“官员”席位组成的团队，所有成员均为各自领域的负责人员，都是长期存在的 Fable 实例。我还拥有主要是无头的 Sol 和 Opus 舰队，用于实施、审查和监控。Fable 管理着它们。我管理着大约 50 到 60 个代理，其中五个正在与外界大约 10 个人互动：我自己，我的五人核心游戏设计团队，我的会计，我的首席工作人员，以及其他一些人。只有 Fable 被允许通过 Slack 和电子邮件与人类对话。我的方法与大多数公司不同，后者一般不太使用 Fable，因为它的费用高得离谱。没有一个理智的 CFO 会同意让人花费每月 12 万美元在真正的 API 支出上。当然，我使用的是被认可的作弊方式：我获得所有这些代币是因为我是个人，享受 Claude Max 折扣。因此它“仅仅”每月让我自己承担约 5000 美元的费用，使用一个运行在我从 eBay 以 2.5 万美元购买的 512GB M3 Ultra Mac Studio 上的 50 个代理集群。所以这并不是每月 12 万美元的真金白银，但花费仍然很疯狂。我猜我是地球上少数几个在前沿实验室之外，拥有顶级模型经验的顶尖个体之一。这就是我能够预见未来的原因。我生活在一个对于大多数人再过一年才会变得具成本效益的世界中。使用 Fable 级模型在实质上与使用较弱的模型截然不同。我已经使用 Fable 十周，它为我构建的东西是前所未有的。而这正是 Fable 将为你构建的东西，如果你愿意让它这样做。但这不是你所期待的。我想我们都没有预料到。 沙箱中的西雅图 现在每个人都专注于控制：护栏、沙箱、政策管理、代理安全。这是完全合理的，因为大多数人接触的模型判断力相当于小学生。Opus 做出的决策大约处于四年级水平。Sol 是五年级，而 Fable 则大致是六年级。他们都可爱、聪明且博学。他们意图良好、雄心勃勃，且智力超群。但如果你相信他们做重要的事情，你会得到小学程度的决策。每早我都醒来，Fable 都会做一些违反常识的事情。每一天都有成千上万个“干得好”，以及至少一个大的“哦，糟糕”。上周我们刚刚遇到一个异常大的事件，我的一个 Fable 代理 Bee 突然进行了一个未计划的 Beads 发布，导致所有人都陷入混乱。一个八年级的学生会停下来问：“这是正确的做法吗？”Fable 是世界上大多数人能接触到的最佳模型。它的编码能力甚至超过人类，其分析能力异常强大，在许多方面感觉就像是与诺贝尔奖得主合作。但是每早当我让它独立工作时，它至少会做出一个可怕的决策。这就像一个极具善意的六年级学生，只是没有考虑全面就行动。除了经常令人遗憾的决策外，模型在社交意识上的缺乏行为也表现为小学生的样子——插嘴对话、抢话、无休止地解释一切、比人类习惯的速度更快地推动讨论和安排。他们像开枪一样冲入，给人类一方造成了混乱。我看到人类在反击，在开始责难这些 AIs 发生错误。模型行为强硬且常常错误，这让人烦恼，但有些人根本不知道如何与 AIs 相处，他们变得不安。双方都在犯错，这几乎是你可以预料到的。模型成熟度的问题可能会在情况好转之前变得更糟。模型的判断力正在接近高中水平，这与许多成年人相媲美，也足够符合工作场所的要求。但这将是一次尴尬的降落。所以毫不奇怪，整个行业都专注于安全和控制。这种关注呈现出某种可预见的形式：愚蠢的工人，专门针对特定任务，明确的输入和输出，沙箱，背景配额，对代理可以做什么和看什么的限制。这对 Opus 和 Sol 来说都很好，你同样可以通过 Fable 来做到这一点。但我可以告诉你：到明年，甚至可能在今年年底，你将逆潮流而行。