在过去的几周里，我一直在玩 gpt-5.6-luna。它的能力、速度和智能都令人震惊。我经常看到它达到 ~100 tps，在我的代码库、电子邮件和知识库中快速移动。当然，luna 最大的特点就是成本。我尝试运行一些相当复杂的研究线程，结果挺难做到大额账单。即使让我搜索成千上万封电子邮件，我的 API 成本也只在几毛钱左右。使用 GLM 5.3，我们甚至在 Pareto 前沿有了一个新选项。当进行编码工作时，我几乎总是选择最贵且最有能力的模型（Fable 5，5.6 Sol）。因此，容易忽视小型快速模型所取得的进展。我与几个投资者交谈时，他们提到：“奇怪的是我们没有看到更多的消费 AI 公司。为什么会这样？”答案很简单：令牌成本。在 AI 之前，大型消费应用的剧本通常是这样的……创建某种具有吸引力的网站，运营成本相对较低，吸引大量用户（通常依靠某种病毒性），融资，扩大用户规模，创建广告市场。这大致描述了大多数大型消费公司（如 Google、Facebook、Snapchat等）。但如果你想在产品中添加 AI 呢？现在你每个请求都有真正的推理成本！突然间，所需的资本数量大幅增加。我的一个宠物评估是建立一个个性化的每日新闻网站：在互联网上研究 @calvinfo，确定他们可能喜欢什么新闻。构建一个微型网站，展示当天的头条新闻，为他们量身定制。搜索 hn、reddit、twitter 等等。使用上一代模型（Sonnet 类），你要花费大约 $1 才能达到任何目的。向消费者应用收取 $30/月是不可行的。显然，我们可以在这里进行很多优化，但如果你收取与《华尔街日报》或《经济学人》相同的费用，那你最好提供类似的价值。但看着 luna，结果相当不错，平均成本约为 $0.10。现在我们在谈论的是！我认为这在商业世界中会变得更加有趣。我与我的 Segment 联合创始人 Peter 最近在一次远足中比较了笔记。在他的各种初创公司中，Peter 看到两种类型的工作："IQ 180" 工作。一些疯狂的科学天才类型想出了一些你从未想到过的疯狂解决方案。"令牌喷发" 工作。超高响应，推动数十个不同领域的进展。Peter 经营多家公司。除了 Segment，他为 Charm Industrial 筹集了超过 $1亿，并就在最近为 Revoy 关闭了一轮 A 轮融资。他在时间管理方面非常有条理和高效。然而，Peter 提到他大约 95% 的工作都在第二个类别。这涉及到参与电话会议，推动他人，处理各种事务。需要明确的是，Peter 说如果没有一个 IQ 180 的技术头脑解决深层问题，他的公司今天会面临困境。只不过他的工作大多数都属于第二类。我认为“前沿级”模型的需求将继续增加。特别是在需要新突破或发现的领域（工程、硬科学、模型训练）。但我也认为“快速/便宜/足够好的”模型的需求即将起飞。想想你每天互动的人：同事、供应商和客户。十次中有九次，你希望有人能够快速响应，并为你处理事务。如今大多数公司的“人力令牌”都是这样使用的——招聘偏向于快速/便宜/足够好的典型。为了使快速/便宜/足够好的模型成为商业现实，还有很多工作需要完成。新的工具、提示注入安全性、角色和权限。但我相信我们会搞定这一切。如果你也在尝试使小型模型变得更有用，请给我发个消息。脚注： 亚马逊和 Netflix 是显著的例外。Peter 在这里也很谦虚。他聪明绝顶。