返回

文章详情

在大型语言模型时代的可扩展软件

Hacker News2026年8月19日 16:26

我们今天交互的大多数网络软件是静态的。开发者的时间和注意力有限,专注于构建服务最大用户群的功能。需求曲线的顶部已经被现有软件很好地满足,但对每个用户来说都有许多未满足的长尾需求。映射软件中的用户需求即使开发者有极大的动力去添加每个功能,用户界面在复杂性方面也只能到达某一极限,否则就会变得不可用。每增加一个附加功能就会使其他每个用户的产品变得更复杂。如果该功能的市场很小,它可能会使不需要它的每个用户的产品变得更糟。在这种背景下,LLM辅助编码的兴起确实赋予了那些需要某种长尾产品的用户力量。软件变得非常... 模糊 # LLM们在构建个人软件方面确实非常出色。个人应用程序绕过了企业软件的所有复杂性和责任,并为单个用户的工作流程量身定制。Y Combinator的Pete Koomen认为存在一个他们称之为小型软件的机会。我认为他们是对的。代理使构建个人工具对于你自己或你的团队变得简单。但是,部署、保护和共享这些软件仍然比创建它复杂得多。一个为小型软件构建的云可以消除这种复杂性,使定制工具与谷歌文档一样容易与同事分享。2026年7月22日,Pi是我开始认为的LLM原生软件的一个很好例子:经过战斗考验的核心,但几乎可以通过询问来无限扩展,用户能够与他人分享他们的自定义设置。在过去的一年中,用户突然获得了将代码转化为现实的能力。大多数现有软件无法利用这一点。Pi则积极迎接这一趋势。我怀疑我们会开始看到更多软件遵循这种自我扩展的模式。然而,我们现有的可插拔软件的例子大多是本地软件:人工智能代理、开发者IDE、视频游戏的mod、Blender插件、CAD扩展。这些往往是进入门槛较高的专业工具。网络是全球最成功的软件分发系统,它不应该被抛在后头。我的假设是,网络上出现了可扩展软件的新机遇。LLM大幅降低了编写扩展的成本,现代沙盒原语降低了部署成本,并提供了良好的安全边界。我们可以将我们的应用程序构建为一个稳固的、负责任的核心,并允许用户通过让LLM填补缺失部分,安全地向多个方向扩展它。我们可以赋予用户超能力。声明:我目前在Cloudflare工作,Kenton Varda的写作让我在这里思考了很多。在最后,我会提出动态工作者尤其适合这一模型的论点,但首先我会讨论几个替代方案。这将是什么样子? # 现在很多网络系统依赖webhooks来允许用户对应用程序中的变化做出反应。这种方法~某种程度上是有效的,但为扩展设定了很高的标准:构建和运营一个完全独立的服务,以及处理可能出现的任何传递问题。我希望能够接入记录更新并插入我自己的逻辑。“当我将这个标签附加到记录时,运行我的功能。”“每天为我执行这个操作。”实际上,我根本不想考虑这一点。我希望告诉我的稍后阅读应用程序:请将我喜欢的每篇超过4000字的文章发送到我<选择的电子阅读器>每周在<我的专业>上寻找新发表的论文,在顶部添加你自己的总结,说明它与我工作的关系,并进行<标签> 默认算法完全搞糊了<我经常阅读的网站>。拉取几个例子并为其制作一个自定义解析器。然后一个机器人会将那些愚蠢的代码挤出来,将它们连接到某些扩展点,并使其发生。我也应该能够与其他可能希望拥有相同功能的人分享我所制作的内容。1 这里有一些我希望看到LLM原生扩展方法的更多领域。人工智能代理 # 好吧,这很明显。pi, deepseek, 和 opencode 都在这个领域进行实验。Pi不再将每个新想法添加到其核心,而是为工具、命令、事件和UI提供稳定的接口,这样可以将请求转化为小型TypeScript扩展并在原地重新加载。然后可以将这些扩展打包成可以共享的包,让生态系统吸收长尾的想法,而不会使自身膨胀。Deepseek通过演示用户仅通过提示向用户界面添加鲸鱼好友和蛇游戏,展示了其框架的可扩展性。然而,这些现有的观众群体相当小。你必须对运行自定义软件感到舒服。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡