在AI行业中，用户越来越意识到他们的部署成本有多昂贵，并感受到削减成本的新紧迫感。然而，尽管开源模型提供显著较低的每令牌成本，但找到适合特定工作的模型可能很困难。周四，提供针对市场营销人员的AI工具和代理的Writer推出了一款新的旗舰模型，名为Palmyra X6，旨在解决此问题。作为Z.ai开源模型GLM-5.2的后训练变体，Writer表示新系统应以更低的价格提供即用型能力。该公司估计，结合对公司高效基础设施的更改，新模型将使其客户的基本任务成本降低至多50%。与新模型一起，公司还对其标准代理架构进行了重大升级。这两个功能将从周四开始提供给Writer客户端。CEO May Habib对TechCrunch表示：“我认为企业绝对厌倦了追逐下一个基准，他们希望降低成本，但似乎没有人能够做到。” 新的方法特别强调复杂的多步骤任务，以更快的速度和更少的令牌执行。Writer将架构优化视为实现这一目标的关键杠杆。Writer研究人员最近的一篇论文支持这一方法，在多个不同模型中测试了架构效率的小变化。研究发现，在许多情况下，架构上的改变是降低成本比模型选择更可靠的方法，测试中成本平均下降了40%。研究人员写道：“架构是一个组件，其效率会带来组织运行的每个模型——现在和未来——的乘法效应。” 对于Writer的客户来说，体验仍然是模型无关的：Palmyra X6将与其他Writer模型或通过Azure或Amazon Bedrock导入的外部模型并行使用。但Habib也认为，削减成本的推动使企业对大型AI实验室产生了更广泛的不信任，后者在推动令牌使用上存在财务动机。Habib告诉TechCrunch：“对于客户来说，这里的成本激增是前所未有的，而CIO们在放弃这些实验室的程度也是如此。”并补充说，AI实验室“并不深刻理解如何帮助企业从AI中获益。” 当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。Russell Brandom自2012年以来一直在报道科技行业，重点关注平台政策和新兴技术。他曾在The Verge和Rest of World工作，并为Wired、The Awl和MIT的Technology Review撰写过文章。他可以通过电子邮件联系russell.brandom@techcrunch.com或在Signal上联系412-401-5489。查看个人资料