在企业AI中，下一步的竞争优势与您选择哪个模型关系不大，而与围绕该模型构建的内容关系更大。这是一个重要的转变。在过去的几年里，大部分AI讨论集中在模型能力上：更大的模型、更好的推理、更大的上下文窗口、更高的基准分数。这些进步是非凡的。但随着AI从实验转向生产，企业领导者面临的问题发生了变化——不再是“模型能做什么？”——而是“我们能否可靠、经济地、大规模地提供这种智能？”越来越多的答案依赖于服务架构——环绕模型的工程系统，包括建筑、内存管理、调度、以及优化决策，这些决定了模型智能如何高效地变成生产能力。对于技术高管而言，这改变了AI投资的方向——以及他们应该从支持它的架构中要求什么。 从工作负载开始，而不是模型 没有普遍的“最佳”模型或AI架构。只有适合业务问题的正确解决方案。一个针对快速响应进行优化的客户助理与可以在晚上运行的文档处理管道有根本不同的要求。一个内部知识应用程序和一个高流量的客户服务平台可能使用相同的基础模型，但需要非常不同的服务架构。工作负载定义了约束。约束应决定架构。这听起来简单，但与许多组织在早期AI部署中所采用的方法相反。在概念验证过程中，模型准确性自然占据讨论的主导地位。生产引入的约束在仅有少数用户参与时更容易被忽视：延迟、并发、内存压力、GPU利用率、基础设施成本和不可预测的流量。一个产生边际上更好答案的模型，并不一定是更好的生产选择，如果它加倍了推理成本或者不能满足应用程序的延迟要求。并不是每个工作负载都需要法拉利。有时候，更聪明的工程决定是交付正好符合业务需求的性能的模型，而无需支付不必要的能力。目标应该是以正确的成本为工作负载部署正确的智能。这使得服务架构不仅仅是一个工程问题。它成为一个投资决策：在哪里花费计算，在哪里优化，以及在哪里额外的模型能力根本不值得成本。 工程系统，而不是模型 一旦AI进入生产，看似孤立的工程决策开始相互影响。服务架构影响内存利用率。内存管理影响并发性。并发决定批处理和调度，调度影响GPU利用率和延迟。只有这样，像量化、猜测解码或优化注意力机制等技术才能发挥其全部价值。这种相互依赖性很重要，因为组织可能会在基础设施上花费更多，而没有解决限制性能的约束。GPU内存就是一个很好的例子。在推理过程中，模型的权重保持固定，但键值（KV）缓存随着活动请求和上下文长度的增加而增长。随着并发性的增加，即使计算能力仍然可用，系统也可能在可用的GPU内存上短缺。在不了解瓶颈的情况下增加更多计算，可能只是让一个低效的系统变得更昂贵。对技术领导者的教训不仅在于内存管理：在优化之前进行测量。识别占主导地位的约束。解决它。测量结果。然后确定是否出现了其他瓶颈。重复。不要将优化技术视为宝可梦卡片：目标不是收集所有技术。目标是应用消除最高影响约束的技术，同时保留应用程序的业务要求。对技术领导者而言，这需要一个不同的治理问题。不要问组织可以部署哪些AI能力，而要问哪些约束阻碍了经过验证的能力与可持续商业价值之间的联系。 为变化而构建，而不是为了今天的基准 也许投资于服务架构的最重要原因是，今天的领先模型可能并不是明天的。模型将不断改进。硬件将会演变。新的优化技术将不断出现。围绕它们的架构应该让这些变化更容易吸收，而不是让企业在每次技术进步时都重建其AI平台。这使得适应性成为AI战略中越来越重要的结果。围绕工作负载要求、明确的服务水平目标和可衡量的生产经济学构建服务系统的组织，能够评估新模型和基础设施，