独家报道：亚马逊如何让Alexa摆脱昂贵的Anthropic模型以降低AI成本 作者：尤金·金 您目前正在关注这位作者！想要取消关注吗？请通过您电子邮件中的链接取消订阅。2025年2月26日，周三，美国纽约的揭幕活动中展示的Alexa+标识。彭博社/盖蒂图片社根据《商业内幕》审阅的内部文件，亚马逊重新设计了Alexa，以减少对Anthropic模型的依赖，这是一项广泛的努力，以降低运行其AI驱动的语音助手的成本。这些文件涵盖了从去年年底到今年初的时间段，显示亚马逊正在推进一系列变更，通过将更多请求转向其内部AI模型来生成Alexa的回答，避免不必要的对Anthropic的Claude模型的调用，并充分利用每个GPU的工作量。总的来说，这些举措预计将使每个计算能力单位支持的客户交易数量增加四倍以上。这项努力展示了AI下一个战场的前景。随着前沿模型变得越来越强大，竞争从构建更智能的AI转向使其运行成本更低。谷歌通过Gemini Flash推广低成本AI，而包括OpenAI和Cursor在内的公司也推出了自动发送简单请求到低成本模型的技术。亚马逊的财务预测凸显了为什么该公司投入如此多的精力来应对这一挑战。今年年初的内部预测显示，升级后的AI驱动Alexa+的AWS云成本预计在2026年将达到约17亿美元，几乎是去年三倍的水平。Alexa+的运行成本预计也将比亚马逊每月活跃用户的AWS云成本目标高出约60%。即使识别出大约4.5亿美元的潜在节省，内部审查得出的结论是，该业务将无法达到其财务目标。亚马逊拒绝发表评论。一个昂贵的新Alexa 与早期版本的Alexa不同，Alexa+通过在GPU密集型云服务上运行大型语言模型生成许多响应。这将相对便宜的语音请求转变为需要更高成本来处理的AI工作负载。这些成本在亚马逊经历艰难发布过程中变得更加重要。《商业内幕》之前报道，该公司多次延迟Alexa+的推出，因为工程师们在解决AI幻觉和服务是否准备好供客户使用等问题时陷入了困境。Alexa+在今年早些时候扩展了在美国的可用性。服务的规模扩大只加大了财务压力，显示出生成AI与传统软件服务之间的不同。随着Alexa+的推出，亚马逊预计AWS云支出急剧上升，因为对AI计算能力的需求在增长。该公司甚至考虑推迟一些其最昂贵AI举措的实施。《商业内幕》之前报道称，亚马逊力图为Alexa提供更先进AI代理能力的项目月神预计将成为该服务今年最大的AI开销，而该公司在寻求节约措施时考虑推迟该项目的部分内容。减少对Claude的非必要调用 亚马逊首席执行官安迪·贾西收到的图片，Andrej Sokolow/图片联盟通过盖蒂图片社 亚马逊的优先事项之一是缩小Claude模型在Alexa+内部使用的范围。内部路线图呼吁将专门的Alexa“专家”从Claude Sonnet转移到亚马逊自己的AI模型，同时在数字助手服务中减少对Claude的其他使用。亚马逊还希望尽可能避免推断。推断是AI模型运行的方式，而限制推断成本的一种方法是使用缓存，缓存存储常见请求的答案，以便AI无需再次执行相同的工作。亚马逊的一份路线图呼吁Alexa+在适当的答案已经存在于缓存中时停止调用Claude模型，并扩大“确定性”处理，使Alexa能够在不调用大型语言模型的情况下回答更可预测的请求。考虑到亚马逊与Anthropic的深厚关系，这一策略尤为值得注意。亚马逊在这家AI初创公司投资了数十亿美元，与其密切合作，如果Anthropic的IPO顺利进行，亚马逊将可能获得可观的收益。然而，《商业内幕》审阅的官方内部文件显示，亚马逊一直在寻找减少Alexa对Anthropic模型依赖的方法。亚马逊的做法反映了整个AI行业的日益趋势。投资公司威廉·布莱尔在最近的报告中写道，软件公司开始将前沿模型保留用于困难的高风险推理，同时将较少复杂的请求路由到更便宜的模型。这降低了推断成本而不改变客户体验。“多模型路由正在成为软件中的标准架构，”威廉·布莱尔的分析师在报告中写道。用更少的GPU交付更多 减少模型成本只是策略的一部分。亚马逊还专注于提高每个GPU能够执行的工作量。