返回

文章详情

EY says its 'invisible' AI router has helped cut token consumption by up to 60%

安永表示其“无形”人工智能路由器已帮助减少多达60%的令牌消耗

Business Insider2026年7月30日 08:35

独家报道 作者:Polly Thompson 您当前正在关注此作者!想取消关注?请通过您电子邮件中的链接取消订阅。彭博社/盖蒂图片社 安永并不允许每位员工的查询直接发送到最聪明的人工智能模型。四大会计师事务所推出了“无形”路由器,以帮助管理其内部人工智能支出,EY全球咨询人工智能负责人Dan Diasio告诉《商业内幕》。该路由器于四月在全球范围内推出,位于安永的一些专用人工智能工具之后,充当中介,引导员工找到适合当前任务的最佳人工智能模型。Diasio表示:“对用户来说,这没有明显的变化。”他们打开前沿模型,输入他们的提示,获得响应。但在幕后,路由器在决定他们的查询应该去哪里。“很多时候,它比前沿模型更快,因为使用更重的模型意味着需要更多的思考,返回答案所需的时间更长。” 令牌成本已成为公司日益关注的问题,因为人工智能提供商越来越多地根据使用情况收费。从二月到六月,OpenAI、Anthropic和GitHub推出了与令牌相关的定价模式——即衡量人工智能输入和输出的单位,而不是以固定费用计费。这一变化意味着,使用强大的模型完成简单任务可能迅速变得昂贵。安永美国的人工智能脉搏调查于周二发布,发现82%的投资于人工智能公司的高级领导人对令牌使用表示担忧。该调查基于534名美国企业高级决策者在四月和五月的回应。“许多公司感到惊讶的巨额账单来自于员工基础中的前1%或前2%的人,他们只是在不合适的工具上工作。”Diasio说。路由器有助于选择适合的模型来完成适合的工作,从而限制令牌浪费,并确保更昂贵的人工智能请求被保留用于能提供最大价值的功能。Diasio表示,这也是许多安永客户正在构建的解决方案,以帮助管理成本。该路由器并未在安永所有人工智能工具中普遍部署。相反,它在特定部门的平台上应用,包括税务和风险。它不适用于所有安永员工均可使用的Microsoft Copilot聊天机器人。Diasio表示,这一解决方案对员工使用人工智能令牌产生了“显著影响”。安永表示,自四月份实施以来,路由器与培训和治理策略共同帮助令牌消耗减少了60%。 企业人工智能监控的下一阶段 企业人工智能浪潮的第一阶段是让员工使用技术——启动“令牌最大化”现象,鼓励员工尽可能多地使用人工智能。然而,随着成本的上升,焦点已转向控制该使用。迪士尼和摩根大通等企业巨头已安装仪表板,以跟踪员工的人工智能使用情况,而人工智能路由初创企业也正在兴起,帮助开发人员将任务引导到不同的人工智能模型,监控超支,并快速解决故障。Diasio表示,安永根据员工的角色和部门设定了令牌预算。超过其令牌配额的人可以通过审批流程申请更多。约64%的安永人工智能脉搏报告调查的高级领导人表示,他们的组织现在监测人工智能令牌使用情况,并为其支出设定了明确的预算限制。Diasio预计这一数字将迅速上升:“如果我们在六个月后问这个问题,可能会有90%的人。” Dan Diasio,安永全球咨询人工智能负责人。悠悠 还有其他杠杆可以帮助公司从其人工智能支出中获得更多价值,Diasio表示。企业可能会忽视建立强大的内部知识层和在自己的数据基础上设计更好提示的重要性。他们应该将投资集中在人工智能可以对工作方式产生深远影响的领域,而不是在每个功能上分散资源,Diasio说。他补充说,监测员工使用情况仍将非常重要,但企业人工智能部署正进入一个新的阶段,其重点在于价值和结果。从根本上说,衡量人工智能的价值需要超越利润和损失,Diasio表示。相反,他说,企业应该问的更广泛的问题包括:人工智能是否使员工能够更快地完成任务?以及如何激励员工探索当前工作描述中没有的新举措和责任?

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡