哈维首席执行官表示公司每月的AI使用量从1万亿个令牌跃升至12万亿
哈维首席执行官表示公司每月的AI使用量从1万亿个令牌跃升至12万亿 作者:本·希姆库斯 您当前正在关注此作者!想要取消关注吗?通过电子邮件中的链接退订。 哈维公司的首席执行官温斯顿·温贝格表示,1月份该公司的AI令牌使用量为1万亿。五个月后,使用量有望达到每月12万亿到13万亿。 大事件媒体/人类X大会 哈维正在使用更多的AI令牌。数万亿个更多。 哈维是一家法律AI初创公司,首席执行官温斯顿·温贝格在周二发布的“与莫莉·奥谢的魔法”播客中表示,该公司在一月份使用了1万亿个令牌。自那以后,该公司的月令牌使用量大约增加了12倍。温贝格表示,该公司有望在一个月内使用12万亿到13万亿个令牌。哈维的一位发言人向《商业内幕》确认,这一估计是指5月。 “使用量实在太疯狂了,”温贝格说。 令牌是AI模型处理用户输入提示并接收答案时的文本块。它们也已成为AI使用和计费的重要测量标准。一般来说,AI任务越复杂或处理请求的AI模型越强大,消耗的令牌也就越多。 哈维首席执行官的这番言论正值多家科技公司越来越关注其AI使用成本之际。《商业内幕》最近报道,部分初创公司在收到高额AI账单后正在减少“令牌最大化”的做法。关于令牌重新评估的一些例子包括:Coinbase将一些提示转向更便宜的模型,而Uber高管质疑对AI编码工具的支出是否转化为足够可衡量的产品收益。 温贝格表示,公司的下一个挑战是为每项工作确定适当的AI使用水平。“你不希望前沿智能处理每个任务。这太贵了,”温贝格在给《商业内幕》的声明中说。例如,“控制权变更审查是值得的。初步文件摘要就不值得,”他写道。 在播客上,温贝格将即将进行的关于AI支出的辩论比作法律事务所如何向客户证明他们的账单。他称之为“计费小时问题”。“当您收到来自某法律事务所的账单时,它以六分钟为增量说明了人们所做的事情,以及随之而来的小时费率,”温贝格说。“他们为什么要这么做?因为他们试图展示投资回报率。” 随着公司在令牌上的支出增加,他表示,他们将面临越来越大的压力来解释这些支出的实际成效。“这就像我认为整个世界即将面临的主要问题,”他说,“那就是,‘我刚花了10亿美元在令牌上。我的投资回报在哪里?’”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡