返回

文章详情

每百万个标记的价格毫无意义

Hacker News2026年7月6日 19:43

2026年7月5日 · 4分钟阅读 #科技 #机器学习 当API账单出现时,一切都不再只是氛围。许多公司正在发现,人工智能确实可以很昂贵。一个可能推高您的AI账单的习惯是按每百万个标记的$X进行模型比较。一个更低的数字应该意味着更低的成本,对吧?其实并非如此。每百万个标记的$X无法比较。每个前沿实验室都有自己的标记器,这决定了一段文本被分割成多少个标记。例如,到目前为止,这篇文章中的所有文本在gpt-4o中会被分割成160个标记,但同样的输入在gpt-4中会花费您200个标记(1106-preview,使用tiktokenizer.vercel.app生成)。即使在同一个前沿实验室内,在本案例中为OpenAI,按标记定价也是不可比的。在不同实验室之间比较数字,尤其是当它们不断调整专有标记器时,带来了难以可靠测量的误差。Anthropic最近修改了其标记器,这导致Claude将同一段文本分割成更多30%的标记。在其他条件不变的情况下,这相当于价格大幅上涨;然而,还有一个重要因素需要考虑。标记效率的极端变异。即使我们忽略标记器的影响,另一个重要因素是额外一个标记实质上值多少钱。我指的不是标记的价格,而是您实际通过它实现的成果。如果您在进行严肃的工作,您很可能会发现大部分标记消耗用于“思考”,这种过程中常常是隐蔽或模糊的,但与可见输出标记的收费是相同的。这种技术可以显著提高输出质量;然而,这所谓的“思维链”的长度可能会成为影响您AI使用总体成本的主要因素——而这可能会有巨大的差异。我挑选了一些来自美国前沿实验室的最佳当前AI模型,以及来自中国实验室的最佳产品(通常认为与美国模型几乎同样好,但成本仅为1/x,通常x>10),并将它们放在下面的表格中。我还包括了每个模型在人工分析基准中的得分,该基准为AI模型布置任务。AA的研究者的目标部分是测量模型能力,部分是测量每项完成任务的收费。模型 每百万标记的输入/输出成本 AA智能基准结果 每项基准任务的成本 Claude Fable 5 $10 / $50 60 $3.25 Claude Opus 4.8 max $5 / $25 56 $1.78 Claude Sonnet 5 max $3 / $15 53 $2.29 GPT-5.5 xhigh $5 / $30 55 $0.99 GLM-5.2 max $1.40 / $4.40 51 ~$0.46 DeepSeek V4 Pro max $0.435 / $0.87 44 ~$0.04–$0.05 MiniMax-M3 $0.30 / $1.20 44 ~$0.18 Kimi K2.6 $0.95 / $4.00 43 ~$0.31 注意到即使GPT-5.5名义上比Claude Opus 4.8更贵,它每项任务的基准完成成本却几乎是Anthropic模型的一半。GLM-5.2的每个标记成本远低于GPT(3.57×/5.68×)和Claude(3.57×/6.82×);然而,它的每项任务成本却并没有成比例降低,这表明它的标记效率低于西方前沿模型。令我困惑的一个模型是Sonnet 5,因为它似乎的表现不如Opus 4.8,同时由于标记效率低而需要更高的每项任务成本。如果使用它的人能向我解释这个模型的目的,我会很乐意倾听。(阴谋论:也许这是一种由Anthropic进行的心理操作,通过较低的标价让人们使用低效的标记模型,最终会提高他们的账单?)DeepSeek V4 Pro似乎是成本效率的最强异类。尽管它在智能基准中的得分明显较低,但它每项任务的成本极低。Fable 5(带有安全口罩的Mythos)似乎显示出较小的改进,价格上涨幅度超过3倍,相比于GPT-5.5。总体来说,我认为这张表显示每百万个标记的价格并不是一个有意义的成本指标。如果您不考虑每项任务的实际成本,您将做出更差的模型选择决定,最终得到更糟糕的表现却付出更高的价格。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡