返回

文章详情

生成性人工智能是一场工程灾难

Hacker News2026年7月16日 13:12

编辑注:这项工作是《大西洋》对生成性人工智能行业持续调查的一部分。在这些公司争相保持系统在线的同时,它们给我们其他人带来了高昂的代价。像ChatGPT和Claude等大型语言模型资源需求旺盛,以至于科技公司可能正在购买全球70%的高端计算机内存供应,导致短缺。因此,计算机内存和存储的价格飙升:我在两年前以350美元购买的硬盘,两个星期前查看时已经涨到800美元,现在已售完。某些笔记本电脑的价格上涨了50%,低成本计算机受打击最严重。据某项预测,平价入门级计算机可能会在2028年“消失”。而内存短缺预计还将持续数年。这些内存被投入到数据中心,而科技公司正在以惊人的速度扩展这些数据中心。它们计划在未来几年内将美国的数据中心总容量增加八倍。这些地方对电力的需求已经如此巨大,以至于一些公司正在重新利用喷气发动机为其供电。问题不仅在于人工智能的部署如此广泛或迅速。其他计算机技术的增长也非常庞大,但并没有引发如此大的电力需求激增或计算机组件短缺:视频和音乐如今在全球范围内被流媒体播放,每天占据了数万兆的互联网流量;智能手机热潮促使制造数十亿台设备,这些设备正在传输大量数据;数十亿家居设备也成为物联网的一部分;而整个行业的运营已转移到云软件上,而云软件并非在天空中,而是在,是的,数据中心。阅读:价格为10,000美元的MacBook Pro已经到来。生成性人工智能的问题,在业内的术语中,是它无法扩展。从一千个用户增长到一百万的成本,是风险投资家在评估初创企业时的重要因素。他们希望看到每新增一个用户的成本随着时间的推移而降低,以便公司能够支持数百万用户并获得不断增加的利润。这部分依赖于巧妙的计算机系统工程,这些系统能够高效地处理更多希望发布照片、叫Uber或流媒体播放音乐的用户。对于生成性AI,建立高效可扩展系统的工作尚未完成。而且,由于生成性AI模型不断增大,这一问题变得更加严重,独立估计表明,其参数数量从2020年的1750亿增加到今天的超过1万亿(为Claude和ChatGPT等产品提供动力的模型的实际大小是秘密)。大型语言模型中的“大”不应成为卖点。但整个行业观察到,较大的模型往往表现优于较小的模型,导致信仰“扩展法则”的崇拜,认为任何问题都可以通过简单地增大模型来解决。“也许用10吉瓦的计算能力,人工智能可以找到治愈癌症的方法,”OpenAI首席执行官萨姆·奥特曼在九月的博客中写道。然而,收益正在递减。AI模型越大,每增加一个参数的改善就越少,因此它必须以更快的速度变得更大,仅仅是为了维持稳定的进展。我问了一些AI研究人员,是否能够举出其他在现实世界中扩展如此之差的软件。他们没有一个能想到。即使在软件世界之外,很难找到一个可以相比的例子,因为规模经济是让灯泡、汽车和衣物如此便宜的原则。从经济和工程的角度来看,生成性人工智能可能是有史以来部署的最糟糕的技术。阅读:欢迎来到多维度经济灾难。但由于当前臃肿方法背后的巨额投资,可能没有太多意愿去改变。OpenAI的联合创始人兼前首席科学家伊利亚·苏茨克维尔在11月的采访中表示,企业采取粗暴的方法“因为它提供了一种非常低风险的资源投资方式。”他辩称,投资于重新工程当前已获得万亿美元估值的产品的研究更困难。那些怀疑我们处于人工智能驱动的泡沫经济中的人指出,这些公司的盈利能力仍然是一个未解之谜,主要是因为技术的高成本和低效率。效率是计算机科学的核心原则。本科生学习的第一件事之一是,编写一个排序50个单词的程序很简单。但如果你给这个程序5000万个单词,它可能会耗尽内存或者需要数小时才能完成。计算机科学的许多内容是学习防止这种情况发生的巧妙编码技术。这些技术中的许多利用数据中的重复模式,以便

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡