为什么有这么多缩写？Vertigo3d/Getty Images 首先，我们有了CPU和GPU。然后是AMD的加速处理单元（APU，如果你喜欢这样叫）。随着人工智能PC和智能手机的兴起，我们迎来了NPU（神经处理单元）。然而，现在由于谷歌，我们又得到了另一款芯片：TPU。TPU，即张量处理单元，自2015年首次在谷歌内部部署以来，是该公司专有的人工智能加速器，旨在处理人工智能和机器学习（ML）工作负载所需的所有复杂数学计算。TPU是为云计算应用设计的，主要用于数据中心。然而，这个术语最近在新的Pixel 11智能手机中出现，通过其谷歌Tensor G6芯片，该公司声称其“TPU计算能力提高了50%。”那么，它到底是哪一个？答案令人困惑地是两者皆是。在Pixel 11系列智能手机中，TPU基本上是谷歌一种新颖的说法来表示NPU。这种TPU版本处理相机和图像处理以及本地AI任务。但数据中心的TPU与智能手机版本、传统的NPU和GPU明显不同，尽管它们之间有一些相似之处。为了帮助您保持芯片组术语的清晰，我们在这里正式向您介绍真正的TPU，并澄清一些误解。TPU到底是什么？好问题。TPU是谷歌创建的一款芯片，旨在处理公司数据中心中的基于云的AI和机器学习任务。TPU作为一种人工智能加速器，经过优化，可以在AI模型中即时执行数百万次数学计算，这也正是NPU和GPU所做的。我们谈论了很多AI和ML，这对我们中的许多人来说，将涉及NPU。这是理所当然的，因为由于苹果、各种PC和智能手机制造商以及芯片制造商的原因，我们在这方面耳熟能详。如果您不太熟悉，NPU是您将在所有现代智能手机、Mac和PC中找到的芯片。它们承担了生成和自主AI任务的大部分重任，无论是从照片中删除前任，还是使用ChatGPT创建三天的旅行行程。对于Pixel 11手机，TPU取代了NPU，谷歌声称“在使用时AI处理速度提升高达3.5倍，同时能耗减少高达3.5倍。”GPU 对很多人来说都十分熟悉，尤其是如果您是游戏玩家或从事3D模型工作。在AI之前，我们希望有一款强大的GPU来以最高设置以惊人的帧速率和流畅的渲染运行图形要求高的游戏，如《孤岛危机3》。在AI时代之后，GPU仍然可以完成这些，同时处理AI训练和加密挖矿，因此最好的GPU价格高得离谱。GPU是多才多艺的，可以根据其性能做很多事情。那么，TPU、NPU和GPU之间有什么区别呢？这些芯片组之间的主要区别在于应用场景和规模。虽然TPU用于在谷歌数据中心运行的基于云的AI，而NPU、设备上的TPU和GPU可以在您的智能手机和笔记本电脑中找到。TPU的规模远远最大。thanks to其专门架构，TPU被用于加速在大规模深度学习（DL）任务中使用的大量计算。TPU采用了一种称为脉冲阵列的硬件布局，允许数据在乘法器的二维网格中从一个单元传输到下一个单元，这有助于消除潜在的瓶颈。这意味着计算的输出成为下一个单元的输入，而不需要写回内存，这与GPU不同，后者必须在计算单元和其高带宽内存之间来回处理数据。当服务于如Anthropic和Midjourney这样的大型AI公司时，这些公司每天处理数十亿个AI请求，依赖于基于GPU的解决方案在瓶颈、延迟和功耗效率等方面的成本是相当高昂的。由于TPU不会像GPU一样反复读写内存，因此它更适合用于训练大规模的神经网络和其他庞大的工作负载。生活在我们的智能手机、物联网和笔记本电脑中的NPU和谷歌的设备TPU被 relegated 除了AI/ML池的浅水区。它们经过优化，适用于低功耗任务，这就是为什么它们非常适合于摄像头效果和实时翻译等任务。TPU可以处理LLM，但它必须是一个小型且定义明确的本地模型。哪个更好？“更好”是相对的。每种AI加速器在特定应用案例中表现最佳。NPU和设备上的TPU更适合处理较小的主流AI任务。它们的低能耗意味着不会过多消耗您的智能手机、笔记本电脑或智能手表的电量。然而，它们有足够的能力去做实时翻译，在通话期间模糊背景或帮助您记住您在90年代看到的那个冷门节目。TPU是全球运行AI/ML/DL的成本节省和节能的解决方案。处理数百万次数学计算，同时训练ML和DL