周一，亚马逊网络服务发布了一款名为TorchNeuron的工具，让AI初创企业可以轻松将它们的AI应用迁移到亚马逊的AI芯片Trainium上。通过这一举措，亚马逊也在直接挑战英伟达因其软件优势而成为AI应用的默认硬件选择的地位，推动其成为首选的AI硬件提供商。根据亚马逊的说法，TorchNeuron与PyTorch兼容，PyTorch是开发者用来构建、训练和运行AI模型的免费开源工具包。它通过只需更改一行配置，让使用PyTorch编写的AI应用能够在Trainium上运行，无需重写代码。亚马逊表示，大约85%的AI应用是用PyTorch编写的。PyTorch最初是由Facebook开发的，但自2022年以来，它成为了维护开源项目的Linux基金会的一部分。英伟达花费多年时间确保其CUDA软件——让应用能在英伟达GPU和其他硬件上运行的软件基础设施——无缝支持用PyTorch编写的AI应用。因此，英伟达的硬件已深深嵌入该工具包中，基本上成为默认选择。TorchNeuron是基于PyTorch改编的，因此已经了解PyTorch的开发者自然也会使用它。亚马逊并不是第一个尝试轻松将其芯片引入该平台的公司。PyTorch用户也可以通过简单的配置更改，将它们的应用移植到AMD GPU或甚至苹果的芯片上。然而，亚马逊认为，迁移到Trainium不仅仅是简单操作；它还为AI初创企业提供了访问亚马逊整个云服务的机会。毫不奇怪，AWS声称，这对于初创企业来说，比使用那些与英伟达及其硬件有关的neoclouds（如Coreweave、Nebius和Firmus）更为优越。“你们在构建AWS。你们并不是在押注于单一的计算提供商，并忙于围绕它搭建一切，”AWS Annapurna Labs（负责亚马逊定制芯片的部门）的技术软件副总裁科林·布雷斯（Colin Brace）通过电子邮件告诉TechCrunch。“在AWS上，”他继续说道，“从原型到生产的基础设施已经存在，让创始人在需要时快速移动和扩展。”AWS称，由于同一芯片处理训练（教AI模型）和推理（将完成的模型投入使用，例如回答用户的问题），并与初创企业所需的云基础设施紧密集成，即使AWS没有提供最低的按令牌计费价格，其云服务也将为它们节省资金。“Trainium的价值在于价格表现加上它是一个用于训练和推理的统一平台，这提高了整体工作负载的经济性，”布雷斯表示。“看看Deepgram——他们使用原生PyTorch迁移到Trainium，现在以生产级精度每花费一美元处理70%的更多音频。”Deepgram是一家AI语音应用提供商，是ElevenLabs的竞争对手。但亚马逊并不满足于仅仅为PyTorch应用开发者提供轻松迁移到其云服务的选择。亚马逊还表示，它正在推动PyTorch减少对英伟达的自动依赖，并将贡献代码给主PyTorch项目以实现这一目标。在宣布新工具的博客文章中，该公司写道：“亚马逊的做法超越了自身的硬件。该公司正在向PyTorch自身上游贡献更改，与PyTorch社区合作，去除将框架绑定到特定芯片的代码。目标是让PyTorch对整个开发者社区变得更加硬件无关，而不仅仅是Trainium用户。”虽然这种策略无疑对销售与英伟达竞争的硬件和云服务的公司是有利的，但PyTorch的一个要点是隐藏了在硬件上运行AI代码的所有繁琐困难。我们还需拭目以待，看看将英伟达推得如此遥远是否会给开发者带来更多选择和更实惠的选项，如亚马逊所承诺的，还是只是更多的配置头疼。不管怎样，如果亚马逊成功将PyTorch与英伟达深度分离，这可能对这家GPU巨头造成比简单应对芯片竞争者更为重大的影响。正如布雷斯所说：“真正的故事是去除锁定，这让开发者根本没有真正的选择。”当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。