热水浴缸的温度约在38到40摄氏度之间，大多数人只能浸泡大约15分钟。英伟达最新的AI服务器可以让其冷却液体的温度更高，达到45摄氏度，或113华氏度。这一更高的温度限制正是它们更加节能的原因。英伟达AI基础设施的Rubin一代是全球首个实现100%液体冷却的系统——每个芯片、每个网络组件，均通过封闭回路完全靠液体冷却，系统内没有风扇。该液体冷却方法在英伟达DSX AI工厂参考设计中进行了详细说明，这是一份指导手册，概述了构建、设计和运作整个AI工厂基础设施堆栈的最佳实践。尽管每一代产品为每瓦特提供的计算能力显著提高，但全液体冷却的AI计算基础设施使数据中心能够大幅减少冷却能耗，从而对超大规模数据中心的整体能耗产生显著影响。英伟达数据中心冷却与基础设施总监Ali Heydari表示：“英伟达DSX AI工厂的参考设计实现了零水消耗——我们消除了大量的电力消耗和几乎所有的水消耗。”他说，“采用干冷却器设计，这是一个封闭循环系统，没有蒸发水冷却——或许一年中只有1%的时间在一些气候下我们可能需要冷却机。”历史上，冷却本身已占据数据中心电力消耗的高达40%，因此它是优化效率以降低运营成本和能源需求的重要领域。行业估计表明，仅提高冷却机组温度1度，冷却能耗成本就可减少约4%。在大规模应用中，这些节省速度会迅速累积。一个50兆瓦的超大规模设施通过转向液体冷却基础设施，每年可节省超过400万美元的冷却相关能源和水费。在适宜的气候条件下，英伟达的45度液体冷却架构可以实现无需冷却机的运作，减少设施的冷却用水消耗，从传统冷却塔系统每兆瓦每年约260万加仑的水消耗降至接近零——水用量减少高达100%。原因在于：传统的空气冷却数据中心依赖大容量的冷空气去从IT设备中带走热量，通常在高温天气下需要耗能较大的冷却基础设施。通过英伟达的45度液体冷却，热量直接在芯片处捕获，通过液体回路运输，液体回路的温度可高得多，使得户外的干冷却器在大部分时间内有效排热，同时显著减少机械冷却需求和设施水消耗。数据中心的环境温度是灵活的——温暖的夏季空气也可以——因为服务器内没有任何依赖于冷空气的部件。液体完成了所有的工作，并且同一液体可以在闭环中循环使用，因此无须再消耗新水来冷却芯片。由于英伟达Rubin平台集成了100%液体冷却基础设施，所有为其构建的云服务提供商和数据中心运营商都在进行转换。生态系统正在保持步伐。施耐德电气的先进冷却部门Motivair与英伟达的产品路线图共同工作，已将近十年——其总裁兼首席执行官Richard Whitmore表示，随着功率密度达到空气冷却不再是一种可行选择的临界水平，双方的关系进一步加深。Whitmore表示：“一旦每个芯片的瓦特数超过某个水平，液体冷却就变得必不可少。”在传统的冷却数据中心走进去，注意到两件事情：噪音——冷却风扇的噪音水平通常在85分贝以上，足以需要耳保护——还有热通道和冷通道的物理布局，经过精心管理推动冷空气通过组件。Rubin架构