不，我们家有AI 第一章：一箱废料 2026年8月13日 作为一名软件开发者，现在是个有趣的时机；变压器大型语言模型在我看来，是这一领域中很久以来第一次真正新的且有趣的技术发展。基于这一技术构建的AI编码代理迅速成为这个职业工作的核心，感觉就像从使用手工工具做木工工艺变成使用电动工具，无论是好是坏。至于我，我只相信能在车库里拆开并重新组装的技术。你连接到某个服务并在别人控制下使用编码代理这种事让我感到烦恼；这太多的可能会出错。你会开始依赖它，然后它就会从你身边消失。这项技术让人兴奋，但我不想去连接某个大型AI数据中心；我希望每个家庭都有一个小AI数据中心！而且我们现在正经历一种计算机零件短缺（或者，也许2010年代末是计算机零件的过剩？），所以为了保持可负担性，我必须用废品来构建它。 我们将在每个家庭里放置一个AI数据中心。我需要的主要东西是一堆GPU。我需要快速的内存进入执行大量并行矩阵运算的东西，而这就是GPU。正如我之前所说：任何设计用于运行AI工作负载的东西，甚至是被认为擅长它的东西，现在价格都非常昂贵。早在2022年，许多公司试图使“云游戏”火起来。你知道，就是在某个数据中心运行你的电子游戏，以便你无需购买昂贵的游戏PC或主机。AMD拿了他们的工作站GPU，给它一些额外的RAM并去掉了所有的视频输出。他们把这种卡称为“V620”。它从未向公众销售，所以你可能没听说过。AMD过量生产了这些东西，但“云游戏”的计划没有成功，归因于（现在看来是显而易见的）延迟问题。这些卡实际上并不是为AI工作负载设计的，AMD的软件支持颇具争议，所以在eBay的“二手服务器硬件”电子垃圾经销商那里，这些东西相对便宜。我认为我得到的那些实际上从未被使用过，几乎看起来全新。它们每个都有32GB相当快的显存。当然，它们在我想用它们的事情上有“不好”的声誉，但有多难把这实际搞成呢？哦，顺便提一下，它们没有风扇。它们是服务器卡，它们期望服务器用一些极其吵的鼓风机来给它们降温。我们稍后会谈到这个。 我们这里缺少零件，所以我买了一些其他的电子废料来将GPU阵列连接在一起。主板来自2017年的X299平台，是某人的旧游戏设备，旧到在eBay上便宜。它有四个PCIe x16插槽，正好可以让我并排放置四个GPU，这就是我在乎的唯一事情。CPU是英特尔的Core i9 10900X，这是英特尔在过去二十年里生产的最差的CPU；它在2019年发布时，是Skylake芯片的重复刷新版本，高价且耗电，因为英特尔当时在处理器设计或光刻节点上都无法赶上AMD的Ryzen芯片。对我来说没问题，这意味着现在便宜，并且能够完成工作！内存和SSD是从家里其他电脑上回收过来的。这当然是作弊；如果我现在不得不购买它们，价格会让人烦恼。不过这里的需求没有你想象的那么苛刻；所有的工作将在GPU的显存上完成；模型从磁盘加载后，这些大部分时间处于空闲状态。如果我没有回收的零件，我可以在这方面做得很便宜。我正在给四个GPU和英特尔最低效的处理器供电，因此我买了一个大电源。出于某种原因，在eBay上，1600W的电源比1200W的还便宜。我不指望它持续消耗那么多电力，但我需要它在启动时处理所有设备同时开启的情况。花钱买了一个新机箱和风扇。哦，对了，风扇！这些数据中心GPU没有冷却风扇，它们期望从墙上的服务器风扇中获得气流。如果你想为其中一张卡片降温，网上有许多可3D打印的风扇罩模型，但如果你把四个并排放置，这些似乎都不太理想；它们要么在末端使用一个非常吵的40mm小风扇，要么侧边突出太多，无法把一堆卡片紧挨着放在一起。四个双插槽卡片并排的总宽度大约是160mm，所以我真正想要的是两个80mm的服务器风扇，正好吹在卡片的散热片上。我最近在使用OnShape做这种事情，它很好。所以我建模并打印了一个罩，可以把一个80mm的风扇连接到两个GPU的散热片上。