<--返回 我不断听到一种说法，即“没有人知道大型语言模型是如何工作的”，我想最终终结这种说法。这不仅仅是我从那些从未训练过模型的人那里听到的。麻省理工学院技术评论发表了一篇名为“没有人知道人工智能是如何工作的”的文章。《时代》杂志也发表了一篇标题为“没人真正知道人工智能系统如何工作的”文章。《连线》对神经网络描述为即使对其创建者也是神秘的，IBM在其自身教育材料中也重复类似的说法。这些主要出版物展示了当前可解释性研究的局限性，就好像它们确立了人类理解的界限。其实并没有。我知道大型语言模型是如何工作的。还有成千上万的人花费多年时间学习、设计、训练和实现它们。你不理解它们是如何工作的，或者你个人不认识任何理解它们的人，并不意味着没有人理解它们。大型语言模型是机械系统。它们是由人们设计、实现并在我们工程师所制造的计算机上执行的数学函数和软件构建而成。这一过程中没有任何魔法涉及。当你向一个语言模型提问时，我们知道信息如何进入系统、如何被转换、训练期间参数如何调整，以及如何使用这些参数计算输出。考虑一下当你向语言模型提问时实际发生了什么。你的符号（自然文本）被转换为另一种代表性数据，并以不同的符号格式（令牌）表示，这些数值以数值形式传递给计算开关，并经过一系列数学运算。在“变换器”架构中，这些运算按序列对多个数学函数进行处理：矩阵乘法、注意力计算、归一化和非线性转换。结果数值，或称为“激活”，被传递通过连续结构的这个过程，称为“层”，直到模型生成一个可能的下一个令牌分布，从中按照其解码程序选择输出。在训练期间，模型的预测通过损失函数进行评估，有时结合人类或其他软件的标签或反馈，结果的错误信号被用来调整其参数。对部署模型的普通查询不会自动改变这些参数。每一个这些操作都可以被检查。如果你有访问模型和适当的仪器，我们可以记录每一层的激活，检查单个注意力头，检视权重和偏差，追踪产生特定输出的数值计算。我们可以修改组件，移除它们，替换它们，并观察变化。此外，我们对这些过程的理解足够，能够持续改进它们。我们开发新架构，修改训练过程，识别计算瓶颈，改变注意力计算方式，并故意改变模型行为。这些改进之所以可能，正是因为我们了解系统如何工作，并能够调查我们尚未理解的部分。我自己训练过模型，手动编写过学习算法，并在我的职业生涯中大部分时间致力于人工智能。我也为那些想要了解这些系统来源的人撰写了解释人工智能的历史和机制的文章。我并不是对每个模型的所有细节都理解透彻，其他人也一样。那从来不是我们判断某人是否理解一项技术的标准。现在已经有整个研究项目专门致力于做到这一点。变换器电路研究项目调查神经网络的内部计算机制，而电路追踪研究则开发识别和测试负责特定模型行为的路径的方法。这项工作正在进行中，你可以自己阅读所有相关内容，因为其中大部分，与其他科学领域的实验研究不同，都是公开的，并且有免费的方式可以使用现有计算机自行构建模型。在语言模型的情况下，我们可以比几乎任何其他技术都更深入，因为再生产它们的过程相对便宜。与试图再现商业飞机制造过程不同，实际上没有很多自制的客机在空中飞行。如果我能访问训练数据、架构、优化过程、初始条件和计算环境，我可以随心所欲地训练模型并进行特性描述，这正是我们在训练过程中建立稳定性和记录评估及模型特征时所做的办法。我可以改变随机...