2021年3月，一组由四位研究人员（语言学家与计算机科学家的合作）发布了他们现在传奇般的论文《关于随机鹦鹉的危险：语言模型能否太大？🦜》。这篇论文当时引起了极大的关注（部分原因是谷歌在论文发表前不久解雇了两位作者，蒂姆尼特·盖布鲁和玛格丽特·米切尔）。论文主张，大型语言模型（LLMs）通过统计预测可能的单词序列生成文本，而不是理解它们所说的内容——作者用“随机鹦鹉”的隐喻来描述这一过程，这是一个在没有理解的情况下重复模式的系统。在过去五年中，这一类比已超出其起源的学术领域，激发了辩论并启发了名为随机鹦鹉的肩载机器人等项目。但这种更广泛的使用也导致了对这一短语原意的误解。首席作者艾米莉·M·本德（Emily M. Bender），华盛顿大学的计算语言学教授，最近撰写了一篇博客文章，在论文五周年之际揭穿了关于该论文的常见误解。本德与IEEE Spectrum谈论了这些误解、计算语言学领域以及围绕人工智能的当前讨论。 “人工智能”这个术语有什么问题？ 你如何描述自己的计算语言学家的工作？艾米莉·M·本德：语言学一般来说是研究语言如何运作以及我们如何与语言互动。我对此有所贡献，我还从事计算语言学的工作，培养将要构建语言技术的学生。语言技术实际上作为一种价值和有趣的东西独立存在，无论是否有人希望将其用于人工智能项目。语言技术包括自动转录、机器翻译、拼写检查等内容。我个人在构建事物时做的很多工作与建立可机器阅读但也可人类阅读的语法系统有关，这些系统对不同语言中的语言现象进行建模。这是关于使用计算机来服务于语言假设检验。 你曾 argue 说“人工智能”这一术语模糊了更多而不是阐明了。为什么？本德：有很多原因。我认为，如果我们谈论的方式并没有清楚地表达出技术是什么，实际上将很难围绕技术开展良好的讨论并做出明智的决策。“人工智能”这一短语将不同的技术归为一类，并夸大了每项技术的实际能力。因此，如果我们打算决定是否使用某种东西，如何对其进行监管，我们将更有利于较清晰的描述。在一般的讨论中，人工智能几乎与“聊天机器人”或“LLMs”同义。这是个问题吗？本德：对于许多人来说，他们会说，“我用它来做某某某。”那么你所指的“它”是什么？然后他们会说，“哦，我是指Claude”或ChatGPT或Gemini，他们实际上是在谈论这些聊天机器人。但也有其他人会说，“你不能说人工智能都是坏的，因为AlphaFold又如何？”所以，是的，对于许多人来说，他们谈论的是基于大型语言模型构建的聊天机器人，但他们也并不清楚这些与AlphaFold之类的东西是不同的。而当我们看到新闻报道称“科学家们使用人工智能发现了一种新药”，那么，他们到底用了什么？如果他们谈论的用途非常狭窄，可能是蛋白质折叠，也可能是其他某种统计建模[如天气建模]。那与ChatGPT是完全不同的技术。 你认为像“人工智能”这样的总称有什么价值吗？本德：好吧，对于那些试图推销这个的人来说是有价值的——这同样适用于试图提升估值的科技公司。此外，现在的研究资金设置，如果你不称自己所做的事情为人工智能，很难获得资助。我认为这总体上是个负面影响，但对于被困在这个体系中的任何个人来说，瞬时可能是有价值的。 随机鹦鹉是如何被误解的 关于“随机鹦鹉”隐喻的最常见误解是什么？本德：我认为最大的误解之一是，“本德说人工智能是一个随机鹦鹉。”那篇论文是在2020年底撰写的。我们当时在讨论大型语言模型。我敢肯定，人工智能这个词只在最后提到过一次，而且是在谈论，如果你要开发旨在做像人类一样的事情的系统时，必须非常小心，以免创建出可能被误认为是人的事物。事实上，这些系统是为了模仿我们使用语言的方式而设计的，这使得人们很容易将它们误认为是其他人。