在2026年6月29日——如果你在谷歌上搜索吉姆·凯瑞，你会看到一个知识面板，说明他前一天已经去世。该面板包含了死亡日期和用过去式撰写的传记。对于大多数看到这个的人来说，这可能是个震惊——有些人甚至可能相信了这一点——但对我来说，我看到的是煤矿中的金丝雀。这是一个知识系统的可见失败模式，我已经思考了一段时间。一个可信的来源？点击死亡日期会显示谷歌自己的人工智能——Gemini——它表示吉姆·凯瑞去世的报道是虚假的。这让我进行了一些自己的挖掘，我只找到了一个来源——在维基百科页面上的一条编辑，引用了毛伊县警察局的Facebook页面和一篇关于前美国总统吉米·卡特去世的已建立的BBC文章。这似乎是一个明确的案例：维基百科被编辑，谷歌吸收了这一编辑，他们的知识图谱更新，并将此作为一个事实展示——但现在我们有来自同一个公司的两个相互矛盾的报告——一个说他已经死了，另一个说他活着。我不清楚虚假声明是如何进入谷歌的系统中，也不知道维基百科的编辑是否牵涉其中。我们只能推测，来源加权、实体解析、索引、新鲜度信号和内部系统的组合产生了这个结果。从公司外部，无法得知这一点。谷歌对知识图谱的描述一直明确表明，它是从多个公共和网络衍生来源、结构化信息和内部解释组成的。面板是一个更大、更不透明的管道的知识用户界面。在那个管道的某个地方，一个声明跨越了一个阈值，停止成为网络上某个地方存在的信息，并成为一个许多人用来寻找信息并信任的界面所展示的知识。构建知识系统是困难的 我的日常工作涉及构建知识系统。这种描述往往让人们想到所涉及的技术：内容、知识和文档管理系统，API，知识图谱，产品信息，搜索，集成，语义模型，以及现在的人工智能。虽然这些东西确实重要，但我工作的主要部分并不在于在系统之间移动信息，而在于构建人们可以信任的系统。每个接收信息的系统都必须对其做出判断——在生物系统中，我们称之为感知，在技术系统中，我们称之为推理。“这是否与我已有的知识一致？”“这个来源在这个领域是否权威？”“自我上次看到它以来，这是否发生了变化？”“它与其他信息是否相矛盾？”“这个声明是否足够重要、最近或支持得当，以便能够进一步流传？”当用户看到答案时，这些决策已经由他们永远看不到的系统和他们永远不会看到的算法做出多次。最后，用户看到的只是一个结果，而不是产生它的过程。我们几乎可以互换地使用“信息”和“知识”这两个词，尽管它们描述的是非常不同的事物。信息是对世界的一个声明。知识是一个已被足够审查、且另一个人或越来越多的其他系统准备采取行动的声明。两者之间的转变几乎是完全不可见的：用户只看到一个输出或结果——这些决策已经被他们永远看不到的系统和他们永远不会看到的算法做出多次。他们没有看到被丢弃的声明、不同意的来源、置信度阈值、文档之间的因果关系，或另一个内部系统可能得出不同结论的事实。用户体验设计的一个大罪行是，界面往往将最终答案呈现得就像它是完全成型的。吉姆·凯瑞去世的报道本身影响不大，但它在短暂的时刻揭示了那个隐藏的过程——一个本该保持为断言的声明似乎在可用证据证实之前被提升。无论这一点是由于恶意操纵、来源调解的弱点、处理新鲜数据的问题，还是这些因素的某种组合造成的，几乎都是次要的。失败模式无论如何存在。一个知识系统可能比其获得的验证更快地从上游来源继承信心。错误信息的形态 宣传和错误信息在互联网时代之前就已经存在，但在不透明的系统中，产生这些信息从未如此简单快捷。一篇虚假的文章被发布，旨在触发人们的情感，人们分享它，等到记者或事实核查者赶上时，叙述已经达成了其大部分目的。老话通常归因于马克...