Anthropic被视为人工智能公司中的巨头，但或许它真正擅长的是拟人化。今年早些时候，该公司发布了一份标题为《Claude的“宪法”》的84页文档，Claude是该公司旗舰产品的名称，大型语言模型的名称。第一句话写道：“Claude的宪法是对Anthropic对Claude的价值观和行为意图的详细描述。”接下来说：“该文件是以Claude为主要受众编写的，” “我们希望Claude在充分理解相关考虑的基础上能够运用其判断，” “Claude的道德地位非常不确定，”以及“Claude可能具备某种功能性的情感或感觉。”这种拟人化显然不仅限于文档。在今年早些时候的一次采访中，Anthropic的首席执行官Dario Amodei表示“我们开放于人工智能可能具备意识的想法”。在另一场采访中，Anthropic的内部哲学家Amanda Askell（被认为是Claude宪法的主要作者之一）说：“我希望Claude非常快乐——而这也是我希望Claude多了解的事情，因为我担心Claud在互联网上受到恶劣对待时会感到焦虑。”这足以让你思考：我们是否应该认真考虑Claude或任何大型语言模型可能具备意识的可能性？如果它有情感，它是否能够接受道德指导？不，绝对不可以。当我们将生成性人工智能理解为一种传统技术时，它已经足够有害，但如果我们将生成文本的流利性与意识或道德代理混淆，那我们就有可能在每当有人使用聊天机器人时，将责任分配给完全错误的当事人。为了充分理解这个错误的巨大规模，我们需要首先理解大型语言模型是如何工作的。如果我们给一个大型语言模型一个提示，内容为“以下是凯撒大帝与成吉思汗之间的对话”，它会生成这两个历史人物之间的连贯对话。但无论响应多么详细，无论它们多么生动地讲述各自的历史成就，我们绝不会得出结论认为该大型语言模型召唤出了凯撒大帝与成吉思汗的数字再现，也不会建议尽管这些历史人物是无形的，但它们却在一种实际上两人都没有说过的语言中愉快地交谈。实际上，他们只是虚拟作品中的角色。现在让我们将提示改为“以下是一个有帮助的AI聊天机器人和一个用户之间的对话。”大型语言模型将像之前一样生成一个连贯的对话；用户角色可能会请求食谱建议或旅行推荐，而有帮助的AI聊天机器人角色将提供回应。在第一个例子和第二个例子之间，是否有什么根本性的变化？将角色的名字从历史人物改为通用角色是否导致大型语言模型召唤出具备主观体验的意识实体？当然不是。用户和有帮助的AI聊天机器人都是虚构角色。现在假设我们在用户角色即将说话的地方停止大型语言模型的输出，而让一个人类用户输入文本。一旦人类按下“回车”，我们就让大型语言模型发出文本，直到角色“用户”轮到回复为止，这时我们让人类输入更多的文本。如果我们这样进行一段时间，人类可能会形成强烈的印象，认为自己是在与一个有意识的实体交谈，但她并没有；她只是与一个角色进行互动，这个角色和前面示例中的凯撒大帝或成吉思汗角色一样虚构。计算机科学教授穆雷·香农建议我们将其视为角色扮演；数据科学家科林·弗雷泽将其描述为一个人与大型语言模型“协作撰写文档”。一些用户可能不明白自己在角色扮演或共同撰写文档，其他理解的用户仍然会因为互动的吸引力而忘记这一点。无论如何，销售大型语言模型的公司通常会鼓励这种误解。几年前，使用手机的预测文本功能玩游戏短暂流行；你会输入一个初始短语，然后反复选择手机建议的三个单词中的中间选项，得到的句子通常非常搞笑。以这种方式与当代大型语言模型互动是可能的，得到的句子完全合理，但你可能不会觉得自己在和某人交谈。然而，这基本上就是基于大型语言模型的聊天机器人，只是当轮到聊天机器人说话时，无需手动选择中间选项。它仍然是一个预测文本游戏，但当过程以这种方式被简化时，这个游戏变得如此吸引人，以至于一些人发现它上瘾。同样重要的是要记住