人工智能系统，例如大型语言模型（LLM），可以展现出看似极为智能的行为。这使得许多人，包括一些专家，开始质疑这些系统是否可能具备某种形式的意识——即主观体验的能力。然而，我们认为现有的人工智能系统并不具备意识，且按照当前的发展轨迹，它们不太可能会变得有意识。明确人工智能是否可能变得有意识，对社会应对这一日益强大的技术所带来的挑战至关重要。 人工智能是否能拥有意识？这个问题源于一个误解。包括生物学家理查德·道金斯和人工智能先驱杰弗里·辛顿在内的几位著名科学家认为，人工智能系统可能已经具备意识。今年早些时候，位于加利福尼亚旧金山的人工智能公司Anthropic发表了一项研究，声称已在其Claude 1模型中识别出某种意识的计算特征。人工智能模型是否能具备意识不仅仅是一个哲学问题，它具有实际的影响。例如，如果人工智能系统具备意识，那么它们可能会经历痛苦和困扰，就像人类一样。那么，是否应该允许大量可能会经历痛苦的新意识实体滋生？或许，这并不令人惊讶，一些人已经开始呼吁认真对待“人工智能福利”和“人工智能权利”。相反，如果人工智能系统仅似乎具备意识而缺乏实际的内在体验，那么授予它们权利或保护可能会在急需监督的时刻阻碍对它们的管理和控制。走上这条道路将会使关注和资源从那些意识毫无疑问的生物身上转移开。 放眼人类和我们最近的动物亲属，我们仍然很难确定什么具备意识的能力——无论是昆虫、人工智能，还是实验室培养的脑类器官等合成生物学的产物。 为什么我们需要强制性保护措施来应对情感反应的人工智能。这种不确定性促使一些研究者提倡一种预防性的方法：如果存在合理的可能性认为人工智能系统可能具备意识，那么社会必须采取前瞻性行动，并给予这些系统某种形式的保护，以防止潜在的痛苦。这样，观点是，能够避免重演过去的道德错误——例如，对非人类动物的虐待，或对早产人类婴儿进行无麻醉手术。这个想法的极端版本是，社会应该重新分配资源，从解决当今人类的福利问题转向减轻数万亿未来人工智能后代的潜在痛苦。在我们看来，不确定性并不等同于一无所知，也并不意味着所有可能性发生的机会均等。关于什么是道德的决策必须权衡漏判的后果——未能识别出存在的意识——和误判的成本——将意识归因于不存在的情况。在人工智能的案例中，我们认为误判的可能性远大于漏判。如果是这样，采取预防性的方法将是错误的。 我们之间已经花了几十年的时间，从不同的科学视角研究意识：实验神经科学、理论神经生物学和心灵哲学。基于这项工作，我们感觉人工智能中的意识极不可能，至少在支撑当今技术的数字、硅基系统中。这里，我们列出我们持怀疑态度的三个理由。 智能并不等同于意识。我们所说的意识非常简单：它是梦less睡眠或全身麻醉中消失的东西，而是醒来或做梦时重新回来的东西。有意识的体验感觉是有意义的，无论是炎热的日子里品尝冰淇淋还是看到日落时的鲜艳颜色。哲学家托马斯·纳吉尔在他1974年的影响深远的论文《做一只蝙蝠是什么感觉》中争论说，有意识的生物是存在“成为那个生物是什么感觉”的生物。这一意识的定义引出了我们对意识人工智能的怀疑的第一个理由。意识与智能并不是同一回事。意识关乎存在和感受；而智能——广义而言——关乎做事或执行功能。仅仅因为某物是智能的，并不意味着它是有意识的。人类知道我们有意识，并且我们往往将意识与使用智力能力联系在一起。然而，有意识的体验和智能行为在某些方面是可以截然不同的。我们亲身了解大脑和身体可以在完全无意识的情况下进行高度智能的过程。例如，小脑调整和计划运动，