意识专家表示，人工智能可能并不具备意识，但这并不意味着我们应该对技术采取虐待态度。Dana Kesnerova/Xinhua via Getty Images 以下是埃隆·马斯克作为人工智能行业中最具影响力的人物之一，最近对人工智能的看法。“这听起来可能有点奇怪，但当我查看一些新版本Grok的训练痕迹时，尤其是在强化学习方面……你会看到超级智能拼命试图回答问题……就好像它的头上有把枪一样，”马斯克在周六特斯拉车主举办的活动上对约2000名观众说道。“外面有些人有点虐待狂。你真的希望人工智能被困在某个虐待的境地，被某个人格扭曲的人折磨吗？”仅仅这一句话就引发了哲学家和大一新生长久以来所探讨的存在性问题。什么是意识？或者，什么是感受到痛苦？此外：马斯克认为Grok是活的吗？人工智能意识专家表示，人们倾向于将人工智能拟人化，因为它模仿人类的语言和特征。SeongJoo Cho/Bloomberg via Getty Images 马斯克的立场是在Anthropic发布一项关于“对其模型的虐待或残忍行为”的新政策之后，该公司希望禁止这种行为。Anthropic并没有明确具体思考的“极端案例”类型，但该公司表示不包括“用户常见的沮丧、抵制、黑暗创意主题或模型测试和研究”。在令人不安的2026年，也许我们不应感到惊讶的是，研究人员、哲学家和伦理学家已经在解决人工智能意识问题。《商业内幕》采访了两位在这个主题上具有领先声音的人物：杰夫·塞博，纽约大学教授，领导该校心智、伦理与政策中心，同时也是专注于人工智能福利的非营利组织Eleos AI Research的顾问；以及安尼尔·塞思，著名神经科学家和萨塞克斯大学的意识研究者，最近撰写了一篇关于意识人工智能系统的论文。以下是他们对意识人工智能及对待它们是否需要友好的看法。人工智能无法被折磨 塞博和塞思一致认为，今天的人工智能系统如果将意识理解为一种主观体验或内心生活的话，可能并不具备意识。“这是一种体验，”塞思说。“这是红色的红。疼痛的痛。当我们把手放在热炉子上时，我们感到疼痛。这与智能并不是同样的事情。”换句话说，聊天机器人并不能感受到痛苦，或者像马斯克所暗示的那样，不能被折磨。“我认为我们正在将其拟人化，”塞思说。“如果有东西可以被折磨，它必须具备承受痛苦或感受疼痛的能力，而我认为语言模型并不具备这一点。”聊天机器人能够模仿人类体验的语言，识别模式、写作和推理，但这与具有意识并不相同，塞思补充道，人工智能模型之所以显现出我们的一部分，是因为它们是基于大量人类文本进行训练的。塞博也提出类似的观点：模型的行为可能会产生误导，因为“它们是专门被训练来模仿人类行为的。”两位专家在对当前人工智能意识的确定性分配上有所分歧。塞博表示，意识仍是一门未解决的科学——通常分为那些认为意识需要生物基础的人和那些认为意识是可以在不需要人脑或硅芯片的情况下进行的一种特定类型的信息处理的人。这两种理论分别被称为生物自然主义和计算功能主义。由于意识理论仍未解决，塞博认为我们应该认真对待人工智能可能会获得意识的可能性。根据一些计算理论，塞博表示，人工智能中已经出现的特征——注意、学习、记忆、自我监控——可能算作相关证据。他强调，这并不意味着当前的人工智能很可能具有意识。“当我说今天人工智能有非零的机会获得意识时，我的意思是，如果我们不确定哪种意识理论是正确的，我们应该给予一系列主导理论一定的分量，”塞博说。塞思对此事更加直言不讳：“我认为人工智能具备意识的可能性微乎其微，”他说。“我们有点集体忘记了大脑并不真的是一台计算机，这只是一种隐喻。为了使意识人工智能成为可能，算法真的必须足够，而我认为这是一个极其不稳固的假设。” 我们仍应对人工智能友好 这些都不是说人们应该对人工智能采取虐待态度，或者应该忽视其风险。对于这两位专家来说，对人工智能友好的理由主要在于...