有控制新技术的方法——但我们首先必须停止神话化它。 2023年4月20日 由尼古拉斯·孔拉德插图 / 《纽约客》 作为一名计算机科学家，我不喜欢“人工智能”这个术语。实际上，我认为它具有误导性——甚至可能有些危险。大家已经普遍使用这个术语，可能争论这个问题现在显得有些晚了。但我们正在进入一个新的技术时代——而误解一项技术是管理不善的最简单方式。 "人工智能" 这个术语有着悠久的历史——它是在上世纪五十年代创造的，那时计算机刚刚起步。近年来，计算机科学家们在像《终结者》和《黑客帝国》这样的电影，以及《星际迷航：下一代》中的角色数据指挥官的影响下成长。 这些文化象征在科技文化中几乎成了一种宗教神话。计算机科学家渴望创造人工智能，实现金久以来的梦想，这是再自然不过的了。但令人惊讶的是，许多追寻人工智能梦想的人也担心这可能意味着人类的末日。今天，甚至包括那些在人工智能研究中心工作的科学家们都普遍表示，人工智能研究者所做的可能导致我们物种的灭绝，或者至少对人类造成很大伤害，而且很快就会发生。在一项最近的民意调查中，一半的人工智能科学家同意人类被人工智能毁灭的可能性至少有百分之十。就连我的同事和朋友，OpenAI的首席执行官萨姆·阿尔特曼，也发表过类似的评论。走进硅谷的任何一家咖啡馆，你都能听到同样的辩论：一个人说新代码只是代码，人类仍然掌控着，但另一个人则认为持这种观点的人根本不理解新技术有多深远。这些争辩并不完全理性：当我请我最担心的科学家朋友详细描述人工智能 apocalypse 可能如何发生时，他们往往会因无法想象无限的恐惧而陷入瘫痪。 他们说“进步的加速会超过我们的理解，我们将无法理解所发生的事情。”我不同意这种说法。我的许多朋友和同事对最新的大型模型（如GPT-4）深感震撼，为了等待更深层次智能的出现，他们几乎在守夜。我的立场并不是他们错了，而是我们不能确定；我们仍然保留以不同方式对软件进行分类的选项。最务实的立场是把人工智能视为一种工具，而不是一种生物。我的态度并没有消除危险的可能性：无论我们如何看待它，我们仍然可能以不当的方式设计和运用我们的新技术，对我们造成伤害甚至导致我们的灭绝。神话化技术只会使我们更可能无法良好地操作它——这种思维限制了我们的想象力，使我们束缚于过去的梦想。我们可以在没有人工智能这种东西的假设下更好地工作。越早理解这一点，我们就越早能够智能地管理我们新的技术。如果新技术并不是真正的人工智能，那么它是什么？在我看来，理解我们今天所构建的东西最准确的方法是将其视为一种创新的社会协作形式。像OpenAI的GPT-4这样的程序，可以按需写句子，某种程度上就像一个数据量更多、通过统计整合而成的维基百科版本。那些按需生成图像的程序，某种程度上与在线图像搜索类似，但具有组合图片的系统。在这两种情况下，撰写文本和提供图像的仍然是人类。新程序融合了人脑的工作。创新之处在于融合过程变得有指导且受限，以便结果可用且常常引人注目。这是一个重要的成就，值得庆祝——但可以被视为揭示人类创作之间先前隐藏的一致性，而不是创造出一种新的思想。据我所知，我的观点使这项技术得到了肯定。毕竟，文明是什么，如果不是社会协作？将人工智能视为一种合作工作方式，而不是创造独立、智能生物的技术，可能会减少它的神秘性——也就减少了与HAL 9000或数据指挥官的相似之处。但这很好，因为神秘只会使管理不善的可能性增加。将智能归于新系统很容易；它们具有灵活性和不可预测性，这是我们通常与计算机技术无关的。但这种灵活性源于简单的数学。像GPT-4这样的庞大语言模型包含了在程序处理的大量文本中，特定单词之间的共同出现的累积记录。这种庞大的统计表使得系统本质上逼近许多语法模式，以及可能被称为...