返回

文章详情

预言人们为何与ChatGPT分享秘密的聊天机器人

Wired2026年7月14日 10:00

在ELIZA影响计算与文化的60年里,传统的叙述将其视为我们现在所称聊天机器人的最早例子之一,能够作为自动化心理学家进行对话。这个看似简单的程序以’骗过’甚至目睹麻省理工学院教授约瑟夫·韦岑鲍姆创建它的秘书而闻名。故事就是这样叙述的。然而,在所有的报道中——即使是在其跨编程语言和研究领域的各种改编中,在课堂和流行文化中——一个至关重要的故事部分一直缺失:ELIZA程序本身的源代码。我们新书《发明ELIZA》从麻省理工学院档案馆中恢复了这个源代码,首次对该代码进行了详细解读和讨论,并附上新发现的ELIZA脚本对话,超越其流行的“医生”角色。这项调查揭示了许多ELIZA:在其不同版本的程序中,设计运行各种脚本或角色,使用一系列技术创新构建。我们希望通过探讨误解、多版本和缺失代码,来纠正和复杂化ELIZA的历史和影响。在这本书的摘录中,我们考察了ELIZA的最早互动之一,它为未来数十年人类与计算机的关系奠定了基础,并且这个复杂的程序如何继续与当今不受限制的AI行业的驱动力对话。人们都是一样的。以什么方式,他们总是对我们唠叨些什么。你能想到具体的例子吗?嗯,我的男朋友让我来这里。你的男朋友让你来这里。他说我大部分时间都很沮丧。我很遗憾听到你感到沮丧。这个对话被无数次重新打印,并激励程序员和作家们想象后来的许多聊天机器人。然而,越是仔细审视这个对话,问题就越多:这个年轻女人是谁?她是真实的人,还是ELIZA创作者约瑟夫·韦岑鲍姆的发明?ELIZA系统是如何生成其回答的,它们又被编辑了多少?为什么这个系统能够如此成功地吸引人们?ELIZA及其“医生”角色帮助催化了一种思想模式以及对人们与计算机关系的焦虑。韦岑鲍姆在其1976年的书《计算机能力与人类理性》中探讨了这个问题,提出了哲学、社会和政治的批评。他的程序所呈现的独特机器互动揭示了人机关系新形式的深远影响,这一点他努力探索和质疑。在看到公众的反应后,韦岑鲍姆对人们与ELIZA迅速、常常情感投入的联系感到震惊,他认为这是“明显的证据,表明人们把计算机当作可以在亲密的 terms 下适当地和有用地对话的人。” 将同情心归因于计算机并对其投入私密情感的倾向让韦岑鲍姆感到困惑。他对人们将理性与计算相关联的程度感到担忧,并将理解和智能加诸于无所作为的计算机系统。这种倾向被称为“ELIZA效应”。到1991年,这一术语出现在在线论坛中,但其使用在此之前已存在数十年。社会学家谢丽尔·特克尔将“ELIZA效应”定义为“我们普遍倾向于将有反应的计算机程序视为比实际更智能的倾向。极小的互动使我们将自己的复杂性投射到不配得的对象上。” 认知和计算机科学家道格拉斯·霍夫施塔特将其描述为“人们倾向于从计算机串联在一起的符号——尤其是单词——中读取远超过合理理解的东西的性质”,这与今天的生成AI系统完全适用。为了理解ELIZA的力量和挑衅,我们可以看看计算机科学家艾伦·图灵在论文《计算机械与智能》中提出的臭名昭著的挑战,图灵提出了“机器能思考吗?”的问提。图灵将他的思想实验设定在一个闲聊游戏中——这不是关于技术,而是关于性别:一男一女藏在不同的房间,质询者通过一系列问题尝试识别哪个是哪个性别。男人试图误导质疑者,假装成女人,而女人则试图说服质询者给出“正确”的答案。也就是说,他们都声称自己是真正的女人,这是对性别本质主义观念的挑战。在他对这个游戏的修改中,图灵将原先的性别问题替换为现在所称的图灵测试。在这个挑战中,机器假装成男人,而不是男人假装成女人。图灵最初的性别模仿游戏不仅仅是一个开场白,它确保了人工智能将始终与性别和身份问题交织在一起。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡