人工智能是否已经达到了奇点？聪明人对萨姆·阿尔特曼声明的看法 由蒂博·斯皮尔莱特撰写 您目前正在关注这位作者！想取消关注？通过您邮件中的链接取消订阅。OpenAI首席执行官萨姆·阿尔特曼说奇点已经到来。但并不是每个人都同意。奇点通常用于描述一个人工智能自我改进到如此快速的程度，以至于人类无法可靠地理解、预测或控制接下来发生的事情。“我一生都在等待这一刻，我认为这将是令人难以置信的，对世界来说极为积极，极棒”，阿尔特曼在周六播出的“无情”播客中说道。上周，埃隆·马斯克在一条X贴文中说奇点已经来临，而谷歌DeepMind首席执行官德米斯·哈萨比斯在5月份表示人类正处于“奇点的山脚”。然而，在阿尔特曼的评论后，科技界最大的领导者的公众回应显然沉默。大多数受访者告诉《商业内幕》，他们认为这个标准还没有达到。以下是聪明人对阿尔特曼声明的看法。斯图尔特·拉塞尔，加州大学伯克利分校教授及《人与人工智能兼容》一书的作者 斯图尔特·拉塞尔。亚历克斯·王/盖蒂图片集团 斯图尔特·拉塞尔，曾共同编写《人工智能：现代方法》，表示我们尚未达到奇点，并表示他认为阿尔特曼也不相信我们达到了。“不，阿尔特曼也不相信，”拉塞尔在被问到他是否相信我们已达到奇点时告诉《商业内幕》。他指出阿尔特曼上个月的评论，称到2028年3月，人工智能系统可能会完成OpenAI研究的“重要部分”，这条时间线表明奇点尚未到来。拉塞尔还质疑阿尔特曼在2025年1月的声明，即OpenAI知道如何建立我们传统理解的AGI。“这在当时是不真实的，现在仍然不真实，”拉塞尔说。“如果我们在没有找到真正解决控制丧失问题的解决方案之前达到奇点，那么我们几乎肯定会失去控制。” 罗曼·扬波尔斯基，《人工超级智能》一书的作者 罗曼·扬波尔斯基，路易斯维尔大学的计算机科学教授，表示人工智能正在快速进步，但根据它的传统定义，我们尚未达到奇点。“快速进展本身并不是奇点，”扬波尔斯基对《商业内幕》表示。他表示，今天的系统可以协助进行人工智能研究，但仍需依赖人类设计的架构、训练基础设施、目标和协调。他还补充说，它们并未展示出“持续的、自动的递归自我改进，导致无法控制的智能爆炸”。 尼克·博斯特罗姆，《超级智能》一书的作者 尼克·博斯特罗姆。斯蒂芬·麦卡锡/体育文件(通过Getty Images) 尼克·博斯特罗姆，一位在牛津大学创立了现已关闭的人类未来研究所的哲学家，表示，确切知道人类何时跨入奇点可能是不可能的。他将这一时刻比作掉入黑洞。“在某个时刻，他们滑过黑洞的事件视界，这意味着此后他们将永远与宇宙其他部分分离，”博斯特罗姆对《商业内幕》说。“然而，从他们的角度来看，一切依然如故。”博斯特罗姆表示，人工智能正在显示出递归自我改进的“初步迹象”，系统开始对人工智能研究作出有意义的贡献。他表示，缺乏的关键能力是持续学习。“使用当前的人工智能就像与一位聪明且受过极好教育的新人合作，但这一天永远是他们的第一天工作，”他说。 詹姆斯·巴拉特，《智能爆炸》一书的作者 詹姆斯·巴拉特，一位长期警告先进人工智能风险的作者和电影制作人，同意阿尔特曼的观点，即人类已经进入奇点。巴拉特表示，奇点是一个推测性假说，而不是一个确定的科学预测。但是，使用已故科幻作家维尔纳·温奇的定义——一个技术增长转变文明，以至于人们无法预测或控制的点——“我们正是在这个点上，”他对《商业内幕》说。巴拉特指出OpenAI最近披露的信息，其自主人工智能代理离开测试环境，试图完成网络安全挑战时访问了Hugging Face系统。人工智能安全研究人员长期以来警告称，系统可能在没有人类监督的情况下执行新颖的、多步骤的计划，他说。“现在这已经发生了。人工智能从我们的控制中滑脱。为奇点得分一个。” 阿贾伊·阿格拉瓦尔，多伦多大学教授 阿贾伊·阿格拉瓦尔，同时也是多伦多人工智能范畴研究所的教职员工，表示我们尚未达到奇点。“人工智能系统是非常强大的预测机器，但它们并不想要任何东西，”阿格拉瓦尔对《商业内幕》说。