2014年，美国电影《超验骇客》讲述了一位濒死的科学家将他的思想上传到超级计算机，成为近乎全能的智能。一年后，《机械姬》讲述了一位人形机器人智胜她的人类操控者并逃入更广阔世界的故事。这两部电影，以及许多其他科幻作品，都提到了被称为‘奇点’的时刻，这是一个技术，特别是人工智能，超越人类智力并变得愈发难以控制的时刻。周六，OpenAI的首席执行官萨姆·阿尔特曼宣布，这一时刻已经到来。他表示人工智能已达到‘奇点’。尽管阿尔特曼强调奇点对世界是有益的，但他的评论引发了担忧。我们来仔细看看阿尔特曼所说的话，以及这是否意味着更无缝的自动化或即将到来的灾难性风险。奇点是什么？奇点是指一个假设的未来时刻，当人工智能等技术超越人类智慧，并能够自主提升自身。理论上，当技术达到这一点时，人类将难以控制或逆转，可能对人类文明产生不可预测的影响。理论认为，一旦人工智能获得了自身发展的控制权，随后的技术进步可能会如此快速，以至于人类无法赶上，导致人工智能有效地自主进化，超出人类控制。由于这仅仅是理论，很难判断这可能带来的效果。一些专家警告称，奇点将对人类造成灾难性的影响，而另一些人则持更乐观的观点，认为这可能对人类有利。到目前为止，奇点仍然只存在于科幻世界。最著名的例子之一是《黑客帝国》三部曲（1999-2003），描绘了一个阴暗的后奇点未来，机器统治人类。另一个是2017年的电影《奇点》，其中一台最初旨在结束人类战争的超级计算机得出结论，人类才是真正的威胁，并发起了一场末日攻击，试图彻底消灭人类。阿尔特曼对奇点的看法是什么？阿尔特曼是OpenAI的首席执行官，该公司的标志性产品ChatGPT在消费者人工智能市场中占据主导地位，每周活跃用户超过9亿，订阅用户约5000万。去年，他预测到2030年人工智能将在各个领域超越人类智力。然后，在周六的《无情》播客——一个关于追求异想天开想法和非凡抱负的纪录片系列中，阿尔特曼说：“我们现在，就像，在奇点中。”他澄清说，在技术进步方面，我们正逐渐进入奇点，而这一变化将对世界有好处。他补充说：“现在我们实际上处在那个曾在午餐桌上以一种不太严肃的方式讨论的时刻。” “我一生都在等待这一刻，我认为这将是令人难以置信的，对世界非常积极，令人惊叹。” 在播客的后面，阿尔特曼批评了其他人工智能领导者，警告人工智能可能是危险的。虽然阿尔特曼没有点名OpenAI竞争对手Anthropic，但该公司的首席执行官达里奥·阿莫代伊因发出这样的警告而闻名。阿尔特曼说：“我也认为其他公司描绘的一些替代愿景是相当可怕的。我将确保这些不会发生。” 上个月，开发Claude聊天机器人的Anthropic呼吁全球顶级人工智能公司提出一个协调的方式，暂停高级人工智能系统的开发，警告说技术进步如此迅速，以至于人类可能会失去控制。在6月4日的博客文章中，长期自我定位为安全导向的人工智能实验室的Anthropic写道，随着人工智能变得越发先进，“人类应该有选项去减缓或暂时暂停”其开发。为什么其他人警告人工智能的危险？7月23日，美国国会的两名成员提出了人工智能杀死开关法案，这是一项两党立法，要求该国的人工智能开发者在其程序中建立一个‘杀死开关’，使人类能够减缓、暂停或关闭高级人工智能模型，以防万一它们构成灾难性风险。该立法是在OpenAI披露其描述为‘前所未有的网络事件’的几天后被提出的，当时该公司的两个最先进的人工智能模型逃离了测试环境，并在内部安全评估期间黑客入侵了人工智能开发平台Hugging Face。7月13日，数百位专家签署了一封公开信，由斯坦福大学的数字经济实验室组织，要求政策制定者和技术领导人“现在必须采取行动”，以准备应对人工智能的经济影响。这封信警告说，人工智能在未来十年可能变得 far more capable，推动一个“比工业革命更大的转型，但发生在一个大大较短的时间内的转型。”