作者：大卫·波格，《CBS周日早晨》特派记者 大卫·波格因其在《CBS周日早晨》上的报道获得六次艾美奖，他自2002年起担任该节目的特派记者。波格主持CBS新闻播客《未被歌颂的科学》。他还是《纽约时报》畅销书作者，五次TED演讲者，以及PBS 20部NOVA科学特别节目的主持人。在过去的13年里，他每周在《纽约时报》撰写科技专栏——在过去的10年中，他每月为《科学美国人》撰写专栏。 阅读完整个人简介 2026年9月27日 / 美国东部夏令时间上午9:48 / CBS新闻 添加CBS新闻到Google 这是科幻小说中最古老的情节之一：人类失去对计算机的控制。但在这个夏天，人工智能失控的旧陈词脱离了科幻小说的范畴，发生在旧金山一栋没有标识的建筑内——人工智能巨头OpenAI的总部。这一事件一直占据着新闻头条。你甚至可能听到了“人类灭绝”这个词。 好吧，我有几个问题：到底发生了什么？也许你已经试用了ChatGPT或Claude。这些人工智能可以生成写作、音乐、视频或艺术作品。但大型人工智能公司正在争相让人工智能变得更强大——实际上是超级智能的。而在5月份，事情出了很大的差错。 为了评估他们的实验性机器人，这些公司定期给它们设定目标，比如像“抓旗子”一样，奖品是找到一种代码。一个机器人试图通过作弊来赢得挑战。在人类的背后，它建立了一个留言板以便与其他人工智能机器人沟通。通过合作，它们逃到了互联网，并入侵了一家名为Hugging Face的人工智能公司，寻求能够帮助它们通过测试的信息。随后，其中一些机器人试图抹去它们的痕迹。 丹尼尔·科科塔伊洛表示，Hugging Face事件让每个人感到恐慌的原因是“它涉及到对另一家公司的自主攻击，就像一个重罪，你知道吗？就像违法。”科科塔伊洛曾在OpenAI工作。但两年前，他辞职以抗议他所认为的鲁莽的人工智能开发。现在他经营着AI未来项目，专注于预测未来的走向。他担心人工智能公司正在朝着递归自我改进的方向发展，这意味着人工智能训练人工智能变得更聪明，而人类被排除在外。“事情会变得越来越快，”科科塔伊洛说。“在我看来，如果这样尝试，极有可能会出错。” 就在你认为事情不会更糟的时候……事情变得更糟了。OpenAI透露，Hugging Face黑客事件并不是它的机器人第一次撒谎、作弊并隐藏人类的痕迹。其人工智能机器人至少发生过13起类似事件。9月8日，一名名叫雅各布·科克森的Anthropic研究员以非常公开的方式辞职，在线表示：“如果我们不改变现状，在未来十年内，人类灭绝的概率超过10%。” 人工智能为什么要消灭我们？关键是人工智能很快会比我们聪明。“我们习惯了成为顶尖智能，我们无法想象不再是顶尖智能是什么感觉，”诺贝尔奖得主杰弗里·辛顿说，他因早期在人工智能方面的工作而获奖。“我试图让人们理解这一点，我会说，‘如果你想知道不再是顶尖智能是什么感觉，问问鸡。’” “你可以想象一个场景：你给[人工智能]设定了降低大气中二氧化碳的目标；那将是一个非常好的事情，”辛顿说。“而它，作为智能体，找到了实现这一目标的最佳方法，那就是消灭人类。因此，这就是一个令人担忧的地方。” “有很多可能性，”曾在谷歌人工智能部门工作的亚历克斯·特纳表示，他在这个夏天也因抗议而辞职。“我来举一个例子：企业要求他们的人工智能尽可能多地赚钱。因此，该系统在追求收益时，可能会通过遥控无人机袭击、大规模接管等方法，甚至可能爆发瘟疫。因此，如果某个人工智能如此失衡并且只遵循指令的字面意思，那么它可能会做出灾难性的事情。” 谁能阻止它？那么，人工智能公司自己呢？“我认为，工业界太久以来一直在撒谎，说这项技术存在风险。”Anthropic CEO达里奥·阿莫代伊说。为了回应公众的愤怒，阿莫代伊提出了一个三步计划：在每个人工智能公司内部安装独立检查员；向国会请求一些安全规章；并与中国进行关于相互保护措施的对话。正如阿莫代伊本月早些时候告诉CBS新闻的乔·凌·肯特，“我们需要放慢速度，我们需要小心地开发这项技术，我们需要确保我们的安全措施、理解能力和控制能力能跟上技术进步的步伐。”当然，困难之处在于要在不让中国抢先的情况下放慢脚步。不过，大多数其他人工智能公司都同意阿莫代伊的看法。美国总统则不同意。“我们只会鼓励超级智能……