拉曼·乔杜里，曾任拜登政府美国人工智能科学特使，谈论她为何不认同人工智能末日者的言论 2026年9月25日 本月早些时候，全球各地的政府和媒体机构将目光投向了人工智能的灭绝，这基于一位27岁Anthropic研究员完全毫无根据的推特，其对人工智能将如何影响世界的理解受到了一种真诚但有缺陷的思维方式的影响。他自信地声称：“建设人工智能的人真诚地相信到十年结束时它可能会杀死我们所有人。” 而他的信念也得到了其他参与积极构建这一技术的前沿实验室员工的呼应。这并不是为了单独指出雅各布·考克斯（Jacob Coxon）。事实上，他是当今科技兄弟的原型。考克斯是存在风险的平民——他传递末日信息的方式反映出那些在不断扩大的人工智能末日者社区中与人进行的日常对话。强势初创企业文化的时代已经结束。现在，我们正处于一个尴尬的学术界向我们轻声告知人类灭亡的时代。我在伦理和负责任的人工智能领域工作了十年，似乎技术的炒作周期越来越快，科技流行文化的看法更加令人困惑。对于像我这样在学术界与人工智能的壁垒之外度过时间的人来说，我们在科技领域的对话令人捉摸不透。在有效利他的意识形态中，非常认真和聪明的年轻人毫不讽刺地辩论如果人工智能只会杀死我们所有人，那么涂防晒霜的意义何在。然而，这些相同的思想者花费无数小时设想人工智能如何使我们的生活更优化和高效——就像萨姆·阿尔特曼（Sam Altman）关于使用人工智能制作“孩子生活的播客”的推特，那引来了公众的嘲讽；为什么不直接和他们交流呢？人工智能可以作为一个从不争论或不同意你的女朋友；作为一个总是告诉你你的想法有多好的挚友；作为一个简化混乱民主流程的替代方案；或者作为一个更优越的方式去进行民意调查或进行焦点小组讨论，而无需与真实的人对话。对于那些如此关心人类命运的人来说，末日者似乎并不特别喜欢人类。 编辑推荐 无论是想要不惜一切代价建设人工智能的社区，还是将人工智能安全定义为防止“失控人工智能”的社区，都带有一种居高临下的态度。在这两种情况下，对于普通人在人们考虑人工智能未来时面临的“厨房桌子”问题都持有轻蔑态度——例如人工智能对儿童心理的影响、他们的工作是否会被自动化，以及数据中心是否会破坏环境。这一结局并不令人意外，因为它源于对大科技主导地位的持续、不加批判的接受。根据这种框架，英雄和反派只能来自科技社区。伊隆·马斯克（Elon Musk）在2022年收购推特（我在此担任机器学习伦理、透明度和问责制的工程总监）似乎标志着一个转折点，表明大科技与特朗普式的对权利、自由和自由的攻击保持一致，迎来了一个最糟糕的人获得胜利的世界。马斯克对基本在线安全、伦理和负责任使用的公开轻蔑似乎为其他公司提供了进行不成比例裁员的许可，以确保技术用户不被算法操控、遭受协调的虚假信息活动、诈骗或骚扰。同时，过去几年中，生成性人工智能技术在工作场所、学校以及公共和私人生活中的快速而不受控制的进展。现在，“安全”人工智能的定义已从现实世界的人类情况——如工作自动化、虚假信息或算法偏见——扭曲并变形为由亿万富翁资助和策划的幻想灭绝级故事。上周，我每天大约要回答三次记者问我：“你害怕人工智能会杀死我们所有人吗？如果不，为什么？”我的直觉是以逻辑和理性的方式回应：人工智能没有意图或欲望，人工智能无法接触物理机构以引发生物武器，迄今为止的研究没有证明具有极端灭绝能力的合理性。举个例子，为了引发生物武器，人工智能模型（没有人类）必须以某种方式接触敏感和高度受限的资料，进入极其复杂的实验室，操作这些设备，并确定释放机制。当你跟随逻辑路径，即使作为门外汉，这种可能性似乎相当微乎其微。 相关内容 但这并没有回答一个更深层的问题。人工智能可能不会用核武器结束人类，但人工智能可能会通过使我们无法与他人连接来结束人类，导致我们依赖技术来告诉我们如何感受和该想什么，让我们失去与他人的真实联系。