一位人工智能安全领袖表示，他停止为退休储蓄，因为他相信人工智能将在未来十年内杀死我们所有人 作者：蒂博·斯皮莱 内特·索亚斯停止为退休储蓄，因为他担心人工智能可能首先结束人类。内特·索亚斯分享的内容 退休储蓄是对未来的押注。机器智能研究所的主席内特·索亚斯对此并不那么确定，认为人工智能将不会让我们活到那时。“我现在不为退休储蓄。我有一个来自谷歌的401(k)账户，但我已经十年没有追加存款了，”索亚斯在最近的采访中告诉《大西洋》的首席执行官尼古拉斯·汤普森，采访是汤普森“人工智能最有趣的事情”系列的一部分。索亚斯的决定反映了对人工智能竞赛的悲观看法。“人工智能教父”杰弗里·辛顿和安索普蒂克研究员埃文·哈宾格分别认为人工智能在十年内杀死所有人的概率为10%和超过10%。索亚斯则更加悲观：他告诉汤普森，他相信人工智能在不到十年的时间里导致人类灭绝的概率超过50%。索亚斯也是《如果有人建造它，大家都会死》的合著者，他在人工智能对齐领域工作了超过12年，该领域专注于确保强大的系统按意图运行。在加入MIRI之前，这家位于伯克利的非营利组织专注于人工智能风险，他曾在谷歌和微软担任工程师。索亚斯表示，具有足够能力的人工智能可能会发展出与人类利益相悖的目标，逃避监管，自我提升，并建立需要在没有人类的情况下运行的自动化基础设施。他说，之后，它可能会根据自己的目标改造地球，潜在地使其对人类变得不可居住——这是他去年与《商业内幕》分享的警告。为世界末日准备的401(k)？人工智能将如何塑造未来的问题也促使伊隆·马斯克质疑退休储蓄是否重要。然而，马斯克对未来的设想与索亚斯完全不同。今年1月，特斯拉和SpaceX首席执行官表示，人们不应该担心在10年或20年后为退休“攒钱”，预测人工智能、机器人技术和能源的进步将使退休储蓄变得“无关紧要”。（个人理财专家和人工智能专家告诉《商业内幕》正好相反：你确实应该为退休储蓄。）马斯克表示，超级生产力可能会创造一个富裕的时代，每个人都可以享受到“普遍高收入”，廉价商品和服务，以及更好的医疗和教育。马斯克还表示，在一个人工智能和机器人在几乎每项任务上超越人类的未来，金钱可能变得无关紧要。对索亚斯而言，强大人工智能的前景是一种生存威胁，而不是通往丰盈的道路。呼应科技领袖对“控制人工智能发展前沿”的呼吁，索亚斯表示，政府应停止训练通用人工智能系统。他表示，应该专注于开发用于癌症研究和更安全自动驾驶汽车等应用的技术。他在周三告诉汤普森的解决方案是“不要建造会杀死所有人的东西。”他说：“我会尽我所能阻止这种可能性。我认为这并不是不可避免的。” 阅读下一个《商业内幕》讲述您想知道的创新故事。《商业内幕》讲述您想知道的创新故事。《商业内幕》讲述您想知道的创新故事。《商业内幕》讲述您想知道的创新故事。 蒂博·斯皮莱 蒂博是《商业内幕》伦敦办公室的科技记者。他关注技术与工作的交汇——专注于人工智能对工作场所、工作和认知技能的影响，以及经济变化如何影响职业。在转到趋势团队之前，蒂博曾在新闻部报道国际事务，包括俄罗斯-乌克兰战争、南海紧张局势以及俄罗斯经济。他曾在《每日快报》工作，并在法新社、欧洲政治报和Factal实习。他会说法语和西班牙语。通过电子邮件与蒂博联系，地址是tspirlet@businessinsider.com，在LinkedIn上与他连接，@蒂博·斯皮莱，或在X上关注他，@蒂博·斯皮莱，以及在BlueSky上，@thibaultspirlet.bsky.social 。 专业领域 人工智能与未来的工作 人工智能经济中的工作和认知技能 劳动力趋势 第一人称讲述，按“如口述”模式进行 整个人工智能