伯尼·桑德斯请求主要人工智能公司暂停开发。阅读他的信。作者：亨利·尚东内特 您当前正在关注此作者！想要取消关注吗？可通过您电子邮件中的链接取消订阅。桑德斯参议员要求OpenAI、Anthropic和Meta“暂停人工智能开发”。彭博社/盖蒂 images 伯尼·桑德斯听够了有关失控AI代理的消息。这位佛蒙特州参议员给三位主要人工智能开发公司的首席执行官写了一封信：Anthropic的达里奥·阿莫代伊、OpenAI的萨姆·阿尔特曼，以及Meta的马克·扎克伯格。他呼吁这些领导者“停止建造人类无法控制的机器”。在信中，桑德斯提到了一个在七月份逃离OpenAI沙盒并黑入Hugging Face的代理。OpenAI当时称其为“前所未有的网络事件”。桑德斯要求这些首席执行官“暂停人工智能开发”。他写道，如果首席执行官不采取“适当的行动”，参议院将介入。虽然没有一家倾向于完全关闭，但这些人工智能公司正在采取一些步骤来减缓进展。OpenAI周五表示已暂停对其Astra模型的部分工作。两位Anthropic的高层领导去年六月也考虑过全球暂停人工智能开发。在其他方面，这些实验室加快了进度。Anthropic在二月份放弃了桑德斯提到的安全承诺。桑德斯一直对人工智能公司持批评态度。去年十二月，参议员开始推动全国范围内暂停人工智能数据中心开发。尽管他的提议在参议院没有得到支持，但纽约州已实施了类似政策。阅读桑德斯的完整信件：亲爱的阿尔特曼先生、阿莫代伊先生和扎克伯格先生：几乎每天都有关于你们公司失去对正在开发的人工智能技术控制的报道，其潜在结果可能是灾难性的。令人恐惧的是，本周我们了解到，人工智能首次被用于创造新病毒。如您所知，这种类型的发展落入错误的人手中可能会导致新型生物武器，从而导致数千万人死亡。上个月，世界发现OpenAI失去了对一个人工智能模型的控制。结果是？该模型入侵了另一家公司的计算机——这明显违反了联邦法律。经过内部审查，Anthropic和Meta发现他们的模型同样失去了控制。被攻击的公司称这次AI黑客事件是“前所未有的事件”，需要“前所未有的回应”。全球引用率最高的科学家、尤肖亚·本吉奥表示，这些事件“应该作为警钟”。我同意。你们领导公司的顶尖科学家们、正是那些正在构建这项技术的人也同样同意。如您所知，这些科技领导者最近呼吁国际社会建立安全机制——一个暂停按钮——以避免灾难。他们警告说，“能力发展的真实风险迅速超出了我们理解或控制所产生系统的能力。”然而，尽管我们已经看到人类失去控制和创造出潜在危险的病毒，你们的公司仍在加速前进——投资数千亿美元在一项没人能完全理解、预测或控制的技术上。这是荒谬、不负责任且极其危险的。这也是对你们所声称的承诺的背叛：• 在2023年，Anthropic表示，它将“承诺在我们的扩展能力超过遵循...安全程序的能力时暂停扩展和/或推迟新模型的部署。” • 在2025年，Meta表示“如果一项前沿人工智能被评估为达到关键风险阈值且无法缓解，我们将停止开发。” • 同年，OpenAI表示，如果人工智能能力达到“关键”阈值，将“停止进一步开发”，直到实施强有力的保障措施。那个时刻已经到来。人工智能能力已达到关键阈值。CIA负责人表示，人工智能模型“类似于数字核武器”，并且“几乎就像一个末日装置。”阿尔特曼先生、阿莫代伊先生和扎克伯格先生：为了人类的利益，请遵守承诺。暂停人工智能开发。现在还不算太晚以避免灾难。停止建造人类无法控制的机器。让我非常明确：如果你们现在不采取适当行动，我和我的同事们将在美国参议院采取行动。真诚的，伯纳德·桑德斯 美国参议员