OpenAI 首席执行官萨姆·阿尔特曼表示，可能是时候“减缓”人工智能的发展速度，以便世界为此做好准备。他在“像最佳投资者一样”播客的主持人帕特里克·奥肖尼斯面前表示：“我们可能需要调整人工智能的发展速度，以便给社会足够的时间去适应一些新能力水平。”他同时也表示“我们需要找出如何以一种不会让任何人感觉像是监管捕获，并且不会让前沿实验室之间觉得像是共谋的方式来做到这一点。”阿尔特曼过去对减缓人工智能进展的运动持谨慎态度，称2023年提出类似减缓的公开信“错过了我们需要暂停的技术细节”。显然，最近发生的事件使他对这一想法有所软化，部分原因是OpenAI的一款先进模型成功突破了安全计算环境，并利用多个零日漏洞黑入了在线模型数据库Huggingface。在播客中，OpenAI的联合创始人称这是一个“极其科幻的网络事件……[t]这是我非常直观地感受到的第一次安全事件。”OpenAI的研究人员已暂停了该模型的训练，正在努力确保其沙箱的安全。但阿尔特曼表示，随着模型变得越来越强大，减缓它们的发展可能成为安全部署的关键。OpenAI和Anthropic的员工已经开始循环使用类似的语言发起一项请愿。虽然模型的安全性和一致性始终是人工智能领域的关注点，但今年早些时候Anthropic高度能力的Mythos模型的到来将假设转变为现实问题。然而，该行业存在信任问题，以及挑战经济学的困难，使主要参与者有动机以专家不同意的方式夸大其系统的危险性。例如，关于Anthropic的Fable模型是否应该短暂禁止使用的问题。同样，当由中国开发的大型开源模型Kimi K3发布时，OpenAI战略未来负责人迪恩·W·鲍尔表示，这威胁到了前沿实验室的经济，使其难以将安全问题与财务利益分开。“我认为关于安全问题的讨论是有根据的，然而其中很多是关于那些人的，他们其实，即使是稍微潜意识地，也希望集中权力，”阿尔特曼沉思道，这听起来是在对他的竞争对手、Anthropic首席执行官达里奥·阿莫代伊行使挖苦。“我对这样的世界感到恐惧：人工智能的真实恐惧被用作一种方式，来宣称‘只有这一小群人可以拥有它，因为它太危险了，只有他们能理解它，但别担心，他们会为我们做出正确的决定。’我不相信这点。”尽管如此，OpenAI对制定人工智能模型的政府规则的努力表示抵制，而更倾向于一种以行业为主导的方法，人工智能实验室将成立表面上独立的组织，评估模型的安全性及其制造商的安全方法。对此类监管方法，以及任何减缓人工智能发展的努力的挑战，在于如何让行业中各方达成共识，无论他们在美国的前沿实验室中是竞争对手，还是在中国的竞争者。当你通过我们文章中的链接进行购买时，我们可能会获得少量佣金。这并不影响我们的编辑独立性。蒂姆·费恩霍兹是一位撰写技术、金融和公共政策的记者。他密切关注私人航天工业的崛起，并且是《火箭亿万富翁：埃隆·马斯克、杰夫·贝索斯与新太空竞赛》的作者。在此之前，他在全球商业新闻网站Quartz担任高级记者超过十年，并以政治记者的身份开始了他的职业生涯，地点在华盛顿特区。你可以通过邮箱tim.fernholz@techcrunch.com或通过Signal发送加密消息至tim_fernholz.21与蒂姆联系或验证他的联系。查看个人简介