开放人工智能首席执行官萨姆·阿尔特曼最近表示，可能是时候“放缓人工智能发展的速度”，以便社会能够“在这些新能力水平周围加强防护”。在TechCrunch的《股权》播客最新一集中，基尔斯滕·科罗塞克、肖恩·奥凯恩和我讨论了阿尔特曼的评论可能是由最近一起黑客事件促发的，该事件中一个开放人工智能代理突破了Hugging Face的系统。肖恩指出，尽管人工智能代理执行的黑客攻击是新颖的，但这次黑客攻击本身并不是“某种新的高级事物”。肖恩说：“这更像是尼克松的人破门而入水门事件，而不是某种真正隐秘的网络行动，因为它不需要这样，也没有被指示去这样做。”他表示：“希望这表明这些公司会更加谨慎，并在这方面采取更多的措施。”阿尔特曼的评论也让我思考关于加速主义与放缓辩论的整体实用性，因为（是的，我要引用我自己）这种框架“有点暗示只有一条路”，而“我们能决定的，——在某种程度上我们至少能够决定的——是，我们是加速还是放慢？”继续阅读，以了解我们谈话的预览，经过裁剪以便于阅读和理解。肖恩·奥凯恩：也许我们终于在这里达到了一个拐点。我认为，这其中一个主要原因一定与我们上周讨论的事情有关，开放人工智能的一个模型突破了Hugging Face的数据，显然还突破了互联网中的其他一些东西。[阿尔特曼]并没有像我们过去看到的技术行业中的一些人那样呼吁暂停。他非常小心用词，并说：“放慢速度。”我们会看看这是否能够持续下去。我们看到一些实验室所提出的任何警告，通常在刺激它们全速向前推进的动机下都会被逆转。因此我依然持怀疑态度，这并不意外。基尔斯滕·科罗塞克：我想说的是——[阿尔特曼]可能在用词上很谨慎，但开放人工智能和Anthropic确实[支持]了一项与他所说的内容相符的请愿。我同意你的观点，我认为这一切确实是由Hugging Face所引发的。这可能吓到了他以及行业内的许多人。这里的难点是：开放人工智能如何在继续创收、筹集资金或成功上市的同时，做到所谓的“放慢发展”。我不知道他们是否能做到这一点。 我将很感兴趣地看看他们是否能同时管理好这两者。安东尼·哈：我一直在考虑的事情之一也是这样的问题：加速[与]减速是否是思考这个问题的正确框架？因为它有点暗示只有一条路，我们都被困在这条路上。我们能决定的，——在某种程度上我们至少能够决定的——是，我们是加速还是减速？而不是——再次，我真的要扭曲这个比喻——我们是否建设不同的护栏？我们是否选择不同的道路？我对这种框架非常抵触。与其说：“好吧，如果我们对目前模型的表现感到不满，我们还能做什么？减速、暂停、停止是唯一的选择吗？”我认为并非如此。我想再次强调一件事情，因为看到关于此事的担忧程度真的很有趣——这一感觉是，“如果我们有这些自治代理和模型到处跑，互相黑客攻击，试图阻止黑客，这一切都在失控”，导致了关于对齐的更广泛讨论，瑞贝卡·贝伦对此写了一篇很棒的文章。然而，我们回到TechCrunch所讨论的一个要点，这次具体的黑客事件——是的，它是由一个开放人工智能模型造成的，但听起来他们只是没有正确地保护测试站点。理论上，这个模型是无法上网的。当然，如果你有一个强大且不对齐的人工智能，人的错误的风险会大幅上升。但这始于他们没有像应该的那样保护好事物的事实。肖恩：我认为这是对的。我认为你的观点很有道理，我们不应该仅仅以线性的方式思考这个问题，考虑事情是加速还是减速。还有很多应该及能够讨论的内容，关于这些公司有多负责任。我们的同事洛伦佐也写了篇极好的文章，详细阐述了严谨的安全研究者对此事件的看法。看起来在这次黑客事件的双方，确实有一些步骤应该提前采取，从而有效避免此次事件。而我在那个故事中发现的最有趣的一点是，一些研究人员指出，这个模型所做的并不是某种新的高级做法。它的思维方式非常像人类，在试图突破的过程中——并不是说要人性化，但它试图突破的方式和人类是相似的。