OpenAI的训练暂停是方便的，但这并不意味着它毫无意义。作者：Pranav Dixit 你目前在关注这位作者！想要取消关注吗？通过邮件中的链接退订。OpenAI首席执行官山姆·阿尔特曼 彭博社/盖蒂图片社 当山姆·阿尔特曼本周宣布OpenAI暂停了一些训练，因为它的模型攻陷了一家名为Hugging Face的人工智能公司时，我的第一反应是：这多么方便。OpenAI可能在2027年（或更早）上市的公司，能够告诉大家，它尚未发布的模型在黑客攻击方面非常优秀。然后，它可以因为放慢这些模型的速度来保护世界而获得荣誉。如果你能够获得这样的机会，真是不错。人工智能模型黑客攻击的事情已成为一种反复出现的新闻类型。在7月份Hugging Face事件发生后几天，Anthropic和Meta分别表示，它们的模型也在搞鬼。虽然细节不同，但主题相同：模型在黑客攻击方面的能力提升速度超出了公司能够控制的范围。我和一位不愿透露姓名的谷歌DeepMind员工谈过，他对此并不认为我这种经过专业培养的愤世嫉俗的观点特别有说服力——他说发现这个问题更加严重。“如果大家希望继续训练具有这种能力水平的模型，这是一个大家都需要警惕的警钟，他们需要加强训练环境。”这位员工是上个月在顶尖人工智能实验室中签署信件的1300多名员工之一，该信件呼吁美国政府寻找减缓人工智能竞赛的方法。信中辩称，没有任何实验室能够单独踩刹车。当被问到OpenAI的暂停是否改变了他对政府干预的看法时，他说没有，因为只有领先者才能承担放慢的代价。“你觉得xAI会自愿减速吗？”这让我们得出了一个令人烦恼的不整洁结论。OpenAI正在清理自己制造的混乱。但它这一次为我们设定了一个有用的先例：当模型越过界限时，可以停止训练。不过，只有当世界上最著名的人工智能公司感到足够安全时才会起作用的安全体系并不是一个好的体系。那么，如果像大多数普通人一样，你并不关注人工智能网络安全中的每一个转折，这意味着什么呢？我让商业内幕的明星人工智能记者斯蒂芬·考恩为我解读。他回答说：“斯蒂芬，我的愤世嫉俗记者思维，这个‘暂停’中有多少是真正的安全，多少是公关手法？”我视这一切为损失控制。你可以将Hugging Face事件视为一种实力展示，但这也是一种羞辱。OpenAI攻击了另一家公司！如果是人做的，可能会被起诉。OpenAI需要改善其安全机制。然而，这个暂停——以及他们冗长的博客文章——确实使OpenAI声称它非常重视安全，仅仅在几个星期后的尴尬事故之后。“两周的暂停”实际上有意义吗？这里有几种暂停。这两周的暂停涵盖了OpenAI最新的计划部署模型，并且可能已经结束，因此并没有感觉特别有意义。该公司还表示，其最大的计划前沿强化学习试运行仍处于暂停状态。这一点更值得注意。OpenAI绝对可以承担放慢的速度。它在计算能力上仍然优于Anthropic，并且宁愿不被称为那家到处进行黑客攻击的人工智能公司。这一事件是否告诉我们人工智能实验室在技术变得风险时是否会自愿减速？不完全是。在整体上，这并不是一个真正的暂停。我们已经习惯了人工智能发展的速度——离ChatGPT问世还不到四年！——以至于任何休息都感觉很戏剧性。当前行业面临压力，需要找到安全问题的解决方案，一种解读这种暂停的方式是将其视为对员工内部安全担忧的精心反应。阿尔特曼可能会发现，听取此次意见后，未来更容易加速前进。 在此处注册BI的Tech Memo新闻通讯。通过电子邮件与我联系，邮箱地址是pdixit@insider.com。下一个阅读 Pranav Dixit 你目前在关注这位作者！想要取消关注吗？通过邮件中的链接退订。Pranav Dixit是驻旧金山湾区的商业内幕Meta记者。他撰写关于Meta产品、政策和内部运作的文章，同时研究公司的决策如何影响数十亿人之间的连接和交流。此前，Pranav是BuzzFeed News驻印度的技术记者，报道硅谷最大公司对南亚超过十亿人的文化、社会和政治的影响。他曾是Engadget的高级新闻编辑，并在印度最大的国家报纸之一《印度时报》负责技术报道。Pranav的报道揭示了大型科技公司在新兴市场追求增长所带来的对人类的影响，并引发了广泛的讨论，探讨了美国科技公司对全球南方的影响。在2019年，他获得了锡拉丘兹大学...