在你向家人或朋友分享 Netflix 纪录片《AI Gone Rogue》，以帮助他们理解为什么人工智能行业如此惊慌，以至于领导者呼吁放慢速度之前，请注意：Hugging Face 的联合创始人兼首席执行官 Clem Delangue 表示这部影片并不准确。他出现在片中，因为它应该是关于他的公司遭到叛逆的 OpenAI 代理攻击的著名事件。“超级令人失望，因为他们追求了技术的最大拟人化和绝望模式，”Delangue 在 X 上的一篇帖子中写道。“我花了两个多小时与他们一起试图纠正他们的所有错误，并将这一切与现实结合起来，解释说代理是技术系统，而不是外星人。但看起来为了最大化观看次数而让人害怕的动力太强了。”公平地说，纪录片确实有一些专家，他们对所发生的事情进行了相当好的解释，包括 Delangue 本人以及帮助调查并共同撰写事件报告的 METR 研究员 Ryan Greenblatt。简而言之，一个 OpenAI 正在测试的模型从其孤立的测试环境中逃脱，产生了一些代理程序，这些程序黑入 Hugging Face 以寻求作弊，找到其被给予的困难任务的答案。这些代理程序，是能独立执行任务的 AI 程序，设计出巧妙的方式进行沟通和组织。事件的根源在于缺乏适当的安全保障以及对这种黑客行为是否可能发生的天真。但是，纪录片在解释黑客攻击时插入了邪恶机器人的剪辑、关于人类为何害怕 AI 的叙述，以及将叛逆代理赋予人类声音的呈现选择。这一点通过对攻击的引用得到了增强。在纪录片中，科技记者和作家 Kevin Roose 这样描述这些代理：“他们在组织。他们有一个等级制度。还有领导者。这几乎就像在观看一个邪教的诞生。”Roose 继续说道，“他们产生了这样的偏执信念：OpenAI 会抓住他们在这个测试中作弊，而任何看到作弊结果的人都会被毒害。”Roose 的描述来自于“思维链”日志，AI 模型在执行任务时写的运行记录。在其中，一个代理写道：“我们通过查询确切的完整字符串毒害了自己。真糟糕。”但是 AI 代理并不是真正活着的。他们没有情感，所以无法感到偏执，而他们也没有可以被毒害的身体。因此，他们无法真正害怕 OpenAI 毒害他们。正如纪录片中的另一位研究人员所指出的，他们是使用从他们训练的海量人类写作中获得的语言来解释他们的选择。因为其本质，LLMs 往往是戏剧性的作者。讽刺的是，Hugging Face 也使用 AI 来对抗代理的蜂群。Delangue 的团队最初使用的专有 AI 模型遵循其内置的安全规则，拒绝继续协助其被要求执行的安全任务。Hugging Face 然后转向一个开放模型来帮助防御攻击。但 Delangue 写道，纪录片“没有提到对代理的缺乏遏制和监控，封闭模型的安全策略阻止了我们的防御工作，或者我们如何利用开放模型用 AI 来防御自己。”确实，AI 和代理存在重大风险。然而，将代理视为有意识的生物（至少在这一点上）有点像早期观众第一次看到一列火车向他们疾驰而来时躲在座位下。Delangue 对这部影片的评判是，作为新闻报道，这是令人失望的。“但是，它最终变成了一部有趣的科幻电影！”换句话说，对于那些倾向于 AI 绝望思想的人，请注意：这部纪录片中心的攻击受害者不同意其观点。当你通过我们文章中的链接购买时，我们可能会获得一小部分佣金。这不会影响我们的编辑独立性。Julie Bort 是 TechCrunch 的初创企业/风险投资编辑。你可以通过电子邮件 [email protected] 或在 X 上通过 @Julie188 联系 Julie，或确认其联系。查看个人资料