
谁来决定人工智能何时太危险?
在今天的《解码器》节目中,我的嘉宾是《边缘》高级人工智能记者海登·菲尔德。海登每次来节目时,通常都是因为人工智能领域发生了什么问题。上个周末,那就是一个相当激烈的安索普、特朗普政府与安索普的新AI模型Fable 5的混合。上周五,安索普刚刚向公众发布Fable不到一周,美国政府表示将对这个新模型以及Fable所基于的基础模型Mythos实施出口管制。这些管制限制了外国国籍人员,即使他们在美国为安索普工作,也无法访问这些模型。随后,安索普为了担心无法合理限制访问及遵守命令,决定将Fable和Mythos下线。可以想象,这一切都是一个巨大的混乱。海登实际上刚刚在《边缘》上发布了一篇关于上周五的事件详细报道,以及双方在整个周末的挣扎,试图弄清楚究竟发生了什么,以及如何解决。 所以我希望她能来,带我回顾一下时间线以及这到底意味着什么。《边缘》的订阅者,请记得您可以在任何播客平台上独享无广告的《解码器》。请点击这里。还不是订阅者吗?您可以在这里注册。 这个情况仍在持续。截至我们录制本集节目的周二,Fable依然处于离线状态——事实上,如果您启动Claude,它会在聊天窗口上方告诉您“Fable 5当前不可用。”然而,如您将听到的,海登会解释,无论Fable本周是否恢复在线,政府与安索普的 feud 将对技术行业及美国的人工智能监管体制产生深远的影响。这里还有一个很大的讽刺,您也会听到海登和我对此进行讨论:安索普多年来一直在争论人工智能可能很快强大到足以变得危险——政府需要尽早认真对待人工智能的监管。现在……我们正是面临这样的局面,而安索普并不喜欢这种局面的发展。现在,所有人——也许尤其是中国政府——都在关注美国的人工智能监管方式,看看是否会形成一个严肃的安全框架,或者它是否仅仅是白宫用来对付那些不屈服于特朗普政府的公司和个人的另一种武器。正如我所说,这真是一团糟。好的:《边缘》高级人工智能记者海登·菲尔德谈论Claude Fable禁令和新的人工智能监管格局。我们开始吧。这个记录本经过轻微编辑以便于长度和清晰度。海登·菲尔德,你是《边缘》的高级人工智能记者。欢迎回到《解码器》。谢谢,能在这里真是太好了。每次你在这里的时候,总是一团糟,海登。这是我发现的规律。确实如此。我依然相信我的规律,总是发生在周五。事情总是在周五出问题,这次也不例外。尤其是在政府对AI进行监管的时候,真的有一种“如果周五一切都失控,那我们周末都得考虑这个”的感觉。我认为这种情况在整个特朗普政府任期内基本都是如此。在周一要立即恢复所有事情的混乱,确实是这样。是的,没错。这太疯狂了。这周末进行的所有谈话到周一仍没有达成解决方案,让我感到惊讶,但确实发生了很多戏剧性的事情。好吧,这个播客将在星期四发布。我们是在星期二录制的。我们将在接下来的两天里看看会发生什么。但我认为,关于美国政府应该如何监管AI以及这对美国AI公司在国际舞台上的意义这一大局仍然开放。我并不认为这会通过Fable的任何进展来解决。让我们试图理解整个故事,然后从中提取出这些主题,因为我认为每当发布新的模型时,它们都会一次又一次地回响。那么,让我们从头开始。什么是Claude Mythos?什么是Fable?它们之间如何关联?好问题。大约一周前,我曾问安索普这个问题。因为人工智能公司在命名方面真的很糟糕,总是非常令人困惑。情况是,Mythos是支持Mythos 5和Fable 5的基础模型。Fable是一个新模型。它们并没有Fable 1、2、3或4。他们直接就开始了Fable 5,真是令人困惑。但Fable是Mythos 5的简化版或保护版。当他们在四月发布Mythos Preview时,安索普一直在大力宣传,说这是一个潜在的网络武器。它绝对不能发布给公众,至少在安全措施赶上之前。我们只会将其发布给企业和政府,或者他们称之为“网络防御者”。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡