特朗普官员与Anthropic会面讨论停火
Anthropic的首席执行官Dario Amodei。切斯诺特/美联社报道,Anthropic员工星期一与特朗普政府的高级官员进行了首次面对面的会议,原因是联邦实施的出口禁令迫使这家人工智能初创公司在周五晚上将其最新模型从市场上撤回,两位政府官员、一位知情人士和一位接近公司的消息人士告诉POLITICO,后者和Business Insider一样,属于Axel Springer全球记者网络。白宫的一位高级官员表示,解决问题可能需要比几天更长的时间,以缓解联邦政府周五的行动,该行动禁止Anthropic允许非美国用户访问其最新模型,原因是潜在的安全漏洞。但是,这位官员表示仍有可能迅速解决。"那要看Anthropic的情况,"该官员说。由于Anthropic联合创始人汤姆·布朗、商务部长霍华德·卢特尼克和国家网络主任肖恩·凯恩克罗斯在周末进行了多次数小时的电话会议,Anthropic迅速派出具有研究和安全专业知识的高级领导人前往华盛顿,相关官员表示。这位知情人士还表示,Anthropic公共政策负责人莎拉·赫克也参与了这些电话会议。星期一,由商务部和凯恩克罗斯办公室主持的面对面会议更加技术性,由包括负责商务部门人工智能标准和创新中心的克里斯·法尔在内的工作人员主导。Anthropic向政府官员进行了介绍,解释了Anthropic的网络安全保障措施,希望能够绕过限制,这位行政官员说。参与的Anthropic代表包括负责评估和压力测试模型的Logan Graham,公司的安全保障负责人Dave Orr,以及首席安全研究员Nicholas Carlini,一位接近Anthropic的人士表示。出口限制是政府试图监管人工智能行业的最大升级,这一行业的发展速度超过了政府在这项开创性技术周围的基础设施。这也是白宫首次强迫一家公司将模型从公共访问中移除,但只是政府与Anthropic之间关于潜在灾难性人工智能风险的道德限制的一系列争执中的最新一例。自周五晚上宣布限制以来,Anthropic为其安全保障辩护。"这些漏洞看起来都相对简单,我们发现其他公开可用的模型也能发现这些漏洞,而无需旁路,"它在一篇博客文章中写道。在政府实施出口限制之前,财政部长斯科特·贝森特在与Anthropic首席执行官Dario Amodei的讨论中发挥了主导作用,在周末时参与较少,财政部没有参与星期一的面对面会议。由于卢特尼克负责监督国家出口政策,总统提前找他协助,周末时他参与得较多,知情人士表示。卢特尼克和贝森特都与总统乘坐空军一号前往法国参加从星期一到星期三举行的G7会议。出口管制禁止Anthropic允许外国公民使用其最新模型Fable 5,实际上迫使该公司完全撤回模型以符合规定,这家公司在周五晚上表示。这一升级是在Anthropic和政府之间因Fable的安全问题发生分歧之后而来,亚马逊是Anthropic的主要投资者,在上周晚些时候向白宫提出了这一问题,POLITICO之前已报道。亚马逊报告称发现了一种绕过Anthropic在Fable上设置的安全防护的方法,这是一款设计成比该公司高度先进的模型Mythos弱小的期待已久的模型。由于Mythos能够比任何人类更快地利用网络漏洞,Anthropic仅允许一小部分公司获得Mythos的使用权。Fable的表现与Mythos相近,但配备了内置的安全措施,以防止用户指使其进行网络攻击或详细说明如何制造生物武器,该公司表示。亚马逊的发现上报给了白宫和国家安全局,促使凯恩克罗斯、贝森特等人要求Anthropic停止对Fable的访问。由于Anthropic不同意,反而认为安全漏洞是小问题,而不是允许人们将其用于网络攻击的更大所谓的“越狱”,政府实施了出口管制,该公司表示这迫使它采取行动。在周末,近80名技术专家和首席执行官写了一封公开信给政府,敦促官员撤销出口限制。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡