Anthropic与特朗普政府就Mythos争议会面
现在观看 高级Anthropic工作人员周一在华盛顿特区与特朗普政府官员会面,试图解决该人工智能公司与美国政府之间最新的高调争议,据接近该公司的消息人士称。Anthropic在周五收到了一项出口管制指令,其中提到“国家安全当局”,命令该公司暂停任何外国国籍(无论是在美国境内还是境外)访问其最新的AI模型Fable 5和Mythos 5,相关声明指出。为了确保遵守该指令,这家AI初创公司已禁用所有客户对这些模型的访问。这一意外举动标志着Anthropic与政府关系的最新变化,此前该公司与国防部的冲突在今年年初升级。国防部在三月份将Anthropic标记为供应链风险,这禁止了国防承包商使用该公司的技术,因为它被认为威胁到美国的国家安全。国防部长皮特·赫格塞斯在周六的X平台上对政府的最新指令进行了回应,写道“每过去一天”都证明了将Anthropic列入黑名单是“正确的决定”。Anthropic已对特朗普政府提起诉讼,试图推翻供应链风险的判定,相关诉讼仍在进行中。了解更多 CNBC科技新闻 贝索斯在募资120亿美元后谈论AI初创公司Prometheus:“我们并没有保密” DoorDash允许客户使用照片和提示来订购食物和预订,这在最新的AI推动中实现 随着OpenAI向企业业务倾斜,苹果和谷歌将目标瞄准大众 Palantir的卡普表示,企业对前沿AI实验室“感到不满” Anthropic在周二推出了Fable 5和Mythos 5,恰在收到政府出口管制指令几天前。根据一位要求匿名以讨论机密事务的人士透露,该公司与政府机构合作,测试这些模型并获得了部署它们的批准。政府在周五东部时间下午1:00联系了Anthropic,指示该公司因未指明的国家安全威胁禁用Fable 5和Mythos 5,这位知情人士如是说。Anthropic在东部时间下午5:30左右收到了正式信函,要求该公司暂停使用这些模型。这位知情人士指出,在周五指令到达之前,Anthropic没有收到有关国家安全威胁的任何沟通。Fable 5和Mythos 5建立在Anthropic的Claude Mythos预览之上,这是一个在识别软件中的安全漏洞方面表现优异的强大模型。Anthropic在一个名为Project Glasswing的网络安全倡议下,限制了这些模型的推出,仅向选定公司的发布,从而赢得了一些来自特朗普政府的善意,该政府与该公司就模型的能力举行了几次会议。Anthropic将Fable 5和Mythos 5宣传为在许多行业基准测试中表现优秀的尖端模型。Mythos 5仍然限于选定用户,但Anthropic已向企业客户和付费订阅者提供Fable 5。该公司表示,由于新安全措施的实施,可以阻止在特定高风险领域(包括网络安全和生物学)产生的回应,因此可以进行广泛发布。在周五的声明中,Anthropic表示,他们认为政府的关切在于“潜在狭窄的、非通用的越狱”,而用户可能绕过网络安全保护措施,要求Fable 5“阅读特定的代码库并修复任何软件缺陷”。“我们不同意认为发现了一个潜在的狭窄越狱的结论应导致召回已部署给数亿人的商业模型,”Anthropic表示。“如果这一标准在整个行业中被应用,我们认为这将基本上停止所有前沿模型提供商的新模型部署。”Anthropic表示,他们相信这一争议是“误解”,并且正在努力尽快恢复访问。观看:Anthropic在发布几天后响应政府指令禁用了新的Mythos级模型
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡