Anthropic向公众发布“安全”版本的Claude Mythos AI模型
Anthropic,Claude人工智能(AI)模型的制造商,周二向公众发布了其技术的新版本,同时限制其在敏感领域的使用。这款名为Fable 5的模型是公司最新Mythos系列中首次向公众广泛提供的型号——这是其于四月发布的最先进AI技术阵容,但因网络安全问题限制了数月只供小部分合作机构使用。Anthropic将Fable 5宣传为在编写和调试软件代码、回答复杂研究问题和分析图像方面非常有用。与此同时,Anthropic还向已经获得该模型系列访问权限的公司和组织提供无限制版本Claude Mythos 5,包括参加其Project Glasswing计划的网络安全合作伙伴。这个选定的群体在六月初扩展到约200个来自15个以上国家的组织,并预计将进一步增长。Anthropic因网络安全原因限制对Mythos的访问,考虑到该公司所称其快速识别关键基础设施(包括银行平台和电网)中的漏洞的能力。Project Glasswing启动时,一些批评者指责Anthropic过度夸大威胁以吸引注意。但此后测试Mythos的公司对其能力给予了认可。美国政府——此前与Anthropic有法律纠纷——也对该模型进行了安全问题测试。白宫随后建立了一个安排,以在发布之前测试来自领先AI公司的最强大模型。Mythos 5正在与美国政府合作部署。Anthropic表示,对Fable 5提出的大部分网络安全或生物和化学问题将被转发到较低级别的模型Opus 4.8,该模型在五月底公开发布,并被标称为能力较弱。Anthropic还表示,它已发现大规模尝试提取其技术以训练其他国家竞争AI模型的企图,这类查询也将被转发到较弱的模型。该公司还表示,已雇佣外部专家花费超过1000小时来寻找规避这些限制的方法——这一过程称为红队测试。公司进行了一项漏洞奖励计划,支付人们寻找安全缺陷。Anthropic表示,没有人找到完全解锁模型的方法。这个位于旧金山的初创公司与特朗普政府之间陷入了前所未有的僵局,因其拒绝解除对大规模监视和自主致命武器的限制。在这一争端的影响下,五角大楼终止了与该公司的合同,该公司的AI工具是唯一拥有国防安全许可的工具。Fable 5的发布伴随着高昂的费用——每百万个输入标记10美元,每百万个输出标记50美元,成本是Opus 4.8的两倍。标记是用于AI模型使用定价的单位。程序员的密集编码会话可以在短短几个小时内消耗掉100万个标记。尽管收入呈指数增长,Anthropic仍远未实现盈利,并为计算能力支付高价。它最近开始以每月12.5亿美元的费用从Elon Musk的xAI(SpaceX的一部分)租赁数据中心。这些发布正值AI领域金融市场的激烈兴奋中。Anthropic与竞争对手OpenAI在过去一周宣布已提交IPO计划,而SpaceX预计将在周五打破市场首次公开募股的记录。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡