人类公司要求监管,华盛顿走得更远
观看现在,人类公司长期以来推动监管的努力开始反噬自己。这家估值接近1万亿美元的人工智能公司花了多年时间宣扬其对安全的承诺。但今年第二次,人类公司发现自己卷入特朗普政府的制裁之中,这次主要是出于对其最新模型安全性的担忧。在上周五晚些时候,SpaceX完成首次交易的几个小时后,人类公司表示收到了出口管制指令,要求公司暂停“任何外国公民(无论是在美国境内还是境外,包括外国人类公司的员工)”访问最新的Claude模型,Fable 5和Mythos 5。管理部门援引了“国家安全机构”,但人类公司表示并没有明确说明其担忧。这项指令是在人类公司首席执行官达里奥·阿莫代伊(Dario Amodei)发布一篇倡导对人工智能进行更“严肃和具有约束力的监管”的文章后仅几天,文章中提到如果模型被认为不安全,应该有能力阻止这些模型的发布。阿莫代伊写道:“像飞机这样的前沿人工智能模型,应该被要求经过技术测试和审计,如果它们未能达到高安全标准,其发布应该被阻止或撤回,以保护公众安全。”这是人类公司鼓励政府加强对快速发展的人工智能行业监管的最新公开声明。自2021年从OpenAI分拆成立人类以来,阿莫代伊及其高管一直坚定主张人工智能监管,并支持州和联邦层面的立法。公司赞扬特朗普总统本月签署的一项人工智能行政命令,称之为“一项重要步骤”。观看现在,但周五的行动并不是人类公司所设想的监管。公司表示,对特朗普政府的调查结果表示不同意见,并将此扰动称为“误解”。“正如我们公开声明的,我们认为政府应该有能力阻止不安全的部署,这应该是一个透明、公平、清晰且基于技术事实的法定程序的一部分,”人类公司在博客中表示。“这一行动并未遵循这些原则。”高级人类公司员工在周一飞往华盛顿特区,与特朗普政府成员会面。公司对CNBC表示,“双方都在快速努力解决此事。”人类公司并未说明其模型何时会重新上线。特朗普的行政命令是在针对人类公司的指令前10天发布的,具体细节不多。它要求公司自愿将模型提供给联邦政府,以评估其能力,为全面发布做准备。该命令还给予管理官员60天时间来制定和维护相关的审查框架,以供人工智能公司参考。没有迹象表明强迫暂停人类公司最新模型的措施与行政命令有关。相反,据《华尔街日报》报道,此举是由于亚马逊首席执行官安迪·贾西(Andy Jassy)与美国官员(包括财政部长斯科特·贝森特)之间的对话所推动的。《华尔街日报》引述熟悉此事的消息人士称,贾西告诉政府,亚马逊的研究人员利用一系列提示让Fable 5提供可能帮助网络攻击的信息。虽然总统的行政命令呼吁自愿遵守,但周五的指令则显示出很不同的语气,新的美国安全中心的高级研究员丹尼尔·雷姆勒(Daniel Remler)说道。“如果不按照政府的指示行事将会有后果,这看起来肯定是强制性的,”雷姆勒在接受CNBC采访时表示。人类公司共同创始人兼首席执行官达里奥·阿莫代伊在2025年9月4日的Inbound 2025大会上,在旧金山莫斯科尼中心的人工智能小组上发言。Fable 5和Mythos 5是基于Claude Mythos Preview于4月发布的强大产品,该产品在识别软件中的安全漏洞方面表现出色。人类公司将发布限制在一小部分公司,作为名为Project Glasswing的网络安全计划的一部分。Mythos 5仍然仅限于一小部分用户,但人类公司已将Fable 5开放给企业客户和付费订阅者。该公司表示,由于新的安全措施可以在特定高风险领域(包括网络安全和生物学)阻止回应,广泛发布成为可能。人类公司与政府机构合作,在发布前测试模型并获得批准进行部署,根据一位要求匿名以讨论机密事务的知情者的说法。该知情者表示,政府并未就国家安全威胁进行沟通。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡