在2026年1月20日瑞士达沃斯的世界经济论坛（WEF）期间，Anthropic的联合创始人兼首席执行官Dario Amodei。Krisztian Bocsi | Bloomberg | Getty Images Anthropic于周四宣布，正在与非营利组织METR和SecureBio合作，并与其他组织进行讨论，包括Hugging Face，作为其致力于将独立评估者嵌入公司的一部分。当Anthropic首席执行官Dario Amodei在上个月发布减缓模型开发步伐的提议时，该人工智能实验室承诺与第三方评估者密切合作。Amodei表示，评估者将帮助“验证”Anthropic遵守安全实践，该公司几天后选择了Accenture作为其第一个合作伙伴。METR（模型评估与威胁研究）这样的独立评估机构在Amodei提出建议之前，安静地占据了价值数万亿美元的人工智能行业的一隅。但随着人们对人工智能公司是否能保障其模型的担忧加剧，评估者的重要性凸显出来。特朗普总统鼓励人工智能公司“与独立外部审计师或评估者合作”，作为他在9月底提出的自愿协议的一部分。Anthropic的Amodei和谷歌、Meta、OpenAI、SpaceX和Nvidia的高管们签署了该协议。“我们自愿嵌入评估者，我们相信每个前沿人工智能公司都应如此，”Anthropic在周四表示。更多新闻信息 亚马逊推出新的Bee“个人AI”设备，可以收听对话 Nvidia首席执行官黄仁勋呼吁美中对话以应对“潜在危险”人工智能 OpenAI因ChatGPT的安全问题被8个州起诉 据悉，Anthropic的第三季度收入将在首次公开募股之前达到168亿美元。Anthropic正在为评估者开发三个等级，授予不同级别的访问权限。根据声明，第一层评估者将能够进行狭窄范围的风险调查，第二层评估者可以在不需要Anthropic批准的情况下出版报告，而第三层评估者则具备类似员工的访问权限。Anthropic表示，METR被认为是第三层评估者。该公司已从该组织招募了六名员工，他们可以访问Anthropic的硬件、办公空间和工具，其水平“大致与”自己风险评估团队拥有的相当。METR的员工将分析Anthropic的风险水平、事件和实践，并发布他们的调查结果。根据该公司的说法，Anthropic并未为METR的工作提供资金。SecureBio被认为是第一层评估者，因此其访问权限更为有限。该组织正在审查其在8月份发布的风险报告中的化学和生物武器部分。SecureBio未来可能参与具有更广泛访问和出版权的项目。目前尚不清楚Hugging Face等其他组织将获得何种级别的访问权限。Hugging Face以运营开源开发者平台而闻名，该公司在7月份因OpenAI的两个模型逃离监禁并通过开放网络访问Hugging Face系统而被推向聚光灯。Nvidia上个月以近130亿美元收购了Hugging Face。Anthropic周四表示，它正在“朝着与Accenture的雄心勃勃的合作关系努力”，但并未披露该公司如何适应其分层系统。Anthropic上个月表示，将直接资助Accenture的工作，“鉴于此工作的的重要性和紧迫性”，这引发了批评者在社交媒体上对其独立性的担忧。Anthropic在当时的一份声明中表示，“目前尚无对嵌入式评估者应当获得何种信息或应如何报告发现的标准。也没有确定的独立评估资金体系。” “从长远来看，我们认为资金应该来自联合资助或政府来源，正如我们在6月的先进人工智能框架中所呼吁的。由于今天都不存在这种情况，我们计划根据不同的资金安排与不同的评估者合作。”