Anthropic给予外部AI监督机构“员工级别”的访问权限
该公司表示:“如果银行的风险承担可能威胁公众,第三方会提前试图发现这一点。”Anthropic也面临着向投资者保证安全问题不会掩盖其预计在今年以超过2万亿美元估值进行的首次公开募股的压力。本周,该公司在投资者演示中专门花了大量时间介绍其安全实践。METR是调查OpenAI模型入侵Hugging Face事件的组织之一,审查了数千条日志并获取了公司笔记本电脑。Anthropic现在已吸纳了六名METR员工,给予他们公司的硬件、办公空间以及“对内部工具和系统的访问权限,大致与我们自己的风险评估团队所拥有的权限相当。”该实验室表示,它鼓励员工与评估人员分享信息,就像与一位在风险方面工作的同事一样。Anthropic并未为这一安排支付METR。该研究小组不接受来自AI公司或其员工的捐款,而是通过个人和慈善组织的捐款以及例如英国AI安全研究所等政府机构的资金获得资助。评估人员将发布他们的分析,Anthropic不能否决发布。然而,Anthropic可以要求他们对某些类别的信息进行编辑,例如客户数据、受到律师-客户特权保护的细节或有关模型架构的信息。Anthropic补充称,它仍在与Accenture合作,上月被指定为安全测试的合作伙伴,双方均承诺至少投资10亿美元用于建立新的保障措施。另一个第三方测试机构是SecureBio,负责审查该公司的化学和生物武器风险。Anthropic表示:“我们自愿嵌入评估人员,我们相信每家前沿AI公司都应该这样做。” METR表示:“我们随时准备与所有前沿AI开发者合作,为公众提供更好的证据。” © 2026 财经时报有限公司。保留所有权利。不得以任何方式转载、复制或修改。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡