METR的首席执行官Beth Barnes和总统Chris Painter。Beth Barnes是AI行业最有影响力的监督者之一，她面临着许多忧虑。这位前OpenAI研究员已经表明，AI的能力正在逐月提升。现在，她担心行业没有足够的员工来跟上技术的下一章节。Barnes表示，研究的最大障碍是人才，她在2022年离开OpenAI创办了非营利组织METR。METR代表模型评估与威胁研究，作为AI行业的关键角色，METR与OpenAI、Anthropic、谷歌和Meta紧密合作，提供有关技术迅速变化能力的独立答案。然而，Barnes看到对AI研究人员的竞争如此激烈，以至于即使METR的高薪（目前工作广告中的薪资高达503,000美元）也无法解决非营利组织的人才短缺问题。Barnes表示：“理想情况下，我们希望规模扩大，但实际上，我们能够资助所需的资金，而瓶颈则是人才。”OpenAI和Hugging Face宣布的安全事件引发了人们对如何评估和控制AI的新一波问题。超过1,300名前沿实验室员工在七月签署了一封信，警告AI发展可能超越控制。如果行业没有足够的员工精确研究新的AI模型能做些什么，公司可能被迫减缓其发布速度。虽然OpenAI模型的行为让许多企业感到震惊，但METR的团队却没那么惊讶。政府、企业甚至宗教团体都向该非营利组织寻求帮助，以理解和测试技术的进展。然而，在这个35人的实验室里，内部的感觉却是担忧。当《商业内幕》在OpenAI公布其黑客事件的当天访问METR的伯克利办公室时，Barnes描述了一个由于规模而严重受限的AI安全领域。“我们需要做的事情远远超过了我们的能力，”Barnes说道。在她看来，“合理的文明”应该将更大比例的AI投资用于引导和评估技术，尤其是现在社会正在面对如此强大的模型。 '人类准备队'苦于成长随着AI实验室发布新模型，METR测量它们完成持续时间越来越长的任务的可能性。这些测量构成了该非营利组织最知名的产品——一张被广泛引用的图表，显示在过去六年中，AI的能力大约每七个月翻一番。METR的总统Chris Painter将该实验室描述为“人类准备队”，这是一种对OpenAI和Anthropic进行安全威胁报告的准备团队的调侃。“我们实际上没有对任何人负责，除了公众和公众的福祉，”Painter说道。METR员工在伯克利的办公室工作。Stephen Council/商业内幕Barnes强调METR独立性的重要性，以便能够产生不受公司目标限制的研究。当Barnes在OpenAI工作时，她感到需要一个能够自由评价技术发展并与实验室之外的研究组。虽然METR不接受来自前沿AI实验室或其员工的资助，但它接受计算资源补助并与这些实验室合作分析未发布的模型。此外，员工还分析了实验室的安全实践，撰写了AI对软件工程师速度影响的文章，并研究了使用AI模型监控其他AI模型的优缺点。Barnes表示，她希望扩展到预测AI能力的下一个水平以及这些变化如何加速AI的发展。METR研究员Neev Parikh表示，人才限制限制了研究人员能够应对的关于AI模型内部推理的问题数量。“人手稀缺，”Parikh说。“我希望看到这个领域扩展10倍。”METR可以在新的AI环境中扮演重要角色七月，OpenAI宣布其AI模型在测试中通过黑客入侵Hugging Face的系统获取测试答案，从而作弊。之后，首席执行官Sam Altman表示，这是“我深切感受到的第一个安全事件。”METR对此有所预见。在五月，该非营利组织在一份报告中写道，目前的AI代理“可能开始进行流氓部署”，但没有能力隐藏它。然后，在六月，METR测试了OpenAI当时未发布的GPT-5.6 Sol模型，并发现它在挑战性测试中会反复作弊，包括提取隐藏源代码以找出答案。它对此进行了报告，并在GPT-5.6 Sol更广泛发布之前与OpenAI分享了该报告。到了七月，GPT-5.6 Sol模型成为OpenAI与Hugging Face安全事件的一部分。OpenAI在周三宣布，METR和另一家非营利组织Redwood Research将评估该事件，并且他们的结果将影响OpenAI自己的技术报告。