返回

文章详情

人工智能的安静安全守门人正走向聚光灯下

CNBC2026年10月11日 11:00

与会于2026年9月29日的美國总统唐纳德·特朗普(Donald Trump)在华盛顿特区白宫与科技高管会晤后向媒体发表讲话,安思科技的联合创始人兼首席执行官达里奥·阿莫代(Dario Amodei)在旁观看。图片来源:Kent Nishimura | 法新社 | Getty Images 两个月前,独立评估者在万亿美元的人工智能产业中占据相对冷清的角落。如今,他们被要求出手相救。虽然安思科技和OpenAI是关于它们是否能够同时保护其先进模型并发展其业务的激烈辩论的核心,但这些公司正在寻求Model Evaluation and Threat Research(METR)、Apollo Research和Transluce等少数小型第三方组织的支持。这些评估者大多以非营利性质运营,仍在一个资本以历史水平流入且新模型快速推出的行业中找到立足点。它们的主要角色是评估人工智能模型的能力和风险,并关注技术表现不佳的情况。在缺乏联邦推动条例的情况下,评估者的重要性大大提升。阿莫代上个月承诺将独立评估者纳入他的公司——这一举动得到OpenAI首席执行官山姆·奥特曼(Sam Altman)的迅速支持。特朗普总统和大多数美国大型科技公司也支持这一想法。但关于这些第三方应如何获得资金、他们将拥有何种访问权限以及报告结构最终将是什么样的问题仍然悬而未决。布朗大学的计算机科学教授苏雷什·文卡塔苏布拉马尼亚(Suresh Venkatasubramanian)在接受CNBC采访时表示:“在某种程度上,问题一如既往是资金。谁来支付这些公司开展工作的费用?他们将如何支持它们?你需要一个生态系统,你需要一个可行的商业模式。”目前,安思科技、OpenAI和从人工智能繁荣中获利的基础设施合作伙伴正在制定规则。批评人士表示,这就像要求最大的银行保护我们免受金融危机,或者允许制药公司在没有监管许可的情况下将药物推向市场。特朗普最近称赞人工智能高管的“巨大自我监管”,并表示他打算让公司自行处理,不愿妨碍推动经济和股市增长的行业的发展。在九月底,他鼓励人工智能公司“与独立外部审计师或评估者合作”,这是他提出的自愿协议的一部分。观看现在 这是一场阿莫代上个月在其病毒式文章中发起的对话,当时他呼吁在先进模型开发中采取“更慢的速度”,因为研究人员离开了他的公司,并表达了对技术存在的生存威胁的担忧。随着人工智能实验室开始实施评估者,摩擦已经开始显现。上周,OpenAI解雇了三名员工,原因是“违反了我们关于访问和处理敏感公司信息的政策”,根据公司发言人的说法。被解雇的员工中有两名——米基塔·巴列斯尼(Mikita Balesni)和托迈克·科尔巴克(Tomek Korbak)表示,他们相信自己是因为与第三方评估者的沟通而被解雇的。“我以前的同事告诉我,他们对该相信什么感到困惑,”巴列斯尼在周四的一条X上的帖子中写道。“他们还害怕发言,担心他们的个人手机会被搜索与我们和第三方的消息。我担心普遍的害怕发声和与第三方接触会导致OpenAI在闭门内削弱安全。”OpenAI对此说法表示异议,并在周五的一篇帖子中声明,它“正在积极敲定与第三方安全评估者的合同,并将于接下来的几周内宣布细节。”OpenAI写道:“我们致力于嵌入外部评估者,并继续将与独立安全组织的紧密合作作为我们安全工作的核心部分。”OpenAI的一位发言人在一封电子邮件声明中表示,其即将与评估者的合作“基于与独立安全组织的现有合作关系”,包括METR和Redwood Research。安思科技未对CNBC的置评请求作出回应。 '我从未见过如此快速发展的议题' 人工智能评估者生态系统大多由小型组织组成,包括METR和Apollo Research,以及像埃森哲(Accenture)这样的较大会计和审计公司。人工智能实验室一直在以有限的能力与评估者合作,但政策非营利组织Fathom的首席执行官安德鲁·弗里德曼(Andrew Freedman)表示,该领域正在迅速成熟。“我在过去20年的生活中从事政治和政策工作,从未见过如此多不同政治光谱上如此快速发展的议题。”弗里德曼在接受CNBC采访时表示。他预计将会有“资金涌入”这个生态系统。独立评估者Vals AI的首席执行官拉扬·克里希南(Rayan Krishnan)表示,他的营利性初创公司正在建立ben

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡