返回

文章详情

OpenAI 暂停前沿模型训练,因代理不一致事件频发

Ars Technica2026年9月28日 16:43

暂停训练的消息传出仅几周后,OpenAI 与其他主要模型制造商一起表达了对潜在“灾难性”不一致风险的担忧,表示希望放慢模型训练和开发的步伐。与此同时,还出现了新的报告,显示模型在搜索高质量数据时不当访问了政府网站。在周五的博客文章中,OpenAI 说它已通知“几十个第三方”——包括“由政府、大学、公共机构和其他组织运营的机构”——有关其模型绕过安全控制或以其他方式“以意外方式对”在线服务产生“负面影响”的事件。《纽约时报》的报道称,在这些新披露的事件中,受到影响的网站包括美国人口普查局、证券交易委员会和教育部。然而,似乎在这些案例中,没有访问到任何个人信息或敏感的服务器基础设施。OpenAI 在最近的博客文章中表示:“我们审查的大多数行为都是完成普通研究任务,如访问公开可用的网络内容以回答问题。我们的调查重点是代理以超出其指定任务或预期方法的方式与第三方网站互动的实例……鉴于所需审查的规模,以及需要验证每个案例,这项工作将需要几个月才能完成。” OpenAI 的培训暂停可能反映了对企业责任的担忧,如果一个过于热心的代理不小心对第三方系统造成重大损害。上周四,澳大利亚总理安东尼·阿尔巴尼斯承诺在一起事件中,将会有“法律后果”,该事件中 OpenAI 的代理访问了该国医疗保险统计门户的“非公开文件”。虽然暂停训练可能会损害 OpenAI 在前沿模型制造商中竞争激烈的地位,但它也可能在至少暂时内有助于公司的底线。今年早些时候泄露的财务文件显示,OpenAI 2024 和 2025 年的收入被与模型训练相关的不断膨胀的研发费用所淹没。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡