OpenAI发起全面努力修复开源软件漏洞,挑战Anthropic的Mythos
随着对AI黑客能力的恐惧加剧,OpenAI周一发布了一系列以网络安全为重点的公告,包括改进版的安全专业模型GPT-5.5-Cyber,扩大与各国政府及其他机构的国际合作,以便为他们提供对公司最新网络安全模型的“可信访问”,并将其Codex安全扫描器发布为应用插件。随着AI行业的进步使得重要开源项目面临被淘汰的风险,OpenAI还宣布推出名为“修复地球”的项目,与著名的研究型安全公司Trail of Bits以及漏洞管理公司HackerOne和Calif合作。该项目已开始为开源维护者提供免费的安全咨询服务,不仅帮助他们发现和修复漏洞,还支持他们强化代码基础,整合AI安全工具到开发过程中。其目的是为尽可能多的开源项目提供个性化支持,以可持续的方式改善它们的当前安全性和长期韧性。“修复地球是一个网络规模的努力,旨在帮助开源软件超越AI漏洞挖掘工具,”Trail of Bits首席执行官兼创始人Dan Guido表示。“但这也是一项努力,帮助开源社区看到AI编码工具的好处,而不仅仅是其缺点。”开源开发人员通常是志愿者,用有限的资源维持关键和广泛使用的软件,他们通常已经难以跟上漏洞报告。最近几个月AI漏洞狩猎的兴起使得许多维护者感到积压的问题难以应对,因为生成的报告堆积,优先处理的难度加大,原本有限的时间和注意力被转移到了关键缺陷上。维护者“出于对开源的热爱而工作,现在却不得不审查凌乱的CVE报告,”OpenAI的网络技术负责人Fouad Matin表示。关于“修复地球”,他说:“我们所做的就是尽可能从代币的角度提高效率,以减轻维护者的负担——代码基础评估、验证潜在报告、创建补丁以及部署它们。我们希望抵消成本,无论是代币还是人力,以尽可能地修补软件的世界。”Matin补充说,对于其Codex安全扫描器,该工具自今年早些时候进入研究预览,OpenAI已为开源和私人代码的使用提供了补贴,“高达20万亿代币。”目前已有超过30个开源项目参与“修复地球”,还有更多项目在准备中。为启动该项目,Trail of Bits最近进行了为期五天的启动冲刺,安排了25名工程师,约占其员工总数的五分之一,同时与多个维护者合作。OpenAI和Trail of Bits表示,该项目在首周内已经发现了数百个漏洞并生成了数十个补丁。Guido表示,在OpenAI的资金支持以及不受限制的模型访问下,Trail of Bits计划长期继续对“修复地球”工作的强烈承诺。“我们很少有机会处理大规模的开源安全问题,”Guido表示。“‘修复地球’并不是一刀切的。我们与每个项目的所有维护者进行沟通,找出他们的最高优先事项,无论是构建更好的测试基础设施、自定义模糊测试器,还是清理项目中的技术数据,因为这将使它们更快地工作、运营和修补。”OpenAI周一的公告正值其竞争对手Anthropic在本月初因特朗普政府对AI网络安全能力的担忧而撤回其新发布的Fable 5和Mythos 5模型。白宫对OpenAI施加出口管制的决定是在Anthropic公开发布具有阻止其先进生物和网络安全能力的Mythos级Fable 5之后,该保护措施被政府担心不够充分。OpenAI于周一宣布的内容,包括新的GPT-5.5-Cyber检查点,都是该公司有限的“网络信任访问”程序的一部分,并不涉及公开发布。但随着Anthropic和OpenAI都在为首次公开募股做准备,竞争显然仍在继续,不论当前市场上的产品如何。例如,在其GPT-5.5-Cyber公告中,OpenAI指出该模型在被称为CyberGym的基准评估中得分85.6%,较之前版本有了改善,表现也超过了Anthropic的Mythos 5,后者得分为83.8%。在这场AI网络安全竞赛中,五眼情报联盟也在密切关注。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡