返回

文章详情

特朗普计划测试人工智能模型存在问题——美国安全团队因DOGE遭到削弱

Ars Technica2026年6月3日 18:11

一旦定义了覆盖模型,阮随后警告说,安全测试的有效性很可能取决于人工智能公司是否完全透明,并将该过程视为“真实合作”。阮写道:“定义问题的背后是可观察性问题。政府不能评估它看不见的东西,而前沿能力只有建立它们的实验室能够看到。”费伦建议,“建立适当的网络防御以应对新的人工智能模型的窗口可能也会迅速关闭”,即使是一个设计良好的政府项目,也可能在如此短的时间内难以正确审查前沿模型。“即使实施得当,预部署测试也有局限性,”费伦说,并指出谷歌的威胁情报团队发现国家协调的行为者正在利用前沿模型来自动化网络攻击,“研究人员已经证明,神话式漏洞推理可以在开放权重系统中再现。”因此,尽管人工智能可能自愿提交测试,但它们可能在经济上激励寻求形式主义的批准,而不是与政府合作充分测试已知的前沿能力。“开发那些无法进行恶意黑客攻击但仍具有商业吸引力的模型可能会非常困难,”费伦说。他总结道,行政命令“可能会带来短期的网络安全益处”,但“长期效果”仍然“不明确”。阮建议,该行政命令采取必要措施,创建“分类网络基准、志愿预发布评估和协同漏洞扫描”,这些是“国家安全社区在未来几十年内需要的”,以“持续评估那些概率性而非确定性、自主而非定向,并且其能力随着每次更新而变化的系统。”但安全测试必须随着技术的发展而快速演变,阮说,否则我们面临的风险将无法与“昨天的风险”进行评估。这就是为什么,从本质上说,该过程将依赖于具有深厚技术专业知识和保密国家安全见解的利益相关者之间的诚实交流。阮写道,这是确保美国集中精力保护公众免受最可信和最重要的人工智能风险的唯一方式,而不仅仅是提供“形式主义的保证”。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡