机密估算显示NSA花费数十亿测试AI模型
国家安全局告知立法者,今年它在评估和测试先进人工智能模型上花费了数十亿美元的纳税资金,消息来源透露,这是根据两份与机密情报估算相关的资料所得出的。这一开销——明显高于之前已知的数额——使立法者认为,更全面的人工智能监管系统可能每年会让政府支出数百亿美元,这些消息来源称。特朗普总统一直抵制对人工智能的更多联邦监管,拒绝国会成员和前沿实验室提出的监管提案,目的在于对模型施加新保护措施。但在一系列引人注目的黑客和安全事件之后,NSA的人工智能安全中心开始测试前沿模型,以识别潜在的国家安全漏洞。这些工作所需的高成本使得关于政府在审查部分世界上最强大、最有资源的公司的人工智能模型中角色的辩论变得更加紧迫。它也可能加剧要求前沿实验室承担审查模型的财政负担的呼声,尤其是随着技术变得愈加先进,相关开支只会不断膨胀。之前建立新联邦人工智能监管的提案的估算显示,价格要低得多。例如,国会预算办公室估计,AI安全与创新法案——一项旨在建立一个关于人工智能风险的中心并“促成这些风险的缓解”的两党众院提案——每年将花费大约2000万美元。众院中的另一项法案则要求在未来五年内拨款3600万美元以建立一套新的人工智能报告和跟踪系统,CBO报告称。一些科技领袖,如亿万富翁埃隆·马斯克,建议前沿实验室应在没有政府监管的情况下相互审查各自的模型。周四,《信息报》报道称,谷歌、OpenAI和Anthropic正在共同制定创建自己的以人工智能安全为重点的“标准机构”的计划。但一些人工智能安全专家拒绝了这种模式,认为它事实上允许公司自我监管。一个替代方案是政府对人工智能公司征收税款,以资助这些安全操作——既确保独立性,也确保监管人工智能的财政负担不会主要落在纳税人身上。Anthropic和OpenAI表示,他们希望获得更多的联邦监管,并可能愿意为此付费。目前,NSA的人工智能测试工作由联邦国家安全预算中的机密部分资助,两位知情人士表示。目前尚不清楚政府迄今为止的确切支出金额。五角大楼拒绝对此作出评论,关于NSA的人工智能开支。国防部的一名发言人表示:“出于安全原因,国防部不讨论其人工智能工具的技术架构或资源分配。”国防部的年度预算接近1万亿美元。一些已经分配给军方的预算资金可以转用于人工智能相关支出,从而减少潜在的开支。一位消息来源表示,迄今为止,NSA在人工智能相关的最大开支是额外的计算能力:在运行和测试人工智能模型所需的芯片处理能力。由于需求激增而生产不足,全球计算能力的购买变得非常昂贵。例如,据《信息报》报道,Anthropic已经签下的计算交易可能花费高达5170亿美元。另一个大开支是聘用人员。一些顶尖的人工智能工程师的薪水被开出的报价高达数亿,远远超出政府能够匹配的水平。NSA被普遍认为是政府中技术专家阵容最强大的机构,仍然可能无法与前沿实验室抛出的巨额薪资相竞争。Encode人工智能倡导组织的首席法律顾问内森·卡尔文(Nathan Calvin)表示:“拥有内部的人工智能评估能力非常重要和必要,但确实是相当昂贵的。”“你在和一些对价格几乎没有敏感度的客户进行竞标。”一些专家推动立法者迅速加强对模型的第三方审计。美国AI验证与评估研究所的政策主任Nat Purser表示,虽然“人们常常低估严格测试先进人工智能系统所需的计算能力,”但政府应进行必要的投资。普尔瑟还表示,如果纳税人花费大量资金来评估模型,人工智能公司可以承担费用。“如果我们希望政府具备评估这些系统的能力,就需要为所需的计算资源和专业知识提供资金,”普尔瑟说。“我认为这些测试是公共产品,但…
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡