谷歌因军事合同遭遇辞职反弹
谷歌正面临一些员工对公司将其人工智能技术用于军事用途的强烈反对。BBC采访了几位技术工人,他们要么最近从谷歌的人工智能公司Google DeepMind辞职,要么正在离职中,原因是对该公司军事合同的担忧。总部位于伦敦的研究工程师索非亚·利古里(Sofia Liguori)就是其中之一。她本周辞去了谷歌DeepMind的职务,并独家接受BBC采访,尽管她的合同限制了她这样做的权利。利古里表示:“意识到我的公司越来越推动在军事行动中使用人工智能系统,让我感到在谷歌工作很羞愧。”对此,谷歌发言人对BBC表示:“我们与全球公共部门组织合作,并遵循一套一致的流程来审核和签订这些合同,包括确保遵守我们的可接受使用政策和人工智能原则。” “我们还为员工提供专门的渠道,以安全地提出任何关注的问题—从商业道德到不当行为,并制定严格的工作场所政策以防止任何形式的报复。” 谷歌是今年早些时候与美国军方签署合同的几家科技公司之一,目的是将在机密军事环境中部署人工智能。美国国防部长皮特·赫格塞斯(Pete Hegseth)已将人工智能整合入武装部队作为重点工作,称特朗普政府将成为“人工智能优先的作战力量”。但人工智能技术正在迅速发展,批评者质疑其在没有更多测试、强有力的保护措施和人类监督的情况下,是否可靠地用于战争。在公司工作三年后,利古里表示,她决定辞职是因为谷歌与美国和以色列军方的合作越来越多。她说:“我不同意这种方向,因此我对公司声称的伦理价值失去了信心。” 根据谷歌的人工智能原则,这些价值观包括在“人类监督”下实施人工智能,并使技术符合“国际法和人权”。但公司内部的前任和现任员工,以及BBC采访的专家表示,他们对关键时刻的人类监督程度表示担忧。在过去几年中,美国军方已经部署了多种人工智能技术,以帮助提升其作战能力。其中最突出的例子是Maven智能系统,这是五角大楼用于组织情报和数据的主要软件平台。这个平台由美国国防公司Palantir开发,利用人工智能帮助人员选择和识别攻击目标。Palantir将一些领先人工智能公司的技术整合到Maven中,从而显著加快了一些过程。退休中将杰克·香农(Jack Shanahan),曾是Maven项目的主任,表示“哲学”似乎是:“尽可能快地部署(人工智能技术),尽可能广泛地推广,潜在地以测试和评估的严谨性和纪律性为代价。”然而,五角大楼坚称,采用人工智能技术对于赢得战争至关重要。今年早些时候,美国国防部的副部长埃米尔·迈克尔(Emil Michael)在一份声明中表示:“在人工智能时代,速度决定胜利。”谷歌与五角大楼签署的合同于今年早些时候生效,允许其人工智能技术用于机密军事工作。协议规定,谷歌的人工智能模型可用于“任何合法的政府目的”,并且“在没有适当的人类监督和控制的情况下,不得用于国内大规模监视或自主武器(包括目标选择)”。类似的合同也被OpenAI、亚马逊、微软、SpaceX、甲骨文、英伟达和初创公司Reflection签署,以允许人工智能技术在运输、规划和战斗行动等多种军事场景中使用。随着技术的快速发展,人们对于在战区使用人工智能的担忧日益加剧。曾任OpenAI地缘政治团队负责人莎拉·肖克(Sarah Shoker)表示:“人工智能压缩了操作员做出决策的时间,因为它的工作速度远快于人类,这在高压力环境中风险尤其大。” “当有数百个由人工智能选择的目标和短时间时,几乎不可能对人工智能的输出进行有意义的审查以发现错误。”谷歌的员工告诉BBC,员工因为他们的雇佣合同禁止他们公开批评公司而害怕就人工智能安全及其在战争中的使用发声。利古里告诉BBC:“原则上,我在生活期间不被允许批评谷歌。”但她决定这样做,“因为我认为让这些事情被知晓是重要的,我也认为谈论事实并不是在批评。”利古里补充说,在谷歌,“人们害怕报复,并保持沉默。”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡