独家报道 DeepMind研究员因与军方的人工智能交易辞职：'我无法心安理得地留在谷歌' 作者：休·兰格利 您正在关注这位作者！想要取消关注吗？可以通过电子邮件中的链接进行退订。亚历克斯·特纳表示他目前还没有找到新的工作。约瑟夫·米勒 一位谷歌DeepMind的研究员因公司与国防部的合作辞职，进一步加剧了技术巨头军方合作的内部反对声。特纳是一名从事人工智能安全研究超过两年的科学家，他在六月份辞去了职务，他告诉《商业内幕》。特纳表示，他是在谷歌签署协议允许五角大楼使用其人工智能进行机密操作后做出这一决定的。五角大楼在五月初确认它已与谷歌及其他几家公司签署了这项“合法操作使用”的协议，合作伙伴包括微软、亚马逊和OpenAI。“当谷歌签署这项协议时，我的良心只是简单地说‘不行’，”他告诉《商业内幕》。在五角大楼宣布与谷歌和其他实验室达成协议后，谷歌发言人表示：“我们仍然致力于私营和公共部门达成的共识，即人工智能不应在没有适当人类监督的情况下用于国内大规模监控或自主武器。”谷歌与五角大楼的协议在员工中引起了一些反对。在四月份，谷歌近195,000名员工中约有600人签署了一份请愿书，要求公司不要与任何涉及机密工作的协议。机密协议限制了谷歌对其人工智能使用的监督。一位DeepMind研究员在社交平台X上表示，他对谷歌与五角大楼的协议“感到羞愧”，而另一名员工在五月份内部发布的辞职信中也提到了谷歌与美国军方关系的加深。特纳表示，他在二月份就开始考虑离开谷歌，当时他首次想到谷歌可能会签署五角大楼的协议。“如果他们没有签署协议，我想我会再待几个月。但谷歌签署后，我再也无法继续工作。我的大脑说‘不行’，”他在周三发表的博客中写道。他告诉《商业内幕》，他目前还没有找到新的工作。今年早些时候，特纳提出了一项关于军事人工智能的框架，希望谷歌能采纳，包括确保人类控制人工智能目标系统的条款。一位谷歌发言人告诉《商业内幕》，公司一直愿意倾听特纳的想法。谷歌不断变化的人工智能承诺 在2025年初，谷歌更新了其人工智能原则，取消了不追求将人工智能用于武器或大规模监控的承诺。谷歌DeepMind首席执行官德米斯·哈萨比斯在当时共同撰写了一篇宣布更改的博客。该决定在当时引发了一些员工的反对。在他离开前发给同事的一封内部信息中，特纳表示，哈萨比斯在员工市政厅会议上所说的原则没有改变与取消承诺之间存在脱节。“如果我不能相信这一容易验证的声明，我该如何放心他所说的仔细监督保护我们？”特纳在该信息中写道，该信息已被《商业内幕》查看。特纳表示，他在今年早些时候引起了谷歌高管的关注。他表示，他与谷歌首席科学家杰夫·迪恩共进午餐，讨论他的担忧。他还帮助组织了一封致迪恩的员工信，迪恩在与白宫就军事使用人工智能发生争吵时曾公开支持Anthropic。该信呼吁谷歌在与五角大楼达成的任何协议中划出红线，例如禁止Gemini在没有人类监督的情况下操纵自主武器。特纳表示，他在今年早些时候将他的军事人工智能框架的提案发送给哈萨比斯，并告诉他让谷歌政策部门的两位高管进行评估。在就下一步措施进行一些讨论后，特纳表示他停止收到了回应。不久之后，国防部确认已签署一项协议。“在那时，我无法心安理得地留在谷歌，所以我离开了，”特纳在他的博客中写道。特纳表示，在他处理下一步计划时，他正在进行独立的人工智能安全和安全工作。“当一名员工离开顶级人工智能实验室时，通常会进入另一个实验室的怀抱，”他写道。“他们通常会因此获得丰厚的奖金。但我做的不是：我没有与竞争对手实验室有过招。