前英国间谍主管大卫·奥曼表示，无人机需要编程道德规范，因为由人工智能驱动的决策减少了人类在自主战争中的参与。奥曼告诉《卫报》，他在经过十多年的思考后改变了对无人武器系统的看法，此前他曾得出结论认为自主无人机无法遵守国际人道法。这位前GCHQ负责人表示，他现在相信，人工智能可以创造一个“道德”框架，使无人武器能够区分战斗人员和平民。奥曼表示，他受到现代战争“加速”的影响，例如无人机和高超音速导弹的部署，以及生成性人工智能的出现，这为各国提供了一种“潜在的伦理方式”，允许无人机在道德合规的系统下运作。他说：“我呼吁真正对此进行一些研究，以便我们不处于未来的人工智能武器系统中没有道德组件的情况。”与此同时，武装部队部长阿尔·卡恩斯表示，机器可能在某些情况下自行做出目标决策，“在必要时，您必须有能力将人类从循环中移除。”大卫·奥曼将出席切尔滕纳姆科学节的演讲。与此同时，美国正在大力推进人工智能驱动的战争。其2027年预算在4月发布，拨款540亿美元（约400亿英镑）用于资助“空中、陆地以及海上和海下的自主和远程操作系统”，包括一项“无人机主导”计划。然而，前中央情报局局长大卫·佩特雷乌斯则认为，美国没有关于自主武器编队的军事 doctrine。在周三的切尔滕纳姆科学节前，奥曼在接受《卫报》采访时表示，人工智能技术现在能够权衡人类无人机操作员的目标决策因素，比如目标是否合理、是否会造成平民伤亡，以及目标是否被正确识别。他补充道，这并不是在创造新的伦理，而是将军队现行的伦理转化为可供机器使用的形式。人工智能在最近的美国军事任务中已经发挥了重要作用，Palantir和Anthropic开发的技术被用于帮助缩短“杀伤链”——从选择目标到发动攻击的过程——在伊朗冲突中。奥曼曾于1996年至1997年担任英国间谍机构GCHQ的主任，曾主持2014年伯明翰大学关于武装无人机的委员会，该委员会对自主武器系统是否能安全地区分平民和战斗人员，以及它们是否能“遵守国际人道法所需的比例原则”表示“怀疑”。在乌克兰敖德萨一栋公寓楼遭俄方无人机袭击后的后果。奥曼是伦敦国王学院战争研究系的访问教授，他认为机器现在能够以反映“合理道德推理”的方式攻击合法军事目标，包括人类，同时仍然受到某种形式的人类监督。奥曼表示，随着战争技术的不断发展，人类不可避免地需要“在循环外”而不是“在循环内”与人工智能系统互动。“在循环内”的术语通常用于关于控制强大人工智能系统的辩论，指的是人类在决策过程中密切参与的状态。奥曼表示，“在循环外”意味着人类将监督系统，但不会授权每一个单独的战斗行动，生成性人工智能的突破使机器能够在由人类设计的道德框架内运作。他补充道，这些道德框架必须能够根据每次任务进行调整。奥曼表示，在快速进行战争的世界中，转向“在循环外”的架构是不可避免的。他表示：“这是一个物理和操作上的必然性。”他补充说，“‘在循环外’意味着仍然有人类的监督，人类设定任务的参数。从这个意义上说，人类依然具备道德控制。但是在战斗激烈或时间非常紧迫的情况下，人类根本没有时间做出决策。”奥曼表示，现在的问题是，人类如何确保自主武器系统能够遵守国际法。英国的军事政策规定，在识别、选择和攻击目标的武器中，“必须有适当的上下文的人类参与”，并补充说这可能包括“通过设置系统的操作参数来行使控制”。奥曼认为，无人机的行动可以分为六个变量，赋予由人类操作员——“在循环外”——分配重要级别，随后将这些变量用于指导无人机的决策。