未来的AI无人机是否应拥有杀人执照？随着各国政府和国防工业承认无人机系统将在未来战争中扮演越来越关键的角色，这个问题愈发紧迫。在乌克兰战争中，无人机被大量投入使用，而在伊朗冲突中，人工智能被用于辅助轰炸任务，一些观察者普遍期待武器将需要具备更高的操作自治性，这意味着它们需要某种近似道德框架。去年，微软AI部门首席执行官、英国DeepMind的联合创始人Mustafa Suleyman对此问题持明确态度。他表示：“人工智能不能成为人类或道德存在。”前英国国家安全局局长David Omand告诉《卫报》，他相信AI可以为无人武器创建一种“道德”配置，而英国武装部队部长Al Carns最近在《金融时报》中表示，决策中必须有“将人类排除”的选项。这引发了关于道德是否可以被编程入自主武器系统的伦理和技术挑战。爱丁堡大学信息学学院的机器学习学者Zee Talat认为，大型语言模型——现代生成AI系统（如聊天机器人）的核心技术——根本上无法进行道德决策。AI系统在大量数据上进行训练，使它们能够建立出在一个序列中下一个最可能的单词或句子的概率模型。Talat表示，即便模型已摄取了人类已知的所有哲学著作，这并不是人类进行道德和伦理决策的方式。“如果你有一台本质上是概率性的机器，它将在某种情况下趋向于最可能的答案。我们认为道德是遵循概率概念的吗？”Talat说，他最近共同撰写的一篇论文主张，伦理评估是一种“开放式、辩论性、社会政治过程”，AI无法跟上。萨里大学以人为本的AI研究所的Andrew Rogoyski表示，自2022年ChatGPT问世以来，AI系统已经变得更加复杂——所谓的“推理”模型的出现表明这一点。然而，它们能否复制道德决策的细微差别？“道德是深刻复杂、有争议、受文化影响的，是大多数人类甚至对自己都未能完全解决的问题，”他说。“也许真正的问题是我们是否对道德有足够的理解去进行编码。在我们做到这一点之前，我们不能期望机器体现我们自己无法清楚表达的东西。”这引出了一个问题，即是否可以为自主武器制定一个普遍认可的道德规范。根据荷兰乌特勒支大学国际法助理教授Jessica Dorsey的说法，在无人机中编程道德是一个问题。她的担忧包括确定无人机遵循的是谁的道德，这是一项艰难的过程，因为联合国仍在努力实现有关自主武器治理的全球共识。还有如何编程AI系统以区分作战者与平民的问题。国际条约《日内瓦公约》第57条规定，作战者应“尽一切可能核实所攻击的目标既不是平民也不是民用物体……而是军事目标”。Dorsey表示，如果法律不正确，部署AI无人机可能会在大规模上重复错误的决策。“战争中充满各种变量，事情出错是必然的。当这以AI般的速度发生时，很难进行理顺，”她说。但是，一些专家认为，给予无人机更大的自治权，并将交战规则和道德编程到其中是必要的，尤其是在其他国家继续快速开发和部署类似技术的情况下。“对于任何军事力量来说，要有效地与其他高端军事作战，就需要大量能够自主作出决策的系统，”神经科学家Nicholas Wright说，他是有关人脑与战争的书籍《战头》的作者。尽管技术行业炒作不断，AI无人机仍是一项处于萌芽阶段的技术，在战场上的部署示例有限。目前，美国和欧洲的100多家初创公司正在开发无人机和无人机软件平台。这些无人机涵盖从轻型、低空的成像和监视无人机到设计用于携带武器的较重飞行器。然而，建设它们的公司——以及设想未来战争的公司——对它们在决策上的表现持有截然不同的看法。