美国国防部（DoD）宣布打算更新其关于自主武器系统（AWS）的关键指令。该指令“确立了国防部的政策，并分配了在武器系统中开发和使用自主和半自主功能的责任”，旨在减少使用这些武器发生事故的可能性，包括可能导致意外冲突或意外升级的事故

该指令于2012年首次发布，仍然是“唯一公开的国家政策之一”，适用于自主程度更高的武器系统。随着该指令即将发布十周年，该指令必须根据国防部的发布政策进行更新或取消，这是一个完美的时机。鉴于人工智能和自主技术的进步以及国防部内部的变化，国防部有机会更新政策，并保持负责任的美国全球领导地位

现代化的大好时机

十年前，当自主武器指令制定时，斯坦福大学和谷歌的研究人员正在解决如何创建一种人工智能（AI）算法，该算法可以识别猫的照片，而无需对标记数据进行训练。就在几周前，DeepMind发布了Gato-一个“多面手”人工智能代理，它可以完成各种任务，这些任务构成了过去十年中人工智能的一些标志性里程碑，包括玩雅达利、为图像添加字幕、聊天，甚至在机器人手臂的帮助下堆叠物理块

在短短十年内，很明显，该领域的前景发生了巨大变化，预期每隔几个月就会发生变化。虽然人工智能和自主不是一回事，但人工智能技术促进了自主，因此，它已成为减少从计算机到车辆到武器等系统中直接人工干预需求的驱动力

自该指令出台以来，尚未开发或向该部门提出属于该指令管辖范围的自治系统。该指令目前适用于自主武器系统，即“一旦激活，就可以选择和攻击目标，而无需操作员进一步干预”的系统。这里的关键区别在于独立的目标选择和追踪——它不适用于“即发即弃”智能炸弹等武器系统，无人机等无人机平台，甚至可以在与一个人预先选定的目标交战之前“等待”时机的徘徊弹药

随着中国的崛起以及对日益基于人工智能的自主军事系统的关注，技术和国家安全领域的最新发展，随着武器和系统在乌克兰战场上展现出更高程度的自主性，美国将需要一项更新的指令，在这些技术成熟时，该指令将更加尖锐和充分地指导这些技术

更新后的政策不仅需要反映技术的进步，还需要反映国防部自身的发展以及在人工智能和自主性方面的既定规范和价值观。该指令早于国防部为促进国防创新以及AI、量子和网络等新兴能力的安全和道德使用而制定的许多举措。例如，该指令在联合人工智能中心（JAIC）成立之前发布，在国防部制定任何人工智能伦理原则之前发布，以及在国防部国防创新部（DIU）努力实施这些原则之前发布。这是在最近成立新兴能力政策办公室和首席数据和人工智能官（CDAO），对国防部处理新兴技术和数据的整个方法进行组织改革之前进行的

美国国防部必要时，更新后的指令应直接引用这些道德原则，特别是在其测试、评估和培训操作员的指南中，以及确保系统的透明度和积极的人为控制。报告还应概述这些新办事处如何在审查过程中发挥作用

确保美国未来的领导地位。它是这也是确保创新既快速又安全进行所必需的先发制人监管类型的一个例子。美国政府在采用新兴技术方面面临的一个重大挑战是，主要由私营部门主导的创新远远超过了政府监管和官僚机构。事实上，这项政策已经成熟，并且随着这些能力逐渐走向现实，现在正在进行更新，这反映了美国在现实和负责任的自主武器政策方面是如何领先的。更新后的美国AWS政策将为人工智能和相关技术的更广泛管理提供一个具体模型，在国防和民用环境中，这些管理比高级道德原则更具约束力，比彻底禁止更微妙

简介