自行选择和攻击目标的自主武器听起来可能有些牵强，但90个国家和50多个非政府组织正在认真考虑其可能的发展。两年来，他们在联合国《特定常规武器公约》（CCW）上就自主武器问题进行了冷静的讨论，最近一次是在2015年4月，但是，国际外交的缓慢步伐与自主和人工智能的快速发展不同步。

自主和智能系统正在取得快速而惊人的进步，在驾驶、下棋、癌症诊断和面部识别等多个领域超过了人类。同样，自主在军事领域也变得越来越重要。无人机不是自主武器——它们由人类操作员控制——但无人机迅速融入军事行动及其全球扩散表明了数字技术正在改变战争的速度。已经有90个国家和非国家组织拥有无人机，30个国家拥有武装无人机或计划开发无人机。此外，允许自动驾驶汽车避免撞到行人的相同类型的传感器和算法可能会使武器能够自行选择和攻击目标。作为回应，50多个非政府组织联合起来发起了一场制止杀人机器人运动，呼吁签署一项具有法律约束力的国际条约，禁止自动武器，类似于禁止集束弹药，4月在日内瓦举行的《特定常规武器公约》会议表明，在应对自主武器挑战方面达成国际共识的障碍之一是对它们究竟是什么缺乏明确。尽管参与这一问题的主要组织，包括人权观察组织、红十字委员会和美国国防部之间的定义相对一致，但仍然存在很大的混淆。对一些人来说，自主武器类似于具有更复杂目标和更大行动自由的导弹。对其他人来说，他们是具有道德代理的学习、感知机器。由于没有既定的定义，任何一方都不是对的或错的，但观点的分歧导致了令人困惑的对话，各方相互交谈。自主武器尚不存在，因此了解其特点以及潜在的利益和风险本质上是推测性的。

最近的《特定常规武器公约》会议确实显示出几乎普遍的共识，即使用武力需要一定程度的人类参与。代表们以不同的方式表达了这一点，呼吁“有意义的人的控制”或“适当的人的判断”，但都表达了一种基本观点，即使用致命武力需要人的责任和问责。

这一共同点代表了达成共识的机会，但那些支持和反对禁令的人都避免了精确定义“有意义的人的控制”等术语，因为他们担心放弃其他人可能不会放弃的谈判场地的风险，制止杀人机器人运动呼吁在《特定常规武器公约》内成立一个正式的政府专家组，开始谈判一项禁止自主武器的条约，但没有提供自主武器的工作定义。各国支持这种方法的可能性很小。《特定常规武器公约》是以协商一致的方式运作的，这意味着只有一个国家反对，而禁令不会通过，这一障碍迫使以前在《特定常规公约》之外禁止地雷和集束弹药的努力。

禁令的支持者，其中许多人都是这些努力的老手，明白这一点。他们将《特定常规武器公约》视为一个“孵化器”，围绕它建立一个支持禁令的志同道合的国家团体，这些国家最终将脱离《特定常规公约》，制定自己的条约。但是，只有四个国家明确要求禁止（古巴、巴基斯坦、厄瓜多尔和罗马教廷），其中没有一个国家是机器人技术的领先开发者，其中一个国家根本没有军队，势头似乎没有建立起来。

该运动的战略取决于一场赌博，即各州将愿意首先同意禁令的原则，然后制定他们稍后将禁止的内容的细节。这一战略在集束弹药方面取得了成功，因为这种武器已经得到了很好的理解。自主武器有根本不同。因为它们还不存在，它们“是什么”仍然存在很大争议，各州只能猜测他们在同意禁令时可能会放弃哪些能力

绕过政府并直接向公众呼吁也不太可能奏效。与地雷和集束弹药不同，由于自主武器尚不存在，其危害没有明显的影响。“杀手机器人”听起来可能很糟糕，但随着自动驾驶汽车进入道路，公众对自动驾驶系统最实际的体验可能是拯救生命的体验

自主武器为问责制、道德责任和安全提出了重要考虑。同时，国家有义务保护自己的领土和公民，不太可能基于假设的恐惧放弃可能有助于履行这一责任的制度。此外，从纯粹的人道主义角度来看，全面禁令可能会像精确制导武器一样，将有助于挽救平民生命的自治权的有益用途视为非法

因此，应对自主武器的挑战应该首先抓住一个有共同点的领域，即人类继续参与使用武力的必要性，并以此为基础进行建设。各国和非政府组织不必放弃他们对最终结果的立场——一项具有法律约束力的条约与否——但暂时搁置这些分歧可能有助于缩小立场之间的差距。可以想象，如果更好地理解“有意义的人类控制”或“适当的人类判断”等术语，可能会围绕人类在使用武力中应扮演的角色形成共识。在这种情况下，各方可能只会不同意是否应将人的控制模式编入具有法律约束力的文书。至少，改善对话有助于澄清立场上的分歧。今天，关于自主武器的对话大多是人们相互交谈。“自主系统”等未定义的术语只会进一步混淆事情，一个人想象一个Roomba，另一个人想象终结者

首先，各方都应该看看今天在使用武力时如何实行人的控制。自动化已经用于战争中的许多任务。自主武器会有什么不同，这些差异对人类责任、道德责任和安全有什么影响？应将自主武器与现有武器进行比较

如果禁令的支持者想要取得进展，他们应该首先解释他们设想的禁令涵盖哪些能力。尽管禁令拥护者表示，他们对军事机器人总体上并不敌对，只是对自主武器，但他们支持禁令的许多论点似乎表明了相反的看法。关于自主武器将使战斗人员远离伤害，从而可能降低冲突门槛的论点同样适用于无人机或其他远程控制车辆。禁令支持者还应澄清，他们是否认为自动防空和导弹防御系统以及发射和忘记制导弹药是有问题的，也是禁令的目标。几十年来，这两种武器都被数十个军队使用

各国同样应阐明其立场，包括对人类未来在使用武力方面的作用的看法。许多国家参加了最近举行的《特定常规武器公约》会议，并发表了实质性声明，这是关于这一主题的第二次国际会议的一个可喜迹象

最后，美国应在这一问题上发挥领导作用，利用自己的内部政策指导制定一套解决武器自主问题的国际最佳做法。美国国防部经过多年的研究，制定了一份政策文件，概述了在制造或部署任何自主武器之前所需的一系列严格的检查和批准。这项政策的动机不是法律要求，而主要是出于安全考虑。然而，没有一套类似的国际规则或最佳实践来指导各国如何实现武器自主。具有地雷和集束弹药经验的美国决策者无疑担心，任何接触都可能被视为非政府组织在推动禁令的同时可能获得的“让步”，但这种担心误解了美国的战略利益。对于集束弹药和地雷，军事效用与人道主义伤害是权衡的。美国可以采取自己的政策来减少武器的危害，其他国家是否也这样做，这符合人道主义利益，但不具有战略意义。然而，在拥有自主武器的情况下，美国有兴趣维护其适应新兴技术的法律和政治行动自由，但也有兴趣确保其他国家使用自主武器负责。美国的领导能力可能会有所不同

国际社会已经聚集在一起，解决了如何将自主权纳入武器的问题，但对最终国家的看法分歧——在很大程度上是由于对战争法本身的哲学分歧——阻碍了诚实的思想交流。为了取得进展，各方应关注有共同点的地方，以及人类在使用武力方面的持续重要性，并以此为基础进行建设。几乎没有时间可以浪费。如果外交要跟上技术变革的步伐，就必须加快步伐。

简介