以下是外交关系委员会国际机构和全球治理项目实习生泰勒·沙利文 (Taylor Sullivan) 的客座帖子。这篇文章是变革性技术、变革性治理博客系列的第二篇文章，该系列研究了新兴技术的全球影响，以及减轻其风险和最大化其收益的措施。主要国家正在为许多人认为的下一场战争革命做准备。随着美国和其他国家优先发展新兴武器技术，包括先进的无人机、致命自主武器系统 (LAWS) 和集群技术，世界大国准备改变他们打仗的方式。在这些技术中，LAWS 可能是最能改变游戏规则的。 LAWS 通常被评论家称为“杀手机器人”，很难归类，因为它们结合了许多不同的技术和人类控制的不同元素。虽然一些批评者将 LAWS 理解为“完全自主”，这意味着系统可以在没有直接监督的情况下选择目标并向其开火，但美国采用了更广泛的定义，包括人为干预的可能性。无论如何，LAWS 背后的技术似乎正在迅速发展。美国、俄罗斯和中国军队是可以说正在开发 LAWS 并将其纳入其部队的众多军队中的三支。随着世界大国冒险进入这个未知领域，关于 LAWS 的合法性、实用性和道德性的争论正在升温。一些专家预计，LAWS 将有助于促进国际安全；其他人预测，它们的开发和使用将给各国带来破坏稳定的挑战。正式和非正式的国际论坛都在讨论何时以及如何监管 LAWS，甚至是否完全禁止这些新兴技术，因为各国都在努力应对摆在他们面前的困境。这些讨论是否会产生新的国际法仍不确定。然而，此类会谈是不可或缺的活动，因为众多参与者都在寻求围绕这些快速出现的技术建立共识并制定规范。

最重要和推测性的争论之一是 LAWS 是否符合国际人道法 (IHL) 的基本要求。法律的拥护者认为，这些系统可以使战争更有效，甚至更人道，因为随着时间的推移，它们比人类士兵更不容易出错。鉴于法律有可能提高战斗人员和平民的准确性和辨别力，法律在抽象上承诺限制“附带损害”——或非战斗人员的意外杀害。美国甚至声称，通过在紧张局势中替代错误的人类决策，法律可以改善对国际人道主义法的遵守。相反，批评者则关注法律对国际法和安全构成的严重挑战。这种武器系统可以说比非自主系统更容易受到网络威胁。它们还通过消除或减少人的控制，造成潜在的问责差距。他们可能违反了区分（能够区分平民和军事目标）和相称性（避免与预期军事收益相比造成过度平民伤害的攻击）的核心原则，从而超越了国际人道主义法的界限

出于这些担忧，一个民间社会团体的跨国联盟将一项全面禁止法律的提案列入了多边议程。2016年，为了响应民间社会的持续倡导，《联合国特定常规武器公约》（CCW）缔约国成立了一个政府专家组，以考虑就这类武器制定一项新的具有约束力的议定书的可能性。CCW是一项禁止或限制非人道武器的框架协议。在日内瓦进行了几年的辩论后，许多外部观察员和一些缔约国对结果感到焦虑。一些人呼吁制定新的国际法，而另一些人则主张发表政治宣言这一更为政治上的权宜之计。有问题的是，各国代表团在是否以及如何界定法律和法规的问题上仍然存在分歧，这种情况有利于讨论而非行动，以及维持现状，他宣称这些“道德上令人反感”的武器应该“受到国际法的禁止”。他呼吁禁止这种武器，这与2012年成立的“制止杀人机器人运动”（Campaign to Stop Killer Robots）相呼应，该运动是一个跨国民间社会联盟，旨在协调全球反对法律的行动。该运动呼吁全面禁止“开发、生产和使用完全自主武器”，并要求人工智能（AI）研究人员和开发人员“承诺永远不会为完全自主武器的开发做出贡献”，这个团体超越了国界。事实上，该运动指出，已有28个国家政府表示支持禁令。同样，2018年7月的一项不制造自主武器的承诺获得了3253名个人和247个组织的签名，其中包括人工智能研究领域的世界领导者谷歌DeepMind

更多信息：

不扩散、军备控制和裁军

机器人和人工智能

国防技术

全球治理

国际法

然而，美国和俄罗斯表示强烈反对管制自主武器。联合王国和以色列等其他主要军事大国也加入其中。考虑到这些关键行为者的保留意见，政府专家小组未能就具有约束力的法律文书达成共识，甚至未能就法律法规的定义达成一致，这完全不足为奇。简而言之，在可预见的未来，全面禁止法律法规是不可能的

尽管存在这些障碍，但努力实现禁令仍然是一项富有成效的努力。即使法律文书被证明是难以捉摸的，反LAWS运动也有助于在全球范围内建立规范。过去针对多边禁令的跨国努力，如国际废除核武器运动（ICAN）的努力，为法律的反对者提供了一个民间社会团体如何影响变革的模式。ICAN是一个由非政府组织组成的跨国联盟，帮助说服联合国大会于2017年通过《禁止核武器条约》。当然，一个没有核武器的世界不太可能很快实现，因为核武器国家没有加入禁令，核禁忌正在被削弱的迹象，以及《中程核力量条约》等现有核协议的削弱

然而，ICAN的努力并非徒劳。除了在2017年获得诺贝尔和平奖外，该组织还提请人们注意使用核武器的人道主义代价，向各国政府施加压力，要求它们考虑裁军，并帮助改变围绕核武器的规范性气候，这可能有一天会导致消除核武器。禁止法律的努力可能会产生类似的结果

未来之路

在接下来的会议中，政府专家小组应优先确定法律。尽管美国表示，政府专家小组的这种努力将“适得其反”，因为时间将从“理解问题转向谈判将涵盖的内容”，但这种逻辑值得怀疑，因为只有当各州就其实际讨论的内容达成一致时，才能更彻底地理解法律的风险和好处。美国声称希望政府专家小组达成的“对法律法规特征的总体理解”过于模糊，无法有效地充分理解法律法规所带来的潜在问题；值得注意的是，它会让美国更自由地发展未来的自主武器。

那么，一个有希望的出发点可能是在一定程度的人类控制（或缺乏控制）致命武力的基础上定义法律。这可能意味着将GGE的关注点缩小到半自主武器系统的对话中，根据Paul Scharre在《无人军队：自主武器与战争的未来》中的定义，人类决定与自动化系统或受监督的自主武器系统识别的目标交战，在这种情况下，当具有干预能力的人观察时，武器自身探测并攻击目标。将政府专家小组的范围缩小到这两类法律中的任何一类，可能是就今后的步骤达成广泛协议的更有效的方式，因为所有各方都将站在同一页上

如果就法律的工作定义达成一致证明过于困难，那么限制武器的支持者可能会转而采取零碎而非全面的方法。也就是说，它们可以通过《特定常规武器公约》或其他程序（例如限制自主技术与核武器之间的相互作用），为相关技术的具体用途制定具体的文书。一旦对话缩小，无论是通过建立一个有效的定义，还是为零碎的方法奠定基础，寻求限制法律的国家和其他行为体都可以开始在管理自主武器方面取得真正的进展

简介