近八年来，国际社会在联合国（UN）一直在讨论与武器系统自主性有关的各种伦理、法律和安全问题。日内瓦的《特定常规武器公约》是这一交流的焦点。自2017年以来，《特定常规武器公约》政府专家组（GGE）一直忙于审议可能的监管“规范和操作框架”的结构和内容

在这篇文章中，《特定常规武器公约》进程以及更广泛的武器自主性辩论的长期观察员和参与者弗兰克·绍尔（Frank Sauer）审视了辩论的现状，并为《特定常规公约》框架内的讨论指明了可能的前进方向

红十字国际委员会人道主义法和；政策博客·武器系统的自主性：追赶技术在2021 5月和6月，联合国安理会的一份报告（S/2021/229）成为全球头条新闻。报告称，致命的自主武器系统在2020年利比亚的一场战斗中袭击了战斗人员。然而，报告中描述的四旋翼机是否是远程驾驶的，仍有点不清楚；也就是说，是否有人参与了决定是否使用武力，以及是否有人在事件中成为目标、受到伤害或死亡。但是，“致命自主武器系统”（LAWS）这个独特的术语再次登上了世界报纸的头版和网站，这是联合国对能够在无人干预的情况下选择和攻击目标的武器的说法

尽管该主题的专家对这一事件并不感到特别惊讶（因为与报告中描述的类似的游荡弹药已经在战场上存在了至少十年），但更广泛的公众被促使注意到，武器技术现在——而且已经有一段时间——处于算法狩猎、，瞄准和杀人不再是反乌托邦科幻小说的内容。但是，审查武器自主监管可能选项的外交进程是否跟上了步伐

规范武器系统的自主性：2021的作战状态每一次军事使用武力都遵循一系列步骤，其中包括发现、固定、跟踪、选择和攻击目标。将目标周期的两个所谓“关键功能”——目标的选择和交战——从人到机器，并不像上述利比亚故事所暗示的那样新鲜。几十年来，针对导弹、火箭或炮弹的终端防御系统一直具有这种功能。他们证明武器自主性不一定有问题。事实上，它以反物资的方式使用，就像防御来袭弹药时一样，是一种在战场上保护人类生命的有用工具

然而，多年来，在民间社会和有关科学家的推动下，《特定常规武器公约》缔约国一直在讨论无限制武器自主在其他应用中的负面影响。这包括对人类被剥夺尊严并沦为输入算法杀戮机器的数据点的伦理担忧，围绕问责差距和遵守国际人道主义法（IHL）的法律问题，以及围绕作战行动加速到机器速度失控升级的安全相关辩论

即使在当前全球大流行之前，《特定常规武器公约》的讨论也进展缓慢。在新冠肺炎疫情爆发后，各种多边论坛设法以虚拟形式以正式方式进行，但在程序上缺乏共识迫使《特定常规武器公约》的外交官和民间社会继续在网上进行非正式交流

最近讨论的一个重要里程碑是红十字委员会建议各国通过新的具有法律约束力的条例。这至少有三个原因值得注意

首先，国际人道主义法的守护者红十字国际委员会明确建议制定新的国际法，这是非常罕见的，尽管并非史无前例。第二，当红十字委员会这样做时，通常是因为它认为不作为的可预见的不利后果和原则因过于伟大而受到侵蚀，它的字眼很有分量。过去的军备控制和裁军进程——例如禁止致盲激光或杀伤人员地雷——受到了红十字委员会的定位的极大影响，最近政府专家小组关于法律的讨论也表明了类似的影响。第三，在不预先确定太多细节的情况下，红十字国际委员会的立场指出了政府专家小组寻求建立的“规范和业务框架”的可能内容和结构。随着新势头的增强，GGE进程可能会走向何方，特别是考虑到将于12月举行的下一次《特定常规武器公约》审查会议（RevCon）

完善“规范和操作框架”：一条可能的前进道路

有三个主要障碍即将取得进展。首先是对特定赋能技术的误解。第二个是围绕所谓“法律的技术定义”的作用的误解。第三个也是最后一个是对可能的监管形式的异议

如上所述，在没有人为干预的情况下选择和攻击目标的终端防御系统已经使用了几十年。显然，机器学习（或目前在人工智能（AI）这一广泛领域中流行的任何东西）并不是赋予武器系统关键功能自主性的要求。当然，人工智能是一种新的、强大的推动因素。最近的创新，如计算机视觉，允许在更大范围内应用武器自主性，因此自主瞄准已经离开了以前的利基应用。尽管如此，《特定常规武器公约》的讨论在很大程度上仍然不确定底层技术的确切特征。毕竟，因为只有人类才能成为道德代理人，因为法律决定需要人类的判断，而且人类非常适合在失控的自动化过程中充当断路器，与其浪费宝贵的时间讨论所谓的技术复杂程度，或者不必要地试图区分“自主”和“自动化”，不如让人的因素成为辩论的焦点。这与技术定义这一仍然悬而未决的问题直接相关

定义斗争不再像过去那样困扰《特定常规武器公约》关于法律的进程。但一些利益攸关方仍在寻求臭名昭著的“法律的可能定义”，理由是军备控制总是需要对所涉对象进行精确分类，然后才能采取任何管制行动。然而，在武器自主的情况下，定义和管理特定类别的军事硬件是不适用的。几乎任何当前和未来的武器系统都可以被赋予其关键功能的自主性，没有人能够仅仅通过从外部检查来判断任何给定系统对人类输入的依赖程度。此外，在许多情况下，自主功能将分布在系统体系结构中，也就是说，独立于一个特定的平台，最终只会归结为单击用户界面中的复选框

因此，试图将“法律”与“非法律”区分开来，无法应对监管挑战。相反，通过制定新的规范来应对挑战，以调整战场上的人机交互：谁或什么——人或机器——应该在何时何地执行目标周期中的哪项功能？对这一问题找到取决于具体情况和有区别的答案，将产生关于自主武器技术如何以道德上可接受、符合国际人道主义法和在维护国际安全与稳定方面谨慎的方式应用的理想规定。幸运的是，今年取得了相当大的进展，这也是由于政府专家小组比利时主席最近分发的文件，该文件强调，讨论中的问题最好的特点是询问在人类指挥和控制框架内自主目标选择和交战的情况

融合是缓慢的，但肯定不仅仅是在概念化方面发生的，这导致在CCW上“相互回避”的现象大大减少。还可以观察到一项可能的法规的结构，该法规可能会在完全充实的“规范和操作框架”中形成。一种双管齐下的做法正在形成，将禁止和管制结合起来：首先，在武器系统的关键功能方面存在着自主性的具体应用，这是国际社会许多成员所不能接受的，因此应予以禁止。在这里，红十字国际委员会、制止杀人机器人运动以及最近成立的《特定常规武器公约》十国集团特别强调以人类为目标。此外，红十字委员会和许多缔约国建议，不可控的自主武器系统也应排除在外，因为它们在战场上的潜在不可预见或滥杀滥伤作用

第二，当对除旨在代表人类的目标轮廓外的其他目标轮廓（如各种军事物体）使用武力时，关键功能的自主性是可以接受的，但这需要一定的限制和约束，即，积极义务遏制道德风险、保障遵守国际人道主义法并解决安全和安保问题。这些限制和约束可以是时间的、空间的，一般来说，可以归入这样一个概念，即人类的控制——无论最终被定性为“有意义的”、“实质性的”或“有效的”——都必须通过武器系统的设计和使用来保持，即使有时甚至是当它自主地执行其关键功能时

可以说，2021《特定常规武器公约》审查大会及其后，一种关于武器自主性的软“原型规范”已经出现并在社会上确立。毕竟，在2021，几乎没有人能够思考和讨论武器关键功能的自主性，而不被指出所涉及的严重问题、科学界发表的公开信、正在进行的联合国辩论、新兴的国内立法、道德哲学、国际法、政治学等领域的大量学术著作，等等

换句话说，整个辩论，包括联合国在日内瓦关于武器自主的审议，已经取得了很大进展。特别是在《特定常规武器公约》会议上的对话最近变得更有成效和建设性，趋同越来越多

尽管如此，尤其是上述监管结构远未被普遍接受；下一步应该将其编纂为具有法律约束力的文书，这一观点也不成立。最近在8月举行的政府专家组会议表明，至少有少数缔约国显然没有这样做，这表明它们打算阻止协商一致机构取得进展

与此同时，CCW上的压力不断增加。鉴于即将举行的RevCon，缔约国需要取得切实的成果。如果他们不能做到这一点，那么将这一进程转移到另一个论坛的呼声肯定会增加。那么，《特定常规武器公约》将再次成为一个孵化器

需要新的、具有约束力的国际法。尽管武器自主在优化弹药防御（保护士兵的生命）方面提供了可喜的机会，但如果不加以控制和监管，世界将变得更加不安全、不确定、不稳定和不人道。技术不会等待。现在是联合国外交迎头赶上的时候了

另请参见Laura Brunn，《自主武器系统：法律对人类在使用武力中的作用的规定》，2021 11月11日，Neil C.Renic，《自主武器体系：何时是监管的正确时机？，2019年9月26日

Merel Ekelhof，《自主武器：操作有意义的人类控制》，2018年8月15日

红十字国际委员会，尼尔·戴维森，《自主兵器系统：人类控制的伦理基础？2018年4月3日

简介