关于国际社会应对自主武器系统的方式的辩论已经持续了大约五年。在这段时间里，重点是在红十字委员会所称的武器系统的“关键功能”中的自主性，即选择和攻击目标的能力。我们在这里认为，虽然武器系统的重点适用于在《特定常规武器公约》（CCW）范围内进行的讨论，但国际人道主义法（IHL）对武器系统自主性的适用范围更广，也延伸到“非关键功能”

关于自主武器的问题在2013年缔约国会议期间首次在《特定常规武器公约》的背景下正式提出。自那时以来，缔约国与民间社会一道，在众多专家的投入下，至少每年讨论一次自主武器问题。最近一轮以政府专家组会议的形式于8月27日至31日在日内瓦举行。9月1日凌晨，政府专家小组以协商一致的方式确认了关于自主武器讨论的十项“可能的指导原则”，并建议在2019年继续讨论。11月23日晚些时候，《特定常规武器公约》缔约方通过了一份最终报告，其中包括2019年的讨论

这些原则中的第一条是“[国际人道主义法]继续充分适用于所有武器系统，包括[自主武器]的潜在开发和使用”。这一原则没有争议，尽管GGE内部对如何制定这一原则存在争论。然而，仍然存在很大争议的是，现有的国际人道主义法是否足以解决自主武器引起的关切，或者是否需要进一步的管制

自治的范围

争论的焦点一直是自治的“尖锐末端”。缔约国和其他参与者广泛关注能够“选择和攻击”（如红十字委员会、裁研所）或“选择和接触”（如美国、英国、挪威、巴基斯坦、爱沙尼亚、人权观察社）目标而无需人为干预的武器系统。但显然，武器系统可以而且确实具有一定程度的自主性的非关键功能。类似地，非武器化的军事平台可以并且确实可以在一定程度上自主地执行功能。例如，无人机可能具有自主起降、导航、加油、情报、监视和侦察等功能。如果这辆车是武器化的，但武器是由操作员遥控的，那么自主性将不在关键功能中

可以肯定的是，在这种情况下，“自治”一词的含义存在一些不确定性。关于关键职能，缺乏自治的确切含义是《特定常规武器公约》各次自主武器会议的沮丧和困惑的根源。正如我们中的一位之前所写，“国际社会甚至不能就他们不同意的事情达成一致”。通过人类控制的概念重新定义问题的尝试也没有成功。正如我们中的另一个人所写的那样，“关于维持人类参与的必要性的激烈一致掩盖了对这意味着什么的深刻分歧。”

我们非常广泛地看待自治。在现代技术系统、武器和其他方面的不同操作点，有些任务和功能是由人类直接执行的，而有些则由系统、机器或计算机执行，这些系统或计算机已由人类编程和激活。我们所说的机器自主性，只是指机器在不需要操作员实时输入或指导的情况下执行任务或功能的能力。这种对机器自主性的广泛理解至少包括一些系统，就机器复杂性而言，这些系统可能被认为是自动化的或自动的。我们采用这种对机器自主性的理解，是因为我们认识到系统内功能的动态性质。我们还认为，由于在几个不同的频谱中更好地考虑自主性，因此仅基于其中一个频谱-机器复杂性的整体系统分类尝试缺乏实用性

回到法律上来，国际人道主义法是否与武器系统或其他军事系统的非关键功能有关？答案是“是”

《国际人道主义法》规定的持续注意义务的范围在这里特别重要的是《第一附加议定书》第57条第（1）款，其全文如下：在军事行动中，应持续注意保护平民、平民和民用物体

持续护理义务是一项一般义务道德原则但是，正如国际法协会（International Law Association）于2012年至2016年召开的21世纪敌对行为研究小组（Study Group）在其最终报告中恰当地反映的那样，“持续关注义务的普遍性不必淡化其重要性”。此外，“应”一词的使用……表明该条款所包含的任何内容对API各方都具有约束力。

该义务构成了第57条的序言部分，这可能导致人们认为它只是一种愿望，尤其是从其非常笼统的措辞来看。因此，第57（1）条被误解为需要阅读，以便与本条其余段落结合起来具有法律效力，这些段落涉及攻击中的预防措施。这导致了对持续护理义务的解释，即仅适用于攻击。就机器自主性而言，这种有缺陷的解释意味着第57（1）条只适用于上述关键功能。

我们持相反的观点。也就是说，我们认为第57（1）条规定的军事行动中的持续注意义务具有独立于第57条其他条款的法律效力，其范围比第57条的其他条款更广，该条款仅适用于袭击。正如红十字委员会对第57条的评注所解释的那样，第（1）款中的“军事行动”一词应理解为“武装部队为了作战而进行的任何行动、演习和其他活动”。与该条的其他部分不同，有人说第（2）款适用于“所有作战领域和所有级别的行动”。正如一位评论员所指出的，“这一更广泛的适用领域意味着[第57（1）条]可以单独产生具体的法律义务”。

第57（2）条最近在有关敌对网络行动的讨论中变得突出。在这方面，人们普遍认为，具有与使用动能武器相当效果的网络行动构成攻击，因此受第57条第（2）款至第（5）款关于攻击的规定的约束。我们同意这样一种观点，即在武装冲突背景下进行的任何敌对网络行动都将被第57（1）条规定的“持续注意”义务所俘获。

虽然国际人道主义法中没有对持续注意进行定义，但研究组认为，“持续注意义务”最好理解为一种行为义务，即。，旨在风险缓解和危害预防的积极和持续的义务，履行这一义务需要进行尽职调查。

将持续关注原则应用于机器自主的含义

机器自主的意义是什么？例如，英国陆军参加了无人驾驶补给车的联合保证自动补给演示。[2]这种军用自动补给车的目标是“有朝一日减少军事用户的负担和风险，同时提高后勤效率和互操作性”。但不幸的是，随着武装冲突越来越多地发生在平民聚居区及其周围，第57（1）条将对此类车辆有一定的适用性。

首先，第57条第（1）款将要求在设计和使用自动驾驶车辆时考虑到平民的安全。因此，自动地面车辆应避免例如伤害平民或损坏民用建筑和基础设施。同样，自动驾驶飞行器应该能够避免民用航空交通，并且在与运营商的通信链路发生故障时，不会撞上或损坏民用物体。

但这对第57（1）条有进一步的影响。如果自动驾驶汽车达到了如此先进和安全的程度，与远程驾驶汽车相比，它们不太可能撞上平民和民用财产，那会怎么样？可以争辩的是，在某一点上，保护平民、平民和民用物体的持续照顾义务将要求拥有此类车辆的国家使用这些车辆。国家是否有义务开发、获取或利用新技术以遵守国际人道主义法义务的问题是一个更广泛的问题，尽管其他国家已经解决了这个问题，毫无疑问，随着技术的进步，将受到更多的关注。

对《特定常规武器公约》自主武器讨论的影响

所有这些是否意味着《特定常规公约》的自主武器讨论中应包括持续关注义务和非关键功能，如自主车辆的导航？不，没有。《特定常规武器公约》的目的是禁止或限制使用被认为造成不必要或不必要后果的特定类型武器给战斗人员造成不合理的痛苦或不分青红皂白地影响平民。因此，很难看出非武器职能如何属于《特定常规武器公约》的职权范围

同时，如果未来《特定常规武器公约》对自主武器的管制脱离了对持续注意义务的讨论，这可能会造成一种情况，即各国可能被禁止通过《特定常规常规武器公约议定书》使用某些自主功能，而同时通过《行动计划一》可能有义务使用其他自主、非关键功能。这可能会导致未来的《特定常规武器公约》致命自主武器系统（LAWS）协议和AP i协议之间的紧张关系

这种可能的不协调突出了自主武器GGE的一个潜在挑战。《特定常规武器公约》是一个侧重于特定类型武器的条约制度。然而，法律专家小组（LAWS GGE）在一定程度上试图确定自主性的潜在进步——一个通用的技术描述——将如何影响任何现有或未来武器系统的发展。这是一项巨大且可能无休止的任务。因此，《特定常规武器公约》缔约国最近决定在2019年继续讨论自主武器，这并不奇怪。一方面，如上所述，在这些讨论中省略非关键武器职能将符合《特定常规武器公约》的宗旨。但另一方面，如果不考虑持续照顾义务的影响，可能会产生问题，特别是对《特定常规武器公约》缔约国而言，这些缔约国也是《亚太经合组织公约》的缔约国。

***

本文中的观点是作者Chris Jenks和Rain Liivoja的观点，并不一定反映任何政府或机构的立场

***

脚注

[1]参见塔林手册2.0，尤其是规则93；《美国国防部战争法手册》，第16.5.1段；澳大利亚《国际网络参与战略》，附件A。

[2]具有不同程度机器自主性的系统当然可以在空中和海上运行。参见，例如，杰里米·C·戈茨霍尔中校；理查德·A·洛扎诺上尉，《前方支援连的自主空中补给》，《50陆军维持44》（2018年）（描述了使用自主空中系统补给军事力量）和《自主勇士2018》，澳大利亚皇家海军倡议，测试空中、陆地、海上和水下半自主和无人（和非武装）系统的集成

***

相关博客文章

对致命自主武器系统进行有意义的人类控制的可能性艾尔克·施瓦茨
国际人道主义法的人性诺埃尔·夏尔基
自主武器系统：对人类尊严的威胁？阿里亚德娜·波普（Ariadna Pop）
道德作为法律来源：马滕斯条款和自主武器罗伯·斯派罗（Rob Sparrow），2018年11月
VOX新闻/IRC关于自主武器的视频剪辑，2018年5月
红十字委员会向联合国《特定常规武器公约》政府专家组（GGE）发表的声明，2018年4月
红十字会向联合国特定常规武器委员会政府专家组发表的声明2017年11月，2018年4月
关于国际人道主义法下的自主武器系统的论文，2017年11月
红十字委员会专家会议报告，2016年
红十字委员会专家报告，2014年

免责声明：关于人道主义法和；政策博客不得被解释为以任何方式定位红十字国际委员会，博客的内容也不等于正式的政策或理论，除非特别指出

>

简介