国际人道主义法（IHL）规范武装冲突中使用武力。它内在地为武装冲突的受害者提供保护，同时至少在某种程度上人性化了一些人类最不人道的行为。因此，国际人道主义法的区别、人道、不必要的痛苦和相称性原则有助于缓和军事必要性的适用。在一个新兴技术的时代，国际社会正在深入讨论如何应用这些原则，特别是在武器系统中，这些系统将通过机器学习的应用和人工智能的发展做出涉及生死的自主决策。这样的讨论应该让我们反思与国际人道主义法的应用有关的一个基本问题规范武装冲突的法律是否旨在提供“最佳保护”对武装冲突受害者可能的保护还是对人类可能的最佳保护换言之，当前的一般国际人道主义法合规标准通常以人类决策的方式来描述，即人类指挥官必须做出特定的法律决定，如下文所述的相称性。

这是否意味着实际的法律标准与人类决策有关？如果该标准是“尽可能人性化的最佳标准”，那么任何新兴技术都必须服从人类对国际人道主义法适用的决定，包括承认这些决定将继续受到人类监督和潜在的人为错误。请注意，红十字国际委员会已就这一问题发表了两项相关声明[1]。

然而，如果这一要求是国际人道主义法的“最佳可能”应用，并且我们相信自主武器或人工智能或使用机器学习的武器可以实际应用武力，至少在某些情况下可以更好地保护人类，然后我们得出不同的结果。在这种情况下，国际社会应该鼓励开发在战场上应用机器学习或人工智能的自主武器，因为它们可能（很可能）能够应用国际人道主义法的法律要求，从而为武装冲突受害者提供更大的保护，包括任何应用机器学习或人工智能的自主武器，都必须接受并满足武器审查的要求。在法律上不可能部署不符合法律审查所有要求的武器。确定人类在致命目标决策中的作用的意义在于为该审查提供基本依据。对于要部署的自主武器，它绝对必须经过彻底测试，并证明它可以在战场上正确应用国际人道主义法。

这里提出的重要问题是审查的标准。如果这一标准是武器系统能够以提供尽可能人性化的最佳保护的方式应用法律，那么就不需要研究和开发某些类型的自主能力。然而，如果标准是以对武装冲突潜在受害者提供最佳保护的方式适用国际人道主义法，利用机器学习和人工智能而无需实时人工参与的大量可能的自主武器现在可能能够开发和部署。

区分原则

尽可能的最佳防护“可能”，考虑区分原则（例如，这里和这里）。根据国际人道主义法，参与袭击的每个人都有义务适用区分原则。特别是，以平民为目标是非法的。不采取切实可行的预防措施保护可能在其他合法袭击中意外受伤或死亡的平民也是违法的。不遵守这些法律要求是违反战争法的。武装部队成员可能会因未能适当区分而被追究个人刑事责任，并且通常会提出指控此类违法行为的主张。[2]
与此同时，很少有武装冲突中的人会辩称，错误从未发生，平民从未被错误地（尽管是无意的）作为攻击目标。这些意外死亡的案例通常是由于对区分原则的错误应用，基于智力的失败，或者有时仅仅是人为错误。在这样的决策中，快速收集和分析目标的所有可用数据的能力通常会对那些正在做出目标决定

尽可能提供最佳保护
现在，考虑一个与大量传感器相连的自主武器系统，该系统设计为结合机器学习，可以比人脑更快地收集和分析大量数据。例如，它可能能够做到这一点，通过拥有更大的能力，根据遍布该地区的传感器，辨别人群中敌方战斗机和非敌方平民之间的区别，这些传感器提供人群中个人的其他不可观测数据。请注意，由机器学习驱动的自主系统已经证明了在进行非常复杂和复杂的分析时优于人类的能力，例如正确诊断医疗状况和玩复杂游戏

如果这样一个系统能够根据更快地收集和分析更大数据集的能力，在统计上有更好的机会得出正确的区分结论，那么很可能会减少无辜死亡的机会。从国际人道主义法的观点来看，人的决策不是法律遵守的一个组成部分，人没有适用区分原则也无关紧要。相反，重要的是，该原则更经常地得到正确应用，或者平民的伤亡比人类决策的结果要少

比例原则
尽可能提供最佳保护
同样，考虑比例的应用。指挥官有义务避免对平民造成伤亡和/或对民用物体造成的损害将超出袭击预期的具体和直接军事优势的袭击（API第51条）。也许这一决定最“人性化”的方面是平衡预期的军事优势和潜在的附带损害。对于那些认为国际人道主义法需要尽可能“人性化”的最佳决定的人来说，该决定的人性方面可能非常重要，即使一些相称性决定的结果受到强烈批评

在这种观点下，如果没有人类输入，任何致命的目标决策都不符合国际人道主义法，那么技术创新的讨论必须与创造更好的方式来支持人类的固有人类决策联系在一起。这种观点并没有使人工智能和机器学习研究与开发变得无用，但它应该以一种旨在支持人类决策者的方式来界定这种研究与开发，而不是创造一个独立的决策者

尽可能提供最佳保护
对于那些认为国际人道主义法的“最佳”应用，如比例原则，是在完成军事任务的同时造成最小附带损害的人，自主决策或基于机器学习或人工智能的决策可能会更好地应用该原则，因为它有可能导致更少的平民伤亡

技术乐观主义者
技术乐观者会相信，自主武器得出比人类“更好”结论的能力是绝对可能的，事实上，在某些情况下，只要有足够的研究和开发，这种能力是可能的。一个不受情绪（如愤怒、恐惧和攻击）影响或受到身体限制（如感官受限、疲劳或无法快速处理决策时可用的所有事实数据）的自主武器系统很可能能够以更符合法律的方式应用这些原则。如果乐观的技术观点是准确的，那么国际社会显然应该大力鼓励研发具有这些能力的自主武器，以使人类能够更准确地应用国际人道主义法原则。如果能够开发出应用机器学习或人工智能的自主武器，并且能够挽救更多的平民生命，一些人甚至会认为，各国将有义务开发这种武器

技术怀疑者
相反，技术怀疑者会辩称，此类技术目前不存在，也不太可能被开发。因此，我们不应该研究和开发用于武器的这些技术，或者至少我们应该非常谨慎地前进。持怀疑态度的人认为，这种研究和开发是否会产生机器学习或人工智能，从而证明有能力以比人类产生“更好”结果的方式应用国际人道主义法原则，存在重大的不确定性
人类决策在国际人道主义法中的作用

尽管对于技术在决策能力方面所走的道路可能存在严重的谨慎态度，但技术怀疑论者往往没有真正解决人类决策在国际人道主义法中的作用这一根本问题。研究与开发是否有可能取得成功的结论，对于持更乐观看法的国家是否能够/应该为此目的进行研究与开发并不具有决定性意义相反，根本问题是，国际人道主义法是否排除了非人类在使用致命武力方面的决策，从而使各国无法进行这些技术开发。

因此，随着技术的不断发展，人工智能和机器学习作为自主武器系统的一部分的发展问题又回到了国际人道主义法要求最佳“人类”应用法律还是简单地要求最佳“可能”应用法律的根本问题上。事实上，在未来的某个时候，有可能以减少非人类决策导致的平民伤亡的方式实施国际人道主义法，这应该鼓励我们现在考虑并回答这个问题

脚注
[1]红十字委员会2018年4月18日在《特定常规武器公约》（CCW）致命自主武器系统政府专家组上的声明：限制武器系统的自主性；红十字委员会2017年11月15日在《特定常规武器公约》（CCW）致命自主武器系统政府专家组：致命自主武器专家会议上发表的声明

[2]前南问题国际法庭，检察官诉安特·戈托维纳、伊万·切尔马克和姆拉登·马尔卡奇，判决书，IT-06-90-T，第一审判分庭，2011年4月15日（戈托维娜审判判决书）；前南问题国际法庭，检察官诉Ante Gotovina和Mladen Markač，判决书，IT-06-90-A，上诉分庭，2012年11月16日（Gotovina上诉判决书）

***

相关博客文章
➡自主武器：操作有意义的人类控制Merel Ekelhof
➡战争中的人类判断和致命决策Paul Scharre
➡自主武器和人类控制Tim McFarland
➡自主武器系统：人类控制的伦理基础？尼尔·戴维森
➡自主武器系统：对人类尊严的威胁？阿里亚德娜流行
➡道德作为法律的来源：马滕斯条款和自主武器Rob Sparrow
➡自主武器迷你系列：武装冲突中的距离、武器技术和人性Alex Leveringhaus

➡迷你系列简介：自主武器系统和伦理；政策博客不得被解释为以任何方式定位红十字国际委员会，博客的内容也不等于正式的政策或理论，除非特别指出