自国际监管辩论开始之初，人们就对确保人类对自主武器系统（AWS）的充分控制感到担忧。他们呼吁全面、积极地禁止开发和使用高度自主武器，并提出一系列更为微妙的建议，以界定和维持最常被称为“有意义”的人类控制，人类对AWS的控制程度表示为人类是否以何种身份直接参与AWS操作，例如众所周知的“环内”/“环上”/“圈外”频谱
自主控制是人的控制
武器系统的自主能力是通过基于软件的控制系统实现的，基本上是专用计算机，与受控武器通信。这些控制系统从传感器、环境、人类操作员和可能的其他自主系统接收信息；处理该信息；并向受控武器发出指令

在控制系统计算机上运行的软件当然是由人类编写的。它包括一组指令，这些指令体现了与受自主控制的功能相关的人类定义的决策过程。这并不是说软件必须表达与人类所遵循的决策过程相同的决策过程。这只意味着AWS使用的过程最终由人类定义

这些软件指令可能会指定AWS在执行某些指定操作时要遵循的一组静态步骤，也可能会描述AWS从其环境中吸收信息并“学习”如何处理任务的过程。无论哪种方式，AWS的行为都是由人工编写的软件决定的：它是否以及在什么情况下应该发起攻击，它应该如何应对环境的变化，以及它行为的其他方面（排除故障）因此，自主控制是一种人的控制，与是否有人能够实时监督或干预操作无关
在关于控制AWS的讨论中，有时会忽略这一点（可能是显而易见的），在讨论中，可能会对将使用武力的决定委托或分配给机器表示担忧。因此，值得强调的是：AWS的核心只是一台运行人类编写软件的计算机。AWS不是一个从其操作员手中接管武器控制权的决策实体。AWS控制系统本身就是行使人类控制的手段

在攻击中使用AWS或没有自主能力的武器之间的选择不是在使用武力的人类决策和机器决策之间的选择。这只是在实施攻击过程中“实时”做出的人类决策和在早期定义的、由软件编码并由机器执行的人类特定决策过程（尽管可能使用与人类不同的过程）之间的选择

类似地，AWS会选择目标并发起攻击，同时在严格的技术水平上进行纠正的想法在关于控制的讨论中可能会产生误导。发起个人攻击的决定不会让给AWS，因为这不再是人类的决定（因为AWS作为一个无生命的物体，无法在这种意义上做出决定）。相反，人类可能会做出决定，利用AWS控制软件中编码的某个过程执行一次或多次单独攻击，可能是在知道AWS可能导致攻击发起的情况下激活AWS。也就是说，发起攻击的决定仍然是人为的，但根据分配给AWS的操作范围，人为决定的性质可能会发生变化。AWS的操作员可以做出与使用手动武器时基本相同的攻击决策，甚至可以选择单个目标，也可以只做出更广泛、更像政策的决策，并依赖于先前定义的编码软件因此，与武器系统的控制和使用有关的法律和道德约束制约着对自主目标选择和攻击能力的使用，正如它们制约着任何其他武器系统能力的使用一样。国际人道主义法规则要求（人类）攻击者尽一切可能确保：只攻击合法目标；所采用的手段和方法应尽量减少预期的平民伤害；如果情况或信息发生变化，攻击将被取消或暂停；在某些情况下，这些义务可以通过依赖AWS来实现，并且在其他情况下可能需要大量的人类直接参与。
对有意义的人类控制的要求不应简单地被视为对人类与武器系统进行某种程度的直接交互的要求。相反，实施有意义的人为控制意味着采取任何必要的措施，无论是人为的还是技术的，以确保涉及AWS的操作按照指挥官的意图以及所有适用的法律、道德和其他约束条件完成。这意味着确保自治系统的使用仅限于能够证明其以允许满足所有这些约束的方式运行的范围，并且可能需要或可能不需要人留在回路中或回路中。
另一方面，在维持对武器系统的控制的背景下，人们提出了一系列的论点，要求人类在一定程度上参与AWS操作。也许最常被引用的是：人性原则和公众良知的支配不允许依赖高度自主的武器；敌方战斗人员和受影响平民的尊严将因使用自主武器进行的攻击而受到损害；通过将自己的士兵从战斗角色中移除来降低战争的政治成本，将导致各国更容易诉诸武装冲突；如果这些论点被证明是有说服力的，那么将最低限度的人为参与AWS操作视为一项独立的要求，而不是将其与AWS控制问题混为一谈，可能是有价值的。
***

这篇博文源自2018年3月21日和22日在墨尔本大学法学院举行的国际人道主义法“新兴军事技术应用于城市战争”圆桌会议，新兴军事技术监管方案（PREMT）和亚太军事法中心（APCML），并在红十字委员会2017-18年“城市战争”会议周期的背景下举行。多学科会议汇集了来自各个学科的政府、军事和学术专家，包括法律、伦理学、政治学、哲学、工程和战略研究。
***
免责声明：关于人道主义法的帖子和讨论；政策博客不得被解释为以任何方式定位红十字国际委员会，博客的内容也不构成正式的政策或原则，除非特别指出。

简介