简介

在开发现代武器时，人们不断寻找对目标造成最大伤害的方法，同时将操作员的风险降至最低（Ohlin，2017）。与此相一致，半自治系统的使用和对完全自治系统的研究有所增加（Egeland，2016；Hellström，2013）。这导致了在国家和国际层面的最高圈子中关于致命自主武器系统（LAWS）的道德使用的争论<国际社会广泛关注法律是否能够遵守国际人道主义法规则的问题。这一点尤其适用于区分、比例和必要性的《战时法》。使用LAWS的批评者担心，这些系统将对战斗人员和非战斗人员一视同仁，而且这些系统无法充分权衡攻击的军事优势和损害，因为这些评估在很大程度上取决于背景，因此难以从数字上确定（Asaro，2012；Dremliuga，2020；Egeland，2016；Van Severen&Vander Maelen，2021）

这些问题和其他问题的解决方案取决于未来的技术发展。一旦该技术达到了人道主义法规定的门槛，那么可以说，未来使用该技术将不再存在法律障碍。然而，未来可能使用LAWS引发了另一个与技术本身的自主性相关的伦理问题：为基于人工智能的结果分配道德责任的问题。近年来，无论是在法律领域还是在哲学领域，人们都注意到为法律错误分配道德责任的困难。一些作者认为，武器系统自主程度的提高将导致“责任差距”（de Jong，2020；Matthias，2004；Roff，2014；Sparrow，2007）<根据这一观点，不可能确定任何人对法律造成的损害负责。其原因一方面是，让人类承担责任是不公平的，因为他们不再控制系统（由于系统具有高度的自主性和自我学习能力），而另一方面，不可能让系统自己承担责任，因为它没有意识，也不可能成为惩罚或其他形式指责的对象

在法律法规导致的不良结果的情况下，可以区分所谓的简单情况和困难情况。简单的例子如下：一个软件工程师故意将武器编程为针对平民，或一个人类操作员部署武器进行非法攻击。在简单的情况下，有人（可能是程序员、制造商或用户（Pagallo，2013，69））利用系统作为工具实施某种犯罪。在这些情况下，他们将承担责任（Saxon，2016）。在艰难的情况下，伤害是由法律造成的，但没有人故意或不小心地行为（Königs，2022，7；McDougall，2019，70；Simmler&；Markwalder，2019，7–9；Crootof，2016，1377）。在这些情况下，如果没有相关人员能够或应该承担责任，则存在责任缺口。近年来，围绕责任差距概念的哲学文献激增，并采取了各种立场^脚注3这一概念也经常出现在法律文献中，通常被称为“责任差距”。^脚注4考虑到这些辩论中假设的巨大差异，很难确定这些观点之间的相互关系、它们的相容性以及它们的确切区别

为了推进围绕法律和责任问题的研究，重要的是增加我们对不同观点和讨论的理解。本文试图通过解开各种论点并提供批判性的概述来做到这一点。它主要是作为一种伦理分析，但该论文也将基于并讨论相关的法律文献，因为在许多关于系统的自主权力是否会使任何人无法承担责任的讨论中，道德和法律责任通常被结合在一起^脚注5为了充分理解辩论并解释不同的对话者如何就责任差距的存在与否得出不同的结论，首先对技术有一个良好的了解是很有用的。这将通过简要概述LAWS的技术状态（第1节）来完成审查有关法律责任差距的辩论，目的是澄清众多主流观点。我将通过使用三个区别点来做到这一点：那些相信责任差距存在的人与那些不存在责任差距的人（第2节），那些认为责任差距构成新的道德问题的人与认为自己不存在责任的人（第一节），以及那些声称解决方案可以成功的人，而不是那些认为这是一个无法解决的问题的人（第4节）。随着人工智能领域的发现和改进，特别是第二代人工智能系统的发现和改善，《脚注》6出现了LAWS的可能性。尽管《特定常规武器公约》（CCW）进行了各种尝试，但这类系统仍然没有普遍的定义，因此目前有几种定义在流传，每个定义都有自己的特点和重点<尽管有许多不同之处，但大多数人都理解LAWS是指：“一旦激活的系统可以选择和攻击目标，而无需操作员的进一步干预。”^脚注9为了明确区别，通常在有人在回路内、回路内或回路外的系统之间进行划分^脚注10我将在下一段中简要讨论并使用此细分部分，以概述当前的一些技术及其潜在差异

有人“在回路中”的系统是远程控制的常规系统，如无人驾驶飞行器（UAV）或无人驾驶地面车辆（UGV）。在这些系统中，数据被收集和处理，作为决策过程的输入。然而，选择目标并对交战过程保持直接控制的是操作员。有人“在回路上”的系统包括反火箭、火炮和迫击炮系统（C-RAM），如铁穹^脚注11在这些类型的系统中，人类只执行监督任务，但他们能够在必要时进行干预。韩国在非军事区使用的著名SGR-A1武器或Super aEgis II的脚注也常被归为环上系统。可以进一步提到以色列的哈洛普^脚注14这是一种游荡弹药，在特定地理区域内搜索符合特定标准的目标，并在发现目标时将其消除。最后，还有一些自主系统，人类完全“脱离了循环”。直到最近，人们普遍认为，能够在动态环境中选择和参与人类目标而不需要人类干预的系统还不存在<然而，联合国利比亚问题专家小组最近的一份报告指出，使用了一种名叫STM Kargu-2的LAWS，该系统去年在利比亚追捕并袭击了撤退的士兵，但操作员和系统之间没有数据连接^脚注16Kargu-2是一种巡逻无人机，它根据机器学习和实时图像处理对物体进行分类并做出决策

围绕法律的争论经常很激烈。一些缔约方主张毫无例外地全面禁止法律，脚注17，而其他国家如美国、俄罗斯和以色列则认为目前的国际人道主义法框架已经足够。是什么使自主武器与众不同，以及为什么据报道使用了Kargu-2这样的系统会引发如此多的争论，可以通过多种因素来解释。第一个因素是在运输、后勤、导航和监视等非关键领域以外使用自主武器。高度自治在侦察系统中已经很常见，但在LAWS的情况下，它涉及授权消除目标的决定。第二个因素是进攻性使用的可能性，因为现在大多数自动系统只用于防御。目前的系统主要用于应对即将到来的危险，并不主动搜索潜在目标。第三，有致命方面。大多数自动系统都是反物质使用的，会造成附带损害，但它们不是专门设计用来消灭人类对手的第四个因素与机器学习算法的使用有关。这些算法不同于以逻辑规则的形式预先编程的基于规则的系统。相比之下，机器学习系统基于经验（即过去的输入）来提高其在特定任务上的性能。最后一点在法律方面构成了严重挑战。系统需要大量准确的数据才能在不同的环境和环境中区分正确的目标，特别是考虑到这些是具有自学习能力的黑匣子系统（Boulanin&；Verbruggem，2017，25）。在战争环境中，机器学习的另一个难点是定义系统的任务到底是什么以及应该如何确定优化

单独来看，这些因素不被认为会导致道德问题，即使是两个或三个因素的大多数组合也不会引发国际讨论中的重大关注。例如，虽然SGR-A1是一种致命系统，能够通过热成像相机和激光测距仪消除人类目标，但它仅用于定义明确的特定区域，其任务是消除进入该区域的所有物体。铁穹能够在没有人为干预的情况下消灭目标，但具有严格的防御反物质用途。与其他具有一定自主性的现有武器系统相比，上述四个因素的结合引起了重大关切。到目前为止，高度自治的系统主要用于划定的区域或障碍可能性较小的区域，如海上和空中。城市环境，如城市或村庄，有很多人，因此变化的可能性很高，似乎不太适合部署这样的系统。此外，对高精度的要求也是该系统的障碍。一个需要识别具有高度一致性且始终来自同一方向的特定对象的系统比一个负责区分人的系统更容易开发。在个人目标或态势目标的情况下，这一点更加复杂，在这种情况下，不能仅根据某些明显的迹象来识别敌人，而必须根据特定个人在敌对行动中的角色或所指控的行为来推断（Margulies，2019，409）。迄今为止，我们所知的最先进的系统只能在相对简单的环境中执行相对简单的任务。从长远来看，LAWS似乎能够克服这种范式

责任差距的存在

为了推进围绕法律责任差距问题的研究和辩论，重要的是增加我们对文献中不同观点和立场的理解。本文试图通过解开各种论点并提供批判性的概述来做到这一点。第一个重要区别是认为责任差距存在的作者和认为责任差距不存在的作者。我认为，这种区别是由于三个因素造成的：对责任概念的适用对象的分歧，对多手问题的混淆，以及对法律性质的分歧。我将逐一讨论这些问题

关于责任差距存在的第一个分歧源于对责任概念的适用对象的分歧^脚注19在出现问题的情况下，可以区分不同的责任范围。这些职责包括LAWS的开发、设计、生产、扩散、部署和使用。通常，系统失效的方式完全符合上述范式，道德责任可归因于不同的行为者。传统上，机器操作后果的责任通常由开发人员或用户承担。这是由大多数法律系统解决的，如下所示：如果系统没有在开发人员指定的参数内运行，那么故障就归咎于开发人员。另一方面，如果系统在开发人员的规范内工作，但系统以非法方式部署，则用户（广义理解）^脚注20将负责。适用于军事背景，这些将是军事指挥官或政治当局。然而，根据相信责任差距存在的作者的说法，这种范式似乎不适用于这种情况（de Jong，2020；Matthias，2004；Roff，2014；Sparrow，2007）。原因是操作机器越来越自主。机器所依据的规则不再都是预先编程的，因此系统可以自行调整。换言之，机器“动作”的潜在后果在生产阶段不再固定，而是在机器本身的运行过程中发生变化，因为决策也基于系统从其环境和经验中获得的数据（Galliott，2020，168；Matthias，2004，177）。在决策中使用人工智能和数据驱动的机器学习减少了将责任归咎于我们通常负责的人类代理人的可能性，因为他们无法预测或控制系统行动的结果。总之，有人认为，开发人员（即工程师、设计师和程序员）不能再承担责任，因为系统做出了开发人员无法预测的选择（Tollon，2022；Egeland，2016，112；Sparrow，2007，70）。类似地，如果系统能够设定自己的目标，用户（如指挥官）似乎不需要负起应有的责任（Sparrow，2007，71）。同时，也不可能将责任归咎于机器本身，因为人们通常认为它们缺乏道德代理。确切地说，责任差距存在的支持者在狭义上使用该术语，因为他们指的是不可能将个人、道德、结果（追溯）责任归因于用户对法律引起的事件

这一点被一些作者忽视了，他们认为责任上没有这种差距，因为在任何情况下都有可能追究某人的责任。在这方面可以提及的作者如下：Sebastian Köhler、Neil Roughley和Hanno Sauer，他们认为，那些冒着伤害风险或做出最小因果贡献的人总是要承担责任（2017年），或基于预期职责的组织（2020年）。他们忽略了一个事实，即那些认为存在责任差距的人在狭义上使用了这个术语，并指的是一个问题，该问题仅指此类系统的用户（广义上）的事后责任。上述不同形式的责任（设计、扩散、使用等）并存，但不是互补的^脚注21例如，如果我们查看传统武器技术，我们会发现，虽然制造商对武器的安全负责，但这并不否定操作员对其使用的责任。上述作者的问题是，他们没有充分认识到开发者和用户之间界限的模糊。在LAWS的情况下，开发者和用户之间的区别变得模糊，因为一些关键的目标决策是在开发阶段做出的，而在传统武器中，它们完全由用户做出。这可能会增加，因为在未来的场景中，军事指挥官可以在部署期间调整LAWS的参数（Bo等人，2022，38）。因此，令人困惑的是，在系统超出预设参数（如传统系统）的情况下，开发人员不仅要考虑设计责任的归属，而且还要考虑使用LAWS的责任归属。上述作者声称，通常基于某些行为者的前瞻性责任，没有责任差距。然而，当他们提到可能被追究责任的各个行为者时，他们似乎只提到了他们在设计上的责任，而没有解释他们作为用户如何对涉及法律的不良后果负责。的确，我们总是可以指责指挥链中的某个人，例如软件工程师，因此应该证明该代理如何在作者所使用的（狭义）意义上缩小责任差距，因为目前还不清楚开发人员是否以及如何对涉及他们帮助开发的法律体系的不良结果负责

关于责任差距存在的第二个分歧源于对多手问题的混淆。多手问题是一个术语，用于描述许多行为人对造成伤害的行为做出了贡献，并且不清楚责任应该如何分配的情况^脚注22典型示例是指组织（政府、私人公司等）对不期望的结果负责，但似乎没有组织成员对该结果负责。它经常用于新技术，因为大量参与者参与了新技术的开发和使用，因此，责任链中有很多人^脚注23重要的是要记住，多手的问题意味着很难或不可能确定正确的道德责任代理人，但它并没有声称我们可以追究任何代理人的责任。一些作者提到，责任差距是由生命周期中涉及的大量人员造成或增加的（Taylor，2021，324；de Jong，2020）。然而，责任差距问题与涉及的人数无关。每个结果都没有固定的责任分配给所有责任人，个人责任不会随着更多人的参与而减少^脚注24这种困惑源于这样一个事实，即多手问题不仅是一个实际的认识问题，而且是一个规范问题。很多人的问题往往被描绘成一个纯粹的实际问题，可以通过密切关注团队内部的能力分布并在此基础上赋予适当的道德责任来解决。然而，从本质上讲，多手的问题是一个规范性问题，因此，即使有人完全知道谁导致了什么，这个问题仍然无法解决（van de Poel等人，2012，61）。这似乎意味着，人手多的问题导致了无人负责的局面。然而，事实并非如此。许多人的问题发生在我们的正义感要求团队负责的情况下，但这种责任不能减少到团队成员的责任（de Lima&；Royakkers，2015，117）^脚注25在这些情况下，小组负责，而让小组成员负责似乎并不公平^脚注26责任差距问题的关键区别在于，在传统的多人情况下，仍然可以指定一个负责的代理人，即团队

关于责任差距存在的第三个分歧来自于对法律性质的分歧。问题是，我们是否应该更多地将法律与常规武器或人类士兵类比。第一个类比主要用于那些认为没有责任差距的人，而第二个类比则用于那些认为存在责任差距的作者。根据第一种观点，LAWS应被视为工具，其决策只是延迟的人类决策（Johnson&；Axinn，2013132）。在这种背景下，Marco Sassòli和Patrick Nagler认为，在LAWS案件中的责任问题应以与常规武器造成平民伤亡相同的方式处理（Sasòli&；Nagler，2019，527）。萨索利赞同武器系统和战斗人员之间的严格区分：“武器系统和人类之间的区别不是数量上的，而是质量上的；两者不是以滑动的尺度，而是以不同的主体和客体层次”（萨索利，2014，323）^脚注27LAWS与常规武器之间的类比背后的基本原理是，LAWS本质上是人类制造的自动系统，而不是自主系统。乔安娜·布莱森因此指出，在这方面，自主系统基本上是不存在的，只应被视为工具（布莱森，2010）。因此，根据这些作者的说法，在责任上没有差距，因为人类对这些系统负有全部责任。另一方面，也经常有人认为，先进的人工智能系统不再仅仅是工具（Calo，2015；Gunkel，2020a；Lagioia&；Sartor，202433）。根据这些观点，某些系统不断增长的自主能力意味着该技术不应被视为取代用户的工具，而是取代用户本身（Gunkel，2020b，310）。自主系统类似于士兵，因为他们可以采取某种行动来实现预定状态，而无需任何预定义的规则。这意味着它们不再是完全预先编程的系统，其中所有步骤都是预先固定的，推理可以在后完全跟踪，而是具有一定自主权的系统。因此，为后一种观点辩护的作者经常指出指出责任差距的产生是因为人类不能再承担全部责任。总之，关于责任差距是否存在的分歧很大程度上取决于作者如何评估法律的性质以及他或她使用的类比

作为新道德问题的责任差距

第二个区别是，认为自主系统中的责任差距构成新道德问题，而不是捍卫自己不存在的观点的理论。在那些认为责任差距不是一个新的道德问题的作者的范畴内，我们可以大致区分两种立场：强调差距不是新的，在当代实践中也会出现，或者认为差距是存在的，但应该被视为意外，而不是道德问题<脚注28

第一个立场可以追溯到对当前战争中人类决策实践的现实看法。帕特里克·泰勒·史密斯明确捍卫了这一观点。他的论点如下：法律确实会造成无法解释的伤亡，但无论如何，这些结果也会经常发生。关于责任差距可解决性的悲观主义者错误地假设，在使用法律时，这种结果是独一无二的。使用LAWS确实可能会导致LAWS以指挥官没有下令或无法预期的方式行事，但这并非LAWS特有，因为人类作战人员也存在责任差距（Smith，2019，291）。Dan Saxon提出了类似的论点。他还指出，这种责任差距并非新鲜事，因为现代战争中也会出现这种情况：“讽刺的是，当我们容忍其他类型复杂武器的类似差距时，评论员们对自动驾驶无人机的责任差距表示担忧”（Saxon，2016，28）

第二种策略更复杂，因为它最终解释了责任差距的问题。在此，有人认为，责任差距应纯粹归为事故。塞巴斯蒂安·科勒（Sebastian Köhler）认为，应在使用仪器的责任中寻求人类人工智能交互的责任，并将其与我们使用和训练非人类动物作为工具（如警犬和赛马）的情况类似（Köchler，20203134）。一方面，这些案例清楚地表明，不可能完全消除有害后果，未采取必要预防措施的人或出于涉及有害后果风险的目的使用仪器的人通常仍负有责任。另一方面，根据Köhler的说法，这些案件也清楚地表明，可能会出现这样的情况，即认为没有人负责是正确的，因为所有的注意义务都已履行。在这些情况下，谈论责任差距是不恰当的，人们应该将其视为事故，因为它们不会造成道德问题。我们在托马斯·辛普森（Thomas Simpson）和文森特·穆勒（Vincent Müller）身上发现了类似的推理，但重点是法律。他们认为，应将LAWS造成的有害影响与非学习系统的事故进行比较和处理。在这两种情况下，决定性的是所谓的容忍水平。公差水平表示系统必须达到的最低可靠性水平。他们举了一个桥梁的例子，工程师必须设计一座足够坚固的桥梁，然后承包商负责满足该标准。此外，用户必须遵守桥的使用参数（Simpson&；Müller，2016307）。对于因所需公差水平内的条件而发生的所有事故，例如未考虑强烈温度波动的工程师或使用车辆超过桥梁最大重量的用户，至少有一人负责（无论是工程师、控制器、用户……）。但对于所有超出所需容忍水平的死亡，无论多么悲惨，都可能没有人负责（Simpson&；Müller，2016308）。以一场通常每100年才发生一次的突然暴雨为例，当时确定桥梁无法承受暴雨，因为暴雨发生的概率很低，施工成本也很高。因此，适用于LAWS的情况下，如果采取了所有必要的预防措施，但仍出现不期望的结果，则应将其视为无人负责的事故^脚注29因此，说责任差距没有问题，因为说没有人负责是正确的，这会导致解释整个责任间隙

责任差距的可解决性

第三个区别是，声称责任差距可以弥合的作者与那些认为这是不可能的作者之间的区别。在后一类中，可以放置宿命论者^脚注30作者，如罗伯特·斯派罗、安德烈亚斯·马蒂亚斯、希瑟·M·罗夫和罗斯·德·容，以及那些认为这些只是（军事）事故的人（见上文）。解决责任差距的战略千差万别。除了前一段中的解决方案，即责任差距纯属（军事）事故，因此通过解释来解决差距，还有其他真正的解决方案。从广义上讲，可以区分四个方面：技术解决方案、实际安排、让系统自己负责以及分配集体责任。我将简要讨论这些问题

技术解决方案

第一个策略是将责任差距作为一个纯粹的经验问题，通过技术解决方案追踪因果链即可解决。根据提出这一解决方案的作者，责任差距的主要问题是缺乏透明度和可解释性。因此，一旦所谓的黑匣子能够打开，我们能够识别因果之间的每一个环节，问题就迎刃而解了^脚注31Saxon更进一步，指出使用自动无人机和伴随的记录系统甚至可能最终使确立个人刑事责任变得更容易（Saxon，2016，34）

问题是，这些技术解决方案无法解决责任差距的真正问题。换言之，它不能完全理解责任差距问题是一个规范性问题，涉及分配个人道德结果责任的能力。用技术解决方案解决责任差距的作者误解了责任差距的问题，因为他们混淆了道德责任归属问题和因果关系问题。诚然，在一些自治系统中，存在黑箱问题，并且很难及时追踪不良结果，因为LAWS的性能是多次多次决策的结果。然而，为提高因果关系的透明度而提供的技术解决方案最多只能确定相关的因果因素。人们确实可以认为，在法律有害影响的情况下，由于我们将任务（部分）委托给系统的那一刻，人类行为体的行为与结果之间的因果关系就不那么直接了，下达命令与执行任务之间的因果关系就减少了。这是因为一些决策权已经转移给了一个非人类的代理人，他不再完全预先编程，而是拥有一些自由裁量权。在这种情况下，尽管订购方仍然确定顶层目标，例如系统将在何处和何时部署，但系统可以采取某些行动以实现预定状态，而无需任何预定义规则。然而，行为与结果之间因果关系的模糊并不是分配道德责任的实质问题。将其与普通等级结构中下属拥有一定决策权的情况进行比较。在这种情况下，尽管命令的发布与结果之间的因果关系有所减少，但道德责任仍然在命令链中向上流动。这表明，仅仅减少因果关系并不一定也会减少道德责任的归属。因此，追踪在法律行为发生之前作出的所有决定不足以作为彻底的解决办法，因为责任差距问题不能纯粹从因果层面上找到

实际安排

第二类解决方案包括那些希望通过实际安排解决责任差距的作者。根据这一解决方案，可以提出改变责任制度的建议，例如在刑法中采用严格责任，支持在这些情况下使用侵权法或国家责任的建议，^脚注32接受所谓的空白支票责任，即人类代理人在知情同意后，让自己为军事机器人的行为负责（Champagne&；Tonkens，2015），并接受事先的责任，人类特工愿意采取“道德冒险”（Taddeo&；Blanchard，2022）。为了本文的目的，没有必要深入探讨这些（基本上是合法的）解决方案的具体细微差别，但只要指出基本的共同点就足够了。本质上，它们都是纠正不良结果的方法，无论是否存在道德责任。换句话说，这些解决方案都是一种（强制）承担责任的形式。它们的目的是修复损害，并保护社区免受可能被证明是危险的并可能造成严重损害的活动的费用。这方面的一个具体例子是，参与制定和制作法律的公司或政府有义务赔偿受害者因此造成的任何损失。根本的想法是，对责任差距的讨论仍然停留在道德责任的语言上，但在没有个人故意行为的情况下，这不是一个好的解决方案，最好是着眼于无过错计划来弥补责任差距

然而，这一解决方案是一种纯粹的实际回应，充其量只能导致就谁应支付所遭受伤害的费用达成协议，但不能满足受害者的怨恨情绪。纯粹的法律责任不一定符合我们人类的报复倾向。为了充分理解这一点，我们需要考虑约翰·丹纳赫（John Danaher）的“报应差距”概念。道德结果责任与报应密切相关（van de Poel等人，2012，64）。Danaher从经验证据开始，该证据表明人类是天生的报应主义者：当道德上有害的结果发生时，人们往往会找人惩罚。基于此，Danaher认为，机器人化程度的提高会导致报复性差距，因为某些心理惩罚欲望与缺乏合适人选之间存在不匹配（Danaher，2016302）。关于解决责任差距的实际安排的建议无法弥补这一点。当然，我们可以“同意”在法律造成损害的情况下适用严格的责任规则，但这些民事法律标准不能用于解决责任差距，因为问题不是缺乏赔偿，而是无法惩罚权利代理人（Amoroso&；Giordano，2019；Chengeta，2016）。因此，必须将责任差距问题与“补救差距”区分开来，因为“补救缺口”只是纠正不良情况的问题（Taylor，2021，322）。另一方面，彻底解决责任差距需要更多的东西：通过报复纠正情况的能力

让系统自己负责

以下两种解决方案试图解决这个更根本的问题。第三种解决方案涉及让系统自身负责的可能性（List，2021；Simmler&Markwalder，2019；Tigard，2021）。其理由是，尽管人工智能系统是由人类开发的，但已经实现一定程度自主的人工智能系统的责任不能减少为人类的责任<在这方面，Lagioia和Sartor认为，迄今为止用于将非人类实体排除在刑法范围之外的假设可能需要针对AI系统进行修改。根据他们的说法，人工智能系统似乎不仅可以满足客观成分，即犯罪的执行，而且主观成分，即心理因素，也可以在特定条件下归因于特定的人工智能系统（Lagioia&；Sartor，2020，437）^脚注34我们发现托马斯·赫尔斯特罗姆也有类似的想法。作者认为，自主权力是将道德责任分配给代理人的决定性因素。换句话说，一个人拥有的权力越多，他承担的责任就越多。最近的心理学研究表明，人们将道德责任分配给机器人，这种情况发生的程度取决于系统的自主程度（Furlaugh等人，2021）。随着我们将在未来将越来越复杂的决策委托给机器人，我们似乎将与其他代理共享或分离的道德责任分配给系统本身（Hellström，2013105）。丹尼尔·蒂加德补充道，从某种意义上说，可以惩罚该系统：“我们可以对人工道德代理人的应用领域实施制裁，限制其先前授权的行为，或者努力重写任何不正常或不受欢迎的代码行（……）虽然人工道德代理人不能像我们一样受苦，但他们可以也应该承受实施有害行为的后果。具有功能道德的人工智能系统可能有一天会学习并改进其独特的错误，作为一种强化学习”（蒂加德，2021，442-443）

我认为，这个解决方案是有问题的，因为它没有准确反映当前技术的本质。我同意法律不仅仅是工具，但我拒绝将其视为真正的道德代理人的建议。诚然，法律和士兵之间的差距可能比我们最初认为的要小。如果我们看一看常规空中行动军事决策周期中的不同步骤，可以认为操作员在常规空中行动中的作用也是有限的。Merel Ekelhof在其对军事实践中人类控制现状的研究中，通过对有人驾驶的F-16使用GPS制导武器攻击军事基地的军事决策周期的分析，表明飞行员的主要作用是导航到武器可以到达目标的区域（Ekelhov，2019）。这是因为详细的任务规划是由其他空军人员完成的，目标在起飞前已经得到验证。操作员只需将飞机的目标坐标和位置输入炸弹的计算机中，按下开关即可卸下武器，因为使用GPS制导弹药，不需要目视找到目标，而且计算机会建议卸下武器的最有效时间。然后，GPS制导武器导航到指定的目标坐标以与目标交战。因此，运营商没有积极参与规划阶段或目标阶段。Ekelhof进一步指出，在正常情况下，F-16操作员决不会自主决定攻击目标（Ekelhov，2019，347）。看来，LAWS日益增强的自主能力将模糊武器和战斗人员之间的根本区别。这是因为可以注意到使用情况的变化，越来越多的系统不再用作工具，而是被部署来替代人工边防<此外，随着各种辅助设备的普及，操作员在常规空中作战中的作用越来越有限。然而，重要的是要记住，LAWS不是根据nihilo创建的。由于系统能够学习新的信息，因此自主系统能够实现某些一般目标，而不需要狭隘地定义可能的解决方案，但是其决策能力和自主能力仍然受到软件的原始编程和硬件组件的限制

集体责任

最后，根据机构的协作性质，有一种将责任分配给相关人员的解决方案。我们发现斯文·尼霍姆（Sven Nyholm）清楚地持有这一观点。根据他的说法，通过考虑人与机器人的合作，而不是坚持LAWS具有某种形式的独立机构，可以避免责任差距：“我们不应将军事机器人视为以独立的方式行事。相反，就我们将机构归属于它而言，我们应将其视为行使受监督和恭敬的合作机构。也就是说，我们应认为它与相关人类合作，并受这些人类的监督和授权”（Nyholm，2018，1212）。他以一个孩子在父母的倡议下园艺为例说明了合作机构的想法，父母监督孩子，确保孩子以正确的方式园艺。正如儿童不会主动行动一样，军事机器人也不会主动行动，因为军事机器人的行动是基于人类发起的行动。此外，人类仍然对系统施加某种形式的间接控制和监督，毕竟，如果系统以不期望的方式运行，软件将被修改，或停止使用。因此，Nyholm指出，在这些情况下，“参与这些合作的人类是否负有重大责任，应该没有问题。同样，除非机器人凭空出现，并开始以完全独立的方式在相关的人-机器人互动中行动，否则它正在与相关的人类合作”（Nyholm，2018，1213–1214）。总之，尽管它涉及团队级别的行动，机器人可能会完成大部分工作，但人类代理可以也应该根据其在层级中的角色承担责任，因为他们发起并监督人机协作。Jai Galliott同样认为，“所有参与的代理人和与使用自主系统相关的任何其他人都负有一定的责任，尽管他们可能声称自己没有完全或绝对控制”（Galliott，2020，170）。Nyholm和Galliott都指出，对个体机构的关注是不够的，他们认为我们应该从人与机器人合作的角度来思考。然而，与Nyholm不同，Galliott提出的责任理论也明确包括将部分责任分配给非人类代理人的可能性

许多作者认为，通过研究军队的等级结构，可以（部分）解决分配责任的问题（Himmelreich，2019；Nyholm，2018；Schmitt，2012；Schulzke，2013）。像这样的Nyholm认为“当我们试图为这些技术造成的任何伤害或死亡分配责任时，我们不应该关注个体代理和个体代理责任的理论。我们应该借鉴合作代理和此类代理责任的哲学分析。特别是，我们应该借鉴协作代理的分层模型，其中一些代理在在合作过程中，其他代理“监督和授权”（Nyholm，2018，1203）。这是指传统军事组织中的问责制方法，其中责任在指挥链中向上流动（裁研所，2017，14）。从下到上，士兵们对指挥官负责遵守（或不遵守）严格的命令。随后，指挥官负责做出决定。如果出现问题，指挥官不能简单地通过向下属授权来免除其个人责任，因此军事领导人可能会对下属犯下的罪行负责。在法律文献中，这种解决方案是协作机构的具体化，在指挥责任原则下更为人所知。指挥责任是一种责任归属形式，上级可以对下级犯下的罪行承担间接责任^脚注36它有时被讨论为解决责任差距的解决方案，因为它允许道德代理人对他们做出的有关法律的决定负责，同时避免让没有能力防止法律的不良后果的代理人负责^脚注37虽然指挥官可能无法直接控制下属的行动，但他们确实拥有间接控制权，包括将对后续事件的部分控制权交给自主系统的决定。此外，指挥官仍将确定系统运行的一般参数，例如在何处、何时、如何以及对谁使用军事力量。由于指挥官仍在发起和监督行动，因此，即使是在LAWS的情况下，指挥官仍有责任似乎是合理的

然而，这种解决方案存在着不充分认识到系统自学习能力对层级结构的影响的风险，最坏的情况下，可能导致指挥官仅基于指挥链中的特定位置而被不公平地追究责任。自主武器不同于手动武器系统，因为在后者中，人类选择攻击对象并进行攻击。关于LAWS，这是复杂的，因为它将是在LAWS控制系统中运行的目标选择代码，用于识别并最终攻击目标。自主系统被编程为实现某些总体目标，但可能的解决方案并没有被严格定义，并且受到系统组件之间所有可能的交互、混乱和复杂的操作环境以及对手方不可预测的行动的影响（McFarland，2020，60）。因此，预测武器的性能实际上是不可行的^脚注38这是有问题的，因为LAWS的自主权力可能会导致指挥官责任的削弱（Taddeo&；Blanchard，2022，13–14）。为了让指挥官承担相当的责任，指挥官有必要或应该有一定程度的知识，知道某一行动会导致特定的坏结果^脚注39鉴于软件在法律上的操作的内在复杂性，很难确定和证明指挥官应该掌握的知识程度，以及指挥官可以获得的信息的程度是他或她的责任。特别是由于指挥官对下属学习的影响将发生巨大变化。在传统情况下，指挥官训练下属，而在LAWS的情况下，行为将在很大程度上由其他参与者决定比那些在战场上使用它的人。此外，人类上级和人类下级之间的关系在多大程度上类似于人类上级和非人类下级之间，这是不确定的。一些作者强调，指挥责任取决于下属的错误行为，由于LAWS无法有意识地采取行动，因此不可能类似地适用指挥责任（Chengeta，2016，31）

结论

在涉及道德决策的任务和环境中部署自动化系统自然会引发道德问题。近年来，有关法律法规以及其他导致责任差距的自主决策系统的文献迅速增长。正如现在应该清楚的那样，对于法律是否会导致责任差距、是否构成新的道德问题以及是否可以找到解决办法等问题，文献并没有提供一个单一的答案。我试图通过揭示一些基本前提来增加对法律责任差距问题的理解。此外，我在这篇文章中表明，如果我们接受狭义上责任差距的存在，那么简单地缩小差距就不是那么容易了。此外，我还指出了这项技术的特殊性，以及LAWS和军人之间的差距可能比最初想象的要小。责任差距问题的彻底解决方案将是既充分认识到问题，又不将其视为单纯的经验问题，同时能够反映技术日益自主的性质，而不冒法律拟人化或免除所有相关人类行为者任何责任的风险