1 简介

人工智能目前几乎被用于每个领域，包括军事领域。目前，军事领域有许多人工智能应用，它们的采用正在加速，包括那些需要伦理评估和判断的应用。一个受到广泛关注的应用是用于瞄准和交战目的的（辅助）决策系统，特别是致命自主武器系统（LAWS），以及关于如何监管这些系统以及国际人道主义法（IHL）应如何处理这些系统的问题[1,2,3,4,5]。除了关注国际人道主义法外，另一个关键问题是这些系统所采取行动的责任分配。这一担忧在关于军事人工智能治理的国际辩论和学术讨论中都很突出。伦理辩论中的一个重要问题是，在出现问题的情况下，这些系统的责任归属，通常被称为“责任差距”。该术语由Andreas Matthias在自主机器（2004）的背景下提出，后来由Robert Sparrow应用于LAWS[6]，仍然是哲学和法律领域讨论的焦点[7,8,9]。在LAWS的背景下，当追究某人对某种（不良）结果的责任似乎是合适的时候，责任差距就会显现出来，但根据我们的道德责任归因标准理论，没有合适的责任对象

尽管重要的是要认识到，无论是一般的自主系统还是特定的LAWS，都不是简单的机器，而是涉及机器（硬件和软件）组件和众多人类行为者（开发人员、操作员、用户）的社会技术系统，导致一些作者指出责任差距是一个多人问题[10]，但讨论责任差距和LAWS的主要焦点是分配向后看的责任。这场争论围绕着这样一个论点，即由于系统的自主性日益增强——其特征是自我学习能力和根据环境反馈调整行为的能力——机器和相关人员都不应承担责任。这台机器虽然可能负有因果责任，但缺乏道德能动性，这意味着，根据标准理论，它不能被追究责任。与此同时，人们认为人类缺乏必要的控制和/或知识，这是分配道德责任的必要条件。因此，追究任何一方的责任都是不公平的[6,8]。为了解决这一所谓的责任差距，已经提出了多种解决方案。其中一些作者主张修改我们标准责任归因理论中描述的条件。通过修改标准条件，让人类（或机器）承担责任变得可行^脚注2此类提案包括在概念上对责任概念进行不同的设计[16]；引入“空白支票”责任，即人类对军事机器人的行为负责[17]，以及建议在刑法中采用严格责任的法律提案

责任归属通常基于行为直接造成的影响。由于其自学习和自主能力，这在LAWS的背景下变得具有挑战性。多位作者反对在LAWS的背景下，运营商或军事指挥官承担直接的个人刑事责任，强调这种责任需要意图或鲁莽，以及行动与结果之间的直接因果关系[18]；狄金森，2019；Chengeta，[19]第16-27页；Crootof，[7]第1376页；埃格兰，[3]第106页；萨克森，[20]第28页）。鉴于操作员和指挥官都没有直接参与LAWS的攻击执行，并且由于有意义的人为控制非常有限而缺乏内疚感，因此确定直接的个人刑事责任似乎极不可能。然而，为解决LAWS中的责任差距而提出的一个有趣的解决方案植根于军事等级制度内的责任归属，特别是通过指挥责任的概念^脚注3指挥责任原则是习惯国际法的一部分，如《国际刑事法院规约》第28条、《日内瓦四公约第一附加议定书》第86-87条和《前南问题国际法庭规约》第7条第（3）款所编纂，并在联合国前南斯拉夫问题国际法庭和卢旺达问题国际法庭的判例法中得到解释（其中包括Delalić案、Blaskić案、Kayishema案和Ruzindana案）案件）。该理论认为，军事领导人应对其下属犯下的罪行承担刑事责任，这构成了一种与下属行为有关的疏忽责任，而不是单独的刑事犯罪[21]，第18页）。这种方法很有趣，因为它使指挥官能够对间接造成的影响负责。责任可以根据人类所处的因果关系（监督）来归因，使责任遵循监督的路线

在人工智能伦理学和法律文献中，使用指挥责任来解决LAWS中的责任差距的解决方案既有人提出，也有人批评<然而，在这种伦理和法律评估中缺乏的、研究不足的是与最近实证心理学研究的联系。这种整合不仅可以更好地理解在现实世界中应用指挥责任理论等理论框架的实际意义，还可以推进当前正在进行的理论辩论，因为实证研究可以验证或挑战文献中的理论假设，并确定责任分配的新模式和趋势。因此，本文专门探讨了LAWS背景下的责任差距，旨在研究将指挥责任原则作为解决这些差距的方法在多大程度上造成了道德差距。从道德、论证和说服力方面呈现的内容不一定与从心理学角度看待这个道德问题的方式一致。其目的是将讨论锚定在经验现实中，而不是完全依赖于规范性论据。本文的最终目标是评估将指挥责任类似应用于LAWS的可行性和可取性

在门派。1，我们探讨了将指挥责任理论应用于自主系统的初始理论合理性，考虑了拟人化倾向、部署自主系统时指挥官的责任感以及与自主系统的交互对道德决策和代理感（SoA）的影响等因素。我们建议指挥官可能是合适的人选。在门派。2我们将认为，在传统的等级制度环境中应用基于研究的类似学说可能并不谨慎，这表明无论是被胁迫的代理人还是指挥官都不会对其行为产生代理作用，这可能会导致真正的责任差距。然而，在Sect。3我们认为，这种差距可能不会天生造成问题，因为并非所有的规范性解决方案都需要以描述性事实为基础，这与传统的等级制度相类似，在传统的等级制环境中，尽管指挥官明显缺乏责任感，但我们通常会将责任归咎于他们。第4节最后主张在将该理论应用于非人类行为者时要谨慎，并给出了实践和理论反思，以证明为什么经验事实和伦理解决方案之间的差距不应该太大

2 将指挥责任应用于人工下属的可行性

在本节中，我们探讨了将指挥责任原则应用于包括人工下属的场景的可行性，该原则传统上适用于涉及人类上级和人类下属的情况[C^H∧S^A]。该原则是国际刑法中的法理学原则，旨在追究军事指挥官对其下属犯下的战争罪行的责任。特设法庭和国际刑事法院（ICC）以各种方式发展和应用了这一原则，导致国际协议中的编纂不一致[28]，第265-266页）。一般来说，如果上级对下级有实际控制权，知道或有理由知道下级的犯罪行为，并且没有采取必要和合理的措施来防止或惩罚他们，则上级应承担责任[7]，第1378页）。从伦理上讲，该申请似乎是合理的，因为指挥官通常被认为对人类下属造成的不利结果负责，尽管这些下属通常拥有很大的自由裁量权。此外，关于指挥责任概念最初是为了规范战场上人类之间的互动而提出的论点，并不是排除其适应涉及人工实体的新挑战的初步理由。这个将该原则作为解决责任差距的可能答案并不是什么新鲜事。Himmelreich[22,23,24]等人在人工智能伦理和法律文献中就LAWS进行了辩护。在本节中，我们认为，这种适应不仅从伦理或法律的角度来看是有意义的，而且从实证的角度来看也是有意义的。我们从心理学的最新文献中概述了三个原因，我们将依次讨论每个原因

将AI视为从属代理的第一个原因是我们人类的拟人化倾向。拟人化是指将人类特征独特地归因于非人类实体的倾向[29]。彼得·辛格和乔尔·加罗[30]在十多年前就报道了人类与机器建立关系的有趣趋势。他们通过研究驻伊拉克和阿富汗的美国士兵的行为来说明这一现象，这些士兵通过给他们起名、授予他们战场晋升、冒着生命危险保护机器人的“生命”以及哀悼他们的“死亡”，与他们的PackBot建立了出乎意料的亲密个人关系[30,31]。这种独特的人机结合是该系统在军事单位内的集成及其在战场作战中所起作用的结果。另一个因素是机器的形状和对人类相似性的感知，因为最近的研究表明，拟人化设计特征对与人类相关的结果有积极的影响[32]。这种趋势影响人们的判断和决策的另一个例子包括人类更不愿意牺牲机器[33]。因此，将人工智能视为从属代理并不像人们想象的那么牵强，从这个角度来看也是合理的。此外，近年来越来越多的心理学研究表明，我们倾向于将道德责任归因于非人类主体，导致我们愿意责怪机器人[34,35,36,37,38,39,40,41,42,43,44,45,46]。与机器人被描述为非自主的场景相比，这种趋势在机器人被描述成自主的场景中尤为明显，这表明人们将他们视为社会行为者并将责任归咎于他们的程度取决于感知到的自主程度[47]。值得一提的是Kneer和Christen最近发表的一篇论文[38]，第3页），他们使用Robert Sparrow著名的自主武器系统在日本、德国和美国参与者中犯下战争罪的例子进行了一项跨文化实证研究。该研究得出结论，人们表现出相当大的意愿，要求自主武器系统承担道德责任。这一发现似乎与哲学文献中经常提出的假设相矛盾，即人们认为对道德负责的机器是荒谬的，并表明人们远非轻视将道德责任赋予机器的可能性

考虑将指挥责任概念扩展到非人类下属的第二个原因是，指挥官不仅要对人类飞行员犯下的战争罪行负责，还要对调度自主系统负责。这是由Kneer和Christen进行的实验得出的[38]，该实验清楚地表明，在这两种情况下，指挥官被认为负有同等责任（日本），甚至在调度自主系统时，与部署人类飞行员的情况（德国和美国）相比，指挥官的责任更大。这与Caspar等人[48]的研究结果一致，该研究表明，与指挥官向人类代理人发出命令相比，指挥官向机器人代理人发出命令时的明确责任自我评级更高（第17页）。对于不同层次的责任归属，一种可能的解释是，在传统情况下[C^H∧S^H]，与涉及自主系统[C^H∧S]的情况相比，下属被认为拥有更多的自由裁量权。因此，下属的自主权影响着指挥官的责任感。这可能是因为人们认为，在这些情况下，指挥官在军事行动的规划和部署中发挥着更积极和直接的作用。在[C^H∧S^A]的情况下，这种影响是否真的更大，需要根据系统的能力逐案评估。然而，卡斯帕及其同事在2021年的论文中的实验似乎捕捉到了这样一种直觉，即在这些情况下，指挥官仍然决定了系统运行的一般参数，例如在哪里、何时、如何以及针对谁使用武力。机器不要随意创建任务，并且总是受到层次顺序的约束。本质上，该实验支持哲学家和律师的提议，即人类代理人可以根据其监督作用对机器造成的不利结果负责

第三，道德决策增加了SoA[49]，人们有意识地参与具有道德挑战性的任务似乎不会受到与自主系统互动的不利影响[50]。在准备解释这一点时，让我们首先弄清楚SoA是什么。SoA是指人类意识到自己是自己行为的作者，从而意识到这些行为的后果[51,52,53]；Pyasik，Salatino等人，[54]）。SoA使我们能够将自己视为因果主体[55]，因此是对行为负责的感觉的前兆。它被认为是人类意识的一个重要方面，与道德责任密切相关[49]；卡斯帕、克里斯滕森、克莱曼和；哈格德[56]）。然而，虽然责任是一个明确的社会概念，但SoA通常是隐含的，还有其他具有意图绑定（IB）效应的技术。IB指的是在主动而非被动运动中观察到的动作与其结果之间的时间间隔的主观压缩：参与者被要求估计他们执行的动作与其后果之间的时间距离[57,58,59]。一系列先前的研究表明，行动和结果之间的时间估计是SoA[60,61,62]的一种有效的隐式定量衡量方法，优于主观责任衡量方法，后者受社会期望和其他偏见的影响，如自私偏见（例如Blackwood等人[63,64]）。这一发现意味着指挥官可能是承担责任的合适人选，因为尽管有自主系统的参与，但参与度和代理感仍然保持不变[50]

总之，当我们将上述三个原因结合起来时，就会出现一个初步的令人信服的论点。人类表现出明显的拟人化倾向，甚至表现出让机器人负责的意愿。考虑到这一点，假设的S^A部分似乎是可行的。此外，指挥官比人类下属承担同等甚至更大的责任。此外，从事道德挑战任务的人不会受到与自主系统交互的负面影响，这一事实表明，指挥官可能是承担道德责任的合适人选

3检查实际应用和层次动态中的问题

然而，仅依赖Sect的结果。1不是扩大责任的有力论据。这不仅从逻辑推理的角度来看是正确的，而且最近关于等级关系对道德责任归因影响的实证研究也进一步强调了这一点。在本节中，我们认为，由于指挥官SoA降低的潜在风险，这样的延期可能不谨慎

在传统[C^H∧S^H]关系中进行的研究表明，指挥官的SoA在层级设置中会降低，下属的SoA也会降低，因此指挥官和下属在层级设置下都会感到责任感降低[48,65]。在2018年的研究中，卡斯帕和同事们调查了在指挥官-下属关系中，SoA和责任是否从接收命令的人转移到下达命令的人。在实验中，志愿者轮流扮演“指挥官”、“特工”或“受害者”的角色，指挥官指示特工对“受害者”进行痛苦的电击。他们测试了隐含的代理感，但也明确质疑了责任。结果表明，当特工（即下属）收到命令时，与他们自由选择执行哪个行动时相比，SoA会降低，当指挥官命令特工代表他们实施电击时，与自己行动时相比SoA会下降。换言之，研究结果表明，强制性情况可能会破坏代理人和指挥官的责任感，因为与他们自己采取行动的情况相比，他们对自己的行为及其后果的能动性较小

在2021年的研究中，方法大致相同。此外，这里还采用了神经成像技术（即功能性磁共振成像fMRI和脑电图EEG）来研究神经元层次情境中的活动（涉及SoA和对疼痛的同理心）。其中一个有趣的发现是，在可以自由决定向另一个代理人发出哪些命令的参与者（“自由指挥官”）和可以自由决定执行命令的参与者之间，可以观察到大脑激活的差异（“自由代理人”）。与“自由指挥官”相比，“自由代理人”在与同理心和情感社会感知相关的相关区域的大脑活动更高，这表明实际执行行动对社会认知很重要，尽管指挥官拥有相同的决策权，但距离行动结果更远确实会产生影响[48]，第14页）。这与比较下达命令的下属之间的激活情况的发现是一致的，在该研究中发现，与指挥官相比，下属代理人在同理心相关区域的大脑激活程度更高。这再次表明，与拥有决策权相比，行动对移情反应的影响更大[48]，第26页）

当我们考虑通过指挥责任机制解决责任差距的前景时，并将其与第二节的初步结论相结合。1--具体来说，将a-moral agent视为（非人类）下属是合理的-我们可能会发现自己处于指挥官的SoA也在减少的情况下，类似于传统的[C^H∧S^H]情况。这与Caspar等人的研究结果相呼应，表明真正的责任差距不仅源于无法责怪机器或人类，还源于等级关系。这不仅适用于人机环境，也适用于人与人之间的环境

在这方面，回到Kneer和Christen[38]进行的研究是有帮助的，他们专门研究了涉及自主武器（道德下属）的等级情况。一个值得注意的发现是，在传统情况下，派遣机器人飞行员的指挥官被认为比人类飞行员对伤害的责任要小得多。虽然在这些情况下，指挥官通常被认为比人类飞行员的情况下更负责任，但与人类飞行员相比，指挥官的责任水平仍然要低。这表明，在判断情况的人看来，并非所有责任都完全从机器人飞行员转移到指挥官。这些发现与Bigman等人[66]和Shank，DeSanti等人[67]的研究一致，揭示了将道德不端行为归咎于人工智能比归咎于人类要少，并且监控人工智能的人类比那些在仅由人类组成的团队中工作的人更少犯错

这些发现深入探讨了问题的核心，为哲学家的理论提供了实证证据。在人力委托中，权威代理（指挥官）将任务或能力委托给下属，并承担部分责任，但保留可变部分责任。当下属的行为产生不良后果时，不仅下属要承担责任，而且如果满足某些条件，部分责任也会转移给上级。将这一框架应用于指挥官将任务或能力委托给不道德的下属的情况，如自主机器[C^H∧S^A]，似乎是相似的，在这些不道德的下级造成负面后果的情况下，没有明显的理由不将部分责任转移给上级。然而，一个关键的区别出现了：在人与人之间的授权中，仍然有可能让下属对导致不利结果的根本行为负责。相反，在委托给不道德的代理人时，（在规范上）不可能为下属的行为分配责任。当我们将不道德下属的行为责任转移给指挥官时，这种责任的分配就变得不清楚了。关于指挥官职责的性质以及转移后下属仍承担哪些职责（如果有的话），出现了问题。由于两种责任之间的区别，将责任从机器完全转移到用户似乎是不可行的：（1）道德结果责任，涉及对自主机器所采取行动的实际后果或结果的责任，以及（2）使用或部署的道德责任，涉及用户对使用具有潜在风险的机器的责任导致不幸的结果。这种区别突出了“剩余责任”的挑战，即（1）道德结果责任中尚未完全从下属转移到指挥官的部分。为了解决悲观主义者所设想的责任差距，需要完全转移（1）。然而，指挥官似乎对（2）负责。因此，责任差距的全面解决方案似乎仍然难以实现，正如悲观主义者所设想的那样，这一差距似乎天生无法解决，因为“剩余”的责任永远无法完全转移。然而，在此背景下，值得一提的是Frank Hindriks和Herman Veluwenkamp，他们认为这种推理是基于一个错误的假设，即在附近的可能世界中适当的责备程度是实际世界的适当参考点，但没有充分的理由认为这一假设是正确的。因此，他们认为这种责任差距的“赤字概念”是有问题的，不存在责任差距[71]，第5-6页）

Kneer和Christen[38]在他们的实验中没有区分这两种类型的责任。然而，他们最终也承担了“剩余”的责任，没有移交给指挥官。如果所有责任都从（非道德的）下属完全转移到指挥官，他们的结果将显示，与人类飞行员（下属）相比，分配给派遣机器人飞行员的指挥官的责任是相等的。总之，这不仅强调了从经验上讲，真正的责任差距似乎存在于每一种等级关系中，无论是人类关系还是人机关系，而且还表明人机关系给我们留下了无法转移的责任份额

4探索伦理与描述性现实之间的相互作用

并非所有规范性解决方案都必须以纯粹的描述性事实为基础。事实上，这种情况很少发生，从“是”（行动）中推导出道德“应该”是一种谬误^脚注8我们在道德哲学中一般讨论的与责任有关的问题与心理学中研究的问题有很大不同。虽然道德哲学试图回答“谁（如果有的话）应该对伤害负责？”，心理学探讨了在这种情况下分配责任的真实人类倾向。这一探索包括两个不同的子问题，即（1）“人们的报复主义道德倾向是什么？”（局外人的观点）和（2）“被追究责任的人实际上有多负责任？”（内部人士观点）。隐式测量方法，如IB，允许定量测量SoA，和显式方法，如提问或自我报告，都可以用于回答这些问题。然而，这并不意味着这两种方法都同样适合回答这两个问题。例如，这两种方法都用于衡量SoA，但第一个问题，即找出局外人的报复性道德倾向是什么，似乎只能通过获得他们如何分配责任的直接报告来回答。与指挥责任相关的心理学研究的初步结果表明：（1）人们可能不会（完全）将自主机器造成的不良后果归咎于指挥官，（2）指挥官自己对下属执行的任务感到不那么负责。然而，这些描述性事实并不能成为认为指挥官不应承担责任或人们不应追究其责任的理由

因此，第二节中描述的风险原则上不一定是使用人工智能下属造成的负面结果的指挥责任解决方案的问题。这样做的原因是，在这种情况下出现的责任差距并不比传统配置[C^H∧S^H]更成问题，在传统配置中，我们通常将责任归咎于指挥官，尽管他们明显缺乏责任感。特别是在军事环境中，指挥官似乎不觉得对人类下属造成的不利结果负责，但我们确实让他们负责。这样做是为了确保指挥官的充分监督，这一意图也适用于AI下属。在这方面值得一提的一个例子是山下案。山下智行将军最终被抓获1944年10月9日至1945年9月2日期间，他在菲律宾犯下了许多与马尼拉大屠杀有关的战争罪行和许多针对手无寸铁的平民和战俘的暴行，尽管围绕此案存在争议，他仍被判处死刑^脚注9有人认为，他对下属负责，未能履行指挥官的职责，控制行动和指挥部成员，从而允许他们犯下残暴的暴行

该案具有争议性，因为没有证据表明山下下令实施暴力或他知道这些行为，军事委员会规定的责任标准相当于一种客观形式的责任，根据这一标准，指挥官可以对其部队犯下的罪行承担刑事责任，尽管他无法控制下属的犯罪行为，也不管他是否知道或知道这些罪行已经发生[21]。山下直到最后才否认，由于通信和指挥结构中断，他有办法控制所有下属的所有行动，并且他知道下属犯下的罪行。他声称，如果他知道这些，他会严厉惩罚他们。所以，一般来说，当我们做出道德和法律决定时，我们是基于涉及要求的规范推理。在应用指挥责任的情况下，这些包括指挥官和下属之间的关系、指挥官对下属行动的控制以及指挥官已经或应该知道某种结果即将发生。因此，该案件之所以有争议，并不是因为山下本人不觉得有责任，也不是因为事实证明公众局外人没有责怪他的倾向，而是因为我们通常用来归咎的要求在本案中受到了严重质疑

总之，许多伦理解决方案可能与描述性事实不一致，并非所有规范性解决方案都需要以描述性事实为基础。仅仅因为人们不觉得有责任就免除他们的责任是不正确的，就像认为人们觉得有责任，因此应该承担责任是不错误的一样。那么，在将指挥责任原则应用于LAWS的背景下，这给我们带来了什么？基于实证研究，指挥责任的理论解决方案变得更加合理。然而，从经验上讲，在向人工智能系统分配责任方面存在遇到障碍的严重风险，类似于传统的等级制度。如果纯粹根据描述性因素，如人们（不）认为指挥官负有责任或指挥官（不）觉得自己负有责任，来规范地断言指挥官负有责任，那将是错误的

4.1认识到实证证据在伦理框架中的重要作用

然而，有必要谨慎行事，建议在一定程度上不愿意将伦理解决方案与实证心理学研究脱钩，因为当我们的伦理解决方案明显偏离描述性实证事实（包括心理学研究）时，可能会出现潜在的不必要风险。两者之间的差距不太大是可取的，因为深思熟虑的研究受益于一定程度的实证支持。此外，可以指出的是，它至少应该促使伦理学家试图理解为什么存在如此巨大的差距。在这方面，可以提出三个论点来支持为什么它们不应该出现重大分歧。我们将依次讨论它们

首先，对于风险缓解，描述性心理事实可以突出伦理解决方案的潜在意外后果。确保伦理解决方案和描述性心理事实之间的某种一致性，可以确保伦理解决办法的设计能够最大限度地减少负面心理影响和行为副作用。根据我们关于使用指挥责任原则来解决非人类代理背景下的责任差距问题的讨论，一个例子是，与人类相比，上级在将任务委托给机器时，可能会（非）故意更容易逃避责任。这种可能性引发了人们对道德责任被错误转移的担忧[73]。根据指挥责任理论，将人工智能体归类为下属，可能会对战略道德产生意想不到的激励找替罪羊。这种现象涉及成功地将惩罚转移到人工智能上，当任务委托给机器而不是人类时，为上级提供了一种更有效地逃避惩罚的方法。这种情况引发了伦理问题，因为它可能会导致在某些情况下过度使用机器或人机团队。这种过度依赖是由上级逃避责任的潜在途径驱动的，在使用自主系统时可能会损害决策过程和道德考虑。从本质上讲，虽然将指挥责任应用于非人类代理人的理论基础似乎是合理的，但实证研究表明，意外后果和战略道德替罪羊的可能性需要仔细彻底地评估其实际影响。在问责制的需求与滥用和过度依赖机器的风险之间取得平衡，对于确定在人工智能和自主系统背景下扩展该理论的可行性和可取性至关重要

其次，我们可以指出实际问题。伦理解决方案与描述性心理事实和实证研究的融合加强了伦理框架的基础，确保提出的伦理解决方案是可行的，并使其在现实世界中更适用、更可接受和更有效。这也有利于明智的决策。决策者，无论是组织还是政府，都受益于与实证研究相一致的伦理解决方案，因为这有助于基于对人类行为的现实理解做出明智的决策。换句话说，为了增加公众信任，与心理事实相一致的伦理解决方案避免了理想化，承认了人类行为的复杂性和细微差别，避开了可能无法反映现实的过于乐观或悲观的假设。同样重要的是，通过纳入经验证据，伦理解决方案承认人类经验和行为的多样性，促进了一个与不同人类现实相关并考虑到不同人类现实的伦理框架。如果我们主张一种规范性理论，例如应用指挥责任框架并指责人类指挥官——换句话说，将道德责任强加给人们——我们最好确保它有效，并沿着这些思路建模和培养直觉

第三，对于为什么差距不应该太大，还有一个更具理论性的考虑。道德不会从天而降；它是由人类发展来调节人际关系的。我们的伦理理论旨在平衡人们的想法、直觉和实证结果与规范案例。关键是要以一种很好的方式实现这种平衡，不要仅仅依靠实际可行性或陷入实证研究在一切事情上都有最后发言权的陷阱，也不要忽视实证研究和多人的现实。我们的规范理论并非凭空而来，因此指挥责任已经受到我们直觉的影响。道德责任的概念似乎与我们是存在于特定道德社区中的社会人这一事实密切相关，并受到其影响。这可以在指挥责任的情况下得到说明。第二次世界大战后，数千人对其行为负责，指挥责任理论发展的原因之一是人们意识到国际刑法不发达，普遍认为在道德上令人反感的行为与国际法规定的刑事犯罪行为之间存在着巨大的鸿沟[21]。因此，人们普遍意识到国际法必须赶上基本道德标准。此外，从理论角度来看，研究实证研究对于确保伦理解决方案的灵活性和适应性非常重要。随着我们对人类行为的理解不断发展，基于实证研究的伦理框架可以根据新的见解而发展。伦理解决方案应该是适应性的，并对纳入新知识持开放态度。例如，如果实证研究揭示了人类行为的非直觉方面，伦理框架可能需要发展以适应这些见解。这些非直觉的实证结果可能会引发更深层次的伦理反思，并激发伦理话语，因为伦理学家可能需要批判性地审视某些直觉背后的原因，并考虑它们是否符合更广泛的伦理原则或偏见^脚注10伦理框架不是静态的。如果实证研究挑战直觉，这意味着伦理框架应该经历一个迭代过程，不断完善和适应新兴知识

5结论

在本文中，我们仔细研究了指挥责任的概念，这通常被提出作为解决自主能力不断增强的系统中出现的责任差距的解决方案，特别是在LAWS的背景下。通过分析最近的心理学研究，我们断言，最初，该解决方案在理论上似乎是合理的，并且基于初步的实证证据得到了很好的支持。然而，在对现有的关于等级人际关系的实证研究进行更深入的探索后，我们发现了将责任分配给人工智能系统的重大障碍，与传统等级环境中的挑战相平行。然而，我们认为，仅凭这些经验问题不应排除指挥责任对非人类实体的适用。相反，我们强调将经验现实纳入规范性讨论和解决方案的重要性。这不仅服务于实际目的，而且增强了伦理话语本身。通过承认和整合经验证据，我们可以完善我们的道德框架，并制定更稳健的解决方案，以应对军事背景下人工智能治理中新出现的挑战