摘要

本文分析了关于致命自主武器系统（法律）的辩论过于狭隘的认识，特别是有意义的人类控制的概念，这一概念已成为学术文献和政策论坛监管辩论的中心。通过回顾国际关系、安全研究、国际法和伦理以及技术政策等方面的工作图纸，我认为大家都有一个共同的认识论立场。它借鉴了西方和现代主义的哲学和分析传统，并将一个“有意义的人”置于关于控制法律的辩论的中心，这些法律反映了与西方、理性、白人、男性有关的原型。我认为，这种认识论的位置排除了与社区有关的认识论观点，这些社区都最有可能经历法律，因为他们生活在部署最有可能的地区，而且在无人驾驶飞行器等关键法律先决条件的影响方面有最丰富的经验。根据非殖民化方法的见解，我制定了一个研究议程，挑战这种认识论的封闭，并寻求重新定位关于人类对研究中法律的有意义的控制的辩论，这些法律为对一个可能塑造人类共同未来的关键问题的更广泛的观点开辟了空间。

摘要

本文分析了关于自主致命武器系统（SALA）的辩论中过度的知识减少，特别是在监管辩论和政策论坛上出现的重要的人类控制概念。我致力于国际关系、安全研究、国际法和伦理以及技术政策等领域的工作，我支持所有这些领域都有一个共同的认识论立场。这是建立在西方和现代主义哲学和分析传统的基础上的，它将“有意义的人”置于关于控制萨拉的争论的中心，这个人反映了与理性的西方白胶相关的原型。Jaffirme认为，这种认识论定位排除了与最有可能面临SALA的社区相关的认识论观点，因为他们生活在最有可能部署SALA的地区，同时对SALA的主要前体（如无人机）的影响有着最丰富的经验。我利用来自非殖民化方法的信息，制定了一个研究议程，挑战这种认识论的封闭性，并试图将关于人类对ALS的重大控制的辩论重新纳入研究中，在一个可能塑造人类共同命运的关键问题上，从更广泛的角度看待问题。

结果

在Este Artículo，se analizan las limitaciones epistemológicas excesivas del debate sobre los sistemas de armas letales autónomas（致命自治武器系统，法律）y，en concreto，la noción de control humano importivo，que se posiciona como concepto central de los debates regulatorios en la literatura academica y los foros sobre política。Luego de Haber Consultado obras sobre relaciones internationales，estudios de seguridad，Etica y Leyes internationales，y políticas tecnológicas，认为托达斯比较了一个错误的观点。这是一个传统的分析和西方现代主义的产物，是一个“人的意义”的概念，它反映了西方的人和种族。考虑到Epistemológica不包括与实验性法律提案相关的Epistemológica透视图，debido a que residen enáreas donde es más很可能是在实验性的基础上实施的，实验性的，实验性的，实验性的。从殖民地的角度来看，这是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目，它是一个调查项目p>

致命自主武器、人工智能、有意义的人类控制、国际安全、非殖民、认识论，汽车公司：汽车系统、智能技术、控制人类意义、国际安全、殖民地、非殖民地、，认识论杂志

问题章节：

研究文章

简介

本文认为，当前关于人类对致命自主武器系统（LAWS）的有意义控制（MHC）的争论发生在一个非常狭窄的认识论空间内¹通过考虑跨国际关系（IR）和安全研究、国际法和伦理以及工程和技术政策的关键因素，我阐述了毫无疑问的认识论假设如何在关于MHC和LAWS的辩论中产生重要的排除，并期待为未来的研究制定一个议程，以挑战这一关闭

具体而言，我使用“有意义的人”的概念来批评MHC的当前用途，表明目前所理解的MHC中的“有意义人”反映了植根于西方调查和分析传统的对人类的具体描述，这种传统将理想化、理性、权利持有、男性化的个人置于其核心。这种传统之外的知识形式，以及发展出与这种理想化不符的分析模式，可能会导致认识论边缘化，在有关法律和MHC的辩论中被视为“无效知识”。这种认识论上的封闭出现在学术和政策分析中，并为LAWS的支持者和反对者所分享。对学术学科在种族主义和殖民主义实践中的历史作用的遗忘以及强大的当代概念和理论遗产也起到了一定的作用，这导致了对MHC辩论中概念的分析和规范有效性的假设，这些假设应该受到质疑

提出不可接受和不适用的替代认识论观点意味着居住在最有可能部署法律法规的地区的群体和社区，以及对关键法律法规前体（如无人机）的影响最有经验的群体和群体可能会失去。正如桑托斯（2017，118–35）所指出的，西方知识统治500年的一个关键组成部分在于将一些非西方知识形式置于“深渊线”之外，这样的知识不仅被淡化或搁置，而且在认识论上不再存在。那些坚持这种认识论的人因此有可能成为“无意义的人”，因为他们无法通过在深渊线的“右侧”世界范围内具有吸引力的知识来表达自己的人性（例如，c apan 2017）

通过展示当前的认识论封闭性，并建议替代认识论如何为新见解提供机会，我的目标是为修改MHC辩论打开空间。不可能详细发展认识论上的独特立场将产生的见解，因为这些见解将是多样的，需要进行广泛的实证研究。非殖民化研究的一个核心主张是，长期以来，知识生产、分配和交流都是为了将认识论标准和形式强加给边缘化的人民和社区，旨在通过标准化知识可以采取的允许形式，以及通过标准化话语可以产生“有效”结论（关于“易读性”，参见，例如，Manchanda 2017），使他人的世界“易读”Santos（2018）的“后防线知识分子”概念是一个恰当的框架，说明了“专家”分析师需要从边缘化人群的经验和认识论中学习，而不是领导。特定传统中的培训和认证使这一点具有挑战性，但这并不是不尝试的理由，即使这是一个对谁有见解、为什么以及如何表达见解采取一种可能不熟悉的智力谦虚态度的理由。基于实践的研究技术嵌入到边缘群体中，通过合作伙伴关系协作产生知识，这是前进的方向（例如，Mignolo和Walsh 2018，33–104；Santos 2018，107–208）

这意味着我提出的四重研究议程包括研究需要采取的形式和一些指示性的调查路线，但不包括更多。然而，我认为，这些都足以证明，“X人Y”辩论的框架象征着缺乏对字面和隐喻中心部分的充分考虑人类什么构成“有意义的控制”不能与谁被视为“有意义人”分开。从逻辑上讲，事实上，“有意义人类”的问题是优先的。如果不假设什么是人，什么是人的生活，那么控制的目的和评估其意义的基础就不存在了。声称目前在《特定常规武器公约》等论坛上进行的MHC讨论没有任何关于“人类”或“人类”等概念内容的事先假设，这表明了我所批判的认识论封闭，许多主要的人类哲学传统都拒绝对人的可能性进行社会或中立的解释。因此，我的论点不同于一种说法，即法律以及包括MHC在内的有关其监管的辩论是新殖民主义的实例。³我在这里对这个问题不持任何立场，因为这是一个不同的问题。新殖民主义的结果可能源于LAWS的发展和部署：其控制可能采取歧视非西方行为者利益的形式，以嵌入前帝国权力中心对前殖民国家的间接统治形式。MHC可以为这些结果做出贡献。然而，评估这类问题与我的认识论研究是分开的，它的重点是什么知识形式目前构成了“有意义的人”，为什么这些形式是排斥性的，以及从承认和参与不同认识论及其所构成的“有意义的人”的辩论中可能获得什么。

这项研究议程很重要，因为认识论的排斥和由此产生的对“有意义人”性质的忽视损害了当前的MHC辩论。在认识论上，最有可能部署法律援助的人群的观点、经验和认识论，以及他们对地球上最贫穷、最边缘和最不安全地区的非白人居民造成的任何暴力的最直接体验者，都被排除在外。在MHC辩论中，他们不是“有意义的人”。因此，他们将无法控制法律制定的过程、政策和理论。他们对法律制度将在何处部署、如何运作、问责标准或未来法律制度可能产生的其他关键特征没有发言权。在政治实践和学术分析中，基于两国人民和领导人的经验，推动或重振关键原则、规范或规则的努力被边缘化、闭塞或共同选择是司空见惯的。例如，主权、不干涉、经济再分配和自决的理念在冷战期间遭遇了这些命运（例如，《Acharya 2018》，68–96；《Getachew 2019》，142–75）。随着法律与大国竞争和军备竞赛的新理念联系在一起，类似的否定大国俱乐部外部观点和声音相关性甚至有效性的动态很可能会重演。然而，我希望为替代分析奠定基础，并对MHC的现有索赔提出重要问题。这建立在现有的关键工作基础上，例如，在LAWS辩论中挑战性别假设（《Roff 2016b》；《Jones 2018》），以及LAWS的技术官僚和管理主义政治如何扼杀参与政治（《Schwarz 2018》）。聚焦于MHC和“有意义的人”的概念，我从非殖民主义的角度为这项发展中的工作添加了新颖而分析力强的见解（例如，Blaney和Tickner 2017；Santos 2017；Mignolo和Walsh 2018）部分。第一部分介绍了MHC及其在有关法律和法规的学术和政策辩论中的地位。这引入了辩论所占据的有限的认识论空间。第二节、第三节和第四节详细介绍了这一认识论空间如何在国际关系与安全研究、国际法与伦理以及工程政策文献中分别对法律进行定位。学科知识史的认识论遗产，以及在制定这些学科时对种族和殖民主义等问题的忽视，都在这三个方面提出。这三个部分确定了未来研究的议程项目，第三部分扩展了研究议程的一个要素如何发展。

定位LAWS和MHC辩论

日益复杂的人工智能的融合（AI）、更有效的机器人和通过“大数据”进行的机器学习是LAWS潜力的核心（例如，哈斯和菲舍尔2017283）。这种融合不仅限于军事部门。事实上，这些发展的普遍性及其带来的好处意味着，对某些人来说，法律似乎是不可避免的。举例来说，兰德公司指出（Morgan等人，2020，iii）“人工智能（AI）领域在过去二十年中以越来越快的速度发展……因此，人工智能也为国防提供了巨大的前景，这不足为奇。”，印度前驻联合国裁军谈判会议大使兼《特定常规武器公约》法律问题政府专家组主席强调了类似的动态

将这套技术[AI]纳入安全功能主流的经济、政治和安全驱动因素太强大，无法回滚。将有大量有说服力的国家安全应用程序，最大限度地减少伤亡和附带损害……击败恐怖主义威胁，节省国防开支，保护士兵及其基地，以对抗对机器人失控或机器错误导致的意外战争的担忧

与政策从业者一起，学术研究可以承担法律法规的潜力，从而需要监管回应。例如，Carrie McDougall（2019，58）指出，“随着机器人和人工智能（AI）技术的快速发展，与实践、政策、法律和道德影响相关的讨论越来越激烈。“丹妮丝·加西亚（Denise Garcia，2018，334–35）重申了这一点：“人工智能的发展已经导致了重大的社会和经济变化……有能力给未来带来巨大的利益和危险，因此，迫切需要在这些领域进行创新的全球治理。“有些人认为法律对人类具有现实意义（例如，《2012年人权观察》，1–2；《2015年未来生命研究所》；《Asaro 2019》）

自2013年，非政府组织第36条引入了MHC一词（2013年第36条）以来，MHC一直被推广为监管原则。自那时以来，MHC一直是人权观察组织持续开展的先发制人禁止法律的运动的核心，并在正在进行的联合国《特定常规武器公约》（CCW）谈判中，许多国家采取了立场（例如，2020a年人权观察组织，2020b年人权观察）。类似地，倡导临时暂停（Heyns 2013，21–22）或监管（例如，Anderson和Waxman 2013；Garcia 2018）也强调人类必须对法律进行有意义的控制。通常，MHC的讨论与人类“处于循环中”有关——在LAWS与人类目标接触之前做出每个决定；或“在环”——持续监控作战情况下的法律，以确保适当的法律和道德标准，并能够在法律出现故障时解除法律约束（例如，《人权观察》2012年第2期；《Bode and Watts》2021第16–20期）。重点是控制何时人被确定为合法目标并参与暴力，反映了国际人道主义法（IHL）的歧视和相称性核心原则（例如，《2016年人权观察》，4-10）

这并非毫无挑战<例如，span id=jumplink-bib23>Cummings（2019，20–21，24）怀疑这种形式的MHC是否“有意义”，因为目标参与的时间紧迫、高压情况会导致决策偏差。她建议“有意义的人类认证”，即武器开发过程为确保法律不会失控提供了更好的机会Bode and Watts（2021）借鉴现有武器系统的经验，对MHC提出了广泛的批评，这些武器系统在某些模式和环境下运行时，“一旦激活，……就可以选择并攻击目标，而无需人工干预”，这是武器系统中“自动”的标准定义之一

然而，由于其狭隘的认识框架，主流法律辩论既破坏了维持MHC的表面目标，也揭示了需要维持其推定控制的“有意义的人”。分析和宣传借鉴了国际法，特别是国际人道主义法和国际人权法（IHRL）（例如，海恩斯2017）、道德哲学（例如，斯帕罗2016）、安全和战略研究（例如，阿尔特曼和绍尔2017）、国际关系（例如，博德和韦尔斯2018）、，以及工程和计算机科学（例如，Cummings 2019）。这种跨学科性认识到法律代表了多方面的过程和动态、挑战和机遇（例如，《吉尔2019》）。相互关联的假设延伸到经验、概念和理论领域，以建立一种独特的认识论，识别产生MHC需求的关键挑战，指定应指导评估有意义控制最紧迫和最困难的地方的经验，并确定谁可能最适合行使这种有意义的控制。这些假设反映并巩固了自18世纪后期，特别是自二战以来，西方经验和哲学产生的认识论。详细说明其运作方式，确定了“有意义的人”这一受限制的概念是如何产生的，为什么它对MHC的具体和排他性描述至关重要，以及可以做什么来打开新的认识论空间。因此，我现在继续研究关键的分析框架

国际关系与安全研究

西方知识传统、历史经验和战略利益是国际关系与安保研究中典型的法律框架的特征，产生了MHC的典型描述，体现了具体化理性、效用最大化，以及与白人、西方、男性认知原型相关的专业知识。结构现实主义（例如，1979年的《瓦尔茨》）和新自由主义制度主义（例如：1984年的《基奥汉》；2001年的《伊肯伯里》）之间的长期争论描述了在无政府状态下推动州际安全最大化和战略竞争的结构动力另一方面，通过减少不确定性、通过改善沟通增强信心以及创建合规激励措施，机构可以缓解这些动态。在这一共识中，战争的本质是克劳塞维茨式的：国家意志的冲突推动了政策野心。尽管存在严重的风险和不确定性，但IR战争是政策武库中不可避免的、偶尔也是必要的工具。这种安全与战争的关系假定了塑造国家行为的不可改变的结构动力。管理战略不稳定意味着应对两个关键风险：“……[第一]武器扩散和军备竞赛的出现，[第二]危机不稳定和升级，要么跨越从和平到战争的门槛，要么在战争已经爆发时达到更高水平的暴力”（Altmann和Sauer 2017，120–21）

安全困境是突出的：一方的军事创新和进步被另一方视为制造不安全，需要提高军事能力，而这反过来又被第一方视为破坏稳定Morgan等人（2020，xvi）认为，美国别无选择，只能“……保持在军事人工智能能力的最前沿……不在对手正在开发危险能力的领域进行竞争，就意味着放弃该领域。这将是不可接受的。”莫斯科和北京的情况可能是一样的。对LAWS军备竞赛的恐惧，以及相关的战争风险增加，是普遍存在的（例如，Haner和Garcia 2019；Morgan等人2020）。正如《生命的未来研究所》（2015）所言，“当今人类面临的关键问题是，是开始全球人工智能军备竞赛，还是阻止它开始。如果任何大国推动人工智能武器的发展，军备竞赛几乎是不可避免的。”，335）表明比赛正在进行Roff（2016a，123）强调，如果法律法规泛滥，可能会普遍存在，从而破坏管理州际安全困境的可能性。“……自主武器……最终将在每个领域找到归宿……它们将成群狩猎。它们将在无人武器系统系统中联网。它们将巡逻计算机网络。它们将无处不在。”

转向第二个战略逻辑，将人工智能系统纳入指挥、控制、通信和情报（C3I）系统可能会导致不稳定。人工智能增强系统可能允许决定性的C3I基础设施攻击。这可能会使指挥官耳聋、失明和哑口无言：无法从自己的部队接收信息，无法通过情报资产查看战场上发生的情况，也无法发布组织防御的命令（例如，Altmann和Sauer 2017；Horowitz 2019）。冷战时期对“斩首行动”的担忧促使各国分散决策权，采用“警告启动”协议，并采取其他措施确保斩首行动的诱惑减少，即使面临失去对使用军事力量的控制和更快速升级的风险。

与当前现实相比，随着机器学习能力的加深和在决策过程中嵌入法律的增加，先进的人工智能系统彼此交互并改变其行为，甚至改变其编码。LAWS提供了关键的速度优势，创造了减少人类参与决策过程的激励措施（例如，Maas 2019，140–41）Altmann和Sauer（2017，124）注释，“作战速度将是至高无上的”，这促使美国国防部副部长鲍勃·沃克（Bob Work）在2016年发表评论称，美国禁止将致命决策权授予机器的自我否定法令可能会在与不实行这种约束的对手发生冲突的情况下进行测试（Altmann和Sauer 2017124）。这再次反映了克劳塞维齐亚（Clausewitizian）的观点，即战争改变了性格，给那些能够以最集中的力量最快地思考、行动和打击敌人的人带来了巨大的优势（例如，Jensen、Whyte和Cuomo 202534）。对战略对手的边际收益可能被证明是决定性的，甚至军事人工智能平衡的暂时变化也可能引发先发制人的打击逻辑（例如，Maas 2019，141–43）。

这些担忧破坏了反映冷战经验的潜在监管结构，如军备控制条约Gill（2019，173–74）总结道：“从军备控制的角度来看，核心问题是，武器中的人工智能是否会降低国际关系中使用武力的门槛，是否会加剧战略不稳定，是否会引发新的军备竞赛，并赋予神秘的非国家行为者权力。”人工智能、与软件相关的验证挑战以及易于隐藏和欺骗等技术使LAWS军备控制变得异常困难，无论是通过新的协议和条约还是通过调整现有机制（例如，Maas 2019，143–44），由于监管可能不可行，导致了彻底禁令的压力（有关讨论，请参见，例如，Anderson和Waxman 2013）。无政府国际体系的安全最大化动态以及由此产生的根深蒂固的安全困境问题，似乎都被人工智能的发展所侵蚀，并因其导致了LAWS而加剧。

MHC作为管理LAWS风险的关键组成部分，因此赋予了人类最能驾驭这一复杂、危险和多方面战略环境的特权。他们必须是精明的战略家；熟练的外交官；精通军事理论、作战和战术；和冷静的效用最大化计算器，能够平衡困境，甚至在压力情况下的trilemmas（Himmelreich 2019）。这反映了MHC的一种方法，该方法主要将其视为一项复杂的技术挑战，在一个战略逻辑中平衡有时相互冲突的政治、法律和军事因素，该战略逻辑被认为受到不可避免的结构性因素的严重制约，这些因素决定了选择和确定最佳结果。因此，一组担忧是，那些可能获得LAWS的人在西方战略意义上是否完全“理性”。因此，俄罗斯和中国以及恐怖组织的发展构成了最严重的危险，因为它们可能不遵守道德和法律限制对战略稳定至关重要（例如，Harari 2018；Maas 2019，147–48；Morgan等人，2020，xiv，xvi，27）。

冷战经验中出现的MHC认知范式为分析LAWS制定了战略议程。然而，这种经历并不是过去250年西方使用武力的特点。战争殖民了非欧洲政治社区，启用了奴隶制，消灭了土著人民，强加了各种形式的经济互动，并压制了对最有利于欧洲政府、其定居者殖民地或贸易公司的既定当局的政治反对。军事暴力的主要形式和经验被边缘化。IRs的学科知识史负有重大责任，因为它忽视了非西方思想传统（Blaney和Tickner 2017）、非西方历史（Buzan和Lawson 2015；Acharya和Buzan 2019）、，非西方经验（菲利普斯2014年，2016年），并掩盖了其对歧视和种族主义概念和理论的依赖（霍布森2004年，2012年；维塔利斯2015年）。虽然非西方国家在《特定常规武器公约》专家组中提出了战略稳定问题（例如，委内瑞拉玻利瓦尔共和国代表不结盟运动和《2018年特定常规武器条约》其他缔约国，第4（f）段）、军备竞赛和歧视性出口管制问题（巴西2019a），这些仍然在特定和选择性的以欧洲-大西洋为中心的描述所定义的认识空间内。参与更丰富、更诚实的军事和战略历史是第一个研究议程项目，也适用于国际法和伦理，以及工程和技术政策，如下所示。

控制法律的理想类型“有意义的人”携带着这些未被注意和不容置疑的遗产。他们是一个“有意义的人”，几百年来一直在暴力压迫非西方和非白人人民，他们的合法性是建立在数十年冷战暴力的基础上的表面战略稳定，在这场辩论中空空如也的代理人战争、政变、叛乱和独裁统治中，他们以数百万人的生命为代价。MHC中“人”和“人性”表面上的中立性体现了这种关于安全的知识隧道愿景。这些类别无法逃脱这一认识论遗产。要成为一个能够进行“有意义控制”的“有意义的人”，就必须接受这种框架。“有意义”存在于这一范式中，该范式将1945年以来没有发生大规模的全系统战争描述为西方领导的精明大国管理的产物。因此，“控制”必须有助于减少破坏这一微妙平衡但据称普遍有益的管理系统的危险。这并不是要忽视战略不稳定或加剧的升级风险的潜在严重性，这些风险在MHC辩论的IR和安全研究方面占据主导地位。尽管如此，我们还是呼吁对选择性的历史进行批判性的参与，这些历史被视为这些风险的证据，以及如何管理这些风险，以及关于“理性”的认识论假设，这些假设创造了“有意义的人”，他既是“有意义控制”的参考点，也是理想化的练习者。这与LAWS的关键前体技术——武装无人机的发展密切相关，这对控制“危险”空间至关重要。例如，美国将“未治理”、“治理不足”或“治理不善”的空间视为主要威胁。这是跨国恐怖分子不可避免地聚集的地方，他们利用机会训练、组织和策划针对西方的袭击。自2001年以来的每一项美国国家安全战略中都有这种叙述（美国2002年、10–11年、2006年、7、8、9、12、15年、2010年、8、19、20年、2015年、9、10–12、26年、2017年、10、11、48年），表面上，为了情报、监视和侦察目的，必须穿透这些空间，为“破坏”、“拆除”、“降级”、“摧毁”或“击败”跨国恐怖组织的潜在打击行动做好准备2016). 将此类组织称为“癌症”或其他非人化的比喻很普遍，强化了这些威胁是不可避免的和必须采取的行动（例如，2014年奥巴马；2015年卡梅伦；2019年普莱斯）

无人机及其复杂的支持基础设施已成为美国在巴基斯坦、阿富汗、索马里、利比亚、伊拉克、叙利亚和也门等地实践的中心。一个危险的“非西方”，经常引用殖民主义文化比喻（《新石器时代》2013；《萨提亚2014》），是威胁、不稳定和恐怖的根源。“西方”过去对他们做了什么，可能有助于解释敌意和不信任，这些都被遗忘了。通过军事力量保护西方利益的管理至关重要。遭受这种暴力的人的历史、经历、观点和认识论从根本上来说是不相关的。他们可能是暴力的“对象”，包括恐怖分子和叛乱团体对他们施加的暴力，但在思考无人机用于MHC的教训时，没有迹象表明，这些经验和观点对从最有可能经历反叛乱（COIN）和反恐（CT）使用法律的人的立场来看，“有意义”的控制可能意味着什么。这些人不是“有意义的人”。

总结冷战和911后对LAWS辩论的影响表明，西方IR和安全专业知识的认识论特权无处不在。国防和安全“专家”是能够进行适当控制的“有意义的人”。专业知识来源于该框架，并根据该框架进行判断，并通过在理解框架组成部分方面的技术能力。例如美国军事当局声称对关键参考点有权威性的解释：五角大楼的理论抓住了“全球从业者的认知”，前美国高级军官是克劳塞维茨作为典型战争理论家的权威诠释者（Kirkpatrick 2016；Jensen、Whyte和Cuomo 202527）相关专家群体是政治和军事领导人，他们决定开发哪些系统、如何将其纳入现有武装部队结构、何时将其部署到实地以及如何评估其贡献。当前量化“斩首”无人机打击恐怖分子和叛乱团体的有效性的努力（例如，约翰斯顿2012年；普莱斯2012年；约翰斯顿和萨巴赫2016年；Rigterink 2020年）侧重于LAWS是否以及在多大程度上降低“我们”的风险。“当Roff和Danks（2018，2）提出了一个被忽视的观点时，它仍然是西方的观点：“关于自主武器系统的争论……忽略了……这种系统……将如何影响他们应该帮助的个人：作战人员。”这些人完全是武装部队的作战人员，关键的官方参考点来自美国空军和美国国防部

无论是管理战略竞争、应对军备竞赛、设计监管机制、打击恐怖分子和叛乱分子，还是应对来自失败国家“避风港”的威胁，非精英和非西方观点充其量都被边缘化。我对了解直接体验过关键前体技术（如无人机）的人群如何看待MHC没有兴趣。他们会制定什么监管标准？他们认为哪些操作任务适合LAWS？他们认为在控制和军事优势之间进行哪些权衡是合适的？他们评估战争目的、战略性质或战斗人员作用的参考点如何揭示法律？这设定了研究议程项目二：需要与那些将成为LAWS接收端和/或将在其部署地点生活的人进行适当的实证研究。这当然是一个经验问题，需要仔细研究，不能根据理论假设预先判断这些人和民族的想法，这将在下一节进一步讨论。本次讨论强调的是，MHC的当前账户如何利用IR和战略研究参考点，为MHC创建一个基于假设的技术标准，该假设优先于一组军事技术经验和观点。要行使的控制被限制在这个认识空间内满足这些认识标准。那些被认为缺乏必要和适当的专业知识以及对政治和战略背景的理解的人，无法参与这些关于控制法律意味着什么的辩论

目前，没有解释为什么只有一个视角很重要。这里可能有一个未陈述的经验偏见：这是那些制定议程并做出影响法律未来的决定的人的观点，这是一个残酷的事实。我们可以假设，当涉及明确的道德辩论及其在法律中的表现时，它不应该出现，但在这里，也只有一种观点占主导地位。同样，原因也没有解释

《国际法与伦理》

与国际关系与安全研究一样，我无法在这里全面调查法律和伦理辩论，而是关注它们如何也嵌入一个特定的“有意义的人”。在人类经常短缺的情况下尽可能保护人权是国际人道主义法和正义战争传统的核心，尤其是在面临犯下战争罪和危害人类罪的短期诱因时。西方的政治和法律思想传统植根于后启蒙社会契约主义，将个人权利定义为不可剥夺的政治主体，在很大程度上取代了将正义战争理论从奥古斯丁推向格劳秀斯的天主教自然法传统（ODriscoll 2008；McMahan 2013；Rodin 2014）。目前支持全面禁止法律的30个州中，有许多州（《2020b年人权观察》，4）提出了道德和法律上的反对意见，其中一些州还指出了已经讨论过的战略风险

这一法律和哲学遗产在当前定义MHC的工作中创造了两个主要的分析轴，第一，如何将MHC置于基本的道德主张中，例如尊严，第二，如何维护MHC。我从它的维护开始，展示了当前围绕合规和问责的辩论，主要是通过法律参考点来构建的，如何从这一西方传统中采用“有意义的人”的具体概念。这有助于通过将潜在的LAWS表现与人类的表现进行比较来解释对控制的关注，并且通过追究人类的责任使控制变得有意义。本节的第二部分引入了MHC的问题，通过考虑基于“尊严”的对法律的反对，MHC可能是有根据的。这为在法律和伦理分析中对“有意义的人”的想当然的假设进行更持久的批判开辟了道路，包括开始阐述非西方认识论传统产生的见解，形成了我研究议程的第3项

维护MHC

保护固有和不可剥夺的人权引发了人们对法律可能不遵守国际人道主义法和国际人权法的担忧。MHC对通过遵守法律保护人权非常重要，它以人权定义的人的职能和标准为模型Liu（2019，104）指出：“迄今为止，AWS辩论中隐含的[我的重点]是将自主武器系统作为人类战斗人员的替代品。“隐式”强化了我的论点，即国际人道主义法对MHC中的“人”不是也不可能是中立的，因为它假定了一种特定的主体性，这一主体性是推动理想的合规性和问责制的机构的基础。与人类的哲学比较有时是明确的Robillard（2018，715）直言不讳地指出，“一个[L]AWS要么是一个代理，要么不是。它不是两者都有，也不是两者都没有。”他的偏好是，LAWS不是代理，也不可能这样。然而，正如《MHC基础》中所讨论的那样，这种明确性是针对一种特定的西方代理方式的，而其他强大的客户并不认同这种方式。罗宾斯认为，人类和法律之间的二元区别是提出这个问题的唯一哲学和伦理上合理的方式，这表明MHC的认识论封闭

这一假设的结果是，关于法律法规的合规性辩论取决于与理想类型的人类战斗人员的比较：符合国际人道主义法的正义战士。因此，尽管国际人道主义法和国际人道主义救援法的法律理想是零违反，但与目前的人类战斗人员相比，可靠地实现更少的违规行为是LAWS的潜在优势，即使是批评者也承认这是一种可以使LAWS可接受的标准（Heyns 2017，175；Garcia 2018；Gill 2019）。非西方国家和国家集团的代表在《特定常规武器公约》政府间专家组会议上普遍强调可能不遵守《国际人道主义法》和《国际人权法》，反对制定法律并主张暂停或禁止。举例来说，委内瑞拉代表不结盟运动提交的《关于法律的一般原则》强调实施国际人道主义法和国际人权法，保留对违法行为的有效责任，并将这些法律参考点纳入未来具有法律约束力的法律法规文书（委内瑞拉玻利瓦尔共和国代表不结盟运动和《2018年某些常规武器公约》其他缔约国，第3、4（a）、4（b）、9段）。斯里兰卡将国际人道主义法兼容性确定为政府专家组审议的“中心”（斯里兰卡2017年），巴西强调围绕充分遵守国际法和国际人道主义法律“特别是”（巴西2019b）的“趋同”，古巴认为，必须禁止不符合国际人道主义法的法律（2021致命自主武器系统领域新兴技术政府专家组，36），南非强调滥杀滥伤系统的风险，参考国际人道主义法的核心要素（2021致命自主武器系统领域新兴技术政府专家组，79）。中国的立场将LAWS定义为本质上不分青红皂白的武器系统，一旦激活，就无法终止。然而，它还说明了国际人道主义法必须如何适用（中华人民共和国2018年）。国际人道主义法的遵守情况在当前政府专家小组主席关于共识建议可能要素的总结中得到了突出体现（2021致命自主武器系统领域新兴技术政府专家组，第15段）

法律法规在遵守国际人道主义法和国际人权法方面是否优于人类战斗人员，如果是的话，则在多大程度上优于人类战斗员，这是不可能通过基于权利的法律方法预先和抽象地定义的。例如，主观性是不可避免地在上下文中作出的比例判断所固有的。此外，LAWS的特点意味着他们将执行人类战斗人员不会也不可能执行的任务。IHL和IHRL可能不适用或不适用于非人类任务。此外，量化国际人道主义法合规性发挥了法律的假设优势：他们不会感到疲倦、愤怒、报复或屈服于战争罪行中常见的其他情绪（例如，《布朗特2011》，36；《施密特2013》，13；《霍洛维茨2016a》，29）。如果编程适当且人工智能充分，非运动计算式杀人机器可提供卓越的IHL合规性Liu（2019，98–99）总结：

国际人道主义法的歧视和比例原则是……技术性能标准……而不是真正的法律挑战…只要[L]AWS的合法性被分解为符合国际人道主义法的问题，[L]AWS将被过早地宣布为合法，并基于过于狭隘的理由。相反，遵守国际人道主义法……应被视为谨慎的标志，这正是因为在国际人道主义法律术语中，高性能的AWS将被视为无形的、不可反对的

更为深刻的是，LAWS与所有复杂的技术系统一样，将遭遇“正常事故”：系统不可避免地（即使只是偶尔）发生故障。故障的表现方式是不可预测的，也无法设计出来。看到违反国际人道主义法的行为，如果这是此类正常事故的形式，作为系统性结果，而不是归因于特定的代理人（无论是人还是技术），“……将改变人权的含义，以及违反其保护意味着什么”（Liu 2019，107）

这表明，国际人道主义法的辩论认识到法律对“有意义的人”的本质提出的更深层次的伦理问题。如果他们是传统的持有主权权利的自由主义个人，是当代战争法律和伦理辩论的基石，那么法律可能会带来根本挑战，作为不可避免的“正常事故”，这些权利实际上是什么以及它们的违反意味着什么。“有意义的人”的问题是存在的，但目前，它被对法律责任的关注所掩盖

大量法律文献都涉及问责问题（例如，《麻雀》2007年；《克罗托夫》2016年；《Nyholm 2018年》；《Robillard 2018年》）。要成为“有意义的控制”，人类必须通过制度化的过程，在人与非人之间划出一条清晰、明亮的界线，从而实现问责制。正如海恩斯（2017，57）所言，“如果……问责是以某种程度的控制为前提的，那么很难看到他们在没有有意义的人的控制的情况下是如何被问责的。”问责和正义是“严格意义上的人类事务”（海恩斯2017，57，59）。罗宾斯断言，LAWS不是也不可能是代理人，这一点得到了证实，因为他们无法承担责任，因此无法进行有意义的控制

因此，实现问责制和正义反映了“有意义的人”作为一个有意识的行为主体的假设，能够在（不）遵守行为规则和规范的基础上对自己的行为负责。个人可能处于复杂的社会环境中，这些社会环境分配了权力和责任的级别，例如“指挥链”，但出于这个原因，责任必须回到特定的人身上，这就是为什么“正常事故”是一个根本挑战。个人责任赋予了控制的意义。使用“指挥链”确保授权LAWS部署的人员负责是解决这一困难的明显方式（例如，《Robillard 2018》），并且在未来治理制度的政策建议中非常突出（例如，堪培拉工作组2020）。然而，三个说明性问题表明问责制存在差距。首先，指挥官不太可能完全理解LAWS决策背后的算法，因此可能不会意识到某些情况下带来的风险。第二，向更接近普通AI的深度学习水平提高LAWS的复杂性可能会产生不可预测的行为。第三，LAWS决策和行动的速度可能会使人类通过“环上”监控和“环中”决策进行控制变得不切实际、无法实现，或严重损害军事效能。所有这三个问题在MHC中已经在当前部署的系统上表现出来，例如近距离武器系统（CIWS）（Bode和Watts，2021）。加速技术创新加剧了这些风险

建立个人责任的其他方式可能包括取消法律法规制定公司高管的法律赔偿，使他们无法对其系统的战场使用负责（例如，Cummings 2019，25）。“严格责任”可以确保相关人员无法逃避其授权行为的法律失败的责任，但对某些人来说似乎是不公平的，因为它会惩罚那些并非其过错的人（例如，Heyns 2013，第79段，McDougall 2019，81–82）。通过“战争侵权”借鉴民事法律标准，可能会进一步确立对法律造成的损害的责任（Crootof 2016）。因此，对维持问责制的研究已经很活跃和有效。其中许多论点在监管提案中得到了很好的体现，包括至少部分基于这些挑战的规模而呼吁禁令。然而，人类个体的这种“接地”需要拆开包装

为MHC奠定基础

辩称，作为可能允许性的基础，LAWS可能会在国际人道主义法合规性方面优于人类，因此，需要确保在不会造成人类可能会失去的实用计算竞争的情况下承担责任。法律和道德上的反对也援引了关于道德不允许性的更基本的主张<例如，span id=jumplink-bib91>Rosert和Sauer（2019）和Heyns（2017）强调，允许算法做出杀人决定是对人类尊严的冒犯，这是法律规定的。这一论点以各种方式表达，在呼吁彻底禁止的呼吁中得到了有力体现，许多州提议禁止法律，并提出了基本的道德异议。然而，这些问题往往通过援引马滕斯条款及其对公众良知的检验而被置于国际人道主义法的认识空间中（斯里兰卡2017年；巴西2019b；人权观察2020b）

通过尊严权构成“有意义的人”，开始填补中立是可能的这一理念留下的空白。“尊严”，特别是有尊严的生活（和死亡）的权利，提出了尊严如何体现的问题。这似乎为思考哲学、伦理、宗教和文化的不同提供了空间传统回答了这些问题。值得注意的是，本次调查中唯一一篇有意识地引用非西方观点的文章，Heyns（2017，62–63）认为“Ubuntu”只是对尊严权的法律表述的贡献，而不是对基于权利的法律秩序是否以及在多大程度上能够应对LAWS挑战提出深远问题的基础。它还要求考虑定位法律法规的主要伦理法律框架是如何实现其特权地位的。在这里，正如IR和安全研究中对学科历史和认识论封闭的否定一样，值得停下来考虑国际人道主义法和正义战争框架所带来的负担

实现普遍尊严权的“人”的表面普遍性和文化中立性反映了与遵守西方“文明标准”相关的特定认识论历史背景，和特权可能被授予非白人人民和政治（例如，1984年龚；2002年基恩，2014年；2017年奥哈根）。虽然在二十世纪初失去了正式的国际法律制度，但文明标准概念在许多领域仍然是隐含的，包括使用暴力（例如，2017年Keal；2020年OHagan）。当代国际人道主义法的主权、自由和权利主体是对主体性的地理、知识和历史上的具体描述。它是国际法传统的基础，在最近的一段时间里，它与种族主义排斥非白人和非西方民族的行为同谋，在许多方面使他们成为“无意义的人”

正如前面提到的恐怖分子或叛乱者是“癌症”一样，对他们的描述是野蛮、野蛮、可怕和其他非人性的术语，不胜枚举。对那些可能是恐怖分子、叛乱分子、同谋活动或不幸就在附近的非人类或亚人类实施法律的前景引发了有关“文明”、“有意义的人类”如何追究法律责任的问责问题。通过法律，责任是由最有可能部署法律的人制定、管理和执行的法律。在法律制度最可能运作的地方，对这些平民的问责充其量只能通过这些程序来替代。这是否会导致他们所认为的“正义”，这在有关法律的主流法律伦理辩论中是一个非问题

扩大关于如何将MHC作为新的MHC研究议程的第三个项目的辩论意味着要与非西方认识论，如本土宇宙论或道教关系论。这些发展了另一种“有意义的人”控制法律的可能性。机构存在于人类与其他人类之间，也可能存在于非人类之间，正如安第斯土著文化中的那样，这些文化将生命力量贯穿于人与环境中的其他生物之间。Pachamama或sumac kawsay等概念说明了人类的机构和道德地位如何在复杂的关系系统中定位（例如，Santos 2018，9–12，238–43）。这些问题延伸到自然世界的其他方面，引发了有关法律和法规等技术的深刻问题。与任何一种精神无关，在一个技术政治法律世界中创造出来，通过抽象而非真实的方式来证明其合理性，以普遍性而非特定性为模型，法律不仅仅是物理上的威胁，而是存在上的威胁。与他人相关的存在是一种认识论观点，完全不存在于LAWS辩论中。然而，它是对人类（和其他）生命本质和意义的一个基本视角，它深深而广泛地植根于人类经验，即使文艺复兴后的西方政治和经济思想和行动试图消除它，包括通过大规模灭绝人类（例如，Mignolo and Walsh 2018，153–210）

Lius（2019）关于将LAWS视为“网络”和“系统”的论点表明，有可能接近这些认识论。远离LAWS作为人类代理的替代品，而是将其定位为包括人类在内的更复杂形式的组成部分，这意味着根据所执行的功能对其进行不同的思考和分析。暗示一种潜在的关系认识论，尽管它的潜力非常有限，因为它保留了IHL作为关键参考点，接受了法律背后的战略理论，并因此将有关MHC的辩论与这些环境之外的人联系起来

那么，为什么不积极寻求并认真对待最可能受法律影响的人的观点，以获得对“有意义的人”行使控制的不同观点，包括对“控制”意味着什么的考虑？在一个高度受限的认识论框架内，“有意义的人类”控制应该超越这个框架，而不是绝对的家长式（Barnett 2017）MHC概念。IR中的关系方法论通常与非西方认识论（包括道家和儒家）相联系，强调了意义和价值是如何通过相互联系而存在的，不在“事物”本身之内（例如，Ling 2014；Qin 2018；Ling和Nordin 2019；Nordin等人2019）。一个人的道德价值存在于赋予意义和创造联系的关系中。事实上，罗比拉斯对机构奇异性的确定性存在着广泛的争议，“人类”或“人类”的中性前社会概念化也存在争议，与“Advaita”相关的印度哲学传统（Shahi和Ascione 2016）意味着它们不是思考人类与世界的过去、现在和未来之间的社会、政治和伦理关系的注脚。“有意义的人”之所以有意义，是因为与其他人、通过其他人、或自然世界的其他特征以及那些已经生活和将要生活的人的“精神”之间的相互关系。人的主体性基本上是社会性的，不能在关系之外定义，因为它不存在于关系之外。因此，它也不是静态的，因为主体性取决于存在的关系的强度和性质。这使得对MHC的抽象假设以及建立控制和问责的正确方式产生了极大的问题，对“人类”或“人类”采取普遍或中立立场的想法是站不住脚的

利用这些强大且广泛持有的关系视角，挑战MHC中以西方为中心的法律和伦理假设，指出了实证研究议程应该如何推进。这项研究超越了理论工作，探索了像道教和土著文化这样丰富的传统，以及他们用来概念化不同形式的关系的方法，我在这里暂时概述了这一点。它需要由那些发展MHC和LAWS的关系视角和账户的人领导并与他们一起进行仔细的实证研究，这些人充满了桑托斯“后卫知识分子”的精神，致力于非殖民主义理论家强调的实践研究，如Mignolo和Walsh（2018）。本文的参考文献显示了一场由西方和训练有素的学者和政策专业人士主导的辩论，非西方政府代表和专家参加了《特定常规武器公约》专家组等论坛，在同一认识空间内阐述了他们的立场、反对意见、干预和评论。开发新的研究项目，了解非西方视角如何聚焦于未来最有可能经历LAWS的人，以及无人机等前体的直接经验，这一点至关重要。例如，这需要避免在巴基斯坦无人机下生活经验研究中发现的方法学缺陷，以及通过国际人道主义法和国际人道主义救援法对这些经验进行分析，以使这些经验“有意义”（Williams 2015c，168；Shah 2018，52）

技术和工程政策

有关法律的工程和技术文献中存在认识论上的特权主张。有些人非常个人化：“作为美国海军的前战斗机飞行员，同时也是机器人学教授……”卡明斯写道，并继续谴责“充斥着情绪化言论的辩论，媒体和活动家组织往往会让辩论变得更糟”（2019，20）。这种常见的修辞手法将对手抹黑为情绪化的，因此不完全理性，但通过证书声称个人认识论特权的做法要深入得多。科技和工程写作强化了LAWS在冷静地计算法律合规性方面的表面美德，创造了一个“有意义的人”，讽刺的是，这是一个超西方的人，比人类更像机器。本节重点介绍这种技术比喻是如何结束的对“有意义的人”的争论，然后指出如何根据经验建立评估MHC的道德基础。这导致了第五个也是最后一个研究议程项目，将西方的技术历史和进步理念，以及其中包含的性别化和种族化假设

被归为法律的理性主义理想已经因其性别刻板印象而受到批评：理性、功利、超然、合乎逻辑（读作“男性”）的法律优于感性、不合逻辑和冲动（读作”女性”）的人类。MHC对“完全”的人类设定了一种男性化的刻板印象，面对技术进步，现在没有人能做到这一点：“所有的人类都变得软弱、无能和情绪化，即女性化”（Roff 2016b，11）。“技术不会将我们从性别化的实践和等级制度中解放出来……而是将这些实践和权力关系具体化……创造性别化的自主机器……将巩固一种霸权的男性气质，并进一步使所有其他男性气质和女性气质派别化和从属”（Roff 2016b，12）。几个世纪以来，西方男性特征一直被用来压迫女性和非西方男性，使其在决定是否、何时以及如何杀人时可能会将所有人类置于次要地位，这一悲剧讽刺意味似乎已经消失

Jones（2018）对LAWS（和其他技术）进行了异族女性主义批判，模糊了人类和技术之间的类别，并基于白人、西方、非规范男性主义的未言明范式对人工智能开发进行了“黑客攻击”，以调整技术方向，促进女性主义成果。这为人工智能提供了分析性和规范性的购买。通过后人类主义和异族女权主义的两步走，挑战了法律与社会学辩论中占主导地位的认识论地位，确立了法律与法律学辩论中显然被视为理所当然的假设应该被破坏。认真对待人的意义以及从边缘化的角度看待技术的意义是非常宝贵的

ContraCummings（2019，21），MHC不能减少到，“关于人类和自主系统之间角色分配的讨论”，其中良好的决策是通过算法定义的（例如，Arkin 2009），作为一套特定规则的应用，在这种情况下，期望结果的直接效用最大化和不期望伤害的最小化是判断标准。杀死“正确”的人或破坏允许的物质对象，有助于量化和数据处理认识论在工程和技术方法中司空见惯。人工智能可以比任何人类或人类团队更快地处理来自更广泛输入的更多数据，因此让人工智能做出决策，尤其是在高压、时间关键的环境中（Cummings 2019）

如果作战模拟验证了精心设计和测试的系统，MHC甚至可能变得不必要，尤其是在目标交战点。这是卡明斯（Cummings）（2019）提出的“有意义的人类认证”概念，反映了技术决定论和算法决策方法，这些方法在越来越多的技术中介军事功能中的自主过程的工程和技术讨论中（例如，李、怀和王2017）。如果道德和法律是可编程的问题集，可以通过大规模数据的算法处理和机器学习来解决，并且需要与“情绪”或类似污染物隔离，那么LAWS的情况就是如此（Arkin 2010）

自动驾驶系统的好处“有助于防止受伤或死亡，正如汽车中越来越多的高级驾驶员辅助系统一样”，这对于“最理性的人”来说是显而易见的（Kirkpatrick 2016，27）。这种与汽车的类比（另请参见Nyholm 2018）强化了“合理性”源自特定认识论的观点。通过技术创新减少资本主义生产方式造成的死亡或伤害等伤害，表明功利主义在其假设中普遍存在，并对与其他人类、自然世界或精神和神圣思想的道德关系的描述充满敌意。这些都是不可计算的，因此，通过推断，在思考法律时是不“合理”的。这种范式中的“有意义的人”是从特定的社会、政治、经济、文化和历史环境中抽象出来的。然而，在现实中，理想化的后启蒙西方现代性的条件与理性的解释密不可分：现代项目中的理性、主权、自由、权利主体。然而，这里特别有害的是，通过与民用技术（如自动驾驶汽车）的类比，这种主观性被轻视，通过其道德规范和系统以及它们所要求的美德否定了和平与战争之间的道德区别（例如，Walzer 2006）。在技术上对非西方“普通人”实施暴力，成为日常生活和世界各地的一部分，在无人机战争的使用中，将一种主体性强加于非西方民族，允许他们进行杀戮是一种趋势（例如，Gregory 2011a；Shaw and Akhter 2012；Niva 2013；Williams 2015b；Agius 2017；Gregory 2017；Hurd 2017）。这项技术预示了LAWS的许多潜在用途，并显示了对无人机的控制已远离公众监督或参与的记录，即使是西方民主国家的公民，当然也远离无人机使用最广泛的地方的公民和政府（例如，Niva 2013）

MHC通过推动基于AI的自主性的工程和技术流程和原则，为那些以不同的方式看待自己与他人的关系和在世界上的地位的人提供了空间。对种族和殖民遗产的纪律性遗忘也体现在这里。在“文明的标准”中，技术和工程的复杂性在构建“野蛮人”和“野人”方面的作用被搁置一旁Bourke（2017）揭示了过去以武器发展技术讨论为特征的公开文明等级语言是如何升华并被委婉语所取代的。然而，结果是相似的：“他们的”“非理性”和“不合理”是为什么应该制定和部署法律，以保护“我们”免受因他们未能采纳“我们”的主体性而产生的暴力的原因

从二战的平民轰炸战略、越南战争的实施，到也门等当代冲突中的共谋，从众多列表中挑选，技术在殖民地和后殖民地暴力史上的中心地位被掩盖了。越来越多的技术调解、放大和合理的暴力行为的人类受害者几乎毫无意义；他们作为“有意义的人”的观点并不重要。与IR和安全研究，以及法律和伦理一样，在这篇文献中破坏西方文明优越性的历史神话是一个重要的议程项目

这种对工程和技术文献中非西方主体性的非人化，以及通过与其他自主技术的类比来轻视法律制度，错过了法律制度如何发展的另一个关键方面。正如琼斯在无人机评论文献中有效强调并讨论的那样（例如，Williams 2011；Gregory 2011b），人工智能界面和技术增强的人类战斗员的开发使人控和人机互联问题变得越来越复杂。法律的设计、开发、部署和操作使用中发生“控制”的点很复杂，GGE讨论中指出这是一个关注点（例如，2021致命自主武器系统领域新兴技术政府专家组，第7-12段）。然而，技术的增强和人工智能的增加并不局限于无人机和其他武器平台的人类技术组合。随着诸如外骨骼等增强人体力量、速度和耐力的系统从实验室转向作战部署，人类的直接技术增强是一个不远的未来前景。正如Nyholm（2018）所讨论的，尽管LAWS以一种非常不同的方式，并植根于无人驾驶汽车的问题类比，但它很可能会作为人类代理存在并发挥作用的系统的一部分运行。虽然Nyholm解决了法律所造成的表面上的“责任差距”，但在琼斯之后，我展示了这是如何打开另一种认识论视角的大门的

Jones（2018年，2019）展示了后人类主义如何提出关于（技术增强的）人类机构性质的问题。MHC概念是否适用于包括人和机器的武器系统组件？包容性可以通过直接技术提高人类决策能力：例如，信息收集、处理和分析，直至部分决策。这反映了人们对MHC“在回路上”会成为公认的人类倾向的牺牲品的担忧，这种倾向倾向于遵循通常准确可靠的技术系统，即使这些系统建议采取其他信息挑战行动（例如，Roff和Danks 2018，9）。然而，争论更进一步，技术增强的人类仍然是“人类”吗？他们的控制是“人类”控制吗？“X人Y”的争论再次未能与处于其中心的可争议的“人”进行斗争。当人和机器混合在一起时，罗宾斯对于代理的二元性质的确定性似乎令人怀疑。当LAWS是一个系统中纠缠不休的元素时，LAWS作为人类的替代品的假设就失败了。从“根植MHC”一节中对关系性的讨论中，后人类主义指出，关系性将包含技术，或至少是技术增强的人类的可能性。到目前为止，在后人类主义的关键应用中，如异族女权主义（Jones 2019，131），一直存在西方中心主义。因此，这里的议程也是一个可以从非西方参与、分散西方历史经验和智力假设中受益的议程，以丰富关于“有意义的人类”的辩论。然而，这些认识论辩论在这里所考虑的工程和技术政策文献中并不存在。相反，认识论问题是通过公众舆论研究和（总是西方的）“专家”寻求解决方案来回避的。为什么这些是法律有效知识的决定性来源，在调查的来源中，从来没有得到恰当的解释Verdiesen、Santoni de Sio和Dignum（2019）举例说明了公众舆论的经验证据如何被用于表面上验证有关法律的道德理念。“我们已经确定了人们与自主武器系统相关的几个价值观……这些价值观来源于（所有西方起源的）经验证的伦理理论，以及……关于自主武器系统或在军事领域工作的专家”（Verdiesen、Santoni de Sio和Dignum 2019，42）。虽然他们认识到探索非西方法律观点是一个需要进一步研究的问题（2019，42–43），但我们似乎可以从调查西方舆论和军事人员中获得足够好的感觉，从而凭经验确定“正确”的道德立场Horowitz（2016b）在质疑民意调查显示反对LAWS（人权观察2016，16–17）的说法时也做了同样的工作，但没有关于未来需要询问非西方人（甚至非美国人）的警告。看起来，只有美国公众的观点才具有普遍性，因此美国公众的意见才是重要的Morgan等人（2020，100–117）也将公众舆论研究重点放在美国，表明当与美国利用敌人确保对法律的胜利有关的情况下，对法律的“原则上”反对意见会下降。在缺乏公众舆论数据的情况下，技术专家呼吁非工程专业人员了解LAWS的潜在军事用途，这些专业人员来自现任或退役的西方军事人员，最常见的来自美国，或与军方密切相关的智库（例如，Kirkpatrick 2016，28–29）。通过对西方公众和“专家”意见的特权，以及对西方技术发展和进步的具体描述（通常经过殖民和种族主义事件的净化），认识论上的封闭被忽视了

结论：走向“有意义的人类”控制

MHC的争论被过于狭隘的认知共识所阻碍。这种共识不仅忽视了那些最可能经历法律的人的认识论；它积极地否定它们。MHC概念构建了一个“有意义的人”，他是西方、男性、白人、理性、效用最大化、权利持有主体的近乎漫画化的原型。关于MHC的工作源于LAWS当前的认识论位置，以及它所支持的辩论，仍然具有重要意义。我的论点不是他们应该被取代，或者他们试图建立的控制权交给了其他人。然而，它显示了当前辩论的认识论假设和随后的终结所产生的深刻限制性影响，解释了这种终结的关键原因和后果，并指出了开始克服的方法这些限制。

我提出了一个四重研究议程。首先，对战争在西方与世界其他国家的交往中的作用，以及学术学科发展及其在定位法律方面的持续遗产，有一个更丰富、更真实的描述。第二，与最可能受LAWS部署影响的社区进行实证研究，以了解人们对这些技术的看法，并扩大我们的证据基础，在评估MHC时纳入更广泛的意见。这项研究应借鉴非殖民化文献中确定的方法和技巧，这些方法和技巧强调边缘化群体通过基于实践的方法和“后方知识分子”的立场进行领导。第三，利用非西方哲学传统来挑战基本的本体论主张，这些主张确立了当前的观念，包括主体性、代理性和限制性的问责制。这涉及到一些最古老、最富有和最复杂的思考方式，即什么是“有意义的人”以及人与人之间以及与整个世界的关系。考虑到法律所面临的挑战的范围和潜在的严重性，以及许多人和政府在建立法律的有效监管，甚至直接禁止法律方面所看到的政治必要性，忽视这些资源似乎很奇怪。第四，西方技术和发展优势的不稳定神话。在这里，我无法完全解决这些问题，更不用说所有问题了。例如，有些需要大量的实地经验。我概述了第三次会议如何推进MHC的讨论。我们对法律的看法越多，我们需要的有意义的控制就越人性化。目前的辩论完全反对这一结果，如果不知情的话Heyns（2017，68）写道，“我们现在需要决定是否要在现在和未来几个世纪保持对战争本身的有效控制。”Heyns所呼吁的“我们”是人性，然而，MHC核心的“有意义的人”体现了一个贫穷的“人”概念。该空间的边界需要打破，大量的“有价值的人”受到了讨论的欢迎。如果我们选择倾听，还有很多东西需要学习。

致谢

我感谢英格维尔·博德、克里斯蒂安·布劳恩、克里斯·芬莱、艾米莉·琼斯、罗伯特·舒特以及两位匿名审稿人对本文的反馈，这大大改进了本文。缺点完全是我的责任。

脚注

1

MHC公式有争议Morgan等人（2020，43）对“X人Y”辩论及其替代方案进行了有益的总结，而McDougall（2019，62–63）复制了《联合国特定常规武器公约》（CCW）政府专家组讨论的汇总表。然而，MHC是使用最广泛的变体，所有变体都占据了一致的认知空间，这意味着不同公式之间的区别不会影响我的核心论点。

2

我感谢一位匿名评审员，一位自我描述的《特定常规武器公约》长期参与者，感谢你阐述了这里批评的论点，并敦促澄清我如何看待“有意义的人”和“有意义控制”之间的概念关系，如果将我的论点解读为声称当前的法律和MHC辩论是“新殖民主义”，那么我的论点可能会被误解。

4

这一定义源自美国国防部（2012，13）。关于武器系统自主的性质和意义，存在着大量的争论。有关总结，请参阅（威廉姆斯2015a，180–82，博德和瓦茨2021，10–15）参考文献阿查里亚

2018

构建全球秩序：世界政治中的代理与变革

剑桥

：

剑桥大学出版社

。

谷歌学者

交叉引用

\

©作者（2021）。由牛津大学出版社代表国际研究协会出版