简介

本文旨在探讨一个极具话题性且备受争议的当代安全问题：自主武器系统（AWS），也称为武器化人工智能（AI），或越来越多地称为致命人工智能。特别是，重点是全球监管的动态和前景，或者更确切地说是禁止这种新兴技术。这一分析的核心是AWS嵌入并同时影响的两种社会结构：道德和法律

目前正在开发中的AWS又名杀手机器人-可以通过独特的属性组合与所有其他武器类别区分开来。首先，它们是完全自主的（Kastan 2013，第49页）。这前提是他们有能力参与自主（致命）决策（Asaro 2012，第690页）、自主（致命性）瞄准（Sharkey 2012，第787页）和自主（致命的）武力（Sharkey2010，第370页）。尽管仍包含相当多的理论方面，但它们的自主性可能包括在动态、非结构化和开放环境中无需人为控制或监督即可操作的能力（Altmann和Sauer 2017，第118页）。其次，它们可以用作攻击性自主武器（FLI 2015）。最后但并非最不重要的是，这些是人工智能的进步，为完全自主（致命）武器系统铺平了道路并使其成为特征（O'Connell 2014，第526页；Walsh 2015，第2页）。制止杀人机器人运动是“人道主义裁军领域一系列跨国宣传运动中的最新一次”（Carpenter 2016，第58页）。它联合了100多个设在不同国家的非政府组织（NGO），获得了广泛的公众支持，并成功地将许多州政府、数千名专家、20多名诺贝尔和平奖得主以及联合国（UN）和欧盟（EU）（CSKR，n.d）的成员纳入其议程。日内瓦的《特定常规武器公约》（CCW）有望成为全球政府间核心审议论坛，以应对AWS新兴技术带来的关键挑战（Altmann和Sauer 2017，第132页）。这些技术中最激烈争论的属性是机器在生死决策方面的自主性。鉴于潜在的人道主义风险，批评者呼吁对其开发、生产和使用实施预防性，或更确切地说，先发制人全球禁令（FLI 2015；HRW 2016）。另一些人则相反地认为，这种风险可能与全面禁止武器系统的先进自主性有关（Anderson和Waxman 2012，第39–45页；Arkin 2018，第321页）。个别政府的偏好因严重分歧而分裂。一些人要么支持全面的禁令，要么认为是有限的禁令，而另一些人要么对此类限制持怀疑态度，要么明确反对（CSKR 2019a）

越来越多的文献试图研究人工智能和AWS时代安全监管的各个方面。提出的问题包括政府人工智能监管相对于国际人工智能监管的当前趋势（Turner 2019）；人工智能对更广泛的军备控制问题领域的积极和消极影响（Din 1987）；为相关军备控制实践“构建”智能武器的挑战（Wallach和Allen 2013）；根据预防性武器控制和禁止的“标准”评估自动驾驶军用车辆及其使用相关危险（Altmann 2009）；AWS对当前治理规范提出的挑战（Koppelman 2019）；对全面禁止AWS的可能性和替代监管途径评估的比较见解（Crootof 2015；Rosert和Sauer 2020）；以及从之前的军备控制经验和范式中获得的人工智能监管经验教训（Maas M 2018）。然而，上述文献缺乏对决定禁止或至少有效监管AWS前景的动态和条件的全面审查。对法律和伦理的研究也在加强：在AWS的辩论中，伦理和法律问题都有多种形式和色彩。这一知识体系包括AWS如何适应现有国际规范、如何挑战其实施、如何塑造规范期望以及是否有必要制定新规范的分析（Bode和Huelss 2018）。对新兴监管框架的道德和法律强度进行系统的分类和解释，可以丰富讨论

本文试图填补这些空白。下面这段话是一个告诫，要打破现有的经验二分法。有两个明显对立的政党：大声疾呼、坚决支持禁令的运动和阻击联盟。前者主要是以制止杀手机器人运动为代表，该运动的成立和“禁止杀手机器人”的口号引发了政界对AWS的辩论。后者汇集了全球领先的AWS研发（R&；D）国家，这些国家反对AWS禁令，尽管政策声明仍然模棱两可，并可以共同阻止其在CCW上通过。还有其他类型的参与者介于两个极端之间。由于该运动主要组建了一个非政府组织联盟，因此，尽管与该运动的信息和目标保持一致，但仍有其他行为体并不“正式”属于该运动（Rosert和Sauer 2020，第15-16页）。在这些明确而积极的支持者中，有志同道合的政府（如非洲国家）、专家（如红十字国际委员会（红十字委员会）、生命未来研究所）和政府间组织（IOs）的官僚（如联合国秘书长（UNSG）、联合国人权理事会（UNHRC）等）。也有沉默的同情者，例如，公共调查有时会揭示。情况类似于封锁联盟。尽管他们的反对可能最为明显，但事实上更多的参与者参与了AWS R&；D，并专注于探索AWS的潜在优势。学术界、科学家和律师积极提供AWS战略重要性、军事效用、道德和法律合规性方面的专业知识，以及与AWS R&；D（例如在中国）。也有一定程度的隐性支持：一些国家（如意大利）和武器生产公司继续投资于AWS研发（R&；D），但在辩论中没有明确定位（Haner和Garcia 2019，第334页；PAX 2019；CSKR 2019a）。不同立场的范围增加了我们所研究的复杂社会政治现实，尤其是因为全面禁止并不是唯一可行的行动方案。某种监管条约、国内法律和政策、不具约束力的决议、共同谅解、专业准则和行为准则是可能的（Crootof 2015，第1897–1903页）。还考虑了发表政治宣言的可能性（Acheson 2017，第2页；2018，第1页）。在反思这些细微差别的同时，我们利用二分法作为启发式工具，因为确定的范围并没有从根本上挑战仍主导AWS辩论的赞成与反对禁令逻辑（图1）

图。1

在禁止AWS的辩论中的角色

全尺寸图像

我们的分析框架借鉴了研究国际安全制度的权力分析方法。它对它进行了改进，以阐述伦理与法律之间的关系，更一般地说，是四种权力概念类型之间的协同作用。在这里，国际安全制度被理解为规范性期望和法律规则的复杂集合，受到不同社会行为体之间的关系和互动的制约。尽管没有正式禁止或甚至有目的地监管AWS的全球机制，但这种方法非常适合反思建立AWS的尝试和现有的阻力。更重要的是，作为联合调查的一部分，它允许研究多种话语、规范、法律、文化、人道主义、体制、政治、经济、战略、军事和技术动态以及它们之间的各种间隙。这是因为它通过权力的概念化贯穿了政权理论化的三个浪潮。最终，它使人们能够了解影响禁令前景的条件、利益和过程，以及新兴监管框架的道德和法律强度。为了进行更细致的评估，我们反复将选定案例与其他监管和禁止先例（包括各自的努力）进行比较

文章的结构如下。它首先介绍了AWS国际法规的现状。在下一节中，将介绍一种功率分析方法。接下来是对AWS领域全球治理动态的各个方面的调查和系统解释。根据功率分析方法通过四种功率的棱镜传导，并相应地构造。下一节总结并以图表形式综合了研究结果（图2），并思考了可能的前进方向。它还讨论了这一分析的相关性，并提出了进一步研究的途径。论文以几句结束语结束

>

走向安全监管：法律掩盖和“严重”政治化

目前还没有正式禁止甚至有意规管完全自主（致命）武器系统的全球制度。然而，两个紧密交织的发展趋势与解释这方面的进展有关。首先，本文揭示了有关AWS安全监管的法律漏洞。其次，AWS所谓的“严重政治化”（Emmers 2013，第137页）的成功被置于显微镜下。关于前者，有两个方面很重要。可以肯定的是，AWS应符合现成的法律框架。主要是国际人道主义法（IHL）、国际人权法（IHRL）和《联合国宪章》（UN），这些法律规范了武力的使用、政治责任原则和武器的合法性（Liu 2012，第638页；Garcia 2015，第60页；Brehm 2017）。红十字委员会提出的《规则草案》也属于这一类别，其中建议禁止对平民造成有害影响，包括无法控制和无法预见的影响的武器（Mathews 2001，第992页）。法律背景的另一个相关方面是监管网络武器使用及其对AWS的影响的新框架。这些关键的国际机制包括《关于常规武器和两用货物和技术出口管制的瓦塞纳安排》以及《欧洲委员会网络犯罪公约》（Stevens 2019，第271页）。除其他外，两者都涉及数字信息、软件、计算机、计算机网络和电信（CoE 2001；WA 2018）。AWS通常参考网络空间进行讨论，特别是网络漏洞、网络战、网络犯罪或网络恐怖主义（Liu 2012，第648页；Schmitt 2013；Noone and Noone 2015，第33页；Klincewicz 2015，第163-170页；Sharkey 2017，第183页）。这是因为AWS同样具有跨数字和物理操作的计算机或软件控制系统（网络）（Dehuri等人，2011，第2页；McFarland 2015，第1326–1328页；Um 2019，第1–3页）

超越普遍的法律背景，制止杀手机器人运动积极游说，要求对AWS实施全面、面向问题的禁令。2012年成立为非政府组织联盟，现已发展成为一个跨国政治倡导网络，或根据其自身名称（CSKR，n.d.）的“全球联盟”。他们的议程贯穿了法律、伦理、道德、哲学、政治战略、科学和军事论述的灌木丛，深入到政治领域和安全监管领域。他们的主旨已遍布全球、区域和地方各级。具有不同专业知识的个人、非政府组织、技术公司、全球和区域IOs部门以及某些政府（如NWI 2014；PAX 2014a；Conn 2018）已编制了针对具体问题的和特别的呼吁、承诺、报告、公开信、指令、决议和声明。自2013年以来，AWS在联合国军备控制议程上占有一席之地，联合国的《特定常规武器公约》框架成为谈判AWS法律文书的主要场所。在2014年、2015年和2016年举行了三次非正式专家会议以讨论AWS之后，《特定常规武器公约》成立了一个政府专家组（GGE）。自2017年以来，随着GGE定期召开会议，AWS辩论获得了“正式地位”。尽管支持禁令的运动对GGE进程的“慢节奏”感到不满，但大多数缔约国仍将《特定常规武器公约》视为解决AWS问题的“适当场所”（Rosert and Sauer 2020，第12页，第17页）。目前，任何关于禁止或监管AWS的决定都将主要基于GGE的建议

上述法律和政治因素仅代表了AWS安全监管的步骤，但并未提供。鉴于网络武器案例的教训，监管“武器化代码”的更一般国际法的适用性可能会受到严重质疑（Stevens 2019，第287–288页）。监管网络武器的法律框架支离破碎，只有零碎的措施（Stevens 2019，第271页）。与此同时，尽管AWS在政治上取得了巨大成功，但该问题并未真正“安全化”。这是因为证券化行为体尚未成功说服各州采取特别的、，超出标准政治程序的具体问题措施（Emmers 2013，第133-135页）

国际安全制度的权力分析方法

从概念上讲，本文建立在国际安全机制的概念之上。它意味着一套“原则、规则和规范，允许各国在相信他人会报答的情况下克制自己的行为”（Jervis 1982，p.357）。这一概念框架使我们能够将一个制度作为道德和法律两个组成部分的集合来研究。功率分析方法用于剖析决定AWS领域此类监管甚至禁止制度的前景和局限性的动态和条件（Hynek 2018a）。根据这一方法，国际安全制度的定义可以进一步细化为规范性期望和法律规则的复杂集合，并以不同社会行为体之间的关系和互动为条件

这种方法通过切入IR学科中的三种理论化制度，即新新趋同制度理论、认知主义和激进建构主义/后结构主义理解，达到了平衡（Hynek 2017）。考虑到权力关系的多样性是将它们结合在一起并组织政权分析的手段。Barnett和Duvall（2005年，第48页）对“权力分类法”的概念化，即现有最复杂的权力理论化，被视为基础。它提供了四种类型的权力：生产性、结构性、强制性和制度性。首先，关于权力的表达，人们可以区分互动和构成；其次，关于权力社会关系的特殊性，可以确定直接和扩散关系（Barnett和Duvall 2005，第45-48页）

作为一种构成性和扩散性社会关系的形式，生产力渗透到意义和知识系统中。它被用来分析AWS的话语和认知框架以及相关的政治主体，具有调节作用。通过结构权力的视角（它是构成和直接社会关系的缩影），对权力等级和相关利益进行了考察。该电源配置用于定义AWS领域中目标、义务和利益分配方面的关键利益相关者。它有助于捕捉彼此直接相关的相关行动者的结构地位和能力 强制性权力捕捉了一系列互动，参与者通过这些互动彼此建立直接关系。它使我们能够研究AWS问题领域中有洞察力的利益相关者如何能够在工作机构框架之外控制和潜在地改变彼此的行为 机构权力，反过来，提供了对参与机构的调解权力和行为体之间分散互动性质的洞察力。它允许我们调查场馆和决策规则的可用性，以及其中的参与线和责任线以及路径依赖配置。这些是影响AWS制度限制结果的因素，是需要考虑的关键因素（Barnett和Duvall 2005，第48-57页；Hynek 2018a）

伯恩（2018年，第444页）的“权力拓扑”概念还被用来避免国家主义，并捕捉这些权力形式如何相互关联和相互授粉。这使我们能够从“关键的、相互排斥的和详尽的区别”（Barnett和Duvall 2005，第43页）转变为“这种多样性背后的活力”（Bourne 2018，第444页）。我们认为，这一分析性举措对于把握道德与法律之间的联系至关重要，而道德与法律的联系又蕴含着复杂、协同的权力配置。然而，这项研究在理论化这四种功率配置的相互作用方面迈出了更进一步的一步：它显示了它们在解释价值方面的不同之处。更广泛的规范性话语及其历史和结构条件被视为与制度分析特别相关。更具体地说，这项研究说明了一切都是从生产力开始的，尤其是道德力量的运作。有必要澄清的是，在广泛的伦理概念结构中的力量是有条件的，并且容易受到多种认知和情感操纵。从伦理结构到法律监管领域（国际人道主义法、武器监管动态等）的转变是一个成功转移和随后的法律封装问题没有说服力的伦理论据。在武器管制问题领域，原本是独立的伦理结构和法律监管之间的关键转换和激活机制之一是现有或未来的研究、开发和相关资金，所有这些都嵌入“全球武器转让和生产体系”（Krause 1992，pp.205–215）。它是真实或想象中的军事物质化的缩影，可以利用广泛的、有道德基础的和污名化的话语以及具体的法律原则和规范。这捕捉到了结构动力内的运动是如何触发的。作为对污名化生产和政治的补充，存在一种仅在法律结构层面运作的二级机制。这是法律“嫁接”机制（Price 1998，p.628），它允许在新兴规范和以前制度化的规范之间建立新的合法化联系，而这些规范本身是成功转移和封装道德话语制品的产物。这种智力进步解释了制度权力在塑造生产力轮廓方面的作用。因此，道德锚定的话语的构成力量与对立叙事保持平衡，也落入生产力的限制之下，以维持或逆转结构力量。这种互动在很大程度上依赖于强制权力提供的直接影响机制。这种复杂的权力相互作用可能导致产生规范性的“钩子”，充其量也可能会将伦理艺术品修改为一套更具说服力和具体的法律原则和规范。后者是在制度权力的范围内产生的，因此我们认为，尽管制度权力具有独特的逻辑和过程，但在很大程度上它具有综合性。拟议的理论使我们能够追踪和分解AWS监管的道德和法律强度，提供有力的解释并反思前景。所有这些都以图表的形式进行了细微的对比，以便于进行实证分析（图2）

生产力：对“政治化”类别的新污名化

本节重点讨论AWS的话语和认知框架，具有监管作用。特别注意道德的作用。目的是评估污名化叙事与竞争性叙事的建设性力量和突出性。重点阐述了技术的构成作用及其在解释、法律条件、生产和转让特点、经济差异、知识传统和习惯做法、伦理和文化标准方面的差异

支持禁令的行动者的主要目标是将AWS描绘成非法的军事工具。总的来说，他们建立在义务论和结果论的融合上。从前者的角度来看，他们谴责致命决策自动化在道德和伦理方面的定义是不可接受的（Asaro 2012，第708-709页；Zawieska 2017，第49页）。多维结果推理强化了这一义务论观点。这些技术被批评者谴责为“在一个无法无天的区域内运作”（Kastan 2013，第47页）。首先，据称，他们威胁要违反国际人道主义法和国际人权法，包括个人和国家政治责任原则以及对违反行为的责任追究（Asaro 20082012，第692-693页）。对于《联合国宪章》关于（不）使用武力的规范、《日内瓦公约》附加议定书中编纂的（新）武器的法律审查原则以及第二项《海牙公约》和《日内瓦公约附加议定书》中引入的马尔滕斯条款（Gubrud 2014，第40页），也提出了类似和密切相关的关切。AWS不遵守的前提尤其在于所谓的“杀戮的非人性化”（Wagner 2014，第1410页）和“战争的非人格化”（Klincewicz 2015，第163页）。前者意味着剥夺了健康的人类情感和判断力（Asaro 2012，第701页；Johnson and Axinn 2013，第136页；Wagner 2014，第1415页；Sharkey 2017，第180页）。后者代表责任的非人格化（Heyns 2016，第12页）和敌方（非）战斗人员的对象化（Sharkey 2012，第788页；Korać2018，第54页）。所有这些都被谴责为对人类尊严和生命基本价值的威胁（Sparrow 2007，第68页；Heyns 2013，第6页，2016年，第3页；Johnson and Axinn 2013，第134页；Garcia 2015，第58-61页）。致命自主武器对这些价值观的侵犯甚至被认定为对“文明”（Rosert and Sauer 2019，第373页；对于原始和更普遍的论点，参见Price 1995）

有趣的是，关于无人机战争道德的争论，尤其是鉴于最近面部识别技术的进步，被定义为目标杀人，即战争的（超）个性化（Dunlap 2014，第109-111页；Schulzke 2017，第56-57页）。AWS无法遵守法律规则和规范性标准，这通常归因于此类技术的不可预测性。它源于无法首先对全面的情报进行编码，固有的软件缺陷和网络攻击的脆弱性（Lin等人，2008年，第20页；Asaro 2012年，第691页；Klincewicz 2015年，第167–170页；Noone和Noone 2015，第33页）。更为严重的是，自动武器可能会演变成大规模产品或“明天的卡拉什尼科夫”（FLI 2015）。这一技术转向被描述为“战争革命”（FLI 2015），阿尔比特警钟响起，这场革命不同于早期的军事革命（Heyns 2013，第5页），甚至代表着对战略事务的彻底背离（Payne 2018，第218页）。最激进的恐惧以机器人“毁灭人类”为特征（Lin等人，2008年，第63页）

为了强化所有这些叙述，支持禁令的行动者在很大程度上把关于自主武器的辩论拟人化了。这就是杀手机器人如何成为“二十一世纪的历史想象”（Karppi等人，2016年，第120页）。杀手机器人的概念依赖于AWS作为人类士兵的机器版本的可怕表现。它搁置了人工智能在网络和军事系统中的其他用途，尤其是那些隐藏在公众视线之外的用途，因为这些用途不会有同样的吸引力，也不会与大量非专家和平民产生良好的共鸣。这就是为什么该运动决定使用人形机器人杀人的图像，尽管人工智能的军事化在狭义上远远超出了AWS<脚注1基本原理是传达“简单而戏剧性的信息”（Rosert和Sauer 2020，第18页；关于短因果链的一般概念，参见Keck和Sikkink 1998）

考虑到所有风险，那些致力于禁止Killer Robots（CSKR，n.d.）的人在自己和抵制禁令的演员之间划出了一条清晰的界线。他们将人类对使用致命武力的有意义的控制权的剥夺描绘为不道德、不负责任、不道德和非法（Asaro 2012，第695–709页），并特别将其称为道德红线（CSKR 2019b）或道德门槛（HRW 2016）。在讨论先发制人禁令的“先例”，即致盲激光武器（BLW）禁令时，人权观察（2018）回顾了“文明国家”或“文明”的概念，以及“野蛮”的概念。与核武器和化学武器的命运相似，这一随意（重新）产生的裂痕再次描绘了“正常人”或“文明人”的内部群体（Price 1995，第95页；Sauer和Reveraert 2018，第438页）。由于AWS也被描绘为富裕、复杂经济体的一种特征，外部群体的污名化因对不平衡和不对称战争的恐惧而进一步加剧（Asaro 2008，第62–63页；Garcia 2018，第339页）

出现的结构性条件为这种话语的深度嵌入铺平了道路。可能性的一般条件是人类和机器在控制生死方面的传统区别（Karppi等人，2016，第111–112页）。技术进步的根深蒂固的历史使人们强烈地想象武器是“被动工具”（Bourne 2012，第142页）。它巩固了“枪不会杀人，人会杀人”的主导逻辑（拉图尔1999年，第174页），并质疑了“枪不杀人，机器人会杀人”这一假设颠倒的逻辑（伯恩2012年，第141页）。《杀手机器人》的禁制性也由根深蒂固的科幻小说和流行文化形象和刻板印象共同构成（Carpenter 2016）。无数科幻电影和小说在创造一个机器人形象方面发挥了非凡的作用，该机器人可能会变得自我意识并违反其编程（Krishnan 2009，第7-8页）。这种想象主要反映了电影《终结者》（1984年）或《机器人》（2004年）（Karppi等人，2016年，第111页）中描绘的西方文化对自动机的描述。有助于AWS在这些方面的污名化的是，法律往往是不完美的、不完整的，需要人类的解释和判断才能适用于现实世界（Asaro 2012，第700–705页）。人类尊严和生命权的原则尤其有助于转移人们对AWS军事用途的关注（Garcia 2015，第60-61页；Heyns 2016，第8-10页）。由于冷战结束后系统伦理力量的宏观转变，这些规范变得越来越突出。这种转变意味着以人权取代主权作为同情的中心力量。因此，安全的概念被固定在先前国家主权范围内的人的层面上（Krause 2002，第260页）。与19世纪的人道主义倾向相呼应，出现了将个人作为安全参照物的（重新）构成（Hynek 2018b）

一些先例在将冷战后的道德力量和人道主义倾向纳入武器管制动态中发挥了关键作用。此前对生物和化学武器、杀伤人员地雷（APL）和集束弹药（CM）等某些军事工具实施的禁令鼓励了人道主义裁军领域的坚定雄心（Hynek 2018b）。尽管AWS依赖于更复杂、两用和战略优势（组合）的技术，但《特定常规武器公约》第四号议定书先发制人地在《特定常规公约》内禁止BLW开创了一个特别重要的先例（HRW和IHRC 2015；HRW 2018）。如上所述，网络武器法律控制的有限进展反过来为AWS安全监管提供了一个起点和先导原则。支持网络武器案件的宣传甚至嵌入并补充了AWS上的相同争论。由于现有的国际法几乎不适用于代码和互联网的（不安全）性质，因此，以问题为导向的法律原则被视为应对此类跨国挑战不可或缺的（Stevens 2019，pp.272280287）。先例的关键作用在于规范制定：大致相同的法律原则，尤其是人道主义原则，是《化学武器公约》、《禁雷条约》、《集束弹药公约》等的基础（Hynek 2018b）。尽管未能为全球安全制度打分，但在监管网络武器方面也引发了类似的担忧（Stevens 2019）。正如我们所展示的，AWS的污名化在很大程度上是由这种重复使用类似的法律论点和人道主义语言基础的做法所激发的

除了法律嫁接的吸引力越来越大之外，各国也在加速并增加对AWS R&；引发支持禁令运动。2010年代初，这种趋势的早期迹象明显可见（Haner和Garcia 2019）。大约在越来越多的人认为AWS可以“在20到30年内开发”的同时，出现了制止杀手机器人运动（HRW 2012）。在政治经济普遍上升的背景下，这些事态发展尤其令人担忧。这样的结构转型揭示了更广泛的道德变革与其他结构性力量之间的紧张关系，即冲突与经济（Hynek 2018b）。分层的全球武器转让系统，涉及公司向政府的国内销售、（非法）贸易和联合生产安排，引起了特别关注（Krause 1992，pp.205-215；Stavrianakis 2010，第2章）。鉴于AWS赋能技术的双重用途性质（FLI 2015；Altmann和Sauer 2017，第132页），民用技术对军事越来越有用的背景增加了整体情况（Smith和Udis 2003，第102-103页）。这种背景条件也被认为与生产成本下降有关，包括3D打印的最新技术进步（Haner和Garcia 2019，第331页）。此外，它们与将代码转化为武器的全球趋势有关（Stevens 2019，第289页）。类似的担忧已经在无人机制造“不道德的军民技术共享关系”方面提出（Schulzke 2017，第55页）

经过深思熟虑、连贯一致、根深蒂固的禁酒话语已经站稳了脚跟。可以公平地得出结论，“从武器系统和使用武力中移除有意义的人类控制的前景已经成为一种耻辱”（CSKR 2019b）。然而，全球禁止（致命）自主武器制度的核心基本目标尚未实现。也没有采取任何形式的以问题为导向的法律法规。在审视话语的阶段，哪些解释可以被辨别出来？尽管以物质性为基础，并经常被比作生物、化学、火药和核武器的案例（Heyns 2013，第5页；FLI 2015；Singer 2009，第179203页），杀手机器人与其说是一个物理实体，不如说是一种“政治化”概念（Karppi等人，2016，第111页）。除了各种复杂、完全自主（致命）武器的前体系统迄今尚不存在，因为它们尚未得到广泛开发，也从未部署过（Walsh 2015，第2页；Noone和Noone 2015，第28页；Horowitz 2016b，第7页；Sauer 2016）。Killer Robots的概念使这个问题具有“未来感”（Rosert and Sauer 2020，第13、18页）。这意味着倡导超越了实践。这在很大程度上解释了目前未能正确定义污名化对象的原因（Horowitz 2016a）。一般来说，AWS中的自主性来源于一个支持AI的过程，它可以采取任何形式，执行认知功能，并在没有人为干预的情况下执行复杂任务<有人担心，真正的自主武器甚至可能挑战武器、作战方法和勇士之间的区别（Liu 2012，第628–629页，第636–637页；Heyns 2013，第6页）。这种情况也呼应并加剧了网络武器治理道路上的一些挫折。技术的双重用途、数字和非常规（物理）性质可能使其全球禁止或过度监管在核查、遵守和执行方面既不可取，也不可能（Stevens 2019，pp.272280288）。尽管R&；D正在顺利进行（Bode and Huels 2018，第400页）。此外，禁止言论严重淡化了AWS的优势。这引发了一股根深蒂固的怀疑主义，有时甚至是抵制。许多人已经提请注意AWS的军事效用和战略重要性，以及引导禁止言论的幻想和偏见。其中一个关键论点是，AWS实际上可能比人类更好地满足道德规范和法律原则（Arkin 2010、2017、2018；Anderson和Waxman 2012、2013；Schmitt 2013；McFarland 2015，第1326–1327、1338页；Birnbacher 2016，第118–121页）。Bode和Huels（2018）同时警告，不要过分强调“基本规范”（人权、责任等）而损害“程序规范”（效率、效力、生存、服从等）。迄今为止，所有这些细微差别都阻止了禁止话语成为“真理政权”（福柯1980年，第131页）

结构权力：知识和材料生产的不对称

以下章节分析了权力层次结构和相关利益，定义了AWS领域的关键利益相关者。在这样做的过程中，亲禁行为体的结构位置与抵制禁行为体之间的关系得到了仔细的描述。根据所发现的利益、义务和目标的分布，对其结构权重进行推断

致力于禁止AWS的运动由（国际）非政府组织（I）NGO及其各种保护伞、全球和地区IOs的成员、（志同道合的）国家、科学家的知识社区、诺贝尔和平奖获得者和和平奖获得组织、信仰领袖、高科技商业公司和大众媒体组成。多个权力阶层，所有的参与者都有不同的角色和能力，显然都参与其中（CSKR，n.d.）。在结构上，非政府组织或民间社会组织与政府之间的“有效和高效”关系在许多自由主义国家逐渐建立起来（Flora 1986；Gidron等人，1992）。前者在许多方面被认为比政府做得更好，包括提高公众对国际问题的认识（Chrétien 1995）。由于其职能主要限于咨询或观察，非政府实体也通过正式或非正式机制渗透到联合国治理体系中（Ruhlman 2015，第37-40页）。定期发布声明和组织会外活动，具有参与权的非政府组织和智库参与了关于AWS可能的军备控制方案的政府间讨论（Rosert和Sauer 2020，第17页）。全球和区域组织的一些成员赞扬了这一议程。在致命自主机器人的激增中，联合国人权委员会法外处决、即审即决或任意处决问题特别报告员的报告将人权和道德问题摆在了首位（Heyns 2013）。UNSG批准了AWS禁令，对反对派提出了挑战（古特雷斯2018）。欧安组织议会大会（OSCEPA）和欧洲议会（EP）也支持议会层面的禁令提案（EP 2018；OSCEPA 2019）。作为对《特定常规武器公约》进程的回应，代表欧盟的声明也同样强调了人类控制生死决定的重要性2019). 欧盟委员会（EC）和拟议的欧盟人工智能协调计划也促进了人工智能的“以人为本”方法（EC 2018）。被公认为证券化的一个重要框架（Vultee 2011），世界各地的媒体都慷慨支持这一案例。报道该议程的媒体包括英国广播公司（BBC）、《独立报》（the Independent）、《福布斯》（Forbes，《卫报》、《纽约时报》、《华盛顿邮报》、《电讯报》和汤森路透基金会（如CSKR 2018a）等知名媒体。这起案件还与科幻小说和奇幻小说交织在一起，被认为越来越多的“被政策精英用来为关于现实世界的争论服务”（Carpenter 2016，第53页）

全球审议，特别是政府间谈判的主要场所已成为日内瓦的联合国《特定常规武器公约》（Altmann and Sauer 2017，第132页）。受到一些条约成员国（主要是大国）的阻挠，《特定常规武器公约》格式此前未能禁止APL和CM（Abramson 2017；Hynek 2018b）。这是因为政治精英是全球决策过程的主要参与者（Basu 2004，第139页）。从理论角度来看，他们也被认为在寻求影响观众和呼吁实施特别措施方面优于其他演员（Emmers 2013，p.134）。包括阿尔及利亚、奥地利、巴西、哥斯达黎加、加纳、危地马拉、约旦、摩洛哥、尼加拉瓜、巴基斯坦、乌干达和津巴布韦在内的近30个国家已经反对AWS（CSKR 2019a）。由于这甚至不占多数，我们提供了一个政治经济学视角，了解它们相对于AWS监管政治的相对结构权重：全球武器转让和生产系统是分层的。在这样一个体系中，各层级之间的流动障碍仍然相对较高，因此，主导行为体集中精力在武器出口中追求权力，有时也追求财富（Krause 1992，pp.98206-210）。可能出于这些原因，技术欠发达的国家已经批准了一项禁令，而AWS开发领域的世界顶级领导者（主要是美国、中国和俄罗斯，但也包括英国、法国、德国、瑞典、意大利、韩国和以色列）没有这样做（Haner和Garcia 2019，第332-335页；CSKR 2019a）。然而，值得说明的是，受援国传统的“武器转让依赖”循环有助于我们理解其他技术欠发达国家对禁令的反对（Kinsella 1998，第19页）。他们的动机是明确的：“技术上处于劣势和脆弱”的国家往往在武器转让中集中精力“追求安全”（Krause 1992，第98页）。因此，对AWS禁令的反对似乎深深植根于当前的社会秩序。同时，这些在经济上占主导地位的行为体主要属于五常（P5），并指挥联合国安理会（UNSC），该机构负有维护国际和平与安全的首要责任（Ruhlman 2015，第37-38页）。根据商业逻辑的轮廓量身定制，他们的政治统治让人想起了网络武器的命运，并预示着“支持禁止的决定性政治意愿不太可能”（Stevens 2019，第289页）

尽管信息技术对一个国家的经济竞争力和出口成功具有重要意义，但它主要是由商业利益和私人资金推动的，通常是跨国公司内部的（Smith和Udis 2003，pp.102–103）。有迹象表明，商业部门（主要是西方民主国家的大型科技公司）已经脱离了军事机器人或所谓的杀手机器人。例如，特斯拉和DeepMind参与了公开信；谷歌承诺不会开发用于武器的人工智能，并出售了备受争议的波士顿动力公司（Boston Dynamics）；Clearpath Robotics承诺支持对AWS的先发制人禁令（Altmann和Sauer 2017，第132-133页；谷歌2018；CSKR，未定）。在这场争论逐渐平息的同时，在西方人工智能发展过程中，实用的商业军事纽带已经根深蒂固。尽管当时因与美国军方关系密切而闻名，但波士顿动力公司被谷歌出于商业目的收购（Altmann and Sauer 2017，pp.132-133；Diakogiannis 2019）。谷歌还被发现与美国军用无人机项目有商业联系，特别是在与五角项目Maven的合同中（Gibbs 2018；Wakabayashi和Shane 2018）。尽管ClearPath Robotics致力于其承诺，但仍继续与其军事客户（CSKR，n.d.）合作。五角大楼洛克希德·马丁公司、波音公司、诺斯罗普·格鲁曼公司和雷神公司的一些世界最大的武器生产商和著名国防承包商正在研究与AWS相关的技术（PAX 2019，第5-8页）。私营部门应该脱离军事机器人的机器人在其他国家甚至没有同样的吸引力。中国就是一个明显的例子。其“军民融合”国家战略模糊了军事和民用领域之间的区别，从一开始就明确了人工智能的双重用途（Verbruggen 2019，第340页）。俄罗斯政府，特别是国防部，也与俄罗斯联邦储蓄银行（Sberbank）、Yandex、俄罗斯电信（Rostelecom）、俄罗斯技术公司（Rostec）、俄罗斯天然气工业股份公司（Gazprom Neft）和俄罗斯国家原子能公司（Rosatom）（俄罗斯总统2019年）等主要国家公司和公司联合开发人工智能。对AWS提出特别高度关注的公司包括中航工业和CASC（中国）、IAI、Elbit和Rafael（以色列）、Rostec（俄罗斯）和STM（土耳其）（PAX 2019，第5页）。更普遍的是，机器人技术、自动化和复杂分析已经深入渗透到利润驱动的制造业，包括通用电气、西门子、英特尔、富纳克、库卡、博世、英伟达和微软（Walker 2019）等科技巨头。尽管民用创新对AWS的发展和推广“没有保证”（Verbruggen 2019，第338页），但为AWS铺平道路的机器人和AI技术都是两用的（Altmann和Sauer 2017，第124页）

认知社区通常与前一组参与者紧密相连，也参与了AWS安全法规的审议（例如，2015年《特定常规武器公约》）。这一类别包括科学家、技术人员、国防专家、军事官员、国际律师甚至宗教领袖。他们通常受到基于知识的专业知识和支持公共利益或改善人类福利的愿望的激励（Cross 2013，第150–158页）。对他们的专业知识或更一般的专业判断的认可可以从“权威”的角度来考虑（Schneiker 2016，第4章）。对特定问题或问题进行框架化，并从不同角度对其进行情境化，它们会影响政府和非国家行为体（Cross 2013，第138页；Schneiker 2016，第4章）。他们也成为人道主义的重要推动者（Schneiker 2016，第4章）。从这个意义上说，它们的特点是“知识转化为权力的主要手段”。特别是随着跨国进程和跨国全球治理的不断发展，知识共同体变得越来越重要（Cross 2013，138–139）。重要的是，这类群体的成员也受到他们特殊的专业自我理解的驱动（Schneiker 2016，第4章）。这允许认知社区内部凝聚力的变化，以及共存或冲突的认知社区（Cross 2013，第147-148页）。这个假设设置恰当地描述了AWS的情况。一些专家明确表示支持该禁令（Sharkey 20122017；Asaro 2012；Garcia 2015；Klincewicz 2015），而其他专家则指出了其方法中的偏见或弱点，并提请注意AWS的积极方面（Arkin 20102018；Anderson和Waxman 20122013；Schmitt 2013）。他们的担忧有被压制的风险，因为认知社区内部的凝聚力对于对政策结果施加影响至关重要（Cross 2013，p.138）

红十字委员会值得特别关注。这个中立的非政府组织具有法律人格和IO同等地位，从事人道主义外交，偶尔也会进行以禁止为导向的政策宣传，APL、CM和AWS的案例证明了这一点（Price 1998，p.632；ICRC 2016；Hynek 2018b）。其法律人格特别意味着其“在国际法中相对于国家的法律地位”（Mathur 2011，第182页）。它还寻求建立和加强与私营部门的联系（红十字委员会2018b）。与此同时，红十字国际委员会已成为关键的人道主义行动者，特别是“人道主义专家”（Mathur 2017，第19页）——首先是由于其对日内瓦法律或国际人道主义法的监护（Forsythe 2005，第13页；Mathur 2011，第182页，2017，第4页，第95页）。它还拥有国际人道主义法和国际人权法领域的法律专门知识，两者的逐渐融合也导致了各自的“监护人机构”，即红十字委员会和联合国的融合（Fortin 2012）。因此，红十字国际委员会为支持禁令运动提供外交便利尤为重要（红十字国际委员会，2016年）

被承认对证券化过程有影响（Salter 2008；Emmers 2013，第134页），公众也会重新参与AWS导向的讨论。总体而言，他们的立场仍然支离破碎，只有61%的人明确支持该禁令（IPSOS 2019）。然而，公众意见是有背景的，并根据特定情况和情景的具体情况而有所不同（Horowitz 2016b）。对AWS最强烈的反对来自土耳其、韩国和匈牙利；印度和以色列对AWS的最有力支持。尽管大多数受访者反对美国、英国、俄罗斯和中国的AWS，但仍有许多人支持使用AWS在这些国家的战争中。对AWS提出的主要担忧是它们不道德且不负责任（IPSOS 2019）。美国的一项调查显示，支持AWS的最常见理由是“武力保护”，即认为此类武器可以保护人类士兵的生命（Carpenter 2013）。我们认为，这一思路代表了一种总体趋势，因为“结束一支由机器组成的军队，而不是亲朋好友的战争，不会对一个人口造成相同的身体和情感损失”（Wagner 2014，第50页）

总体而言，虽然支持禁令的行为体可以分为（I）非政府组织的倡导、国家和观众的支持、国际组织的协助、专家的祝福和商业部门的支持，但抵制禁令的行为可以分为几乎相同的类别。这表明，在AWS的禁令或严格限制方面，社会立场存在分歧。就权力和相关利益的结构性分配而言，目前的情况不利于支持禁令的运动。在这方面，三个关键的利益攸关方群体至关重要。国家，尤其是属于五国集团的国家、知识社区和商业部门是主要控制安全、知识生产和技术诀窍、金融和材料生产领域的国家（Strange 1994，pp.24-32）。那些最强大的国家，同时也是AWS发展的世界顶级领导者，反对对AWS的禁令。他们尤其是在专家提供的基于知识的基本原理的保护下，并经常与商业参与者合作。他们在全球武器转让和生产系统中的主要客户也可能继续支持他们对AWS的立场。这证明了运动相对于AWS的不利结构位置。有趣的是，它的许多参与者都参与了成功的APL和CM禁止运动，并参与了小武器和轻武器的监管工作（Marks 2008；Krause 2002，第256页；Hynek 2018b）。在大多数情况下，反对这种人道主义努力的主要原因还在于“少数依赖武器的政府”（Johnson，n.d.）。更具体地说，大致相同的少数人也反对严格限制杀伤人员地雷、化学武器、小武器和核武器（Krause 2002，第256页；Marks 2008；Hynek 2018b；Bourne 2019；Johnson，n.d.）。下一节将展示结构上处于不利地位的行动者如何能够克服政治经济力量方面的差距。这尤其是通过某些形式的权力“被用作影响跨国结果的权力资源”（Hall 1997，p.591）

强制权力：混合道德推力与大国政治

本节考察了抵制禁令的行为体为保持其结构主导地位和继续投资AWS的自由所做的努力。此外，它还分析了支持禁令的行为体试图改变其政策的行为。特别关注的是，行为体的权威如何转化为直接影响战略，以维持或扭转权力不对称。从经验上讲，我们关注的是亲禁令运动产生的混合道德推力与大国利益和政治产生的反对派之间的讨论和实际对抗

例如，2016年10月18日举行的联合国大会第一委员会会外活动（CSKR 2016），支持禁令运动的混合性质可能很明显。会议汇集了一位主要与《特定常规武器公约》有关的人士、一位知名科学家以及制止杀人机器人运动、人权观察和国际机器人武器控制委员会的代表。如上所述，各种动力来源构成了这种混合动力。除其他外，它们包括非政府组织（特别是红十字委员会）和国际组织（尤其是联合国及其机构）的实地知识和专家权威、非正式或正式（法律）地位以及道德或政治权威。“道德权威”（Hall 1997，p.591）仍然被认为是规范企业家的权威的中心和统一来源。公认的安全监管实践历史，最重要的是在《特定常规武器公约》格式中，也发挥了建设性作用（Hynek 2018b）

利用这一杠杆，支持禁令的行动者部署了各种机制来改变抵制禁令的行动者的行为。为了污名化其议程的反对者，同时向他们施压，他们点名并羞辱了俄罗斯、中国、以色列、韩国、英国和美国等国家（CSKR 2019a，b）。AWS的禁忌也通过对紧迫性、后果性和义务性争论、情感诉求和投机幻想的想象来实现（卡彭特2016年，第53页）。举例来说，《终结者》和《太空堡垒卡拉狄加》中的画面已在媒体报道中出现（Carpenter 2016，第53页）。宗教规范也被要求帮助污名化AWS（PAX 2014b）。为了促进禁忌，支持禁令的演员经常强调某些属性，而忽略其他相关特征（Sauer和Reveraert 2018，第438页）。通过多方面的规范和同行压力进行说服也在他们的工具包中。他们将自己的议程带到由政府、（I）非政府组织、国际组织和具有各种专业知识的个人团体组织的各种会议和活动中（CSKR，n.d.）。人工智能/机器人研究社区发起的公开信已在当地和全球广泛传播，以获得进一步签名（FLI 2015；Kerr等人2017；公开信2017a，2017b）。另一封公开信，特别是针对《特定常规武器公约》，由科技公司制作（FLI 2017）。在一次专门研讨会上，专家们以多数票通过，发表了一份声明，呼吁禁止AWS（ICRAC，n.d.）。观众也越来越多地被拖入这一过程，因为这类文件通常需要通过签名获得他们的认可（FLI 2015，未公布）。收集有利民意的统计数据，并以民意调查的形式进行报告，作为支持刺激的补充机制（IPSOS 2019）。根据其敦促各国政府调整国际人道主义法以适应不断变化的环境的传统使命，红十字委员会还呼吁各国对武器系统的自主性设定限制（红十字委员会，2016年）。它考虑了自己的立场，并与该运动合作发行了《红十字国际评论》杂志（CSKR 2013）。全球和区域IOs的要素也在引导国家野心朝着期望的方向发展方面发挥着至关重要的作用。OSCEPA的声明和EP的决议敦促其成员国致力于对AWS实施具有法律约束力的禁令（EP 2018；OSCEPA 2019）。一些国家，如奥地利、古巴、哥斯达黎加、巴基斯坦或危地马拉，倾向于禁止AWS，从而对其他国家，特别是IOs内的国家产生了同行压力（CSKR 2019a）。面向行动者的信函和报告也被用于向商业实体（Wareham 2018a）和个人政府施加或增加规范压力（Ware汉姆2018b；Amoroso等人2018）。（私人）经济行为体和国家的某些反应性担保扩大了同行压力的范围（谷歌2018；Maas H 2018；彼得斯2019）。与此同时，活动者定期进行媒体宣传，以吸引公众关注（例如CSKR 2018a）

然而，支持禁令的运动仍然缺乏对抵制禁令的行为体的直接影响力，因为政治和经济上占主导地位的国家对等式中所有其他行为体的影响力占主导地位。霍尔（1997年，第594–597页）指出，道德权威与其他“权力资源”（主要是国家经济和政治（军事）能力）保持平衡是正确的。欧安组织相对于参与国的法律地位是不具约束力的（欧安组织，未定）。尽管欧洲议会日益突出，但在欧盟安全和防务政策领域，欧洲议会对成员国几乎没有影响力（欧洲议会2019年）。欧盟的政治立场仍然支离破碎，奥地利呼吁禁令，而法国、德国和英国要么对禁令持怀疑态度，要么反对禁令（CSKR 2019a）。在全球治理体系中，联合国安理会是“结构最不平等的机构”（Ruhlman 2015，第37-38页）。尽管享有干涉人道主义服务国家内政的权利和广泛的主动权，但红十字委员会缺乏可信的执行机制，尤其是在冲突和危机地区之外（红十字委员会2011年）。分层的全球武器转让和生产系统仅出现在AWS领域，通常使主导的生产商和供应商能够操纵武器转让和相关的依赖关系，以达到政治目的（Kinsella 1998，第19页；Krause 1992，第99–126、206–210页）。除了一些小的例外，贯穿上海合作组织、海湾合作委员会、北大西洋公约组织、欧安组织、欧盟以及其他国家的战略伙伴关系也造成了一定程度的依赖和追随，尤其是在较小和较大的国家之间（Cooper等人，1991）。正如核武器的经验所表明的，现在杀手机器人也很明显，非盟国倾向于加入人道主义裁军或禁止议程（Sauer和Reveraert 2018，第442页）。事实上，不结盟运动在游说AWS问题领域的禁令和条例方面发挥了积极作用（CSKR 2019a）。各州可能在不同程度上控制商业部门也是如此。例如，中国的“军民融合”国家战略几乎没有让大公司独立于国家开展业务的自由（Verbruggen 2019，第340页）。另一个例子是俄罗斯。大多数处于人工智能发展前沿的俄罗斯国家企业和公司在很大程度上属于国家所有制（俄罗斯总统2019）。这两个案例都证明了政治经济学家所理解的“发展国家”模式（Woo Cumings 1999）

为了保证并维持他们在AWS上的争议立场，抵制禁令的演员进行了Sauer和Reveraert（2018年，第446–447页）所称的“污名拒绝”。他们认识到耻辱，但却与之分离。例如，俄罗斯和美国都强调在其面向人工智能的军事项目中保留有意义的人类元素（TASS 2018；BBC 2019）。美国还坚持认为，即使在通信降级或丢失的情况下，远程操作系统也不应能够自主选择和攻击目标（国防部2012/2017）。遵循同样的路线，英国也强调了人类方向对致命武力应用的重要性（国家声明2018b）。中国甚至呼吁禁止使用完全自主的武器（CSKR 2019a）。人类“参与”、“判断”、“控制”和“责任”的语言通常已在《特定常规武器公约》（CCW 2018；CCW 2019a）上商定并正式编纂。然而，遵守规范的问题仍然模棱两可，抵制禁令的行为体将其作为一种有效的战略来调和规范压力和对战略灵活性的偏好。在CCW GEE讨论期间，俄罗斯一再要求在最终报告中减少不必要的细节，尤其是在没有共识或充分证据的情况下。美国反过来对“人类控制”的僵化概念表示担忧（艾奇逊2018；艾奇逊和皮特拉克2019）。中国在AWS上的外交立场也可以表现为某种程度的“战略模糊”。例如，这在其最近的立场文件和“军民融合”国家战略（Kania 2018）中就很明显。同时，它反对禁止AWS的开发或生产（CSKR 2019a）。这种情况类似于美国、俄罗斯、中国、以色列、欧洲以及其他国家的私营公司。虽然明确了如何确保人的控制，但一些人仍在继续研究与AWS相关的技术。相当一部分人这样做，即使没有明确的、至少是明确宣布的关于人类控制问题的政策（PAX 2019，第5-8页）。除此之外，抵制禁令的行为体同时诉诸了所谓的“反污名化”（Sauer and Reveraert 2018，pp.446–447）。他们通常以知识为基础的专业知识为后盾，试图将注意力转移到AWS的积极价值上（国家声明2018a、2018b、2019）。美国前国防部副部长罗伯特·沃克（Robert Work）曾辩称：“人工智能将使武器更具歧视性和更好，更不可能违反战争法，更不太可能杀害平民，更不容易造成附带损害”（Fryer Biggs 2019）。例如，专家支持的一个明显迹象是，《柏林声明》在柏林的专家研讨会上没有得到一致认可（ICRAC，n.d.）。乔治·R·卢卡斯（George R.Lucas）教授在提到计算机科学家罗纳德·C·阿尔金（Ronald C.Arkin）时还假设，自主机器人技术可能“使战争本身和武装敌对行动的进行具有更少的破坏性、风险性和不分青红皂白”（Lucas 2014）

正如所证明的那样，纯粹的政治经济力量是不够的：这一领域的差距在某种程度上可以通过其他权力结构（话语工具、规范压力、道德权威等）来克服。通过后者，规范企业家能够在权力配置中产生规范性的“钩子”，而这种“钩子”正在出现，以构建AWS。抵制禁令的行为体表现出的自我克制证明了这一点。然而，尽管支持禁令的运动影响广泛，吸引力旺盛，但他们的言论和做法目前无法遏制抵制禁令的行为体。政治和经济上占主导地位的国家仍然拥有可靠的杠杆，以动员反对对AWS的污名化和禁止

制度权力：外交僵局和缺乏法律封装

在本部分中，我们展示了上述动态最终如何在法律承诺的产生中发挥作用。本节旨在证明，制度权力在很大程度上，但不完全是其他权力关系的产物。从概念上讲，我们可以深入了解相关机构的调解力量和性质关键利益相关者之间的间接互动。决策规则、参与线和责任线以及路径依赖的配置都被考虑在内。从实际意义上讲，重点是支持禁令的行为体如何通过制度场所影响或控制其他行为体，尤其是抵制禁令的行为

《特定常规武器公约》已经牢固地确立了自己作为一项人道主义法律文书和一个解决武器问题的国际论坛，包括AWS条例（UNODA 2014）。成功通过关于无爆炸武器、战争遗留爆炸物、不可探测碎片和其他装置的议定书的做法，为这种谈判形式设定了程序性和路径依赖性特征。此类禁止性做法具有远远超出特定条约的标准制定功能（Rappert 2008；Acheson and Fihn 2013）。在扩大了讨论AWS的范围后，《特定常规武器公约》讨论最初以非正式专家会议的形式进行，但通过转向GGE形式获得了“正式地位”（Rosert和Sauer 2020，第17页）。一百多个国家是《特定常规武器公约》的缔约国，包括联合国安理会所有五个常任理事国（CSKR 2018b）。联合国《特定常规武器公约》框架将其缔约国和其他国家、联合国机构、（区域）国际组织、红十字委员会和其他注册的非政府组织（包括制止杀人机器人运动）聚集在一起，以应对AWS（UNODA 2014；CSKR 2018b）。活动人士承认，非政府组织有意义地参与此类会议已经是20年的实践（CSKR，n.d.）。红十字委员会和联合国合作的历史更加根深蒂固（Fortin 2012）。澄清红十字委员会的立场：它强调了人类对杀戮决定的责任的重要性，从而为联合国内的亲禁令运动提供了外交支持（红十字委员会，2016年）。民间社会和外交官之间的非正式会议也在联合国主持下安排（CSKR，n.d.）。鉴于国际人权法与国际人道主义法之间的联系，联合国人权委员会与《特定常规武器公约》之间存在密切关系（Bieri和Dickow，2014年，第3页；《特定常规公约》，2015年，第19页）。专家、学者、研究人员和分析师也在《特定常规武器公约》谈判形式中获得了稳固的席位，最近的报告也证明了这一点（例如《特定常规公约》2019a）。科学家、学者、政治、军事、法律、经济和技术专家以及部长、秘书、大使、参赞和随员也出现在政府代表中（如《特定常规武器公约》2019b）

AWS问题深深植根于这一多元声音的机构组成中，并没有通过一个有效的国际安全机制而制度化。《特定常规武器公约》的进展在很大程度上受到其协商一致投票和最低公约数结果的传统的阻碍。除此之外，政府专家小组的任务通常很薄弱。其主要目标一直是讨论此事并向《特定常规武器公约》报告。政府专家组从未被授权为新的《特定常规武器公约》议定书安排正式谈判，尽管其最近的任务是考虑2020和2021 AWS未来法律框架的“方面”（Rosert和Sauer 2020，第17页）。《特定常规武器公约》格式也缺乏执行机制（Abramson 2017）

因此，没有法律文书来管理AWS的新兴领域（截至2020年7月5日）。当前的GGE过程可能被描述为“缓慢而低调”（Rosert and Sauer 2020，第17页）。根据APL和CM的案例（Hynek 2018b），这些主要是阻止禁令提案的主导力量（CSKR 2019a）。作为R&；D和政府支出在AWS领域加速（Haner和Garcia 2019），在GGE中几乎没有进展，甚至有一定程度的倒退。包括美国、俄罗斯和以色列在内的少数国家的外交语言坚定地基于AWS的“利益”（Acheson 2018，第1页）。早在2017年，一些州就批评GGE进程缺乏雄心壮志和紧迫性（Acheson 2017，第4页）。美国、俄罗斯和以色列甚至试图从GGEs的最新报告中删除对“人类控制”的明确提及，这是自2014年以来AWS辩论的中心问题（Acheson 2018，第7-8页；Acheson和Pytlak 2019，第5-6页）。尽管这个短语在2018年的报告中仍然反复出现，但2019年的报告几乎没有提到它。总的来说，最新的报告引入了一个新的指导原则：“人机交互，它可以采取各种形式，并在武器生命周期的各个阶段实施”（CCW 2018；CCW 2019a）。这一规定可能暗中为AWS的合法使用创造了空间：关键是确保系统在使用武力时实现人类意图<脚注4由于缺乏对AWS的精确定义和对相关的清晰理解，因此提供了更大的灵活性经过六年的《特定常规武器公约》讨论（CCW 2018；CCW 2019a），概念和特点越来越令人失望，支持禁令的行为体已经开始考虑将这一进程转移到另一个地点（Bieri和Dickow 2014，第3页）。联合国大会或另一个特设论坛似乎是“唯一有可能取得进展的合法空间”（Acheson和Pytlak 2019，第2页）。其他成功的条约表明，联合国安理会的抵抗并不一定是决定性的（Johnson，n.d.）。例如，《武器贸易条约》或《禁止核武器条约》清楚地证明了联合国大会在建立国际制度方面的作用。联合国大会也可能是AWS的一个选择，特别是现在联合国大会裁军和国际安全第一委员会的定期面向问题的审议已经补充了《特定常规武器公约》程序（联合国大会2018）。回顾渥太华（APL）和奥斯陆（CM）进程，由赞助者（通常是中间大国）领导的较小大国也有可能绕过常规军备控制，建立一个临时政权（Hynek 2018b）。然而，至少到目前为止，这两种选择对AWS都不有利。联合国大会坚持平等原则，除此之外，联合国安理会五个常任理事国有权否决有关国际和平与安全的决定（Ruhlman 2015，第37-38页）。由于只有中国倾向于有限的禁令，这五个国家都反对全面禁止使用、开发和生产AWS（CSKR 2019a）。然而，支持禁令的运动不仅缺乏有影响力的成员，而且也缺乏一般的国家成员。这使得他们很难在联合国大会或其他特设论坛上产生任何有意义的法律成果。他们的联盟也缺乏在以往规范制定过程中发挥重要主导作用的积极中间力量：瑞典和法国在BLW，加拿大在APL，挪威在CM（Rosert and Sauer 2020，第17–18页）。通过另一个特设论坛来推进这一进程也是非常困难的，尤其是在缺乏外交影响力的政府支持的情况下。Benvenisti和Downs（2007年，第595–597页）将此案解释为冷战后机构沿着“功能主义路线”工作的趋势，这使得强大的国家更方便，而弱小的国家更容易讨价还价。

讨论和前进的道路

这篇文章揭示了围绕AWS安全问题的复杂权力运作。我们提请注意共同指向AWS国际安全监管的法律背景和政治进步，并发现适用于管理AWS的法律漏洞仍然受到限制。这是因为它的主要特点是一般的国际战争法，特别是人道主义原则，以及管理网络武器的零碎的新兴框架。然后，我们展示了鉴于这些局限性，以问题为导向的禁止性议程如何深入到全球、区域和地方各级的政治领域。开篇的结论是，尽管“严重政治化”取得了成功，AWS并没有真正“安全化”：这个问题既没有超越标准的政治程序，也没有最终采取以问题为导向的特别措施。然后利用和完善权力分析方法，解释道德和法律之间的关系，以解决案件。它有助于反映影响AWS取缔前景的动态和条件，以及新兴监管框架的道德和法律强度。对AWS建立全球禁止制度的尝试以及现有的抵制措施引起了人们的强烈关注，并以图表形式综合了主要发现（图2）。

这一分析从生产力的概念开始，剖析了话语和反话语与AWS的污名化有关。它展示了道义论和后果论如何被用来将AWS定性为不道德、不道德、非法和不人道的军事工具，甚至是对人类的威胁。杀手机器人的图像还被用来构建一个可怕的AWS图形表示。支持禁令的行动者也回顾了文明的标准，以协助这一框架。这不仅有助于他们将AWS描绘成不文明的，而且政治主体也在此基础上被区分为文明行动者的内部群体和野蛮人的外部群体。我们最终认为，与AWS相关的新生污名正在出现，但目前更多的是一种“政治化”，而不是一种实际的武器类别。在更广泛的道德力量和人道主义倾向的基础上，它的目标是解除人类对使用武力的控制。法律嫁接的传统（在越来越多的武器条约中逐步嵌入道德规范）被视为溢出到研究案例中，具有激励和促进作用。然而，我们得出的结论是，至少到目前为止，禁止言论还没有成为一种主导的真理制度。强大的对立叙事在很大程度上是因为在《杀手机器人》的污名化下缺乏有意义的物质基础。它们突出了AWS的积极战略军事含义，并揭示了禁止言论的缺陷。由于道德力量和人道主义倾向是针对具体问题的话语的一个重要的总体编纂，相互竞争的叙事保持了AWS积极的道德和法律形象。在这类辩论中出现的伦理文物构成了随后的法律争论的基础，并从未来的角度来看，形成了新的法律原则和规范。加速并增加对AWS R&；D、嵌入武器生产和转让的全球结构，推动了整个进程

在上一节中稍稍提到，结构动力是我们下一个分析重点。通过它的镜头，我们展示了在权力和相关利益的普遍系统分配中，支持禁令的行动者的结构地位如何处于不利地位。为了强调他们组成的非常高的水平，描绘了支持禁令运动的权力阶层。然而，显而易见的是，支持禁令和抵制禁令的行为体都得到了国家和公众的支持、国际组织的协助、专家的祝福和商业部门的支持。据发现，武器生产和贸易的动态对塑造抵制禁令的形象具有特别重要的影响。它们影响了依赖武器的政府的政治决策，包括主要的生产者和供应商以及武器接收者，并突出了商业部门的作用。值得强调的是，在经济上占主导地位的行为体在很大程度上对应于联合国治理体系（P5）中的政治主导行为体。该分析的关键发现是，与AWS相关的分裂社会立场不利于支持禁令运动。虽然后者与抵制禁令的行动者一样指挥知识生产，但它将安全、技术诀窍、金融和材料生产领域的控制权让给了他们。梯度阴影的强度（对于知识地形来说是均匀的，而对于其他地形来说是不均匀的）在图形上细微地体现了这一点（图2）

接下来，关注强制权力的工作。在这里，我们分析了抵制禁令的行为体如何保持其结构主导地位和继续投资AWS的自由，以及禁令倡导者如何将其行为导向期望的方向。在分析了规范性论点如何转化为规范性战略之后，我们发现，在结构上处于不利地位的行动者可以利用他们的道德权威，并在一定程度上克服政治经济力量的差距。亲禁令运动所利用的直接影响的关键机制包括对AWS的禁忌、点名和羞辱，以及通过多方面的规范和同行压力进行说服。我们在他们的混合道德推力和规范性“钩子”的出现之间得出了明确的联系，这些规范性“钩子”旨在约束AWS R&；D、虽然民间社会的参与和提高公众意识是积极的发展，但迄今为止，他们的努力还不足以改变目前的事态发展。他们散漫而实用的策略仍然让位于抵抗大国的反策略。与任何其他政府间架构相比，联合国安理会在全球治理体系中保持的杠杆作用是无与伦比的。加强其成员地位的是其他人的政治支持，通常规模较小技术发达的国家，具有一定程度的政治经济依赖性和追随性。商业部门也可能没有太多的行动自由，特别是如果政府机构与私营公司密切合作。最明显的例子是中国，那里几乎没有任何反对中央政府的空间。为了保证并维持他们对AWS的争议立场，抵制禁令的行为体将新出现的污名视为不适用于他们，但往往会采取战略模糊的方式来保持灵活性。在以知识为基础的专业知识的支持下，他们还进行反污名化，为AWS的合法使用敞开大门

接下来是对制度权力机制的探讨。《特定常规武器公约》的外交僵局被发现。我们认识到，禁令倡导者已深深融入联合国治理体系，包括《特定常规武器公约》。非国家行为体，包括（一）非政府组织、运动代表、红十字委员会、科学家、学者以及政治、军事、法律、经济和技术专家，可以接触和影响机构进程。加强其机构地位的是一群（志同道合的）政府的支持，但也得到了国际组织某些成员的支持，如联合国人权委员会、联合国秘书长、欧洲议会和国家环境保护局。然而，《特定常规武器公约》格式中的共识规则，再加上五国对影响结果的隐性权力，使得支持禁令的行为体在面对主要是大国的竞争利益时几乎无能为力。这一进程还有其他选择：正如其他武器条约所表明的那样，联合国大会或特设论坛可能会取得成功。然而，联合国大会的平等原则和阻止联合国安理会拥有否决权的成员采取行动可能不利于联合国内部的进一步进展。由于缺乏有影响力的政府和支持禁令运动的足够数量的结盟国家，目前绕过常规军备控制论坛的条件仍然不利。与AWS主要生产商相对应的主要机构参与者在反对声中采取的限制措施似乎仍然无效。这也是由于缺乏潜在的直接杠杆作用来影响或控制机构所在地以外的非签署方。抵制禁令的行为体在一定程度上（非正式）遵守规范，甚至可能进一步推迟AWS问题领域的法律承诺，尤其是禁令的进展。出于监管目的，无法就AWS的明确定义达成一致

然而，任何管制或禁止武器的企图仍然取决于对战略利益的普遍解释。战略利益和政治立场并非一成不变；它们有时会演变，带来以前认为难以想象的结果。一个例子是，在武装冲突（第一次世界大战、越南战争、两伊战争等）中使用化学武器的历史悠久之后，包括五国在内签署了《化学武器公约》。因此，我们不能放弃改变AWS当前状况的可能性，尤其是因为先发制人的禁令只是正在审查的几个选项之一。与此同时，《特定常规武器公约》可以继续将任何承诺性决定推迟到另一个时间，或者授权各州就AWS进行认真谈判，而不一定是禁令。顺便提一句，我们不应排除在这个关头，如果《特定常规武器公约》的讨论没有及时产生有效结果，并且在2021之前出现僵局，那么可以更认真地考虑其他论坛或解决办法，以弥补外交僵局<一些人仍然坚持认为，《特定常规武器公约》应获得履行其最初预期职能的资源，并建议改革其决策模式（Rosert and Sauer 2020，第20页）。尽管对AWS的禁令不太可能颁布或生效（Crootof 2015，第1883–1891页），但仍在积极寻求一项具有法律约束力的国际文书（Acheson 2017，第2页）。然而，国际“制度”可以通过附加议定书、国内法以及其他非正式或非约束性机制加以补充（Crootof 2015，第1897–1903页）。或者，在采取具有法律约束力的措施之前，可以通过“临时”步骤（例如政治宣言）启动该计划（Acheson 2017，第2页）。由于有许多途径，本文中所画的分界线不应被视为静态的。它们是动态的，取决于世界政治、战略利益和技术发展的变化，以及权衡的能力和意愿

除了实证研究结果，本文还考虑了不同形式的权力如何相互关联和异花授粉，以及它们如何就其解释价值而言并不相同。我们的目标是正确把握道德与法律之间的关系，这种关系植根于复杂的社会政治现实中，如何在新的法律原则和规范的产生中发挥作用。我们展示了一切都是从生产力开始的，尤其是道德力量的运作。我们还认识到，生产力的运作可能是由结构权力的运动引发的，并由已经嵌入体制权力的法律条件加强的。由于代理人被描绘为对（重新）产生伦理和法律论点特别重要，本文捕捉到生产力和所有其他权力配置之间复杂的相互关系。它还表明，结构性权力运作中根深蒂固的持久权力不对称如何转化为强制性权力的偶发表现。然而，我们也说明了如何通过强制权力，特别是某些形式的权力转化为直接影响战略，来克服结构性权力的差距。该文件最终展示了所有这些力量最终如何塑造机构权力的轮廓，并产生新的法律承诺。然而，将所有类型的权力从道德到法律原则和规范联系起来的拟议轨迹并不是武器条约的唯一公式。我们假设，如果最初对武器的战略重要性较低，并且产生了更强烈的污名，那么从伦理结构到法律监管领域的转变可能直接遵循法律嫁接的轨迹（图2）。一个例子是对BLW的禁令，其战术优势几乎立即被明确的身体伤害所掩盖。由于还有更多需要探索，我们建议将其作为进一步研究的途径

除了进一步深入了解复杂的权力相互作用以及研究伦理和法律的方法外，本研究还证明了权力分析方法的普遍有用性。与现有文献中常见的本体选择性和基于主体的解释不同，这种方法允许将社会政治现实分解为一组本体多重性。同时，我们展示了如何将分析结果综合为对多重共存现实及其相互交织和互动方式的连贯解释。它的实际应用预计将远远超出选定的案例，未来的研究将其应用于全球治理领域的其他案例具有双重重要性。首先，这一方法可能会对军备控制领域之外的其他武器制度、其他人道主义制度（例如难民制度）或安全制度（例如反恐制度）以及货币、金融和贸易制度提供宝贵的见解。其次，此类调查可能有助于进一步测试这种方法的实际相关性，并可能使其轮廓更加清晰

总结

AWS的特点是在军民协同作用中培育出一种复杂的技术解决方案，其定义完全沉浸在术语障碍中。由于这些原因，AWS很难等同于完全可识别的武器或装置。《杀手机器人》的科幻形象深受该运动的喜爱，使AWS远离现实，平息了紧迫感。也很难将其对各自监管工作的负面影响隔离开来，尤其是当竞争性的叙述赞扬AWS的军事效用和战略重要性时。在污名化解除对使用武力的人类控制方面，仍有巨大的进步。规范性的“钩子”正在出现，以界定（致命）武器系统的自主性，包括目前研发的动态；D、但AWS上的禁忌是难以想象的。正如我们所证明的，道德力量取决于并倾向于多种认知和情感操纵。具有讽刺意味的是，AWS的案例清楚地表明，它们可能同时支持禁止话语和竞争叙事。尽管在规范制定方面取得了相对的进展，但由于其他原因，通过禁令或严格法律限制的机会也非常低。全球在AWS R&；D不仅助长了规范性辩论，而且动员了抵制禁令的力量。通过常规军备控制论坛限制此类项目的努力可能会受到其支持者不利的体制地位的阻碍。建立临时制度的条件是不利的，而且事先认为它是无效的，只要全球最大的AWS生产商不受其规定的约束。人工智能在知识和民用应用的各个领域越来越普遍，无疑将带来一个重大的验证挑战。这揭示了新兴监管框架的道德和法律强度之间仍然存在巨大差距。事实上，AWS并没有完全超出法律承诺，因为国际战争法和一套关于网络武器的零散规则已经到位。然而，就其对AWS的适用性而言，这些都是脱节的，值得怀疑。尽管如此，要得出明确的结论既困难又为时过早。主要军事大国对其战略利益总是有新的解释空间，取舍导致某种监管措施，可能仍然是禁止性的，条约和临时措施。