简介

军备控制历来专注于应对科学技术新发展带来的挑战。完全自主武器系统（AWS）（俗称“杀手机器人”）的可能发展引发了新的担忧，即技术发展和政治现实将超过规范和监管变化，并带来潜在的有害后果。尽管这项武器技术的支持者和怀疑者都倾向于认为AWS尚不存在，但这类系统和大国（如美国、中国、俄罗斯、，韩国正在大力投资于先进的机器人和人工智能（AI）（Haner和Garcia2019Haner、Justin和DeniseGarcia.“人工智能军备竞赛：自主武器发展的趋势和世界领导者。“全球政策10（3）：331–337。doi：https://doi.org/10.1111/1758-5899.12713.[Crosref]、[Web of Science®]、[Google Scholar]）。对于那些想把精灵留在瓶子里的人来说，先发制人禁止AWS的时机已经成熟。阻止杀人机器人运动（KRC）是一个由来自65个国家的160多个非政府组织（NGO）组成的全球联盟，目前倡导反对开发、生产和使用完全自主武器的规范。这个问题也进入了联合国（UN）的军备控制议程，《特定常规武器公约》（CCW）是讨论AWS出现的主要机构场所。目前，《特定常规武器公约》的30个缔约国加入了该运动的禁令呼吁（KRC2020KRC2020。“谁想禁止杀人机器人？”，2020年4月10日访问。https://www.stopkillerrobots.org/wp-content/uploads/2020/04/KRC_ListEndorsersApr2020_Ltr.pdf.[谷歌学者]）

对于这个支持禁令的联盟，规范制定的一个主要障碍是对这一问题的了解有限，长期以来，这一问题被视为太过未来主义和异国情调，不值得采取进一步行动（Carpenter2014Carpenter，Charli。2014“迷失”原因：全球问题网络中的议程审查和人类安全的塑造<纽约州伊萨卡：康奈尔大学出版社[Crossref][/span>，[谷歌学者][/span>，103）。在这些条件下，规范建设不太可能成功，因为知识和科学证据，作为加西亚（2011年加西亚，Denise。2011年<1。裁军外交和人类安全：国际关系中的制度、规范和道德进步。伦敦：Routledge。[交叉引用]，[谷歌学者]//span>，23）指出，这是一个很好的例子，是成功规范出现的双重条件。在AWS中，似乎没有像以往大多数人道主义解除武装运动中那样的可记录的人道主义伤害，也没有令人震惊的事件可以引用。这对AWS规范的支持者构成了真正的挑战。那么，如何才能让像AWS这样难以捉摸和不确定的问题变得可知，并最终服从于规范性变更

本文从以下前提出发：预期规范的出现，它介入了问题识别和确定问题出现之间的时间空间，取决于前瞻性认识实践，这些实践产生并维持关于未来治理对象的知识，并产生预防行动的需求。国际组织（IO）似乎非常适合这项工作。虽然IOs经常制作和传播关于当前问题的知识（Bueger2015，Christian。2015。“使事情为人所知：认识实践、联合国和海盗行为的翻译。“国际政治社会学9（1）：1–18。doi：https://doi.org/10.1111/ips.12073.[Crosref]、[Web of Science®]、[Google Scholar]；Hülsse2007年Hüls se，Rainer2007年。“创造全球治理需求：全球洗钱的形成问题。“ 全球社会21（2）：155–178。doi：https://doi.org/10.1080/13600820701201731.[Taylor&；Francis Online]，[谷歌学者]），他们还努力成为“预测专家”，通过想象和制定基本上不确定和无法计算的未来（Berten和Kranke2022Berten、John和MatthiasKranke.2022）。“预期全球治理：国际组织和未来政治。”全球社会36（2）：155–169[Taylor&；Francis Online]，[谷歌学者]，156）。然而，人们对IOs如何预测未来知之甚少（本期刊中的一个显著例外，请参见Chamlian2016Chamlian，Lucie。2016。“未来的殖民：CSDP中的权力、知识和准备。“全球社会30（3）：391–411。doi：https://doi.org/10.1080/13600826.2016.1173020.[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]）。为了填补这一空白，本文以实践理论和科学技术研究（STS）为基础，对联合国裁军研究所（裁研所）如何产生关于AWS的知识并创造对预期规范的需求进行了理论指导

虽然裁研所肯定不是参与AWS知识生产的唯一行动者，但它占据着独特的地位，因为它是由国家资助提供有关该问题的专门知识的。作为联合国框架内的一个独立研究机构，裁研所也比KRC这样的倡导团体更容易被视为客观的，因此，裁研所的专业知识更有可能得到信任。特别是中小国家，经常与裁研所协商，以确定其国家立场。迄今为止，裁研所在文献中还没有得到如此多的关注。这是不幸的，因为知识，无论其来源如何，都不是中立的或客观的，而是深深地渗透着价值观，兴趣和意识形态（Jasanoff2004Jasanoff，Sheila.2004.知识状态：科学与社会秩序的共同生产.伦敦：Routledge.[交叉引用]，[谷歌学者]）。正如为了推迟《特定常规武器公约》的进展而动员了对更多数据和研究的需求一样，知识可以被战略性地用于某些政治措施的合法化（例如，AWS的监管或禁令）。裁研所在这方面也不例外，因为它与联合国裁军议程密切一致

虽然阐明AWS等新兴技术的性质、严重性和影响确实具有挑战性，但文章认为这并非不可能。首先，来自其他学科和专家的知识转移可以弥补AWS缺乏直接或第一手经验的不足。第二，类比推理使我们能够通过民用和军事领域现有技术的视角来理解AWS。第三，可以通过想象AWS来克服类比的局限性，例如，通过假设场景进行游戏

到目前为止，学者们已经研究了关于适当使用武力的审议规范——即，在《特定常规武器公约》等论坛中，从明确的规范性政治推理中产生的规则越来越多地被与AWS的开发和使用相关的程序规范所取代（Bode和Huelss2018Bode、Ingvild和HendrikHuelss。2019）。“自主武器系统和国际关系中不断变化的规范。”《国际研究评论》44（3）：393–413。doi：https://doi.org/10.1017/S0260210517000614.[Crosref]、[Web of Science®]、[Google Scholar]），以及源自技术中介现实的常态概念（Huelss2020Huelss，Hendrik.2020）。“规范是机器制造的：自主武器系统和人机交互的规范含义。“国际政治社会学，doi：https://doi.org/10.1093/ips/olz023.[Crosref]，[谷歌学者]>）。其他人分析了KRC制定规范的努力（Rosert和Sauer2020年Rosert、Elvira和FrankSauer。2020）。“如何（不）阻止杀人机器人：人道主义裁军运动战略的比较分析。“当代安全政策，1–26。doi：https://doi.org/10.1080/13523260.2020.1771508.[谷歌学者]），或者更广泛地讨论了“预防性安全治理”的必要性，以应对未来的技术进步（Garcia2016Garcia，Denise。2016。“未来武器、技术和国际法：预防性安全管理”。“《欧洲国际安全杂志》1（1）：94–111。doi：https://doi.org/10.1017/eis.2015.7.[Crosref]、[Web of Science®]、[Google Scholar]）。本论文对AWS和规范方面不断发展的文献做出了实证和理论贡献。从经验上讲，它对一个研究不足的案例进行了全面研究，即裁研所在当前AWS规范制定过程中的形成性作用。从理论上讲，本文通过阐明预期规范构建过程的认识基础，为理解预防性监管可能如何产生提供了一个框架。我的研究结果表明，以下做法特别有助于建立预期的规范：努力使问题未来化；想象未来的创造性方式，通过这种方式，新技术的使用所引起的新关注可以凸显出来；以及表达积极的愿景（如有意义的人类控制的想法），以使各国共同意识到朝着共同目标前进的方向

文章的内容如下。第一部分介绍了预期规范构建的令人困惑的现象，并提出了概念框架，以检查如何使未来的问题变得可了解和可治理。根据STS的见解，我区分了三种实践，通过这些实践，AWS等“知识对象”得以产生：“组装”，“翻译”和“代表”（Bueger2015Bueger，基督教徒。2015。“使事情为人所知：认识论实践、联合国和海盗行为的翻译”。《国际政治社会学》9（1）：1–18。doi：https://doi.org/10.1111/ips.12073.[Crosref]、[Web of Science®]、[Google Scholar]；Cetina和Karin，1981年，和DKarin1981 知识的制造：关于科学的建构主义和语境性质的论文Oxford:Pergamon出版社[谷歌学者]；2009年法律，约翰2009年。“演员网络理论和材料符号学。”《社会理论的新布莱克威尔伴侣》，由Bryan S.Turner编辑，141–158Oxford:Wiley Blackwell[Crosref]，[Google Scholar]）。第二节根据具有自动/自主功能的现有武器系统，讨论了针对AWS的未来规范的现状。下一节将裁研所置于联合国系统框架内，并在分析研究所如何产生关于AWS的知识之前，对《联合国特定常规武器公约》中正在进行的AWS进行讨论。这是基于广泛的文献分析和对该组织代表（参与AWS知识生产的代表）的两次远程访谈。然后，它继续评估裁研所在讨论中的相关性。最后一节讨论了主要发现及其理论意义

预期规范
大多数与军备控制相关的规范都是对新的或现有的武器技术（如核武器）所造成的破坏性后果的反应武器（1998年价格1998年Price，Richard。1998年。“逆转枪支瞄准：跨国民间社会瞄准地雷”国际组织52（3）：613–644[Crosref]、[Web of Science®]、[Google Scholar]；Rosert等人，2013年Rosert，Elvira，UnaBecker Jakob、GiorgiFranceschini和AnnetteSchaper2013年。“军备控制规范和技术。”《多边军备控制规范动态：利益、冲突和正义》，由CarmenWunderlich和HaraldMüller编辑，109–140Athens:格鲁吉亚大学出版社[谷歌学者]；Tannenwald2007年TannenwaldNina2007年核禁忌：美国与1945年以来不使用核武器Cambridge：剑桥大学出版社[Crosref]，[Google Scholar]），因此可以被视为监管一个相对知名的问题的努力。一个显著的例外是1995年《特定常规武器公约》第一次审议大会通过的对致盲激光武器的预防性禁令。先发制人地禁止AWS的尝试证明了正在制定的另一项预防性或预期性规范。使预期规范特殊的是它们的时机。它们在问题的识别和确定问题的出现之间的时间空间进行干预——即，在问题全面形成之前，在有确凿证据或证据证明其有害后果之前。因此，预期规范至少有两个特定的特征，使其与反应性规范区别开来：其预防性主旨和认识基础。当然，这些区别并不总是直截了当的，尤其是在时机是关键因素的情况下。随着时间的推移，潜在的问题逐渐转移到此时此地，规范的状态可能会逐渐从预期转变为被动。因此，似乎确实更倾向于考虑一个从具有更多或更少预期基础的规范的连续体

在IR文献中，通常将规范定义为“对适当行为的集体期望”（卡岑斯坦1996年卡岑斯坦，Peter J.编辑。1996年.国家安全文化：世界政治中的规范和认同。纽约：哥伦比亚大学出版社。[谷歌学者]¹1牛津英语词典，http://www.oed.com/view/Entry/8557?redirectedFrom=anticipation#eid.View所有注意事项当然，人们可能会反对任何规范的监管范围扩展到未来，以防止进一步的伤害。然而，被动规范在事后发挥作用。它们很可能有预期因素，但在防止众所周知的问题再次出现的意义上那些促进他们的行动者已经（直接或间接）有了解决某一问题的实际经验。例如，只有在这些武器的破坏力变得明显清楚之后，“核禁忌”才出现。这给我们带来了预期规范的第二个特点：它们的认识基础。规范在这个术语的另一个意义上可以有预期的元素，不仅被理解为一种行为方式，而且还被理解为事先知道：“在事情发生之前向自己表达或意识到一件事情的行为；预先理解，先入为主。”，http://www.oed.com/view/Entry/8557?redirectedFrom=anticipation#eid.View所有注释如果它们的调节重点是防止未来对广泛共享的价值观或原则的伤害，这已经意味着预期规范带有未来可能如何展开的某些想法。An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request
HTTP Status 400 – Bad Request
: 02015年Bueger，基督徒2015年。“使事情为人所知：认识论实践、联合国和海盗行为的翻译。”国际政治社会学9（1）：1–18。doi：https://doi.org/10.1111/ips.12073.[Crosref]、[Web of Science®]、[Google Scholar]//span>，4）。组装和翻译指的是知识的形式，即信息的设计或呈现，而表达则是关于其内容。认识形式在期货的构建中发挥着重要作用。正如Hodžić（2013年Hodžić，Saida。2013年。“确定致命伤害：全球证据的美学和政治。”文化人类学28（1）：86–109。doi：https://doi.org/10.1111/j.1548-1360.2012.01174.x.[Crosref]，[谷歌学者]//span>）提醒我们，知识被视为确定重要的不仅是呈现的内容，而且是如何（形式）。她认为，某些代表知识的模式比其他模式更具权威性，例如那些在科学出版物中经历了平滑和质疑的模式

首先，认知实践通过对潜在有争议的对象“提出可概括的主张”（Bueger2015Bueger，Christian2015.“让事情为人所知：认知实践、联合国和海盗行为的翻译。“国际政治社会学9（1）：1–18。doi：https://doi.org/10.1111/ips.12073.[Crosref]、[Web of Science®]、[Google Scholar]>，6）。他们汇集了各种类型的知识，并从看似不同的细节中构建出一个更大的图景。这不一定是列出现有内容的中立做法，但可能涉及选择和省略某些声音，优先考虑一些理解问题的方法（韦弗和莱安德2019韦弗、Ole和Anna莱安德。2018。汇集独家专业知识：全球南方的知识、无知和冲突解决.Abingdon：Routledge.[谷歌学者]//span>）。因此，对于以下分析，“数据收集”过程至关重要。裁研所如何以及从何处收集关于AWS的信息

其次，翻译被称为复杂的社会或科学现象转化为具体和有形形式的过程，例如报告，基准或概念（Robinson2018Robinson，Corey。2018。“让移民变得可知可治：作为全球移民治理技术的基准实践。”国际政治社会学12（4）：418–437。doi：https://doi.org/10.1093/ips/oly020.[Crosref]，[Web of Science®]，[Google Scholar]，426；Callon 1981年，Michel<1981。“定义什么是有问题的和什么不是的斗争和谈判。”《科学调查的社会过程》，由Karin D.Knorr、RogerKrohn和RichardWhitley编辑，197–219Dordrecht:施普林格荷兰[谷歌学者]）。它涉及在已知（客体）和已知者（主体）之间进行调解的艰巨任务（Bueger2015年Bueger，基督教徒。2015年。“使事情为人所知：认识实践、联合国和海盗行为的翻译”。“国际政治社会学9（1）：1–18。doi：https://doi.org/10.1111/ips.12073.[Crosref]、[Web of Science®]、[Google Scholar]>，7）。对于未来的目标，额外的挑战是从字面上呈现“没有发生过的事情，也可能永远不会发生”（Massumi 2007tabindex=0>Brian Massumi2007年。“潜在政治与优先购买权的首要性”；事件10（2），doi:https://doi.org/10.1353/tae.2007.0066.[Crosref]，[谷歌学者]//span>：第页）。根据Anderson（2010年Anderson，Ben.2010年。“先发制人、预防、准备：预期行动和未来地理。”《人类地理学进展》34（6）：777–798。doi：https://doi.org/10.1177/0309132510362600.[Crosref]、[Web of Science®]、[Google Scholar]），本体论模式之间的这一过程涉及物质化、表达和体现的过程。未来，即“抽象和不存在的”，可以被翻译成“可见”和“可理解”的东西（Chamlian2016Chamlian，Lucie。2016。“未来的殖民：CSDP中的权力、知识和准备。“全球社会30（3）：391–411。doi：https://doi.org/10.1080/13600826.2016.1173020.[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]，405），例如通过报告、口头简报或模拟和网络研讨会等集体实践。在下文中，我将分析裁研所如何向其主要受众，即《特定常规武器公约》缔约国传播和传播知识。这不仅包括使研究所的研究结果清晰可见的书面、口头、图形和具体方式，还包括组织试图组织和重新包装AWS知识的分类实践

最后，认识实践代表“这是不存在的，因此需要引入到当前的情况中，以使文本可见和可用”（Pels2000Pels，Dick.2000.《作为陌生人的知识分子》.《代言人研究》.London:Routledge.[谷歌学者]>，1）。他们也有一种稳定的力量，在某种意义上填补了未来和现在之间的一些空白。未来的表现可以根据其表达的是稳健愿景还是思辨/创造性愿景来区分。稳健愿景的特点是对未来进行概率或确定性推理（Berenskoetter2011Berenskoatter，Felix。2011。“收回愿景：作为未来学生的建构主义者1。“国际研究季刊55（3）：647–668。doi：https://doi.org/10.1111/j.1468-2478.2011.00669.x.[Crosref]、[Web of Science®]、[Google Scholar]；Berten和Kranke2022Berten、John和MatthiasKranke2022。“预期全球治理：国际组织和未来政治。”全球社会36（2）：155–169[Taylor&；Francis Online]，[谷歌学者]，160）。它们允许根据过去或现在的情况进行预测性声明。呈现未来的技术轨迹，仿佛它们属于可能的、不可避免的和确定的领域，可以在预期的规范制定过程中灌输一种紧迫感。相比之下，创意愿景“更宽松、更具尝试性，并对其他可能性持开放态度”（Johnson2015Johnson，Deborah G.2015）。“无人类责任的技术？”《商业道德杂志》127（4）：707–715[Crosref]，[Web of Science®]，[Google Scholar]，5）。即使他们可能永远不会完全意识到，创造性的愿景也可能成为打破当前事物秩序的灵感来源，从而开启（规范性）变革的可能性（Berenskoetter2011Berenskotter，Felix。2011。“收回愿景事情：作为未来学生的建构主义者1。“国际研究季刊55（3）：647–668。doi：https://doi.org/10.1111/j.1468-2478.2011.00669.x.[Crosref]，[Web of Science®]，[Google Scholar]，660）。通过鼓励富有想象力的思考，创造性的愿景也可以探索新技术带来的新问题。稳健和创造性的表达不是互斥的，但可以以互补的方式使用。尽管创造性的愿景表达了旨在推动人们行动的广泛愿望，“强大的愿景使大局叙事更加可信”，将其锚定在现实世界条件下（Berten和Kranke2022Berten、John和MatthiasKranke.2022）。“预期全球治理：国际组织和未来政治。”全球社会36（2）：155–169。[泰勒和弗朗西斯在线]，[谷歌学者]，160）。
进一步的区分与未来对象是否被表示为理想对象有关（Berten和Kranke2022Berten、John和MatthiasKranke.2022.“预期全球治理：国际组织和未来政治”全球社会36（2）：155–169。[Taylor&；Francis Online]，[谷歌学者]，156）。随着地球工程或AWS等新兴技术的出现，人们可能会对其风险和收益产生分歧。这些风险和利益的表达程度会对这些技术在政治、道德和法律上是否被视为可接受产生巨大影响。关于预期性规范建设，如果未来的表述以“好的”或“坏的”的方式制定清晰明确的愿景，那么未来的表述可能会特别有力。以理想/安慰或不理想/威胁的方式呈现未来，意味着各国应该在当前采取行动，防止不希望的未来，并制定一个理想的未来。
裁研所的报告为AWS的代表提供了一个很好的切入点，因为它们具有迄今为止最广泛的影响力。自2013年启动该项目以来，裁研所共编写了16份报告。基于定性内容分析，我已寻找符合稳健/创意和可取/不可取类别的元素。如果报表基于过去或现在的情况进行预测，并且/或者根据不可避免、必要和可能的情况阐明未来，则报表被编码为“稳健”。反过来，限定词“创造性”是为某种程度上脱离现实和/或强调未来偶然性的陈述保留的。我还对裁研所关于AWS的评价倾向（好/坏、可取/不可取）、这种评价中表达怀疑的程度以及这些主张所依据的规范性依据进行了编码，与AWS相关的反对意见可以基于国际人道主义法（IHL）或尚未（尚未）编入法律的道德原则。查看所有注释为了将我的发现放在正确的角度，我还借鉴了该研究所2018年进行的模拟、为《特定常规武器公约》会议编写的书面声明、，以及我与裁研所AWS项目研究人员进行的两次半结构化访谈。

AWS武器是未来的武器吗[谷歌学者]）。随后的即时媒体关注让许多观察家感到惊讶，他们注意到具有自动或自主功能的武器已经存在多年，包括其他游荡武器，如以色列哈比无人机、某些防空系统和机器人哨兵枪（博德和瓦茨，2021TomWatts<2021。“无意义的人类控制：防空系统对AWS辩论有意义的人控制的教训”，南丹麦大学战争研究中心；英国无人机战争[谷歌学者]；Boulanin和Verbruggen，2017年>Boulanin、Vincent和MaaikeVerbrugen2017 映射武器系统自主发展Solna：SIPRI[谷歌学者]）。如果此类系统的前体已经部署，那么针对AWS的预期规范的状态如何？它还能被认为是预期的吗？尽管有证据表明系统在某种程度上类似于AWS，但在《特定常规武器公约》的主持下进行的讨论是在“目前不存在此类系统”的假设下进行的（《特定常规公约》2015年《特定常规武装武器公约》。《2015年致命自主武器系统专家非正式会议报告》，11月12日至13日）https://undocs.org/pdf?symbol = zh/ccw/msp/2015/3.[谷歌学者]）。这似乎表明，今天的武器系统低于被认为“真正”自主的门槛。因此，在预期和反应之间的连续体上，如何准确定位针对AWS的规范在很大程度上是一个定义问题

自主性是从不同的角度来探讨的。从功能主义的观点来看，如果一个系统“能够独立执行某些任务或功能”，则该系统被认为是自主的（Boulanin和Verbruggen2017Boulanin、Vincent和MaaikeVerbrugen。2017绘制武器系统自主发展图。Solna:SIPRIspan>，5）。在AWS的争论中，最关键的是对某些关键功能的自主性：在没有人为干预的情况下选择和参与目标。因此，AWS被定义为“无需进一步人工干预即可选择和攻击目标的系统”（Heyns2016Heyns，Christof.2016）。“在自主武器系统：法律、道德、政策中，由Nehal布托、苏珊娜贝克和克劳斯克雷β编辑，3–19Cambridge：剑桥大学出版社[谷歌学者]，4）。这一定义将排除大多数现有系统，因为它们是由人类操作员预先指定的目标（制导导弹）（Boulanin和Verbruggen2017Boulanin、Vincent和MaaikeVerbrugen。2017绘制武器系统自主发展图。Solna:SIPRIspan>，47）或需要人工发起攻击前的批准（防空系统）（Bode和Watts，2021）。南丹麦大学战争研究中心；英国无人机战争[谷歌学者]，27）

有些人在使用了几十年的自动化武器系统和自主之间划清界限。在这里，关键的区别在于武器系统是“仅仅”对触发作出反应，还是基于其感官输入独立地确定特定的行动过程（即打击或不打击特定目标）。在频谱自动结束时，我们的系统“对感官输入做出机械反应，并逐步通过预定义的程序，其功能不能适应操作环境中的不确定性”（Boulanin和Verbruggen2017Boulanin、Vincent和MaaikeVerbrugen。2017.绘制武器自主发展图系统Solna：SIPRI[谷歌学者]，6）。例如，如果地雷的重量超过某一阈值，地雷就会自动引爆。相比之下，AWS不仅通过遵循预定的动作序列对其感官输入做出反应，而且能够进一步处理其传感器接收到的信息（例如，如果其具有机器学习能力，则进行关于触发是儿童还是坦克的概率计算），并且基于这些计算，“决定”如何行动（Crootof2015CrootofRebecca。2015。“杀手机器人在这里：法律和政策含义”Cardozo法律评论36（4）：1837–1915[谷歌学者]，1855年）。今天的大多数系统都缺乏这些能力

其他人认为，使其真正自主的不是任何武器的内在特征，而是其使用方式（霍洛维茨2016霍洛维茨，Michael C.2016）。“《圣殿国际与比较法杂志》30（1）：85–98[谷歌学者]，93）。许多现有系统可能不受禁止性规范的限制，原因是人类特工设定了狭窄的使用参数，包括目标类型或武器使用地点和时间的限制（例如，SGR-A1哨兵机器人已开发用于非军事区的潜在部署，预计非军事区不会有平民存在）。这意味着那些给国际社会带来最大麻烦的AWS尚未出现（可能的例外是Kargu-2无人机等徘徊武器），这使得当前的规范制定工作基本上是预期的。然而，我们越是看到像Kargu-2事件这样的案例，我们可能会进一步陷入规范谱的被动端

裁研所：使自主武器成为众所周知的武器

布鲁姆和布鲁克（2012年布鲁姆、André和LeonardSeabrooke.2012年.“像一个国际组织一样看待。“新政治经济学17（1）：1–16。doi：https://doi.org/10.1080/13563467.2011.569019.[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]，3）认为IOs主要通过其分析机构来了解其社会环境，定义为“专门单位、部门、委员会、裁决机构和其他由国际组织管理或与之相关的机构，它们为理解和解决政策问题制定了认知框架”。裁研所是联合国框架内具有象征意义的分析机构。1979年根据大会A/RES/34/83M号决议设立，其任务是协助国际社会对裁军和国际安全进行独立研究。它与其他联合国机构密切合作，如联合国裁军事务厅（UNODA），后者经常就草案或委托研究咨询研究所。然而，作为一个独立的研究机构，该研究所享有一定程度的独立性，独立于更大的联合国系统，这主要是通过其资金的混合性质来实现的。虽然裁研所从联合国经常预算中获得少量补助金，但其经费主要来自成员国与项目有关的捐款以及公共和私人基金会的赠款

也就是说，裁研所的研究符合联合国及其成员国的需要和原则。从这个意义上讲，研究所不是一个完全自主的实体，而是与联合国裁军议程密切相关，正如我的一位采访伙伴所证实的：

… 我们不是中立的，因为联合国不是一个中立的组织。你阅读了该宪章及其原则，其中包括减少军备，尽量减少对社会和经济发展的影响。这不是中立的说法。 … 我们确实认为，每个人都应该得到安全，但除了通过数量上增加武器或改进武器系统之外，还有其他方式获得安全<4访谈，2021 7月2日裁研所对AWS问题的理解与联合国其他机构及其成员国密切相关。在联合国框架内，2013年，当前联合国法外处决、即审即决或任意处决问题特别报告员克里斯托夫·海恩斯（Christof Heyns）将“致命的自主机器人”这一话题提请人权理事会注意时，这一问题得到了重要推动，各国政府有机会在多边环境中讨论这一问题（Heyns2013年Heyns，Christof2013。“法外处决、即决处决或任意处决问题特别报告员的报告”，a/HRC/23/47.4月9日。https://daccess-ods.un.org/TMP/2689446.50888443.html.[谷歌学者]）。然而，在人权理事会举行的会议只承诺在人权范围之外开展有限的外联活动。特别是，更广泛的军备控制界基本上不知道这个问题。由于与克里斯托夫·海恩斯和军备控制界的密切联系，裁研所很有能力将这两个相当孤立的网络联系起来。海恩斯报告发布后不久，研究所在日内瓦与海恩斯一起为裁军谈判会议的大使们组织了一次简报会，这场简报会“把事情搞得一团糟，因为人们真的很震惊”<2021 7月2日span>⁵5访谈。查看所有笔记。随后，在日内瓦举行的《特定常规武器公约》缔约国11月会议上讨论了这个问题，各国代表同意在2014年5月将这个问题列入议程。随之而来的日益关注不仅意味着对AWS专业知识的需求增加，而且也意味着越来越愿意为这一问题的工作提供资金。裁研所响应了这一呼吁，于2013年启动了“日益自主的技术武器化”项目。该项目旨在通过提供“见解和概念框架，使决策者能够更好地思考、讨论和作出关于武器系统自主性的知情决定”，来推进刚刚开始的多边讨论（裁研所2014年a裁研所。2014a.关于日益自主技术武器化的框架讨论。日内瓦：联合国裁军研究所。https://unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf.[谷歌学者]，2）

2014年以来，《特定常规武器公约》缔约国举行了三次关于AWS的非正式专家会议。在初步进展甚微后，他们同意成立一个政府专家小组（GGE），使AWS的审议正式化，该小组已于2017年11月举行了第一届会议，自2014年以来，各州经历了“陡峭的学习曲线”（Rosert和Sauer2020年Rosert、Elvira和FrankSauer。2020）。“如何（不是）阻止杀人机器人：人道主义裁军运动战略的比较分析。“当代安全政策，1–26。doi：https://doi.org/10.1080/13523260.2020.1771508.[谷歌学者]，16岁；雷尼奇2019雷尼奇，Neil C.2019。“监管自主武器的努力被大大夸大了。”《原子科学家公报》，12月18日。https://thebulletin.org/2019/12/death-of-efforts-to-regulate-autonomous-weapons-has-been-greatly-exaggerated/.[谷歌学者]）。这不仅证明了KRC等经验丰富的活动家的作用，也证明了裁研所等知识中心的努力，这些知识中心在教育决策者提高武器系统自主性的性质和后果方面做了很大的努力。特别是中小型国家，对裁研所的专业知识有很高的需求和赞赏<2021 5月23日，第6次访谈。查看所有笔记。由于缺乏使美国等国家在知识生产方面近乎自给自足的“内部专门知识”，他们经常要求裁研所提供投入和背景信息，并继续资助其关于自动武器系统的研究。那么，裁研所如何使AWS成为可了解和可治理的

组装

A在我的采访中，普遍的看法是，AWS的问题不适用于传统的人道主义裁军方法。鉴于研究和开发的早期阶段以及AWS的有限或根本未知（原型）用途，获得这些系统的第一手知识（例如，通过研究操作实践）是不可能的（裁研所2020裁研所。2020.Swarm Robotics：下一代自主系统的技术和操作概述。Geneva:联合国裁军研究所。https://unidir.org/publication/swarm-robotics-technical-and-operational-overview-next-generation-autonomous-systems.[谷歌学者]，7）。相反，裁研所主要根据文献综述、多学科专家组会议、焦点小组讨论以及与一系列领域和学科的利益相关者的访谈，包括人权、国际人道主义法、伦理、人工智能、国防、军事战略、机器人、计算机科学和工程，产生一种权威知识。即使它缺乏第一手观察的科学证据，这种了解方式也可以通过参考其他权威来源（例如该领域的专家）而合法化。在某种程度上，它借鉴了AWS的不同观点和解释，具有高度的代表性。它表明了一种协商一致的知识基础和客观性，这在《特定常规武器公约》内以协商一致为基础的谈判中尤为重要

这种多学科方法也强烈鼓励开箱即用的思维。例如，裁研所在安排一系列专家会议时，不仅注意让通常的嫌疑人参与，而且也注意到了这一点

我们认为在我们非常封闭的社区中，那些不是普通专家的人。我想和从事自动驾驶汽车工作的人谈谈，我想和正在思考保险责任的人谈谈。因为他们在计算概率，成本是多少，当事情发生时责任在哪里，所以他们在思考如何在日益自治的系统中分配责任方面比我们领先了几年<7访谈，2021 7月2日，将其结合起来（在某种意义上，让来自其他“孤立”社区的不同专家相互交流），并（重新）在一个新的背景下考虑它：武器系统的自主性

翻译

裁研所通过收集现有知识，将其转移到一个非常具体的案例（AWS），并将结果翻译给裁研所的主要受众：《特定常规武器公约》当事方，发挥着知识经纪人或调解人的重要作用。他们站在翻译过程的接收端，这最终是为了让“非技术观众”清楚地了解这个问题（裁研所2018裁研所。2019.日益自主的技术的武器化：人工智能。日内瓦:联合国裁军研究所。http://www.unidir.org/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-artificial-intelligence-en-700.pdf.[谷歌学者]，1）。从这个意义上说，翻译可以从字面意义上理解：将专家讨论的复杂且往往是技术性的细节转换或呈现为不太懂技术的决策者能够理解的语言和格式。裁研所的观察报告是这一进程最明显的成果；它们是研究所研究活动面向公众的一面。这些报告的硬拷贝在专家组会议上分发，裁研所在专家组审议的同时定期组织活动，传播和讨论研究的主要结果。研究所还与联合国裁军事务厅合作举办了一系列网络研讨会，探讨了AWS的技术、军事和法律方面

通过各种外联活动，裁研所力图对AWS的知识进行分类和组织，尤其是通过重新定义AWS的现有定义和特征。与AWS的分类区别不同（例如，自动/半自动/自主），裁研所建议重新定义中自主性方面的讨论武器系统（Vignard，2016年，Vignard和Kerstin，“联合国裁军研究所在《特定常规武器公约》致命自主武器系统非正式专家会议上的声明”，2016年4月12日，2021 7月16日查阅。https://www.unidir.org/files/medias/pdfs/unidir-s-statement-to-the-ccw-informal-meeting-of-experts-on-lethal-autonomous-weapon-systems-eng-0-648.pdf.[交叉引用]，[Google Scholar]）：关注“关键/关键功能或任务”，这些功能或任务在应用自主性时被认为是有问题的（裁研所2017裁研所。2017.日益自主技术的武器化：关注、特点和最终方法。日内瓦:联合国裁军研究所。https://www.unidir.org/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-concerns-characteristics-and-definitional-approaches-en-689.pdf.[谷歌学者]//span>，21），特别是目标的选择和参与，并确定构成自主性的其他变量（例如，与操作员或操作环境的通信链接）。这种方法对武器系统的技术复杂程度是不可知的，因此回避了如何定义尚未使用的武器这一难题；无论政府和公众的技术知识程度如何，都可以使用它（裁研所2017裁研所。2017.日益自主技术的武器化：关注、特点和最终方法。日内瓦:联合国裁军研究所。https://www.unidir.org/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-concerns-characteristics-and-definitional-approaches-en-689.pdf.[谷歌学者]，20）；它认识到自主性是一个光谱，系统某些方面或功能的渐进变化可能导致自主武器，亮点（裁研所2017裁研所。2017.日益自主技术的武器化：关切、特点和最终方法。Geneva:联合国裁军研究所。https://www.unidir.org/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-concerns-characteristics-and-definitional-approaches-en-689.pdf.[谷歌学者]，9）。这意味着，即使是微不足道的技术进步或系统某些方面的自主应用，也可能导致自主武器远低于“真正的智能机器人士兵”的门槛（裁研所2017裁研所。2017.日益自主技术的武器化：关注、特点和最终方法。日内瓦:联合国裁军研究所。https://www.unidir.org/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-concerns-characteristics-and-definitional-approaches-en-689.pdf.[谷歌学者]，8）——即终结者类型的武器。这使得AWS的前景看起来非常真实。谈到“增强武器系统的自主性”，这表明自主性是一个正在进行的过程：

对我来说，这不是未来的对话。这是一个非常重要的话题。我认为争论“这些系统是否已经存在，不存在？”取决于你如何定义它，它们存在了30年，或者它们可能永远不存在，取决于你对它们的定义。同样，对这一点进行语义辩论是毫无意义的。这是事实。我们在武器系统中拥有越来越多的自主权<2021 7月2日span>⁸8访谈。查看所有笔记。也就是说，裁研所与决策者的接触大多是在幕后进行的。裁研所与各国代表团密切合作，帮助它们在正在进行的国际或国内讨论中准备本国立场。此外，裁研所还与一小群外交官、武官和其他政府代表进行了一些桌面演习考虑AWS使用的不同场景。例如，2018年，裁研所举行了为期一天的“技术游戏”演习，参与者探讨了现有武器系统从现在发展到五个的不同场景，十年后，又过了十五年（Vignard，2018年，Kerstin.，《联合国致命自主武器系统裁军研究所的声明》，2018年4月9日，法律问题政府专家组，2021 1月7日查阅。https://unidir.org/files/medias/pdfs/unidir-statement-ccw-expert-meeting-laws-april-2018-eng-0-746.pdf.[谷歌学者]）。在三个步骤中的每一个步骤中，参与者都被要求反思在系统的某些方面（例如导航或武器释放）增加的自主性如何影响对其合法性和可接受性的看法。各种场景还包括不同的操作设置，例如目标类型、部署区域的性质、系统的复杂性及其自主运行的时间

模拟在证据基础上不同于其他翻译实践。与报告、书面陈述或网络研讨会不同，它们不依赖外部或内部专家的编纂知识，而是依赖参与者的（身体）经验。模拟将缺席的未来转化为表演或游戏行为。参与基于情景的练习至少有两个重要效果。首先，对这一问题缺乏了解的政府能够获得安德森所称的“经验知识”（2010年Anderson，Ben.2010）。“人文地理学进展34（6）：777–798。doi：https://doi.org/10.1177/0309132510362600.[Crosref]，[Web of Science®]，[Google Scholar]//span>，786）关于AWS可能引发的担忧。通过玩不同的场景，参与者能够体验到特定未来的感觉。第二，模拟可以引入一定的惊喜元素，这是促使顽固国家采取行动所必需的。根据我的一位采访伙伴的说法，

他们[模拟]很有用，因为有时 … 你的观众觉得他们有一定的知识水平，这让他们对事物和游戏感到自满，其他东西可以向人们展示 … 事情不一定会像他们预期的那样发生<2021 5月25日span>^{9访谈。查看所有注释模拟为挑战现有知识的替代弹道开辟了未来，尤其是武器系统自主性和人工智能是军事必要性的信念：“他们[政府] … 每天都有媒体告诉我们，人工智能是有史以来最好的东西，因此监管与此背道而驰。”<10访谈，2021 7月2日。查看所有注释。各州一直（在某种程度上仍在）努力解决的主要问题之一是AWS开发的预期时间表。对于裁研所，关于AWS的讨论（无论是在《特定常规武器公约》中还是在媒体中）都过度关注自主范围的远端：类似终结者或杀手机器人的场景（裁研所2017裁研所。2017.日益自主技术的武器化：关注、特点和最终方法。日内瓦:联合国裁军研究所。https://www.unidir.org/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-concerns-characteristics-and-definitional-approaches-en-689.pdf.[谷歌学者]，4，8，2014年a>裁研所2014年a 关于日益自主技术武器化的框架讨论Geneva:联合国裁军研究所。https://unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf.[谷歌学者]）。虽然肯定有助于引起人们对这个问题的关注，但“杀手”机器人”模因强化了AWS是一种遥远现象的印象。它淡化了这一问题的紧迫性，并使那些宣称对AWS的担忧被夸大的人受益。针对这种未来主义，裁研所试图将辩论置于“强有力”的基础上，现实世界——指向越来越自主的武器的趋势：各国表示有兴趣在自主领域（主要基于AWS的预期收益）和民用技术领域的创新（例如人工智能、传感器技术和处理能力）上进一步发展（裁研所2014年a裁研所。2014a.关于日益自主技术武器化的框架讨论。日内瓦：联合国裁军研究所。https://unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf.[谷歌学者]）。从这个角度来看，AWS的未来发展和使用似乎不仅是必要的，而且是不可避免的，这取决于这些系统的技术可能性、希望和军事利益}

然而，裁研所警告说，讨论AWS未来的议程完全取决于技术能力或（感知的）军事必要性。这种以技术为中心的框架屏蔽了人类选择的可能性，并使特定创新的替代品变得不可见（裁研所2014年a裁研所。2014a。关于日益自主的技术武器化的框架讨论。日内瓦：联合国裁军研究所）。https://unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf.[谷歌学者]，7）。这更令人担忧，因为从技术角度来看，并非所有可行的东西都是合乎规范的。相反，裁研所建议就我们对技术的期望“转向积极对话”（Vignard2016Vignard，Kerstin.2016）。“联合国裁军研究所在《特定常规武器公约》致命自主武器系统专家非正式会议上的声明”，2016年4月12日。2021 7月16日访问。https://www.unidir.org/files/medias/pdfs/unidir-s-statement-to-the-ccw-informal-meeting-of-experts-on-lethal-autonomous-weapon-systems-eng-0-648.pdf.[Crosref]，[谷歌学者]>）。因此，设想未来意味着在武器系统中划出理想（和不理想）的自主道路。这包括确定可“形成规范发展基础”的广泛组织原则（裁研所2014年b裁研所。2014b.《日益自主技术的武器化：考虑有意义的人类控制如何推动讨论》。日内瓦:联合国裁军研究所。http://www.unidir.org/files/publications/pdfs/considering-how-meaningful-human-control-might-move-the-discussion-forward-en-615.pdf.[谷歌学者]，7）：遵守国际人道主义法、人类尊严和人类控制

遵守国际人道主义法，该法已经编纂了众所周知和普遍接受的关于在武装冲突中使用武器的原则，是未来AWS规范的一个明显来源（裁研所2014 b裁研所。2014b日益自主技术的武器化：考虑有意义的人类控制如何推动讨论。日内瓦:联合国裁军研究所。http://www.unidir.org/files/publications/pdfs/considering-how-meaningful-human-control-might-move-the-discussion-forward-en-615.pdf.[谷歌学者]，7）。这里的核心问题是性能，或者更准确地说，是否能够可靠地预测任何给定系统是否能够符合国际人道主义法的要求，特别是区分规则、比例规则和攻击预防措施。虽然有人认为AWS可能比人工操作员更好地遵守这些规则，但这在很大程度上是关于未来技术能力的争论。为了避免这种推测，裁研所将重点转移到所有人的内在特征上从国际人道主义法的角度来看，这可能成为一个问题，特别是其固有的不可预测性。与所有自主系统一样，AWS在偏离最初训练环境的情况下，可能会获得新的预期行为；如果被赋予自学习算法，则可以实时调整数据输入；或面临低质量数据（Holland Michel，2021）https://doi.org/10.37559/SecTec/21/AI1.[Crosref][/span>，[谷歌学者][/span>，2020年霍兰德·米歇尔，亚瑟2020年 解锁的黑匣子：军事AI中的可预测性和可理解性Geneva:联合国裁军研究所。doi：https://doi.org/10.37559/SecTec/20/AI1.[Crosref]，[谷歌学者]>）。这些问题在自主和人工智能的民用应用中众所周知，例如在自动驾驶汽车中；它们可能导致自治系统故障，“可能导致意外伤害”（Holland Michel，2021）https://doi.org/10.37559/SecTec/21/AI1.[Crosref]，[谷歌学者]//span>，2）。即使这种表示AWS的方式是试探性的，正如谨慎的措辞所暗示的那样，对AWS固有特性的关注——其不可预测性——也为AWS奠定了坚实的基础

评估AWS在遵守国际人道主义法方面的可取性有一个很大的优势：它突出了AWS可能引起的担忧（例如，伤害平民）的熟悉程度。然而，它现在确实允许解决新技术可能产生的、国际法尚未编纂的新伦理问题（裁研所2015b裁研所。2015 b.日益自主的技术武器化：考虑道德和社会价值。日内瓦:联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-considering-ethics-and-social-values.[谷歌学者]，2）。特别地，它忽略了对人的控制和人的尊严的担忧，人们常说这是“对完全自主武器的担忧的核心”（裁研所2015b裁研所。2015 b.日益自主的技术武器化：考虑道德和社会价值。日内瓦:联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-considering-ethics-and-social-values.[谷歌学者]，7）。与人的尊严相关的担忧引发了人们对战争丧失尊严的担忧，包括“机器在没有任何人类意图的情况下做出生死决定”的场景（裁研所2014年b裁研所。2014b.《日益自主技术的武器化：考虑有意义的人类控制如何推动讨论》。日内瓦:联合国裁军研究所。http://www.unidir.org/files/publications/pdfs/considering-how-meaningful-human-control-might-move-the-discussion-forward-en-615.pdf.[谷歌学者]，8）。通过与这些系统的使用相关的集体情绪和直觉，这种对未来的愿景是可以预见的或已知的——成为“现实”。该研究所注意到一种“本能的不安”（2015b裁研所。2015 b.日益自主的技术的武器化：考虑道德和社会价值。Geneva:联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-considering-ethics-and-social-值，8），“反感”（2015b>联合国裁军研究所。2015 b。日益自主的技术的武器化：考虑道德和社会价值观。日内瓦：联合国军事研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-considering-ethics-and-social-values.[谷歌学者]，7），“深恶痛绝”和“普遍认为机器自动夺取人类生命是错误的”（2014年b裁研所。2014b.《日益自主的技术的武器化：考虑有意义的人类控制如何推动讨论》。日内瓦：联合国裁军研究所。http://www.unidir.org/files/publications/pdfs/considering-how-meaningful-human-control-might-move-the-discussion-forward-en-615.pdf.[谷歌学者]，8）。这种憎恶的感觉可能是基于对未来的偶然解释，但它们仍然可以成为建立规范的基础。它们表明了“关于完全自主武器的潜在的公众良知准则”，正如裁研所所解释的（2015b裁研所。2015 b.《日益自主技术的武器化：考虑道德和社会价值》。Geneva:联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-considering-ethics-and-social-values.[谷歌学者]，6）。国际人道主义法中所谓的马滕斯条款明确承认“公众良知的支配”是新准则的合法来源（裁研所2015b裁研所。2015 b.日益自主的技术武器化：考虑道德和社会价值。日内瓦:联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-considering-ethics-and-social-values.[谷歌学者]，5）

根据裁研所的说法，这种新规范不仅存在于AWS本质上是错误的共同信念和情感中；它们也在公众审议中得到了更明确的表述。迄今为止，政府专家小组会议上的讨论形成了一种共识，即“缺乏有效的人类控制的武器系统是不可接受的”（裁研所2015b裁研所。2015 b.日益自主的技术武器化：考虑道德和社会价值。日内瓦:联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-considering-ethics-and-social-values.[谷歌学者]，7）。最初由非政府组织第36条引入的有意义的人类控制概念阐明了一种期望，即人类应继续控制AWS或某些关键功能（例如识别、选择和向目标施加力），并且这种控制的质量是有意义的。虽然概念本身仍然模糊，它足够广泛，可以综合对AWS的不同关注，包括人类尊严和遵守国际人道主义法（裁研所2014年b裁研所。2014b.《日益自主技术的武器化：考虑有意义的人类控制如何推动讨论》。日内瓦:联合国裁军研究所。http://www.unidir.org/files/publications/pdfs/considering-how-meaningful-human-control-might-move-the-discussion-forward-en-615.pdf.[谷歌学者]//span>，9），并拒绝AWS将是未来战争不可避免的特征的观点。有意义的人为控制的理念为辩论注入了机构和选择，并将AWS变成了一个公认的不可预测但仍然可控的治理对象。它带来了希望和信心，即技术的发展是由人类的深思熟虑和选择决定的，而不是相反的tabindex=0>裁研所2014年a 关于日益自主技术武器化的框架讨论Geneva:联合国裁军研究所。https://unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf.[谷歌学者]，11）。

有意义的人类控制问题也是一个非常具体和有形的问题。即使很难预测AWS未来将采取何种形式，也不难想象缺乏人为控制及其可能的后果。为了强调失去人类控制的潜在危险，裁研所借鉴了民用航空工业中的其他技术——核电站和飞行控制技术——的相似之处，这些技术的复杂性和自动化程度都在不断提高（裁研所2016年裁研所。2016.日益自主技术武器化中的安全、意外风险和事故。日内瓦:联合国裁军研究所。https://unidir.org/publication/safety-unintentional-risk-and-accidents-weaponization-increasingly-autonomous.[谷歌学者]）。这些例子表明，添加新的计算机化和自动化设备“会让用户的工作变得更加复杂”，因为操作员很难理解机器为什么会这样做（裁研所2016年裁研所。2016.日益自主技术武器化中的安全、意外风险和事故。日内瓦:联合国裁军研究所。https://unidir.org/publication/safety-unintentional-risk-and-accidents-weaponization-increasingly-autonomous.[谷歌学者]，3）。这大大削弱了人在具有严重后果的紧急情况下监督和干预的能力。缺乏人为控制（即操作员对系统行为的误解）导致的“事故”和“灾难性故障”就是一个很好的例子（裁研所2016年裁研所。2016.日益自主技术武器化中的安全、意外风险和事故。日内瓦:联合国裁军研究所。https://unidir.org/publication/safety-unintentional-risk-and-accidents-weaponization-increasingly-autonomous.[谷歌学者]，6）。通过预测AWS和现有危险技术之间的相似性，裁研所认为AWS在未来可能会产生同样的危害。因为AWS也是复杂的系统，它们“将容易发生不可避免的事故”（Holland Michel，2021）https://doi.org/10.37559/SecTec/21/AI1.[Crosref]，[谷歌学者]//span>，1）。与此同时，裁研所提请人们注意AWS的新层面，以及它们如何以前所未有的方式破坏人类控制和伤害平民。例如，在AWS的设计中可能融入机器学习，这将使这些系统的行为对人类用户来说更加难以理解（Holland Michel2020年霍兰德·米歇尔，Arthur。2020年。黑匣子，解锁：军事人工智能中的可预测性和可理解性。日内瓦:联合国裁军研究所.doi:https://doi.org/10.37559/SecTec/20/AI1.[Crosref]，[谷歌学者]//span>，9；裁研所2016年裁研所2016年 日益自主的技术武器化中的安全、意外风险和事故Geneva:联合国裁军研究所。https://unidir.org/publication/safety-unintentional-risk-and-accidents-weaponization-increasingly-autonomous.[谷歌学者]，7）。另一方面，AWS即使是轻微的故障也会产生影响因为这些系统的设计目的是造成伤害或死亡。这将“恶化事故的致命后果” … AWS失败的后果可能包括自相残杀、平民伤亡或危机中的意外升级。”（裁研所2016年裁研所。2016.日益自主技术武器化中的安全、意外风险和事故。日内瓦:联合国裁军研究所。https://unidir.org/publication/safety-unintentional-risk-and-accidents-weaponization-increasingly-autonomous.[谷歌学者]，9；Holland Michel 2020年霍兰德·米歇尔，亚瑟2020年 解锁的黑匣子：军事AI中的可预测性和可理解性Geneva:联合国裁军研究所。doi：https://doi.org/10.37559/SecTec/20/AI1.[Crosref]，[谷歌学者]//span>，11）这样的场景不仅仅是创造性的推测，因为它深深植根于现实世界中涉及可观察后果的例子。因此，类比推理有助于使某些未来情景比其他情景更加稳健

另一种思考AWS及其可能或可能后果的方式是通过现有的军事系统，这些系统“已经在极其有限或没有实时人工控制的情况下运行”（裁研所2014年a裁研所。2014a.关于日益自主技术武器化的框架讨论。日内瓦：联合国裁军研究所。https://unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf.[谷歌学者]，5），包括反装备，防御武器系统，如C-RAM13或以色列铁穹（裁研所2014年a裁研所。2014a。关于日益自主的技术武器化的框架讨论。日内瓦：联合国裁军研究所。https://unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf.[谷歌学者]//span>，5），用于监视、测绘和探雷等任务的自主水面或水下航行器（裁研所2015年a裁研所。2015a。“海洋环境中日益自主的技术武器化：水域测试”。“日内瓦：联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-maritime-environment-testing-waters.[谷歌学者]），以及像Harpy无人机这样的游荡弹药（裁研所2014年b裁研所。2014b。日益自主技术的武器化：考虑有意义的人类控制如何推动讨论。日内瓦：联合国裁军研究所。http://www.unidir.org/files/publications/pdfs/considering-how-meaningful-human-control-might-move-the-discussion-forward-en-615.pdf.[谷歌学者]，6）。即使国际上对AWS的讨论不是关于这些现有的、早已建立的系统，它们也有助于州代表理解自主（在武器系统中）的现实意义，而不会在极端的未来场景中偏离。例如海洋环境中越来越自主的技术对水下通信的限制提供了一个非常具体的机会，可以仔细检查武器化物体在其控制范围之外运行时的舒适程度（裁研所2015a裁研所2015a）。“海洋环境中日益自主的技术武器化：水域测试”，日内瓦：联合国裁军研究所。https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-maritime-environment-testing-waters.[谷歌学者]，11）。类似于前面描述的桌面练习意图他们以现有技术为出发点，邀请州代表想象如果我们向上提升自主性，未来的具体场景会有什么问题。例如，与会者指出，主要关注的问题不一定是任何武器的“智能”，而是其具体使用参数：武器随时间的变化、进攻性应用、在无界和杂乱的地理区域使用日益自主的武器、，以及用于杀伤人员的系统（而非反物质系统）（Vignard，《联合国致命自主武器系统裁军研究所的声明》，2018年4月9日，法律问题政府专家组，2021 1月7日查阅。https://unidir.org/files/medias/pdfs/unidir-statement-ccw-expert-meeting-laws-april-2018-eng-0-746.pdf.[谷歌学者]）。通过将假设的（创造性的）情景与当前的要素交织在一起，由此设想的未来可能不仅看起来更加合理，而且裁研所（和其他机构）提出的关切也变得更加迫切。如果决策者最担心的不是AWS的技术成熟度，那么更难将对人性、尊严或比例的担忧视为夸大

评估裁研所的机构

尽管裁研所在当前的规范建设努力中几乎不是最为激烈和最为自信的行为体，但由于若干原因，它在辩论中占据了独特的地位。其中之一在于它试图将AWS问题“非科学化”。该研究所不拘泥于“机器人警报”场景和恐吓策略，而是通过从当前趋势和现有技术中推断，在很大程度上（通过不完全）基于坚实（或稳健）的基础上构建其对未来的描述。这种锚定在现实世界的情况下，更难将裁研所的关切视为推测。另一个原因是研究所避免公开评判和规定/禁止。裁研所并没有告诉各国政府对AWS应该怎么想或怎么做，而是向他们提供了如何思考这些问题的工具。这种做法与该运动的宣传战略形成鲜明对比，并在裁研所和后者之间产生了一些摩擦。此外，它使裁研所与其他处理该问题的联合国机构不同，可以被视为禁止AWS的积极支持者，包括联合国秘书长安东尼奥·古特雷斯和人权理事会。然而，正如前面的分析所表明的那样，裁研所远不是信息的中立仲裁者，而是与秘书长和运动所提出的关切一样

这不是说我们在战斗中没有狗，但我们也不是一个倡导组织。 … 我们有时必须稍微慢一点或不那么明确。我们发现，当我们不告诉人们该怎么想时，我们会得到非常好的结果。 … 当人们被要求反思某件事，而不是告诉他们该怎么想时，他们更可能相信自己得出了这个结论，因此他们更愿意接受这个结论，而不是“某某告诉我我应该这样想。” … 这也是一个问题，因为很多关于网络或自治的宣传工作都涉及到“你应该”或“你不应该”、“你必须”和“这是你需要做的”。2021 7月2日的访谈。查看所有注释，裁研所看似不带评判性的推理方式可能会为影响力开辟新的空间。例如，该研究所最初的框架文件就成为了一个西方国家关于自治的部际对话的基础，最终转变为一个政府处理人工智能和自治的整体方法<《采访》，2021 7月2日。查看所有笔记。尽管影响途径可能很少如此明确，但各国在《特定常规武器公约》国家声明中经常引用或思考裁研所出版物中的关键概念或框架。这包括一些关键概念，如裁研所对自主性的理解及其建议，即在描述美国焊接学会的特征时，将人类控制技术标准放在首位（加拿大代表团，2016年）。https://www.reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2016/meeting-experts-laws/documents/Canada-mapping-autonomy.pdf.[Crosref]，[Google Scholar]；《特定常规武器公约》2018年《特定常规武装武器公约》2018。“致命自主武器系统领域新兴技术政府专家组2018年会议报告”，日内瓦，2018年4月9日至13日和2018年8月27日至31日，2021 4月7日查阅。https://undocs.org/pdf?symbol = en/CCW/GGE.1/2018/3.[谷歌学者]）。斯里兰卡等一些国家也明确提到了裁研所提出的设想，包括“意外灾难性后果的可能性”（Aryasinha和Ravinatha2016年Aryasina、先生和P.Ravinatha。2016。“斯里兰卡大使/常驻代表的声明。”致命自主武器系统（LAWS）非正式专家会议，2016年4月11日。2021 4月7日访问。https://www.reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2016/meeting-experts-laws/statements/11April_SriLanka.pdf.[Crosref]，[谷歌学者]>）。尽管《特定常规武器公约》中的讨论仍然在AWS的技术、法律和道德方面存在持续的歧义，裁研所和其他知识中心的工作意味着，各国将更难以“我们还不够了解”为由避免采取行动。

结论

在问题全面形成之前，如何进行规范建设？各国不可能采取预防行动，除非它们清楚地认识到问题、未来挑战的性质、规模和紧迫性。AWS就是一个很好的例子，因为这个问题的未来氛围以及对更多数据和研究的需求成为了拖延行动的借口。在这篇文章中，我认为预期规范的出现取决于前瞻性的认识实践，这些实践产生了关于未来治理对象的知识，并创造了先发制人行动的规范需求。本文以裁研所的知识工作为重点，分析了三种认识论实践：汇编、翻译和表示。

由于无法在实践中研究AWS，裁研所从一组具有代表性的专家和学科中汇编知识，然后将其应用于AWS。将两者结合起来，通过建立共识，稳定未来的目标，并扩大辩论范围，这在以共识为基础的《特定常规武器公约》中尤为重要。通过将专家讨论的复杂细节翻译成技术水平较低的决策者可以使用的语言和形式，裁研所已牢固地确立了自己作为《特定常规武器公约》缔约国值得信赖的合作伙伴的地位。在代表AWS的中，该研究所结合了创新和稳健的元素。它邀请各国政府创造性地思考AWS如何影响法律和道德原则，以及如何实现更美好的未来。这种想象未来的方式可以探索这种武器技术引发的新的担忧，而法律尚未解决这些担忧，特别是对人类尊严的担忧。此外，创造性愿景支持技术创新和进步的内在开放性和可延展性，事实上，这是预期规范产生的重要前提。为了使未来成为当前先发制人/先发制人行动的场所，需要将其视为开放的、易受规范变化影响的场所。由于创造性的愿景本身不太可能推动国家采取行动，因此它们也融入了传达确定性和紧迫感的强大元素。通过从当前趋势推断，裁研所将这些武器的开发和部署描述为一种可能的甚至是近期的情况。同样，研究所通过将AWS的使用与现有技术进行类比，强调了AWS的熟悉性和紧迫性。

关注裁研所的知识工作具有指导意义，因为裁研所作为独立研究机构的地位和其非判断性的推理方式增加了其影响《特定常规武器公约》进程的机会。然而，经过进一步调查，很明显，裁研所远不是一个中立的知识中介。即使它避免了指令性或禁止性，它的教育材料也充满了对社会未来应该（不应该）如何的规范性期望。这些表述归结为两种对立的观点：一种是人类仍然控制着武力的使用，另一种是技术创新不受限制地发展，对人类尊严和人道主义原则。以这样一种方式呈现未来，无论是令人满意的/令人欣慰的还是令人不快的/令人威胁的，都表明各国应该在当下采取行动，防止不必要的未来，并制定一个令人满意的未来

进一步的研究可以调查其他知识生产站点，包括SIPRI、ICRC和KRB，以及它们构建AWS的方式。他们的汇编、翻译和代表做法可能不同于裁研所的认识论做法，尤其是因为他们不太受国家对中立和无偏见投入的要求的限制。这并不意味着他们的方法彼此不一致。相反，它们应该被视为创造对预期规范的需求的补充努力

本文中采用的对预期规范构建的关注似乎更加迫切，因为人工智能驱动的功能（如机器学习）的研发和使用已经在进行中。这些做法创造了先例，并推动了有关适当使用武力的事实上的规范的出现，审议性法律环境，如《特定常规武器公约》（Bode and Huelss2018Bode、Ingvild和HendrikHuelss.2019.“自主武器系统和国际关系中不断变化的规范。“国际研究综述44（3）：393–413。doi：https://doi.org/10.1017/S0260210517000614.[Crosref]、[Web of Science®]、[Google Scholar]；Huelss 2020年Huelss，Hendrik2020年。“规范是机器制造的：自主武器系统和人机交互的规范含义。”国际政治社会学，doi:https://doi.org/10.1093/ips/olz023.[Crosref]，[谷歌学者]>）。在算法或机器学习方面，控制权从人类转移到机器的次数越多，对什么样的武力使用可以接受的定义就越不受公开讨论和人类选择的制约。在这方面，预期性规范构建过程应该是从业者和学者的重要兴趣所在，他们认为AWS的开发和使用应该通过从规范角度定义可接受的内容，而不是反过来定义。