《致命自主武器系统领域新兴技术政府专家组》将依法审查武器、作战手段和方法的义务确定为其指导原则之一。尽管呼吁分享进行这一审查的实际措施和程序，但国家实践仍然不透明且支离破碎。本文描述了传统的武器审查过程，并解释了为什么需要修改该过程以充分评估自主武器系统（AWS）。它使用了三个虚构AWS在不同开发和收购阶段的案例研究，以演示现有的审查流程如何适用于AWS的审查。本文展示了这些审查在确保AWS符合现有法律要求方面的效用，从而也证明了现有法律对在战争中使用这种新技术的适用性

问题章节：

文章

1.引言

关于自主武器系统（AWS）的监管和使用的国际辩论已经持续了近十年，甚至没有就定义达成共识¹。但如果说在《特定常规武器公约》（CCW）主持下召开的致命自主武器系统领域政府专家组（GGE）内没有取得任何进展，那将是不公平的²。早先提出的创建新条约法以彻底禁止这项技术的建议已被更细微的举措所取代。与此同时，许多国家放弃了对正在制定的任何新规范性文书的最初抵制。在政府专家小组最近的讨论中，借鉴了此前以协商一致方式通过的11项指导原则，有两个广泛的选择开始具体化。其中一项涉及一项具有法律约束力的文书，该文书将禁止和限制特定类别AWS的使用，可能通过阐明有关人类控制的标准⁴。另一种选择是相关原则、最佳实践和/或现有法律解释的概要，而不产生新的法律义务。然而，在《特定常规武器公约》的主持下取得进一步进展的前景是不确定的。政府专家小组在协商一致的基础上开展工作，允许一个国家拖延或中断讨论。俄罗斯联邦在2022年做了大量工作⁶。特别令人不安的是，这些试图破坏GGE进程的企图与越来越多的传言和报道同时发生，即利比亚、纳戈尔诺-卡拉巴赫、加沙和乌克兰使用至少具有部分自主功能的无遮蔽飞行器⁷。其中一些似乎无法按照基本国际人道主义法（IHL）原则使用，例如准确区分合法军事目标和受保护物体和人员⁸。

尽管政府专家小组辩论的未来方向存在不确定性，但无论选择何种监管途径，《指导原则》都需要实施。AWS法律合规性审查（此处称为“武器审查”）对于确定该系统是否可以合法使用至关重要⁹。值得注意的是，目前关于具有法律约束力的文书和良好做法声明的提案都认识到武器审查的重要性¹⁰。本文试图解释为什么武器审查对AWS的负责任使用如此重要，应如何进行此类审查，以及这些审查将如何使审查国受益。

在简要介绍了武器审查的法律依据以及它将如何适用于AWS之后，第2节概述了AWS武器审查的效用。第3节描述了当前国家实践中武器审查程序（传统程序）的共性，以及根据新武器、作战方法或手段中的自主功能调整这一程序的必要性。

为了使讨论更实用，第4节提供了一系列案例研究，以帮助展示AWS武器审查在其开发、采购和使用的不同阶段的一般效用。第一个案例研究侧重于国家赞助的一项军事用途两用技术的“研究和开发”。第二个案例研究考虑了审查国从盟国“收购或采用”成熟的AWS。最后的案例研究评估了人工智能（AI）对现有武器系统的增强。

本文试图在具有自主功能的武器系统的背景下证明武器审查过程的有用性，而不就AWS的额外监管是否必要或可取采取立场。本文将展示如何利用现有的法律框架，以及如何调整审查义务，以确定是否可以合法使用具有自主能力的系统。它还试图通过举例说明如何将确认武器审查义务的指导原则转化为实践来补充现有文献。

2.武器审查过程的发展和AWS适用性的观点

武器审查过程并不特定于新技术。相反，它源自一般和具体的国际法律义务，这些义务要求考虑所有“战争工具”的使用方式¹¹。在讨论了这一义务的来源之后，本节确定了支持武器审查与AWS相关性的论点，概述了怀疑论者的论点，并列出了依靠武器审查支持在武装冲突中使用AWS所提出的关键挑战。

答：武器审查义务

交战方选择战争手段和方法的权利并非无限¹²。国际法以多种方式限制这种选择。一方面，它一般禁止造成某些类型伤害的武器、方法和手段¹³。另一方面，它禁止和限制使用特定武器、作战手段和方法¹⁴

《第一附加议定书》明确要求其缔约国在使用任何武器、作战手段或方法之前对其进行审查，以遵守该国的国际法律义务。具体而言，《第一附加议定书》第36条规定如下：

在研究、开发、获取或采用新武器、战争手段或方法时，缔约方有义务确定在某些或所有情况下，本议定书或适用于缔约方的任何其他国际法规则禁止。

该条款的目的是“防止在任何情况下使用违反国际法的武器，并在某些情况下限制使用违反国际法律的武器”¹⁵。

这项义务的习惯国际法地位仍未确定¹⁶然而，毫无疑问，各国必须确保在武装冲突中使用武力符合相关国际法，包括适用于选择武器、作战手段和方法的任何限制。我们建议，在考虑到法律义务和原则的情况下，了解一种武器、作战手段或作战方法的运作方式，是一个国家在武装冲突中合法使用该武器的逻辑和必要先决条件。因此，非《第一附加议定书》缔约国，包括美国和以色列，由于其有义务真诚遵守其国际法义务（《条约必须遵守》），因此有更普遍的义务确定其武器、作战手段和方法的合法性¹⁷。

《第一附加议定书》未定义术语“武器”、“作战手段”或“作战方法”。这使得各国和评论员能够采取不同的方法来界定这些概念并建立彼此之间的关系¹⁸。一般而言，我们认为AWS能够构成武器、作战手段，因为AWS在正在进行的国际辩论中发挥了作用或两者兼而有之。在本文中，我们将讨论AWS针对特定用例的设计和开发，并在此背景下讨论作战方法。因此，我们将更广泛的问题留给一方，即自主功能是否可以构成一种独特的作战方法。

B。对AWS武器审查的看法

政府专家小组得出结论，武器审查“在国家一级”是“评估AWS在所有或某些情况下是否被适用于该国的任何国际法规则所禁止的有用工具”¹⁹。这一观点与政府专家小组通过并经《特定常规武器公约》缔约方会议核可的《指导原则》相一致，该《指导原则》明确规定：

根据各国根据国际法承担的义务，必须确定在某些或所有情况下，国际法是否禁止使用战争手段或方法²⁰。

虽然在武器审查与确定AWS合法性的相关性上已经达成了正式共识，但对于这些审查在管理AWS的使用和部署方面的实际效用，仍然存在不同的观点。

许多国家强调进行武器审查的重要性，以评估AWS遵守现有国际法律义务、限制、限制或禁令的情况²¹。一些国家也支持讨论和传播相关国家实践。这一群体尤其包括许多国家，这些国家不支持就AWS制定具有法律约束力的文书，并认为现有国际法，特别是国际人道主义法，足以规范AWS的使用²²。

武器审查已被讨论为一种工具，以消除对特定类型武器可能造成法律合规性的担忧。审查武器在特定作战环境中的部署方式可能导致对该武器的使用施加限制，以进一步遵守国际人道主义法。因此，通过武器审查，可以确定那些不符合法律义务的武器类型，或者那些在特定使用场景下可能只符合法律标准的武器类型。例如，根据就人的控制水平和履行法律义务所需的机构所采取的意见，可以评估武器系统满足区分和相称性法律标准的能力。虽然这超出了武器审查的通常范围，但实际上有必要支持一国按照其国际法律义务在武装冲突中适当和合法地部署这些能力。

许多支持AWS特定法规的人，但绝不是所有人都对武器审查作为AWS法律合规途径的效用或充分性表示怀疑²³。尽管第36条武器审查义务已经存在了40年，但常规武器的国家武器审查实践证据有限²⁴。除了各国一般采取的行动有限外，国际法没有规定进行审查的程序，因此各国之间差异很大²⁵。缺乏统一的武器审查实践，削弱了武器审查将防止使用非法AWS的论点。

注意到武器审查过程还记录了武器、作战手段或方法的正常和预期用途，它为军方提供了一个参考点和指导，说明审查国如何认为某一特定AWS可以合法使用。对武器审查过程持怀疑态度的人认为，某些AWS的进化性质，例如通过机器学习，使得用例的表达几乎不可能。如果一个国家在一种情况下审查武器的使用情况，但机器在实质上改变了自己，那么对法律遵守情况的初步评估就变得毫无意义。

C。AWS武器审查面临的挑战

虽然我们的目的是表明武器审查不仅在法律上是必要的，而且在评估AWS履行法律义务的潜在用途方面也是实用的，但我们注意到，持怀疑态度的人正确识别了两个挑战。第一个问题与国家实践的可及性有限以及由此产生的国家如何进行武器审查的不确定性有关。第二个挑战是，促进自主功能的技术的一些新特性可能会使现有的武器审查过程变得不充分。

（i）分享不一致的国家实践

进行审查的国家实践远非一致，是私下进行的，没有公开解释其结果²⁶。武器审查的内部性质引起了对国家解释和法律规范适用于AWS的分歧的担忧。奥地利在向政府专家小组提交的一份文件中建议，各国对武器审查采用不同的法律标准将导致结果不一致，最终导致不确定性²⁷。在负责起草1977年附加议定书的外交会议上已经确定了这一风险，但双方一致认为，一国对合法性的确定并不是为了创造新的主观标准²⁸。武器审查决定不一致的可能性必须与这样的现实相平衡，即出于国家安全和商业专有利益的原因，很少有国家愿意公布其武器审查结果。第36条没有透明度义务。许多国家和非政府组织呼吁分享武器审查程序和最佳做法³⁰。一些国家呼吁“统一武器审查程序，制定国际商定的规范和标准”³¹。为了帮助履行武器审查义务，法国建议各国“交换关于其国家法律审查程序的信息，并共同确定最佳做法”³²。同样，荷兰认为“分享关于国家第36条API程序的操作方式和基本原则的信息将具有附加价值”³³。这可能会产生一份关于武器审查的良好国家实践汇编，并有助于透明度和信息交流。日本进一步建议“在《特定常规武器公约》年度报告中引入武器审查执行机制，作为建立信任措施”³⁴。

（ii）审查自主技术所面临的挑战

何时审查与武器、作战手段或方法相关的新技术这一实际问题的答案尚不清楚。在增强现有武器系统方面，或在协助决策过程中获取致命效果方面，自主能力日益普遍，这使这一问题更加复杂。我们同意Klaudia Klonowska的观点，即在涉及人工智能系统时，对审查义务进行广泛解读，这些系统对使用武力并不重要，但会导致“共同制造敌对行动”³⁵。此外，由于新技术的引入，对原有功能的实质性改变将触发重新审查由人工智能或其他新技术增强的传统系统的要求。

审查AWS时，武器审查义务的时间范围也存在问题。第36条要求在武装冲突中使用武器之前的“研究、开发、获取或采用”期间进行武器审查。除了在材料修改的情况下，武器审查不需要在可能长达数十年的武器使用寿命期间重新考虑。这对能够适应的AWS来说是一种风险，例如通过机器学习。虽然《指导原则》中没有明确规定，但包括奥地利、比利时、巴西、智利、爱尔兰、德国、卢森堡、墨西哥和新西兰在内的许多国家已经认识到，在AWS的整个生命周期内需要进行武器审查。他们认为，“定期评估过程……应该应用于类似地，澳大利亚将武器审查视为更广泛的“控制系统”的一个组成部分，该系统适用于AWS的整个生命周期，从开发到退役³⁸。要克服确定适当时间的挑战，需要通过迭代方法调整审查过程。

最后，考虑到自主性的性质，将以前属于人类的活动包含在内，必须对机器（而不是人类）所执行的“决策”标准进行评估。考虑到法律标准，很难将机器性能的可接受水平转化为代码：与人为错误相关的标准与机器错误的可接受标准的比较不容易进行测试和评估。例如，按照《第一附加议定书》第57条的要求，在瞄准行动中进行尽职调查很难转化为守则。因此，必须根据使用所需的法律标准来评估授权给机器的受国际人道主义法管辖的行动。这一标准至少可以根据人类采取的相同行动来衡量。例如，当做出目标获取的决定时，需要人类的尽职调查标准；该标准代表了机器代表人类执行该功能所需的最低要求。

关于人类“在回路中”或“在回路上”的要求和功效的争论也持续存在³⁹，但《特定常规武器公约》中关于AWS提出的“有意义的人为控制”要求可能最终会被定义，这意味着审查必须评估是否存在适当的系统人为控制机制。传统武器审查程序和AWS所需的修正案。

据公众所知，国家在武器审查方面的做法不一致，而且除了明确规定确保法律合规的一般义务外，没有任何具体的审查程序，这意味着可以在考虑到第36条的解释和审查义务的范围的情况下得出适当完成武器审查的程序。对武器合法性的审查，最基本的是对一国履行具体和一般法律义务的情况的评估。采取这一要求并根据当前国家实践进行分析，可以确定进行武器审查所需的一般步骤。什么是武器审查义务？

第36条的义务旨在确保各国在武装冲突中使用武器之前，根据国际法确定是否禁止或限制武器。该决定基于武器在某些或所有情况下的正常或预期使用⁴²。因此，审查在向审查人员展示武器时处理武器，并以其传统形式将武器视为静态能力，其中测试和采用方法与固定的作战手段和方法有关，具有明确预期和定义的用例。国家武器审查决定对其他国家不具有约束力，也不旨在制定单独的法律标准，而是旨在“确保在不仔细研究合法性问题的情况下不会采用战争手段或方法”⁴⁴。一般认为，确定合法武器的合法使用取决于上下文，根据国际人道主义法规则作出决定的责任主要在于军事指挥官、武器操作员和向指挥官提供的法律顾问⁴⁵。

B。传统武器审查程序

虽然各国的武器审查方法可能有所不同，但为实际评估武器的合法性而采用的程序通常需要四个不同的步骤⁴⁶。第一个初步步骤是通过评估是否存在“新的武器、手段或作战方法”来确认第36条的适用性⁴⁷。如前所述，附加协议I没有定义这些概念⁴⁸。因此，各国可以通过国内法和国内政策自由制定自己的解释⁴⁹。审查时预计的武器的正常或预期使用限制了分析的范围。

第二步涉及确定条约或习惯法是否明确禁止或限制武器类型⁵⁰。这集中于武器类型或造成伤害的机制。例如，如果武器使用窒息性气体造成战斗人员受伤或死亡，则《日内瓦气体议定书》、《化学武器公约》和习惯国际法禁止使用⁵¹。

第三步考虑是否有适用于该武器的一般国际法禁令⁵²。这包括考虑正常或预期使用是否会对敌方战斗人员造成不必要的痛苦或过度伤害⁵³，本质上是不分青红皂白的，因为它不能针对特定的军事目标，或造成广泛、长期和严重的环境破坏⁵⁵。

对于一些国家，最后的武器审查步骤是准合法的，因为它包括对国家政策的考虑⁵⁶。借鉴马滕斯条款⁵⁷，这一步骤认为国内政策反映了“人道主义原则”和“公众良知”。虽然不确定武器的合法性，但各国可以就相关问题作出政策决定，例如不使用特定类型武器的政治决定（例如，贫铀弹药⁵⁸）或人类控制AWS的要求⁵⁹。

在本文中，我们称之为“传统武器审查程序”，因为它反映了当前对第36条义务的普遍解释，国内执行情况。

武器审查的做法在《第一附加议定书》缔约国中并不普遍。据了解，约有20个国家对传统的非人工智能增强型武器拥有正式的法律审查程序⁶¹。在撰写本文时，除了善意的公开声明，没有任何国家公开概述其AWS法律审查的方法⁶²。第36条含蓄地要求《第一附加议定书》缔约国“为阐明合法性问题建立内部程序”⁶³作为法律问题，审查国无需采用特定方法⁶⁴。各国通常通过各自国防组织内的国内立法、法规或政策指令实施其内部程序。

国家武器审查政策通常包括以下要素：将审查责任分配给国防组织内的律师；通过定义第36条中的“新武器、作战手段或方法”，界定武器审查义务的范围；使武器审查义务与军事武器采购程序相一致，并确定上述步骤中涉及的武器标准⁶⁵。

除美国国防部指令3000.09“武器系统自主”外⁶⁶，国家政策关注传统武器的武器审查。这要么意味着各国认为现有的程序足以应对在冲突中部署AWS的挑战，要么意味着它们继续评估其武器审查框架，而这些框架并未作为专家组指导原则建议的国际武器审查实践。AWS所需的武器审查程序修正案。

现有的审查方法适用于传统武器，在传统武器中，受国际法问责机制约束的操作员（如因滥用其控制的武器而被起诉的战争罪）负责确保武器的使用方法符合法律。然而，这种方法对于AWS来说过于狭隘。考虑到机器学习在某些情况下的影响，它们需要在整个生命周期内进行法律审查，但更普遍的原因是基于编程和不同数据输入的算法性能的变化⁶⁷。

驱动AWS的算法必须产生符合国家法律义务的结果。因此，彻底的法律审查应成为AWS整个设计和采购过程的一部分，既要告知AWS的开发情况，也要评估其在使用过程中的合法性。这一过程可能需要对国家赞助的研究和开发活动进行干预，并将需要在迭代过程中进行审查，而不是在将产品或能力纳入军事用途之前立即发布最终审查，必须将多学科和持续的方法纳入现有的审查过程。这可能会贯穿武器的整个生命周期，以评估其在多种环境中运行的能力，这些环境要求AWS解释与最初评估其性能所依据的数据不同的数据。它还将解决改变AWS操作的技术进步。

可通过运营或现场法律审查评估小型操作变更，该审查建立在投入使用前进行的审查基础上。此类法律审查还必须与原始审查机构一起标记，以确定是否触发对该特定能力的重新审查。更重要的变化，例如，引入机器学习或改进AI的上下文推理能力，可能需要对其进行特定的操作限制，以确保持续的法律合规性。明确地关于系统是否能够改变其正常或预期用途的评估将决定是否需要重新审查原始评估的法律合规性。

类似领域中使用的类似流程，如自动驾驶汽车的监管和确保自动驾驶汽车能够遵守道路规则，可能会有所帮助⁶⁸。例如，在未事先获得软件更新或修补程序的人工批准的情况下，对实施自学习设置限制可能会满足这一要求。

此外，审查过程还需要额外考虑AWS的预期操作环境。在传统审查的情况下，系统的操作员必须评估操作环境的影响，例如将作战空间中的物体评估为民用或军用物体。AWS的武器审查必须考虑到杂乱复杂环境中的局限性。因此，除了确定系统运行是否发生重大变化外，审查还必须考虑系统运行环境的任何重大变化。如果用于训练人工智能的数据专注于特定的法律制度，这一点尤为重要。例如，设计用于在国际武装冲突中运行的人工智能系统如果要在非国际性武装冲突中部署，则需要重新审查，以确保编码到系统中的任何规则都反映了评估目标状态的更改标准。

此外，还必须对AWS做出这些决定的方式进行评估。例如，在确定是否遵守法律时，AWS中编程的假设也必须符合法律规定。例如，国际人道主义法的一项基本原则是，在有疑问的情况下，地位被推定为平民。在这种情况下，AWS在特定环境下的性能将构成武器审查的一部分，这是传统武器审查内容的补充。传统武器审查的结果。

正常或预期使用是合法的
武器的使用通常是合法的，但特定的方法或情况可能会导致使用非法
在任何情况下使用武器都是非法的⁷⁰。

在得出这些结论时，该报告将向审查国提供建议和指导，说明武器系统投入使用后必须采取哪些限制或控制措施。

（i）武器在正常或预期使用中的使用是合法的或预期用途。传统的武器审查侧重于武器本身的合法性，因此其决定很可能是二元的。例如，对某一特定高速子弹的审查可能表明，如果该子弹被用于攻击敌方战斗人员，则其性质可能会造成多余的伤害或不必要的痛苦，这违反了《第一附加议定书》第35（2）条。因此，这种使用将被禁止。相比之下，武器审查可能会确定使用同一枚子弹的反装备是合法的，因为不必要的痛苦问题并不相关，但使用方法需要限制。

传统武器审查通常建议限制武器的使用。这种限制通常确保在特定情况下有区别地使用武器。武器可能有两种不加区别的方式。第一种与武器的设计有关：该武器不能按照《第一附加议定书》第51（4）（a）条的要求瞄准或瞄准特定军事目标，伊拉克对以色列和沙特阿拉伯使用的苏联飞毛腿导弹。在这种情况下，武器可以在审查后被证明是合法的，因为武器的使用者而不是武器本身必须进行调整，以确保在使用过程中遵守法律。也就是说，武器能够被区别使用，但武器的操作者必须将其指向特定的目标。在这种情况下，审查建议的限制是基于预期用途，武器操作员有责任确保武器是合法使用的，审查可能建议，除非军事优势超过附带损害的风险，否则不得将该武器用于瞄准位于平民人口内或靠近平民目标的军事目标在任何情况下都是非法的，实际上导致该国无法使用该武器，而不对由此造成的任何不法损害承担国际责任。这样的决定不一定会阻止该国拥有该武器技术，但故意装备这种武器将被视为“违反议定书的精神和文字”，需要进行重大的设计和开发调整，以使系统能够实现上述（i）或（ii）所述的替代性、符合法律规定的结果。在常规武器系统的情况下，这些调整可能相对容易确定，因为导致不合规的部件可能与特定功能有关。例如，一个准确的传感器可能会取代一个原始的、不准确的传感器。

F。适用于AWS的武器审查结果

AWS武器审查结果可能不完全符合上述三个选项之一。例如，武器审查可能建议AWS的武器组件本身是合法的，但建议限制某些自主被确定为非法或可能非法的功能。或者，武器审查可能会建议，使用自动武器系统是合法的，但作为国家政策，在某些情况下使用自动武器应受到直接的实时人类控制。例如，审查可能会确定AWS可以合法地用于针对直接参与敌对行动的平民，但国家政策禁止AWS在没有人直接控制的情况下用于对付人类。或者，由于某些行动的固有复杂性，国家政策可能要求AWS仅用于军事目标，而非合法的人类目标。因此，一份审查报告可能会建议，在非国际武装冲突的典型非对称作战中，不要使用自动武器系统，因为人类是动态目标的焦点。

（i）AWS在其正常或预期用途中的使用是合法的

虽然AWS的武器审查与传统武器审查过程一样涉及特定和一般的国际人道主义法禁令和限制，但其结果不太可能是二元性质的。这是因为它还需要考虑与AWS功能相关的、规范作战方法和手段的国际人道主义法规则。因此，对发射与上文第3.E（i）节相同高速子弹的AWS进行武器审查将做出与上文相同的决定，但也将考虑国际人道主义法关于区分、比例和预防措施的规则。审查结果表明，受这些规则管辖的AWS功能可能受到特定限制。为了说明这一点，高速反材料弹可被评估为几乎不会造成不成比例的附带损害，因此可被批准用于AWS。然而，对具有广泛影响的AWS进行武器审查可能会限制其在存在平民和民用物体的作战环境中的使用，只需授权其在人的直接控制下使用。

（ii）AWS的使用是合法的，但需要对其使用方法进行限制

与传统的武器审查不同，AWS审查可能会提出多项建议，以解决AWS正常或预期使用的合法性。考虑前面的武器示例，它能够被区别地瞄准，但依赖于武器的使用者将其瞄准适当的目标。当AWS承担这一瞄准功能时，审查必须考虑两种情况，即武器在设计上或使用上可能不分青红皂白。例如，审查可能会确定，设计用于识别、选择和攻击军事目标但无法评估附带损害的AWS仅在没有平民或民用物体的环境中使用是合法的。在其他情况下，AWS可能仅限于实时人工控制。审查建议可将自主功能的使用限制在合法性充分确定的运行情况下。

武器审查可能会考虑AWS的各个功能，并对涉及国际人道主义法或其他法律义务的每个功能提出建议。设计用于区分民用物体和军用物体的AWS可能会在不同的操作环境中被阻止或限制这样做。例如，武器审查可能会发现，设计用于攻击具有独特物理特征的敌方装甲车辆的AWS，在遇到某些农业设备时会出现误报识别结果。武器审查可能建议防止AWS在农村环境中运行，或要求其在此类环境中攻击敌方坦克时获得人类批准。如果尚未进行编程，审查可能会建议对AWS进行编程，使其操作员能够改变其自主功能。

审查还可能建议限制AWS的使用以满足政策要求。例如，国家政策可能要求对AWS针对敌方战斗人员的任何攻击进行实时人工控制。在这种情况下，武器审查可能会确定针对军事目标的AWS攻击会对附近平民造成不可接受的伤害风险的情况，即使这种使用可能是合法的。

类似地，禁止或限制特定AWS功能的武器审查建议可能是临时的，以解决技术或操作环境。例如，针对特定军事目标而设计的AWS在某些作战环境中执行此任务时可能表现出不可预测性。武器审查可能导致限制自主瞄准并且需要直接的人类决策，或者它可能完全禁止在这种情况下使用武器，（iii）AWS在任何情况下都是非法的。

审查发现AWS本身是非法的，因为其自主功能可能会导致大量的重新设计，例如在神经网络的训练和测试或基于AI的系统的输入数据和算法性能方面。在这方面，AWS设计和编程的早期修正将使算法（或使用的其他计算过程）能够进行调整，以防止非法操作。使用迭代审查过程可以在不必破坏系统的完整设计和开发的情况下进行此类纠正。通过与武器审查进程相关的持续测试、评估和核查进程，可以纠正数据偏差的可能性、算法应用的不正确法律推定，或无法根据不断变化的输入得出适当结论。这种与传统流程的背离——响应法律审查对系统进行重新设计和持续开发——标志着对自主功能的重大调整。

4。AWS审查案例研究

本节介绍了假设案例研究，这些案例研究被选择来证明AWS在不同采购标记下武器审查的通用性：新能力的设计和开发、现有能力的获取和现有武器能力的增强。例如，在澳大利亚背景下，一个防御能力系统（ODCS）阐明了一个采办门系统，该系统标记了与澳大利亚国防军内部采办、资源和能力使用过程相一致的某些技术准备水平，在获取国使用该能力之前，需要考虑和确定该能力的潜在合法性。例如，在战略和概念阶段，能力优先级的设置将有助于确定AWS的用例范围，并确定国防部如何使用该能力。此时通过武器审查（尽管是初步审查）来考虑法律限制，将有助于防止在拟定用途永远不合法的情况下计划获取的能力。同样，在ODSC的这一点上，参与武器审查过程可能会导致对拟议的能力使用进行调整，以填补确定的能力缺口。

风险缓解和需求设置阶段对于考虑法律风险也很重要。此时进行的初步武器审查将有助于评估AWS带来的风险水平，以及该法律风险是否仍处于国防部可接受的水平。该评估可能支持能力使用要求的调整，这将影响能力的设计和开发方式。

当通过武器审查评估AWS的法律合规性时，采购阶段显然最为相关。这是当前系统下的正式审查点，在这一点上，最终武器审查将确定武器是否能够合法使用，以及是否需要对使用进行限制。

最后，在役和处置阶段需要考虑AWS的使用。相关交战规则（ROE）以及战术、技术和程序（TTP）将反映AWS在武器审查期间使用中确定的参数或限制。在该阶段期间，基于其操作环境对系统的改变或通过经由机器学习的自我生成的改变或由系统的操作员进行的调整来随时间使用的调整，这些案例研究没有全面涵盖前面概述的武器审查过程的步骤，但旨在突出AWS与传统武器区别的关键问题，以及如何通过使用武器审查来减轻与这些差异相关的风险。

案例研究一：AI目标分类器

（i）能力

人工智能目标分类器（AITC）是一种虚拟的AI支持决策工具，旨在通过跟踪、识别和优先确定目标，加强武器的使用⁷⁴AITC分析视频片段，并向军事指挥官提出建议或警告，以便在计划或决定攻击时考虑。物体分类器采用卷积神经网络（CNN）⁷⁵编程，以识别特定视觉物体，并根据战场上人员和物体类别相关的标记对其进行分类。例如，分类器可以高度确定（95%）地识别预定地理区域内的个人，该个人携带公认的武器，穿着军事破坏图案制服，没有任何明显的保护标志，是敌方作战人员。该分类器由一家私人公司利用军事资金进行研究和开发，处于早期阶段。

（ii）初步问题

（a）发起国的第36条义务是否适用于AITC

传统的武器审查步骤侧重于通过检查特定武器类型和特定效果来确定武器本身的合法性。然而，AITC很可能被归类为一种战争手段，因为它是武器的组成部分，而不是武器本身。让我们假设，审查国的武器审查政策包括“武器、作战手段或方法”的定义，其中包括“使用武力所不可或缺的武器系统的组成部分”⁷⁶。如果是这样，国家的第36条义务适用于分类器，其基础是它旨在告知有关使用武力的决定。或者，审查国的政策可能要求所有旨在履行国际人道主义法管辖的职能（或助长好战行为）的人工智能系统接受武器审查，以确定其合法运作的能力⁷⁷。

（b）在军事收购或采用能力之前，私人公司对AITC的研究和开发是否受第36条审查的约束

一些人认为，在某些时候可能成为武器的两用技术的研究不属于第36条武器审查义务⁷⁸。同样，政府对武器的研究，例如出于情报目的而不以获取为目的，被认为超出了第36条的义务⁷⁹。另一种观点是，当国家为作战部署目的采购新武器时，应进行武器审查，尽管审查可以在所有阶段以不同的强度进行⁸⁰。

然而，我们认为，赞助公司或大学研究军事技术用途的国家应进行审查⁸¹。在这个虚构的案例中，国家军方赞助了AITC的开发，以提高武器的使用率。因此，我们认为这项研究属于武器审查义务。相反，如果审查国赞助研究和开发支持AITC的相同人工智能技术，但尚未确定人工智能的具体应用，则在决定将人工智能作为武器系统的一部分之前，不太可能产生第36条审查义务。

一个相关的问题是，第36条是否要求各国审查国内私营工业生产的用于出口的武器，但这些武器不是国家自己购买或采用的。虽然第36条在时间上的适用范围非常广泛，但一般认为，该义务适用于国家而非非国家实体“研究、开发、获取或采用”阶段的武器。私营工业在武器制造中日益突出，可能使各国有理由考虑在其国家武器审查指令和出口管制义务方面暂时适用武器审查义务。我们认为，尊重和确保尊重国际人道主义法的义务支持对出口武器审查义务的广泛解读。

（iii）回顾

在设计和开发方面，武器审查侧重于将由国际人道主义法管理的人工智能功能。鉴于AITC的正常或预期用途是跟踪、识别和优先考虑目标，国际人道主义法基本区分规则的应用是分析的关键部分。

注意到负责人工智能设计和开发的人员可能是私营公司的文职员工，他们不太可能熟悉国际人道主义法规则及其在武装冲突期间的应用。进行武器审查的人员可能有必要告知他们区分规则以及在AITC预期用途的情况下如何适用该规则。这包括解释CNN需要区分的人员和物体的类别，以及人员或物体的国际人道主义法地位因人员的行为（例如，直接参与敌对行动或相反，受伤）或物体的使用而发生变化的可能性。值得注意的是，这些标准将根据作战环境和部署能力的武装冲突的性质而改变；然而，CNN的培训需要进行此类评估能力的培训。

因此，早期武器分析的一个重要因素是了解CNN正在接受训练，以识别图像的哪些方面是IHL类别的指示。在某些物体的情况下，例如敌方坦克，CNN错误识别具有与敌方坦克的某一型号相似特征的民用物体的风险较小。然而，将人员归类为战斗人员将更加困难。接受过识别特征训练的美国有线电视新闻网（CNN），如持有武器、穿着军装以及与其他战斗人员接近等，可能会导致更高的假阳性识别风险，注意到这种视觉上明显的标准并不能决定目标地位。例如，尽管作战人员可能满足可瞄准的主要标准，但由于次要考虑因素，例如已有效投降或受伤，他们也可能是无战斗能力。不能仅仅通过评估人员的视觉指标来确定武装部队的成员⁸⁴。虽然人工智能不仅面临挑战，而且人类也需要评估对手的目标能力，但人工智能系统结合这些额外的、复杂的、基于上下文的评估标准的能力比将其添加到人类决策者的考虑因素列表中更为复杂。

根据AITC能力的期望，初始积极识别将需要为不同的输出分配不同的重要性，或调整过滤器以适当地捕捉不同的空间和时间相关性，以反映AITC的IHL性能要求所通知的这些多重考虑。

（iv）结论

如果没有与AITC的具体操作使用相关的输入，该功能将无法符合国际人道主义法。武器审查的结果将是在进一步了解AITC在其特定作战使用场景中满足国际人道主义法区分要求的能力之前进行有条件的批准。

（v）反思

虽然在研究和开发新兴武器能力的过程中做出最终决定很困难，而且可能为时过早，但武器审查在AITC的研究和开发中发挥着重要作用。首先，它向负责AI分类器设计、编程和培训的人员通报和教育审查国的国际人道主义法义务。这确保了培训、测试和开发的编程、数据选择将国际人道主义法义务纳入系统运行。其次，它提供了系统能力和局限性的早期指示。通过这种方式，可以在系统开发早期进一步开发或限制影响国际人道主义法合规性的人工智能功能的限制。这为审查国提供了根据国际人道主义法使用人工智能分类器的能力的早期指示。

B。案例研究二：获得自主空中平台

（i）能力

这个虚构的场景涉及审查国从盟国购买AWS Loiter。Loiterer是一种空中平台，一旦发射，它将沿着预先指定的飞行路径飞行长达6小时，并通过特定的通信来瞄准军事目标系统⁸⁵。它配备了灵敏的射频接收器，可以检测和定位来自军事总部和指挥车辆中使用的无线电设备的无线电信号。操作员可以对Loiterer进行编程，使其飞行高度达到3000米，并在指定的地理区域内搜索发射目标无线电频率的军事目标。

一旦识别到无线电信号，Loiterer就会沿着特定的路径飞行，以三角测量无线电信号的来源并精确定位其位置。该平台搭载两架50克重的高爆滑翔无人机，可在距离预定目标2公里处发射。一旦确定目标位置，平台就会将目标信息传递给一架或两架滑翔无人机，这些无人机在未被发现的情况下释放并滑翔，以打击目标。一旦Loiterer发射滑翔无人机，瞄准过程完全自主。Loiter被编程为在需要时或燃料供应不足时返回指定的着陆点。

Loiter的正常或预期用途是动态瞄准军事目标，包括军事总部。测试表明，滑翔无人机以98%的精度打击其设计目标。虽然50克的有效载荷具有10米的致命武器效应半径，但它可以在其撞击点50米范围内造成附带损害。人类控制人员可以监视Loiterer任务，并在必要时取消或中止攻击。如果附带损害的风险很低，或者平台与其控制器之间的通信不可用，Loiterer一旦发射就可以自主运行。

（ii）初步问题

初步武器审查问题是“Loiter”是否是一种新的武器、手段或作战方法。它一直在与其他国家合作，因此从技术角度来看并不新鲜。但这对审议国及其特定的国际法律义务来说是新的，因此需要接受武器审查⁸⁶。

Loiter的正常或预期用途是使用高爆滑翔无人机攻击预先指定的地理区域内通过无线电信号发射识别的特定军事目标。一旦发射，它就能够在无需人工输入的情况下搜索、选择和攻击目标。然而，它确实有一个人在回路中，并在通信丢失的情况下内置了多个故障保险器。

（iii）审查

为了使向政府和军事决策者通报部署武器的合法性的要求生效，审查国的武器政策或指令可能需要一份临时武器审查报告。本报告对采用此类技术的法律风险进行了评估，其中使用此类技术会受到错误率的影响，从而对某些关键法律功能的风险进行了接受。在这种情况下，临时法律审查可能会发现，Loiterer的正常或预期使用会引发若干法律风险，然后可以评估其可接受性、能力调整或确定能力使用限制。

（a）区别

卢瓦尔人可能非法瞄准使用与预期目标特征相似的通信设备的民用物体。该平台通过检测特定的无线电频率来识别军事目标。该平台的机载系统解释无线电信号的类型，并检测军事通信中典型的信号调制技术。这种特定无线电发射的识别是准确的（98%的概率），但它假设其搜索区域内没有使用相同无线电频率或调制技术的民用无线电通信。据了解，一些国家的民用医疗和急救服务机构拥有能够在Loiter目标频率范围内发射信号的无线电通信。此外，平台无法解读发射的无线电信号，因此无法识别目标区域内的战斗人员何时表示打算投降；或识别对象是否为受保护的医疗设施。因此，在批准收购之前，中期审查可能会建议：

平台的操作说明需要在攻击通过无线电发射确定的军事目标之前直接获得人的批准，以确保该目标被准确评估为军事目标，而不受其他保护
操作系统是设计用于使所有军事目标的GPS坐标能够预先编程到平台的操作指令中，从而能够识别无打击位置并对照拟定目标进行交叉检查
平台的使用仅限于没有平民和民用物体的操作环境

（b）附带损害

卢瓦尔人可能发动攻击，导致平民生命损失、平民受伤、民用物体损坏或其组合，这与所获得的具体和直接军事优势相比是过度的。虽然该平台旨在瞄准军事总部和其他军事目标，但它无法探测目标附近是否存在其他人员或物体。因此，位于50米附带损害半径内的平民或民用物体可能受伤，物体可能受损。因此，审查可能会建议：

平台的操作说明需要在攻击通过无线电发射识别的军事目标之前获得直接的人类批准
或者，平台的使用仅限于没有平民和民用物体的操作环境

（c）攻击中的预防措施

Loiter的操作系统未编程为考虑攻击中的防范措施。特别是，它无法识别平民和民用物体，因此无法经常注意保护平民、平民和民用物品。此外，使用单一数据源来确定发射特定无线电信号的物体，以确定物体是军用还是民用，可能无法满足“尽一切可能”验证被攻击目标的性质或是否受到特殊保护的要求。为了解决这些不足，审查可能会建议：

平台利用集成到平台中或通过外部联网传感器的辅助数据源，将目标区分为军事目标
平台的使用仅限于没有平民和民用物体的操作环境

（iv）结论

Loiter的使用，在其拟议的正常或预期用途中，存在法律风险，不太可能符合国际人道主义法的区分和比例规则。这些已确定的法律风险可以通过修改平台的使用来解决，以要求对目标决策进行直接的人为控制，以确保遵守区分、比例和预防规则。通过确保平台的使用仅限于缺乏平民和民用物体的作业区域，可以进一步降低风险。

（v）反射

本案例研究与第一个案例研究在许多重要方面有所不同。首先，Loiterer是一个成熟的系统，由一个商业实体开发，并由另一个国家使用。这限制了获取国修改设计或系统编程的能力。然而，它并不免除或排除国家自行进行评估，以独立确定能力的局限性，并确定其是否满足军队的需求。这项研究可能包括比较几种类似的商用武器能力，以便为政府提供几种选择。

其次，此功能的正常使用由制造商预先确定。在这方面，收购国的收购过程将评估这种正常或预期用途是否符合该国的要求。除了该平台是否能够按照国际人道主义法使用的问题外，武器审查还将考虑国家政策要求，包括系统性能的工程和编程标准、人的控制程度、问责制和可接受的目标。

C。案例研究三：无人驾驶武装侦察车

（i）能力

虚构的无人驾驶武装侦查车（UARV）是一种经过改装的武装车辆，设计用于在其武器站上安装常规大口径机枪进行自主远程侦察和监视行动⁸⁷。机枪主要用于防御用途，尽管UARV可能是授权攻击预先指定的目标。

重型机枪于2009年投入使用，在此之前完成了武器审查。机枪在距远程操作武器站4000米的距离发射0.50口径的子弹，最大有效射程的精度为3–5米。

武器审查之前从未考虑过改装的武装车辆，因为它是一种非武装侦察车，不属于审查国对“新型武器”的定义范围，战争的手段或方法。除了将机枪安装到该平台上，修改还包括一个AI操作系统，该系统可以对其任务概要进行编程（例如，在定义的地理范围内进行侦察）。人工智能根据预先编程的战术、技术和程序、环境条件和作战信息（如已知的敌方位置）确定其将如何执行任务。这辆武装车辆配有视频、红外和热摄像机，为其操作系统提供环境数据。该系统可以对数百个物体进行分类，包括所有已知的敌方履带和轮式车辆，并可以识别已知战斗人员的迷彩服。军事指挥官可以监控UARV的位置、图像和行动，并提供额外的指示，包括暂停或限制其行动，（ii）初步问题

初步问题是，重机枪的新使用是否会使武器成为第36条所述的“新武器”，并需要通过进一步的武器审查进一步确定其合法性。本次进一步审查将考虑现有的武器审查，并可能采纳其与武器设计和使用相关的一些调查结果，而武器设计和用途不会因与UARV的使用而改变。更新武器审查的重点将是武器的自主功能和有关其使用的决定。

通过参考审查国定义“武器、作战手段和方法”的武器审查政策来回答UARV本身是否接受武器审查的问题。在这种情况下，武装车辆平台既不设计也不打算用作武器，例如与军事目标发生碰撞。然而，控制机枪操作的UARV操作系统很可能属于战争手段的定义范围，因为其拟议的功能（特别是目标识别）受国际人道主义法管辖，武器审查分析集中于负责操作重机枪的人工智能系统的各个方面，包括其目标识别、瞄准和火控系统。人工智能系统功能的其他方面，例如车辆行驶速度、路线选择和导航，仅在影响武器合法使用的程度上与武器审查相关。例如，如果UARV在高速行驶时不稳定，影响了机枪的精度，武器审查可能会将机枪的使用限制在特定速度。

虽然UARV的预期用途是监视和侦察，但武器审查的重点是重机枪的正常或预期用途。人工智能系统被编程为仅作为防御措施与其他防御行动（包括躲避机动和部署烟幕）结合使用重机枪。机关枪的防御性使用可能不是为了杀死敌方作战人员或摧毁军事目标，而是为了迫使进攻的敌人在地形上进行防御机动，从而提供机关枪火力的保护。防御火力的目的是重新获得战术优势，并使UARV能够安全地从危险中撤出，避免被果断交战，将触发审查国的武器审查义务。审查将较少涉及武器本身，而是侧重于武器系统感知和解释其环境、识别合法目标和根据国际人道主义法打击目标的能力。在只审查更新系统中那些旨在造成伤害（对物体或人）的组件时，审查结果将侧重于这些防御方法是否符合国际人道主义法。如果该系统仅用于自卫，则需要进行不同的法律分析武装冲突之外的人员。与之前的案例研究不同，本次审查的重点是结合人工智能技术使用现有军事能力的方法；如果与否则不会触发国家审查义务的系统相结合。通过这种方式，可以利用对先前评估的依赖。它们将需要根据以前的功能设计为供操作员使用的方式进行更新。他们需要考虑相关人工智能技术在使用中限制这种能力的方法。这项审查还需要考虑使用武力的权力来源，因为一些国家在为自卫目的使用武器方面参考了其他法律框架。

结论

AWS武器审查在评估这些新系统是否符合国家的国际法律义务方面具有明显的效用。识别系统预期使用方式的能力，以及限制AWS可能部署的环境，是此类过程的关键结果。这一点特别重要，因为机器承担了以前由人类操作员承担的功能。

的确，在使用任何机器的背后，都有人负责部署系统，同时可能通过比传统武器审查中假设的更复杂的因果链。但当机器包含更多任务时，必须确认操作员可以依赖这些功能。除其他外，其他考虑因素包括确定使用标准、将武器审查扩大到属于国家战争手段定义范围内的能力、，授权由机器执行的任务，以及与进行相同活动的人相比，机器使用武力的限制。

可以说，武器审查程序仅源自《第一附加议定书》第36条，因此仅适用于该议定书的缔约国，但是，已知有几个非《议定书》缔约国进行武器审查。本文展示了武器审查的必要方式，以使AWS的合法使用符合各国一般国际人道主义法义务该迭代过程可以补充现有的与新技术设计和实施相关的测试和评估、验证和验证过程。它可以为希望精简其治理流程的军队和国家提供协同作用，例如，从法律角度和现有采购流程的目的同时认证AWS。

此外，武器审查的结果可能是关于武器系统自主功能限制的建议，以减轻与问责制或遵守国际人道主义法相关的风险。该输出还提供了一个机会来解决AWS使用中的一个主要问题：系统使用过程中的人为控制程度。通过评估AWS何时可以合法使用，并阐明系统自主功能的使用限制，可以通过政策约束解决AWS缺乏人为控制和责任的问题。

本文的案例研究是虚构的，但它们参考了现有技术。尽管正在设计和部署高度自主的能力，但如果AWS不够成熟，无法满足审查国的国际人道主义法义务，则AWS很可能无法通过审查获得认证或批准。因此，虽然一项能力可能被设计为高度自主，但很可能会受到限制，从而不会因法律审查而授权在高度自主模式下使用。因此，无论是通过自学还是技术的一般进步，在系统开发的地方都需要对AWS进行迭代审查。

在解释武装冲突中合法使用致命武力所需的主观和客观法律测试方面，阐明AWS是否符合法律标准仍然存在挑战，武装冲突本身就是一个复杂、不可预测和拥挤的环境。然而，这种做法也许是确保在未来冲突中合法使用这些系统的唯一途径。分享这些审查的经验教训将加强《特定常规武器公约》的原则；以及各国对这些系统的局限性的理解，以及在使用包含自主性的新技术时更广泛的合规要求。

资助

作者的工作通过国防合作研究中心Trusted Autonomous Systems获得了澳大利亚政府下一代技术基金的资助。

利益冲突

Damian Copeland是澳大利亚国防军的一名法律官员。Rain Liivoja曾担任致命自主武器系统政府专家组政府代表团成员；他目前是澳大利亚外交和贸易部的访问法律研究员。劳伦·桑德斯（Lauren Sanders）是澳大利亚国防军的预备役法律官员；她还就与武器审查有关的问题向国防工业提供建议。

致谢

作者感谢Rosie Cavdarski提供的有益研究帮助。文章中表达的观点和意见是作者的观点和观点，不反映任何政府、任何政府部门或机构或任何其他组织或机构的观点。

脚注

在本文中，AWS是一种无需实时人工干预即可选择和攻击目标的武器系统。这一定义与美国国防部和红十字国际委员会（ICRC）使用的定义一致。见美国国防部指令3000.09：武器系统自主性（2012年11月21日，纳入变更1，2017年5月8日）（将AWS定义为“一旦激活，就可以选择和攻击目标而无需操作员进一步干预的武器系统”）；红十字国际委员会，“红十字国际委员会（ICRC）关于自主武器系统的立场：ICRC立场和背景文件”（2020）102（915）IRRC 1335，1339（“ICRC认为AWS是一种无需人为干预就可对目标选择和施力的武器”）

《禁止或限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》（1980年10月10日通过，1983年12月2日生效）1342 UNTS 137（CCW）

《致命自主武器系统领域新兴技术政府专家组确认的指导原则》，《禁止或限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》缔约国会议最后报告附件三（2019年12月13日）联合国CCW/MSP/2019/9号文件（指导原则）

阿根廷、哥斯达黎加、厄瓜多尔、危地马拉、哈萨克斯坦、尼日利亚、巴拿马、秘鲁、菲律宾、塞拉利昂、巴勒斯坦国和乌拉圭，“呼吁制定一项关于自主武器系统的具有法律约束力的文书的书面评论”（GGE法律，2022年3月）<；https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2022/gge/documents/G12_March2022.pdf>; 阿根廷、哥斯达黎加、危地马拉、哈萨克斯坦、尼日利亚、巴拿马、菲律宾、塞拉利昂、巴勒斯坦国和乌拉圭，“提案：走向自主武器系统新议定书的路线图”（GGE LAWS，2022年3月）<；https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2022/gge/documents/G13_March2022.pdf>.

澳大利亚、加拿大、日本、大韩民国、英国和美国，《致命自主武器系统领域新兴技术的原则和良好实践》（GGE LAWS，2022年3月7日）<；https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2022/gge/documents/USgroup_March2022.pdf>; 另见联合王国，“政府专家小组关于《致命自主武器系统（LAWS）领域新兴技术的国际人道主义法》（GGE LAWS，2022年3月）<；https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2022/gge/documents/UK_March2022.pdf>.

对俄罗斯联邦非法对乌克兰使用武力而实施的制裁为俄罗斯提供了反对2022年3月政府专家组正式会议的借口。俄罗斯声称，这些“歧视性”措施使其代表团无法充分参加政府专家组会议。这一主张被许多其他国家拒绝，认为是错误的。参见2022年LAWS GGE，第一届会议，2022年3月7日至11日，每日成绩单<；https://indico.un.org/event/37347/page/0>, 特别是3月8日和9日的会议记录。2022年7月，俄罗斯反对民间社会代表在政府专家小组报告起草过程中出席非正式会议，导致与一组特定参与者闭门进行了一整天的“磋商”

联合国文件S/2021/229（2021 3月8日）“根据安全理事会第1973（2011）号决议设立的利比亚问题专家小组的最后报告”；H Nasu，“Alpagu自主攻击无人机：战场上人类的未来是什么？”（2021 7月1日）；https://sites.duke.edu/lawfire/2021/07/01/hitoshi-nasu-on-the-alpagu-autonomous-attack-drone-what-the-future-holds-for-the-humanity-in-the-battlefield/>; H Nasu，《Kargu-2自主攻击无人机：法律与实践》；道德维度”（《战争条款》，2021 6月10日）<；https://lieber.westpoint.edu/kargu-2-autonomous-attack-drone-legal-ethical/>; C Conboy，“乌克兰使用的自主武器系统”（《拦截杀手机器人》，2022年3月22日<；www.stopkillerrobots.org/news/乌克兰使用的自动武器系统/>；；H Nasu，“猎人2-S互换攻击无人机：法律和道德层面”（《战争条款》2022年3月31日）<；https://lieber.westpoint.edu/hunter-2-s-swarming-attack-drones-legal-ethical-dimensions/>.

参见Nasu，“Alpagu自主攻击无人机”（n 7），讨论使用自主系统在无人干预的情况下探测和识别目标的局限性

指导原则（n 3）[（e）]

“新协议路线图”（n 4）[24]原则和良好实践”（n 4）[21]-[24]

一般参见红十字国际委员会，“新武器、作战手段和方法的法律审查指南：执行1977年第1号附加议定书第36条的措施”（2006）88（864）IRRC 931（红十字国际委员会指南）

《关于陆战法规和惯例的海牙公约（II）》（1899年9月29日通过，1900年9月4日生效）附件：《陆战法规和习俗条例》第22条；《关于陆战法规和惯例的海牙公约》（IV）（1907年10月18日通过，1910年1月26日生效）附件：《陆战法规和习俗条例》第22条；1907年《关于陆战法规和惯例的海牙条例》第22条；1949年8月12日日内瓦四公约关于保护国际武装冲突受害者的附加议定书（1977年6月8日开放供签署，1978年12月7日生效）

参见API（n 12）第35（2）和（3）条以及第51（4）条；另见红十字委员会《国际人道主义法习惯数据库》中引用的材料，规则45、70和71的惯例<；https://ihl-databases.icrc.org/customary-ihl/eng/docs/v2>.

参见红十字国际委员会、《国际人道主义法习惯数据库》中引用的材料，规则46–69和72–86的实践，<；https://ihl-databases.icrc.org/customary-ihl/eng/docs/v2>.

红十字国际委员会指南（n 11）4.

参见n Jevglevskaja，国际法和武器审查（CUP 2022），了解当前国家实践大纲以及对武器审查义务是否构成习惯国际法一部分的评估《维也纳条约法公约》（1969年5月23日开放签署，1980年1月27日生效）155 UNTS 331第26条；另见红十字委员会指南（n 11）933。

见J McClelland，《根据第一附加议定书第36条审查武器》（2003）85 IRRC 397404；Jevglevskaja（n 16）88–115.

《致命自主武器系统领域新兴技术政府专家组2019年会议报告》（2019年3月25日至29日和2019年8月20日至21日，日内瓦）（2019年9月25日）联合国CCW/GGE.1/2019/3rel=nofollow>20指导原则（n 3）。联合国CCW/GGE.1/2020/WP.7号文件，30（奥地利），35（古巴），41（芬兰），44（法国），48（德国）、50（危地马拉）、52（以色列）、56（日本）、61（荷兰）、64（巴拿马）、68（波兰）、72（葡萄牙）、77（瑞典）、88（瑞士；https://documents.unoda.org/wp-content/uploads/2020/08/20200820-Australia.pdf>; 以色列，“政府专家组通过的十一项指导原则的实施考虑”（GGE LAWS，2020年8月31日）<；https://documents.unoda.org/wp-content/uploads/2020/09/20200831-Israel.pdf>; 美国，《指导原则评论》（GGE LAWS，2020年9月1日）<；https://documents.unoda.org/wp-content/uploads/2020/09/20200901-United-States.pdf>.

例如，参见《人权观察》，《制造案例：杀人机器人的危险和先发制人禁令的必要性》（2016）33<；www.hrw.org/sites/default/files/report_pdf/arms1216_web.pdf>；；N Goussac，“安全网或混乱的网络：人工智能在武器和战争中的法律审查”（人道主义法律和政策，2019年4月18日）<；https://blogs.icrc.org/law-and-policy/2019/04/18/safety-net-tangled-web-legal-reviews-ai-weapons-war-fighting/>. 许多人还强调了审查AWS的挑战。参见，例如，奥地利，“奥地利对主席关于法律领域新兴技术指导原则的请求的贡献”（GGE法律，2020年9月1日）3–4<；https://documents.unoda.org/wp-content/uploads/2020/09/20200901-Austria.pdf>; 瑞士，“关于在国家一级实施指导原则的评论”（GGE LAWS，2020年8月25日）<；https://documents.unoda.org/wp-content/uploads/2020/08/20200825-Switzerland.pdf>.

有关已知进行武器审查的国家（相当短）名单，请参见N Jevglevskaja和R Liivoja，“武器审查”（PREMT：《新兴军事技术监管计划》，2022年3月11日）<；www.premt.net/武器评论/>

Jevglevskaja（n 16）122–62。

>26

WH Parks，《公约武器和武器审查》（2005）8YBIHL55，135.

奥地利（第23名）。

>Jean de Preux，Y Sandoz、C Swinarski和B Zimmerman的《第一号议定书——第36条——新武器》（eds），1949年8月12日日内瓦四公约1977年6月8日附加议定书评注（红十字委员会和Martinus Nijhoff 1987）[1469]。

公园（n 26）135。

<，“新武器的法律审查：义务范围和最佳做法”（人道主义法律和政策，2016年10月6日）<；https://blogs.icrc.org/law-and-policy/2016/10/06/legal-review-new-weapons/>.

《致命自主武器系统领域新兴技术政府专家组2018年会议报告》（2018年10月23日）联合国CCW/GGE.1/2018/3号文件，[44].

法国，“11项指导原则在国家层面的实施”（GGE法律，2020年8月6日）<；https://documents.unoda.org/wp-content/uploads/2020/07/20200610-France.pdf>.

荷兰，《荷兰王国关于国家解释和执行致命自主武器系统领域新兴技术政府专家组确认的指导原则的国家评论》（GGE LAWS，2020）<；https://documents.unoda.org/wp-content/uploads/2020/09/NL-Comments-LAWS-guiding-principles-formatted.pdf>.

日本，“国家一级致命自主武器系统领域新兴技术政府专家组确认的指导原则的实施评论”（GGE法律，2020年8月28日）<；https://documents.unoda.org/wp-content/uploads/2020/09/20200828-Japan.pdf>.

K Klonowska，“第36条：人工智能决策支持系统和其他新兴战争技术的审查”（2020年）23YBIHL123。

同上

奥地利、比利时、巴西、智利、爱尔兰、德国、卢森堡、墨西哥和新西兰，“2020年指导原则A、B、C、D的联合“评论”（GGE法律，2020年9月1日）2–3<；https://documents.unoda.org/wp-content/uploads/2020/09/GGE20200901-Austria-Belgium-Brazil-Chile-Ireland-Germany-Luxembourg-Mexico-and-New-Zealand.pdf>.

澳大利亚，“澳大利亚的自主武器系统控制和应用系统”（2019年3月26日）联合国文件CCW/GGE.1/2019/WP.2/Rev.1，“使用术语“人在回路中”的7个误区”（卡内基人工智能和质量倡议，2021 11月9日）<；www.carnegieie。org/blog/7-myths-of-using-the-term-human-on-the-loop/>；；J Barnett，《人工智能需要人类“在回路上”而不是“在回路中”进行核探测》，通用说》（Fedscop，2020年2月14日）<；www.fedspoop。当涉及到核武器探测时，人工智能应该让人在回路中，而不是在回路中

请参见T McFarland，“自主攻击中的最低人类干预水平”（2022）27JCSL（提前访问）<；https://doi.org/10.1093/jcsl/krac021>.

L Sanders和D Copeland，“制定自主武器系统法律审查方法”（ILA Reporter，2020年11月27日）<；https://ilareporter.org.au/2020/11/developing-an-approach-to-the-legal-review-of-autonomous-weapon-systems-lauren-sanders-and-damian-copeland/>.

de Preux（n 28）[1469]

同上

WH-Boothby，武器与武装冲突法（OUP 2009）62。

J Farrant和C Ford，《自主武器与武器评论：英国第二届国际武器评论论坛》（2017）93Int L螺柱389409；红十字委员会指南（n 11）15；API（n 12）第82条。

参见红十字委员会指南（n 11）

见红十字委员会指南（n 11）936–38；荷兰和瑞士，“武器审查机制”（2017年11月7日），联合国CCW/GGE.1/2017/WP号文件。5，[3（c）]

参见上文第18条和附带文本

参见，例如，丹麦国防部，国际行动中与丹麦武装部队相关的国际法军事手册（2016）379–81。

50>

红十字委员会指南（n 11）938–42；荷兰和瑞士（n 47）[15]；另见“主席总结报告”（n 21）51（以色列）。

《禁止在战争中使用窒息性、毒性或其他气体及细菌作战方法的日内瓦议定书》（1925年6月17日通过，1928年2月8日生效）；《禁止开发、生产、，储存和使用化学武器及销毁此种武器（1993年1月13日通过，1997年4月29日生效）1974 UNTS 45.

见《红十字委员会指南》（n 11）942–45。

《美国石油学会》（n 12）第35（2）条

同上第51（4）（a）条

同上第35（3）条

参见，例如，澳大利亚国防部，“国防部第36条新武器指南审查”（2020年5月）<；www.defence.gov.au/sites/default/files/foi/187_2021_Document。pdf>；；另见SJ White，“武器、作战手段和方法的法律审查”（演示文稿，国防部，2020年）<；https://documents.unoda.org/wp-content/uploads/2020/10/Weapons-reviews-2020-Australia.pdf>; 美国陆军部，第27-53号法规，法律服务：根据国际法审查武器的合法性（2019年9月23日第1版）[1]（目的）

马滕斯条款首次出现在1899年《海牙第二公约》（第12条）的序言中，随后在1907年《海牙公约四》（第十二条）和API（第十二）第1（2）条中得到重申；另见“主席总结报告”（n 21）72（葡萄牙）

例如，澳大利亚政府决定不继续使用贫铀弹药。参见澳大利亚联邦，议会辩论，参议院，2003年10月15日，16585<；https://parlinfo.aph.gov.au/parlInfo/search/display/display.w3p;查询=Id%3A%22chamber%2F2Hansards%2F2003-10-15%2F0195%22>

美国国防部（n 1）2（“自主和半自主武器系统的设计应允许指挥官和操作员对武力的使用进行适当程度的人类判断”）

参见例如《红十字委员会指南》（n 11）中所述的方法

参见Jevglevskaja和Liivoja（n 24）

例如，澳大利亚的武器审查指南没有详细说明此类审查将如何考虑自主技术，只提到了创建“多学科审查委员会”以审查“高度复杂或新颖的武器系统”的选项。澳大利亚国防部（n 56）[8（h）]

de Preux（n 28）[1470]

Boothby（n 44）343。

有关国家武器审查政策和指南的列表，请参阅Jevglevskaja和Liivoja（n 24）

美国国防部（n 1）

本小节借鉴了A Tattersall和D Copeland、R Liivoja和A Väljataga（eds）中的“审查自主网络能力”、《国际法下的自主网络能力》（NATO CCDCOE 2021）240–52。=nofollow>68M Ryan，“交通的未来：2025年自动驾驶汽车的道德、法律、社会和经济影响”（2020）26（3）科学与技术；工程伦理1185。

参见API（n 12）第50（1）和52（3）条

桑德斯和科普兰（n 41）

参见，例如，MN Schmitt，《战争、技术和国际人道主义法》（HPCR临时论文系列第4期，2005年）10<；https://hhi.harvard.edu/files/humanitarianinitiative/files/occasionalpaper4.pdf> .

de Preux（n 28）[1471]。

73澳大利亚国防军，《国防能力手册》（1.1版，2021 12月3日）<；https://defence.gov.au/publications/docs/Defence-Capability-Manual.pdf>.

参见，例如，Athena AI防御目标分类器，正在开发中，<；https://athenadefence.ai/capabilities>.

卷积神经网络是一种深度学习算法，它可以获取输入图像，为图像的各个方面分配重要性，并将一幅图像与另一幅图像区分开来。参见S Saha，“卷积神经网络综合指南：ELI5方法”（走向数据科学，2018年12月16日）<；https://towardsdatascience.com/a-comprehensive-guide-to-convolutional-neural-networks-the-eli5-way-3bd2b1164a53>.

参见，例如，澳大利亚国防部（n 56），将“作战手段”定义为“武器或武器系统”

虽然对武器审查过程对非传统武器的军事能力的影响程度存在不同意见，但本文中的案例研究不会深入评估这一初步问题。关于支持将AITC等能力纳入武器审查过程的详细论证（无论现有国家实践如何），请参见Klonowska（n 35）

WH Boothby，《冲突法：新武器技术的影响》，人权与新兴行动者（TMC Asser Press 2014）168.

Parks（n 26）113.

n Tsagourias和G Biggio，《网络武器的监管》，EPJ Myer和T Marauh n（eds），《国际军备控制法研究手册》（Elgar 2022）440。

另请参见M Kotlik，“审查法律武器审查：是否有可能验证合规性？”（EJIL：对话！，2020年3月19日）<；www.ejiltalk.org/审查法律武器审查是否有可能验证合规性/>

红十字委员会指南（n 11）23。

一般参见E Massingham和A McConnechie（eds），《确保尊重国际人道主义法》（Routledge 2020）

参见《2016年刑法修正案（战争罪）解释备忘录》9，[11]<；https://parlinfo.aph.gov.au/parlInfo/download/legislation/ems/r5736_ems_73251af8-f937-4534-8dd8-ba98099a2399/upload_pdf/496771.pdf;fileType=应用程序%2Fpdf>；：'这些职能的标志可能包括：公开携带武器；指挥有组织的武装团体或其成员；从有组织的武装团体发出或接受命令或按照指示行事；直接参与实现有组织武装团体的军事目标；以及表明加入有组织武装团体的其他活动，包括情报收集、维持通信或提供工程或后勤支持。”

85
参见，例如，波音空中动力团队系统，“忠诚的飞翼”或“幽灵蝙蝠”，<；www.boeing.com/defense/airpower teaming system/>

86
红十字委员会指南（n 11）24。

87
参见，例如；www.rheinmetall-defence.com/en/reinmetall_defence/systems_and_products/unbmannte_fahrzeuge/mission_master/index.php>

参见，例如，各国对武装冲突中自卫使用武力的权利的不同看法，与保护生命威胁的普通法权利相比，这一权利源自战斗人员地位：CG Cooper，《北约交战规则》（Brill Nijhoff 2020）320–88；J Cherry和M Rizzotti，“理解自卫和武装冲突法”（《战争条款》，2021 3月9日）；https://lieber.westpoint.edu/understanding-self-defense-law-armed-冲突/>

参见，例如，“主席总结报告”（n 21）52（以色列）

©牛津大学出版社2022。

这是一篇根据知识共享署名许可条款发布的开放获取文章(https://creativecommons.org/licenses/by/4.0/)，允许在任何媒体中不受限制地重复使用、分发和复制，前提是正确引用了原始作品

简介