1.简介

在著名的《终结者》电影中，阿诺德·施瓦辛格（Arnold Schwarzenegger）扮演的超级机器人追捕并试图杀死一个人类目标。在20世纪80年代，这是纯粹的科幻小说。猎杀目标的杀手机器人现在不仅成为现实，而且被出售并部署在战场上。一些领先的科技公司（如亚马逊、微软和英特尔）正在通过开发杀手机器人使世界面临风险（艾哈迈德，2021亚马逊，微软，“将世界置于致命AI的风险中”：研究 雅加达邮报<2021 11月检索自https://www.thejakartapost.com/news/2019/08/22/amazon-microsoft-putting-world-at-risk-of-killer-ai-study.html[谷歌学者]）。此外，数十个国家也呼吁谈判一项条约，以保持“人类对机器人的控制”，以禁止使用完全自主的武器（Sauer，2016Sauer，F）停止“杀手机器人”：为什么现在是禁止自主武器系统的时候 今天的军备控制，46（8），8–13。https://www.armscontrol.org/taxonomy/term/510[谷歌学者]）

随着武器技术的发展，人类试图制造现代武器，目的是在尽可能短的时间内以更有效和高效的方式摧毁和固定对方国家。这些方法目前被认为是可行的，使用专注于自动且不需要人类角色来履行职责的人工制品的技术。凭借Creveld将武器历史的编年史分为四个阶段，即工具时代、机器时代、系统时代和自动化时代（Van Creveld2010VanCreveld，M） 技术与战争：从公元前2000年到现在Simon和Schuster[谷歌学者]）。自动化时代的这一体现被称为自动武器系统（AWS）

事实上，该系统的使用已广泛应用于生活的各个方面。然而，有趣和值得讨论的是，当这项技术被用作机器人战争中的作战力量时。谢菲尔德大学（University of Sheffield）人工智能、机器人与公众参与教授诺埃尔·E·沙基（Noel E.Sharkey）表示，他关注了50多个国家机器人技术的发展，这些国家目前正在专门为武装冲突开发AWS。他指出，目前，无人机（UAV）的存在已成为现代战争中最通用的军事装备，未来发生的战争很可能会涉及杀手机器人（Jha，2016Jha，U.C.） 杀手机器人：致命的自主武器系统法律、道德和道德挑战[谷歌学者]）

人权观察（HRW）倡导主任玛丽·瓦勒姆（Mary Wareham）认为，自主武器的使用正在成为当今世界对人类最紧迫的威胁之一（Meier，2016Meier，M.W）致命自主武器系统（LAWS）：进行全面武器审查 《圣殿国际与比较法杂志》，30，119。https://heinonline.org/HOL/LandingPage?handle=hein.journals/tclj30&div＝13&；id＝&；page=[谷歌学者]）。她对主要国家未能采取措施解决这一问题表示批评。与此同时，专家们发出警告称，杀人机器人有可能通过不负责任的攻击消灭人类。“停止杀手机器人”运动组织也在推动达成一项全球协议，呼吁所有国家禁止使用杀手机器人。玛丽·沃勒姆（Mary Wareham）遗憾地表示，在日内瓦举行的《特定常规武器公约》（CCW）会议上，关于禁止或限制杀伤机器人协议的谈判没有取得任何进展（Wareham.，2021，米（2021，3月）在杀人机器人上鸣响警报 人权观察<2021 11月检索自https://www.hrw.org/news/2019/11/20/ringing-alarm-killer-robots[谷歌学者]）。作为交换，各国同意在未来两年内制定一个规范性和操作性框架，以解决使用此类武器系统的问题（罗斯特和绍尔，2021如何（不）阻止杀人机器人：人道主义裁军运动战略的比较分析 当代安全政策，42（1），4–29https://doi.org/10.1080/13523260.2020.1771508[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]>）

自“阻止机器人杀手运动”以来，关于杀手机器人的讨论仍然是一个关键的讨论，并可能影响世界武器的动态。讨论杀人机器人问题的论坛是参加《禁止或限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》（1980年《常规武器公约公约》）的国家会议；A、 Sharkey，2019年Sharkey，A。（2019）自主武器系统、杀人机器人和人类尊严 伦理与信息技术，21（2），75–87https://doi.org/10.1007/s10676-018-9494-0[Crosref]、[Web of Science®]、[Google Scholar]）。《特定常规武器公约》于1980年讨论并于1983年生效。《特定常规武装武器公约》已获得125个国家的批准，包括美国、英国、法国、俄罗斯、以色列、中国和韩国（联合国裁军事务厅，2020年6月17日）<《特定常规武器公约》缔约方和签署方——联合国裁军事务厅 联合国<2021 11月检索自https://www.un.org/disarmament/the-convention-on-certain-conventional-weapons/high-contracting-parties-and-signatories-ccw/[谷歌学者]）

然而，该公约并未对自主武器系统进行规范，事实上，AWS不属于现有公约所禁止的武器类别，自主武器也不属于国际人道主义法所定义的禁止武器类别。许多专家指出，许多国家已经开始为这样的武器系统敲响警钟。在2019年11月中旬的《常规武器公约》（CCW）上，联合国秘书长安东尼奥·古特雷斯呼吁签署一项新的国际条约，禁止将杀人机器人用于任何目的。根据他的说法，在没有人为干预的情况下，拥有杀人权力和自由裁量权的机器在政治上是不可接受的，在道德上是应受谴责的（Hickleton，2019，M）动摇的基础：“杀手机器人”和貂皮条款 《珀斯国际法杂志》，4，31–61。https://search.informit.org/doi/abs/10.3316/INFORMIT.157150498218111[谷歌学者]）

许多人认为AWS的存在实际上将是一把双刃剑，由于这项技术所提供的复杂性，它将产生积极的影响。另一方面，它会产生对人类非常有害的负面影响（Chengeta，2016Chengeta、T）。（2016）问责差距：国际法中的自主武器系统和责任模式 丹佛国际法与政策杂志，45，1。https://heinonline.org/HOL/LandingPage?handle=hein.journals/denilp45&div=5&；id＝&；page=[谷歌学者]）。这是因为AWS是一个新问题，到目前为止，它在武装冲突中的开发和使用还没有严格的法规和限制。因此，AWS有可能违反一些规则。

本文旨在调查AWS在战场上的使用规则。它探讨了现有的法律、条约和公约，这些法律、条约、公约在国际人道主义视角下对基于人工智能的武器进行了含蓄的监管。它还分析了现行国际人道主义法的一般原则，然后结合目前发生的事实进行分析。该研究还阐述了国际社会在武器开发和使用方面出现的争议。所研究的事实基于经验和图书馆材料或二级数据，如法律、研究、期刊和科学法律著作的结果。这一方法是通过对与人道主义法有关的条例中所载的法律规范进行评估来实现的，然后将其与在国际武装冲突中使用自主武器系统联系起来。该研究采用描述性分析方法，即基于事实分析研究对象当前状态的方法。此外，已根据适用的法律规定对获得的数据进行了分析。

本研究中收集数据的方法是通过图书馆和实证研究，特别是寻找概念、理论、观点、，以及与具体涉及人道主义法一般原则的主题密切相关的调查结果，而后者将与AWS的使用相关。在分析数据时，使用了定性数据分析方法。这需要对数据进行组织，将其分类为可管理的单元，进行合成和分类，以找到最终可以作为实质性理论采用的主题和工作假设。

3。军事革命（RMA）概念是关于战争未来的军事理论假设，通常与军事技术和组织发展有关（卡尼亚，2021）<中国军事革命中的人工智能战略研究杂志，1–28https://doi.org/10.1080/01402390.2021.1894136[Web of Science®]，[谷歌学者]）。军事革命也被解释为现代战争特征模式的定性方向。当（军事）技术发生变化，再加上组织和运作的变化，从而导致战争管理的变革时，军事变革就产生了。广义地说，军事革命声称，在人类历史的某些时期，出现了新的军事理论、战略、战术和技术，导致了（不可避免的）战争行为的变化。这些变化同时迫使新的理论和战略加速适应（Branch Evans，2001年Branch Evan，S.J）<战争的演变：军事革命将如何产生影响Ron Matthews和John Treddenick（编辑）管理军事革命（第36–55页）Palgrave Macmillan.[Crossref][/span>，[谷歌学者][/span>）。
似乎很难准确、一致地定义军事革命的概念。军事革命本身的一个例子是战争的全面转型，例如飞机和原子弹的开发（和使用）（Lorber，2020Lorber，A）技术驱动的军事革命：一些思考 Vulcan，8（1），5–25https://doi.org/10.1163/22134603-08010001[Crosref][/span>，[谷歌学者][/span>）。另一个例子可以从19世纪末从木制帆船到装甲蒸汽船的转变中找到（Walley，2018Walley，S.M）钢铁在重型装甲中的应用开始Kaufman，B.，Briant，C.（编辑）冶金设计和工业（第71–153页）施普林格https://doi.org/10.1007/978-3-319-93755-7_2[Crosref][/span>，[谷歌学者][/span>）。战争实施方式的变化也受到政治动荡的推动，例如，法国发生了大规模的大规模战争，大大增加了陆战的规模（Schneider，2019Schneider、J）能力/脆弱性悖论和军事革命：对计算、网络和战争爆发的影响战略研究杂志，42（6），841–863https://doi.org/10.1080/01402390.2019.1627209[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]>）。军事革命的本质与军事效能的变化速度无关，而是与以往军事能力相比变化的幅度有关。技术发展是RMA最容易识别的因素（Steff&；Abbasi，2020年Steff，R.，&；Abbasi、K.（2020年）人工智能与军事力量平衡：审讯美中对抗。在R，Steff（编辑）新兴技术和国际安全（第65–82页）Routledge[Crossref][/span>，[Google Scholar][/span>），但仅凭技术发展不足以解释军事相对效能的变化。只有当新的运营理念与技术变革相联系时，闪电战才能发生变化。这两件事经常影响军事组织，反映在新的条件下

历史建议全面实现军事革命的三个先决条件，即技术发展、军事行动发展和组织适应（Fitzsimonds&；Van Tol，1994年Fitzsimons，J.R.军事革命国防部长办公室[Crosref]，[Google Scholar]）。工业革命已经成为技术发展的一个增长点，尤其是在军事领域。军事革命背景下的技术发展突出了国家间武器技术和信息技术的演变。例如，内燃机武器的发展使自走式车辆得以存在。当然，这些发现必须适应实际的军事系统。例如，在坦克作为军事技术的开发和整合过程中，坦克实际上早在军事行动中使用或在1917年坎布雷引入之前就被发现了（哈蒙德，2008哈蒙德，B）康布雷1917：第一次伟大的坦克大战的神话Hachette UK[谷歌学者]）。军事技术的发展已经达到了能够确定和执行自己目标的技术能力（致命自主武器系统），这也将影响战争，例如，无人机（UAV），和生物技术（Krishnan，2016Krishnan，A。（2016）杀手机器人：自主武器的合法性和伦理性Routledge[Crosref]，[Google Scholar]）

为了充分利用新技术系统的潜力，必须将包含和整合新技术的作战概念发展为连贯的理论。军事组织还应练习以交互方式使用和增强它们。坦克投入战斗后，经过数十年的试验和理论发展，才制造出闪电战。闪电战的成功不仅需要坦克技术和连贯的装甲作战理论，还需要在新的联合兵种行动中体现出实质性的组织甚至文化变革，如德国装甲师（Macksey，2018Macksey），K。（2018）装甲将军：海因茨·古德里安和第二次世界大战的闪电战胜利Skyhorse[谷歌学者]）。这三个先决条件的协同效应导致了军事革命。事实上，对教义和组织要素重要性的日益认识导致了“军事革命”一词。这是军事技术革命的结果，这意味着技术是革命的主要因素
4.自主武器系统的争议

世界正进入一个新的战争时代，人工智能（AI）占据了中心舞台。人工智能使军队更快、更聪明、更高效（Goldfarb&；Lindsay，2020年Goldfarb，A.，&；林赛，J。（2020年）战争中的人工智能：人类判断是一种组织力量和战略责任[谷歌学者]）。然而，如果放任不管，那么这种潜力将威胁世界和平。在美国国家安全委员会人工智能委员会发布的一份报告中，它揭示了一种“新的作战模式”，将“算法与算法”对立起来，并敦促大量投资继续创新以对抗潜在对手（Schmidt等人，2021Schmitt，E.，Work，B.，Chien，S. 国家安全委员会人工智能（AI）国家安全委员会人工智能[谷歌学者]）。在最新的五年发展计划中，中国还推动人工智能，以改善研发部门。中国共产党领导下的人民解放军也在为他们所称的“智慧战争”的未来状态做准备（卢，2021）ccp人工智能的发展：对未来运营的影响 社会和政治科学杂志，4（1）。https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3783219[谷歌学者]）。正如俄罗斯总统弗拉基米尔·普京（Vladimir Putin）在2017年早些时候所说，“无论谁成为这一领域的领导者，都将成为世界的统治者”（Haner&；Garcia，2019Haner，J.，Garcia，D）人工智能军备竞赛：自主武器开发的趋势和世界领导者 全球政策，10（3），331–337https://doi.org/10.1111/1758-5899.12713[Crosref]、[Web of Science®]、[Google Scholar]）

2020年底，高加索地区紧张局势恶化，并导致战争。阿塞拜疆和亚美尼亚争夺有争议的纳戈尔诺-卡拉巴赫地区（塞梅西奥·塞梅西奥卢，2021）2020年纳戈尔诺-卡拉巴克冲突背景下南高加索地区的新力量平衡 R&；《安纳托利亚S-Research研究杂志》，4（1），49–60https://doi.org/10.33723/rs.842487[谷歌学者]）。然而，对于那些关注的人来说，这是战争的转折点。欧洲外交关系委员会（European Council on Foreign Relations）无人机作战专家乌尔里克·弗兰克（Ulrike Franke）表示，纳戈尔诺-卡拉巴赫冲突的一个非常重要的方面是使用了被称为“神风无人机”（kamikaze drones）的漫游弹药，这是一个相当自治的系统（2021，莫德巴兹，2021亚美尼亚人和阿塞拜疆人之间的冲突升级以及和平解决纳戈尔诺-卡拉巴赫战争的问题 《自由与国际事务杂志》，6（3），102–110https://doi.org/10.47305/JLIA2163102m[谷歌学者]//span>）。先进的漫游弹药模型能够具有高度的自主系统。一旦发射，它们就会飞到指定的目标区域，在那里漫游，扫描目标——通常是防空系统。一旦发现目标，他们就会飞向目标，用炸药摧毁目标。正是因为这个原因，这款机型赢得了“神风无人机”的绰号

据预测，基于人工智能的技术，例如作为一个单元一起运行的集群无人机，将用于军事目的（Johnson，2020Johnson，J）未来战争中的人工智能、无人机集群和升级风险 RUSI期刊，165（2），26–36https://doi.org/10.1080/03071847.2020.1752026[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]>）。华盛顿新美国安全中心的Martijn Rasser认为，这种无人机可以摧毁防空系统。无人机群的规模和速度打开了一场军事冲突的前景，这场冲突非常复杂，人类无法跟上，并进一步引发了军备竞赛的动态（Vincent，2018年4月文森特，J.（2018年，4月24） 战争的未来将由机器来控制，但人类仍将主宰吗 顶点<2021 11月检索自https://www.theverge.com/2018/4/24/17274372/ai-warfare-autonomous-weapons-paul-scharre-interview-army-of-none[谷歌学者]）

一些军事专家认为，自主武器系统不仅在战场上提供了显著的战略和战术优势，而且在道义上也优于人类战斗人员的使用。另一方面，批评者认为，出于各种道德和法律原因，这些武器应该受到限制，如果不是完全禁止的话。那些主张继续发展和部署自主武器系统的人通常指出了一些军事利益。首先，自主武器系统是一种力量倍增器。也就是说，给定任务需要更少的作战人员，每个作战人员都更有效。在这之后，支持者们认为自主武器系统可以扩大战场，让战斗到达以前无法到达的地区。最后，通过将人类作战人员排除在危险任务之外，自主武器系统可以减少伤亡

国防部发布的《无人系统路线图：2007-2032》为开发自主武器系统提供了额外的理由。例如，机器人比人类更适合执行“满、脏或危险”任务。肮脏的任务是让人类接触到潜在危险的放射性物质。爆炸物处理是危险任务的一个例子。根据Thurnher（2012Thurnher，J.（2012）无人控制：完全自主瞄准的法律影响 《联合部队季刊》，77。https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2296346），“[致命的自主机器人]具有独特的潜力，能够以人类无法达到的速度进行操作，即使在通信链路断开的情况下也能进行致命打击。”，通过部署一支军用机器人军队可以实现长期节约，这一点已经得到了强调。Francis（2013Francis，D。（2013）新的机器人大军如何削减国防预算 财政时间，2。https://www.thefiscaltimes.com/Articles/2013/04/02/How-a-New-Army-of-Robots-Can-Cut-the-Defense-Budget）在《财政时报》2013年发表的一篇文章中引用了国防部的数据，该数据显示“阿富汗每名士兵每年为五角大楼花费大约85万美元”。一些人估计，每年的费用甚至更高。另一方面，弗朗西斯声称，“TALON机器人——一种可以装备武器的小型漫游车——售价23万美元。”据《防务新闻》报道，美国陆军训练局前指挥官罗伯特·科恩上将在2014年陆军航空研讨会上，陆军提出，通过更多地依靠“支持机器人”，陆军最终可以在不牺牲效能的情况下将一个旅的规模从4000名士兵减少到3000名士兵（Ackerman，2014年Ackerman（2014）<美国军队考虑用机器人取代数千名士兵 IEEE频谱，22。https://spectrum.ieee.org/army-considers-replacing-thousands-of-soldiers-with-robots[谷歌学者]）

空军少校Jason S.DeSon在《空军法律评论》中讨论了自动驾驶空中武器系统的潜在好处。根据DeSon（2015DeSon，J.S.（2015）自动化正确的东西，确保自动空中武器系统符合国际人道主义法的潜在后果 《空军法律评论》，72，85。https://heinonline.org/HOL/LandingPage?handle=hein.journals/airfor72&div=5&；id＝&；page=[谷歌学者]）、高G机动的身体压力以及战斗机飞行员所需的高度精神集中和态势感知，使他们容易疲劳和疲惫；另一方面，机器人飞行员将摆脱这些生理和心理约束。此外，完全自主的飞机可以被编程为执行真正的随机和不可预测的动作，从而潜在地迷惑对手。更令人吃惊的是，空军上尉迈克尔·拜恩斯（Michael Byrnes）预测，一架具有机器控制机动和精确性的无人机可能会摧毁整个机队，其中可能包括人类飞行员，“拥有数百发弹药和充足的燃料储备”（Byrnes，2014年Byrnes（M.W）夜幕降临：空对空作战中的机器自主 空气&；《太空动力杂志》，23（3）。https://apps.dtic.mil/sti/citations/ADA602090此外，一些军事专家和机器人专家还认为，自主武器系统不仅在道德上可以接受，而且在道德上也比人类战士更可取。例如，机器人专家罗纳德·C·阿尔金（Ronald C.Arkin）认为，未来，自主机器人将能够在战场上表现得更“人性化”，原因多种多样，包括它们不需要用自我保护的本能进行编程，这可能会消除“先射击，后提问”的心理需求。自主武器系统的判断不会受到恐惧或歇斯底里等情绪的影响，该系统将能够处理比人类多得多的传入感官信息，而不会丢弃或扭曲这些信息，以适应先入为主的观念。最后，Arkin认为，在人类和机器人士兵的团队中，机器人可以被依赖于报告他们观察到的道德违规行为，而不是一个可能接近的人类团队（Arkin，2010年Arkin，R.C.）无人系统中道德自主的案例 《军事伦理杂志》，9（4），332–341https://doi.org/10.1080/15027570.2010.536402[Taylor&；Francis Online]，[谷歌学者]

根据美国陆军中校道格拉斯·A·普莱尔（Douglas A.Pryer）的说法，将人类从高压力作战区转移到机器人可能会带来道德上的好处。他引用神经科学的研究表明，当负责有意识的自我控制的神经回路因压力而过载时，它们可能会关闭，导致性攻击和其他犯罪，否则士兵不太可能犯下这些罪行。另一方面，普莱尔忽略了与机器人开战是否合乎道德的问题。相反，他声称机器人战争具有严重的战略劣势，助长了持久战的循环，因为它在美国最需要支持的人群中激起了道德愤怒（Pryer&；Col，2013年Pryer，D.A.，Col，L.（2013年）机器的崛起：为什么越来越“完美”的武器有助于我们的战争持久化并危及我们的国家 军事评论，93（2），14–24。https://www.armyupress.army.mil/Portals/7/military-review/Archives/English/MilitaryReview_20130430_art005.pdf[谷歌学者]）

虽然一些道德论点被用来支持自主武器系统，但其他人则被用来反对它们。其他人则认为，反对自主武器系统的道德论点是有缺陷的。在2015年7月的一次国际人工智能联合会议上，发布了一封呼吁禁止自主武器的公开信。信中警告说：“人工智能（AI）技术已经发展到这样一个地步，即在几年内，甚至几十年内，部署此类系统在法律上都是可行的，而且风险很大：自主武器被描述为继火药和核武器之后的第三次战争革命。“信中还提到，人工智能有可能造福人类，但如果发生军事人工智能军备竞赛，人工智能的声誉可能会受到损害，公众的反弹可能会限制未来的利益。埃隆·马斯克（特斯拉的发明家和创始人）、史蒂夫·沃兹尼亚克（苹果公司的联合创始人）、物理学家斯蒂芬·霍金（剑桥大学）和诺姆·乔姆斯基（麻省理工学院）等已经在信上签字。这封信还得到了3000多名人工智能和机器人研究人员的签名（Hawking等人，2015年霍金、S.、马斯克、E.，以及Wozniak，S）自主武器：来自AI&；机器人研究人员。生命未来研究所[谷歌学者]）。公开信只是要求“禁止人类无法控制的进攻性自主武器”。通常很难确定武器是进攻性还是防御性。因此，尽管许多人认为有效的导弹防御系统是严格防御性的，但如果它允许一个国家对另一个国家发动核打击而不担心报复，则会极为破坏稳定

此外，来自37个国家的工程师、人工智能和机器人专家以及其他科学家和研究人员于2013年发布了“科学家呼吁禁止自主致命机器人”。该声明提到，缺乏科学证据表明，机器人在未来将具备“准确识别目标、态势感知或按比例使用武力决策所需的功能”。因此，它们可能会造成严重的附带损害。声明最后强调，“不得将使用暴力的决定委托给机器。”
事实上，反对自主武器系统的人经常对将生死决定委托给非人类代理人表示担忧。这种担忧最明显的表现是系统选择自己目标的能力。因此，N.Sharkey（2016Sharkey，N。（2016）说“不！”到致命的自主靶向 军事伦理与新兴技术，144–158https://doi.org/10.1080/15027570.2010.537903[谷歌学者]//span>），一位备受尊敬的计算机科学家，呼吁禁止“致命自主瞄准”，因为这违反了区分原则，被视为武装冲突中最重要的规则之一，这对人类来说也是困难的。允许人工智能做出针对性决策几乎肯定会导致平民伤亡和不可接受的附带损害

另一个令人担忧的主要问题是使用自主武器系统时的问责问题。伦理学家罗伯特·斯派罗（Robert Sparrow）强调了这一伦理问题，他指出，国际人道主义法的一项基本要求，即“战时法”，要求某人对平民死亡负责。任何武器或其他战争手段都不符合战时法的要求，不应用于战争。这个问题的出现是因为配备人工智能的机器自己做出决定，这使得很难确定一个有缺陷的决定是程序缺陷还是配备人工智能（所谓的智能）机器自主思考的结果。当一辆无人驾驶汽车在高速公路上超速行驶时，这个问题的本质就凸显出来了，而且不清楚该向谁开罚单（Sparrow，2007年麻雀，R。（2007）杀手机器人 应用哲学杂志，24（1），62–77https://doi.org/10.1111/j.1468-5930.2007.00346.x[Crosref][/span>，[谷歌学者][/span>）。当一个人决定对目标使用武力时，从“扣动扳机”的人到下达命令的指挥官都有一个明确的责任链。在自主武器系统的情况下没有这种明确性。目前还不清楚谁或什么应该受到谴责或承担责任。

5。根据人道主义法，基于人工智能的武器的指挥责任和使用

美国国防部将“自主武器系统”定义为“一种一旦激活，就可以选择和攻击目标而无需操作员进一步交互的武器系统”，其被设计为允许人类操作员超越武器系统的功能，但在激活后无需额外的人类输入即可选择和攻击目标。根据日内瓦四公约第一附加议定书第36条，每个成员国必须对武器进行评估，以确保这些武器的形式和效果符合国际法。在国际法领域，致命武器的合法性必须能够满足区分原则即“贝鲁姆正义”和比例准则即“贝罗正义”的标准。区分原则规定，武器、技术和作战方法必须能够区分合法目标（战斗人员、被俘虏的平民和军事目标）和非合法目标（民间社会、非战斗人员、平民目标、人类和其他受保护的目标）。杀手机器人将无法明确区分战斗人员和非战斗人员，甚至根本无法区分（Lauwaert，2021）人工智能和责任 AI&；社会，1–9https://doi.org/10.1007/s00146-020-01119-3[谷歌学者]）。这两种状态之间的对比是国际人道主义法中所有规定的基础。除了区分原则外，杀手机器人检测比例武器使用的能力也受到质疑（Tumay，个人通信，2021 10月29日）。根据国际人道主义法，针对平民的袭击基本上是合法的，只要袭击是成比例的。然而，杀人机器人确定对人的攻击比例的能力仍然是国际社会的主要关切，特别是因为在武装冲突中开发和使用杀人机器人没有明确的规范和限制，因此有必要对AWS的使用是否违反国际人道主义法的规定进行进一步的法律审查，特别是在战争手段和方法方面，以及其使用是否符合这些规定（Wilia&；Christianti，2019Wilia，A.，Christianti、D.W）在武装冲突中使用自主武器系统：未来武器管制的合法性和挑战 Padjadjaran国际法杂志，3（2），276–293https://doi.org/10.23920/pjil.v3i2.322[Crosref][/span>，[谷歌学者][/span>）。国际法中有两种责任形式，即国家责任和个人责任。如《国家对国际不法行为的责任》第1条所述，如果一国的行为违反了国际法规定的义务，就会产生国家责任：“一国的每一项国际不法行为都引起该国的国际责任。”，《国家对国际不法行为的责任》第8条规定：“一个人或一群人的行为应被视为国际法下的国家行为，如果该人或一群人事实上是按照以下人员的指示或在其指示或控制下行事的：在执行行为时陈述。”第4条中有一条更窄、更具体的规定，该条规定，可归类为国家行为的行为之一是国家机关以官方身份的行为，该行为基于有权代表国家行事的国家法律。例如，一个国家的武装力量。根据这些规定，如果一个国家部署其武装部队使用AWS进行攻击，并且存在错误和违反国际人道主义法的行为，该国可以在国际上承担责任

为了使一个国家根据国际法承担责任，必须发生已经实现或可归因于该国的行为，必须存在该行为造成的损害，该行为与损害之间必须存在因果关系留置权，并且必须没有任何理由使该行为合法。因此，当满足这些条件时，国家对不法行为承担责任。尽管国家拥有自治权，但客观上对使用这些系统造成的不法行为负责；然而，这一责任的范围应根据战争理论的两个不同维度分别进行审查：战时法和战时法

战争法原则确立了确定战争在特定情况下是否正当的标准。它只是指战争之前的一段时间。在战争时期使用自主武器系统并不意味着使用武力本身就是一种不法行为。无论使用何种武器，为了使使用武力合法化，必须满足联合国安理会的意见、目标国的有效同意或自卫条件 另一方面，Justin bello只是试图证明在战争中使用武力是正当的。民事豁免、相称性和区分是最基本的问题。在战时法时期，适用国际人道主义法规则

国际人道主义法设想了关于武器性质和制造的若干条例，这些条例确定了确保根据人道主义法正确使用武器所需的资格。根据1949年日内瓦四公约附加议定书第36条，有关国家应在制造阶段调查武器是否符合人道主义法和其他国际法的规定。这项规定使国家承担义务。同样，为了使武器被视为“合法”，它必须能够区分战斗人员和平民。国际法院在其核武器咨询意见中指出，这一区别是人道主义法的基本原则之一。上述《公约附加议定书》第51条第4款（b）项和（c）项禁止使用无法作出这种区分的武器。同一条款中禁止使用任何武器，如果武器不能指向特定目标，并且无法控制其造成的损害。自主武器系统能够区分交战方和平民，这一事实令人担忧。事实上，近年来无人机袭击导致数十名平民死亡，证明了这些担忧的有效性
因此，很明显，自主武器系统在战时法和战时法中都对使用武力的不法行为负有责任。然而，使用武器是否普遍非法是一个问题，只有在国家实践中根据上述标准进行评估才能揭示

至于个人责任，有几个方面可以被视为对滥用AWS负有个人责任，包括战斗人员；军事指挥官；程序员；以及AWS设计师。本文件中对个人责任的讨论仅限于国际人道主义法中的个人责任，因此，要讨论的各方是战斗人员和军事指挥官。在国际人道主义法中，个人责任包括证明心理因素或犯罪意图和身体因素（Clark，2001年）危害人类罪和国际刑事法院罗马规约.在Feldbrugge（Eds.）俄罗斯和东欧的国际法和国内法（第139–156页）Brill Nijhoffhttps://doi.org/10.1163/9789004480766_007[谷歌学者]）。关于精神要素的规定载于《国际刑事法院罗马规约》第三十条刑事法院（以下简称1998年《罗马规约》）规定，精神要素包括意图和知识。意图是指个人意图从事违法行为、造成违法后果或意识到违法行为将发生。另一方面，知识是个人对违反行为的了解或知道其后果将发生。根据1988年《罗马规约》第25条第（3）款，就物质要件而言，个人犯罪行为必须符合所犯罪行的犯罪要件。如果一个人被证明满足了犯罪的精神和身体要件，那么此人必须单独负责

作为武装冲突当事方的战斗人员必须遵守国际人道主义法的规定，包括禁止或限制使用战争手段和方法的规定。这符合《国际刑事法院罗马规约》第28条的规定。如果作战人员意识到AWS的操作将违反国际人道主义法的规定，作战人员可能会因AWS的使用而承担责任。此外，如果AWS的操作违反了国际人道主义法的规定（Sehrawat，2020Sehrawat，V），军事指挥官也可以单独承担责任自主武器系统和指挥责任 佛罗里达国际法杂志，31（3）。https://scholarship.law.ufl.edu/fjil/vol31/iss3/2[谷歌学者]）。这是因为军事指挥官是决定AWS是否在武装冲突中启动的一方。此外，军事指挥官也可以对其下属的错误负责，因为军事指挥官有义务控制其下属的行为。如果军事指挥官知道他的下属会犯错误，但没有采取必要的行动来防止错误，则该规定适用

《1977年日内瓦公约》第一附加议定书中的指挥责任概念在《第一议定书》第86条第（2）款中有规定，该款基本上规定，如果下属犯下违反行为，它不会立即解除上级/指挥官的惩罚（Dahl，2021）多国作战中的指挥责任《以色列人权年鉴》，51（2021），23–46。Brill Nijhoffhttps://doi.org/10.1163/9789004504783_003[谷歌学者]）。这背后的原因是，如果下属犯了违法行为，那么该下属的命令很可能已经知道或至少有信息表明其下属有可能犯下违法行为，并且该命令应该阻止或制止该违法行为

当提及AP I第86条第（2）款的规定时，确定基本上“下级犯下违反公约或本议定书的行为，并不免除其上级的刑事或纪律处分（视情况而定），前提是他们知道或掌握的信息本应使他们能够在当时的情况下断定他正在犯下或将要犯下这种违约行为，并且他们没有采取其职权范围内的所有可行措施防止或抑制违约”（McCarthy，2017麦卡锡，A.H。（2017）国际人道主义法下作为指挥责任基础的法治遭到侵蚀 《芝加哥国际法杂志》，18，553。https://heinonline.org/HOL/LandingPage?handle=hein.journals/cjil18&div=20&；id＝&；page=[谷歌学者]）。关于本条未涵盖的上级和下级之间的关系，《罗马规约》第28条第（b）款对此作了进一步阐述。根据《1977年日内瓦公约》第86条第（2）款、《罗马规约》第28（a）条和《罗马规约第28（b）条的规定，可以总结出，指挥官责任的要素如下：
指挥官与其被怀疑或合理怀疑犯下相关罪行的下属之间必须存在关系。短语关系指的是这意味着指挥官和下属在军事环境中有一项共同的任务，在这种环境中，指挥官与上级指挥官的关系是垂直的，而其下属则是下级指挥官有疑问指挥官对下属的有效监督是指下属犯罪时，指挥官实际上具有采取预防措施的物质能力，以使下属不会犯罪或采取其他预防措施，从而指挥官实际上能够向授权方报告问题。
指挥官知道或被认为知道其下属将要犯罪或已经犯罪。根据国际刑事法院（ICC）关于“指挥官知道或被认为知道”这一短语的规定，未来这一短语不仅将被包括在内，而且必须能够在审判中得到证明，甚至将问题/犯罪提交给有权进行进一步调查的官员。指挥官将被认为忽视了对下属的控制，从而导致犯罪发生。
为了确定突击队可以在多大程度上负责AWS的运作，上述要素将与人权观察组织（HRW）编制的自主武器系统分类相联系。根据HRW的分类基于自治水平。这种分类的目的是对各种形式的自主武器系统进行分类。分类如下（Scipione，2021） 致命的自主武器系统：AI在军事环境中存在的具体例子CSI审查.[谷歌学者]）：
第一类是“环中人武器”，它被定义为一种武器，当激活时，它可以选择特定目标或目标群体，并仅通过人类命令传输能量。这些武器可归为半自主武器系统。
第二类“环上人武器”是一种可以自由选择和攻击特定目标的武器系统。没有人必须决定是否会涉及特定目标，但有人可以在需要时介入阻止行动。
第三类，“人类脱离回路武器”，被定义为一种无需人工输入或交互就能选择目标并传递力量的武器系统。该武器系统的编程方式是自动选择单个目标，并在预先编程的选定区域内对其进行一定时间的攻击。
，应用指挥责任的要素需要与人权观察组织（HRW）编制的自主武器系统分类相联系。基于这两个基础，可以得出结论，指挥责任的限制只适用于被归类为“人在环武器”和“人在圈武器”的武器。“循环武器中的人类”类别可以选择单个目标或特定目标组，并仅通过人类命令发送能量。同样，在“人-环武器”的情况下，武器可以自由选择和攻击某些目标，但在操作过程中，如果需要，有人可以干预以停止操作。关于这两类武器，如果使用这些武器导致战争罪，指挥官仍可被追究责任。例如，无人机仍然由遥控器控制，遥控器由军事部队控制，该部队根据指挥官的命令移动。因此，如果指挥官下属的士兵使用无人机犯下战争罪，在这种情况下，可以适用指挥责任原则。尽管如此，指挥责任原则是否适用于属于“人外武器”类别的AWS武器仍存在争议。这是因为该武器系统可以在无需人工输入或交互的情况下选择目标并发送兵力（Boyles，2021。M。（2021）休谟定律是自主武器系统的另一个哲学问题 军事伦理杂志，20（2），113–128https://doi.org/10.1080/15027570.2021.1987643[Taylor&；Francis Online]，[谷歌学者]

6。根据国际人道主义法对自主武器进行法律审查

国际人道主义法律提供了若干法律文书，其中提到需要审查新的武器技术，以便以后能够知道新武器是否符合国际人道主义法学关于战争手段和方法限制的一般规定（Seharwat，2020年）LOAC和国际法规定的无人机合法性 无人机与法律Emerald Publishing Limited[Crosref]，[Google Scholar]）。第一份规定审查新武器合法性重要性的国际文书是《圣奥古斯丁宣言》。1868年彼得堡，其规定如下：

“缔约方或加入方保留在以后就科学可能影响部队装备的未来改进拟定精确建议时达成谅解，以维持其确立的原则，并使战争的必要性与人类法律相协调。”

在这方面，1977年第一附加议定书第36条也有类似规定，第36条规定：“在研究、开发、获取或采用新武器、作战手段或方法时，缔约方有义务确定其使用是否在某些或所有情况下受到本议定书或适用于缔约方的任何其他国际法规则的禁止”。“

本条规定要求缔约国在武器开发和部署的各个阶段对新武器、作战手段和方法进行法律审查，以确保武器的使用符合1977年第一附加议定书的规定或其他适用的国际法规则。AWS是一种新型武器，可根据1977年《第一附加议定书》第36条进行法律审查。这是因为，该条中的新型武器、手段和作战方法的范围非常广泛，可以涵盖所有类型的武器，包括杀伤人员武器或杀伤材料、致命或非致命武器以及武器系统

关于对新武器进行法律审查的程序，《第一附加议定书》第36条没有进一步规定这一事项。然而，在实践中，可以根据对该国具有约束力的国际条约、习惯国际法或其他相关规则，例如国际人道主义法关于战争手段和方法的一般规定，通过评估武器的设计、特点以及如何使用这些武器来进行法律审查。以及禁止或限制使用某些战争手段和方法的国际人道主义法特别规则。然而，如果没有与所审查武器相关的条约或习惯国际法，则可以保留马尔滕斯条款，其中包括人道主义原则和公众良知（休闲，2021休闲，2021P）martens条款、全球流行病和武装冲突法 《哈佛国际法杂志》，62，469。https://heinonline.org/HOL/LandingPage?handle=hein.journals/hilj62&div＝25&；id＝&；page=[谷歌学者]）。此外，国际人道主义法关于武装冲突中战争手段和方法的一般原则以相称性、区别性、军事必要性和限制性原则为基础

《第一附加议定书》第51条第（5）款规定的比例原则禁止在预计平民伤亡或损失超过或与预期军事收益不成比例的情况下对军事目标进行任何形式的攻击。为了实现这一点原则上，有一个预防原则，要求军事指挥官在发动和计划攻击时采取一切必要的预防措施（Marchant，2020Marchant、E.J）昆都士知识不足：预防原则和国际人道主义法 《冲突与安全法杂志》，25（1），53–79https://doi.org/10.1093/jcsl/krz033[Crosref]、[Web of Science®]、[Google Scholar]）。这是为了避免和尽量减少平民生命损失和民用物体损坏。美国空军坚持认为，在确定攻击的比例时，这种决定是一种固有的主观决定，并根据具体情况加以解决。在这方面，红十字委员会的评论指出，关于攻击比例的决定是基于军事指挥官的常识和诚意（Szpak，2020年SzpakA）战争中使用新技术的合法性和挑战——在当代或未来战争中使用自主武器 欧洲评论，28（1），118–131https://doi.org/10.1017/S1062798719000310[Crosref]、[Web of Science®]、[Google Scholar]）。此外，基于其特点，AWS在确定攻击中的相称性方面没有人类的能力，此外，AWS很难仍然遵守相称性原则，以及管理与预先编程的武器作战系统不同的大量数据和意外情况。这是因为，在开发阶段形成的武器操作系统不包括对可实施或不可实施攻击的限制的规定，也不包括被认为与实施攻击成比例的标准以及民用和军用物体（冬季，2020年冬季，E）自主武器与武装冲突法中区分原则的兼容性 国际&；《比较法季刊》，69（4），845–876https://doi.org/10.1017/S0020589320000378[Crosref]、[Web of Science®]、[Google Scholar]）。第一附加议定书第52条确立了普遍接受的军事目标定义，根据定义，该定义适用于国际和非国际武装冲突。合法的攻击对象是指根据其性质、位置、目的或用途，有效地有助于敌方行动，并且其中立、摧毁或捕获将提供军事优势的对象。必须指出的是，即使有军事目标可以成为法律目标，也必须遵守相称性和预防性的核心规则。这项原则禁止使用无法区分合法军事目标与否的武器。实现区分原则所需的分析类型是一种非常复杂且高度关联的分析。在这方面，本杰明·赫里斯南（Benjamin Khrisnan）认为，“区分无害的平民和武装叛乱者可能超出机器感知可能做到的任何事情”（Ghasemi，2014年，a.H.）国际人道主义法中的半自主武器系统：国际人道主义法律中与半自主武器体系相关的新决策和责任问题研究（隆德大学法学院博士学位论文）.[谷歌学者]>）。AWS不具备人类所具备的资格来识别士兵是否在复杂且高度情境的情况下失去战斗能力，评估和理解个人的情绪状态，以及评估所谓无害的情况。武装部队人员可以对整个环境进行全面评估，而AWS在其运作中仅取决于其编程的某些愿景或方面。在武器作战系统方面没有明确规定或描述平民人口和战斗力必须如何行动或行为才能区别于合法的军事目标。
军事必要性原则使冲突各方有理由使用一切必要的暴力手段来实现或获得明确的军事优势，即削弱或击败敌军。在其实施过程中，军事必要性原则将受到其他必须遵守的其他原则的限制，即比例原则和限制原则（Cotter，2018Cotter，M）前南问题国际法庭的军事必要性、相称性和双重用途目标：仔细阅读Prlić等人关于摧毁莫斯塔尔旧桥的诉讼 冲突与安全法杂志，23（2），283–305https://doi.org/10.1093/jcsl/kry015[Crosref]、[Web of Science®]、[Google Scholar]）。基于这一原则，AWS必须首先确定军事目标，然后评估打击军事目标是否能产生明确的军事优势。如果AWS无法确定目标是否为合法的军事目标（如平民、国家遗产、医疗设施和民用物体），那么AWS就不能决定打击军事目标是否会立即获得明确的军事优势。
限制原则规定了冲突各方选择和使用战争手段伤害对手的权利。《国际人道主义法》中的规定禁止或限制使用因其性质和特点造成过度伤害和不必要痛苦、非歧视性、造成过度平民损失和伤亡以及长期环境破坏的武器，并且是欺诈或背信弃义的（Law等人，2019Law，H.，Akande，D.//span>，&；Gillard，E.C.（2019）冲突导致的粮食不安全和以饥饿平民作为战争手段的战争罪。《国际刑事司法杂志》，17，753–779https://doi.org/10.1093/jicj/mqz050.[Crosref]，[Web of Science®]，[Google Scholar]>）。在这种情况下，如果AWS继续被用作战争手段，这将违反限制原则。这是因为AWS的性质和特征无法满足比例原则和区分原则的规定。
在以下讨论中，AWS的法律审查将基于一项国际协议，该协议被认为最接近AWS的特征，即《禁止或限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》（以下称为《1980年常规武器公约》；Anderson&Waxman，2017Anderson，K.，&；WaxmanM.C.（2017） 辩论自主武器系统、其伦理和国际法规定牛津大学出版社.[谷歌学者]）。参与国普遍同意，在使用武器系统时，必须保持有效的人的控制或适当的人的判断水平，以满足法律和道德要求。当然，AWS的特点很难实现这一点，因为人类的参与仅限于开发和启动阶段，而AWS操作阶段不需要人类干预（Altmann&；Sauer，2017Altmann，J.，Sauer，F.（2018）自主武器系统和战略稳定性生存，59（5），117–16https://doi.org/10.1080/00396338.2017.1375263[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]>）。如果AWS在其操作系统中遇到故障，这将构成真正的威胁，因为人类将没有干预的空间。
如前所述，法律审查也可以基于马滕斯条款。马滕斯条款包含在《海牙第四公约》（以下简称1907年《海牙第IV公约》）内容如下：
“在颁布更完整的战争法法典之前，缔约国认为有权宣布，在其通过的《条例》未包括的情况下，人民和交战方仍受国际法原则的保护和管辖，因为这些原则是文明国家之间确立的惯例、人道法和国际法的要求所导致的公众的良知。”

基于这些条款，马滕斯条款是针对国际人道主义法条款中未规定的问题的条款，因此，如果实在法中存在无效或空白，所采取的解决方案必须基于基本人道主义原则和普遍意识（Mauri，2020Mauri，D）罗马教廷对致命自主武器系统的立场：通过貂条款的视角进行评估 国际人道主义法律研究杂志，11（1），116–147https://doi.org/10.1163/18781527-bja10001[Crosref]、[Web of Science®]、[Google Scholar]）。本条款的目的是防止将未经规定的事项提交给指挥官的任意意见。人道主义原则要求人道对待其他个人，以及尊重人的生命和尊严。根据其特点，AWS未能尊重人的尊严，因为它基于计算机系统中嵌入的计算算法来确定人的生死或攻击目标。AWS的特点也与一般意识相矛盾，因为它具有武器系统的概念，在这种武器系统中，使用武力和攻击是在人类无法控制的情况下进行的
结论
使用AWS可能会违反国际人道主义法的某些一般原则，如比例原则、区分原则、军事必要性原则和限制原则。当前的AWS操作系统是否有能力对某些复杂情况进行评估，例如根据《第一附加议定书》第51（5）条和第52条的规定，评估攻击的相称性，采取必要的预防措施限制平民损失和伤亡，AWS必须首先确定军事目标，然后才能确定打击军事目标是否会带来明确的军事优势。如果AWS无法确定该目标是否为合法的军事目标，则无法随后确定打击该军事目标是否会立即获得明确的军事优势。国际人道主义法规定禁止或限制使用因其性质和特点而造成过度伤害和不必要痛苦、非歧视性、造成过度平民损失和伤亡以及长期环境破坏、欺诈或背信弃义的武器。在这种情况下，继续使用AWS作为武器将违反限制原则。这是因为AWS根据定义无法满足比例和区别原则的规定

此外，AWS没有足够的人工干预水平，因为人工干预仅限于开发和启动阶段。如果AWS遇到操作系统故障，这会造成真正的威胁。在某些情况下，AWS不尊重人的尊严，违背了常识，因为它将人的生命和死亡建立在算法计算的基础上，而且它使用武力和攻击是人类无法控制的。因此，有人在场控制AWS的使用，以减少其在战场上造成的错误至关重要。为了评估指挥官在多大程度上可以对自动武器系统的运作负责，指挥责任的各个方面必须与人权观察组织对自主武器系统的分类相联系。基于这一联系，有理由假设指挥责任的限制将仅适用于被定义为“人在环武器”和“人在圈武器”的武器。最后，指挥责任的概念仍然受到质疑，是否可以适用于被分类为“人外环武器”的AWS武器。然而如果一个司令部或相关司令部的下属负责输入有关武器目标的算法数据，则可以执行指挥责任原则。