1.简介

自治系统正在社会的许多领域出现。远程操作系统正变得越来越自主，自主性确实被视为“八大技术”之一（英国HM政府2013）2013年。“八大技术：信息图形”，于2018年11月1日访问。https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/249255/eight_great_technologies_overall_infographic.pdf.[谷歌学者]<1）。<11.机器人和自主系统与合成生物学、再生医学、农业科学、先进材料、能源存储、大数据和卫星并列。查看所有注释//span>这引发了伦理问题，特别是当自主系统拥有火力时（Healey等人，2013年Healey，Anthony J.，D.P.Horner，S.P.Kragelund、B.Wring和A.Monarrez。2013年.协作无人系统海事和港口安全运营。报告。周一terey:海军研究生院。2018年10月30日访问。http://www.dtic.mil/dtic/tr/fulltext/u2/a484372.pdf.[谷歌学者]）。一些机器人自动化系统，如无人机（UAV），目前正在战斗中使用。无人机在人类负责部署致命力量的水平上运行，但并不总是以直接监督的方式运行。这引发了一系列问题，最基本的是以下所有问题：在战争中使用无人机是否在道德上是正确的，如果是，以何种方式和在何种情况下使用无人机，无人机在伦理方面的独特性可以通过更详细地研究武装冲突法（LOAC）来阐明（Johansson2011Johansson，Linda.2011）。“在战争中使用无人机（UAV）在道德上是正确的吗？”哲学和技术24（3）：279–291。doi:10.1007/s13347-011-0033-8[Crosref]，[谷歌学者]//span>）。讨论尤其，LOAC针对无人机挑战的规范性理论可以帮助我们判断是否需要关于在战争中使用无人机的额外规则（Finn and Wright2012年Finn、Rachel和DavidWright.“无人飞机系统：民用应用中的监视、道德和隐私。”计算机法律和安全审查28（2）：184–194）。doi:10.1016/j.clsr.202.01.005[Crosref]，[Web of Science®]，[Google Scholar]//span>；Kreps和Kaag，2012年Kreps、Sarah和JohnKaag2012年。“当代冲突中无人机的使用：法律和道德分析。”政治44（2）：260–285。doi:10.1057/pol.201.2[Crossref]，[Web of Science®]，[Google Scholar]//span>），同样在本期刊的页面中，对水上无人或自主系统的伦理方面的研究也没有那么多。本文的目的是通过将海上自主系统（MAS）的伦理方面与无人机的伦理方面进行比较，对其进行概述，MAS寻找地雷是否存在道德问题（爱尔兰2010年爱尔兰，Robert D.2010年）。“自主车辆系统：对海上作战、作战能力和指挥与控制的影响。”论文，海军研究生院，蒙特里。[谷歌学者]），以及是否使用武器化的自主系统保护船只免受海盗的侵害，或者监控非法移民或非法捕鱼，都可以被认为是合乎道德的²2.与民用部门相比，水下MAS在军事中的作用不同。平民科学家使用水下MAS探索迄今无法到达的水下峡谷、热液喷口、深海沉船和冰封海洋，以及寻找石油和矿物、部署水下电缆和进行打捞作业。查看所有注释然而，本文将主要关注军事中的海上或海军自主系统

我们不清楚如何称呼这些无人驾驶或自动驾驶的车辆或船只。最广为人知的无人驾驶飞行器可能是无人机（也称为无人机），其名称中确实包含了“无人驾驶”一词。后者也是美国海军所谓的“总体规划”中的情况，指的是无人水面飞行器和水下飞行器（例如，参见海军部2007年海军部。2007年.海军无人水面飞行器（USV）总体规划。2018年4月30日访问。http://www.navy.mil/navydata/technology/usvmppr.pdf.[谷歌学者]）。使用的其他一些名称是自主水下航行器（AUV）、自主海洋航行器（AMV）或遥控潜水器（ROV），表示不同程度的独立性。例如，与ROV（通常需要人工操作）不同，自动水下机器人在执行任务时没有遥控器。自主性越强，人与人之间的互动和干扰就越少

关于术语的一些注释：在本文中，将使用术语“海事”而不是“海军”。虽然海军似乎更合适，因为重点是军事自主系统，但海军和海上之间的界限并不总是明确的，海上似乎更好更广泛地涵盖了这里讨论的材料。此外，将使用术语“自主”（而非无人驾驶）（无人机除外，因为该术语已普遍确立）。这有两个原因。首先，发展正朝着增加自主性的方向发展，大多数无人驾驶汽车都具有一定的自主性。自主性是一个模糊的术语，有时用于几乎任何不需要远程控制就能至少完成某些事情的东西，例如导航，这是大多数无人机的情况。第二，有许多例子表明，人类自愿走出“决策循环”，让自主系统“做出决定”（甚至可能是杀人），或者比自己更相信计算机的“判断”。关于机器是否能够“思考”/理解，或者仅仅像那样行动，在思维哲学中一直存在着争论——这一争论以图灵和著名的图灵测试为代表，Searle反对他的思想实验“中国房间”（参见Cole2013Cole，David。2013。《中国房间争论》。《斯坦福哲学百科全书》。2018年11月1日访问。https://plato.stanford.edu/entries/chinese-room/.[谷歌学者]）。查看所有笔记–实际上，远程控制（无人驾驶）车辆和自动驾驶车辆之间的差异不一定很大，因为自动驾驶有很多不同的形式和程度。例子包括从自动割草机到军队中的“完全”自主机器人。然而，与哲学研讨会中讨论的人类自由意志相比，两者都很难自主。除非在本文的某些章节中特别说明，否则我选择使用海事自主系统这一总体术语——MAS（然后uMAS用于水下，sMAS用于水面）。决定使用系统而不是车辆也是为了保持尽可能广泛的视角<例如，作战系统AEGIS是一个系统，而不是一个飞行器，它涉及“自动化偏差”的一个例子，1988年，一架民用飞机被文森斯号航空母舰击落。查看所有注释

本文将讨论围绕军事自主系统的两类伦理问题。第一类涉及使用此类系统的道德问题。这些问题将以武装冲突法为背景进行系统化。第二类涉及军事自主系统是否可以影响LOAC的道德解释。可以认为，LOAC中的一些术语是模糊的，可以根据采用哪种道德理论（或规范理论；我在这里可互换使用这两个术语）理论来支持它，自动驾驶系统可能会增加的一些东西（Johansson2011Johansson，Linda.2011。“战争中使用无人机（UAV）在道德上正确吗？”哲学和技术24（3）：279–291。doi:10.1007/s13347-011-0033-8[Crosref]，[谷歌学者]//span>）。我将通过研究无人机的一些伦理问题，将无人机研究作为垫脚石，并探讨无人机和MAS之间是否存在相关差异。然后，我将研究无人机是否影响战争法，并在这方面将无人机与MAS进行比较。然而，为了做到这一点，有必要了解MAS的一些背景信息，以及现代海军的任务

2.海上自主系统和现代海军的使命

“现代海军”当然可以指非常不同类型的海军——大型海军，如美国海军，或小型海军，如瑞典海军⁵5.注意，不同的不仅是规模，还有任务和目标。查看所有注释本节主要基于大型海军，因为大型海军比小型海军涉及更多问题。本文将不探讨大小海军在自主系统方面是否存在伦理差异

2.1.MAS的特点和用途

uMAS和sMAS都有可能对海战任务的执行做出重大贡献，尤其是当它们彼此集成，以及与其他有人和无人平台、传感器和通信系统集成到系统解决方案中时。随着自适应和最终智能自主控制能力的发展变得更加成熟，这些系统参与协作自主行为的潜力将增加，从而允许这些车辆组作为网络一起运行⁶6.水下或地下作业，包括通信困难，需要在短期内进行“变通”，并进一步研究提高水下通信能力。其中一个步骤是增加自主性，这本身有助于减少通信需求。导航和协调位置和时间线以融合传感器数据的能力也很重要。查看所有笔记

uMAS和sMAS有很多共同点，但它们也有许多不同的特点。地面车辆可以使用无线电频率进行几乎无限的通信和导航。这对于水下航行器来说要困难得多。在过去的十年中，水声通信取得了显著的改进，其中许多改进已达到运行状态。自动控制的未来发展将最大限度地减少遥控车辆的通信困难

远程存在（即在uMAS上使用电视摄像机）允许将uMAS的观测结果发送给地面或地下的人类控制器，如果由潜艇控制。在许多情况下，与地面平台相关的高成本是合理的，特别是当涉及控制、操纵或特定的复杂任务需要人工监督时。在其他情况下，任务是例行的，可以编程，无约束系统——即部分或完全自主的无人海底航行器，不需要通常称为“脐带”的绳索或链接——是一种很有吸引力的选择。消除脐带也可以减少阻力。无人值守的uMAS被开发用于各种海上工业、科学和海军用途，取代了类似勘测车的许多功能。通过操作几个未受约束的uMAS或将uMAS与地面平台一起使用，提供多个同时视图的机会将增强其能力。例如，无人值守的uMAS正在开始取代海底勘测的拖曳车辆，并且它们正在启用以前不可能进行的新类型的检查（例如在纽约市的水上隧道）；他们在岸上进行勘测，并通过与其他uMAS或其他类型的操作同时操作uMAS来提高船舶资源的利用率。然而，如前所述，由于海洋中通信带宽的固有限制，海洋中的无约束系统比地面或空中系统需要更多的自主性

MAS的目的示例有：

表面MAS：水雷对抗，⁷7。水雷是沿海地区（即靠近海岸）海军力量的主要障碍。根据总体规划，系统方法似乎是最有可能取得成功的途径。国家成像和电子情报系统、具有地面移动目标指示器（GMTI）能力的载人飞机、HAE（高空耐久性）无人机或未来的天基雷达可以为海军部队感兴趣的沿海地区的采矿活动提供初步指示和警告。不同类型的潜艇可以在沿海地区使用uMAS来执行底部测绘以及识别雷区边界。确定通往海滩的无地雷区也很重要，整个区域将受到监控，以防止更多的布雷。此外，小型uMAS可以在任何进攻行动之前对不同类型的区域进行详细侦察。查看所有注释反潜战、海上安全、⁸8。sMAS的海上安全任务包括：（1）收集海面以上（例如电磁、光学、空气采样、天气）和海面以下的情报数据（例如声学信号、水样、海洋学或测量信息），（2）阻止敌人袭击美国和盟国的既定阵地和物资，包括船只，同时（3）防止载人平台受到伤害。（参见海军部2007年海军部。2007年。海军无人机（USV）总体规划。2018年4月30日访问。http://www.navy.mil/navydata/technology/usvmppr.pdf.[谷歌学者]。）查看所有注释水面战、特种作战支持、电子战和海上阻击作战支持（参见海军部2007年海军部。2007年.海军无人水面车辆（USV）总体规划。2018年4月30日访问。http://www.navy.mil/navydata/technology/usvmppr.pdf.[谷歌学者]）
水下MAS：情报、监视和侦察、水雷对抗、反潜战、检查/识别、海洋学、通信/导航网络节点、有效载荷交付、，信息作战和时间关键打击（参见海军部2004年海军部2004.海军无人机（UUV）总体规划。2018年4月30日访问。http://www.navy.mil/navydata/technology/uuvmp.pdf.[谷歌学者]）

在20世纪90年代，传感器和计算机的进步产生了一个新概念——网络中心战（NCW）。信息技术革命使基于计算机的信息收集和处理成为可能，提供可在网络化部队之间共享的敌人活动的准确和实时图像（Speller 2014年Speller，Ian。2014年。了解海战。纽约：劳特利奇[交叉引用][谷歌学者]，109）。这些力量可以在地理上分散，但仍然通过数据链路连接在一起，使它们能够在系统网络中工作，从而覆盖比单个平台更大的区域，从而实现信息优势。这将通过在空中和水中使用无人驾驶、自主系统而得到进一步加强。蒂尔（2013蒂尔，Geoffrey。2013。海上力量-二十一世纪指南。纽约：Routledge，[交叉引用]，[谷歌学者]//span>，131）讨论了海军和技术，他认为，根据“摩尔定律”，到目前为止，计算机能力的指数增长率每18个月翻一番，这使得军事行动的革命性变革不可避免。NCW的海上预言家们普遍强调，要使这一切奏效有必要对现有海事组织、思维习惯、程序和原则进行实质性改变。海基指挥官的传统作战和战术独立性似乎会减弱，根据蒂尔（2013蒂尔，杰弗里。2013。海上力量-二十一世纪指南。纽约：劳特利奇，[交叉引用]，[谷歌学者]//span>，133）

无人水下系统已经在海战中发挥了重要作用，最明显的例子是鱼雷。近年来，一些开发系统已达到成熟程度，可用于直接支持作战行动。这些系统的主要任务是侦察：提供环境或反地雷数据。通常，MAS提供了重要的防区外和秘密能力。它们可以在不同程度上自主操作，但在自主操作时，它们目前不具备自适应或智能能力，这让我们想起了引言中提到的定义自主性的困难：在没有智能的情况下，是否可以认为某样东西是完全自主的？然而，这些系统可以执行预定的任务，提供光学或声学图像和物理环境数据，例如关于温度、盐度、深度和电流以及光学特性的信息

随着MAS自主水平的提高，他们可以执行的任务的数量和复杂性也会增加。由于所涉及的风险或由于缺乏可用的操作员，能够执行以前不可行的任务也有额外的好处。高度自主的系统可以帮助军事部队以更少的人员执行任务，能够更快速地部署，并且更容易融入数字战场。必须根据不同特派团的需要，确定所需自治的确切程度<例如，全球鹰情报、监视和侦察（ISR）无人机可以在机动会破坏图像时在成像和机动之间进行选择。它还可以在必要时选择备用机场，如果通信中断，则无需操作员输入。然而，这些仍然是编程选择，决策层次必须在任务规划阶段进行预测，这与传统的专家系统编程更为相似，而非仍在发展的神经网络、遗传算法或更现代的人工智能技术。包括航路点导航（航路导航变化）和有效载荷手动指令的水平可能足以满足当前任务，但它不能提供真正的转换能力。更复杂的任务需要更多的决策能力。查看所有注释

2.2。法律问题

MAS周围有几个法律问题，例如，uMAS是否是其国家的主权延伸，因此不受其他国家的侵占，以及它是否可以在另一个国家的领海表面上运行，或在那里进行操作（Henderson2006Henderson，Andrew H.2006。“Murky Waters:无人潜航器的法律地位。”《海军法评论》53:55–72，2018年10月30日访问。http://sevenhorizons.org/docs/HendersonMurkyWaters.pdf.[谷歌学者]）。如前所述，定义“自主”很困难。另一个模糊的术语是“船只”，对其进行定义的尝试与海上贸易本身一样古老<例如，在罗马法中，有人认为，“我们必须接受一艘船只，无论是海上还是河流，或是在其他静水上航行，或是应该是木筏”（Henderson2006Henderson，Andrew H.2006）。“海军法评论53:55–72。2018年10月30日访问。http://sevenhorizons.org/docs/HendersonMurkyWaters.pdf.[谷歌学者]，59）。根据《国际海事词典》（de Kerchove1961de Kerchov，Rene.<1961.国际海事词典.第2版编辑822–823纽约:Van Nostrand Reinhold公司[谷歌学者]，822–823），“船只”是查看所有笔记

亨德森（2006年亨德森，安德鲁·H·2006年。“Murky Waters:无人潜航器的法律地位”。“海军法评论53:55–72。2018年10月30日访问。http://sevenhorizons.org/docs/HendersonMurkyWaters.pdf.[谷歌学者]//span>）认为，目前正在开发的一些uMAS可能会超出当前海事判例的范围。他认为，根据美国法律，uMAS应被视为船只，无论其大小或任务。但他指出，潜艇是军舰，军舰是各自国家的延伸，享有主权豁免，不受船旗国以外国家当局的干涉，这是国际法公认的原则。因此，未经指挥官许可，不得扣押、登上或搜查军舰。然而，船只不需要配备武器，就可以被视为军舰

uMAS是无人驾驶的，缺少乘员或指挥官。亨德森（2006亨德森，Andrew H.2006。“Murky Waters:无人潜航器的法律地位”《海军法评论》53:55–72，2018年10月30日访问。http://sevenhorizons.org/docs/HendersonMurkyWaters.pdf.[谷歌学者]//span>）指出，它本身不可能是一艘军舰，即使它本身被视为一艘船只。但作为更大部队的一个组成部分，uMAS可能仍然被认为是发射/控制战舰的延伸。因此，它们将享有与支持船只相同的主权豁免水平，并免于被扣押。如果被视为拥有自身权利的船只，而不是军舰，uMAS仍可以作为辅助船只享有豁免权。亨德森认为，根据国内法，uMAS事实上是船只，因此必须遵守所有适用的操作和航行规则，这是一个有力的证据。这一结论源于这样一种观点，即大多数uMAS要么被视为其支持船的组成部分，要么被直接解释为船只。亨德森认为，可以想象uMAS可能会陷入法律漏洞，例如从岸上发射和运行的非有效载荷uMAS。这辆车将没有支援船，技术上也不会成为运输工具。但为了统一和避免混淆，他认为最好对所有uMAS一视同仁

亨德森认为，这一理论在国际舞台上尤其适用，因为在国际舞台，监管或法定指导远远不足，适用于uMAS的法律指南甚至比国内法律更为灵活

3.无人机与MAS

的伦理方面以下将以《武装冲突法》（LOAC）为背景，讨论使用自主系统的伦理方面。第四节将进行更详细的分析，其中将根据伦理理论更详细地分析LOAC中的具体术语

当然，和平主义者会认为，对战争中使用的武器（如无人机，无论其自主程度如何）进行道德评估毫无意义，因为战争本身就是不道德的。然而，本文中的道德评估是在武装冲突法（LOAC）的背景下进行的，如日内瓦公约和海牙公约，因此假设战争不一定是不道德的

战争规则通常分为战争法和战时法 just ad bellum规定了发动战争必须满足哪些标准，其中“正义的原因”可以说是最重要的。《战时法》的规则确立了一次战争的道德标准¹¹11.我的讨论主要基于奥伦德（2005年奥伦德，Brian。2005。《战争》。斯坦福哲学百科全书。2018年4月30日访问。http://plato.stanford.edu/archives/fall2008/entries/war/.[谷歌学者]）。查看所有注释

在我看来，jus-ad主要有两个标准bellum在这里是相关的：只是原因和比例。根据正义事业的标准，开战的理由必须是正义的。战争不应成为报复手段，无辜的生命或国家安全必须处于迫在眉睫的危险之中，因此，使用武力必须有助于保护生命和安全。这方面的例子包括对外部攻击的自卫，以及对严重错误行为的惩罚，而这些错误行为仍未纠正。根据比例原则，发动战争的预期利益必须与其预期的罪恶或伤害相称。这也被称为宏观比例原则，目的是将其与比例原则的原则区分开来

根据《战时法》（jus in bellorule of proportional）（或“过度”），如果平民损害与军事优势相关，则不能对军事目标发动攻击。也就是说，攻击的价值必须与获得的价值成正比。根据必要性规则，进攻必须是必要的，这意味着战争应该以最小武力原则为指导。这一原则旨在限制过度和不必要的死亡和破坏

还有战后正义的标准，如有关战争终止的规定，以缓解从战争向和平的过渡¹²12.几乎没有国际法来规范战后战争，因此人们必须求助于正义战争理论的道德资源（Orend2005Orend，Brian。2005.“战争”斯坦福哲学百科全书。2018年4月30日查阅。http://plato.stanford.edu/archives/fall2008/entries/war/.[谷歌学者]）。查看所有注释然而，本文中没有讨论这些注释

有人可能会认为，只看《战时法》就足够了，因为只有在战争已经开始时才使用自治系统。然而，我认为，拥有自治系统可能也会影响对战时法的解释，因为他们可能会增加发动战争的倾向（Johansson2011Johansson，Linda.2011）。“在战争中使用无人机（UAV）在道德上正确吗？”哲学与技术24（3）：279–291。doi:10.1007/s13347-011-0033-8[Crosref]，[谷歌学者]//span>）。其原因是，此类系统在减少拥有者伤亡方面具有优势，这可能会使战争看起来更像一场无风险的企业——从而降低了发动战争的门槛。与其他武器相比，拥有自主系统可能会影响对LOAC的解释，因为它可能决定对LOAC解释所依据的规范性道德理论

让我们从与jus ad bellum相关的参数开始

3.2.开战倾向增加（门槛降低）

反对使用军事自主系统的一个论点是，开战门槛可能会降低，一些人——比如彼得·W。辛格（2009年辛格，Peter W.2009年。《战争连线：21世纪的机器人革命和冲突》。纽约：企鹅出版社[谷歌学者]>>//span>）-认为这类技术甚至创造了这是一个很好的例子幻想战争可以“无代价”。如果一个国家不冒着士兵的生命危险，那么可能更容易发动或进入一场原本可能不会发动的战争。另一个问题是战争的恐怖和残暴，当人类士兵受到伤害时，与传统武器相比，这种技术可能更容易被遗忘

有一些例子支持上述推理，即自主系统很可能使其更容易承担和支持新的战争努力。我们可能会提到1991年波斯湾战争、1999年科索沃战争或2003年入侵伊拉克（Asaro2008年Asaro，Peter。2008年。“机器人战争怎么可能？”《计算机与哲学的当前问题》Adam编辑布里格尔、卡廷卡瓦埃尔伯斯和菲利普布莱50–62Amsterdam:IOS Press[谷歌学者]）。如果敌人能够在美国本土使用无人机，美国会进入伊拉克、科索沃或波斯湾吗？这个假设性问题向我们表明了无人机拥有的潜在重要性，在解释“正当理由”等“战争权”标准时，尤其是在拥有无人机的国家选择攻击没有无人机的情况下

作为一个一般性的说法，我们不能肯定地说，自主系统实际上降低了发动战争的门槛，但从直觉上看，这种情况似乎是合理的，因为冒着生命危险或不冒着生命风险显然会产生差异，这种差异随着使用自主系统的百分比越高而变得越明显

那么，与水上的自主系统相比，空中的自主系统之间的差异可以说是什么呢？如果无人机降低了门槛，MAS也会这样吗

MAS降低阈值的风险可能没有无人机那么高。虽然通过使用无人机快速入侵有可能赢得战争，但MAS的情况可能并非如此，因为它们无法出水。然而，它们可能充当无人机的平台。MAS很可能主要用于防御措施，例如海上拦截或现有舰队。总体而言，无人机的自主系统降低开战门槛的风险似乎高于MAS

3.3.不公平

反对使用自主军事系统的另一个论点是，那些不拥有这项技术的人会增加不公平感的风险。这可能反过来影响战后发生的事情。迈克尔·沃尔泽（Michael Walzer，2006年沃尔泽，迈克尔。2006年。正义与不正义战争。第四版<纽约：Perseus.[谷歌学者]//span>，132）指出，确保胜利“在某种意义上，在一段时间内，交战双方之间达成和解”。如果要做到这一点，就必须像功利主义道德哲学家亨利·西奇威克（Henry Sidgwick）所说的那样，以避免“挑起报复和造成痛苦的危险，这种危险将长期持续”战斗（同上，参考Sidgwick[1891Sidgwic克，亨利。<1891]2010.政治元素.纽约:Nabu Press.[谷歌学者]]2010年西奇威克，亨利<1891]2010年 政治元素<纽约：纳布出版社[谷歌学者]）。Sidgwick和Walzer心中的痛苦可能是被认为是不公正的结果的结果，但也可能是被视为不必要、残忍、不公平或只是“违反规则”的军事行为的结果。显然，无人机比许多其他许可的武器更可能引发不公平感，因为它允许一方避免冒着士兵的生命危险。据简·梅耶尔（Jane Mayer）（2009年梅耶尔，2009年《捕食者战争》，《纽约客》，10月26日，2018年4月30日。https://www.newyorker.com/magazine/2009/10/26/the-predator-war.[谷歌学者]），巴基斯坦无人机的使用激起了“反美情绪”，巴基斯坦恐怖袭击的肇事者开始将他们的袭击称为“对无人机袭击的报复”（另见Zenilman2009Zenilman，Avi.2009）。“《纽约客》，10月20日。2018年4月30日访问。https://www.newyorker.com/news/news-desk/jane-mayer-on-predator-drones-and-pakistan.[谷歌学者]）

自治系统本身并不更加残忍或不公平，但可能会有一种感觉，即使用自治系统的一方是懦夫，或者他们即使没有做任何严格违法的事情，也在使用违反非正式荣誉规则的手段，或者表现出缺乏勇士的美德，如勇气或仁慈。甚至可能有人认为，在战争中杀死对手的权利是基于某种相互施加风险的理念：士兵威胁到他或她所面临的风险，即生命和健康，因此被允许在不被视为凶手的情况下夺取敌人的生命。如果一方使用机器人而另一方不使用机器人，这种公平感可以说是消除了

然而，当一方拥有自主技术而另一方不拥有自主技术时，不对称所导致的不公平也可以被视为有利于自主系统的论点：不对称可以对较弱的一方产生威慑作用，这可能更可能寻求通过谈判达成外交解决（Arkin2009Arkin，Ronald。2009。自治系统中的致命行为。Boca Raton：CRC Press、[Crossref]、[谷歌学者]）。如果是这样的话，可以说不公平感是弱者可以接受的，这是比失去生命更好的选择。另一方面，如果强势一方威胁弱势一方，主要是因为它有这样做的权力，如果没有自主技术，挑衅就不会发生，那么这将是另一个方向的争论

在不公平问题上，无人机和MAS之间似乎没有太大区别。然而，不公平通常是一种感觉或感觉，而不是我们可以绝对衡量的东西（除非法律规定和衡量），在这里，无人机和MAS之间可能存在差异。无人机更加可见（即使它们在空中运行），因为它们可以被看到和听到，所以当人们感知到它们的存在时，就会想起它们。此外，与MAS相比，无人机在人们家上空飞行时存在更多的诚信问题（包括隐私问题）。与无人机相比，MAS很可能会降低平民伤亡的风险，但如果将uMAS用于沿海地区的监视，则可能会出现完整性问题

3.4秘密战争

拥有自主系统的优势可能会导致有时被称为“秘密战争”的情况，因为透明度降低（Mayer2009Mayer，Jane。2009.“捕食者战争”《纽约客》，10月26日。2018年4月30日访问。https://www.newyorker.com/magazine/2009/10/26/the-predator-war.[谷歌学者]）。当国家安全或情报机构使用自主系统时，缺乏透明度确实是一个问题。根据LOAC，战争发生在州之间，目前尚不清楚国家安全机构是否可以被视为“国家”。通过使用安全机构，在保密的面纱下做出决定，可以更容易地规避道德和法律规则，因为违规行为无法由外部各方控制。这可能会演变成“非官方战争”，一个国家或一方可以在法律和道义上要求在与他们没有战争的国家杀人。因此，其他国家可能会认为他们可以做同样的事情，战争法在某种意义上会被废除

另一个问题与无人机操作员有关，他们在远离武器部署地点的地方操作。他们是否应该被认为参与了战争，从而可以遭到报复，即使他们在美国国土上？换句话说：根据战争法，是否允许袭击内华达州的无人机操作员？如果允许，在哪里？是否允许在他或她上班的路上攻击他或她？编程自主机器人的程序员呢？这些问题表明，有必要更明确地界定战场的边界

说到保密，uMAS的保密潜力当然是巨大的。然而，与无人机相比，使用uMAS可能更难实现相同类型的秘密战争，也就是说，要想真正赢得一场“战争”，就必须消灭关键人员或资产，因为无人机在陆地上作战。尽管无人机可能被看到，这会影响保密性，但与MAS相比，无人机进行秘密战争的可能性可能更大，因为它们可以在陆地上完成比MAS在水中更多的任务

3.5。与bello中的jus相关的参数

3.5.1。编号

编号的参数与jus ad相关bellum认为，使用自主系统可以降低开战的门槛。原因很简单。当在最大范围内杀人时，可能会意识到自己正在杀人这一事实，从而与之保持距离，从而减少或不感到后悔。随着在极端距离、完全安全的情况下杀人的能力日益增强，或者通过拥有一个“完全”自主的系统，在该系统中杀人命令不是由人类直接发出的，对杀戮和死亡的意识降低了（格罗斯曼1996年格罗斯曼，Dave。1996年。关于杀戮：在战争和社会中学习杀戮的心理成本。纽约：Little、Brown和Company[谷歌学者]//span>）。简而言之，物理距离可能会使战斗机远离使用武器的后果。然而，这是一个可以追溯到弓箭被引入的时代的讨论，从而增加了战士之间的距离，例如，与用剑杀人相比。此外，由于前一节中考虑的潜在透明度不足，无人机操作员可能比常规士兵更容易避免责任，或至少是责任感

然而，已经表明，无人机操作员患有创伤后应激障碍——而且他们实际上可能会因此而遭受更严重的痛苦，因为他们跟踪目标数天，可能会在某种意义上熟悉他们，而普通飞行员则不会（McCamon2017McCamon，Sarah。2017。“战争可能很遥远，但创伤是真实的。”国家公共广播电台（NPR）网站，4月24日。2018年4月30日访问。https://www.npr.org/2017/04/24/525413427/for-drone-pilots-warfare-may-be-remote-but-the-trauma-is-real.[谷歌学者]）。自主程度也存在差异。人权观察声称，能够决定杀死谁的机器人将在十年内成为现实¹³13.“Självstyrande robotar under Debate”[«辩论中的自动导航机器人»]，电台辩论，Ekot，2009年9月4日。2018年11月1日访问。http://sverigesradio.se/sida/artikel.aspx?programid=83&artikel=6136761查看所有注释这当然可以减轻PTSD患者操作员的负担——事实上，未来可能根本不需要他们——但我们还有另一个问题：如果反对无人系统的争论与麻木的人有关，那么还有什么比机器更“麻木”

有许多例子表明，积极的人类接触有助于协调不同文化之间的差异，机器人技术的存在可能会造成真空。阿姆斯特朗（2008年阿姆斯特朗，Matt.2008。《战斗机器人与感知管理》。Serviam杂志，5月/6月号。2018年11月11日查阅。https://mountainrunner.us/2008/06/article-combat-robots-and-perception-management/.[谷歌学者]//span>）指出，如果部署了自主机器人，冲突和冲突后地区的人们的“心灵”可能会受到影响。未来，将有关于机器缺乏仁慈的讨论，这也可能导致战争中的暴行。人们可以编程让机器人识别投降的迹象，但可以说，它将无法像人类那样表现出怜悯、同情和人性。另一方面，有关于“合成情绪”的研究，例如“合成内疚”，教机器人正确与错误，并纠正他们未来的行为（Arkin2009Arkin，Ronald。2009。自治系统中的致命行为。Boca Raton：CRC Press、[Crosref]、[谷歌学者]//span>）。在机器伦理学中，关于如何让机器人“合乎道德”的行为一直存在着争论——要么使用自上而下的方法，将规则或伦理理论编程到机器人中，要么使用自下而上的方法，让机器人像孩子一样，通过反复尝试，借助已经提到的合成情绪来学习道德

即使有人认为机器永远不会表现出“真正”的同情心，机器确实比人类士兵有一些明显的优势。他们不会感到疲倦、害怕或出于私利。此外，由于机器不怕被杀死，因此机器不需要杀死对手，而是可以抓住对手的机会增加了。换句话说，在恐惧或压力的情况下，士兵可以使用额外的力量来保护自己，这对机器人来说不是问题

在这里，我们可能会发现空中和水中的自主系统之间的差异，至少当无人机用于杀死个人时是如此。MAS不会像无人机那样直接攻击个人，也就是说，他们不会直视其他人的眼睛。如果机器人具有高度的自主性，这可能无关紧要，相比之下，人类通过机器人的眼睛在犹豫。关键是，我们可以推测，在某些情况下，即使船上有100名士兵，与近距离杀死一名具体人员相比，命令MAS击沉船只是否更容易

3.5.2.技术导致的错误

反对无人机的一个论点是，有可能击中错误的目标，阻止错误瞄准的可能性较小（Mayer2009年Mayer，Jane。2009年。《捕食者战争》。《纽约客》，10月26日。2018年4月30日访问。https://www.newyorker.com/magazine/2009/10/26/the-predator-war.[谷歌学者]）。但也有相反的说法：无人机的杀伤方式更为“外科手术”，无人机打击造成的附带损害比常规飞机打击造成的损害小。如果飞行员“匆匆忙忙”，则出现错误或增加附带损害的风险更大。同样的情况很可能适用于MAS。但同样，还有自治水平的问题。将生死攸关的决定托付给科技可能会令人恐惧，但同时，人类往往被认为是决策循环中最薄弱的环节。可以说，涉及的人少了，错误就少了

Michal Klinewicz（2015年KlinewiczMichal.2015年。“自主武器系统、框架问题和计算机安全。”军事伦理杂志14（2）：162–176。doi:10.1080/15025752015.1069013[Taylor&；Francis Online]，[Google Scholar]//span>）认为，随着人工智能程序变得更加复杂，它们同时也更容易被黑客攻击，因此会带来安全风险。例如，拥有所谓“道德统治者”的系统在框架和代表性方面存在问题。为了应对这些挑战，人工智能软件必须非常复杂——复杂的软件往往有更多的软件缺陷，从而导致安全漏洞

4.自主系统和LOAC的伦理解释：无人机与MAS

越来越自主的武器的引入对我们理解和使用LOAC有影响吗？我会认为，这可能是因为无人机和MAS的使用明显影响了我们衡量比例、必要性和过度性的方式，更不用说三个关键的LOAC术语。所有这些都是模糊的术语，需要具体说明。事实上，无人机和MAS可以极大地改变损失和成本的计算，特别是对于拥有此类武器的一方而言，这也意味着LOAC将根据所使用的武器进行不同的解释

如本文前面所述，一种对抗某些人认为的发动战争门槛降低的道德方式，可能是运用一种功利主义视角，这是一种规则功利主义。在LOAC的规则和原则层面上，这可能有助于我们制定有意义的限制措施，以防止因使用自主武器的简单性和低成本而导致的武装冲突的过度风险

LOAC中的重要术语可以根据所支持的规范理论进行不同的解释，即仅、过度和必要¹⁴14。可以考虑jus ad bellum的前三个标准（正当理由、正当意图和合法权力）主要是义务（义务伦理学是基于义务的，它来源于理性（康德）、社会契约（契约主义）或自然权利），而其他主要标准（（最后手段，合理的成功机会和比例）可以说是更实用的（Orend2005Orend，Brian。2005。《战争》。《斯坦福哲学百科全书》。2018年4月30日查阅。http://plato.stanford.edu/archives/fall2008/entries/war/.[谷歌学者]）。功利主义代表一种后果主义类型的伦理，其中后果（和最大化效用）至关重要，而不是动机或义务本身。然而，即使我们因此区分了主要是道义的和主要是功利的标准，所有这些术语都可以用不同的规范理论作为基础来解释，这对它们的理解和利用产生了影响。查看所有注释如前所述，我将在下面使用规则实用框架——更具体地说，R.M。Hare在其文章《战争规则和道德推理》（Hare1972Hare，Richard M.1972）中提出的实用普遍原则[Web of Science®]，[谷歌学者]），而不是比较理论。原因在于，规则功利主义代表了一方面纯义务论（责任伦理）和另一方面纯（行为）功利主义之间的合理中间立场

黑尔认为，我们需要规则，比如LOAC中的规则，但我们也需要总体原则，也就是说，我们需要他所说的“两级方法”。这个想法是在黑尔所说的规则功利主义的一般和具体层面之间转换。根据功利主义的一般规则，我们应该制定原则和行动，争取最大的利益。根据特定的规则功利主义，我们可以有特定的规则，力求效用最大化。重点是，普通级别可以充当“安全卫士”

功利主义的一个重要特征是它的公正性。黑尔认为，仁爱的要求是通过为所有人的利益服务来实现的。根据这一观点，公正性表明，解释LOAC中模糊术语的实用性观点如何保持在正确的轨道上

功利主义的解释将侧重于最大化效用，它可以主张局部最大化而不是全球最大化，也就是说，它可以赞成在某个领域而不是更大的领域或整个人类实现效用最大化。例如，A国正在遭受痛苦，因为一些因素可能证明对B国发动战争是正当的（例如，涉及迫在眉睫的危险、儿童的痛苦、过去的错误等等，但这些因素是否可以证明A国发动战争的正当性有待商榷）。A国可能会辩称，如果他们攻击B国，B国将遭受损失，但如果B国迅速投降，并将B国的一部分领土交给A国，那么总的损失将少于A国今天的损失。即使在理想情况下需要满足《战争法》的所有标准，拥有自主技术实际上可能会加强这种使用武力的理由，特别是在“合理的成功机会”方面。因此，可以认为“公正”一词可能被自主技术拥有者“劫持”。也就是说，一个无人机拥有者倾向于发动战争，也许是针对一个没有无人机的国家，他可能会找到一个合适的解释，解释什么是“正义”，激励他发动战争，而LOAC站在他的一边。这一点也明确涉及到相称性问题，并与之相关

由于无人机（可能比MAS更多）可能会降低发动战争的门槛，正如我上文所述，如果一个人拥有多架无人机而不是多架MAS，那么在解释LOAC对其有利方面也可能存在差异，因为前者可能会完成更多任务

然而，无论是无人机还是MAS，这种风险都可以通过公正的总体原则来预防或缓和。其基本思想是，不允许考虑任何特定的个人，如果我们将这一论点作为逻辑结论，甚至不允许考虑来自某个国家的个人。也就是说，在解释LOAC中的模糊术语时，功利主义的公正性可能起到保障作用

术语“必要”甚至比“仅仅”更模糊军事道德和法律的核心：除非军事上有必要，否则不要让人民受苦。但谁和什么将决定什么是必要的？自主系统对“必要”的解释的含义与对“公正”的解释类似，因为该术语可能被解释为对无人机拥有者有利。例如，有人可能会认为，为了更快地赢得战争并减少伤亡，无人机攻击是必要的。在这方面，无人机和MAS之间很可能没有任何区别。两级方法——以及对公正性的强烈坚持——可能有助于减少使用武力的倾向，但我在其他地方也有过争论（Johansson2011Johansson，Linda.2011）。“在战争中使用无人机（UAV）在道德上正确吗？”哲学与技术24（3）：279–291。doi:10.1007/s13347-011-0033-8[Crossref][/span>，[Google Scholar][/span>），可能需要克制的军事美德，即由美德伦理启发的论证，以避免对必要性的解释过于自由

“过度”是LOAC中与“必要”密切相关的一个术语，可能对过于专注于目的而不充分关注手段的好战者起到道德约束的作用。在进行敌对行动时，不允许做“任何实质上没有达到（胜利）目的的恶作剧，也不允许做任何与恶作剧的数量相比，达到目的的恶作剧”（沃尔泽2006年沃尔泽，迈克尔。2006年。正义与不正义的战争。第四版纽约：Perseus.[谷歌学者]，126；另见Sidgwick1891西奇威克，亨利。<1891]2010年 政治元素<纽约：纳布出版社[谷歌学者]]2010年>西奇威克，亨利<1891]2010年 政治元素<纽约：纳布出版社[谷歌学者]）。这种说法所禁止的是过度伤害，但这种说法有些循环。沃尔泽将此解释为涉及两个标准。首先是胜利本身，或者通常所说的军事必要性。另一个取决于某种比例的概念：我们要权衡“所做的恶作剧”，这可能意味着不仅对个人的直接伤害，而且对人类永久利益的任何伤害，以及这种“恶作剧”对胜利的贡献。沃尔泽指出，所陈述的论点将个人和人类的利益置于比其目标的胜利更低的价值 任何有助于胜利的武力行为都很可能被视为是允许的。而任何一个宣称他计划的袭击“有助于胜利”的军官都很可能会为所欲为。因此，我们可以看到，相称性——以及避免过度武力——是一个难以应用的想法，因为没有“现成的方法来建立一个独立或稳定的价值观，以此来衡量战争的破坏”（Arkin2009Arkin，Ronald。2009。自治系统中的致命行为。Boca Raton:CRC Press[Crossref]，[Google Scholar]）

这对使用自主技术有着有趣的影响。关于过度伤害，基于功利主义，甚至有人认为，一个国家失去了没有的生命，而在一场常规战斗中失去了许多生命，这一事实可能会导致“恶作剧”的规模，因此最终确实通过使用无人机证明了这种手段的合理性，而无人机本身就导致了死亡人数减少的事实。然而，尽管严格的功利主义者不会区分遇难者的国籍，但黑尔的等级划分可能会阻止这一点

结论

自治系统在减少所有者伤亡方面具有优势但它们可能同时使战争看起来更像一个无风险的企业，从而降低了发动战争的门槛。一般来说，自主系统可能会降低发动战争的门槛，而且自主系统的比例越高。然而，降低MAS相关阈值的风险可能低于无人机。虽然通过使用无人机快速入侵可以赢得一场战争，但MAS的情况并非如此，因为它们无法出水，至少不远。然而，它们可能充当无人机的平台。因此，我推测，MAS将主要用于防御措施

LOAC中的几个术语可供解释的问题，以及不同的规范理论可能提供相互冲突的结果，是需要解决的挑战，特别是在涉及自治系统时。本文从规则功利主义的角度审视了解释，但在讨论自主军事系统和LOAC中的模糊术语时，使用其他规范性理论（如义务伦理学或美德伦理学）并比较结果可能也很有用

今天讨论这些问题显然很重要，尽管非常先进的机器人可能看起来是假设的。哲学讨论有助于将有关这一问题的思想系统化，今天的伦理辩论有助于形成明天的法律。有一些运动旨在“禁止杀手机器人”，也就是说，甚至禁止开发自主军事系统。完全禁止似乎不太可能，尤其是因为不遵守此类法律限制的国家可能会在技术方面取得进展，但在阅读和开发LOAC时，必须考虑到这些潜在的高度自主武器

本文希望表明，有理由进一步调查这些问题，并且可能需要修改LOAC，可能会增加专门针对自治系统或解释规则的规则。从正义战争理论的角度来看，我们还需要研究一个拥有自治制度的国家打算与一个不拥有自治制度国家开战的困难情况。在这些情况下，确定真正的原因是公正的尤为重要。