尽管围绕使用自主武器的争论愈演愈烈，但该技术的一个新兴子集正在引发新的战略、道德和法律问题。互换无人机，也称为分布式协作系统，是一群小型无人机，可以在有限的人工干预下作为一组移动和行动。去年10月，美国国防部展示了它所说的世界上最大的微型无人机群之一。它向加州上空发射了103架Perdix无人机，他们在那里编队飞行，并在没有人类帮助的情况下展示了集体决策（国防部2017年国防部。2017年。国防部宣布成功的微型无人机演示1月9）。https://www.defense.gov/News/News-Releases/News-Release-View/Article/1044811/department-of-defense-announces-successful-micro-drone-demonstration[谷歌学者]）

交换无人机——尚未在战争中使用，但正在由其他军队测试和开发——对武装部队可以和应该如何使用他们掌握的技术产生了一系列影响。它们可能具有真正的优势，包括减少战争中的人命损失和昂贵的装备。但它们也有潜在的危险。在无人机的破坏潜力达到成熟之前，应该尽早而不是晚些考虑无人机集群带来的风险

杀手机器人到底是什么

一般而言，国际上对无人武器系统的关注已经很多。2013年4月，人权观察组织发起了制止杀人机器人的运动（人权观察组织n.d.人权观察组织。n.d.“杀人机器人。”于2017年1月7日访问。https://www.hrw.org/topic/arms/killer-robots[谷歌学者]）。2015年7月，一些世界顶尖的人工智能（AI）和机器人研究人员发布了一封公开信，呼吁“禁止人类无法控制的攻击性自主武器”（生命未来研究所，2016年）。“自主武器：AI和机器人研究人员的公开信”，7月28日。2017年1月7日访问。http://futureoflife.org/open-letter-autonomous-weapons/[谷歌学者]）。尽管对自主和分布式协作系统的军事研究仍在继续，但美国武装部队内部仍存在着关于什么样的人为控制水平是合适的争论（Magnuson2016Magnuson，S.>2016。“军事蜂鸣研究换无人机。“3月21日。2017年1月访问。http://www.nationaldefensemagazine.org/archive/2016/March/Pages/MilitaryBeefsUpResearchIntoSwarmingDrones.aspx[谷歌学者]）

如果不对自主武器进行定义，就不可能讨论自主武器的法律和道德含义，无论是集群武器还是其他武器，而且这样做比最初看起来更困难。事实上，对于如何描述和分类作为本文主题的关键技术，几乎没有达成一致意见。例如，美国联邦航空管理局（Federal Aviation Administration）经常使用的术语“无人驾驶飞机系统”（UAS）既包括人工控制的无人机，也包括完全自主的蜂群，因为它关注的是相关系统是否有人，而不是它们是否有能力成为完全独立的自主设备。该术语没有说明无人驾驶飞机是执行致命或非致命任务，还是在军事行动中扮演进攻、防御或支持角色。（无人机在军事和民用能力中最常见的用途之一是简单地提供监视和侦察。）

相比之下，联合国在其当前许多研究中使用的术语“致命自主武器系统”（LAWS）排除了无人驾驶无人机，但包括无需人工干预即可操作的“枪支”，比如美国海军的Phalanx和以色列的铁穹（Chansoria，2015年）。“自主武器：紧密平衡。”《原子科学家公报》，11月23[谷歌学者]）。对致命性的关注限制了联合国对攻击或防御系统的讨论。当以这种方式界定问题时，情报、监视和侦察角色被排除在外，这可能会忽略成群的无人机——比如国防高级研究计划局的“格林林”项目——进行情报收集（Adams2016Adams，E.2016）。“DARPA开发的小型无人机可往返于母舰。“4月13日。2017年1月访问。https://www.wired.com/2016/04/darpas-developing-tiny-drones-swarm-motherships/[谷歌学者]）。这可能是一个重要的监督，因为一些学者担心，自主系统通过部署破坏隐私的监控能力可能对国际人权产生影响（Roff2015年Roff，H.2015年.“禁止和管制自主武器。“《原子科学家公报》，11月24[谷歌学者]）

此外，对于如何定义“自治”还没有达成一致，因为不同程度的自治是可能的。正如奥斯陆和平研究所研究员尼古拉斯·马什（Nicolas Marsh）所写，“设定自主门槛将涉及重大辩论，因为机器决策是连续存在的”（Marsh2014Marsh，N.2014。定义自主范围。PRIO政策简报。奥斯陆：奥斯陆和平研究所<[谷歌学者]）。例如，有些系统在某些方面是自主的，但在其他方面则不是；也就是说，系统可能能够自主检测目标，但在没有人为干预的情况下无法向其开火。类似地，防御某一区域的武器系统可能只被允许向具有某些特征的来袭目标开火，比如导弹独有的特征。最后，还有一些系统是由人类发射的，但随后自动选择并摧毁目标。事实上，这样的“火灾和遗忘”系统已经使用了很多年，在多个国家部署了数十个（Marsh，2014年Marsh，N.2014年。定义自治范围。PRIO政策简报。奥斯陆：奥斯陆和平研究所。[谷歌学者]）。尽管美国已经部署了能够自主操作的致命武器系统，但此类系统按照美国政策（Schmitt2013Schmitt，M.2013。“自主武器系统和国际人道主义法：对批评者的回应”。“《哈佛国家安全杂志》，2月5日。[谷歌学者]；国防部2012年国防部2012年 武器系统自主Directive，Washington，DC:国防部[谷歌学者]）

机械群的黎明

在自然界中，最常见的是交换行为，例如一群鱼或一群鸟在一系列精心编排的动作中快速一致地改变方向。交换系统通常由个体代理（如蚂蚁、鸟类、细胞或无人驾驶飞机）组成，这些代理与彼此及其环境相互作用。代理人遵循简单的规则，但代理人之间的集体互动会导致相当复杂和复杂的集体行为，包括突发智能。例如，一个蜂群可以在多次改变方向的同时保持队形

当时隶属于兰德公司的约翰·阿奎拉（John Arquilla）和戴维·朗费尔特（David Ronfeldt）于2000年撰写了第一篇关于军事领域中蜂拥而至的思想的开创性著作，互联单元，以便同时从各个方向打击敌人”（Arquilla和Ronfeldt，2000年）。《战争与军事冲突的未来》，DB311。>[谷歌学者]，8）。尽管他们的工作很有价值，但他们的定义对于在战争中使用蜂群的许多目的来说太有限了。新美国安全中心的Paul Scharre提供了更有用的解释，他将群集定义为“大量分散的个体或小团体，作为一个整体协同作战”（Scharre2014年Scharre，P.2014.战场上的机器人第二部分：即将到来的蜂群。华盛顿特区:新美国安全中心[谷歌学者]，26）。通过遵循简单的规则来指导群体中个体成员的行为，群体可以表现出紧急智能。当群体的代理遵循这些规则时，就会产生复杂而统一的行为。要做到这一点，群体中的代理必须是同质的：它们必须具有相同的物理特性、相同的程序和相同的传感器。传感器很重要，因为用于指导群体行为的规则通常基于群体之外的环境因素。最后，自治群中的代理必须能够相互通信

在自然界中，一个群体的大小可以有很多数量级的变化——几十只鸟或数百万个微生物可以显示出群体的智能。目前军事应用的最新技术仅限于数十架至数百架无人飞机的机群。这一范围似乎是制造蜂群的最佳地点，因为无人机的能力很强，但仍比有人驾驶的同类飞机便宜得多。美国海军的LOCUST计划——低成本无人机集群技术的简称——遵循这种方法（汉堡，2016年）。http://www.defensetech.org/2016/01/04/u-s-navy-plans-to-fly-first-drone-swarm-this-summer/[谷歌学者]）。LOCUST的目标是让30架无人机像一群鸟一样一起飞行。一名人类飞行员控制着蜂群的行为，但不驾驶单独的无人机；它们自动保持队形。对于30架无人机群来说，LOCUST的成本约为50万美元，不到其所寻求替代的价值百万美元的鱼叉反舰导弹价格的一半

展望未来，更大规模的蜂群肯定是可能的。据中国电子科技集团公司高管郑登洲介绍，“目前，一个人可以控制系统中的多架无人机。在未来，一个人将能够控制数百架和数千架无人机”（Hambling 2016 b）。“《流行力学》，12月23。http://www.popularmechanics.com/military/research/a24494/chinese-drones-swarms/[谷歌学者]）。Scharre认为，军方可能会制造出数以百万计，甚至数十亿计的超廉价3D打印微型无人机。为了证明他的观点，他引用了哈佛微型机器人实验室研究人员制造的一架微型无人机；它被称为“Mobee”，它是使用3D打印机制造的，该打印机可以生成二维表单，然后可以折叠以创建三维、类似昆虫的车辆。这种小型无人机的商业化可能还有5到10年的时间（Ravindran2014年Ravindra，S.2014年。“昆虫启发视觉帮助这些微型机器人飞行”2017年6月17日。访问2017年12月26。http://motherboard.vice.com/read/insect-inspired-vision-helps-these-tiny-robots-fly[谷歌学者]//span>），但此类系统的开发现在似乎是不可避免的

军事用途

互换无人机可通过以下三种方式使用军事力量：攻击、防御和提供支持功能，和侦察（Scharre2014Scharre，P.2014.战场上的机器人第二部分：即将到来的蜂群.华盛顿特区:新美国安全中心.[谷歌学者]>

尽管无人机的潜在进攻用途受到了极大的关注，但它们在防御方面可能同样有用，尤其是当对手使用群集战术时。美国海军已经进行了模拟，以确定船只保护自己免受成群无人机攻击的能力，结果令人清醒：如果八架无人机攻击一艘船，那么平均而言，三种武器穿透其防御系统，包括先进的自动防空武器，如Phalanx（Hambling2016aHambling，D.2016年a[谷歌学者]）。当攻击无人机的数量增加时，结果会变得更糟。毫不奇怪，海军目前正在研究使用防御蜂群来阻止攻击者（Hambling2016aHambling，D.2016年a。“美国海军计划今年夏天飞行第一个无人机蜂群”。http://www.defensetech.org/2016/01/04/u-s-navy-plans-to-fly-first-drone-swarm-this-summer/[谷歌学者]）。事实上，无人机群可能是保护自己免受无人机群攻击的有效方式：无人机对无人机，如果你愿意的话。

无人机群也可以用于防御目的，通过制造大量诱饵来制造混乱或主动扰乱攻击部队。Scharre描述了如何使用小型空中发射诱饵欺骗敌方雷达。他还指出，大量无人机可能会在敌方机场上空盘旋，以防止飞机起飞。类似的战术也可以用来保护一块领土，防止敌方直升机或飞机飞越，尽管这种任务的难度会随着需要保护的区域的大小而增加。

指挥和控制

与致命自主武器系统相关的一个担忧是，它们可能会在没有有意义的人控制的情况下选择和攻击目标（人权观察2016年人权观察。2016年。“联合国：'杀手机器人'的关键行动。”<16年。https://www.hrw.org/print/297850[谷歌学者]）。蜂群可能会进一步加剧这种担忧，因为它们可能能够以“智能”的方式进行攻击，即使蜂群的成员遵循简单的规则。如果一个群体以没有预料到的方式“学习”，或者发展出一种无法预见的复杂程度，会怎么样？当一个系统对动态变化的环境做出实时反应，并基于简单的规则集做出决策时，可能会自然而然地出现意想不到的行为。我们还必须记住，对手可能会通过欺骗无人机，入侵他们的传感器或干扰他们的通信链路（Russon2015Russon，M.-A2015。“想知道如何破解军用无人机？这一切都在谷歌上”《国际商业时报》5月8。http://www.ibtimes.co.uk/wondering-how-hack-military-drone-its-all-google-1500326[谷歌学者]）

尽管这些风险是真实的，但出于几个原因，人为蜂群横行的可能性并没有许多人担心的那么高。首先，当蜂群在军事环境中使用时，它们被编程为完成特定任务或任务，作为更广泛计划的一部分——它们可能的行为范围是有限的。美国军方竭尽全力维持对成群无人机的指挥和控制，与其他武器系统一样（Scharre2014Scharre，P.2014.战场上的机器人第二部分：即将到来的蜂群.华盛顿，DC：新美国安全中心.[谷歌学者]，35）。精确的控制水平和群体自主性将因任务而异；然而军事理论要求人类控制者确保蜂群遵守适当的交战规则和人道主义法原则（国防部2012年国防部。2012年.武器系统自主性。指令，华盛顿特区：美国国防部.[谷歌学者]）。国际人道主义法著名学者、美国海军战争学院教授迈克尔·施密特（Michael Schmitt）表示，“按照目前的设想，自主武器系统将只攻击符合预定标准的目标，并将在人类操作员设定的作战区域内发挥作用”（Schmitt2013<施密特，M.2013）。《自主武器系统与国际人道主义法：对批评者的回应》，《哈佛国家安全杂志》，2月5日。为了解决因干扰或黑客攻击而导致的未经授权行动可能影响指挥和控制的风险，无人机可以在彼此或其人类监督员失去联系的情况下使用默认行为规则进行编程

法律和道德考虑

围绕致命自主武器系统的争论的核心主要是与使用可能不受人类控制的系统相关的法律和道德考量。法律讨论主要集中于自动化系统执行国际人道主义法关键原则的能力：区别、必要性、，以及相称性（Schmitt2013Schmitt，M.2013。“自主武器系统和国际人道主义法：对批评者的回应”《哈佛国家安全杂志》，2月5日。[谷歌学者]）。有两个关键问题。首先，在艰难的战场环境下，自主武器能否可靠地区分战斗人员和平民——并且只针对前者？第二，自主武器能否只使用击败敌人所需的数量和种类的力量，而不会走得更远，造成平民生命的过度损失

目前，涉及人类控制系统的军事行动遵循国际人道主义法。这是美国及其主要盟友政策的基本原则，美国政府希望自主系统遵循相同的原则（国防部，2012年国防部。2012年.武器系统自主。Directive，Washington，DC：国防部.[谷歌学者]）。有待讨论的主要问题是，完全自主的系统能否做到这一点。答案取决于“完全自主”一词的含义——哪些功能是自动化的以及这种系统是否仍处于某种程度的人为控制之下。这还取决于部署自主武器系统的一方的意图。如果一个政府希望其自主武器遵守国际人道主义法，它可以采取措施确保它们这样做。最后，答案取决于系统的技术能力，以及它在面对新的和复杂的情况时能否表现出理想的行为

第二个可能适用于围绕自主武器系统的辩论的法律框架是国际人权如果这些系统被用于可能危及隐私的监控，这将成为一个问题

围绕自主武器的主要伦理争论集中在两个主要问题上：第一，使用自主武器而不是人类控制的武器是否或多或少有道德？为了回答这个问题，我们必须权衡使用无人系统的潜在好处，例如更好的决策和减少操作无人系统的一方的生命损失，以及无人系统可能造成的潜在危害，例如从决策中消除人的情绪和增加附带损害的风险。第二，在战争中使用自主系统本身是一种不道德的行为吗？联合国人权理事会特别报告员克里斯托夫·海恩斯认为，允许机器做出生死决定是对人类尊严的侮辱（裁研所2015年裁研所。2015.《日益自主技术的武器化：考虑到道德和社会价值》。纽约，纽约：联合国：裁研所资源。第3号。[谷歌学者]，7）

需要考虑的最后一个道德问题是，自主武器系统因扩散而产生的潜在未来影响——在无人机成群的情况下，这一问题可能尤为严重。学者和军事官员都表示担心，如果美国今天开发自主武器，可能会导致其扩散，并被道德顾虑较少的对手使用。英国皇家空军上校克莱夫·布朗特（Clive Blount）写道：“不同的文化对被视为道德和道德的东西可能有着截然不同的看法……因此，我们可能会在未来面对一个在自主方面行动自由远大于我们自己的对手。”（Blountn.d.Blount，集团队长克莱夫。n.d.“远处的战争？-空中力量实践者的一些想法。”空中力量评论31–39。[谷歌学者]>>《人权观察。2016年。“联合国：'杀手机器人'关键行动。”“<12月<16。https://www.hrw.org/print/297850[谷歌学者]）。相反的观点是，不良行为者无论如何都可能部署这些类型的系统。如果他们这样做了，那么像美国这样的国家放弃同样的技术用于防御目的可能是不明智的

重大决策

学者、科学家和决策者正在努力解决的最终问题是，是否应该禁止、管制或允许致命的自主武器系统。毫不奇怪，这些问题不容易分析。棘手的问题等待着：如果要实施禁令，应该在什么时候实施——先发制人还是在这些武器被更好地了解和理解之后？禁令到底应该适用于什么？它会阻止部署防御性自动化系统和进攻性自动化系统吗？各国会同意这样的禁令吗？如果有些人不这样做，但有些人会这样做，那么后者在军事上会处于劣势吗？禁令将如何执行

如果未来的道路是监管而不是禁令，那么类似的问题也会出现。具体将对什么进行监管？谁将决定应适用哪些法规，谁将执行这些法规？违规者将面临什么后果？试图回答这些问题涉及到关于运营效率、技术成熟度、法律权利和道德观点的复杂辩论

由于无人机呈现出的攻防动态，因此很难解决互换无人机的问题。早期实验表明，抵御攻击性蜂群的唯一有效防护措施可能是防御性蜂群（Hambling2016aHambling，D.2016年a[谷歌学者]）。如果这是真的，那么先进的军队将被激励发展蜂群。这一动态是如何发挥的：如果部署了防御群，那么攻击者可能会觉得需要创建比他们将面临的防御群更大、更强大的攻击群。同时，如果部署了进攻群，那么防御者将需要部署防御群，因为这是他们能够自卫的唯一方式。很容易看出，集群开发和部署如何导致以这些技术为重点的军备竞赛。
目前，正在进行两项引人注目的努力，以帮助预测未来的道路。2016年10月，白宫发布了一份关于人工智能未来的报告，报告申明，“所有武器系统，无论是自主的还是其他的，都必须遵守国际人道主义法，包括区分和相称原则”（2016年总统执行办公室总统执行办公室。2016年.为未来的人工智能做准备。Washington，DC：白宫：国家科学技术委员会技术委员会[谷歌学者]，37–38）。然而，报告也承认，由于技术发展的快速步伐，美国必须制定一项政府范围内的自主武器使用政策，该政策“符合共同的人类价值观、国家安全利益以及国际和外交义务”（2016年总统执行办公室总统执行办公室。2016年.为未来的人工智能做准备。Washington，DC：白宫：国家科学技术委员会技术委员会[谷歌学者]，38）。
在国际上，联合国《特定常规武器公约》（CCW）正在审查《法律》问题。《特定常规武器公约》的目的是“禁止或限制使用被认为对战斗人员造成不必要或不合理的痛苦或不分青红皂白地影响平民的特定类型武器”（联合国日内瓦办事处“《特定常规武器公约》。”2017年1月访问。http://www.unog.ch/80256EE600585943/（httpPages）/4F0DEF093B4860B4C1257180004B1B30？OpenDocument[谷歌学者]）。《特定常规武器公约》成立了一个政府专家组，负责研究这一问题并提出建议（Sukumar2016Sukumar，a.M.2016）。“印度将担任联合国'杀手机器人'小组主席，开启军备控制外交新篇章。”The Wire，12月19日。访问日期：2017年1月2。https://thewire.in/87890/india-chair-un-group-killer-robots-open-new-page-arms-control-diplomacy/[谷歌学者]）。虽然该组织的建议不具有法律约束力，但它们可以作为一套影响国际行为的准则。这种类型的专家组过程通常需要几年时间，这意味着关于自主武器系统（包括蜂拥而至的无人机）命运的决定并非迫在眉睫。与此同时，美国有机会制定一项政府范围的政策，并继续探索这些制度的好处和风险。互换无人机带来了许多好处，但也带来了需要为所有人的利益而解决的风险。

简介