有一天不受人类直接控制的机器做出生死决定的可能性需要认真对待。在过去几年中，我们看到了无人机技术领域的快速发展，自主程度不断提高。据我们所知，虽然目前还没有经批准的无人驾驶系统投入运行，但该技术正在测试和开发中。一些人认为使用自主无人机带来了新的机会和潜在的好处，另一些人则认为开发和使用这种技术本身就是不道德的。斯蒂芬·霍金、埃隆·马斯克和史蒂夫·沃兹尼亚克等有影响力的人已经敦促禁止使用自主武器或人工智能进行战争。那么，我们的立场是什么，主要的法律和道德问题是什么

走向自主无人机

迄今为止，自主无人机一词还没有商定的或法律上的定义。工业界广泛使用“自主”标签，因为它给人一种非常现代和先进的技术的印象。然而，一些国家对所谓的自主无人机有更严格的定义，例如，英国将其描述为“……能够理解更高层次的意图和方向”（英国国防部，《英国无人机系统方法》，2011年）。一般来说，大多数军事和航空当局称无人机为遥控飞机（RPA），以强调无人机在操作员的直接控制下飞行

诺斯罗普·格鲁曼公司的“BAT”（前雷神公司的“KillerBee”）是一种中高度无人机，能够在各种传感器和有效载荷的作用下进行远距离操作，可能至少具备电子战能力。（诺斯罗普·格鲁曼公司提供）src=https://www.nato.int/docu/review/files/3536_tn718.jpg — 诺斯罗普·格鲁曼公司的“BAT”（原雷神公司的“KillerBee”）是一种中等高度的无人机，能够使用各种传感器和有效载荷进行远距离操作，可能至少具备电子战能力。（由诺斯罗普·格鲁曼公司提供）

大多数人可能会将“自主无人机”的概念理解为复杂的东西，例如，无人机可以根据自己选择的选项（在军事术语中通常定义为系统主动和完全自主）来行动。此类无人机在执行任务时可能遇到的不同挑战，其程序中有大量的替代反应。这不是科幻小说——这项技术在很大程度上已经开发出来，但据我们所知，目前还没有经过批准的自动无人机系统投入使用。限制因素不是技术，而是开发或承认拥有此类政治敏感技术的政治意愿，这将允许致命机器在不受人类直接控制的情况下运行

开发和批准具有此类技术的飞机面临的最大挑战之一是，开发令人满意的验证系统极其困难，这将确保该技术是安全的，并且与人类一样。在实践中，这种先进的无人机将涉及到可供选择的行动方案组合的数量惊人的编程，使其无法验证和测试到我们对载人飞机所习惯的水平。也有人认为自主意味着“人工智能”——学习甚至自我开发应对新挑战的可能行动方案的系统。我们不知道我们即将在这类技术上取得突破，但许多人担心我们可能真的会取得突破。

自主无人机——即为应对新出现的挑战而设计了无数人类定义的行动课程算法的先进无人机——已经在多所民用大学和军事研究机构进行测试。我们看到了“成群的无人机”（无人机跟随其他无人机执行任务）的测试，当然，这些测试完全依赖于自主处理。我们还看到了与有人驾驶飞机一起运行的无人驾驶无人机的测试，从美国空军称之为（无人驾驶）忠诚僚机，到波塞冬P-8海上巡逻机和无人驾驶TRITON飞机的广域海上监视（BAMS）系统，所有这些都是经过良好测试的。我们还看到无人驾驶系统的进一步发展，无人驾驶系统将从有人驾驶飞机上出动，以独立工作或扩展“母飞机”，例如，最近测试的PERDIX纳米无人机，其中100架无人机是从F-18“母飞机上落下的。这样的无人机必然具有高度的自主性。例如，美国的规划中对这些发展和愿望进行了很好的描述2014年出版的文件《美国空军RPA矢量-愿景和使能概念2013-2038》，以及此类研究的其他文件甚至视频都广泛可用。自主技术的前景，无论是飞行无人机、水下机器人还是其他致命武器系统，显然为军事力量带来了新的机遇

“PERDIX”是为美国国防部/海军航空系统司令部与麻省理工林肯实验室共同开发的微型无人机集群系统。（WarLeaks）看看这段从美国F-18“母机”上试射100架无人机群的视频。钢筋混凝土=https://www.nato.int/docu/review/files/3537_tn718.jpg — “PERDIX”是为美国国防部/海军航空系统司令部与麻省理工林肯实验室共同开发的微型无人机集群系统。（WarLeaks）
查看这段视频，该视频展示了美国F-18“母机”上100架无人机群的测试发射

在飞行飞机的情况下，我们了解到，培训飞行员和操作员需要很长的时间。自主无人机的发展将带来的最大变化之一是，在不久的将来，军事力量可以在比以前更短的时间内发展出强大的战斗力。重要的是要注意——许多人已经注意到——为操作无人机创建基础设施和培训地勤人员并不比培训机组人员更便宜或更容易。然而，一旦到位，无人机机组人员和操作中心将能够操作大量无人机。类似地，传统的有人驾驶飞机将成为当地作战或情报系统的中心，无人机可作为干扰、武器投放平台或多传感器平台系统的辅助作用。超越过去一名飞行员驾驶一架飞机或一名机组人员驾驶一架无人机的限制，让一名机组成员可以控制大量无人机，这将是非常开创性的

这些对新型高科技武器系统的看法——以及它们引发的恐惧——是我们对自主无人机和武器系统进行研究的背景。几乎不可能评估这些技术何时会普及——这取决于形势和各国的需要。然而，这些技术正在变得可用，并且正在成熟，我们认为，有关法律和道德挑战的艰难讨论应该尽快解决，而不是迟些解决

法律视角

一般规则适用，但并非如此简单

>如果在武装冲突期间使用自动无人机，则应遵守武装冲突法的一般原则和规则。在这方面，自主无人机不应与任何其他武器、武器系统或武器平台区分开来。与任何“战争手段”一样，自动驾驶无人机只能针对合法目标（军事目标和战斗人员），攻击不得造成过度的附带损害

X-47B无人作战飞行器（UCAS），由诺斯罗普·格鲁曼公司与DARPA合作开发，通常被称为“半自主”。（诺斯罗普·格鲁曼公司提供）src=https://www.nato.int/docu/review/files/3538_tn718.jpg — 诺斯罗普·格鲁曼公司与DARPA合作开发的X-47B无人作战飞行器（UCAS）通常被称为“半自主”。（诺斯罗普·格鲁曼公司提供）

然而，自动驾驶无人机的某些特殊功能可能会对《武装冲突法》的适用提出挑战。自主无人机，无论最终选择如何定义，都能够在一定程度上在时间和空间上自主操作。在攻击过程中，这种（潜在的）对武器或武器系统没有人为干扰的情况，引发了法律何时何地要求在决策周期中有人在场的问题。在为这个问题提供一些初步答案之前，我们需要强调指挥官在攻击决策过程中必须遵守的法律要求的某些方面

法律要求合理的指挥官真诚行事

武装冲突期间适用的若干法律义务是为了适应“战争迷雾”。其中一些法律规则包含灵活的表达方式，让军事指挥官在解释和决定什么是“军事优势”以及这种优势对整个攻击有多重要时有一定的自由裁量权。此外，他们必须权衡这一优势与预期附带损害的相对重要性（比例）

这种自由裁量的余地与军事指挥官的期望相匹配，即军事指挥官本着诚意行事，并根据当时合理掌握的信息评估军事优势（以及附带损害）。在作出袭击决定时，参与策划或实施袭击的军事指挥官必须采取一切“可行的预防措施”，以“核实”袭击并非针对受保护的人或受保护的物体，并且袭击预计不会违反比例原则。这些自由裁量的概念如何适用于自动驾驶无人机的使用

需要多少人触摸

自主无人机无法进行人类意义上的推理。他们没有人类的意识。到目前为止，无人驾驶飞机（或任何自动系统）无法在法律范围内取代人类。上述要求似乎假定了决策周期的“循环中的人”。在攻击决策的某个时刻，人类必须决定攻击什么以及目标的重要性。关键问题围绕着决策周期有多宽。

本文基于2016年在挪威出版的一本书中的研究：“Når — 这篇文章基于2016年在挪威出版的一本书中的研究：
“**Når dronne våkner:Autonome våpensystemer og robotisering av krig**”（奥斯陆；CappelenDamm，2016），在时间和空间上受限的自主机器（以及“自主”动物）可以帮助人类操作员&但哪里需要限制？与任何有关战争的法律问题一样，答案必然是间接的。如果环境人口密集（如城市地区），限制必须比人口较少的地区（如公海或水下）更严格。在这里，与其他地方一样，魔鬼埋在细节中：在某些情况下，自主武器系统可能（合法地）被“单独”运行数小时或数天，而在其他情况下，所有自主都应该被关闭，以依赖人类的判断或错误

**从法律到道德**

我们还必须认识到在关于自主无人机的辩论中道德的相关性。遵守法律是任何军事和政治决策的核心，包括自主无人机的开发和使用。尽管法律和道德经常重叠，但可能存在重大的道德问题，特别是在新兴军事技术的情况下，现行法律没有适当解决这些问题。换句话说，道德反思可以通过在这些“灰色地带”提供规范性指导来补充法律。为了实现良好的政治治理，强调道德义务何时应超过法律义务也可能很重要

自主无人机的伦理观点

反对自主武器系统的人经常担心将生死决定权交给非人类代理人。一个主要的担忧是，让机器“决定”杀死一个人会损害人类的生命价值。从这个角度来看，人类的生命具有如此重要的价值，以至于机器决定结束生命是不合适的——换言之，开发和使用自主无人机本身就有一些不道德的地方

也许很难证明自主无人机能够满足“正义战争传统”中的歧视原则。即使是人类士兵，也很难对“战争迷雾”中的合法目标做出道德判断。人们担心的是，允许自动驾驶无人机做出这种区分很可能会导致平民伤亡和不可接受的附带损害。即使这种武器系统能够区分战斗人员和非战斗人员，但无人驾驶无人机是否能够评估攻击是否相称，即攻击是否会造成不必要的痛苦，仍然是一个问题。然而，除了不确定自主无人机未来将具备何种技术能力来做出这种区分之外，人们还可以认为，如果这些武器系统无法在战时作战法的要求下运行，那么它们不太可能被部署，至少在对平民造成过度伤害的风险很高的作战环境中

另一方面，也可以认为使用自主无人机是不仅从道德角度来看可以接受，甚至在道德上也比人类士兵更可取。无人驾驶飞机将能够处理比人类士兵更多的传入感官信息，因此可以做出更明智的决定。由于机器的判断不会受到恐惧和愤怒等情绪的影响，这可能会降低人类士兵犯下战争罪的风险

使用自动驾驶无人机还可以改善人道主义任务的某些方面，使正在接受援助的平民受益，并降低士兵的风险。使用自主系统搜索危险区域或执行高风险任务，如炸弹处理或清理房屋，将消除人类士兵受伤或死亡的风险

“TRITON”是一种先进的情报、监视和侦察任务系统，可以在控制或自主的情况下运行。（诺斯罗普·格鲁曼公司提供）src=https://www.nato.int/docu/review/files/3540_tn718.jpg — “TRITON”是一种先进的情报、监视和侦察任务系统，可以在控制或自主的情况下运行
（由诺斯罗普·格鲁曼公司提供）

然后，这些发展可能会对“正义战争传统”的战时标准产生影响。通过将士兵完全撤出战场来限制他们的风险，可能会使战争变得过于“容易”，从而将其变成一个低成本的技术企业，不再需要任何公共或道德承诺

我们站在哪里？我们应该去哪里

很难预测未来，但自主无人机的技术潜力已经在测试和开发中。它们将在多大程度上成为重要的军事技术将取决于各国的需求，而这又将取决于未来的安全局势。在出现这种情况之前，最好制定一个法律和道德框架

显然，自动驾驶无人机提出了有关无意伤害责任的重要司法和道德问题。这些技术造成了一些道德责任缺失。当部署自主军事系统时，如何分配责任变得不那么明确。必须通过技术解决方案和法律法规妥善解决这些潜在的责任差距。因此，北约和盟国应就这些问题进行国际讨论。与此同时，技术发展将继续，无人驾驶飞机——无论其设计技术多么复杂——仍然是人类手中的产品和工具。我们对战争的基本责任和战争的方式绝不可能在道德上“外包”，尤其是外包给机器

简介