采用人工智能（AI）和机器学习进步的新兴军事技术-配备了改进的传感器技术和机器人技术-有望改变战争（Vergun 2020）。一些技术，特别是自主武器系统（AWS），通常被称为杀手机器人，在没有重大人类评估或监督的情况下运行，被描述为“战争的第三次革命”（Lee 2021）。

我们还没有看到在无人负责的情况下，能够发现、选择和攻击目标的操作系统。一些分析师认为，此类系统仍在开发中（Knight 2022；Woodson 2020）。其他人则认为，它们存在，但尚未部署到能够测试任何声明的规模（Kallenborn 2022）。

先进的军队已明确表示对此类系统感兴趣。原因包括反应速度和增强的态势感知，以及压倒对手防御系统的能力。然而，包括美国在内的几个国家也声称，AWS可以加强国际人道主义法（IHL）的实施，并通过限制附带损害来保护平民（达成关键意愿2019）。正如美国前国防部副部长罗伯特·沃克（Robert Work）所言，“至少追求这一假设在道德上是必要的”（路透社2021）。

但开发和部署自主武器存在风险。人工智能技术对系统至关重要，其不可靠性和脆弱性使得这种假设的测试可能对平民有害（Morgan等人，2020）。还有运营方面的问题；例如，目前还不清楚AWS将如何在更广泛的军事行动中与载人平台进行交互。关于AWS在战场等复杂且快速变化的环境中如何应对，目前尚无具体信息。

专家们也不同意如何将现有法律和规范应用于这些新武器（2022年冬季）。由于如此之多的未知和如此之少的共识，所有关于AWS对平民和民用基础设施的直接和间接影响的说法都必须仔细审查。

我们目前对自主武器的理解

我们是否看到了杀手机器人的积极部署？答案取决于该技术的定义。一些国家和专家认为，完全自主的武器系统并不存在，任何国家都不需要（Jeangène Vilmer，2021）。在他们看来，任何人类参与都意味着系统不是自主的。有了这个限制性定义，自主武器的整个问题就消失了。

但某些系统的自主能力似乎正在增加。在利比亚冲突中积极使用土耳其制造的Kargu-2型徘徊弹药似乎显示出强大的自主能力，包括独立攻击目标的能力（Kallenborn 2022）。然而，Kargu-2的制造商对其人工智能能力讳莫如深，没有提供任何具体信息，说明其是否能够独立运行或始终在操作员的控制下运行。制造商也倾向于宣传自主功能，这可能不包括任何独立选择和参与目标的能力（Knight 2022）。当然，开发和使用这些新技术的国家坚持认为它们不是自主的。例如，土耳其在非正式讨论中坚持认为，卡古-2型机器人并非完全自主，人类处于控制之中（Marijan和Standfield，2021）。

去年秋天，美国空军部长弗兰克·肯德尔（Frank Kendall）向观众保证，在空军首次使用人工智能帮助识别“实时作战杀伤链”中的一个或多个目标后，人类是最终的决策者（米勒，2021）。未提供验证

《联合国特定常规武器公约》（CCW）是审查自主武器的关键国际论坛，经过七年的讨论，人们初步认识到致命武器必须由人类控制。然而，对于人类操作员必须对武器系统保持的意识和控制水平，没有达成一致意见。

但对这一控制水平的共同理解，尤其是对关键职能（如目标选择和参与决策）的共同理解对于建立和确保人的问责制至关重要。如果无法证明操作的人为控制水平很高，那么谁将对系统的工作负责？谁应该为受伤或死亡的平民和受损或毁坏的民用基础设施负责。

如果一个做出独立决策的武器系统似乎没有预料到所有情况这可能涉及平民，软件开发人员能否承担责任（Sharkey 2012；2022年冬季）？也许，尽管这样的尝试似乎更有可能导致责任的扩散。通常情况下，大量的个人参与了系统的编码和培训，通常不了解其他人的活动，甚至不了解整个最终产品。此外，正如Missy L.Cummings（2019）所指出的，“目前在美国，军事武器制造商在战场上的事故得到了赔偿。”

谁要对受伤或死亡的平民和受损或毁坏的民用基础设施负责。

尽管AWS的开发人员和用户坚持维护人工操作员的重要角色，但关于该角色的性质仍存在许多问题。操作员是否简单地批准系统做出的决定，可能与目标事件有时间和空间上的距离？或者，该系统是否能够根据预先批准的目标轮廓，使用传感器输入来搜索目标，例如，识别持有武器的适龄男性？换言之，人类操作员是否具备所有必要的信息和能力来做出基于证据的决策，从而防止意外受害者成为目标？区分战斗人员和非战斗人员的系统有多好？他们和人类一样好吗？

那些支持自主系统开发的人可能会说他们比人类更好。对一些人来说，士兵和操作员的人性化是这项技术解决的问题。William H.Boothby（2018）认为，“机器人技术不会因恐惧、愤怒、复仇、失忆、疲劳或其他人类特有的弱点而扭曲。”

但Elliot Winter（2022）认为，要使此类技术正常工作，“机器需要具备先进的观察和识别技能以及复杂的判断能力。”，这些能力将确保遵守国际人道主义法的区分原则，即区分战斗人员和非战斗人员的能力。

然而，如果人类受到情绪和偏见的影响，那么这些人类编码的技术也是如此。研究人员已经证明，人工智能技术往往不成比例地歪曲弱势社区（Gebru 2020）。例如，图像识别常常错误地识别女性和种族化的少数群体。

另一个问题与技术有关，它不能充分区分不同类型的行为者。一些专家担心个人群体可能被错误识别；例如，持有援助设备的残疾人可能被视为持枪士兵。一个关键问题是，该技术在区分冲突地区不同类型的行为者方面有多准确。系统的判断能力是否会受到性别或种族等因素的影响（Cummings 2017；Hunt 2019；Ramsay Jones 2020）？还有一个更复杂的问题。温特承认，冲突地区的战斗人员可能会失去战斗力，不再能够或愿意战斗。机器可能很难解释这种变化。

第三代无人机时代src=https://www.cigionline.org/static/images/Third_Drone_Age_UDbbxrE.2e16d0ba.fill-377x246.pngwidth=377

推荐

第三代无人机时代：展望2040年

>

这项技术是否能够实现类似人类的判断，值得商榷。人工智能专家推测了实现“人类水平”认知的各种时间表，但即使是最乐观的人也不认为2075年之前发生这种情况的可能性很大（Müller和Bostrom 2016）。这样的时间框架提高了武器系统在修复所有缺陷之前投入使用的可能性。在这种情况下，任何保护平民和其他非战斗人员的主张充其量都是虚伪的。

确保平民保护

需要严格的法规，以确保在未来几十年内开发的系统真正保护平民和其他非战斗人员（博拉宁、布鲁恩和古萨克，2021）。

必须授权对武器系统进行足够的人力控制。任何依靠传感器输入来决定目标选择和交战的武器系统都应被视为高风险且不可使用。目前，各国似乎普遍接受不应使用已经被禁止的武器的自主功能。

最容易穿透的武器平台平民地区最需要严格监管。其中包括自动驾驶飞行器（无人机）、徘徊弹药和坦克。最大的问题不在于此类系统是否能够自主调查某个区域，而在于它们是否能够选择或参与目标识别。

必须限制向可将此类系统用于非出口商预期用途的国家出口技术和系统，在某些情况下，还必须进行监测。监测尤其重要，因为将被纳入自主武器系统的许多技术具有多用途性质。

必须发生的事情

支持者经常将自主武器描绘成真空中的存在，与过去和当代冲突中导致平民和民用基础设施成为目标的政治考虑和军事战略不同。然而，相关文献表明，各州往往在战略上以平民和民用基础设施为目标（Downes 2008；Sowers和Weinthal 2021）。因此，AWS可以被指示以平民为目标，或可能决定以平民为对象，以实现给定的目标，例如保护城市的一部分。

国家行为者仍然负责制定总体目标。最终，他们将决定如何使用这些新系统。如果没有确保平民保护的具体限制、条例和做法，就不清楚自主系统如何增加对平民的保护。另一方面，自主系统可能出现错误和意外行动，这可能会以军事领导层无意的方式升级冲突。

观察

>人工智能武器运行的法律空白

1

2

<1/div>

3

<2div>

当部署使用人工智能技术的武器系统时，世界需要特定的法规来唤起平民保护措施。必须对人的控制程度进行最低限度的限制，并对可使用的自主武器系统的类型和使用情况进行限制。正如Paul Scharre（2018）正确地指出的那样，如果这些系统遵循一些现行法律，但在不了解上下文的情况下运行，它们可能会采取人类士兵和操作员在道德和伦理规范指导下不会采取的行动。

各国最终必须同意这些条例并确保保护平民。到目前为止，《特定常规武器公约》的协议仍然难以达成，更强大的国家不愿意进行认真的讨论，而是允许俄罗斯等国家充当破坏者，阻止所有达成具有法律约束力的文书的行动。然而，尽管存在当前的地缘政治现实，但制定法规的一个潜在共同原因是，人们认识到这些武器会扩散，并可能被转移给非国家组织和恐怖组织。防止这种破坏稳定和危险的扩散符合所有国家的利益，并应使各国更容易接受监管努力的需要。

以前的军备控制和裁军协议为解决人工智能技术监管方面的看似独特的挑战提供了重要见解。例如，《生物武器公约》和《化学武器公约》就处理人工智能技术的双重用途（即民用和军用）问题制定了相关框架。此外，还可以关注武器的行为和作战用途，例如限制或禁止使用针对人员的系统。

如果没有这些规则和限制，武装冲突中平民面临的风险将继续增加，因为如果不加以控制，自主武器系统将带来不可预测性和潜在风险

简介