特定常规武器公约 (CCW) 致命自主武器系统 (LAWS) 专家会议，5 月 13 日至 16 日2014 年，日内瓦

红十字国际委员会 (ICRC) 声明

主席先生，各位阁下、女士们、先生们，

首先，我要感谢主席先生，感谢您让红十字国际委员会 (ICRC) 有机会展示专家们的亮点' 红十字国际委员会于 3 月组织的会议，讨论了在有关自主武器系统的辩论中出现的技术、军事、法律和人道主义问题。

会议汇集了来自 21 个国家的代表和 13 位独立专家目的是分享观点并更好地理解这些武器引发的问题。

为了红十字国际委员会会议的目的，“自主武器系统”被定义为被罚款为可以独立选择和攻击目标的武器，也就是说，它们在获取、跟踪、选择和攻击目标的“关键功能”方面具有自主权。

我们想首先介绍一些会议亮点；随后是红十字国际委员会补充意见的简要清单。我们首先应该强调，这些亮点并不是为了代表与会者的观点趋同，而是反映了讨论中提出的一些关键点。

首先，它是指出现有的民用自主机器人系统有很大的局限性：它们不能进行复杂的决策和推理；他们感知或适应环境的能力非常有限；因此，它们无法在最简单和可预测的情况之外运行。
还指出，一些在选择和攻击目标的“关键功能”方面具有自主性的武器系统今天已经投入使用。他们往往在以下方面受到高度限制：他们执行的任务、他们攻击的目标类型以及他们使用的环境。
值得注意的是，高度复杂的自主武器系统被编程为独立确定他们的行动、做出复杂的决定和适应他们的环境——被一些人称为“完全自主的武器系统”和“人工智能”——还不存在。
人们认识到维持人类的重要性控制选择和攻击目标的“关键功能”，尽管对“有意义的人类控制”的定义不太清楚。
参与者毫无疑问，在武装冲突中的开发和使用自主武器系统受国际人道法 (IHL) 管辖，包括对新武器进行法律审查的要求。
承认对机器进行编程以实现和做出在攻击中适用国际人道法的区分、相称性和预防措施规则所需的定性判断，特别是在复杂和动态的冲突环境中。这在目前的技术下是不可能的，而且在可预见的未来也不太可能实现。
对于国际人道法是否足以规范自主武器系统的开发和使用，存在不同的观点。一些人认为现有法律就足够了，但另一些人则认为，有必要明确禁止自主武器系统，或者制定法律规范，要求并定义“有意义的人类控制”。
最后，关注被吸引到仔细考虑人道原则和公众良心的要求是否允许机器做出生死决定的重要性 - 几乎没有或没有人类控制。一些人认为，杀害人的方式很重要，即使他们是合法的目标，而且为了尊重人的尊严，夺取某人生命的决定必须由人类决定。

本次会议精选亮点回顾到此结束。我们鼓励各代表团阅读 完整的总结报告，由红十字国际委员会全权负责编写，将在本次会议上提供。

转向红十字国际委员会的补充意见；在红十字国际委员会看来，有六个关键问题在本次会议期间值得特别关注：

1.关于自主武器系统的讨论范围应该是什么？

红十字国际委员会专家会议的范围特意扩大，涵盖任何可以独立选择和攻击目标的武器。这不包括“关键功能”远程控制的武器系统由人类操作员操纵。

红十字国际委员会认为，法律和道德问题不仅限于未来的技术，也可能由使用当前技术开发的自主武器系统引起。

核心问题是人类可能无法控制获取、跟踪、选择和攻击目标的“关键功能”，因此无法控制任何类型武力的使用。

2.什么是“有意义的人类控制”？

似乎普遍认为人类必须对武器系统的“关键功能”和武力使用保持一定程度的控制。但是，需要更清楚地说明“有意义的人类控制”的含义；并且还需要对一些相关问题提供更清晰的答案，例如：所需的人为控制水平在所有情况下都相同吗？以及，“有意义的人为控制”的概念将如何实施？

3.可以从现有武器系统的自主性中汲取哪些经验教训？

对现有武器系统“关键功能”的自主性进行更深入的研究，可以深入了解目前对“有意义的人类控制”的理解以及在何种水平上自主和人为控制可能被认为是可接受的或不可接受的，以及在何种情况下，包括现有系统与国际人道法的兼容性。因此，各国分享对在“关键功能”中具有自主权的现有武器的法律审查可能是有益的。

4.增加自主性对于遵守国际人道法有什么影响？

如果武器系统变得更加自主——拥有更大的“自由”来决定它们的操作——它们可能变得更难以预测。不可预测性将引发有关遵守国际人道法的严重问题。例如：有什么保证武器系统将始终在法律范围内运行？如何对武器系统进行充分测试，并验证其预期用途的性能，而无法预测其可能的影响？如果不能保证武器系统的性能符合国际人道法，武器系统的开发和部署怎么可能合法？

5.自主武器系统是否必要？

各国要问自己的一个关键问题是，是否有可能在完成相同的军事任务的同时保持人类对选择和攻击目标的“关键功能”的直接控制（通过例如远程操作）。如果是这样的话，那么这些功能的自主性可能就没有必要了，至少在大多数情况下不是这样。

6.自主武器系统在伦理和道德上是否可以接受？

最后，也许根本问题是自主武器系统是否符合人道原则和公众良心的要求。对于任何使武力使用不受人类控制的武器系统的想法，人们都会感到非常不安。

红十字国际委员会的补充意见清单到此结束。最后，我想强调的是，红十字国际委员会欢迎在《特定常规武器公约》上进行这些讨论，并鼓励所有国家在制定自主武器系统政策时，在本国和本国国情的持续审议中考虑这些关键问题。< /p>

非常感谢您的关注。

另请参阅 红十字国际委员会报告自主武器系统专家会议，于 2014 年 3 月 26 日至 28 日在日内瓦举行。

简介