《特定常规武器公约》，致命自主武器系统专家会议，2015年4月13日至17日，日内瓦。红十字委员会的声明

谢谢主席先生

红十字国际委员会（红十字委员会）很高兴向《特定常规武器公约》第二次致命自主武器系统专家会议发表意见。以国际人道主义法（IHL）为基础的《特定常规武器公约》为我们进一步理解武装冲突中自主武器系统的开发和使用所带来的技术、法律、道德和政策问题提供了一个重要框架

本周将提供一个机会，在去年会议的基础上，更清楚地了解自主武器系统的定义特征及其当前发展状况，以便开始确定解决这种新的战争技术引起的法律和伦理问题的最佳方法。正如我们先前所说，任何武器系统的使用都超出了人类的控制范围，人们对此深感不安

我们将有机会在专题会议期间更详细地发表评论，但首先我们想强调红十字委员会认为本周应重点关注的几个关键点

我们首先要回顾的是，红十字委员会目前并没有呼吁禁止或暂停“自主武器系统”。然而，我们敦促各国在进一步发展或在武装冲突中部署武器系统之前，考虑武器系统“关键功能”的自主性所带来的基本法律和道德问题

我们还想强调，随着我们对当前和潜在技术能力、武器自主的军事目的以及由此引发的法律和道德问题的更好理解，我们对这一复杂问题的思考将继续发展

为了确保有重点的讨论，红十字委员会认为，重要的是要对讨论的对象，特别是自主武器系统的构成有更清晰的共同理解。在不进行定义练习的情况下，需要为讨论设定一些边界

正如红十字委员会在去年的《特定常规武器公约》专家会议上提出的那样，自主武器系统是指在其“关键功能”方面具有自主性的武器，这意味着一种可以选择（即搜索或探测、识别、跟踪）和攻击（即拦截、使用武力打击、中和、破坏或摧毁）目标而无需人为干预的武器。我们建议，重点关注武器系统这些“关键功能”的自主性如何发展是有益的，因为这些功能与“目标决策”最为相关，因此也与遵守国际人道主义法，特别是其关于区分、相称性和攻击预防的规则最为相关。自主选择和攻击目标的关键功能也引发了重大的伦理问题，特别是当对人类目标自主使用武力时

红十字国际委员会认为，这将最有助于就当前和新兴武器系统的自主武器系统展开讨论，这些武器系统正在突破人类对关键功能的控制界限。在讨论一种新的、不断发展的技术时，关于未来可能发展的假设情景可能是不可避免的，但如果只关注这些假设情景，我们将忽视当今实际存在的武器系统关键功能的自主性，或目前正在开发中并计划在不久的将来部署的

根据我们的理解，许多现有的自主武器系统具有自主“模式”，因此只能在短时间内自主运行。他们还倾向于在其所用于的任务、攻击的目标类型以及使用它们的环境中受到高度限制。大多数现有系统也由人工操作员实时监控

然而，未来的自主武器系统可以有更大的行动自由度来确定目标，在严格限制的空间和时间限制之外运行，并遇到快速变化的环境。当前技术变革的速度和对武器系统自主性的军事兴趣使国际社会迫切需要考虑这些武器的法律和道德影响

正如红十字委员会过去所强调的那样，从法律和道德的角度，对现有和新出现的自主武器系统进行更仔细的审查，可能会提供有用的见解，说明什么程度的自主和人的控制可以被认为是可接受的或不可接受的，以及在什么情况下可以被视为可接受的。在这方面，我们鼓励各国尽可能分享其对现有武器系统的法律审查，并在其关键功能上享有自主权。这将允许更知情的审议。主席，根据去年在《特定常规武器公约》和其他地方进行的讨论，各国似乎就需要保持对武器系统关键功能的人为控制达成了广泛共识。各国现在应将注意力转向商定一个框架，以确定是什么使人类对武器的控制具有意义或。讨论应集中于所需的控制类型、在何种情况下以及在过程的哪些阶段——编程、部署和/或瞄准（选择和攻击目标）

同样没有争议的是，用于武装冲突的自主武器必须能够根据国际人道主义法（IHL）使用，特别是其区分、相称性和攻击预防规则。事实上，在关键功能上具有自主性的武器并不是在“法律真空”中开发的，它们必须遵守现行法律

基于当前和可预见的机器人技术，很明显，遵守国际人道主义法的核心规则构成了一项艰巨的技术挑战，尤其是在关键功能自主的武器被分配更复杂的任务并部署在比目前更动态的环境中时。基于当前和可预见的技术，人们对自主武器系统在除最狭窄的场景和最简单的环境外的所有情况下遵守国际人道主义法的能力存在严重怀疑。在这方面，显然仍需要人类对选择和使用武力进行全面控制

在本周的讨论中，我们鼓励已经部署或目前正在开发具有自主关键功能的武器系统的国家分享他们如何确保这些武器能够按照国际人道主义法使用的经验，特别是分享对使用具有自主功能的武器施加的限制和条件，包括所需的人为控制水平。从对现有和新兴武器系统关键功能自主性的法律审查中吸取的经验教训，有助于为今后的讨论提供指导框架
在这方面，红十字委员会欢迎各国广泛承认有义务对其正在开发或获得的任何新的战争技术进行法律审查，包括在某些或所有关键功能上具有自主性的武器。《特定常规武器公约》缔约国会议和审议大会过去回顾了对新武器进行法律审查的重要性，这是《日内瓦公约》第一附加议定书缔约国的一项法律要求。红十字委员会鼓励尚未这样做的国家建立武器审查机制，并随时准备在这方面向各国提供建议。在这方面，各国不妨参考红十字委员会的《新武器、作战手段和方法法律审查指南》

最后，主席先生，红十字委员会希望再次强调自主武器系统根据人道原则和公众良知的要求提出的关切。正如我们先前所说，任何武器系统的使用都超出了人类的控制范围，人们对此深感不安。在这方面，我们希望本周听取各代表团对战争未来乃至人类未来的以下关键问题的看法：一台机器在没有人类干预的情况下在战场上做出生死决定，在道义上是否可以接受

我们将很高兴在专题会议期间进一步阐述我们的观点

谢谢

在Twitter上分享在Facebook上分享分享WhatsApp

简介