红十字委员会欢迎致命自主武器系统政府专家组的第一次会议。随着《特定常规武器公约》缔约国开始进行更正式的讨论，现在人们期望各国将确定并建立共同点，例如必须保持对武器系统和使用武力的人为控制的广泛共识

ICRCs认为，各国现在必须努力限制武器系统的自主性，以确保遵守国际法并满足道德关切

在确定这些限制时，红十字委员会确信，在决定使用武力时，必须继续关注人类的义务和责任。为此，它建议各国评估使用自主武器系统所需的人类控制的类型和程度——广义上定义为在选择和攻击目标的关键功能上具有自主性的武器——以确保遵守国际法，从国际人道主义法的角度来看，敌对行为规则显然是针对那些策划、决定和实施袭击的人。这些规则适用于所有袭击，无论采用何种手段或方法，都给人类战斗人员带来了义务，他们有责任尊重这些规则。这些法律义务及其责任不能转移到机器、计算机程序或武器系统上

在红十字国际委员会看来，遵守这些法律义务将要求战斗人员对使用武器系统在武装冲突中进行攻击保持最低限度的人为控制

对人类控制自主武器系统的方式（如红十字委员会的广义定义）进行了审查，指出了人类控制的以下关键要素，以确保遵守法律：可预测性；人的监督和干预能力；以及各种作战限制，包括任务、目标类型、作战环境、作战时限和行动范围

有意义、有效或适当的人为控制还要求操作员对武器系统和操作环境及其相互作用有足够的信息和理解
人类控制的这些要素需要将人类指挥官或操作员的决定（必须遵守国际人道主义法和其他适用的国际法规定）与使用武器系统的特定攻击的结果联系起来。需要一定程度的人为控制表明，根据国际人道主义法，武器系统的合法自主水平将受到限制

人类控制的需要也引起了对武器系统设计的技术方面的担忧，这可能导致不可预测性。特别是，在目标定位中使用人工智能（AI）机器学习算法会引发根本的法律问题，因为其功能和结果本身就不可预测

最近几个月，红十字委员会进一步评估了自主武器系统的伦理方面；它于2017年8月召开了一次小型专家圆桌会议，并以2014年和2016年与各国举行的专家会议的成果为基础。人道原则和公众良知的要求为这些讨论提供了道德指导，并支持国际红十字委员会关于限制武器系统自主性的呼吁
自主武器系统提出的最重要的伦理问题可能是那些超越其部署背景（无论是在武装冲突中还是在和平时期）和所涉及技术（无论是简单的还是复杂的）的问题。这些关注的焦点是在杀人和毁灭的决定中失去人类的能动性和责任

由于杀戮和破坏决定的道德责任不能委托给机器，因此从道德角度来看，有意义、有效或适当的人类控制将是保持人类在这些决定中的能动性和责任的控制类型和程度

随着武器系统自主性的增强，人类可能会在时间和空间上远离选择和攻击目标的行为，以至于人类的决策被计算机控制的过程有效地取代，生死决策被机器所取代。这引发了关于人类在使用武力和夺取生命中的作用和责任的深刻伦理问题，而这些问题超越了遵守国际人道主义的问题法律关于公众良知，人们对任何将武力使用置于人类控制之外的武器系统的想法深感不安

考虑到这些法律和道德问题，并意识到机器人和人工智能领域的快速技术发展及其目前在武器系统中的应用，红十字委员会敦促参加政府专家组的所有国家努力确定武器系统自主性的限制，因此，人类仍然对使用武力的决定负全部责任

我们期待在专题会议期间进一步阐述我们的观点

在Twitter上分享在Facebook上分享分享WhatsApp

简介