感谢哥斯达黎加和FUNPADEM组织这次重要会议。我将讨论自主武器系统的一些社会和人道主义后果。关于自主武器系统，我指的是基于传感器处理而非人工输入来选择和攻击目标的系统。我将重点谈谈两种特殊类型的自主武器系统所带来的道德和法律问题：一种是针对人的武器系统，另一种是在没有人为控制的情况下使用武力的武器系统。在详细阐述了这些系统带来的威胁之后，我将讨论如何在一项新的具有法律约束力的文书中解决这些威胁。

针对人群的系统

当使用自主武器系统瞄准人群时，它们会引发一些相关的社会问题。作为无生命的物体，机器无法理解人类生命的价值或其损失的意义。允许机器做出生死决定，从而剥夺了作为目标的人的人格尊严。另一方面，在决定杀死谁的过程中，自主武器系统将人类目标归结为数据点。时任法外处决问题特别报告员克里斯托夫·海恩斯（Cristof Heyns）写道：

让机器决定何时何地对人类使用武力，就是将这些人变成物体…。在武器的数字范围内，它们变成了0和1，这些武器事先被编程为释放武力，而没有能力考虑是否没有其他出路，也没有足够程度的人为选择。[1]

因此，这些系统以危险的方式剥夺了使用武力的人性

还存在歧视的风险。自主武器系统根据所谓的“目标轮廓”来选择与谁交战。这些轮廓可以是重量或热量特征等标准。虽然这样的标准可能看起来是中性的，但在许多情况下，算法偏见表明，无论标准是什么，机器都可能反映其程序员和社会的偏见。人工智能（AI）在其他领域的应用为这些偏见风险提供了广泛证据。更糟糕的是，自主武器系统可能被编程为故意歧视性的目标轮廓，例如肤色或胡须，以表示军事年龄的年轻男子

尊严的丧失、非人化和歧视都构成了后果，表明以人民为目标的自主武器系统在道德和伦理上是不可接受的。他们还违反了国际人权法。人的尊严原则是所有人权的基础。《公民权利和政治权利国际公约》（ICCPR）在序言中指出，它所包含的权利“源于人的固有尊严”。不歧视也是国际人权法的一项基本原则。《世界人权宣言》对此作了阐述。《公民权利和政治权利国际公约》及其后的条约和文件列举了可能不受歧视的类别，其中包括种族、宗教、性别、性取向或性别认同以及残疾

缺乏有意义的人类控制的系统

我想强调的第二类特别有问题的自主武器系统是那些本质上选择和攻击目标而没有有意义的人控制的系统。他们缺乏人的控制，造成严重的人道主义后果

在武装冲突期间，它对平民和其他非战斗人员构成严重威胁，在这一过程中，它阻碍了遵守国际人道主义法（战争法）。例如，自主武器系统很难区分平民和战斗人员，也很难区分受伤或投降的人（战斗前）和仍在战斗的战斗人员。与人类士兵不同，自主武器系统无法与他们遇到的人联系起来，因此可能无法理解细微的线索，如语调或面部表情，从而帮助他们做出区分。因此，他们可能会杀害或伤害平民或非战争法规定的合法目标

即使技术能够克服这一挑战，自主武器系统仍将面临遵守比例规则的困难。确定预期的平民伤害是否超过预期的军事优势是一项主观测试，依赖于袭击时的人类判断，而不是算法。它是由一个合理的指挥官标准决定的，该标准考虑了人类的理性、过去的经验、道德评估和常识等标准。会的很难在机器中复制人类的判断，而且机器不能预先编程以处理无限数量的快速变化的场景。战场上的这种挑战将使战争对平民和士兵都更加危险

自动武器系统也可能用于执法行动，其社会和人道主义后果同样令人担忧。在这种情况下，相关法律是国际人权法。许多权利可能受到侵犯。我已经谈到了尊严和不歧视。我将再强调两个

首先是生命权，或者更准确地说是不被任意剥夺生命的权利。根据这项权利，只有在必要、最后手段和相称的情况下才可以使用武力。在没有人为控制的情况下操作的武器面临着遵守这项测试的所有三个部分的挑战。机器很难确定是否需要使用武力。它可能无法准确地确定一个人是否是真正的威胁，因为它无法读取它所针对的人身上的微妙线索，正如我先前就国际人道主义法的区分规则所讨论的那样。虽然人类执法人员可以通过与被视为威胁的人进行谈判并缓解局势来避免武力，但自主武器系统将无法做到这一点。人类不太可能向机器投降。最后，出于已经讨论过的原因，自主武器系统缺乏进行相称性评估的人类判断

第二项可能涉及的权利是补救权。国际人权法保障个人对严重侵犯人权或国际人道主义法的行为追究个人责任和赔偿的权利。在武装冲突和执法行动中，对自主武器系统造成的伤害存在问责缺口。为运营商建立个人责任存在重大障碍。如果人类操作员无法预测或控制自主武器系统的行为，则追究其刑事责任，这在法律上具有挑战性，也可能是不公平的。在根据民法追究武器制造商的责任方面也存在许多障碍

解决方案：一项新的具有法律约束力的文书

了解不同类型的自主武器系统的社会和人道主义后果非常重要，因为它们可以帮助我们确定如何最好地解决这些问题。许多国家，包括在座的许多国家，都呼吁制定一项新的具有法律约束力的文书，其中包括我将提议的全部或部分内容的禁令和条例

具体而言，禁令应解决我讨论的两个主要威胁。一项新的条约应禁止开发、生产和使用以人为目标的自主武器系统，以防止使用剥夺人的尊严、剥夺使用武力的人性或导致歧视的武器系统。该条约还应禁止开发，生产和使用天生缺乏对使用武力的有意义的人类控制的系统。这项禁令将有助于保护武装冲突中的平民和其他非战斗人员，并减少执法行动中对人权的侵犯。该条约还应包括条例（积极义务），以确保在没有人为控制的情况下，绝不使用所有其他自主武器系统

有意义的人为控制的概念应包括多个组件的组合，例如但不限于：

决策组件，例如，理解系统如何工作的能力，
技术组件，包括可预测性和可靠性，

具有法律约束力的文书，而不是政治宣言或其他无约束力的文书是必不可少的。正如所讨论的，自主武器系统是一个严重的问题，可以影响世界上任何一个国家，因此明确、有力和全球规则非常重要。这些规则应具有法律约束力，以促进加入条约的国家遵守。经验表明，一项具有法律约束力的文书也可以通过建立规范和污名化最有问题的武器来影响非缔约国，甚至非国家武装团体

结论：论坛

总之，我所描述的社会和人道主义影响既紧迫又严重。技术正在快速发展，我们看到自主在使用武力方面发挥着越来越大的作用。一、因此，敦促各国尽快启动新条约的谈判。虽然《常规武器公约》多年来为有益的讨论和发展对一项具有法律约束力的文书的支持提供了一个论坛，但没有迹象表明将有可能在那里谈判一项新的文书

是时候走出这个论坛，走向一个目标更高、行动更快、更包容非《特定常规武器公约》缔约国以及国际组织和民间社会的论坛。裁军先例表明，独立的和联合国大会发起的进程是可行的选择，在这些选择中，有决心、志同道合的国家可以在15个月或更短的时间内达成强有力的条约。[2]

我再次感谢哥斯达黎加组织这次会议，我期待哥斯达黎加和该地区其他国家在这个问题上继续发挥领导作用

[1]克里斯托夫·海恩斯，“自主武器系统：人权和伦理问题”（在《常规武器公约》致命自主武器系统专家会议上的发言，2016年4月14日）（引自人权观察和哈佛法学院国际人权诊所，关注号召：禁止杀人机器人的道德和法律要求（2018年8月）），https://www.hrw.org/sites/default/files/report_pdf/arms0818_web.pdf，第26页。

[2]人权观察和哈佛法学院国际人权诊所，《行动议程：谈判杀手机器人条约的替代程序》（2022年11月），https://www.hrw.org/report/2022/11/10/agenda-action/alternative-processes-negotiating-killer-robots-treaty.

简介