src=/sites/default/themes/icrc_theme/images/globes/CH。png

红十字国际委员会主席彼得·毛雷尔先生在虚拟简报会上就红十字委员会关于自主武器系统的新立场发表的讲话

尊敬的各位，

女士们，先生们，

感谢您加入我的虚拟简报会。我很高兴与大家分享ICRCs关于自主武器的分析和建议的一个重要进展，并在今天下午和以后听取大家对这个主题的看法

数字技术的新发展正在以惊人的速度发生，影响着我们的生活方式和工作方式，甚至我们的思维方式。他们为人类带来了巨大的希望，我经常谈到红十字委员会如何拥抱数字化转型，以加强世界各地的人道主义行动

数字技术的新发展也影响着战争的方式。新武器技术带来了严重的人道主义、法律和道德困境，这些困境将是我今天演讲的重点

根据红十字委员会的理解，自主武器是指在没有人为干预的情况下选择并对目标施加武力的武器。它们是在广义目标轮廓和传感器的基础上进行的。它们与其他武器的区别在于，在被一个人激活后，当被环境触发而不是用户触发时，它们会自动发射。这意味着用户不选择特定目标

自主武器从军事、技术、法律、伦理、哲学以及当然的人道主义等多个角度提出了许多具有挑战性的问题。这种复杂性也导致了政府在建立对潜在风险和必要解决方案的共同理解方面面临的政治挑战

这些武器已经在使用：在有限的情况下，通常远离平民，针对高度特定类型的目标，例如在海上防御军舰免受来袭导弹的攻击

然而，当前的技术和军事发展正在激发人们对使用自主武器的兴趣，这种武器可以在更大的区域和更长的持续时间内攻击更广泛的目标，甚至在城市地区——复杂和动态的环境中

在红十字国际委员会看来，不受限制地使用自主武器会给平民和战斗人员带来巨大的伤害风险

例如，考虑军事行动地区有大量平民的情况。在使用自主武器的情况下：当自主武器的使用者不知道他们将在何处、何时或什么时候摧毁时，如何保护平民？或者想象一下，一个自主武器传感器由与士兵运输车形状相似的民用公交车触发，并在用户无法干预和停用的情况下，开始在广阔区域内攻击所有公交车

自主武器还增加了冲突升级的危险，例如，如果没有时间或手段在为时已晚之前关闭自主武器

红十字委员会担心潜在的人道主义后果。这些武器系统对遵守国际人道主义法提出了严重挑战，其规则要求战斗人员根据具体情况作出判断。例如，当没有人认出受伤的士兵是非战斗人员时，如何才能幸免受伤的士兵

此外，自主武器为人类带来了根本的伦理担忧，实际上，它用传感器、软件和机器流程取代了人类对生死的决定

最终，我们大多数人都同意，算法——一个机器过程——不应该决定谁的生死，人类的生命不能被简化为传感器数据和机器计算

武装部队为了寻求不断提高的攻击速度和部署越来越多的武装机器人，正在寻求自治以获得军事优势。同时，这改变了人类在决定使用武力时的角色。在这个编写自己规则的机器学习软件的新时代，许多人担心这对平民保护和国际安全来说是一个危险的前景

这些发展促使我们不仅要问这些技术可以用于什么，还要问它们应该用于什么。它们促使我们对战争的未来作出负责任的选择。最终，我们必须决定，作为一个社会，我们希望人类在武装冲突期间的生死决定中扮演什么样的角色

有一个明显的风险，我们将看到人类对生死决定的控制和判断逐渐被侵蚀到无法接受的地步。这外交部、武装部队和人道主义组织的许多人，以及工业界的机器人专家和人工智能专家都强调了这一点

自主武器的自由设计和使用是一项根本挑战。它们有可能削弱目前根据国际人道主义法和人道主义原则对战争受害者的保护

国际人道主义法本身寻求在战争中保护一定程度的人性。它的规则适用于所有战争手段和方法的使用，包括新颖的手段和方法。然而，各国定期通过具体规则，进一步保护平民和不再战斗的人免受新武器技术的影响，包括预防性保护。例如，1868年圣彼得堡关于爆炸子弹的宣言，以及100多年后禁止致盲激光武器就是这样

过去十年来，各国就自主武器进行了国际讨论，包括在人权理事会和《特定常规武器公约》缔约国会议上。他们受益于外交官、军事专业人员、民间社会代表、学者以及科学和技术界成员的参与和想法

多年来，红十字委员会对这些讨论有何贡献

根据我们的任务，我们深入分析了如何确保在使用武力时保留人的控制和判断，包括通过专家协商
我们积极参与了这些辩论，我们密切听取了包括各国在内的所有利益攸关方的关切
就我个人而言，我真的很高兴在日内瓦和世界各国首都与你们中的许多人——以及你们的同事——进行了富有建设性的意见交流

红十字国际委员会确信，国际限制应以新的具有法律约束力的规则的形式来管理自主武器

我们认为需要新的规则：
- 以澄清现有的国际法规则如何约束这些武器
- 以补充法律框架，包括解决基本的伦理问题
关于这些规则的实质，我们想提出三个具体建议

首先，我们的观点是，不可预测的自主武器应该被排除，尤其是因为它们的滥杀滥伤作用，而这最好通过禁止不可预测自主武器来实现

其次，我们认为应该排除使用自主武器瞄准人类。这项建议基于保护人类的道德考虑，以及维护保护平民和战斗人员的国际人道主义法规则的必要性。我们认为，这最好通过禁止杀伤人员自主武器来实现

第三，也是最后一点，我们建议对其他自主武器进行管制，包括通过四种限制的组合：
- 第一，对目标类型的限制，例如将其限制在典型的军事目标上，如坦克或来袭导弹
- 第三，对使用情况的限制，例如平民不在场的情况
- 第四，人机交互的要求，特别是确保有效的人类监督，以及及时干预和停用
有关这些建议及其基本原理的更多详细信息，请参阅我们今天在本次简报后立即与您分享的一篇论文。在任何情况下，所有这些建议都需要在我们正在分发的文件之外进行进一步阐述，我期待着在今天或未来几周和几个月听取您对这些建议的看法，以期进一步完善我们的主张和建议

确实应由各国决定是否采用新规则，并确定其具体内容。红十字委员会根据其法律专门知识、对自主武器系统的开发和使用所引起的问题的深入分析以及武装冲突的作战经验提出了这些建议。我们的目的是支持多边讨论，帮助各国朝着确定可能的趋同途径迈进

在这方面，我相信这些建议提供了明确、，关于如何有效解决许多国家、民间社会、主要科学家和红十字委员会提出的人道主义、法律和伦理关切的原则和务实指导

这些建议并不禁止以其他方式开发和使用新的数字战争技术，例如提高武器精度或增强人类决策能力

我希望你在国际一级，包括在《常规武器公约》缔约国及其政府专家组会议上，努力达成共识并采取政治行动时，会发现这些建议很有价值

我可以向你保证，红十字委员会随时准备支持旨在及时有效解决自主武器引起的关切的所有倡议，并为此与所有政府及其武装部队以及其他相关利益攸关方合作。这包括制定规范和业务框架的其他方面的努力，如政治宣言、共同政策标准或良好做法指导。这些努力可以与具有法律约束力的规则相辅相成

考虑到自主武器的发展速度，红十字国际委员会认为迫切需要通过关于自主武器的新规则。当然，要建立对所需行动的共同理解，还有很多工作要做

最后，我想强调我们今天的机会

我们塑造技术。反过来，技术塑造了我们。这些发展不是在真空中发生的。但是，除了成本和收益的计算之外，关于技术应该用于什么目的的决定是基于人类价值观的

我们有机会共同划出一条符合人们利益的界线。我之所以强调“人”这个词，是因为对红十字委员会来说，自主武器引发的担忧不仅仅是——甚至主要是——关于技术。它们是关于人——人。它们是关于在武装冲突期间为人类提供的保护。它们是关于进行冲突的人的法律义务和道德责任。它们最终是关于我们共同的人性

谢谢。

简介