对人类控制使用武力的挑战

武器技术的进步意味着在战场上使用武力的决定越来越多地可以由机器在没有人为干预的情况下操作。在这里，我们审查了战争方式发生这种深刻变化的潜在影响，并警告不要使用这种武器，除非能够保证尊重国际人道主义法

独立运行的自主武器系统如何区分战斗人员和平民？他们是否能够取消对平民造成不成比例影响的袭击？谁将对违反国际人道主义法的行为负责

由于许多尚未解决的问题，红十字委员会呼吁各国适当评估这些新战争技术的潜在人力成本和国际人道主义法影响。2014年3月，红十字委员会召开了一次国际专家会议，以促进对这些问题的讨论（阅读专家会议报告）

什么是自主武器

自主武器系统（也称为致命自主武器或“杀手机器人”）独立搜索、识别和攻击目标，无需人工干预。目前已经有一些武器系统在使用中，它们在识别和攻击目标的“关键功能”方面具有自主性。例如，一些防御武器系统具有自主模式，可以近距离拦截来袭的导弹、火箭、炮弹或飞机。迄今为止，这些武器往往固定在适当位置，在狭小的环境下（例如，平民或民用物体相对较少的情况下），并针对有限类型的目标（即主要是弹药或车辆），在短时间内自主运行。然而，在未来，自主武器系统可以在严格限制的空间和时间限制之外运行，遇到各种快速变化的环境，并可能直接瞄准人类

无人机是一种自主武器吗

自主武器系统在无人干预的情况下开火，与目前使用的无人驾驶空中系统（也称为无人机或遥控飞机）形成对比。无人机可能具有其他自主功能（如自动驾驶和导航），但它们需要人类操作员选择目标并激活、指挥和发射武器

有人呼吁暂停或禁止自主武器系统的开发、生产和使用。红十字委员会是否支持这些呼吁

红十字委员会目前尚未加入这些呼吁。然而，红十字委员会敦促各国按照国际人道主义法的要求，在武装冲突中进一步发展或部署自主武器系统之前，考虑与使用自主武器系统有关的基本法律和道德问题。红十字委员会对自主武器系统的潜在人力成本以及它们是否能够按照国际人道主义法使用表示关切

国际人道主义法对自主武器有何规定

自主武器系统没有具体规则。然而，法律规定，各国必须根据《日内瓦公约第一附加议定书》的要求，确定在某些或所有情况下，国际法是否禁止使用其开发或获得的任何新武器或作战手段或方法

换言之，国际人道主义法关于敌对行为的长期规则，特别是区分规则、相称规则和攻击预防规则，适用于战争中的所有新武器和技术发展，包括自主武器系统。鉴于新武器技术的发展，开展这种法律审查至关重要

任何开发或获取自主武器系统的国家面临的核心挑战是确保其能够按照所有这些规则运作。例如，尚不清楚这种武器如何根据区分规则的要求区分平民和战斗人员。事实上，这种武器可能还必须区分现役战斗人员和那些脱离战斗或投降的人，以及直接参与敌对行动的平民和武装平民，如执法人员或猎人，他们仍然受到保护，不受直接攻击

自主武器系统还必须按照相称性规则进行操作，该规则要求在攻击军事目标时预期的附带平民伤亡与预期的具体和直接军事优势相比，不要过分。最后，自主武器系统必须能够在攻击中应用所需的预防措施，以尽量减少平民伤亡

对当前和可预见技术的评估表明，这些决策能力不太可能被编程到机器中。因此，今天人们对自主武器系统在除最狭窄的情况和最简单的环境外的所有情况下遵守国际人道主义法的能力存在严重怀疑

在武装冲突中使用自主武器系统可能会产生什么影响？

一些自主武器系统的支持者认为，自主武器系统可以被编程为比人类更“谨慎”、更精确地操作，因此可以用来限制非预期的平民伤亡。另一方面，批评者反驳说，自主武器系统总是缺乏合法使用武力所必需的人类判断力，使用它们更有可能导致更大的人力成本

这些武器系统也引发了严重的道德问题，它们的广泛部署将代表着敌对行动模式的转变。我们所有人的根本问题是，人性原则和公众良知的支配是否能让机器做出生死决定

如果使用自主武器系统导致违反国际人道主义法，谁负责

作为一种机器，自主武器系统不应对违反国际人道主义法的行为负责。这提出了一个问题，除了部署这些系统的人的责任之外，如果自主武器系统的操作导致战争罪，谁将承担法律责任：激活武器的工程师、程序员、制造商或指挥官？如果不能按照国际人道主义法的要求确定责任，部署这种系统是否合法或合乎道德

各国之间未来讨论的重点应该是什么

随着自主性的增强，存在着用机器代替人类决策的风险，从而削弱人类对武力使用的控制。虽然人们认识到人类必须保留最终控制权，但需要更详细地考虑什么是人类对武力使用的充分、有意义或适当的控制。

红十字委员会建议各国审查现有和新兴武器系统“关键功能”的自主性，并分享这一信息，以便更好地了解。未来的讨论必须解决一个关键问题：在什么时候，在什么情况下，我们有可能失去对使用武力的有意义的人类控制

由于许多问题仍未得到解答，红十字委员会呼吁各国确保在无法保证遵守国际人道主义法的情况下不使用自主武器系统

在Twitter上分享在Facebook上分享分享WhatsApp

简介