在我的演讲中，我将阐述红十字国际委员会对为本次研讨会提出的问题的看法。我应该从一开始就提到，红十字国际委员会多年来一直对自主武器系统问题感兴趣，并于 2011 年 10 月在题为《国际人道法和当代武装冲突的挑战》的报告中公开概述了其对这些武器的关注（提交第 31 届红十字与红新月国际大会）。截至昨天（9 月 2 日），我们已经在我们的网站上发布了一个简短的“常见问题”，概述了我们的立场和担忧。
我也希望在这个时候注意到上一期的报告和电话非政府组织和其他独立行为者的自主武器年——特别是人权观察的报告和呼吁以及“阻止杀手机器人”的国际运动，以及联合国法外处决、即决处决和任意处决问题特别报告员的报告和呼吁， Christof Heyns 教授谈“致命的自主机器人”（5 月提交给联合国人权理事会）。这些行为者在强调这些武器的发展所带来的风险以及国际社会需要紧急关注这一问题方面发挥了非常重要的作用。

我还应该从一开始就强调，虽然红十字国际委员会此时并未加入暂停或禁止自主武器系统的呼吁，我们要求各国在自主武器开发之前充分考虑与使用相关的基本法律、道德和社会问题，并确保如果不确定是否符合国际人道法，则不会使用此类武器。
红十字国际委员会期待在 11 月《特定常规武器公约》（CCW）缔约国会议之前的几周内与各国进一步接触，以及远不止于此，关于武装冲突乃至人类未来的这个非常重要的问题。

定义

什么是“完全”自主武器系统？ “自主”是什么意思？

虽然有丰富的关于这个主题的专家文献，但在术语的使用上有些缺乏一致性。如果各国决定在《特定常规武器公约》或其他地方以更集中的方式讨论自主武器，则需要更仔细地研究术语和定义。

什么是“自主武器”

“自主武器”应与“自动化武器”区分开来——有时称为“半自主”武器系统，其使用通常受到时间和空间的限制。自动化武器以自给自足和独立的方式发挥作用，尽管它们最初可能由人类操作员部署或指挥。一旦激活，这些系统可以与人工操作员选择（编程）的单个目标或特定“目标组”交战。它们在定义明确和受控的环境中执行精确的预编程动作或序列。这种系统的例子包括自动哨兵炮和传感器引信弹药，包括某些反车辆地雷。在自动化范围的较高端，这些类型的武器包括目前使用的高度自动化的防御系统，例如军舰或舰上使用的 C-RAM 系统（即反火箭、火炮、迫击炮系统）土地。我们的理解是，这些高度自动化的系统在实践中是通过“人工在环”（human-on-the-loop）运行的，即在人工监督下。

红十字国际委员会在其 2011 年挑战报告中表示，“[r]ecent技术发展正在提高此类系统将某些类别的军事目标与民用物体区分开来的能力。但是，无法预测这些系统将来能够实现的区分程度，以及此类系统的核心挑战系统将是如何确保它们能够按照国际人道法的要求以允许区分军事目标和民用物体的方式使用。”

还必须将“自主武器”与“无人机”区分开来– 又称无人驾驶飞行器或遥控飞机 (RPA) – 是遥控武器。

RPA 通常由位于战斗区域外的机组人员操作和控制，该机组人员由一名飞行员和一名有效载荷操作员组成，并得到一组信号和图像情报分析员的支持。 RPA 要求人类操作员选择目标并激活、指挥和发射相关武器。简而言之，RPA 作为武器平台本身并不违法，但其使用引起了一些担忧，这些担忧在接受红十字国际委员会主席毛雷尔（2013 年 5 月发布在红十字国际委员会网站上）时进行了概述。

< p>什么是自主武器：

“自主武器”可以在“渐进式自动化”的连续谱或频谱的末端看到。

根据红十字国际委员会对专家文献的理解，“自主武器”是一种被编程为学习或调整其功能以应对环境变化的武器。它被部署在其中。真正自主的武器系统将能够搜索、识别并向目标施加致命武力，包括人类目标（敌方战斗人员），而无需任何人为干预或控制。
此定义意味着具有某种形式的移动系统人工智能，能够在无人控制的动态环境中运行。

需要强调的是，这种“完全”自主的武器仍处于研究阶段，尚未开发，更不用说部署在武装冲突中。然而，这一领域的技术能力正在高速发展。

自主武器对国际人道法 (IHL) 构成哪些挑战？

根据国际人道法，任何新的武器、手段或作战方法的使用必须能够符合国际人道法关于敌对行为的规则，特别是旨在保护平民的攻击中的区分规则、相称性规则和预防措施。

还应该记住的是国际人道法旨在通过要求每个国家评估其希望开发或获取的新武器的合法性（根据第 36 条日内瓦公约第一附加议定书）。

红十字国际委员会对自主武器系统遵守国际人道法的能力表示担忧。特别是，发展自主武器系统的能力以完全遵守国际人道法的区分、相称性和攻击预防措施规则在今天看来是一项巨大的编程挑战。事实上，这很可能被证明是不可能的。

首先，自主武器是否能够按照区分规则的要求区分平民和战斗人员？特别是，它能否区分直接参与敌对行动的平民和执法人员或猎人等武装平民，他们仍然受到保护以免受直接攻击？它是否能够区分现役战斗员和受伤或丧失行动能力的战斗员（失去战斗力）？自主武器是否能够确定一名士兵是否真的试图投降？实现这些能力似乎是一项艰巨的任务。

其次，自主武器系统是否能够适用国际人道法的相称性规则？ ——即禁止发动可能导致附带平民伤亡和对民用物体造成的损害超过预期的具体和直接军事优势的攻击。这种评估似乎需要独特的人类判断，尤其是在战场这种动态环境中，通过攻击特定军事目标获得的预期军事优势可能每分钟都在变化。

第三，自主武器如何能够在攻击中评估、选择和应用必要的预防措施以尽量减少平民伤亡？这再次代表了对战场上的可能性和实用性的高度上下文评估，它可能需要独特的人类判断。

不过，有朝一日，对自主武器系统进行编程以完全符合要求在技术上可能是有可能的。在攻击中具有区分、相称和预防措施的规则。自主武器在战场上的行为可能比人类更道德、更谨慎——理所当然地认为机器人不会受到情感或个人利益的影响。

另一方面，部署此类武器将反映敌对行动的范式转变和重大质变，并最终提出一个问题，即公众良心是否会允许机器做出生死决定并在没有人类控制的情况下使用致命武力。

另一个关键问题是确定谁应对自主武器系统违反国际人道法的行为负责。对严重违反国际人道法（战争罪）的国家责任和个人刑事责任当然是保护武装冲突受难者的基本要素。如果该行为可归咎于特定国家，则该国家将根据国际人道法和国家责任规则负责赔偿。

但确定个人刑事责任将更具挑战性。将责任归于机器或计算机似乎没有什么意义。那么谁将对自主武器系统做出的决定负责：程序员、制造商或部署系统的指挥官？如果无法按照国际人道法的要求确定责任，那么部署此类系统是否合法或合乎道德？

结论

对于任何新兴的战争技术，例如自主武器，它对于确保对所有相关问题进行知情讨论、提请注意评估其潜在的人力成本和国际人道法影响的必要性以及确保在无法保证尊重国际人道法的情况下不会过早使用它们非常重要。

简介