阅读我们的Oppenheimer系列

作者Lisa A.Bergstrom|2019年11月7日

示威者呼吁各国禁止杀人机器人高度=673尺寸=（最大宽度：1024px）100vw，1024px

站在日内瓦“断椅”雕像旁的示威者呼吁各国禁止自主武器，这座雕像象征着地雷和集束弹药造成的破坏。来源：Clare Conboy/制止杀人机器人运动

地雷、集束弹药、燃烧武器、致盲激光、爆炸子弹等：在过去150年中，国际人道主义法禁止或管制的武器清单稳步增长。如果一场由民间社会组织组成的国际运动——得到大约20多个国家的支持并不断发展——取得成功，那么很快就会有另一场运动：自主武器

考虑到自主武器带来的前所未有的风险，以及反对自主武器运动的力量，制定一项规范此类武器的新条约是可取和可行的。然而，该条约是否有效，将主要取决于美国是否决定参与谈判，并说服其他军事重要国家也这样做

尚未部署自主武器，或对手和媒体经常称之为“杀手机器人”，是指在没有人类直接控制的情况下选择和攻击目标的武器。想象一下，无人机扫描战场，使用人工智能识别可疑的敌方战斗人员并向其开火，而无需等待操作员批准打击

致命自主武器的确切定义备受争议。虽然批评者也对非致命、反器材或半自主武器表示担忧，但目前国际谈判只关注完全自主、致命的杀伤人员武器。根据这一宽泛的定义，目前还没有军队部署此类武器，但这样做的技术已经存在，并且正在迅速发展

为了解决自主武器的人道主义风险，大约100个国家一直在讨论在《特定常规武器公约》（CCW）范围内谈判一项新条约的可能性，该公约是一个鲜为人知的联合国附属论坛，用于监管不人道武器。自2014年以来，进展缓慢的《特定常规武器公约》同意重新就这一问题进行谈判，但未能达成《公约》实际开始谈判条约所需的共识

监管太早这些讨论背后的驱动力之一是反对不受限制地使用自主武器的团体和活动家的国际运动。其中最主要的是无处不在的红十字国际委员会和更激进的“制止杀人机器人运动”，这是一个由包括人权观察在内的非政府组织组成的联盟，在早期的禁止地雷和集束弹药运动中一直很活跃。到目前为止，这场运动已经说服了包括奥地利、巴西和墨西哥在内的大约20多个国家支持先发制人地禁止开发和部署致命的自主武器。还有一些国家，如德国和法国，支持政治宣言，但不支持具有法律约束力的条约

制止杀人机器人运动和其他批评者指责自主武器是不道德和危险的，因为它们缺乏道德决策所需的人性特征（如仁慈），也缺乏区分平民和战斗人员以及判断适度使用武力的能力，这是国际人道主义的两个关键原则法律批评者令人信服地辩称，如果自主武器的开发不受监管，可能会导致不稳定的军备竞赛。由于难以确定谁应对自主武器的行为负责，这种威胁将更加严重，这意味着一个小事件可能引发国际危机。与无人机一样，自主武器可以让士兵远离战场，让人们产生“无风险”军事干预的假象，但却没有为平民提供保护，从而使各国更容易发动不必要的战争

美国、俄罗斯、以色列和其他一些国家反对新条约或政治宣言。这些国家正在对机器人和人工智能进行大量投资。他们认为，现在知道未来如何使用自主武器还为时过早，因此，现在知道如何最好地监管它们还为时过早。美国表示，自主武器甚至可以通过比人类更善于识别平民和判断如何按比例使用武力来提高对国际法的遵守

独立条约的前景“制止杀手机器人运动”对《特定常规武器公约》缺乏进展感到不满，越来越多地敦促各国考虑完全绕过该公约，谈判一项单独的条约，并表示，“如果《特定常规公约》（在11月15日的年会上）不能产生可信的结果，就必须寻求其他途径，以避免未来出现自主战争和暴力。“不幸的是，这样的决定虽然可以理解和可行，但不太可能产生一项真正有效的条约

有人可能会问，像人权观察这样的非政府组织有多大机会达成一项独立的条约，以对抗世界上一些最强大的军队的反对。事实上，很多

到1990年代，广泛和不分青红皂白地使用地雷已成为一场人道主义灾难，《特定常规武器公约》的成员国试图通过加强现有的管制这种武器的条约来解决这场危机。国际禁止地雷运动对《特定常规武器公约》协议的弱点感到沮丧，它推动在加拿大政府的主持下制定一项新条约，禁止所有地雷，而不需要《特定常规公约》繁重的协商一致决策。由此产生的《禁雷条约》基本上结束了在少数冲突地区以外大规模使用地雷的行为，并为这场运动赢得了诺贝尔和平奖

2008年，一个类似的非政府组织联盟重复了这一壮举，成功地推动了《集束弹药公约》，将这种曾经无处不在的武器定为非法。尽管美国、俄罗斯和其他主要军事大国都没有加入这两项条约，但这些条约给地雷和集束弹药带来了强烈的耻辱

鉴于这一成功历史，人们很容易得出结论，一项强有力的、独立的条约是应对自主武器威胁的最佳方式，尽管美国和俄罗斯等国几乎肯定会拒绝加入。然而，自主武器不是地雷或集束弹药。几十年来，地雷和集束弹药在世界各地大大小小的冲突中被使用，在许多情况下造成了巨大的平民伤害。即使美国、俄罗斯、中国和其他主要军事大国不参与，禁止这些武器的条约也有价值。相比之下，自主武器是一种发展中的技术，在一段时间内可能只有最先进的军队才能使用。一项将几乎所有有兴趣和能力部署自主武器的国家排除在外的条约，无论是作为军备控制还是作为人道主义规范的制定者，都相对没有什么价值

在对化学武器和核武器的禁忌似乎正在减弱的时候，很难想象俄罗斯会认为其自主武器计划受到一项它没有参与制定的条约所造成的耻辱的约束。《特定常规武器公约》在世界主要军事大国的同意下谈判达成了一项更为温和的条约，这为在可预见的未来对自主武器提供了有意义的限制提供了最佳机会

美国政策解决方案美国能做些什么来达成这样一项条约？《特定常规武器公约》关于致盲激光武器的条约可以提供指导。虽然致盲激光和自主武器在军事用途和人道主义威胁方面有所不同，但这两种武器在部署之前就成为了禁止使用的对象。自主武器的反对者指出，这种类比证明了武器是可以被禁止的先发制人，但它也表明了美国如何利用国家政策来帮助达成艰难的国际妥协。美国长期以来一直抵制任何管制激光致盲的企图，担心任何此类管制都可能干扰激光的无关军事用途。1995年，当《特定常规武器公约》谈判正在进行时，国防部通过了一项有限的全国性致盲激光武器禁令。通过将这一新政策作为谈判的基础，美国能够在《特定常规武器公约》中促成一项协议，该协议满足了希望更广泛禁令的国家、反对任何禁令的国家以及美国军方的要求。通过这样做，美国能够确保该条约不会限制激光的其他争议较小的用途——这一问题也与自主武器高度相关

事实上，美国已经制定了一项可以作为《特定常规武器公约》新条约基础的国家政策。2012年，国防部发布了一项指令，要求“人类对使用武力有适当的判断”，从而成为第一个公开通过自主武器国家政策的国家。五角大楼甚至委托一个由伦理学家、科学家和其他专家组成的委员会为人工智能创建一个道德框架——他们刚刚发布的报告认可了责任、可追溯性等强有力的原则

很明显，美国政府与活动人士一样对自主武器的道德问题感到担忧，并对其使用的一些限制感到满意。如果美国能够加强其对自主武器的现有国家限制，它将完全有能力在《特定常规武器公约》中谈判一项新条约。虽然不能保证俄罗斯和其他国家会同意开始谈判，但美国的支持将大大增加对他们的压力

“杀手机器人”很快将不再局限于科幻小说领域。为了应对自主武器将带来的新风险，世界需要一项新的、有效的条约来规范这些武器。达成这样一项条约的最佳机会是美国放弃反对，并在现有的监管非人道武器的论坛上积极参与谈判一项新协议

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

关键词：杀手机器人，致命自主武器
主题：人工智能，颠覆性技术，明日之声

复制链接链接复制

电子邮件
Facebook
推特
LinkedIn

是加利福尼亚州伯克利的技术和安全专家，对核扩散感兴趣，常规武器。。。阅读更多
版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策
1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介