阅读我们的奥本海默收藏

作者Robert Hart|2017年4月24日

随着全世界谴责叙利亚总统巴沙尔·阿萨德在叙利亚使用化学武器，关于国际武器禁令性质的两个基本教训已经出现。首先，某些类别的武器在道德上令人反感，在任何情况下都无法证明其使用是正当的。正如美国总统唐纳德·特朗普最近重申的那样：他们越过了“红线”。第二个教训是，支持禁令的道德原因独立于禁令的实际成功

在叙利亚化学武器禁令失败之后，没有人质疑是否应该禁止化学武器。相反，他们加倍谴责使用此类武器，并因此对特朗普采取报复行动。这两个教训有助于评估目前关于致命自主武器系统是否应将化学武器列入国际禁止武器名单的辩论

禁令简史。到目前为止，国际上已经禁止了几种武器。化学武器和生物武器在第一次世界大战后被禁止，这在国际法中巩固了长期以来禁止使用化学武器的文化禁忌。自那时以来，禁令得到了多次加强，尤其是通过《化学武器公约》和《生物武器公约》。集束弹药、杀伤人员地雷和永久致盲激光武器也是国际禁令的对象，后者是自1868年禁止使用爆炸子弹以来第一种被先发制人地宣布为非法的武器类型（红十字国际委员会指出，“在一批受害者提供了明显的证据证明其悲惨影响之前”）

有许多正在进行的活动试图扩大此列表。其中一项运动旨在最终禁止核武器，最近在120多个国家的支持下，联合国开始了谈判。值得注意的是，包括美国、英国、中国和俄罗斯在内的大多数世界核大国都没有参加讨论

另一项提案旨在先发制人地禁止致命的自主武器系统——通常被称为“杀手机器人”——这种系统可以“在没有实际人类控制的情况下选择和攻击目标”。经过几年的非正式讨论，去年年底，当联合国宣布正式成立一个专门的政府专家小组时，活动人士庆祝了胜利

自主武器禁令的利弊。那些主张禁止自主武器的人指出了一些深刻的道德、社会和安全问题。与早些时候对无人机的担忧相呼应，一些人担心自主武器系统将进一步降低发动战争的门槛，使其成为一种政治成本更低、因此更有可能的选择。其他人担心，赋予机器决定谁生谁死的权力是对人类尊严的根本侮辱，在道德上永远是不合理的。更糟糕的是，许多人认为自主武器系统可能违反国际战争规则，无法遵循相称性和歧视性原则。在未来生命研究所牵头的一封公开信中，专家们还表示担心，如果不禁止自主武器，危险的人工智能军备竞赛将“几乎不可避免”。这封信有2万多人签名，其中包括许多著名的计算机科学家，以及诺姆·乔姆斯基、埃隆·马斯克和斯蒂芬·霍金等名人

但禁令进展缓慢，专家们担心，在制定有效的监管措施之前，战场上会出现完全自主的武器系统。到目前为止，只有两个国家——英国和美国——明确地概述了自主武器的正式政策，每个国家都通过重申武器将继续处于“有意义的人类控制之下”的陈词滥调来回避这个问题。两个国家都不支持禁令，英国的政策表示，现有的国际法将“足以规范”这类新武器的使用

并不是每个人都认为禁令是个好主意。机器人学家和机器人伦理学家Ronald C.Arkin表示，自主系统可能会减少战争中的平民伤亡，尤其是与当今人类战士的明显失败相比。阿尔金原则上并不反对禁令，而是认为过早的禁令可能会阻止平民死亡和伤亡的减少

更常见的反对路线是针对禁令的实用性。在对话的一篇文章中，JaiGalliott是禁令的早期支持者，他概述了自己改变主意的原因，指出“我们已经有了寻求禁令的那种武器。”Galliott补充道，“联合国的禁令实际上也是无用的……‘坏人’不遵守规则。”，赞同：“阻碍人们开发这种系统的障碍太低了”，任何禁令都无法奏效

区分道德和实践这些论点基本上没有切中要害。红十字国际委员会在呼吁在第一次世界大战后禁止化学武器和生物武器时，将其称为“只能被称为犯罪的野蛮发明”。同样，国际废除核武器运动在呼吁禁止核武器时，指出了废除核武器的紧迫人道主义理由，认为这种巨大的“人道主义伤害……必须为取缔和根除核武器提供信息并激励其努力；实用性与此无关。有人认为，因为一项技术已经存在，就像今天被禁止的每一类武器一样，或者因为它的发展障碍很低，这是生物武器日益严重的问题，所以有充分的理由反对禁令，这完全忽略了禁令建立的道德基础，并为排除任何武器禁令的推理打开了大门。武器之所以被禁止，并不是因为它们可以被禁止，而是因为它们在道德上令人憎恶，没有任何东西可以证明它们的使用是正当的

这让我们想到了推动禁止致命自主武器系统运动的最根本的一点：“允许机器做出生死攸关的决定跨越了一条基本的道德线。”正如叙利亚最近发生的事件悲惨地表明的那样，武器禁令不是也永远不会滴水不漏，但推动禁令的并不是这些实际情况。禁止化学武器突显了一种压倒性的信念，即使用化学武器永远是不可接受的，同样的理由也适用于禁止致命的自主武器

执行对自主武器系统的禁令可能很困难，但这些困难完全脱离了推动禁令的道德动力。同样，讨论颁布禁令的潜在困难或技术现状，应与讨论致命自主武器系统是否应加入禁止武器名单分开

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

主题：技术和安全，明日之声

复制链接
Facebook
推特
领英新兴技术的政治和伦理研究者和作家，对生物技术和人工。。。阅读更多
版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策
1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介