阅读我们的Oppenheimer收藏

作者：Seth Baum|2015年2月22日

历史上只有两次国家在武器使用之前联合起来禁止使用。1868年，列强根据《圣彼得堡宣言》同意禁止爆炸子弹，因为在受害者体内散布金属碎片可能会造成比普通子弹更大的痛苦。1995年的《激光致盲武器议定书》现在有104个签署国，他们同意禁止这种武器，理由是它们可能会给士兵造成永久失明的过度痛苦

今天，一群非政府组织正在努力取缔另一种尚未使用的设备，即完全自主的武器或杀人机器人。2012年，该组织成立了“制止杀人机器人运动”，以推动禁令的实施。与当今常用的遥控无人机不同，全自主武器是为自己做出打击决策而设计的军用机器人。一旦部署，他们就会识别目标并在没有任何人类许可的情况下对其进行攻击。据该运动称，目前还没有，但中国、以色列、俄罗斯、英国和美国正在积极开发前体技术

重要的是，阻止杀手机器人运动要取得成功，要么是彻底禁止，要么是引发辩论，从而制定一些其他明智有效的法规。这不仅对防止完全自主的武器造成伤害至关重要；一场有效的运动也将向我们展示如何积极禁止未来的其他军事技术

完全自主的武器并非毫无疑问的糟糕。它们可以减轻士兵的负担。军事机器人已经拯救了许多服役人员的生命，例如在阿富汗和伊拉克通过消除简易爆炸装置。军用机器人的能力越强，就越能保护士兵免受伤害。他们也可能能够完成士兵和非自主武器无法完成的任务

但潜在的负面影响是显著的。如果没有人必须承担罢工决定的情感负担，军事人员可能会杀人更多。如果士兵的成本更低，政府可能会发动更多的战争。当人类士兵拒绝服从时，压迫性暴君可以将完全自主的武器对准自己的人民。机器可能会出现故障——就像所有机器有时会发生的那样——杀死朋友和敌人

此外，机器人可能难以识别平民和受伤战斗人员等不可接受的目标。区分一个人和另一个人所需的高级模式识别对人类来说相对容易，但在机器中编程却很困难。很长一段时间以来，计算机在乘法等方面的表现一直优于人类，但尽管付出了巨大努力，它们的人脸和语音识别能力仍然很差。技术必须克服这个问题，才能让机器人避免杀死错误的人

一个政府部署袭击平民的武器将违反国际人道主义法。这是反杀人机器人运动的基础。全球人道主义裁军运动利用类似的论点实现了对地雷和集束弹药的国际禁令，并在禁止核武器方面取得了进展

如果阻止杀手机器人运动成功，它将实现一项罕见的壮举。毫不奇怪，武器在使用之前很少被禁止，因为这样做需要积极主动的努力，而人们往往是被动的。当一个生动的、发自内心的事件发生时，人们会特别有动力去行动。因此，2005年卡特里娜飓风摧毁新奥尔良后，对全球变暖的担忧加剧，2011年福岛灾难后，对核电站安全的担忧加剧

成功的打击地雷和集束弹药的人道主义运动非常有效地利用了被这些武器致残的许多受害者。目前反对核武器的人道主义运动同样依赖于1945年广岛和长崎爆炸案的受害者和核试爆的受害者。受害者的存在和他们的故事以一种抽象的统计数据和法律论据所不能做到的方式使这个问题变得生动起来。今天，没有完全自主武器的受害者，因此这场运动必须是积极的，而不是被动的，依赖于对未来伤害的预期

防止杀人机器人本身就是一个有价值的目的。然而，阻止杀手机器人运动最重要的方面是，它开创了一个先例，作为一项前瞻性的努力，保护人类免受可能永久终结文明或导致人类灭绝的新兴技术的影响。生物技术、地球工程和人工智能等领域的发展可能非常有害，因此可能无法做出回应。反对完全自主武器的运动是一个试验案例，是一场热身。人类必须善于主动保护自己免受新武器技术的影响，因为我们对这些技术的反应将自担风险

编辑注意：这里提出的观点是作者自己的，而不是全球灾难风险研究所的观点

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

主题：专栏作家、专题、，技术与安全全球灾难风险研究所所长，鲍姆于2011年联合创立的非营利智库。鲍姆的研究。。。阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介