阅读我们的Oppenheimer系列

作者：Kristin Bergtora Sandvik、Nicholas Marsh、Maral Mirshahi|2014年5月7日

<源尺寸=（最大宽度：397px）100vw，397px srcset=https://thebulletin.org/wp-content/uploads/2014/05/397px-HMS_Daring_D32_Phalanx_CIWS.jpg.webp397w，https://thebulletin.org/wp-content/uploads/2014/05/397px-HMS_Daring_D32_Phalanx_CIWS-199x300.jpg.webp199w，https://thebulletin.org/wp-content/uploads/2014/05/397px-HMS_Daring_D32_Phalanx_CIWS-245x370.jpg.webp245w type=images/webp> 397px-HMS_Daring_（D32）_Phalanx_CIWS.jpg

制止杀手机器人运动于2013年4月发起，目的是禁止开发、生产和部署致命的自主武器。同月，联合国法外处决、即审即决或任意处决问题特别报告员克里斯托夫·海恩斯呼吁在一个国际委员会审议这一问题时暂停开发和部署此类武器。在非常短的时间内，这场运动取得了显著的成效。每个月，都会有一系列的媒体报道、国际会议和政策活动专门讨论这个问题。这场运动在一件非常重要的事情上取得了成功：在最基本的层面上，将政治与旨在完成特定军事任务的计算机算法相结合

5月13日至16日，在《特定常规武器公约》的主持下，联合国专家将在日内瓦举行会议，讨论与致命自主武器系统新兴技术有关的问题。在现阶段，不可避免地会对未来任何禁令的范围和含义进行大量辩论和讨论。这场运动仍在酝酿之中；如果要取得成功，一组州和政府必须在未来几年内团结起来，共同理解这个问题及其解决方案。前进的道路是什么

最重要的是，阻止杀手机器人运动需要在制定广泛的禁令和务实地照顾潜在国家支持者的利益之间取得平衡。需要向潜在签署国保证，他们不必放弃他们认为在军事上至关重要的东西。如果无法说服各国需要禁令，这场运动很可能无法获得组建联盟和谈判成功条约所需的支持。为了进入下一阶段，组成这场运动的非政府组织需要在一系列关键问题上达成一致

一项主要任务是明确新法律法规的具体内容、适用何种类型的规则（如果有的话）、如何实施以及由谁监督。到目前为止，根据国际人道主义法，致命的自主武器是否是非法的问题受到了很大关注。在复杂的非法性问题上，陪审团仍然悬而未决，竞选活动必须战略性地考虑对现有法律规范的重视。如果致命的自主武器不是非法的，但人们希望它们是非法的，那么就需要禁止。如果它们是非法的，但人们想一劳永逸地结束讨论，那么禁令仍然是有用的。与此同时，仅就国际法达成协议并不能解决问题

最具争议的问题之一可能涉及武器系统被视为“完全自主”的阈值。设定的最低水平将决定哪些系统被禁止，哪些系统可以继续运行。设定自主性的阈值将涉及重大辩论，因为机器决策是连续的。这场运动的一项关键任务是在非政府组织和各州之间就这一问题达成共识，这些组织和州必须进行谈判，然后实施禁令

此外，世界必须相信禁令是现实的。那些不同意禁令必要性的人经常辩称，为时已晚，因为这项技术已经在酝酿之中；考虑到定义自动化和自主过程的困难，这是不可行的；或者，在一个版本的规范使用，而不是技术论点中，禁令是不必要的。这个运动必须解决每一个反对意见

最后，还有一个挑战，那就是接触已经在辩论将人工智能技术用于民用目的的公众。虽然公众的想象力最容易被看起来具有威胁性的硬件的幻想所捕捉，但致命的自主武器的问题在于决策和软件开发。该运动需要对杀手软件与非杀手软件的区别进行令人信服的分析，并找到有效的方法将这种区别传达给世界各地的政府和公民

总之，该运动必须在参与技术专家对话与积极参与公共辩论之间取得平衡。确定并主张广泛的道德原则，同时保持目标的狭隘性，似乎是最可行的战略，同时坚持发展致命的自主武器并非不可避免。政治选择和优先级将决定算法的结果

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

主题：分析、专题、技术和安全

复制链接链接复制的
电子邮件
推特
领英

Kristin Bergtora Sandvik，奥斯陆和平研究所高级研究员，从事人道主义技术研究。她是…的中心主任。。。阅读更多

Nicholas Marsh是奥斯陆和平研究所的研究员，研究小武器贸易和武装暴力。此外阅读更多

Maral Mirshahi是奥斯陆和平研究所和挪威人道主义研究中心的项目助理。她也。。。阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介