那些希望控制自主武器系统的传播和使用的人通常倾向于先发制人的监管，要么采取具有法律约束力的限制措施，要么彻底禁止。这个博客重申了先发制人的价值，但增加了一个重要的限定词。它认为，确保对自主武器进行有意义的控制的最佳机会可能是在“可行”的时刻，届时该技术的战备版本即将到来。迫在眉睫将使这一问题从抽象转变为具体，同时仍留下了一个窗口——尽管短暂——在战场使用的门槛跨过之前采取行动。为了阐明生存能力的重要性，本博客引用了1995年禁止致盲激光武器的例子

关于自主武器的辩论情况上个月，国家和非国家行为者前往日内瓦参加了《特定常规武器公约》政府专家组会议。讨论集中在对自主武器的挑战和潜在的国际反应上：“一旦启动，就可以选择和攻击目标，而无需操作员进一步干预”的系统。[1]
对于一些国家和运动人士来说，最近的这次会议令人沮丧，未能以任何有意义的方式推进关于自主武器的辩论。尽管会议期间越来越多的人呼吁采取更大胆的做法，但这一点还是实现了

欧盟代表警告称，自主战争的技术进步有可能“超过我们维护国际法的能力”。巴西谈到了一个“狭隘的历史机遇窗口”，在这个窗口内应对这项技术带来的挑战。智利鼓励在场的人“今天就行动”。现在为了限制[自治]。[2]
正如这些声明所阐明的，那些关注这项技术的道德和法律影响的人不仅认为监管是必要的，而且应该在武器本身投入战斗之前进行谈判和实施。然而，问题是，它们是正确的吗？即使我们承认这项技术必须受到限制，是否真的有必要先发制人地处理此事？如果是这样，这种类型的早期监管是否真的可以实现
时间问题在他1980年的著作《技术的社会控制》中，戴维·科林里奇探讨了抑制技术创新的困难。他认为，存在一个双重约束问题：试图控制一项技术是困难的……因为在其早期阶段，当它可以被控制时，对其有害的社会后果的了解还不够，无法保证控制其发展；但当这些后果显而易见的时候，控制变得既昂贵又缓慢。[3]
尽管参与者没有直接引用，但科林里奇困境给最近一次关于自主武器系统的GGE会议蒙上了一层阴影。活动人士有充分的理由相信，如果自主武器系统根深蒂固，有意义的监管将更难实现，甚至不可能实现。他们认为，在大国投入更多的时间、专业知识和财力开发技术之前，先发制人地解决这个问题要好得多

然而，在科林里奇困境的第二个方面，即信息问题上，参与度明显降低。已经开展了大量工作，以突出自主武器的潜在风险。尽管如此，我们距离对这项技术对平民和战斗人员构成的实际危险进行最终评估还有一段距离

一些人将自主战争视为对战争道德和法律标准的深刻而可能的内在挑战。在更极端的边缘，是那些警告未来最糟糕的人，一个终结者般的反乌托邦，人类的判断力和人类本身被从战争中抹去

在这一光谱的另一端是那些支持这一技术的人。他们认为，使用自主武器实际上可以提高战场上的平民保护，既可以提高攻击的总体精度，也可以减轻战斗中更明显的人性弱点，包括对暴力过度的偏好

加剧这一分歧的是，关于自主性本身的性质，尤其是在使武器系统出现问题所需的自主性程度上缺乏共识

我们如何应对这一僵局？如果技术朝着意想不到的方向发展，我们是否会先发制人地管理自主战争，并冒着创建不适合目的的指导框架的风险？[4] 还是等到军事先行者部署并受益于自主武器系统，其后果很可能是全球军备竞赛

这里的论点是，尽管存在种种缺陷，早期监管——在战场上使用自主武器之前进行监管——仍然提供了最好的控制机会，如果有必要，还可以禁止这项技术。然而，为了获得最大的成功概率，它必须是正确的早期
一旦自主武器的制造和使用被认为迫在眉睫，禁止自主武器最有可能获得各国的必要认可。在这个“生存窗口”期间，扩散级联的幽灵——对自主武器的需求和获取的快速增长——成为一种可利用的资源，活动家可以利用这种资源来产生必要的紧迫感，以确保对先发制人监管的支持。这样的监管，即使未能获得美国和俄罗斯的支持，也会对在战争中使用致命自主权的行为进行污名化

为了认识到战场生存能力作为监管变革催化剂的潜力，我们只需要看看1995年禁止致盲激光武器的协议；这是军备控制史上唯一成功禁止先发制人武器的例子之一

在协议达成前的近十年里，人们一直在努力禁止这项技术，因为它与防止战争中不必要的痛苦或过度伤害的规则之间存在潜在的紧张关系。然而，这些都没有成功，因为各国以致盲激光属于“科幻小说”的范畴为由，拒绝了拟议的监管。[5]
到20世纪90年代初至中期，情况发生了变化，杀伤人员致盲激光器发展到了现在考虑出售的地步。出于可以理解的原因，这一事态发展困扰着那些寻求先发制人禁令的人。然而，战场生存能力似乎并没有预示着它的灭亡，反而有助于监管努力，“消除了许多国家的某种冷漠”，这些国家迄今为止认为，如果挑战真的出现，那就在遥远的未来。[6]
必须承认，禁止致盲激光武器的运动与目前管理自主战争的努力不完美地类比。对于自主暴力是否能够正确区分合法和非法目标，人们提出了合法的问题。同样的暴力构成了不必要的痛苦，这是一种更难接受的说法。永久性的失明有一种发自内心的本能，这有助于将这种失明的武器分开。相比之下，至少到目前为止，还没有迹象表明，自主武器在实际造成的身体伤害类型上与人类操作的武器有很大区别

致盲激光的例子可以丰富目前关于自主战争的辩论。但至关重要的是，它可以做到这一点，而不是通过不恰当的技术比较，而是通过强调监管过程中可行性窗口的重要性

从这里到哪里

GGE将于2020年召开下一次会议，审议处理自主战争问题的规范和操作框架。与此同时，活动家和技术专家必须继续合作，制定一个更精细的自主定义，更好地识别哪些特定技术与战争规则不兼容。更深入地理解什么是有问题的自治，将是未来行动的最可靠指南，不仅在监管什么方面，而且在何时监管

应扩大道德、法律和技术专家之间的合作，以涵盖该问题的时间层面，特别是可行性问题。从这一点开始，自主武器可能的技术轨迹是什么？[7] 对自主武器系统先发制人禁令的支持是否会反映出致盲激光的情况，并且在考虑出售有问题的技术时，支持力度会最大？或者，对战场使用的预期是必要的催化剂吗？何时可能达到这两个阈值

这些问题的最终答案几乎肯定是难以捉摸的。但即使在一定程度上澄清这些问题，我们也可以降低自主武器在监管机构干预之前到达并越过生存门槛的风险

这里的论点并不是说战场生存能力是一种监管性的银弹，可以保证防止问题武器系统的出现。这里的重点是机会。那些希望限制或禁止自主战争的人可能会他们最好的机会是在该技术的一个准备就绪的版本即将到来时这样做

紧迫性将阐明问题的紧迫性和不作为的后果。它将激发那些已经致力于禁止的国家的意愿，并激励未承诺的国家，至少有些国家，转向更积极的支持立场

的确，一些国家可能会继续反对自主战争的管制，而不管是否迫切需要这样做。最终，这项技术的军事利益可能足以压倒我们防止其扩散的能力。禁止自主武器也可能成为国际军控共识不断削弱的牺牲品，最近特朗普政府终止《中导条约》强化了这一共识

就像战争的许多其他方面一样，这个问题的未来也不明朗。但很明显的是，在管制军事武器时，时机很重要。对于自主战争的具体情况，它最终有多重要？时间会证明一切

***

脚注

[1]武器系统中“自主”的定义仍然存在很大争议
[2]8月20/21日会议的录音可在https://conf.unog.ch/digitalrecordings/index.html?guid=public/C998D28F-ADCE-46DA-9303-FE47104B848E&；位置=40。
[3]David Collingridge，《技术的社会控制》（伦敦：Pinter，1980），第19页。
[4]这种框架可能会受到那些主张基于“人类控制”的监管的人的反击。这个框架的最大优点是它的技术不可知论
[5]Louise Doswald Beck，“致盲激光武器新协议”，红十字国际委员会36，第312号（1996），第273页。看见https://www.sipri.org/sites/default/files/2017-11/siprireport_mapping_the_development_of_autonomy_in_weapon_systems_1117_1.pdf另请参见Laura Brunn，《自主武器系统：法律对人类在使用武力中的作用的规定》，2021 11月11日，红十字委员会，《武装冲突中的人工智能和机器学习：以人为中心的方法》，2019年6月6日，Eric Talbot-Jensen，《国际人道主义法的人性》，8月23日，2018年

Merel Ekelhof，《自主武器：实现有意义的人类控制》，2018年8月15日？2018年4月3日

***

免责声明：关于人道主义法的帖子和讨论；政策博客不得被解释为以任何方式定位红十字国际委员会，博客的内容也不等于正式的政策或理论，除非特别指出

简介