8月，一个机器人和人工智能专家小组发布了一封致《联合国某些常规武器公约》的公开信。这封广为宣传的信呼吁公约“找到一种方法来保护我们所有人免受”自主武器系统的危险，并提请人们注意缺乏对自主武器（通常被理解为“一旦激活，就可以在没有进一步人为干预的情况下选择和打击目标”的武器）的国际监管

2013年，该公约将自主武器列入其可能考虑限制或取缔的武器清单。但公约缔约方在如何定义“致命的自主武器系统”或“人类对自主武器的适当控制”方面仍远未达成一致——这是进一步讨论该主题或阻止杀手机器人运动倡导的那种先发制人的禁令的必要前提。去年12月，公约成立了一个政府专家小组，负责讨论致命的自主武器系统，但由于预算原因，该小组的第一次会议已两次推迟。现在计划在下个月举行

从战争法的角度审视自主武器的深思熟虑的过程——也就是说，可能导致新法规的过程——是出了名的迟缓。与此同时，自主武器技术也在飞速发展。美国、中国、俄罗斯、韩国和英国等国继续开发自主武器和相关军民两用技术，这意味着在谈判任何先发制人的禁令之前，部署这些武器可能会成为既成事实

目前关于自主武器的辩论显示出两个重要的缺点。首先，尽管从法律和监管角度审查自主武器很重要，但这样做可能无法捕捉到这样一个现实，即自主武器及其开发和部署相关的做法本身可能会改变规范。例如，围绕自主武器的做法可以在国际法之外对何时以及如何使用武力产生新的理解。正如Herbert Lin在公告中所写，第二次世界大战的无限制潜艇战破坏了商定的战争行为准则；其他这样的例子并不难找到

其次，当观察家们讨论自主武器在国际关系和安全政策中改变游戏规则的潜力时，他们往往过分强调未来技术先进的自主武器。（这种趋势是由流行文化中对人形怪物的“终结者”愿景形成的受“自主武器”或“自主性”缺乏共识定义的影响。）过度强调技术先进的武器似乎导致了一种信念，即国际社会应该等待“杀手机器人”是否真的成为现实。然而，无论先进的人工智能对未来的武器系统有多重要，现在需要关注的都是“愚蠢”的自主武器。（例如，谢菲尔德大学人工智能和机器人学名誉教授诺埃尔·沙基，以及新南威尔士大学人工智能教授托比·沃尔什，都讨论过这个问题。）为了解决这些问题，将自主性与纯粹的自动化进行对比是有帮助的。根据基本机器人的定义，自动化机器可以说是根据固定和预编程的动作序列运行的。与此同时，自主系统是由它们的适应能力来定义的：自主设备的“动作是由它的感官输入决定的，而不是由它在预编程序列中的位置决定的。”这种程度的自主很容易实现——人们只需要想想机器人吸尘器。但就武器而言，即使是这种程度的自主性也与人类适当控制的理念相矛盾。重要的是，与未来可能出现的人形杀手机器人不同，这种自主性已经存在

更高的阈值8月，英国国防部发布了一份关于无人驾驶飞机系统的“联合条令出版物”。该文件提供了“自动化”和“自主”系统的定义和区别，这样做偏离了人们对这些术语的普遍理解它将自主武器狭义地描述为“能够理解更高层次意图和方向”的复杂系统能够从许多备选方案中决定行动方案，而不依赖于人工监督和控制，尽管这些方案可能仍然存在。尽管无人驾驶飞机的整体活动是可预测的，但个别行动可能不是。“

属于这一定义的系统尚未投入使用，但这一定义提出了一种可能性，即未来出现的自主武器甚至可能不会被视为这样。也就是说，英国国防部提高了武器系统被视为自主的门槛。相应地，它提供了“自动化系统”的扩展定义，宣称“自动化或自动系统是指响应一个或多个传感器的输入，被编程为逻辑上遵循一组预定义的规则以提供结果的系统。这一扩展的定义将“自动化”带入了上述机器人基本定义中为“自主性”保留的领域

显然，这些新的定义对自主武器的可能监管和限制提出了新的挑战。例如，联合王国自己宣称“不拥有武装自动驾驶飞机系统，也无意开发这些系统”，这是怎么回事？英国政府坚持认为，“英国武器的操作将始终由人类控制”，从某种意义上说，“一个人（将）参与设定适当的参数。”但当自动化和自主之间的区别变得模糊时，英国的声明只是对开发具有自主性的武器系统的微弱暂停。开发自主武器操作算法的程序员会代表对“适当”参数设置的“人类控制”吗

“更好的士兵。”鉴于所有这些，关于自主武器的辩论应该更彻底地考虑到现有规范可能受到当前可用自主武器影响的方式。讨论规范如何监管自主武器很重要，但逆转也是必要的——是时候调查武器如何影响规范了

在这种情况下，需要考虑的一类重要规范是“程序规范”。这些规范适用于军队等有限的组织环境，为适当的做事方式提供了标准。它们基于特定的目标和期望，而这些目标和期望往往与效率和效力有关。就武器而言，更高水平的技术自主性会提高反应时间、系统可靠性、续航能力或精度（与无人驾驶和遥控飞行器不同，后者不一定能带来这样的改进）。由于自主武器在程序规范方面具有优势，因此部署自主武器的可能性更大。也就是说，自主武器提供了程序上的激励，从时间上来说，将人类决策从使用武力中移除。正如一位美国海军陆战队律师所说，“从作战角度来看，（人类决策）可能……在未来与近乎同行的竞争对手发生冲突时会适得其反。”自主武器在道德和问责领域面临严峻挑战，但在履行程序规范方面得分很高

有时人们认为，自主武器将显示出比人类更优越的道德。任何这样的优势仍然是假设的，但自主武器可能缺乏潜在的问题情绪，如恐惧、愤怒或复仇。假定的道德优越性导致了进一步的程序性争论，认为自主武器是“更好的士兵”，在道德和遵守国际人道主义法方面都会优于人类。如果这一论点更加占主导地位，自主武器的广泛开发和部署将变得更有可能——这将进一步增加程序规范影响作为国际法和合法性概念基础的公共和法律规范的可能性

美国军方普遍且加速部署无人机，以及无人机在美国安全政策中的中心地位，表明这些做法确实形成了规范。由于基于程序规范的特定理由，无人机已成为“首选”安全工具。自主武器的多功能性、其主要特征的军民两用性以及大国之间的技术竞争使其成为非常重要的工具，这使其监管更加困难。不幸的是，每当程序规范凌驾于法律和伦理规范之上时，后一类规范很可能会屈服或适应

可以肯定的是，某些类型的自主武器将来可能会被禁止。但目前关于自主武器的做法已经为未来使用武力制定了标准。应该更密切地监测这一趋势——无论《特定常规武器公约》、各国政府和非政府组织是否在最初定义自主武器的斗争中找到了共同点

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

主题：分析、人工智能、颠覆性技术、技术和安全

复制链接链接复制
电子邮件

Facebook推特

LinkedIn

//ul>

Ingvild Bode博士是南丹麦大学战争研究中心的副教授。她致力于改变美国的武力使用规范。。。阅读更多

Hendrik Huelss是肯特大学政治与国际关系学院的博士后研究员。他的主要研究兴趣是…阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介