这两种能力比任何其他能力都更能激发军事规划者：首先，进入对手决策圈的能力，并在冲突中保持领先；第二，能够充分感知作战空间，并随时看到任何地点发生的情况（Hitchens 2019）。没有什么比尸体袋的前景更让军事规划者感到不安的了，因此，寻找发动“不流血”战争或在远处实施暴力的方法具有吸引力

人工智能（AI）系统为他们带来了三倍的回报。首先，武器平台和相关决策支持系统可以实时融合和加权来自不同领域的数据。因此，可以以更快的速度施加力。第二，可以克服人类在消化传感器输入方面的局限性，例如，来自不同地点的实时视频输入，以增强态势感知，从而实现量身定制的、及时的武力应用，从而达到最大效果。最后，也许不是今天，但很快，机器可以进入前线作战角色，这减轻了人员伤亡的政治影响

当然，首先要克服一些重要的障碍。这项技术还不成熟。如今，很少有人工智能模型能够捕捉到数据训练过程中使用的分类器之外的异常，也无法在增量基础上实时学习。存在安全问题；例如，图像识别模型很容易被所谓的“对抗性”攻击欺骗（Vincent 2017）。即使算法在模拟中表现良好，对人工智能界面的信任仍有待建立，包括在自动驾驶汽车等领域，这些领域已经进行了多年的测试和数十亿美元的投资。见过水手或飞行员在简单的数字仪表盘上挣扎的指挥官们不愿意相信晦涩难懂的算法模型。最重要的是，将人的控制和判断拱手让给黑箱算法仍然存在重大的法律和道德挑战

尽管有标题和吸引人的标题，但人工智能军备竞赛的性质和程度在现阶段很难辨别

在这一发展阶段，一个有用的类比是金融部门，在那里风险（和潜在回报）很高，风险的相互关联性也很高，通常是以不那么明确或明确的方式。总部位于瑞士巴塞尔的金融稳定委员会（FSB）的一份报告强调了随着人工智能在金融服务中的引入，“第三方依赖性”会如何增长，以及“新的和意想不到的互联形式”会如何出现，例如，当以前不相关的数据源汇集在一起时（FSB 2017，1）

传统上，军备控制专家从稳定和遵守现有法律规范的角度来看待新战争技术的引入。在后一种情况下，关于常规武器或大规模毁灭性武器（核武器、生物武器和化学武器）的现有军备控制条约中没有针对人工智能系统的具体禁令。自2014年以来，潜在的人工智能系统如何影响现有的国际人道主义法（IHL）原则，如区分、相称性和军事必要性，一直是瑞士日内瓦根据1980年《特定常规武器公约》（CCW）就“致命自主武器系统”进行讨论的主题（Gill，即将于2020年）。为了解决与破坏国际人道主义法有关的关切，特别是对武装冲突法律的人的责任的逃避，已经提出了一些监管此类制度的备选方案。道德和人权问题也被引用，建议全面禁止无需人类干预就可以做出生死决定的系统（古特雷斯2018）

稳定性论证突出了几个风险：使用致命武力的门槛降低；新的军备竞赛（军备竞赛稳定性）；由于在紧张对峙期间使用自主系统而导致的误判和升级（危机稳定）；以及由于人工智能驱动的战略进攻或防御突破，破坏了战略武器的脆弱平衡（威慑稳定性）。冷战期间，两个超级大国禁止通过双边条约部署全国范围内的导弹防御系统，因为此类技术可能会制造一种无懈可击的假象，并诱使一方对另一方发动先发制人的核打击（Korda和Kristensen 2019）。他们投资于无懈可击的系统，例如携带战略导弹的潜艇，以加强威慑。今天，人工智能可以让携带核武器的潜艇在离开港口前往威慑巡逻站时更容易跟踪，从而使对手能够压制到目前为止被认为是核三巨头中无懈可击的一员。此外，一个局外人可能会将不成熟的人工智能技术引入具有高度破坏性的常规武器或核武器中，因为它试图与更强大的对手恢复威慑，或者用怪异的系统将其推回谈判桌。（例如，参见Boulanin[2019]中关于俄罗斯波塞冬水下自主核运载系统的讨论。）

尽管标题和标题都很吸引人，但人工智能军备竞赛的性质和程度在现阶段很难辨别。在许多方面，战场仍然是技术商业（Lee 2018）。令人担忧的是，大国之间的人工智能技术竞争正是在相互信任度低、传统的军备控制对话结构正在消亡的时候到来的。同样，由于与冷战时期的核试验和导弹发射经验不同，外部没有明显的进步标志，而且人工智能算法及其训练数据集本身就不透明，因此双方都在猜测对方在做什么，并可能将更多的人工智能军事意图和能力归因于需要。2019冠状病毒病大流行造成的动荡和经济损失加剧了不确定性和相互怀疑。军备竞赛动态的心理背景非常到位

我们可能在哪里首先看到这场军备竞赛，它是否有可能像核武器那样成为全球军备竞赛

先进海军可能会投资并最终部署用于海军特遣部队周边防御、反潜战、水雷探测和反水雷措施、海上无人机空中防御、海底部署传感器网络以及用于保护通信电缆的潜水器的人工智能系统。对自主空中作战车辆、自主蜂群、目标探测和获取系统的投资，以及对超音速和高超音速作战系统的空中应用、导航和控制，也可能会增加。在地面上，一系列后勤和支持功能，以及对高价值目标的超视距侦察和攻击能力，都可能需要投资。人工智能在一些肮脏和危险的工作中的应用也会增加，比如反恐或IED（简易爆炸装置）清理行动。在所有这些领域，由于人工智能系统的相对质量将比实物武器更难评估，参赛者将对彼此的能力不太确定，从而增加了在能力开发和部署中误判和不成比例反应的风险

人工智能使用的一个重要领域可能是网络战能力。今天，网络武器在使用过程中不会发生变异，但明天，它们可以自主应对防御措施。这可能会给他们带来战略影响

希望战略系统本身不会看到今天可用的人工智能技术的早期和后续集成。这种希望主要取决于战略社区的文化，他们更喜欢具有可计算确定性和故障率的硬连线系统。尽管如此，“纠缠”的风险仍将存在，因为新系统将新类型的数据、参与者和领域带入战略社区的计算中（悲观观点见Johnson[2020]）。如果人工智能在潜艇探测、与高超音速飞行技术的通信或控制等领域取得突破，攻防平衡也将面临压力。另一个令人担忧的问题是各方之间的平等观念；一些拥有核武器的国家可以通过使用人工智能更好地管理冲突升级阶梯中的常规和次常规部分，从而获得先发优势，这可能迫使其他国家威胁增加对早期使用核武器或危险的部署姿态

建议

在人工智能时代更新多边治理

就地理战场而言，人工智能系统可能会更早地部署在海洋领域和北大西洋/北极等地区，印度太平洋的海湾和南海。这是因为对这些地区的力量平衡变化和主要军事力量的行动重点的敏感性

人工智能武器系统是否有可能影响全球力量平衡？可能——但与其说是一个独立的变量，不如说是一种不同于当今推动权力转变的其他趋势的变量。从这个意义上说，依靠核武器的历史经验，我们在人工智能系统方面只能走到目前为止。扩散仍可能将大国之间的人工智能军备竞赛变成一种全球现象，区域人工智能竞争可能会带来一些令人讨厌的部署意外。但全球力量平衡将受到许多相互依存因素的影响；数字技术将只是众多技术中的一种

最后，国际社会应立即采取哪些关键行动，以防止人工智能军备竞赛走向全球并管理其国际安全后果提高透明度，并鼓励更好地理解意图、能力以及最终的部署理论。它还将鼓励分享最佳和“最坏”的做法，正如冷战期间就核武器的安全与保障建立的共享学习一样

第二，不鼓励战略系统和基于人工智能的决策支持系统的混合。这项工作可以采取核武器国家之间政治谅解的形式。可以围绕人工智能的使用建立更多的理解，这可能会影响攻防平衡

第三，继续开展联合国政府专家组（2018年）在日内瓦就这一领域开展的讨论，以

就国家机制审查自主武器系统在国际人道主义法下的义务达成协议，以及

排除无法遵守此类义务的系统此类协议可以伴随着定期交流人机界面质量方面的经验。因此，如果战场上的行动速度超过了人类决策者有效监督或正确解释人工智能系统传递给他们的信息的极限，则可以识别和避免使用场景

简介