简介

人工智能（AI）的进步为世界各地的军队带来了巨大的机遇。随着人工智能军事系统的潜力不断增加，一些活动人士发出警报，呼吁限制或彻底禁止某些人工智能武器系统。相反，对人工智能军备控制持怀疑态度的人认为，作为一种在民用环境中开发的通用技术，人工智能将非常难以控制。AI是一种具有无数非军事应用的赋能技术；这一因素使它有别于许多其他军事技术，如地雷或导弹。由于人工智能的广泛应用，完全禁止人工智能的所有军事应用可能是不可行的。然而，有可能禁止或规范特定用例。

国际社会有时禁止或管制武器，取得了不同程度的成功。在某些情况下，例如禁止永久致盲激光，迄今为止，军备控制效果非常好。然而，在其他情况下，如试图限制无限制的潜艇战争或对城市的空中轰炸，各州未能在战争中实现持久的克制。各国控制或管制武器的动机各不相同。各国可能寻求限制特别是破坏政治或社会稳定、造成过度平民伤亡或对战斗人员造成不人道伤害的武器的扩散。

本文通过探索试图进行军备控制的历史案例，分析成功与失败，探讨了军备控制在人工智能军事应用中的潜力。论文的第一部分探讨了与为什么一些军备控制措施成功而其他措施失败有关的现有学术文献。然后，该文件提出了影响军备控制成功的几个标准。最后，它分析了人工智能军备控制的潜力，并为决策者提出了下一步的建议。从古代禁令到现代协议，企图进行军备控制的详细历史案例可在可供下载的pdf附录A中找到。历史告诉我们，决策者、学者和民间社会成员今天可以采取具体措施，提高未来人工智能武器控制成功的机会。其中包括采取政策行动来塑造技术发展的方式，以及加强各级对话，以更好地理解人工智能应用程序在战争中的应用。任何人工智能武器控制都将具有挑战性。然而，在某些情况下，军备控制在适当的条件下是可能的，今天的小步骤可以帮助为未来的成功奠定基础。

了解军备控制

“军备控制”是一个广泛的术语，可以包括各种不同的行动。一般来说，它是指各国为控制某些武器、武器特点、武器应用或武器运载系统的研究、开发、生产、部署或使用而达成的协议武器控制的类型。

武器控制可以在武器开发和使用的许多阶段发生（见图1）。不扩散制度，如《核不扩散条约》（NPT），旨在防止获得某些武器背后的基础技术。（有关正式条约名称和非正式名称及缩略语的列表，请参阅PDF中的附录C）。禁止，如关于地雷和集束弹药的禁令，允许获得技术，但禁止开发、生产或储存武器。武器限制条约允许生产；它们只是限制了和平时期各国可以拥有的某些武器的数量，其他协议规定了战争中使用武器，限制以某些方式使用武器或完全禁止使用武器。

军备控制可以通过多种方式实施，包括具有法律约束力的条约、随着时间推移而产生的国际习惯法或无法律约束力的文书。成功的军备控制甚至可以通过国家间没有明确规定但却导致相互克制的默契协议来实现。

国家间的军备控制是例外，而不是规则。大多数时候，国家在军事技术方面进行竞争，没有正式或非正式的军备控制机制来限制竞争。有几个因素使军备控制具有挑战性。军备控制需要国家之间的某种程度的协调和信任，而在最需要军备控制的情况下——激烈的军事化竞争或战争是最难协调和信任的情况。这种可能促进信任的监督和核查也是一个挑战，因为同样的透明度可能会缓解竞争对手对武器发展的担忧，但也可能会暴露出自己军队的弱点，使国家不愿采取此类措施。尽管存在这些压力，各国有时还是成功地限制了武器的发展或使用。即使在全面战争的高潮时期，各国也寻求相互克制，避免使用某些武器、武器特征或会升级战斗或不必要地增加痛苦的战术。本文的关键问题不是为什么军备控制很少，而是为什么它在某些情况下成功，而在其他情况下却没有成功。

影响军备控制成败的因素

肖恩·瓦茨和丽贝卡·克罗托夫分析了军备控制的历史案例，以确定哪些社会、法律和技术因素影响了军备控制是否成功。

瓦茨确定了六个标准，他认为这六个标准会影响武器对法规的容忍度或抵抗力：有效性、新颖性、部署、医疗兼容性、破坏性和臭名昭著。一种有效的武器，能够“前所未有地接近”敌人的目标，并有能力确保其统治地位，这是历史上不受管制的。纵观历史，管制新型武器或军事系统的记录好坏参半。各国对某些新武器或武器运载系统（如空中轰炸）进行了监管，同时也抵制对其他新型军事系统（如潜艇）的监管。广泛部署的武器——“纳入国家军事行动”——往往难以进行军备控制。在军事和野战医院造成“符合现有医疗规程的伤口”的武器历来难以禁止或管制。强国历来试图管制或禁止具有“社会和军事破坏性”的武器，因为它们担心此类武器可能会颠覆现有的全球或国内实力动态。民间社会团体的运动或公众的广泛反对可能会增加恶名，使武器更容易受到军备控制。克鲁托夫的模型与瓦茨的模型重叠，但她的重点是武器禁令，而不是更普遍的军备控制。她指出了影响武器禁令成功的八个因素。造成过度伤害或不必要痛苦的武器或天生不分青红皂白的武器更有可能被禁止。各国倾向于抵制管制或禁止具有军事或战略效用的武器。独特的武器或为一个国家提供“实现某些目标的唯一手段”的武器难以管制或禁止。一项狭隘且明确界定了什么是允许的，什么是不允许的禁令更有可能有效。现有的武器条约或条例可能会使未来的军备控制更加成功，除非技术发展提高了武器的军事效用。倡导团体和公众舆论可能会影响各国对武器禁令的考虑，尽管正如克罗托夫所指出的，“这一因素远不是决定性的。”最后，武器禁令的成功取决于愿意支持该禁令的国家总数以及哪些国家同意签署该禁令。瓦茨和克罗托夫同意，武器的有效性可以说是影响军备控制成功的最重要因素。尽管他们的解释略有不同，但双方都认为，具有独特价值能力的武器难以监管。瓦茨专注于武器的社会或军事破坏性——武器破坏现有力量平衡的能力。他认为，尽管强国可能会试图限制破坏性武器，但这些努力很少成功。克罗托夫认为，一种“能够造成某种破坏”或实现某种军事目标的独特武器很可能会对军备控制产生抵抗力。下一节将以他们的模型为基础，提出一种稍加修改的方法，以了解影响不同技术军备控制成败的因素。

军备控制的可取性和可行性

军备控制是否成功取决于其可取性及其可行性。军备控制的可取性包括国家对武器的军事价值和恐怖性的计算（因为它不人道、不分青红皂白或破坏社会或政治秩序）。因此，军备控制的可取性取决于国家为自己的目的保留武器的愿望与限制对手使用武器的愿望之间的平衡。

军备控制的可行性——影响其成功的社会政治因素包括：各国有能力明确所需的限制程度、各国遵守限制使用协议的能力、各国核查遵守情况的能力，以及确保协议成功所需合作的国家数量。当可取性和可行性都很高时，军备控制最有可能成功。

有当国家行为在武器开发、生产数量、部署姿态或使用方面受到限制时，武器控制被认为是成功的。就本文而言，未能约束国家行为的军备控制协议被认为是不成功的。在极少数情况下，在没任何正式条约或其他机制的情况下，通过默契进行约束。然而，一般来说，正式协议是国家之间的一种有用的协调机制，可以明确哪些是允许的，哪些是不允许的。在许多情况下，成功存在于一个频谱上。很少有军备控制协议是100%成功的，没有违反。一些最成功的协议，例如现代禁止化学和生物武器或限制核武器扩散，都有一些例外和违反者。其他协议只能在一段时间内取得成功，之后技术或政治环境发生变化，导致协议崩溃。然而，即使是部分成功的协议也可以通过改善稳定、减少平民伤亡或减少战斗人员痛苦来减少伤害。

军备控制的可取性

一种有效的武器，具有独特的访问权限或能力，或提供决定性的战场优势，具有很高的军事价值。虽然放弃并非不可能，但各国将不愿意放弃一种具有关键优势或独特能力的武器，即使这种武器可能造成其他重大伤害。武器的军事价值是影响军备控制可取性的最重要因素。最重要的是，国家希望确保自己的安全。

衡量武器价值的标准是其可怕程度，即其造成的伤害类型、稳定性风险、对社会或政治秩序的影响，或其滥杀滥伤性质。尽管最成功的禁令针对的是，不是特别有效的武器，但认为禁令对任何具有军事价值的武器都不可行的说法过于简单。战争是可怕的，各国有时试图通过限制其行动或能力的军备控制措施来缓和战争的恐怖。

各国经常寻求限制武器，这些武器会增加战斗人员或平民在战争中的痛苦，超出战场效能所需的痛苦。各国有时限制对战斗人员造成过度伤害或不必要痛苦的武器，例如，如果这种武器不被认为是唯一有效的。例如，子弹在体内留下玻璃碎片，会造成多余的伤害，超过使战斗人员伤残并在战场上取胜所需的伤害，因为玻璃碎片无法被x射线检测到，因此很难从受伤人员身上取出。（《特定常规武器公约》第一号议定书禁止在体内留下无法检测的碎片的武器。）各国还试图对难以以歧视方式使用以避免平民伤亡的武器或武器运载系统进行军备控制。国际人道主义法已经禁止造成过度伤害和滥杀滥伤的武器，但各国有时会就确定哪些特定武器值得特别保护的条例进行协调。

预测技术将如何发展的困难是监管新兴技术的一个挑战。

纵观历史，那些拥有政治权力的人试图控制破坏性武器，如早期武器或弩，这些武器威胁到了现有的政治或社会秩序。各国还试图管制可能在危机局势中造成过度不稳定的武器，如中程弹道导弹、反弹道导弹系统或天基大规模毁灭性武器（WMD）。

因为可能引发军备竞赛而被视为不稳定的武器也可能受到某种形式的管制。例如，1922年《华盛顿海军条约》（Washington Naval Treaty）签署国的主要动机是希望避免代价高昂的海军军备竞赛。尽管有无数威胁和诱因迫使各国在和平时期遵守军备控制协议，在战争激烈的时候限制军队的不是国际谴责，而是对敌人报复的恐惧，成功的军备控制是可能的。

有效军备控制的一个基本要素是各国之间明确所需的约束程度。为了使军备控制取得成功，必须有明确界定什么是允许的，什么是不允许的界线；模棱两可的协议不可能被广泛使用。简洁是关键。与“无气体”和永久致盲激光禁令类似，具有明确焦点的协议更为有效，因为各国对其行为和对手行为的预期有明确的理解。20世纪初，各国试图限制潜艇和空中轰炸的使用，但潜艇和飞机使用方式的实际情况使各国难以遵守商定的限制。各国最初在战时限制使用武器，但一旦战争中的实际困难暴露出来，这种限制就不会持续。

军备控制的可行性也会受到各国核实其他各方是否遵守协议的能力的影响。这种能力可以通过正式的核查制度来实现，但不一定非得如此。核查的关键是确保足够的透明度。对于化学武器或核武器等可秘密开发的武器，可能需要通过核查制度确保透明度。在其他情况下，各国可能会采取不太正式的措施来核查其他国家的遵守情况，例如依靠国家情报收集措施。

协议成功所需的国家总数也会影响军备控制的可行性。当需要较少的国家才能使军备控制取得成功时，可行性就会增加。如果国际体系的两极性导致军事力量集中在少数国家，那么让这些国家达成一致对成功至关重要。尽管相互敌对，苏联（苏联）和美国在冷战期间签订了许多成功的军备控制条约，其中一些是双边协议，其中一些包括许多国家，但由美国和苏联领导。或者，在某些情况下，可能需要几个国家才能达成协议，因为凭借技术，核武器、远程弹道导弹或天基武器等武器只有少数几个国家才能获得。扩散武器更难控制，更多的国家需要就持久和成功的武器控制达成协议。哪些国家支持协议也很重要。正如丽贝卡·克罗托夫（Rebecca Crootof）所解释的那样，“如果一项条约禁令得到了国际社会绝大多数国家的批准，但没有得到生产或使用该武器的国家的批准的话，很难证明该禁令是成功的。”，成功的法规依赖于先前成功的类似技术法规。现代对化学和生物武器的禁令建立在长期以来对毒物的禁令之上。2008年的集束弹药禁令很可能是1997年成功禁止杀伤人员地雷的结果。冷战时期的战略军备控制条约可能产生滚雪球效应，成功的协议增加了未来成功的可能性。

这两个维度中的标准可取性和可行性涵盖了影响军备控制成败的最重要因素。虽然这些因素并非包罗万象，但在审查试图控制军备的历史记录时，这些因素似乎是最重要的。如果过去的历史经验证明是未来的有用指南，那么这些因素可能会影响新技术和新兴技术的军备控制的可取性和可行性，包括人工智能的军事应用。

为什么一些军备控制措施成功而其他措施失败

影响军备控制的可取性和可行性的因素结合在一起，使军备控制在某些情况下取得成功，而在其他情况下则没有成功。各国希望对某些武器进行军备控制，因为它们被视为更可怕和/或更没有用。在某些情况下，各国寻求最终可行的军备控制，但军备控制失败了。

一个国家对军备控制可取性的计算最好体现在对核武器与化学武器的反应上。不可否认，核武器更加可怕——它们造成更大的痛苦、更多的平民伤亡和持久的环境影响。然而，核武器具有独特的有效性，给拥有核武器的国家带来了决定性的战场优势。正是核武器的军事价值阻止了防扩散界实现全球核裁军。

这种动态的结果是，许多成功的军备控制的例子都是针对不特别有效的武器。然而，有些国家选择限制有效武器。如果武器的军事价值是唯一的因素，那么更多的国家会在战场上使用化学武器。如果没有别的话，战争中化学武器的威胁迫使敌人穿着防护装备作战，减慢了敌军的速度，降低了他们的效能。戴着防毒面具战斗很困难。它限制了态势感知，使呼吸困难，降低了射击精度。这一点本身就很有价值。尽管有这些优势，各国在很大程度上还是成功地控制了化学武器在战争中的使用。对大多数国家来说，他们的军事优势被他们带来的痛苦所抵消，他们担心使用这些武器只会导致对手做出同样的反应。

有许多国家禁止武器的例子，这些武器被视为对战斗人员造成特别严重的伤害，特别是当这些武器的军事价值微乎其微时。对于这类武器来说，其可怕性超过了其有效性，增加了对军备控制的渴望。据报道，德国在第一次世界大战中使用的锯背刺刀因其锯齿状的锯木刃而对战斗人员造成严重伤害。德国单方面撤回了刺刀，此前有报道称，英国和法国军队将拷打和杀害携带该武器的德国士兵。一种新的伤害机制也可以增加对武器可怕性的感知，增加对其进行调节的必要性。在禁止永久致盲激光的情况下，这种伤害（永久致盲）被认为会造成不必要的痛苦。不清楚为什么激光致盲比被杀死更糟糕，但禁令仍然存在。然而，永久性致盲激光禁令的成功还归功于它的范围足够狭窄，不会过度限制军事效能。这项禁令允许激光“眩光器”暂时使人失明，但不会造成持久的伤害。在这种情况下，对军备控制的期望很高，因为军队可以使用激光来产生类似的战场效果，使敌人暂时丧失能力，从而降低战斗人员的痛苦和伤害。

某些武器被认为是不人道的，而其他武器被允许使用的过程是路径依赖的，并不总是合乎逻辑的。长期禁止毒药的禁令可以追溯到古代，并可能影响到现代禁止化学和生物武器的成功。古代对火头武器的禁令似乎也延续到了关于易燃子弹和燃烧武器的现代法规。目前尚不清楚为什么在战争中，毒药或火头武器致死比其他许多死亡方式更糟糕。然而，这些禁令是持久的，跨越了不同的地区和文化。

路径依赖常常导致禁止使用被认为会造成特别严重伤害的武器，即使这些武器在其他情况下，武器被视为合法。膨胀子弹经常被用于个人防卫和执法，但许多国家因为1899年《海牙宣言》的禁令而放弃了膨胀子弹，而该禁令本身是建立在1868年禁止爆炸子弹的基础上的。同样，防暴剂可以用于对付暴乱的平民，但却被禁止用于对付战斗人员，因为它们属于《化学武器公约》的范畴。

国家还对被视为破坏稳定或难以歧视使用的武器进行了监管，当其他因素提高了监管的可行性时，这些武器更有可能获得成功。关于破坏稳定武器的军备控制措施，如《海底条约》、《外层空间条约》、1972年《反弹道导弹条约》和1987年《中程核力量条约》，取得了成功（至少是暂时的），特别是在合作所需国家总数有限的情况下，军备控制更为可行。禁止将战争扩展到新的领域，如月球或南极，只有存在明确的协调中心和部署武器的军事价值较低的情况下，才能取得成功，从而提高了军备控制的可取性和可行性。过去，对歧视性较小的武器的管制取得了成功，这些武器更难以有针对性的方式使用，同时也不会造成平民伤害，但只有在武器被完全禁止时，才有可能实施管制。

协议的明确性和简洁性对于实现军备控制至关重要。各国需要与明确的协调中心达成协议，以便彼此有效协调。禁止有毒气体或致盲激光等武器的协议通常比管理具体用途的复杂法规更为成功。对集束弹药、杀伤地雷、爆炸子弹、化学和生物武器以及致盲激光等武器的全面禁止在很大程度上取得了成功，因为这些禁令有明确的定义，而且这些武器是完全禁止的，而不仅仅是在某些情况下。相反地，对武器和运载系统的军备控制措施，如空投武器和潜艇战，允许在某些情况下使用，但在其他情况下却最终失败。在战时，各州将其使用范围扩大到禁止的目标。

这一简单规则的显著例外是禁止地雷和集束弹药。虽然这些条约表面上看起来足够简单——“在任何情况下都不使用……”——但更复杂的规则隐藏在武器的定义中。这些条约的起草方式表明，起草者理解全面禁止武器的规范力量，有助于污名化武器。各州达成协议所必需的复杂例外情况被推到了细节上。

并非所有条约都有简单的规则，但有复杂规则的成功条约往往有其他有利于成功的因素。美国和苏联/俄罗斯之间的许多双边军备控制协议，如《中导条约》、《反导条约》（ABM Treaty）、《限制战略武器会谈》（SALT）I和II、《削减进攻性战略武器条约》（SORT）、《战略武器削减条约》（START）和《新裁武条约》（New START），都有复杂的规则，但只有两方才能达成协议。此外，这些条约适用于和平时期而非战时生产、储存或部署武器，因为战争的紧急情况可能会增加叛逃的压力。复杂的规则在和平时期可能比战时更可行。虽然各国经常在条约中编纂军备控制协议，但协议的法律地位似乎对其成功几乎没有影响。纵观历史，各国违反了具有法律约束力的条约，尤其是在战时。违规行为包括在第一次世界大战中使用化学武器，以及在第二次世界大战期间对未设防的城市进行空中轰炸。各国还遵守了非正式、无法律约束力的协定，如1985年澳大利亚集团，该集团禁止出口用于生产化学或生物武器的技术。甚至有一些国家在没有正式协议的情况下默示克制的例子，例如美国和苏联决定不使用反卫星武器和中子弹。

在人工智能革命之初，尚不清楚军队将如何采用人工智能，它将如何影响战争，以及哪些形式的军备控制国家可能认为可取和可行。

国家遵守协议并不是法律后果的威胁，而是对互惠的恐惧。第二次世界大战初期，阿道夫·希特勒（Adolph Hitler）没有下令轰炸英国城市，不是因为法律禁止这样做，而是因为担心英国会做出同样的反应（德国轰炸机在夜间误袭伦敦市中心后，英国做出了这种反应）。在1925年《日内瓦天然气议定书》获得批准之前，包括英国、法国和苏联在内的大国宣布，如果一个国家不遵守该议定书，该议定书将不再具有约束力。叙利亚领导人巴沙尔·阿萨德（Bashar al-Assad）对自己的人民使用毒气，而不害怕报复。德国在第二次世界大战中广泛使用有毒气体，但从未对可能进行报复的大国进行过反击。当相互约束盛行时，这是因为国家行为受到内部适当性规范的制约，或者担心对手会如何反应。

当约束依赖于互惠时，国家需要某种机制来验证其他国家是否遵守了协议。对于某些武器，例如那些可以秘密开发的武器，可能需要正式的核查制度。其他情况可能不需要正式核查，但确实需要某种形式的透明度。《化学武器公约》和《不扩散条约》已经制定了核查签署国遵守情况的检查措施。《外层空间条约》要求各国允许其他国家观看发射和访问月球上的设施。虽然禁止地雷和集束弹药没有正式的检查制度，但它们确实要求各国在销毁储存方面保持透明。然而，军备控制措施不需要正式或机构核查才能取得成功。一系列军备控制协议——1899年关于扩大子弹的禁令、1925年《日内瓦气体议定书》、《特定常规武器公约》和SORT——都没有正式的核查制度。在某些情况下，各国将通过自己的观察来核实彼此的遵守情况。对于《环境改变公约》、《生物武器公约》和《海底条约》，如果各国认为签署国违反了该协议，可以向联合国安理会求助，例如使用卫星图像。《华盛顿海军条约》（Washington Naval Treaty）没有核查条款，也许是基于这样的假设，即各国可以通过自己的方式观察主力舰的建造。基本要素是国家通过各种手段观察竞争对手是否遵守协议条款的能力。随着时间的推移，军备控制的可取性和可行性可能会发生变化。技术的进步和发展，使得一些武器或能力，如空中力量，变得更有价值。或者，一种武器，例如化学武器，如果被认为造成不必要的痛苦或不能提供决定性的战场优势，可能会随着时间的推移而受到污名化。很难预测新兴技术的发展路径及其对策。1899年的《海牙宣言》围绕着一系列新武器——气球运载武器、膨胀子弹和充气弹——制定了法规，这些都被正确地认为是有问题的。然而，为限制这些技术而制定的法规是建立在被证明是错误的假设之上的。对于空投武器，海牙代表团未能充分预见到防御空袭的徒劳。尽管在个人防卫和执法环境中，膨胀子弹的使用已成为常态，但它还是被禁止。海牙代表团未能禁止毒气罐中的毒气，从而造成了德国在第一次世界大战早期使用毒气时所利用的漏洞。技术是新的，这一事实在若干方面使军备控制的可取性复杂化。一些国家可能赞成先发制人地限制新兴技术或武器，特别是如果他们担心可能发生军备竞赛。然而，在其他情况下，国家可能不愿意放弃其军事价值尚未完全知晓的能力。各国也可能无法理解武器的恐怖，直到它在战斗中部署。各国了解空气的潜在危害-在平民地区运送武器，但毒气和核武器的恐怖直到使用才得到充分认识。

即使各国希望对新兴技术进行军备控制，但如果他们错误地判断了技术的发展方式，试图制定的法规可能也不可行。对于已经存在的武器，如集束弹药和地雷，禁令可能会有复杂的规则（在细节上）。然而，对于先发制人的新武器禁令，各国不太可能成功预测技术将如何发展的细节。新兴技术的先发制人法规更可能成功，因为它们专注于武器的意图，例如禁止激光造成永久致盲，而不是可能改变的技术细节。

即使有因素支持军备控制的可取性和可行性，也无法保证成功。各国可选择不遵守。相互约束可能会崩溃。一种武器可能在军事上太有价值，导致各国放弃军备控制，保留一种可能赢得战争的武器。这些挑战已经面临了几个世纪，它们对未来监管新兴技术（如人工智能）的尝试有着具体的影响。各国在考虑如何以及何时监管或限制军事人工智能的某些用途时，必须牢记这些原则。

人工智能的含义

AI技术因各种原因对军备控制提出挑战。人工智能技术是分散的，它的许多应用程序是双重用途的。作为一项新兴技术，它的全部潜力尚未实现，这可能会阻碍控制它的努力。核查任何大赦国际军备控制协议也将具有挑战性；各州可能需要制定方法，确保其他州遵守法规，以适应限制自己的能力。这些障碍虽然重要，但并非在所有情况下都无法克服。在某些情况下，军备控制对于某些军事人工智能应用可能是可行的。即使各国在军事人工智能领域展开竞争，它们也应该寻求机会降低其风险，包括在可行的情况下采取军备控制措施。

AI作为通用技术

AI是一种类似于电力或内燃机的通用赋能技术，而不是一种分立武器，如潜艇、膨胀子弹或致盲激光。从军备控制的角度来看，该技术的这一方面提出了若干挑战。

首先，人工智能技术具有双重用途，既有民用应用，也有军用应用，因此很可能广泛应用。这项技术的分散性使军备控制在两个方面具有挑战性。首先，这使得一个提议“封住”人工智能并减少其扩散的不扩散机制不太可能成功。此外，人工智能技术的广泛应用意味着，需要许多行为者遵守军备控制制度，才能使其有效。在所有条件都相同的情况下，与更多的参与者进行协调可能更具挑战性。

其次，人工智能技术的通用性可能会使建立明确的军备控制协调中心变得更加困难。这一点尤其正确，因为它的定义是模糊的，可以有多种解释。“无人工智能”缺乏“无气体”的清晰度；一项技术是否符合“人工智能”的资格可能有多种解释。实际上，人工智能是一个如此广泛的实践领域，宣布“无人工智能”将类似于19世纪末国家决定“无工业化”。尽管各国试图管制或禁止工业革命中出现的许多特定技术（包括潜艇、飞机、气球、毒气、爆炸或膨胀子弹），但各国承诺不在战争中使用任何工业时代的技术是站不住脚的。考虑到民用工业基础设施的双重用途性质，即使这些界限是可取的，也完全不清楚这些界限将在何处划定或可能在何处划分。民用铁路、商船或民用卡车会被用来运送军队吗？工厂会被用来制造武器吗？对于当今的人工智能技术而言，许多军事应用可能用于改善业务流程或运营效率的非武器用途，例如预测性维护、图像处理或其他形式的预测性分析或数据处理，可能有助于简化军事行动。这些人工智能应用程序可以通过提高作战准备水平、加快部署时间表、缩短决策周期、提高态势感知能力或提供许多其他功能来提高战场效能进展。然而，可接受的人工智能军事用途和不可接受的用途之间的界限可能模糊不清，各州需要明确规定才能使任何协议生效。

人工智能技术因各种原因给军备控制带来挑战。人工智能技术是分散的，它的许多应用程序是双重用途的。作为一项新兴技术，它的全部潜力尚未实现，这可能会阻碍控制它的努力。

各国在工业革命期间出现的技术军备控制方面的经验是一个有用的历史指南，包括内燃机（潜艇和飞机）和化学（爆炸子弹和毒气）。这些努力并不总是成功的，但不是因为各国无法确定潜艇或飞机是什么，也不是因为各国不能限制其民用用途（这对于禁令的成功是不必要的）。相反，失败的原因与这些武器在战争中使用的具体形式有关。如果轰炸机和防空系统、潜艇和商船之间的攻防平衡发生了不同的变化，这些武器的军备控制可能会更成功。（或者，如果各国试图完全禁止这些武器，而不是管制它们在战争中的使用，对飞机和潜艇的军备控制可能会成功。），有充足的历史证据表明，各国可能会同意限制人工智能的具体军事应用。问题是，哪些具体的军事人工智能应用可能符合军备控制的可取性和可行性的必要标准。由于人工智能可以用于许多应用，因此某些特定用途可能被视为特别危险、不稳定或有害。与核稳定、自主武器和网络安全相关的人工智能应用已经成为学者们关注的焦点，可能还有其他重要的人工智能的应用值得进一步考虑。即使在特定的感兴趣领域内，军备控制对于任何特定应用的可取性和可行性在很大程度上取决于技术的应用方式。禁令或法规可以针对被视为特别有问题的人工智能技术的具体实例制定，类似于国家对设计在人体内爆炸的子弹的限制，而不是所有爆炸的弹丸。

AI作为一种新兴技术

预测哪些特定的AI应用可能值得进一步考虑军备控制的困难之一是，与其他新兴技术一样，AI将如何在战争中使用尚不明确。这个问题并不新鲜。19世纪末和20世纪初，各国努力成功控制新的工业时代技术，正是因为这些技术不断发展。

对于新兴技术来说，军备控制既容易又难。一方面，在某些方面，先发制人地禁止新技术可能会更容易，因为各国并没有放弃一种已经融入其军队的武器，而这些武器是它们赖以维持安全的（而且可能有内部的官僚支持者）。另一方面，监管新兴技术有时可能更具挑战性。军队的成本效益权衡不得而知，因为可能不清楚武器在军事上的有效性。同样，在使用武器之前，其可怕程度可能是未知的，就像毒气和核武器一样。各国可能会高度抵制限制似乎特别有价值的武器的发展。

军方认为人工智能是一种“改变游戏规则”的技术，这可能是实现国家约束的障碍。世界各地的军事人员都在投资人工智能，可能不愿意限制某些应用程序。围绕人工智能的炒作——其中很多可能实际上与军方在实践中的投资不匹配——可能是实现军备控制的障碍。此外，对人工智能系统产生超人能力、精确度、可靠性或功效的认知可能会减少对某些人工智能应用可能会破坏稳定或危险的认知。

对人工智能技术的认知，即使是毫无根据的，也会对各国考虑军事人工智能应用的军备控制意愿产生重大影响。随着时间的推移，这些随着国家部署和使用军事人工智能系统，人们的认知可能会更加符合现实。然而，在某些情况下，即使一些人工智能应用最终被视为值得军备控制，如果妖怪已经被整合到国家军队或战场上，就很难把它们放回瓶子里。

验证合规性的挑战

即使各国能够就军备控制的明确重点达成一致，成本效益权衡支持相互克制，核查遵守任何军备控制制度的情况对其成功至关重要。人工智能技术的一个复杂之处是，与其他形式的软件一样，人工智能系统所拥有的认知属性不容易从外部观察到。“智能”炸弹、导弹或汽车可能看起来与同一类型的“哑”系统相同。自动驾驶车辆用于感知其环境的传感器可能是可见的，特别是当它进行自我导航时，但所使用的特定算法可能不是。在考虑人工智能军事系统的军备控制时，这是一个挑战。如果国家无法验证其他国家是否遵守了协议，它们可能无法维持相互约束。

针对这个问题，可以考虑几种潜在的方法：国家可以采取侵入性检查，限制人工智能系统的物理特性，规管人工智能系统可观察的行为，并限制计算基础设施。

采用侵入式检查 各国可以同意侵入性检查制度，允许第三方观察员进入设施和特定军事系统，以验证其软件是否符合人工智能武器控制制度。人工智能检查制度将面临与其他武器相同的透明度问题：检查有可能将武器系统中的漏洞暴露给竞争国。然而，保护隐私的软件验证的未来进展可能有助于各州克服这一挑战，方法是在不公开私人信息的情况下验证软件的行为；侵入性检查制度有先例。检查面临的一个挑战是，如果允许和禁止的能力之间的差异在于软件，一个州可以在检查人员离开后简单地更新其软件。软件更新可以相对快速、大规模地完成，比建造更多的导弹或核浓缩设施要容易得多。原则上，各州可以通过未来开发更先进的技术方法来克服这个问题，例如持续监控软件以检测变化或将功能嵌入硬件，即使国家愿意同意此类检查，侵入性检查制度仍将是验证合规性的薄弱解决方案。

限制人工智能系统的外部可观察物理特性 国家不应关注系统的认知能力，而应关注易于观察和难以改变的总体物理特性，如尺寸、重量、功率、耐久性、有效载荷、弹头等。在这种方法下，国家可以采用他们想要的系统的任何认知特征（传感器、硬件和软件）。军备控制限制将仅适用于车辆或弹药的总体物理特性，即使实际的担忧是由人工智能所带来的军事能力引起的。例如，如果国家担心成群的杀伤性小型无人机，而不是只允许“哑”小型无人机（这将很难核实），各国可以简单地禁止所有武器化的小型无人机，无论其认知能力如何。38个国家以前也使用过类似的方法，监管系统的总体物理特性（可以观察到），而不是有效载荷（这是各国的实际关切，但更难核实）。冷战时期的多项条约限制或禁止了某些类型的弹道导弹和巡航导弹，而不仅仅是禁止用核武器武装它们。另一种方法，仅限制核武器导弹，可能会允许某些常规导弹，但更难验证。

监管人工智能系统的可观察行为 国家可以选择将监管集中在人工智能系统的可观察行为上，例如它在某些条件下如何操作。这将类似于轰炸限制的“无城市”概念，即不禁止轰炸机，而是禁止他们的使用方式。当处理人工智能系统的物理表现时，这种方法将是最有效的，在这些表现中，系统的外部行为可以被其他状态观察到。例如，国家可以制定规则，规定自主水面舰艇在接近其他舰艇时的行为方式。各国甚至可以制定规则，规定武装自治系统如何明确表示武力升级，以避免在和平时期或危机中意外升级。状态用于编程行为的特定算法是不相关的；不同的州可以使用不同的方法。该条例将管理人工智能系统的行为，而不是其内部逻辑。然而，对于一些无法观察到的军事人工智能应用，这种方法将不会有效。（例如，对人工智能在核指挥和控制中的作用的限制可能不会被对手察觉到。）这种方法的另一个限制是，与侵入性检查一样，系统的行为可能会通过软件更新快速修改，这可能会破坏可验证性和信任。

限制计算基础设施AI 系统具有用于计算芯片的物理基础设施，一种方法是将约束集中在可以观察或控制的AI硬件元素上。这可以通过限制专用AI芯片来实现，前提是这些专用芯片可以通过防扩散制度加以控制（如果这些芯片对于被禁止的军事能力至关重要）。如果计算资源是可观察的或可跟踪的，那么另一种方法可能会集中于限制大规模计算。近年来，领先的人工智能研究实验室在大规模计算机机器学习方面投入了大量资金，尽管尚不清楚这项研究的价值是否超过了其巨大成本，以及这一趋势能持续多久。随着时间的推移，通过降低机器学习系统的计算成本，计算效率也会出现抵消趋势，这可能会使人工智能能力民主化。

使军备控制集中于人工智能硬件的一个重要因素是芯片制造基础设施在全球范围内民主化的程度，而不是集中在少数参与者手中。当前的半导体供应链高度全球化，但存在关键瓶颈。这些瓶颈为控制对人工智能硬件的访问提供了机会。例如，2020年，美国通过限制使用美国制造的芯片制造设备（即使芯片本身在台湾制造），成功地将中国电信公司华为从5G无线通信所需的先进芯片中切断<如果这些芯片的生产同样局限于少数几个关键参与者，那么可以想象未来会使用类似的措施来控制对人工智能硬件的访问。

半导体供应链的未来发展高度不确定。供应链冲击和地缘政治竞争加速了国家对全球半导体市场的干预，导致市场如何演变的重大不确定性。有趋势表明硬件供应链更加集中，还有其他趋势表明民主化程度更高。半导体制造厂的高成本是导致该行业更集中的一个因素。另一方面，地缘政治因素正在引导中国和美国加快本土晶圆厂产能。有强大的市场和非市场力量影响着全球半导体行业，这些力量对供应链的长期影响尚不清楚。

未来之路

与人工智能最接近的历史类比是20世纪初工业时代技术的军事化，以及当时各国试图控制这些危险的新武器。1868年《圣彼得堡宣言》发表后，各国在第一次世界大战前夕和第二次世界大战前的两次世界大战期间都进行了一系列军备控制活动。当时的主要军事力量在1874年、1899年、1907年、1909年、1919年、1921年、1922年、1923年、1925年、1927年、1930年、1932年、1933年、1934年、1935年、1936年和1938年开会讨论军备控制，但外交活动的规模表明，要在军备控制方面取得哪怕是微不足道的成果，都需要付出努力和耐心。

有决策者、学者和民间社会成员今天可以采取的几个步骤，探索人工智能武器控制的潜力。其中包括在各级举行会议和对话，以更好地了解这项技术、如何将其用于战争以及潜在的军备控制措施。学术会议、第二轨道学术交流、双边和多边对话以及各种国际论坛的讨论都有助于推动国际各方之间的对话和相互理解。对可能的军备控制措施的分析必须与技术本身及其所支持的行为紧密相连，这些对话必须包括人工智能科学家和工程师，以确保政策讨论以技术现实为基础。此外，由于人工智能技术仍在不断变化和快速发展，那些考虑军备控制的人必须做好适应的准备，并随着技术的成熟将注意力转移到人工智能技术的不同方面或它所带来的军事能力。跟踪人工智能进展和扩散的指标也将有助于阐明军备控制的可能性和未来的挑战。

政策制定者今天可以采取措施，通过塑造技术的发展，特别是在硬件方面，使技术在长期内更加可控。对全球供应链中的关键瓶颈实施出口管制可能有助于控制基础技术的传播，从而实现人工智能、集中供应链和增强未来可控性。然而，出口管制可以加速技术的本土化，因为与关键技术隔绝的行为者加倍努力提高国家能力。政策制定者应明智地运用各种产业政策工具，以确保他们意识到其行动的长期后果，以及他们是否保持对某项技术的集中控制，从而在未来限制该技术的能力，或者他们是否无意中加速了该技术的传播。

在人工智能革命之初，尚不清楚军队将如何采用人工智能，它将如何影响战争，以及哪些形式的军备控制国家可能会认为可取和可行。然而，决策者今天可以采取措施，为未来可能的军备控制措施奠定基础，包括不仅塑造技术的演变，还塑造政治气候。军备控制的历史表明，它高度依赖于路径，军备控制措施往往建立在先前成功的军备控制协定的基础上。现在的小步行动可以带来更大的成功，各国应该寻求相互克制的机会，尽可能减少战争的可怕程度。

下载完整报告

下载PDF