Paul Lushenko

2023年11月29日

专家们一致认为，未来战争的特点将是使用人工智能增强的技术，特别是完全自主的武器系统。这些能力——比如美国空军的“忠诚僚机”无人机——能够在没有人为监督的情况下识别、跟踪和起诉目标。最近在冲突中使用这些致命的自主武器系统——包括在加沙、利比亚、纳戈尔诺-卡拉巴赫和乌克兰——提出了重要的法律、伦理和道德问题

尽管使用了人工智能，但人工智能增强的军事技术如何改变战争的性质和动态仍不清楚。那些最关心将人工智能用于军事目的的人预见了一个反乌托邦的未来或“人工智能启示录”，在这个未来，机器将成熟到足以主宰世界。一位政策分析师甚至预测，致命的自主武器系统“将导致世界秩序的翻天覆地的变化，远远超过核武器的引入。”其他观察人士质疑，鉴于通过算法建模生物智能的复杂性，人工智能系统在多大程度上能够真正接管人类。假设人工智能的这种扩展是可能的，那么依赖人工智能的军队就会受到数据和判断成本的影响，这些成本可以说“使战争中的人类因素变得更加重要，而不是更少”。

虽然这些观点有助于讨论人工智能对全球政治的潜在影响，但并不能解释人工智能实际上是如何改变战争行为的，以及士兵们对这个问题的看法。为了解决这个问题，我最近调查了人工智能增强的军事技术——集成在各种决策层和监督类型中——如何影响美国军官对这些系统的信任，从而使他们了解战争轨迹。在人工智能领域，信任被定义为相信自主技术在追求共同目标时会可靠地按预期运行

为了衡量军方对致命自主武器系统的信任程度，我研究了宾夕法尼亚州卡莱尔的美国陆军战争学院和罗德岛州纽波特的美国海军战争学院的军官的态度。这些军官的军衔将吸引未来的将军和海军上将，他们负责管理未来冲突中新兴能力的整合和使用。因此，他们的态度对于理解人工智能可能在多大程度上塑造“战争机器人”军队作战的新时代至关重要

我的研究显示了三个关键发现。首先，军官们对人工智能增强军事技术的信任程度不同，这取决于他们集成的决策级别和对新能力的监督类型。其次，军官可以批准或支持采用人工智能增强的军事技术，但不能信任它们，这表明态度的错位对军事现代化有影响。第三，军官对人工智能能力的态度也可能受到其他因素的影响，包括他们的道德信仰、对人工智能军备竞赛的担忧以及教育水平。总之，这些发现为军事人员在战争中对人工智能的态度提供了第一个实验证据，这对军事现代化、自主武器的政策监督和专业军事教育（包括核指挥和控制）都有影响

不同国家采用人工智能增强军事技术的决策水平（战术或战略）和监督类型（人或机器）可能有所不同。各国可以优化算法，在战场上执行战术行动，或进行战略审议，以支持总体战争目标。从战术上讲，这种技术可以通过快速分析从战场上分布的传感器中提取的大量数据来提高战地指挥官的杀伤力，从而比对手更快地生成目标选择。正如网络安全专家Jon Lindsay所说，“战斗可以被建模为一种通过摧毁更多敌人同时保持更多友谊来赢得胜利的游戏。”这是通过显著缩短“传感器到枪手”的时间线来实现的，该时间线对应于获取和起诉目标之间的时间间隔。美国国防部的利马特遣部队和Maven项目都是此类人工智能应用的例子

从战略上讲，人工智能增强的军事技术还可以帮助政治和军事领导人将关键目标（目的）与作战方法（方式）和有限资源（手段）的结合，包括物资和人员。新的能力甚至可能在未来的军事行动中出现并取代人类，包括制定战略方向和国家级战略。正如一位专家所说，人工智能已经证明了“参与复杂分析和战略制定的潜力，与发动战争所需的分析和战略相当。”

与此同时，各国还可以调整授权给人工智能增强军事技术的监督或控制类型。这些技术可以设计为允许更大的人力监督，从而增强决策机构的能力。这种系统通常被称为半自主系统，这意味着它们仍处于人类的控制之下。这种监督模式是目前大多数人工智能增强武器系统（如通用原子公司MQ-9“收割者”无人机）的特点。虽然“收割者”可以自动驾驶飞行，考虑到地形和天气条件的变化来调整其高度和速度，但人类仍然可以做出瞄准决定

各国还可以设计人工智能增强的军事技术，减少人工监督。这些系统通常被称为“杀手机器人”，因为人类是脱离循环的。在这些应用中，人类行使有限的监督（如果有的话），即使是针对目标的决策。决策级别和监督类型的变化表明，如果采用人工智能增强的军事技术，全球可能会出现四种类型的战争

首先，各国可以使用人工智能增强的军事技术在人力监督下进行战术决策。这定义了Paul Scharre所说的“半人马作战”，以希腊神话中一种上半身为人，下半身和腿为马的生物命名。半人马座战争强调人类出于战场目的对机器的控制，例如摧毁敌人武器库等目标

其次，各国可以在机器监督下，使用人工智能增强的军事技术进行战术决策。从字面上讲，这颠覆了半人马的战争，让人想起了古希腊的另一种神话生物——牛头怪，有着公牛的头和尾巴，还有男人的身体。“牛头怪战争”的特点是在战斗中和跨领域对人类进行机器控制，其范围从地面上的士兵巡逻到海上的战舰星座，再到空中的战斗机编队

第三，战略决策，加上机器监督，构成了“人工智能通用”或“单一”类型的战争。这种方法赋予人工智能增强的军事技术以非凡的自由度来塑造国家作战的轨迹，但可能会对冲突期间国家之间的攻防平衡产生严重影响。换言之，人工智能一般类型的作战可以使各国在时间和空间上获得并保持相对于对手的优势，从而影响战争的总体结果

最后，“马赛克战争”保留了对人工智能增强军事技术的监督，但试图利用算法优化战略决策，以针对同行对手施加和利用漏洞。这种作战模式——美国海军陆战队上将（退役）约翰·艾伦称之为“超级战争”，学者们通常称之为算法决策支持系统——的目的是在使用算法执行关键赋能任务的同时，保持全面的人类监督。其中包括通过“实时威胁预测”过程预测敌人可能的行动路线（这是国防部新的机器辅助分析快速存储库系统（MARS）的任务），确定最可行、最可接受和最合适的战略（Palantir和Scale AI等公司正在研究如何做到这一点），并调整后勤等关键作战功能，以帮助军队在以延长供应线为特征的有争议的作战环境中获得并保持主动权，如印太地区

为了解决军官在决策水平和监督类型不同的情况下如何信任人工智能增强的军事技术，我于2023年10月对分配到卡莱尔和纽波特战争学院的军官进行了一项调查。这项调查涉及四个实验组，他们在决策（战术或战略）和监督（人或机器）方面改变了人工智能增强军事技术的使用，还有一个基线组没有操纵这些属性。在阅读了他们随机分配的场景后，我要求受访者对他们对能力的信任和支持程度进行评分，评分范围为一（低）到五（高）。我然后运用统计学方法对数据进行分析

虽然我的样本不能代表美国军队（也不能代表其分支，如美国陆军和海军），但它是政治学家所说的方便样本。这有助于了解服役人员如何信任人工智能增强的军事技术，以及这种信任对战争性质的影响

鉴于人工智能的出现，这个样本也是对我理解未来战争可能变化的一个严峻考验，因为我对野战级军官进行了过采样，包括少校/中校、中校/指挥官和上校/上尉。他们受过多年的训练，是瞄准方面的专家，许多人已经部署到战斗中，并做出了关于无人机的决定。他们也是被委托评估新技术对未来冲突影响的新兴高级领导人。这些特征意味着，与军队的其他部门相比，我的样本中的军官可能更不信任人工智能增强的军事技术，尤其是经常被称为“数字原住民”的初级军官。

调查揭示了几个关键发现。首先，军官可以通过不同的方式信任人工智能增强的军事技术，这取决于决策层和对这些新能力的监督类型的变化。虽然军官们通常不信任不同类型的人工智能增强武器，但他们最不信任用于单一战争的能力（具有机器监督的战略决策）。另一方面，他们表现出对马赛克战争（人工智能优化战略决策的人类监督）的更多信任。这表明，军官们一贯倾向于人类对人工智能的控制，要么识别敌人活动中的细微模式，要么产生军事选择，让对手面临多重困境，要么在旷日持久的冲突中帮助维持作战准备

与基线组相比，军官对人工智能军事技术的信任度在单一战争（18.8%）方面比在马赛克战争（10.5%）方面下降得更多——见图1。虽然在这两种类型的人工智能增强战争中，军官的平均信任水平与基线组相比在统计上存在显著差异，但在用于单一战争的新军事能力中，这种差异比用于马赛克战争的差异更为明显。此外，军官在两种类型的人工智能增强战争中信任的平均概率变化（即人工智能增强军事技术对军官信任的平均边际效应）仅在单例战争中具有统计学意义。总的来说，这些结果表明，军官们对人工智能增强的军事技术的不信任程度较低，这些技术在人类监督下用于帮助高层决策

这些信任程度的结果在很大程度上反映在官员的支持态度上。与基线组相比，军官们对用于单兵作战的人工智能增强军事技术的支持更少，而且几乎处于相同的水平（18.3%）和统计显著性程度。然而，与基线组相比，军官们也比其他人工智能增强战争模式更支持牛头怪战争，支持水平的变化约为6.5%。这表明，虽然军官们可能对纳入更高决策级别和人类控制的人工智能增强军事技术不那么不信任，但他们更支持用于战术级别决策和机器监督的人工智能加强军事技术。总之，军官们的态度似乎反映了国王学院教授肯尼斯·佩恩的论点，即“战争机器人会制造出令人难以置信的战斗人员，但战略家有限。”

军官们对人工智能增强军事技术的战术级使用的支持相对较高，这揭示了第二个关键发现。军官们对人工智能增强军事技术的态度更明显的是支持，而不是信任。这意味着一些学者所说的“信任悖论”。军官们似乎支持采用人工智能增强的新型战场技术——即使他们不一定信任这些技术。这种现象主要与牛头怪战争有关（人工智能用于战术层面的决策和机器监督）。这表明，军官们预计，人工智能增强的军事技术将摧毁对手的机动时间和空间，同时扩大美国军队的机动空间，这是基于缩短的“传感器到射手”时间表，高级军事领导人认为这是在未来冲突中击败近距离对手的关键

军官对用于战术层面决策和机器监督的人工智能增强军事技术的支持程度的变化大于他们信任度的变化（图2）。此外，研究结果表明，军官对信任和支持的态度差异具有统计学意义：军官更支持用于牛头怪战争的人工智能增强军事技术，而不是信任它们。军官支持用于牛头怪战争的人工智能增强军事技术的概率的平均变化也高于其他三种人工智能增强战争

综合来看，这些结果表明，美国军官对人工智能增强军事技术的支持和信任的信念不一致。尽管支持采用此类技术来优化不同级别和监督程度的决策，但由于新兴的人工智能能力，军官们并不信任由此产生的潜在战争类型。这一结果表明，美国军官可能会觉得有义务接受与他们自己的偏好和态度相悖的战争形式，尤其是作为美国陆军和海军新兴作战概念基础的牛头怪战争

其他因素进一步解释了军官对人工智能增强军事技术信任度的变化。在我的调查中，当控制决策水平和监督类型的变化时，我发现官员对这些技术的态度也可能受到潜在的道德、工具和教育考虑的影响

认为美国有道德义务在国外使用人工智能增强的军事技术的军官反映出对这些新战场能力的更高程度的信任，这也与支持的态度一致。这表明，军官们对国外使用的人工智能增强军事技术的潜在好处的道德信念，例如在人道主义援助和救灾行动中，可能有助于克服他们对采用这些能力的固有不信任

此外，那些重视人工智能增强军事技术的工具性价值，并对其持“害怕错过”态度的军官——也就是说，他们认为其他国家采用此类技术迫使美国也采用这些技术，以免在潜在的人工智能军备竞赛中处于不利地位——也往往对这些新兴能力有更大的信任。在考虑教育时也观察到类似的信任态度。研究结果表明，高等教育降低了军官对人工智能增强军事技术的信任，这意味着更多或更专业的知识会引发人们对人工智能在未来战争中的优点和局限性的质疑。最后，在这些规范性和工具性考虑的交叉点上，我发现那些认为军事力量是维持全球秩序所必需的军官也更支持使用人工智能增强的军事技术。总之，这些结果强化了早期的研究，表明军官的世界观塑造了他们对战场技术的态度，军官在评估他们对国外使用武力的信任和支持时可以整合不同的逻辑

这是关于美国军官对人工智能态度的第一个证据，它描绘了一幅比一些分析人士所允许的更复杂的画面，说明了由于新兴技术而导致的战争的演变特征。然而，这些态度对作战现代化和政策以及军官的专业军事教育，包括核武器管理都有影响

首先，尽管一些美国军事领导人声称“我们正在目睹战争性质的巨大变化，这在很大程度上又是由技术驱动的”，但人工智能增强军事技术在冲突中的出现可能更多地是一种演变，而非革命。虽然加沙和乌克兰的战争表明军队作战方式发生了重要变化，但它们也反映了关键的持续性。传统上，军方一直寻求利用新技术来增强情报，保护部队，扩大战术和作战火力的范围，这两者结合在一起，在战场上产生了“根本的不对称”。最近，各国使用和限制无人机的方式发生了变化，这也影响了公众对合法或非法使用武力的看法，这一结果与新兴的完全自主的军事技术相一致

然而，这些和其他能力对战争战略结果的影响充其量是可疑的。战争期间的战略成功仍然取决于各国牺牲士兵生命和纳税人资金以实现支持重大国家利益的政治和军事目标的意愿。事实上，在我的研究中，军官们可能最支持用于牛头怪战争的人工智能增强军事技术。但研究参与者仍然考虑到围绕其军事创新的炒作——如果不是夸张和恐惧的话——对新战场技术的总体信任和支持远低于预期。这些结果表明，军事领导人应该缓和他们对人工智能对未来冲突的典型影响的期望。换句话说，我们应该“做好对人工智能失望的准备”。根据美国陆军中校迈克尔·弗格森的说法，缺乏这样一个清晰的视角，导致了“将战争变成委婉语歌舞伎的时尚理论”的出现，并掩盖了严酷的战斗现实。这是一场意志冲突，具有强烈的人性，并受到政治目标的制约

其次，军官对人工智能增强军事技术的信任态度比我的研究显示的更复杂。事实上，正如一位前美国空军上校、现任联合参谋部J-8董事会分析师所指出的那样，“运营商很难很高概率地预测系统在对抗适应性对手时的实际表现，这可能会削弱对系统的信任。”在另一项正在进行的研究中，我发现，军官对人工智能增强军事技术的信任可以由一系列复杂的考虑因素决定。其中包括技术规范，即其非致命目的、提高精度和人为监督；在平民保护、部队保护和任务完成方面的感知有效性；监督，包括国内监管，尤其是国际监管。事实上，这项研究中的一名官员指出，对人工智能增强军事技术的信任是基于“遵守国际法，而不是美国国内法”。

这些结果表明，需要对新能力进行更多的测试和实验，以使其使用符合服役人员的期望。政策制定者和军事领导人还必须澄清作战概念，在这些概念中，应鼓励开发人工智能增强的军事技术；指导它们在不同领域、不同层次和不同目的进行整合的学说；以及管理其使用的政策。对于后一项任务，官员们必须解释美国的政策如何符合或偏离国际法，以及使用人工智能增强军事技术的条件是什么，至少要考虑到野战级军官对这些能力的期望。为了填补这一空白，白宫最近宣布了一项美国关于负责任地军事使用人工智能和自主功能与系统的政策，国防部通过了一项关于在美国军队中开发和使用自主武器的指令，五角大楼还成立了首席数字和人工智能办公室来帮助执行该指令，尽管据报道，该办公室受到预算和人事挑战的困扰

最后，军事领导人还应该改进专业军事教育，向军官传授人工智能的优点和局限性。他们应该探索人工智能在其他战略背景下的应用，包括核指挥和控制。美国军方的许多举措已经反映了这一需求，特别是考虑到军官们对与人工智能能力合作犹豫不决

在作战上，由美国陆军第18空降兵领导的“山脊计划”旨在将人工智能集成到瞄准过程中。与之相匹配的还有“阿米莉亚”和“忠诚的Wingman”，这是海军和空军旨在优化人员流程和作战的项目。从制度上讲，除了现有的认证课程外，一些分析人士还鼓励将数据素养评估纳入基于人才的评估计划，如美国陆军指挥官评估计划。在教育方面，服务学院和战争学院都有专门研究人工智能对未来战争影响的教员、研究中心和选修课。美国陆军战争学院最近聘请了一名数据科学教授，美国海军学院开设了一个“武器、机器人和控制工程”研究集群，美国海军战争学院开设了“战略领导人人工智能”选修课

与此同时，在美国海军战争学院和其他地方进行的战争演习表明，网络能力可以鼓励核指挥和控制的自动化和预先授权到战术指挥级别，并激励积极的反作用力战略。但我的研究结果表明了一个令人困惑的结果，值得更多的测试。从表面上看，尽管结果可能与在战争中使用核武器相同，但结果提出了一个令人不安的问题：军官们真的愿意支持核指挥和控制的潜在自动化和预先授权给战术层面的人工智能吗？即使他们愿意不相信它，也不相信或支持使用人工智能来管理反作用力策略，正如我的研究结果所表明的那样

虽然这一结论可能看起来很古怪——与一系列关于核“禁忌”、危机升级和总统使用这些武器的唯一权力的研究相矛盾——但俄罗斯威胁在乌克兰使用核武器，鼓励美国军方重新审视在大国战争中有限使用核武器的可能性。尽管或因为这种“回到未来”的情景具有可怕的潜力，这与冷战期间战术核武器的扩散相呼应，但美国战争学院在参与大规模冲突的国家之间进行战术核交流期间，重新启动了战备教育

然而，这些和其他举措在多大程度上有效地对官员进行了人工智能教育尚不清楚。部分问题在于，这些举措使相互竞争的教学方法相互对立。一些项目以“一英里宽、一英寸深”的方式调查数据素养和人工智能，将一节课整合到更广泛的课程中。其他项目提供了更大的发展机会和“更窄、更深入”的方法，即少数官员自愿选择在更广泛的课程之上的选修课。其他项目，如美国陆军战争学院的项目，尝试了“金线”方法，将数据素养和人工智能嵌入课程中，从而制定更广泛的教学计划。然而，后一种方法迫使管理员在内容和时间方面做出重要的权衡，并假定教师具有深入的专业知识

展望未来，联合参谋部J-7——负责协调整个美国联合部队的训练和教育的董事会——应该将专业军事教育概念化为数据素养和人工智能教学方面随着时间的推移不断增加的连续性。参加服役院校或参加预备役军官训练团的预委任学生应了解人工智能的基本概念。初级和中级军官应在训练、部署期间以及参加中级教育（如美国陆军司令部和参谋学院）时融入这些见解。在被选入战争学院后，军官们应该努力解决在作战中使用人工智能的概念、规范和工具性考虑，我的研究表明，这可以塑造军队对新技术的态度

当然，采用这种端到端的教育方法需要时间和金钱。它还受到不同利益相关者、服务文化和服务间竞争的特权的影响。然而，通过将训练和教育与清晰可行的学习结果相结合，这种整体教学模式利用现有机会，确保美国军队准备好并愿意在和平时期和未来战争中采用人工智能增强的军事技术，其方式符合管理其合法使用的国际法律和规范

Paul Lushenko是美国陆军中校、特种作战主任和美国陆军战争学院教员。他是《无人机与全球秩序：远程战争对国际社会的影响》（Routledge，2022）的联合编辑，也是《无人机战争的合法性：评估公众认知》（Roudledge，2024）的合著者。他在康奈尔大学获得了国际关系博士学位

关键词：美国军事、人工智能、颠覆性技术、无人机、战争
主题：人工智能、破坏性技术、核风险、技术与安全

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介