国会任命的国家人工智能安全委员会最近得出结论，“我们可以期待人工智能能力的大规模扩散。”最近的利比亚冲突似乎验证了关于人工智能（AI）的结论，根据联合国的一份报告，忠于利比亚将军哈利法·哈夫塔尔的士兵使用了土耳其制造的Kargu-2无人机，该无人机“追捕并远程交战”正在撤退的部队。目前尚不清楚Kargu-2是否使用了自主能力，但土耳其政府承认它可以使用这种能力。同样，俄罗斯在入侵乌克兰期间使用了KUB-BLA徘徊弹药，据报道还使用了柳叶刀3。同样，细节模糊不清，一些分析人士怀疑KUB-BLA是否具备人工智能自主能力，而使用《柳叶刀3》的说法来自俄罗斯国有国防集团Rostec，其中包括《柳叶刀》3的制造商，而不是来自经独立验证的战场图像。更令人困惑的是：在每一种情况下，自主运营显然都是一种选择，尽管它可能无法行使。这使得核查相当困难。

更为模糊的是，美国需要思考有关自主武器不扩散和反扩散的政策。这样的政策需要根据特定武器的军事价值、对地区和全球竞争的影响以及获取的容易程度进行细微差别和风险告知。在某些情况下，美国应该将自主武器视为外交政策中的另一个工具：广泛分享武器以支持盟友并削弱对手。在其他情况下，美国应该积极追求不扩散和反扩散，甚至包括对美国使用某些自主武器采取有约束力的限制。

了解扩散风险

严格来说，自主武器只是一种自行选择和攻击目标的武器。实际上，任何可能的武器系统都可以是自主的。散弹弹药、地雷、主动防护系统以及反火箭、火炮和迫击炮系统都在使用中，根据具体情况可能属于自主武器类别。同样，中国最近推出了能够发射无人机群的无人母舰，俄罗斯正在研发用于反潜战的海底无人机群，印度已经展示了一种能够自主攻击士兵和车辆的75架无人机群。人工智能（AI）的发展是一个关键的推动者，可以更好地检测目标并改进决策，而基于AI的自主武器是一个新出现的关键问题。然而，对于一个系统来说，人工智能并不是绝对必要的，尽管这篇文章以基于人工智能的系统为主题。

广泛的系统范围意味着扩散问题千差万别。美国可能不需要太担心防御系统的扩散；它甚至可能鼓励扩散，以保护关键基础设施免受多架无人机袭击。

美国向阿拉伯联合酋长国出售F-35的动态表明，细节很重要。在美国国防高级研究计划局（DARPA）发现，一架人工智能驾驶的F-16在斗狗中占主导地位。这项技术尚处于起步阶段，模拟并不现实，但未来类似能力的作战系统可能会极大地影响地区力量平衡。因此，出口和更广泛的扩散问题应该基于对现有力量平衡的仔细评估，以及自主武器可能会（或不会）形成这些平衡。

一般而言，人工智能自主系统的军事价值来自质量和速度。理论上，将人类从循环中移除可以降低系统成本，从而允许参与者部署更多的系统，并可能压倒大型、昂贵的平台。或者一个国家可以建立广泛的作战网络，在一个地区分发大量廉价的自主武器。人工智能还可以实现更快的战术决策，更快地完成决策循环。自主武器的可负担性表明它们可能倾向于防御，但其应用范围太广，难以得出明确结论。

系统可靠性也是一个关键因素。人道主义者喜欢强调自主错误的风险——基于机器视觉的自主武器很容易被欺骗，可能会杀死平民。但可靠性也具有重要的军事意义后果。无法摧毁目标的武器是对资源的浪费，会使士兵面临危险。它也可能产生战略影响，例如危机的意外升级或展示实力的失败尝试。尽管武器设计者的目标肯定是制造可靠的自主武器，但人工智能的不可预测性、数据依赖性和计算限制将限制系统的可靠性。各国的风险承受能力也会有所不同：几十年前，美国放弃了化学武器，部分原因是它们太不可靠；巴沙尔·阿萨德（Bashar al-Assad）政府在叙利亚内战期间广泛使用了这些武器。对于一个试图压制国内反对派团体的专制政权来说，一些不可靠可能更具特色，而不是缺陷。

建造简单的基于AI的自主武器几乎是微不足道的，可以在网上找到建造自主彩弹枪炮塔的指令。但是，建立一个能够适应战场众多复杂性的强大系统要困难得多。认识人是一回事，但坦克或装甲运兵车呢？如果下雨、下雪、有雾或只是阴天怎么办？如果目标部分受阻怎么办？如果坦克上画了一个大大的“Z”怎么办？如果各国采用未经测试和不可靠的自主武器，而这些武器没有充分考虑到这些因素，美国实际上可能希望鼓励更可靠系统的扩散。这可能包括提供技术援助以评估和提高系统可靠性，提供训练有素的人工智能算法，或提供完整的武器。

基于人工智能的自主武器扩散的可能性也会有所不同。为了考虑扩散途径，我们将考虑一种假想的自主战斗机F-AI。

扩散途径

2050年，美国正在部署一种新型战斗机，即F-AI。F-AI几乎是完全自主的：它可以识别和攻击敌方战斗机，根据外部数据反馈避免敌方防空，执行人类指定的任务，并执行基本活动，如规划路线、空中加油和着陆。尽管F-AI包括了上一代空中优势战斗机的一些系统升级，但主要变化是AI战斗核心。AI战斗核心允许在战斗期间进行高度精确的自主移动，预测敌人的移动，并选择和发射一系列弹药。DARPA的人工智能格斗实验证明是有先见之明的，F-AI完全主宰了天空。自然，美国不希望战斗机落入坏人手中。美国需要担心三件事：系统捕获、非法贩运和本土发展。

2011年，伊朗声称通过欺骗全球定位系统和干扰通信，捕获了一架洛克希德·马丁RQ-170哨兵无人机。美国否认伊朗这样做，但需要考虑这种可能性，特别是在系统包含更大自主性的情况下。人工智能的脆弱性表明，系统捕捉对F-AI来说也是一种风险。在这种脆弱性中，一个像素的改变就可能导致系统看到一只狗而不是隐形轰炸机。即使没有这一点，该系统也可能在日常战斗中被夺取。

系统设计将是扩散风险的主要因素。假设F-AI相当完整，对手可以破坏现有的任何网络安全措施，并且软件不会自行清除，则代码在支持对手的本土开发方面可能毫无用处。战斗核心可根据F-AI的特定参数和组件进行优化，如推重比、转弯率、武器系统范围和类型以及飞行控制器。即使人工智能战斗核心可以完全提取出来，它在新系统中也可能完全无用。系统设计也将是非法转移风险的一个主要因素。如果人工智能作战核心能够有意义地分离，武器贩运就成为一个令人担忧的问题。对手或其他感兴趣的国家可能试图窃取AI控制系统。就像网络武器一样，战斗核心可能会被偷偷带到硬盘上。

如果一个国家试图建立自己的F-AI，该怎么办？军民两用的困境可能相当严重，因为民用和军用人工智能工作从外部来看可能非常相似，需要使用类似的设备、硬件和人才。现在，该州可能会在屋顶上喊出它的发展，以表明它的技术实力，但让我们说，该州决定隐藏该项目，或者至少隐藏该项目的进展。

任何自主武器系统仍必须经历武器开发的正常阶段。这意味着建立需求，采购零部件，建造飞机，并确保血腥的东西飞起来。那意味着测试范围、生产设施、获取技术专家、培训用户和维护人员，以及管理运营的组织支持。此外，人工智能专用系统可能需要满足其他军事标准，例如微芯片的辐射硬化，以抵御核爆炸的辐射。很少有民用人工智能应用需要微芯片进行辐射硬化（主要是民用空间项目），因此也可能需要用于大规模生产辐射硬化人工智能芯片（或用于辐射硬化商用人工智能芯片）的设施。所有这些都可能是情报收集和分析的目标，或者，如果需要，通过拦截专门部件或破坏来防止扩散。

简介