阅读我们的Oppenheimer系列

作者：Zachary Kallenborn|2022年3月15日

<源尺寸=（最大宽度：1024px）100vw，1024px srcset=https://thebulletin.org/wp-content/uploads/2022/03/KUB-BLA-1024x506.png.webp1024w，https://thebulletin.org/wp-content/uploads/2022/03/KUB-BLA-300x148.png.webp300w，https://thebulletin.org/wp-content/uploads/2022/03/KUB-BLA-768x380.png.webp768w，https://thebulletin.org/wp-content/uploads/2022/03/KUB-BLA-1536x759.png.webp1536w，https://thebulletin.org/wp-content/uploads/2022/03/KUB-BLA-600x297.png.webp600w，https://thebulletin.org/wp-content/uploads/2022/03/KUB-BLA.png.webp1904w type=images/webp> 游荡弹药。高度=506尺寸=（最大宽度：1024px）100vw，1024px

英语中被称为KUB-BLA的游荡弹药的屏幕截图。来源：卡拉什尼科夫集团

乌克兰冲突的开源分析人士利用乌克兰的图片显示了一个皱巴巴的金属机身，他们发现了一种新型俄罗斯制造的无人机的图像，制造商表示，这种无人机可以通过输入的坐标或自主选择和打击目标。荷兰和平组织表示，当士兵向卡拉什尼科夫ZALA Aero KUB-BLA游荡弹药上传图像时，该系统能够使用人工智能“实时识别和分类探测到的物体”（引用《简氏国际防务评论》）。换句话说，分析人士似乎在战场上发现了一个杀人机器人

该武器的图像显然是在基辅的波德尔社区拍摄的，并于3月12日上传到Telegram，但这些图像并没有表明AK-47著名的卡拉什尼科夫集团制造的KUB-BLA是否在其自主模式下使用。无人机看起来完好无损，数字取证可能成为可能，但验证自主武器使用的挑战意味着我们可能永远不知道它是否完全自主运行。同样，这是否是俄罗斯首次在冲突中使用基于人工智能的自主武器也不清楚：一些已发表的分析表明，2019年在叙利亚发现的一架神秘无人机的残骸来自KUB-BLA（尽管无人机可能没有使用自主功能）

尽管如此，假设开源分析师是对的，这一事件很好地说明了使用人工智能的自主武器已经存在。更重要的是，这项技术正在迅速扩散。KUB-BLA并不是第一款用于作战的基于人工智能的自主武器。2020年，在利比亚冲突期间，联合国的一份报告称，土耳其Kargu-2“追捕并远程参与”后勤车队和撤退部队。土耳其政府否认Kargu-2是自主使用的（同样，很难知道哪种方式），但土耳其国防和工业部副部长承认土耳其可以部署这种能力

俄罗斯在乌克兰使用游荡弹药的第一个证据。这看起来像卡拉什尼科夫ZALA Aero KUB-BLA游荡弹药。https://t.co/O832OSUKSmpic.twitter.com/cXzuwgciut。益普索2019年1月22日的一项民意调查发现，26个国家61%的受访者反对使用致命的自主武器。数千名人工智能研究人员还签署了未来生命研究所的承诺，反对让机器夺走人类的生命。这些担忧是有充分理由的。当前的人工智能尤其脆弱；它很容易被愚弄或犯错误。例如，一个像素可以让人工智能相信隐形轰炸机是一只狗。一个充满烟雾和碎片的复杂、动态的战场使正确识别目标变得更加困难，对平民和友军士兵都构成了风险。即使没有人受到伤害，错误也可能会阻碍系统实现军事目标

悬而未决的问题是：国际社会将如何处理自主武器？它应该做什么

在第一种情况下，答案很清楚：几乎可以肯定没有。国际规范自主武器还处于萌芽阶段，包括美国在内的强大大国已经对其进行了反击。即使有广泛接受的规范，也不清楚还能做多少。俄罗斯已经因其在乌克兰的行动而受到严厉、惩罚性的制裁。美国国会刚刚批准了一项136亿美元的乌克兰援助法案，其中包括提供标枪反坦克和毒刺防空导弹。美国及其盟友也明确表示，他们对直接军事干预冲突没有什么兴趣。此外，在不确定发生了什么的情况下，国际社会真的能做多少？但俄罗斯明显使用KUB-BLA确实为围绕自主武器的更广泛的国际讨论提供了更大的紧迫性

自主武器讨论的现状上周，全球各国政府在《联合国某些常规武器公约》的主持下在日内瓦举行会议，讨论自主武器提出的问题，包括是否需要新的具有约束力的条约。到目前为止，军备控制倡导者还没有成功地赢得对一项禁止自主武器的具有约束力的条约的支持。公约的程序要求成员国就条约的任何修改达成共识。美国、俄罗斯和以色列对此表示严重关切，其他国家也不支持禁令。《特定常规武器公约》进程没有取得任何进展

尽管如此，公约上的讨论在澄清备选方案和立场方面具有重大价值。该公约的代表们此前已经确定了处理自主武器的四种一般方法：一项具有法律约束力的文书；政治宣言；加强现行国际人道主义法的适用；以及什么都不做的选择。此外，可能还有第五种可能性：各国可以在适当的情况下，在讨论其他武器条约时提出自主武器问题，比如那些涉及核武器或化学武器的条约

对自主武器实行具有法律约束力的全面禁令将是最有力的措施。但现实是，主要军事大国永远不会支持这种策略。他们用来保护军事平台免受导弹和其他攻击的主动保护和近距离武器系统实在太有价值了

如果支持者团结在红十字国际委员会的立场周围，他们可能会取得更大的成功，因为红十字国际委员会提供了一个共同立场的选择。该组织对自主武器的立场集中在其危险方面。它建议禁止不可预测的自主武器、针对人类的自主武器，并对其他类型的“非禁止”自主武器制定各种规定。委员会的立场还可能将军队所依赖的自主武器，如主动保护系统和近距离武器系统，从潜在的禁令中删除

或者，各国政府可以专注于更好地执行现有的国际人道主义法。他们可以制定一套最佳做法、切实可行的措施和一般信息共享，以改善自主武器遵守国际人道主义法的情况。制定最佳做法可能包括确保武器经过严格测试；制定军事理论、训练实践和程序，以提高任何武器的准确性；或对武器使用进行法律审查。然而，自主武器在多大程度上符合现有人道主义法，这是一个根本问题。如果失败猖獗，即使有最佳实践，也会发生，那么这些措施是不够的。相反，如果这些措施确实有效地——甚至大幅地——降低了风险，那么这种方法也许是有用的。当然，不同武器系统的错误率可能不同：也许某些类型的武器可以可靠地降低风险，但其他类型的武器则不能。这可能会导致未来关于狭义禁令的讨论，更好地了解战场经验

或者各国可以发布一份关于人类控制必要性的政治宣言。这可能是最简单的方法，因为没有人需要放弃或改变他们的武器系统。但这也可能使各国陷入尴尬境地：如果人类控制是必要的，为什么要有自主武器？与此同时，禁止这些武器的倡导者可能会反对对军事活动影响最小的声明。因此，具有讽刺意味的是，看似最简单的妥协实际上可能是最不可能的

最后，各国可以无视日益高涨的反对自主武器的舆论浪潮。这将让军队在不道歉的情况下保留他们喜欢的任何自治系统，但也可能是在民主社会中，公众舆论至少有一定影响，这是一个挑战

自主武器和大规模毁灭性武器条约围绕自主武器制定某种指导方针的另一种可能性是将辩论扩大到其他国际条约讨论中，这种指导方针在日内瓦引起的关注微乎其微。关于化学武器、生物武器、放射性武器和核武器的条约在某些情况下可能适用于自主武器

《核不扩散条约》不要求各国对使用核武器的决定保持人为控制。以某种方式结合对人类控制的要求实际上可能会获得巨大的权力支持。这是非常重要的，因为自主核武器可能是最危险的自主武器。一个错误可能毁灭人类。（大型自主无人机群是另一个重大风险。）国会授权的国家人工智能安全委员会建议美国不允许人工智能在发射核武器方面做出决定。值得注意的是，在当前冲突开始后不久，俄罗斯国防媒体TopWar于3月8日撰文支持自主核武器的军备控制谈判

倡导者也可以在《化学武器公约》或《生物武器公约》的讨论中提出这一主题，以考虑如何限制潜在风险。自主武器提供的更精确的目标定位对化学和生物武器的运载具有相当重要的意义。大多数国家放弃化学武器和生物武器的部分原因是，交付不可靠，使其在军事上用处不大。飘忽不定的风可能会将特工从预定目标吹向友好或中立的人群。但人工智能辅助发射可能会改变这种情况，并可能进一步削弱围绕这些武器的现有规范

至少，各州可以考虑是否以及如何采取出口管制措施，以降低用于农药或其他化学品扩散的算法和软件落入拥有化学和生物武器的政府手中的风险。其他条约也可能是以某种方式规范自主技术的备选方案

当然，建立条约和规范只是第一步。下一步是制定一个执行机制：如果这些条约和规范遭到违反，国际社会该怎么办？应对措施的性质将在很大程度上取决于各国可以选择哪一种选择，以及如何选择。军备控制倡导者可能会得出结论，强大的军队永远不会支持对自主武器的监管，因此可能会试图在任何愿意签署的国家之间建立一项全面的禁令。

但如果大国不支持这一规范，经济制裁或军事干预等潜在惩罚将没有意义。某些惩罚，如强有力的军事干预，可能需要像美国这样的特定国家来实施，并接受可能出现的任何风险。相反，如果各国达成一项公开宣言，倡导人类控制或加强现有国际法的适用性，那么在冲突之后，国际社会考虑可能犯下的战争罪（如果有的话）之前，一切都不会发生

一种潜在的基于人工智能的自主武器再次被用于战斗。细节再一次模糊不清。问题再次出现：我们现在该怎么办

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

关键词：乌克兰，自主武器
主题：颠覆性技术

复制链接链接复制的
电子邮件

…

Zachary Kallenborn是国家研究联合会非常规武器和技术部的研究附属机构。。。阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介