在不到一年的时间里，Chat GPT已经家喻户晓，反映了人工智能驱动的软件工具的惊人进步，尤其是生成人工智能模型。伴随着这些发展，人们频繁预测人工智能将彻底改变战争。在人工智能发展的这个阶段，可能的参数仍在探索中，但军方对人工智能技术的反应是不可否认的。中国的国防白皮书推动了战争的“智能化”理论，其中利用人工智能是解放军现代化计划的关键。美国网络安全和基础设施安全局局长Jen Easterly警告说，人工智能可能是“我们这个时代最强大的武器。”，在武装冲突中支持人类决策的系统中使用人工智能的关注较少

在这篇文章中，红十字国际委员会军事顾问鲁本·斯图尔特和法律顾问乔治亚·欣兹试图批判性地研究人工智能在用于支持战争中武装行为者的决策时的一些被吹捧的好处。特别讨论了减轻平民伤害和加快速度的领域，特别侧重于对武装冲突中平民的影响

即使在最近的炒作之前，你可能已经以各种形式使用了人工智能，事实上，你可能正在一个主要由人工智能驱动的设备上阅读这篇文章。如果你使用指纹或人脸打开手机，参与社交媒体，使用手机应用程序计划旅行，或在网上购买从披萨到书籍的任何东西，都可能涉及人工智能。在许多方面，我们已经对人工智能感到适应，并将其应用到我们的日常生活中，通常是在不知不觉中

但是，如果面部识别软件被用来识别被攻击的人呢？如果类似的软件不是找到最便宜的航班来把你送到目的地，而是找到对目标进行空袭的飞机，那该怎么办。或者，机器不是在推荐最好的披萨店或最近的出租车，而是在推荐攻击计划？这显然是一个现实，来自开发基于人工智能的国防决策平台的公司

这类人工智能决策支持系统（AI-DSS）是一种计算机化工具，使用人工智能软件显示、合成和/或分析数据，在某些情况下提出建议，甚至预测，以帮助人类在战争中做出决策

AI-DSS的优势通常体现在提高态势感知和加快决策周期方面。鉴于人工智能系统和人类的局限性，并结合现代冲突的规划过程，这些主张在下文中展开

将冲突中伤害平民的风险降至最低

战争中新技术的出现往往伴随着其集成将减少平民伤害的断言（尽管这在实践中并不总是得到证实）。就AI-DSS而言，据称这种工具有助于在某些情况下更好地保护冲突中的平民。当然，国际人道主义法（IHL）要求军事指挥官和其他应对袭击负责的人根据当时所有来源的信息做出决定。特别是在城市战争方面，红十字委员会建议，有关平民和民用物体存在等因素的信息应包括互联网等开源存储库。此外，特别是考虑到人工智能和机器学习，红十字国际委员会得出结论，如果人工智能-DSS工具可以促进更快、更广泛地收集和分析这类信息，它们很可能使人类在冲突中做出更好的决定，将平民的风险降至最低

同时，任何AI-DSS输出都应在多个来源之间进行交叉检查，以防止出现有偏见或不准确的信息。虽然冲突中的任何信息来源都是如此，但这对AI-DSS来说尤其重要；正如红十字国际委员会先前所概述的那样，由于系统的功能和人类用户与机器进行交互。以下将对这些方面进行扩展

系统限制

最近对人工智能发展的报道经常包括人工智能失败的例子，有时甚至是致命的。例如，软件无法识别或误认肤色较深的人，推荐不考虑最新路况的旅行路线，以及自动驾驶汽车造成死亡的例子。其中一些失误是可以解释的，但不能原谅，例如，因为它输出所依据的数据是有偏见的、损坏的、有毒的，或者只是明显不正确。这些系统仍然很容易被“欺骗”；技术可以用来欺骗系统使其对数据进行错误分类。例如，可以想象，对抗性技术可以在冲突中用于影响目标定位辅助系统的源代码，从而将校车识别为敌方车辆，从而产生毁灭性后果

由于人工智能用于更复杂的任务，尤其是当多层分析（可能还有决策和判断）积累时，那么验证最终输出和导致最终输出的任何错误的来源几乎是不可能的。随着系统越来越复杂，复合错误的可能性也在增加——第一个算法推荐中的一个小不足会被输入到第二个算法过程中，并使其倾斜，然后再输入到第三个算法过程，以此类推。

因此，人工智能系统经常表现出用户或开发人员无法解释的行为，即使经过广泛的事后分析。一项对备受瞩目的大型语言模型GPT-4的研究发现，三个月后，它解决数学问题的能力从83.6%急剧下降到35.2%，令人费解。强化学习也可能产生不可预测的行为，事实证明，机器在采用和隐藏不可预见的、有时是负面的行为以智胜或击败人类方面非常有效：无论是为了赢得谈判而撒谎，还是为了打败电脑游戏而走捷径

人类与机器交互的挑战

AI-DSS不会“做出”决定。然而，它们确实直接且经常显著地影响人类的决策，包括由于人类在与机器互动时的认知局限性和倾向

例如，“自动化偏见”指的是人类不批判性地挑战系统输出或搜索矛盾信息的倾向，尤其是在时间紧迫的情况下。这在医疗保健等其他领域已经观察到，在这些领域，经验丰富的放射科医生的诊断准确性受到虚假人工智能输出的不利影响

健康设置中的不准确诊断可能是致命的。同样，在武装冲突中，过度信任可能会产生致命后果。2003年，美国的爱国者防御系统两次向友军联军飞机开火，因为它们被错误地归类为攻击导弹。在随后的调查中，发现的主要不足之一是“操作员接受了信任系统软件的培训。”

这些功能方式，再加上人机交互的这些特征，可能会增加偏离人类决策者意图的结果的可能性。在战争中，这可能导致意外升级，并且在任何情况下都会增加平民和受保护人员的风险

Tempo

人工智能的一个被吹捧的军事优势是，它可以让用户比对手更快地做出决策。节奏的加快往往会给平民带来额外的风险，这就是为什么采用“战术耐心”等降低节奏的技术来减少平民伤亡的原因。放慢决策的节奏，包括为决策提供信息的过程和评估，使系统和用户都有额外的时间：

查看更多

开发更多选项

重要的是，这在整个决策链中都是正确的，而不仅仅是在最终的“决策点”。因此，声称AI-DSS实际上会缩短战术耐心的时间，在最终确定是否“扣动扳机”的过程中加快耗时的步骤，从而有可能过于简化当代冲突中的目标确定和武力执行过程

额外时间您可以看到更多

2021年8月29日，在喀布尔撤离期间，喀布尔发生了臭名昭著的无人机袭击，导致10名平民死亡的事件被中央司令部指挥官归因于这样一个事实：“我们没有足够的时间来发展生活模式和做许多其他事情。”评估平民和战斗人员在考虑袭击的地区及其周围的存在和密度、他们的时间表、行动模式等。这是减少平民伤害的关键方法。然而，评估生活模式只能实时进行——平民创造这种模式所需的时间——无法加快

基于历史趋势预测未来行为的尝试不会包含当前情况。在这个例子中，对旧的情报材料，特别是喀布尔的全动态视频进行审查，不会反映出由于塔利班接管和正在进行的疏散工作而发生的局势和行为的变化

正如平民伤亡预防指南所解释的“你等待和观察的时间越长，你就越了解正在发生的事情，并更好地准备好做出使用致命或非致命手段的决定”，或者正如拿破仑所说的“慢慢来，我很匆忙”——有时，最好的结果是通过深思熟虑来实现的

额外的时间可以让用户了解更多

放慢决策节奏的另一个原因是，人类的理解，尤其是对复杂和令人困惑的情况的理解，需要时间来发展和考虑适当的反应。随着可用时间的减少，人类理解情况的能力就会减弱。军事规划过程旨在让指挥官和参谋人员有时间考虑作战环境、对手、友军和平民以及正在考虑的行动方案的优缺点。从这一考虑过程中获得的理解不能外包，正如德怀特·D·艾森豪威尔将军所解释的那样：“在准备战斗时，我一直发现计划是无用的，但计划是必不可少的。”

当人类决策者考虑由AI-DSS生成或“推荐”的行动方案时，这会产生影响，AI-DSS相对于对手加快作战节奏的能力可能是使用AI-DSS的最常见原因。如果没有承担，甚至没有完全理解AI-DSS提出的制定计划的过程，人类规划者可能对情况、各种影响因素和参与者的理解有限。事实上，已经观察到，使用自动化辅助设备会降低人类用户的警觉性，并削弱他们保持态势感知的能力。应根据其对遵守国际人道主义法义务的影响来考虑这一点；尽一切可能核实目标的义务表明，需要最大限度地利用现有的情报、监视和侦察资产，以在这种情况下获得最全面的态势感知

额外的时间允许用户开发更多的选项

除了允许指挥官看到和理解更多之外，额外的时间还允许指挥官开发战术替代方案，其中可能包括不使用武力或降级的决定。额外的时间使其他部队和平台能够脱离、重新定位、补给、计划和准备协助即将到来的行动。这给了指挥官更多的选择，包括可能更好地减少平民伤害的替代计划。额外的时间可以采取额外的缓解措施，如发布警告，从平民的角度来看，这可以让他们实施应对机制，如避难、为自己补充食物和水或撤离

正如军事规划理论的一个例子所解释的那样，“如果有时间，而且行动更快没有好处，那么就没有什么借口不花时间进行充分的规划。“正如北约《平民保护手册》中所述，”如果有时间根据国际人道主义法原则蓄意规划、歧视和精确瞄准部队或物体，平民伤亡的可能性就会大大降低。“

结论

”战争是混乱的、致命的，从根本上说是人类的努力。它是人与人之间的意志冲突。所有战争本质上都是关于改变人类行为，双方都试图通过武力改变另一方的行为。”，由人类控制，并由人类得出结论，在这之后，人类必须共存。最重要的是，冲突中的痛苦由人类承担

这一现实，事实上，国际人道主义法本身，要求在武装冲突中开发和使用人工智能时采取“以人为本”的方法，试图在已经是不人道的活动中保护人类。这种方法至少有两个关键方面：（1）关注可能受到影响的人类；以及（2）关注使用或下令使用人工智能的人的义务和责任。

当观察那些可能受到影响的人时，这不仅是为了在使用人工智能-DSS获得军事优势时减轻平民的风险，而且还有可能专门为保护平民的目的设计和使用此类工具。在这方面提出的可能性包括识别、跟踪和提醒部队注意平民的存在的工具，或识别表明武装冲突中受保护地位的独特标志（见此处和此处）

确保人类能够履行国际人道主义法规定的义务意味着，在对武装冲突中人民的生命和尊严构成风险的决策中，AI-DSS应该提供信息，但不能取代人类的判断。在自主武器系统的背景下，各国已经广泛认识到了这一点（例如，见这里、这里和这里）。遵守国际人道主义法的责任在于个人及其指挥官，而不是计算机。正如美国国防部《战争法手册》中所述，“战争法不要求武器做出法律决定……相反，必须遵守战争法的是人。”。“

关于AI-DSS必然会带来更大的平民保护和国际人道主义法合规性的断言必须受到严格质疑，并根据这些考虑进行衡量，同时考虑到我们对系统局限性、人机交互以及行动节奏加快的影响的了解

另请参阅：

Tilman Rodenhäuser，Samit D‘Cunha，Foghorns of war:国际人道主义法和武装冲突期间的信息行动，2023年10月12日
neneneba菲奥娜·特里，Fabien Dany，“回归基础”与数字扭曲：数字时代的人道主义原则和困境，2023年2月2日

简介