在关于人工智能（AI）将如何影响军事战略和决策的辩论中，一个关键问题是谁做出了更好的决策——人类还是机器？提倡更好地利用人工智能的人指出启发式和人为错误，认为新技术可以通过更精确的瞄准和更严格的法律合规来减少平民的痛苦。相反的观点是，人工智能支持的决策可能与人类的决策一样糟糕，甚至更糟，而且错误的范围会造成不成比例的风险。这些争论忽略的是，机器可能不可能复制人类决策的所有方面。此外，我们可能不希望他们这样做。

在这篇文章中，日内瓦国际人道主义法与人权学院研究与政策主管Erica Harper阐述了人工智能军事决策的可能影响，因为这与发动战争、发动冲突和建设和平有关。她强调，虽然人工智能的这种使用可能会产生积极的外部性，包括在预防和减轻伤害方面，但风险是深远的。这些因素包括机会主义战争新时代的可能性、暴力脱敏的主流化以及错失的和平机会。需要根据多边脆弱性的现状来评估这种潜力，并将其纳入区域和国际层面的人工智能政策制定中

红十字国际委员会人道法和；政策博客·人工智能会从根本上改变战争的发动、战斗和结束方式吗

新技术正在改变现代战争的性质。一个特别感兴趣的话题是如何在军事战略和作战决策的发展中利用人工智能。本次讨论主要聚焦于武器系统及其带来的风险和挑战。一个探索较少但更复杂的领域是，将人工智能融入军事决策是否会改变或消除人类所扮演的角色。例如，人工智能可能为克服认知局限性和减轻人类犯错提供途径。毫无疑问，可能会取得积极成果，包括减少平民伤害和更好地遵守国际人道主义法。然而，这些可能性也带来了新的风险和挑战。主要是，就武装冲突本质上是一种人类现象而言，人工智能会从根本上改变战争的发动、战斗和结束方式吗

改变战争的计算

首先要考虑的是，人工智能决策支持系统是否会影响一个国家对另一个国家或国内团体采取军事行动的决定。这种“战争演算”通常被理解为考虑到了法律规范和政治因素。国际法最重要的原则之一是《联合国宪章》第二条第四项规定的禁止以武力相威胁或使用武力，第五十一条和第四十二条分别作为自卫和维护或恢复国际和平与安全情况下这一原则的例外。非法律因素也会影响决策，包括声誉受损的可能性、公众对战争的情绪、盟友和非盟友的可能反应、预计损失等。

人工智能系统是否会改变这种计算和行动的方式？例如，潜在的交战方是否可以利用人工智能系统来评估军事成果成功的可能性，或者制定一项有助于取得成功的军事战略

可以说，这可能会降低国家进入“无法获胜”的战争的可能性，或者那些为了面子或寻求报复而发动的战争。例如，1990年伊拉克入侵科威特，至少部分原因是科威特拒绝免除两伊战争期间累积的140亿美元债务，以及萨达姆·侯赛因长期以来对瓦尔贝赫和布比扬群岛（伊拉克认为这些岛屿在1899年至1961年英国对科威特的保护期间被不当吞并）地位的担忧。如果支持人工智能的决策支持系统能够阻止此类冲突，那么对平民的结果无疑是积极的。然而，可以设想更多的反乌托邦场景。对于有扩张主义或帝国主义野心的国家来说，这种使用人工智能将被视为一种强大的工具。在最坏的情况下，人工智能系统可能迎来一个新的战争时代，在这个时代，计算机系统被用来识别可能取得胜利的地方，鼓励侵犯领土、消灭反对派团体和先发制人的战争

人工智能和战争的发动

第二个问题是人工智能系统是否会影响在战斗情况下的军事决策。如果这种系统能够使士兵与战场保持距离，本质上使采取致命行动的决定更容易，那么可能的答案是肯定的。事实上，战争要求士兵克服进化上对杀害同胞的厌恶。这种趋势在第二次世界大战中首次被记录下来，这种趋势非常强烈，以至于军队采取积极措施使士兵脱敏，通常是通过模拟训练，但也会使用非人化叙事并夸大对内部群体构成的威胁。无人机技术和自主武器系统的一些进步可以被视为有助于实现这些目标。原则上，他们与战场的物理距离消除了杀戮最糟糕的感官影响，如气味和声音。目标像素化图像和智能/软触摸触发器等特征是进一步的例子。虽然研究较少，但就人工智能减少了士兵的决策行为而言，其影响可能更为严重

这并不是说所有结果都是负面的。在军事决策中使用人工智能的倡导者经常指出，与计算机相比，人类能够持有和处理极其有限的信息。他们预见到了人工智能数字顾问等创新，这些顾问可以以超过最先进、最有经验的军事专家团队的数量和速度存储、分析和解释信息。从战略角度来看，任何决策、行动和响应的加速都会带来明显的运营优势。好处也可能延伸到法律合规。能够将精细的战场洞察力与国际人道主义法规则、判例和学术的整体相结合的系统将允许更精确的相称性评估和目标决定

从战争转向和平——人类的一些失误可能是值得的

最后一个需要考虑的场景是人类与人工智能在战争结束中的决策支持作用。虽然这可能看起来违反直觉，但绝大多数冲突的结束不是通过军事胜利/失败，而是通过谈判解决。如果我们解开这些过程，人类判断、影响和情感的中心地位是无与伦比的。例子包括纳尔逊·曼德拉（南非）、卡洛斯·菲利佩·西梅内斯·贝洛和若泽·拉莫斯-奥尔塔（东帝汶）以及组成全国对话四方的个人（突尼斯）所扮演的角色。如果可能的话，能够提供与这些思想领袖相当的决策支持的人工智能系统可能还有很长的路要走

关键时刻和意外事件也会影响战争的结束。印尼和自由亚齐运动（GAM）之间长达30年的冲突就是一个很好的例子。到2004年5月，在实施了一年的戒严令后，印度尼西亚武装部队获得了强大的军事优势，许多分析人士认为，它即将取得胜利。然后，2004年12月26日，苏门答腊岛海岸发生9.1级地震，引发海啸，导致四分之一的亚齐人死亡。印尼政府没有利用这场灾难来巩固其地位，而是违背预期，向195个国际人道主义机构开放了亚齐，允许16个外国军队提供干预支持，并将其4万人的国防部队中的一半重新分配给人道主义任务。GAM的回应是宣布立即停止敌对行动，并在十个月内与印度尼西亚签署了一项和平协议，授予亚齐特别自治地位

虽然将这些事件归咎于海啸过于简单，但巨大的生命损失、成员国的慷慨以及交战方对灾难的共同宗教解释，创造了所有利益攸关方都能利用的强大动力。很难想象在这种情况下，人工智能决策支持系统如何超越人类。此外，该场景强调了战争是一个非常人性化的过程，算法逻辑不一定发挥作用。如果人工智能支持的军事决策成为常态，那么可能会失去和平的机会

一些最后的想法：为什么需要将风险和机遇结合起来

这篇文章考虑了人工智能在军事决策中的应用，以及它对战争如何发起、打和解决的潜在影响，特别是如果这意味着人类决策的作用减弱。所呈现的风险是否会被揭示（迎来一个更危险、更不可预测的军事交战时代），还是会被利用（建议采取更多临床方法来限制平民伤害），在很大程度上取决于军方如何设想成功。如果成功被理解为避免战争，并在战争确实发生时更好地遵守国际人道主义法，那么将人工智能纳入军事决策确实有可能带来积极的结果。然而，如果成功仅仅意味着更快的军事决策，那么风险的可能性就会增加

重要的是不要以二进制的方式看待这些场景，也不要将其视为相互排斥的。成功对不同国家在不同时期意味着不同的事情。也就是说，围绕未来趋势进行讨论势在必行。事实上，如果说技术进步的快速步伐教会了我们什么，那就是前瞻性规划对于塑造我们想要的未来至关重要。这些讨论应将多边体系的现状置于首位。正如联合国秘书长安东尼奥·古特雷斯在2023年联合国大会讲话中指出的那样，世界似乎正在向以地缘政治紧张局势、威权主义和有罪不罚现象加剧为特征的多极秩序过渡。许多学者预计，这将导致现有问责结构的变化和国际法的“薄网”。如果正确，那么遵守国际人道主义法的规范价值将越来越被追求纯粹的军事效力所压倒。这一前景表明，有必要对军事人工智能应用的发展及其监管采取谨慎的态度，加强多边主义是限制数字军事技术带来的风险的关键

另见：

Matthias Klaus，《超越武器系统：人工智能在军事决策支持系统中的伦理挑战》，2024年9月24日
Jimena Sofía ViverosÁlvarez，《人工智能系统在军事目标支持中的风险和无效性》，2024年9月4日
Ingvild Bode，Ishmael Bhila，《基于人工智能的军事决策支持体系中的算法偏见问题》Anna Rosalie Greipl，军事决策中的人工智能：支持人类，而不是取代人类，2024年8月29日

简介