当代武装冲突日益复杂，而且由于技术的快速发展，距离越来越远。这使人们对机器运用人类情感特征（如同理心和谨慎）的能力产生了质疑，而这些特征对于在具有挑战性的情况下做出有效判断和评估至关重要。尽管通过提高目标识别等军事活动的自动化程度可以实现精确性和可靠性，但从人道主义角度来看，将这些高风险决策外包给机器是非常成问题的。

在这篇文章中，西苏格兰大学法学讲师 Joanna Wilson 博士呼吁紧急“重新人性化”军事决策。情感在其中起着关键作用。尽管有时人们将情感归咎于不可预测、不稳定的人类行为，而机器可能被视为一种受欢迎的替代品，但情感对于有效和灵活的道德推理、直觉和自我调节来说却是不可或缺的。因此，人工智能 (AI) 的使用应仅限于有效补充和促进人类的能动性和决策：一种严格用于人类目的的技术手段。

红十字国际委员会人道主义法与政策博客 · 人工智能、战争和（非）人道：人类情感在军事决策中的作用

正如红十字国际委员会 (ICRC) 和公约所述某些常规武器公约 (CCW) 致命自主武器系统 (LAWS) 政府专家组 (GGE) 指出，人类行为者仍然是国际人道主义法 (IHL) 中的主要（实际上是唯一）责任主体。

从实际的法律意义上讲，问责是通过现有的军事指挥结构和违反国际人道主义法的责任共担系统来实现的，例如，可以将人工智能的责任归咎于设计者和程序员或命令使用该技术的指挥官。

然而，这里所涉及的责任不仅仅是因果关系。如果人类判断被消除，Cavalcante Siebert 等人会问：“设计师、用户或其他人类代理人如何对那些设计用于在没有直接人类控制的情况下执行任务、学习和适应的系统承担道德责任？”除了因果关系和指挥结构问题之外，一个人应该承担责任，或者有能力为夺取生命的决定负责，并且了解并表达他们的理由，这是对人类尊重的最低限度的表达。红十字国际委员会将此解读为道德责任的要求——或许甚至是良心的存在——McMahan：“重要的是，战斗人员在对付非战斗人员时，应始终保持深深的克制。”无论机器将来变得多么精确和可靠，这种克制都可能永远无法通过算法复制，Leveringhaus 进一步强调，“即使新的作战技术使武装冲突中的个人和社区彼此之间越来越疏远，这也不应该分散人们对共同人性这一世界主义理想的基本真理的注意力。”

正如 Beard 表示，在确定使用人工智能违反国际人道法的责任时，“核心法律要求”是“与有效行使人类判断有着有意义的联系”。此外，CCW 的 LAWS 政府专家组还表示，通过使用军用人工智能遵守国际人道法需要“基于对当时可用信息的评估做出善意的人类判断，以及操作员做出决定和控制武力使用的能力。”

人权观察组织指出尽管“机器长期以来一直被用作战争工具，但从历史上看，人类一直决定着它们的使用方式。”因此，在战争中开发和部署人工智能时，必须始终有人类参与，并坚持人类判断的重要性。

事实上，GGE 建议人类操作员拥有与暴力行为有关的完全控制和决策权，并保留遵守国际人道法的最终责任。这与有意义的人类控制概念相关，该概念已由红十字国际委员会认为“控制的类型和程度可以保护人类的能动性并维护道德责任。”

有意义的人类控制的含义

大多数（如果不是全部）战时活动只有在与人类判断和能动性密不可分的情况下才能有效开展。Purves、Jenkins 和 Strawser 认为“即使是复杂的机器人”也无法“复制人类的道德判断”。一致地，黑匣子”问题，以及与可解释性和可预测性相关的问题，完全自主技术本质上是不可预测的：无论一个系统多么复杂和可靠，尽管技术可能如此先进，但我们很少能真正理解这种“智能”系统为何以及如何“表现”如此，更令人担忧的是，它如何超越编程发展。这导致人类缺乏对机器功能及其后果的了解，从而导致人类无法控制这些功能和后果。具体到致命自主武器系统，红十字国际委员会强调“必须继续关注人类的义务和责任”，“必须保持人类控制”，并紧急建立对自主性的限制，“以确保遵守国际法并满足道德关切。”

对军事人工智能进行有意义的人类控制需要“在用户的人类意图”和行动的“最终后果”之间保持足够直接和密切的联系。同时，根据Roff的说法，在军事指挥责任理论中，知识与控制之间存在着重要的联系。按照培根的“知识就是力量”假设，从这个意义上讲，控制可以理解为在战争中部署人工智能的决定必须包含对该技术及其能力的足够可预测性。由此会产生一定程度的对行动结果的了解和理解，从而产生对这一结果的真正的、人类的实际和道德责任。

军事决策中的人为因素至关重要，当这些决策的部分内容由高度智能的技术制定时，始终保持人类对该技术的控制是确保这种人为因素得到保留和维护的有效方法。人造机器有效应对当代战场产生的复杂困境的能力，在最好的情况下是未知的，在最坏的情况下是不可能实现的。与此同时，英国国防部强调，只有人类才能在必要时随机应变，本能地行事，并表现出同理心。此外，Kalmanovitz 强调，“关于适用标准的弹性，参考区分原则和比例原则中的合理性，使得人类判断不可或缺。”因此，有意义的人类控制概念和人类情感的重要性齐头并进，强化了人类在军事决策中保持道德和理性的必要性。

人类情感的重要性

情感是人类心理的重要组成部分，对于有效和灵活的道德评价、推理、直觉、同理心、自我调节以及同时驾驭多个推理系统的能力不可或缺。van Diggelen 等人指出，人类情感“本质上反映了人类对决策问题的个人价值观。”与此同时，Morkevicius 强调决策者在面对复杂形势时拥有“灵魂或良知”的重要性，并告诫不要将军事决策和行动“系统化”，因为这会导致其规则被编入算法控制的机器中。与此同时，邓拉普质疑算法“能在多大程度上取代指挥官的判断”，并指出“计算机过程的线性、数学性质可能永远无法复制非线性且往往无法量化的战争逻辑。”为了解决人工智能可能存在的战争“数学化”及其监管问题，Kalpouzos 指出：

“如果法律要发挥有意义的作用，如果我们不想将判断机械化和外包，我们就需要努力对战争法进行不可简化和情境化的理解，这种理解需要理解主观性和情感，这是一项无法编码的法律。”

许多支持在战争中增加使用人工智能的论点都提到了人类状况的不利之处以及战场上的情绪的危险。情绪确实会导致情况恶化、报复性杀戮或不遵守合法命令，甚至可能导致蓄意残忍，这导致人们推测“过于情绪化的人不会成为道德败坏的行为者”。因此，人工智能被誉为人类脆弱性和不可预测性的可喜替代品。因此，可以设想，人类的“负面”情感将被“理性”所取代，通过消除人类的激情及其过度后果，让战场变得更加人性化。理性，让战场更加人性化，消除人类的激情及其过度后果。

然而，正如所指出的本文开头提到，由于“黑匣子”问题以及与可解释性（缺乏）相关的问题，可以说，人工智能的结果并不比人类行为更可预测或更可靠。

人类状况的问题不能通过减少人类投入来解决。这不是解决方案。相反，根据人道主义项目，战场上可能仅存的一点点人性都必须得到尽可能的保护和丰富，以便尽可能有效地保护人类免受战争中的苦难。在这一追求中，人类的情感不是软弱的根源，而是力量的根源。它们促进了同情和谨慎等本能反应，这对于在具有挑战性的情况下做出有效的判断、评估和感知细微差别至关重要：这是在复杂的当代战场局势中对暴力（及其人道主义后果）的重要制约，例如，传统上对区分和比例原则的理解可能极其难以辨别和应用。面对这样的不确定性、不可预测性和道德复杂性、“情绪”，指出Zilincik，“在军事战略实施中无处不在。” van Diggelen 等人赞同“人类情感在军事决策中很重要”，而 Cosic 等人则强调“任何冲突或问题的情感层面都不应被低估。”

他们认为战争的‘混乱’实际上是一件好事，应该保持这种状态以确保合乎道德的决策和行动，“情感”Morkevicius 强调，“在我们的道德行为中发挥着重要且不可替代的作用”：

“对生命脆弱性的认识使我们（至少在我们更好的日子里）认为杀死另一个人是一种道德上严肃的行为，不仅对他人如此，对我们自己也是如此。”

战争不是，也不应该是容易的。军事决策是，也应该是困难的。为此，人类情感的持久存在至关重要。

强调人类情感在战场上的作用并不意味着完全反对在军事上使用人工智能，但它确实强调了在军事任务和决策中保持人性的重要性，甚至是必要性（无论在战争状态下人们认为还残留着多少人性）。这反过来又凸显了将军事人工智能的范围限制在其定义为服务于人类行为者、扩展人类能动性和增强人类决策能力的工具的必要性。

另请参阅：

Elke Schwarz，负责任的军事人工智能治理的（不）可能性，2024 年 12 月 12 日
Pierrick Devidal，试图化圆为方：红十字国际委员会人工智能政策，2024 年 11 月 28 日
Erica Harper，人工智能会从根本上改变战争的发起、进行和结束方式吗？，2024 年 9 月 26 日
Matthias Klaus，超越武器系统：军事决策支持系统中人工智能的道德挑战，2024 年 9 月 24 日
Wen Zhou & Anna Rosalie Greipl，军事决策中的人工智能：支持人类，而不是取代人类，2024 年 8 月 29 日

简介