军事决策过程正面临着越来越多的互联传感器在战场上捕获信息的挑战。丰富的信息为运营规划提供了优势——如果可以快速处理和采取行动的话。这就是人工智能辅助决策支持系统（DSS）进入画面的地方。它们旨在使军事指挥官能够更快、更明智地做出决策，从而加快和改善决策过程。尽管它们只是为了帮助而不是取代人类决策者，但它们带来了几个需要解决的伦理挑战

在这篇文章中，拥有人工智能伦理、风险分析和国际安全研究背景的Matthias Klaus探讨了与军事人工智能应用相关的伦理挑战，这些挑战往往被对自主武器系统（AWS）的主要关注所掩盖。他强调了与DSS相关的一些伦理挑战，这些挑战通常被描述为给军事决策带来更多的客观性、有效性和效率。然而，它们可能会助长各种形式的偏见，侵犯人类的自主权和尊严，并通过导致同伴压力和技能下降，有效地破坏军事道德责任

红十字国际委员会人道法和；政策博客·超越武器系统：人工智能在军事决策支持系统中的伦理挑战

自主武器系统（AWS）在当前的军事人工智能辩论中引人注目，但它们远非唯一具有伦理挑战性的用例。在这里，我想讨论基于人工智能的决策支持系统（DSS），它收集、汇总和理解收到的情报、监视和侦察（ISR）报告。由于军事组织中传感器、无人机和物联网的激增，需要在各个军事指挥级别处理大量数据。虽然这种数据的涌入可以带来更好的情报和自身部队的协调，但它的存在对及时分析和采取行动提出了挑战。基于人工智能的决策支持系统旨在应对这一问题，并帮助指挥人员构建通用作战图、制定行动方案和支持命令的执行，所有这些都在人类规划者所需时间的一小部分内完成

然而，虽然这些系统只是为了支持和启用——而不是取代——人类规划者，但它们可能会阻碍道德责任，助长不道德的行为和结果。虽然基于人工智能的DSS本身没有实施例，也没有动态地参与作战，但它们可能比AWS产生更大的影响。毕竟，基于人工智能的DSS可以影响有关使用AWS和人类战斗机的军事决策。因此，他们应该受到同等甚至更严格的审查，因为他们的影响可能同时更加微妙和有影响力

扩展伦理观点

在受人工智能影响的军事行动中，伦理起着特殊的作用。伦理学关注的是这些技术如何影响人类价值观、人类问责和责任以及军事美德

勇气、责任和义务等军事美德从根本上植根于人类的判断和决策。基于人工智能的DSS虽然在处理大量数据方面很有价值，但有可能掩盖这些优点。通过在军事行动中承担更多的认知负荷，基于人工智能的DSS可以淡化道德和伦理决策中的人为因素。从人类主导到人工智能辅助判断的转变可能会削弱指挥官对其决策充分承担道德责任的能力，最终损害军事美德

基于人工智能的DSS的开发和后续部署涉及技术和人类操作员之间的复杂交互，远远超出了单纯的功能问题。相反，它涉及评估这些系统是否能够与人类尊严和自主等基本原则保持一致

与基于人工智能的DSS相关的伦理挑战与这些系统的技术方面有着内在的联系。例如，训练数据中包含的偏见可能会导致不必要的歧视性结果，可能违反正义和公平的原则。人工智能系统的不透明性会妨碍人类理解或质疑系统的建议。这违背了透明度和问责制。这些挑战影响了作战效率，但也破坏了军事决策核心的伦理原则。当涉及到保持对基于人工智能的DSS的有意义的人类控制时，这个问题变得更加紧迫，这通常被认为是在军事行动中道德和负责任地使用人工智能的关键

概述

以下示例代表了与基于人工智能的DSS相关的一系列伦理挑战。它们与对人类责任、军事美德和军事决策中有意义的人类控制的担忧密切相关。这些挑战影响了决策支持系统的运行效率，但也引发了关于人类决策者在高风险环境中的监督、自主性和问责制方面的局限性的关键伦理问题

人工智能系统训练数据中存在的偏差可能会被系统本身无意中延续甚至放大。这可能会导致某些个人或群体因性别、种族、阶级、年龄、国籍和许多其他因素等特征而受到歧视。对于基于人工智能的DSS，如果其数据有误，这可能会发挥作用，例如，如果有助于创建共同作战图像的自动目标识别系统将某些个人或团体误分类为合法目标。有关于无人机战争的报道，例如，有偏见的数据标签和解释导致人们成为目标，主要是因为他们明显与某些部落有联系

基于AI的DSS的可解释性是一个挑战，因为目前开发或研究中的大多数系统都是基于机器学习模型的，包括用于图像识别的卷积神经网络，这些模型本质上是不透明的。这对于基于人工智能的决策支持系统来说是有问题的，因为它会阻止用户理解为什么会提出某种行动方案。更重要的是，它还可以防止人类员工识别和纠正错误。根据解释相关决策的系统、方法和工具的类型以及其他因素，这可能是维护和培训系统的军事用户或技术专家

自动化偏差是指人类过度依赖自动化系统的倾向。人们经常将繁琐的任务委托给技术，认为自动化系统具有卓越的分析能力。自动化偏差表现为遗漏错误，即人工操作员错过了系统忽略的异常，或委托错误，即操作员在不考虑替代方案的情况下遵循（错误）建议

基于人工智能的决策支持系统分析数据，并比人类更快、更准确地提出行动建议，从而自然信任他们的建议。这可能会导致用户忽视他们的训练和直觉，即使在不合适的情况下也依赖基于人工智能的DSS输出。如果系统符合用户的偏好，情况会更加严重，因为他们不太可能质疑舒适的建议。此外，对这些系统的工作原理缺乏了解可能会导致对系统的过度信任，特别是如果由于其不透明性，其局限性和偏见并不明显。自动化偏差可能导致操作员不加批判地接受基于人工智能的DSS建议，从而在战场上造成附带损害和不必要的破坏，可能导致不必要的痛苦和伤害

人类自主性在军事行动中使用基于人工智能的DSS面临风险。虽然自动化偏见会影响规划者，但前线士兵执行这些计划也带来了重大挑战。基于人工智能的DSS可以培养微观管理能力，即单个士兵通过系统接收详细、精细的命令，可能决定路线、目标和方法。这可能会削弱人类的自主性，因为留给个人的决定越来越少。像士兵扩展现实面罩这样的项目已经暗示了这一未来，显示实时信息和目标

基于人工智能的综合DSS可以促进一种虚拟远程指挥和控制形式，使士兵能够在不严格参与这些系统输出的情况下执行设备上显示的命令。这种情况下，士兵们可能不会质疑命令，即使他们有建议采取替代行动的见解。如果士兵通过基于人工智能的DSS收到有关敌方阵地的命令，他们可能会在不核实情况的情况下采取行动。这挑战了军队本着“Auftragstaktik”精神有意识决策的自我认知，在最坏的情况下，导致士兵“只服从命令”

Deskilling是指由于缺乏实践而丧失专业技能，这通常是由于技术进步造成的。在军队中，“边打边练”的原则强调了现实训练对保持基本技能的重要性。士兵必须精通战术行为等硬技能和决策和适应性等软技能，才能在战斗中有效应对

基于人工智能的DSS在减少认知工作量的同时，通过接管规划和决策任务，有可能降低指挥人员的技能。如果没有定期的实践，员工可能会失去对这些方面的熟练程度，这在系统故障期间可能是至关重要的。例如，自动目标识别和威胁评估可能会导致“手动”评估ISR报告的质量下降。无效的人类决策将使部队、平民和敌人面临不必要的风险，导致错误的攻击、自相残杀或附带损害。此外，去技能化会侵蚀勇气和仁慈等军事美德，这些美德也需要不断的练习

加速压力将是军事组织成功实施基于人工智能的DSS的直接结果。DSS可以显著加快决策过程，但它们有可能将加速的步伐作为标准。指挥人员可能会抵制放慢决策过程，以验证基于人工智能的DSS结果。同行对快速结果的期望可能会使士兵不愿表达担忧。正如“现在暴力执行的好计划比下周的完美计划好”这一公理所呼应的那样，速度是战场上的一个决定性因素，任何形式的放慢速度来检查结果都可能导致同伴压力或对谨慎的工作人员的欺凌。因此，支持这种加速压力的基于人工智能的DSS阻碍了有意义的人为控制的概念。从本质上讲，这归结为问自己我们想如何行使控制权，以及为了加快决策过程，我们愿意放弃多少控制权

在基于人工智能的决策支持系统中，人的尊严涉及人工智能计算战斗场景中的损耗率的伦理影响，估计士兵和非战斗人员受伤或死亡的可能性。虽然这对军事规划来说是可行的，但也引发了伦理问题。士兵们希望跟随权衡后果的人类指挥官冒着生命危险，但不应将其简化为算法成本效益分析中的统计数据。这种方法使所有受计算影响的人失去人性，包括受决策影响的敌军和非战斗人员

例如，虽然已经在基本计算机工具的帮助下进行了附带损害估计（CDE），但基于人工智能的DSS在多大程度上改变了这一过程，这引起了伦理问题。它使决策者更加远离战争的人为因素。传统上，这些决定是由人类指挥官做出的，他们有道德责任权衡对士兵和平民的潜在伤害与其目标的价值。相比之下，当基于人工智能的DSS自动进行此类计算时，风险在于人类生命可能会被简化为算法方程中的数据点。这将掩盖所做选择的道德意义

展望未来

在军事行动中集成基于人工智能的决策支持系统有望实现更高效、更快的决策。然而，如图所示，这些系统也带来了重大的伦理挑战，必须加以解决，以确保其负责任的使用

为了降低这些风险，为使用基于人工智能的DSS制定强有力的道德框架和指导方针至关重要。对军事人员进行关于这些系统的局限性和潜在偏见的持续培训和教育至关重要。这应该包括培养批判性思维和对DSS的怀疑或谨慎，以允许负责任和有意义的人为控制

人工智能将不可避免地改变军事行动的假设，通常被称为“技术决定论”，应该得到批判性的审视。与其简单地接受这一概念，不如进行全面的风险分析。这将允许仔细考虑早些时候提出的伦理挑战，包括权衡潜在风险和收益。这种方法确实可以通过提供开发人员和用户可以遵循的护栏来促进（负责任的）创新

必须更多地关注基于AI的DSS。即使它们仅仅是为了在协助人类决策者时，他们不可避免地会通过如何处理数据、呈现信息和提出行动方案来影响他们的决策。通过将基于人工智能的DSS视为社会技术系统，我们需要提高对其道德影响的认识。虽然它们可能缺乏道德能动性，但它们是在武装冲突中部署的具有道德影响的工具。因此，我们需要促进关于如何设计、开发、使用和监督这些系统的讨论

另见：

Jimena Sofía ViverosÁlvarez，人工智能系统在军事目标支持中的风险和无效性，2024年9月4日
Ingvild Bode，Ishmael Bhila，基于人工智能的军事决策支持系统中的算法偏差问题，2024-9月3日
周，Anna Rosalie Greipl，军事决策中的人工智能：支持人类，而不是取代人类，2024月29日

简介