人工智能（AI）与任务指挥的集成是负责构建ADF未来指挥控制系统的人员面临的最重要挑战。[1] 特别是对陆军来说，正确整合是至关重要的。澳大利亚陆军已经认识到这一技术因素是澳大利亚未来土地力量的关键组成部分，但人工智能是一种具有独特特征的工具。它不仅仅是一种物理工具，它也是一种智能工具，代表了一系列新的机遇和挑战，包括物理和认知空间。最重要的是，鉴于人工智能对整个指挥和控制过程的潜在影响，陆军内部人工智能的集成需要超越物理工作流。为了让人工智能为指挥和控制过程工作而不是反对它，需要在人工智能和任务指挥部之间建立概念上的一致性

要建立这种一致性，必须首先认识到将人工智能与任务指挥部哲学的核心原则（即理解和信任）相结合的障碍。虽然对能力和可靠性给予了高度重视，但对人工智能开发和集成过程的理解和信任却少得多。[2] [3]人工智能和任务指挥部之间的成功融合只有在理解和信任也得到重视的情况下才能实现，而这些障碍需要通过人工智能开发人员和陆军野战人员的共同努力来克服

第一个障碍是理解，它分为三个部分。首先，人工智能必须能够解释上级指挥官的意图。如果没有这种能力，人工智能将导致任务指挥系统完全崩溃。第二，人工智能必须能够向其下属和同事表达其意图，包括人类和其他机器。这种清晰的沟通对于特派团司令部的分散执行模式至关重要，这种模式可以实现更快、更相关的决策。第三，人工智能必须能够在适当的时间框架内完成上述任务。需要在解释和表达中为理解的先决条件增加时间维度。如果人工智能的速度慢于决策速度，那么人工智能就毫无意义。无论是作为决策辅助，还是作为回路中更自主的代理，人工智能无法（及时地）解释和阐明任务参数、所需结果或执行的任务，都会直接导致任务失败

上述标准很难解决。尽管人类在自然语言处理的子领域取得了重大进展，但在使机器更具认知能力方面仍存在相当大的挑战。一个根本的挑战是克服人类沟通和语言学的复杂性，这通常会导致甚至在人类之间的误解。[4] 当人工智能机器缺乏对人类互动基础内涵的理解时，这些误解可能会被放大。最终，依赖无法通过图灵测试的机器是不明智的。图灵测试以其创造者艾伦·图灵（Alan Turing）的名字命名，它是一种决定人工智能是否能展示人类智能行为的方法。尽管该测试存在各种缺陷，但它代表了人工智能认知和沟通能力的相关基准

第二个障碍是信任。考虑到信任的情感基础和培养中有效领导的必要性，信任很可能是人工智能需要克服的最重大挑战，以在任务指挥框架下建立概念和组织一致性。为了使人工智能成为数字化的推动者，而不是陆军任务指挥理念的颠覆者，它们必须满足以下两个标准。首先，人工智能必须能够与人类队友建立信任。其次，考虑到每个队友（包括AI）的可靠性和能力，信任程度必须适当。[5] 鉴于信任和理解概念之间的内在联系，人工智能需要充分了解每个团队成员的能力、可靠性、弱点及其特定属性，反之亦然，以实现适当的互信水平。需要额外强调“适当”一词。如果信任度过高或过低，任务司令部的理念将在实践中崩溃，并可能带来灾难性后果

信任的障碍也使这个话题成为人工狭义智能（ANI）和人工通用智能（AGI）之间的重要区别。这一区别反映了能力和类型的巨大差异人机团队之间和内部存在的信任。今天的人工智能设备都属于ANI类别，包括陆军使用的半自主武器系统。无论操作员和AI之间的情感依恋如何，人类对ANI的信任都是相对直接的，因为它反映了操作员对机器能力和可靠性的信任。[6] 然而，当我们反过来审视这种信任时，它可能会更有问题。鉴于个体差异，ANI可能难以充分评估每个下属成员的能力、可靠性、弱点和属性。虽然人类在为队友分配适当的信任度方面确实存在类似的困难，但缺乏证据表明机器已经超过了人类的领导能力和同理心。虽然AGI可能会在这一领域表现出更强的能力，并与队友建立更个人的互信，但它们仍在开发中，不太可能在近期或中期内可用。此外，他们潜在的“人格”可能代表着巨大的社会伦理困境。因此，人工智能最大的认知挑战仍然是为人类队友培养适当的理解和信任水平，特别是考虑到ANI的局限性

这些理解和信任问题是人工智能成功融入指挥和控制过程的重要障碍。以任务指挥为基本理念的情况下，人工智能不仅不是解决陆军现有挑战的灵丹妙药，而且是使问题复杂化的新因素。随着澳大利亚陆军将人工智能作为指挥和控制的推动者，至关重要的是要意识到，人工智能不仅需要胜任和可靠，而且还需要能够理解和信任。人工智能开发人员和陆军野战人员需要共同努力来解决这个问题。解决这一认知挑战的方法不太可能是纯粹的技术，而是将技术专长与概念理解相结合

[1]澳大利亚国防军，ADF未来部队指挥和控制概念，DSN O1644248（堪培拉，ACT，2019），12-16。https://theforge.defence.gov.au/sites/default/files/adf_concept_for_com……

[2]克里斯·菲尔德（Chris Field），“连接优秀士兵和任务指挥部”，《海湾》，2021 3月18日。https://cove.army.gov.au/article/connecting-good-soldiering-and-mission…

[3]克里斯·菲尔德，“获得和维护相互信任和共同理解：7-我们工作场所的日常行动”，The Cove，2020年8月10日。https://cove.army.gov.au/article/gaining-and-maintaining-mutual-trust-a…

[4]Sebastian Ruder，“追踪自然语言处理的进展”，SebastianRuder，2018年6月22日。https://ruder.io/tracking-progress-nlp/index.html

[5]“Andy J.Fawkes和Martin Menzel，《人工智能的未来作用——军事机遇和挑战》，《日本军事期刊》，第27期（2018）：70-77

[6]马龙·W·布朗，《在作战团队中建立信任人工智能的准备》，《军事评论100》，第1期（2020）：36-44

简介