1引言

尽管对政策和实践至关重要，但在研究文献中，对公众在国防环境中对人工智能的看法的理解却被忽视了。这种理解对于制定明智的政策、治理和保证方法，以及确定向公众宣传人工智能在整个国防领域的能力、局限性、好处和风险的机会至关重要。此外，需要提供准确的信息，以便公众能够就这一问题形成知情的意见；这一点很重要，因为这些观点可以影响决策、投资和其他关于在国防中使用人工智能的决策。在由于误解引起的公众担忧而导致过度立法导致研发停滞的情况下，可能会对英国国防产生明显影响。对人工智能的过度担忧可能会阻碍有益系统和限制性监管程序的开发和使用（Cave等人，20182019；Cave和ÖhÉigeartaigh 2019）。相比之下，过度信任可能会使个人面临潜在的安全问题、虐待或普遍丧失自主权（Cave等人，2019；Schepman和Rodway 2020）。因此，在当今社会的任何领域，了解公众对人工智能的态度和看法都至关重要。由于公众构成了许多全球民主国家选民的基础，他们有能力塑造政府决策的形象，这反过来又会影响研究支出和监管政策（翟等人，2020）

最近，美国有文献表明，人工智能的创新和使用可以由公众舆论和理解来决定，几个州颁布了禁止使用人工智能驱动的面部识别系统的禁令（Conger等人，2019；Schneier 2020）。强烈反对的部分原因是对收集图像的隐私和同意的担忧。然而，其他国家可能会继续发展，很少或根本不考虑之前强调的关键问题（Morgan等人，2020）。因此，在这一发展领域与公众接触对于确保对这类技术的道德使用做出承诺，以及确保该领域的关键发展尽可能透明地进行沟通至关重要（Morgan等人，2020）。然而，人工智能在国防领域的主题在很大程度上避开了该领域的实证研究焦点。许多与公众对人工智能的看法相关的研究与人工智能的一般应用直接相关（Schepman和Rodway 202022），并且缺乏对与国防相关的应用的专门性。然而，人工智能在国防环境中的应用越来越多地被开发和使用，包括用于态势感知、风险指导、模拟和训练的传感器，以及作战和战略层面的决策支持（Du等人，2020；兰德公司2021；Wasilow和Thorpe 2019）。目前的研究旨在通过初步探索公众对人工智能在国防环境中应用的看法、信念和态度，弥合这一感知差距

1.1定义人工智能和国防中的人工智能

虽然有各种尝试来定义人工智能，但目前对公认的定义还没有达成一致（Gillath等人，2021；王2019）。王（2019）详细讨论了人工智能工作定义的创建问题，但也提出，缺乏明确的定义对该领域并不重要。这在很大程度上是由于人工智能相关领域的潜在复杂性，例如与智能相关的领域。然而，没有一个明确的工作定义也会使概念的传播成为问题，虽然这些问题可能与整个领域没有直接关系，但在面向公众的传播方面，它们可能会提出明确的问题

Gillath等人（2021）提出了一个工作定义，作为人工智能许多方面的良好整体参考点，包括与国防应用相关的方面：

“人工智能（AI）是机器，尤其是计算机系统对人类智能过程的模拟。这些过程包括学习（获取信息和使用信息的规则）、推理（使用规则得出近似或明确的结论）和自我纠正。人工智能的特殊应用包括专家系统、语音识别和机器视觉。人工智能的例子包括个人助理（如Siri和Alexa）、医疗诊断辅助设备和自动驾驶汽车”（第1页）

国防部对人工智能的具体定义在研究文献中提供的频率较低。国防创新委员会（2019）建议，国防中的人工智能可以定义为：

“一种在变化和不可预测的情况下执行任务而无需大量人工监督的人工系统，或者可以从其经验中学习并在暴露于数据集时进行改进的人工系统”（第8页）

人工智能在国防中的潜在应用几乎是无限的，可能包括后勤支持、模拟、目标识别和威胁监测等方面（Taddeo等人，2021）。这些用途已根据另外三种类型进一步分类；维持和支持；对抗性和非动力性；对抗性和动力学用途（Taddeo等人，2021）。维持和支持参考了人工智能在“后台”功能中的使用，包括运营和后勤功能（Taddeo等人，2021）。人工智能在国防中的对抗性和非动能应用包括与网络防御以及网络进攻能力有关的应用。最后，对抗性和动力学应用是指直接参与作战行动的应用，包括使用人工智能系统来帮助识别目标，以及使用致命自主武器系统（Taddeo等人，2021）

1.2为什么公众对人工智能和人工智能在国防中的看法很重要

先前的研究指出，对人工智能的态度和认知在接受这种新兴技术方面发挥着重要作用（Lillemäe等人，2023；Othman 2021；de Fine Licht和de Fine Licht 2020；Schepman和Rodway 2020；Selwyn和Gallo Cordoba 2021）。Luccioni和Bengio（2020）认为，人工智能领域已经超过了一个门槛，该领域不再是专注于技术问题的专家的唯一领域。其他研究人员注意到，在人工智能决策方面，透明度的重要性，特别是在要避免负面结果的关键领域（de Fine Licht和de Fine Licht 2020）。人们越来越关注非专家，如政策制定者、监管机构和媒体如何参与与人工智能相一致的概念（Selwyn和Gallo Cordoba 2021）。反过来，人们也承认，出于几个关键原因，应该更加关注公众对人工智能的看法、情绪和意见。首先，这种认知会对人工智能技术的未来实施产生直接影响。其次，更好地了解公众目前的看法也提供了一个机会来评估可能是这种看法不可分割的一部分的系统性差距和误解。这些缺点可以通过更好的沟通和知识建设来改善（Selwyn和Cordoba 2021）。翟等人（2020）还指出，“公众对人工智能的看法和担忧很重要，因为任何新兴技术的成功在很大程度上都取决于公众的接受程度”（第138页）。这些作者指出，对许多人来说，与人工智能相关的知识和理解往往是模糊的，通常是片面的，主要是由于大众媒体的影响。在Lillemäe等人最近的研究中（2023），他们指出，对人工智能的总体积极态度与对基于军事的人工智能应用的积极看法有关。如果个人对人工智能的感知过于积极，他们也不太可能认为人工智能的军事应用有风险。相反，那些将人工智能视为威胁的人也增加了对人工智能在军事应用中的风险感知，并增加了对此类系统整体决策能力的怀疑程度（Lillemäe等人，2023）。很明显，公众在国防环境中对人工智能的感知和接受显然是由其他外部因素驱动的，特别是与人工智能相关的流行叙事。

1.3叙事和国防环境中的人工智能感知

叙事被视为在整个技术发展史上的思想交流和塑造中发挥着关键作用（Beer 2009）。叙述是描述一个特定故事的文本、图像、事件和文物的集合。最近的历史例子表明，叙事影响了围绕分裂话题演变的公众辩论，包括基因改造、核能和气候变化（Cave等人，2018）

叙事的作用和大众媒体对公众认知、态度和信念的影响，与人工智能在国防中的相关，不容低估。几十年来，西方军队一直在探索使用技术进行远程战争，“以符合（自由主义）克制价值观的方式”（见Carvin 2022，Depledge 2023）。随着时间的推移社会发生了变化，从军队使用的力量、目的和代价来看，对军队的看法和支持也发生了变化（Depledge 2023）。人工智能如何与这些观点相吻合，并被视为影响与国防相关的实际和感知成本，这反过来又会影响对利用人工智能的技术的接受或拒绝。例如，如果人工智能的一种用途是提供一种将士兵生命损失降至最低的能力，那么它可能被视为比在其他情况下使用更容易被接受

人工智能领域充斥着复杂的思想、技术和理论，以及围绕众多兴趣领域的应用（Zhai et al.2020）。一般人会访问以可管理、易于访问的方式呈现的主题信息。因此，大众媒体的叙事可能清楚地塑造了国防中人工智能的原型观点（Shih等人，2008；翟等人2020）

也许，最突出的叙事，尤其是当涉及到公众对人工智能在国防中的使用的看法和态度时，是反乌托邦的构建和未来，通常由流行媒体和科幻小说塑造（Cave等人，20182019）。这些叙述的共同点是，为防御目的创建的人工智能应用程序被颠覆或获得“意识”，进而被用于反人类，最终导致奴役或毁灭（Cave等人，2019）

与反乌托邦观点相反，其他人指出，公众对人工智能如何帮助社会也抱有不切实际的期望，从而产生了错位的信任（Cave等人，2019）。尽管这种对人工智能的感觉是基于毫无根据的构建，但这种态度可能会直接影响公众对人工智能。

随着人工智能的使用扩展到更具争议性、情感和道德色彩的领域，如与拟议国防用途相关的领域，评估公众当前的看法将变得更加重要。如果目前能够深入了解公众对人工智能在国防环境中的使用所知（或认为他们所知），那么理解差距就会凸显出来，有可能提供更清晰、准确和相关的信息，以消除潜在的误解

1.4研究目的

本研究的目的是对当前公众对人工智能在国防中的使用的看法、信念和态度进行初步探索。鉴于目前讨论的主题的现有文献稀少，采取了探索性、归纳性和定性的方法。虽然上述研究文献提供了一些潜在的迹象，说明公众如何创造他们对人工智能在国防中的使用的看法，以及这些看法可能是什么，但这项工作在很大程度上依赖于与更通用的应用相关的应用。这项现有工作也未能充分探索人工智能在国防中使用的更具情感的方面，特别是在此类使用可能包括使用致命武力的情况下。当前研究的总体目标是提供公众如何看待国防中的人工智能、关键问题以及实施此类应用的潜在障碍的更清晰、最新情况

2方法

2.1参与者和程序

通过心理学系（诺丁汉特伦特大学）管理的三个研究参与者数据库确定潜在参与者。选拔标准包括参与者的年龄、互联网和微软团队的访问权限。表1概述了小组的规模和组成

表1焦点小组组成

全尺寸表

参与者通过电子邮件和社交媒体被邀请参加。向上述数据库中的所有潜在参与者发送了一张海报，邀请他们参加焦点小组访谈。此外，招聘海报还在社交媒体（推特、脸书和Instagram）上的适当论坛上分享。招聘工作继续进行，直到每个小组的参与者人数达到最低限度。会议决定，与会者将按年龄分组，组成同质小组，使他们感到舒适并便于讨论。两名研究人员出席了整个焦点小组会议，以帮助促进讨论，并在出现与小组有关的问题时提供潜在的支持。焦点小组讨论持续了50至64分钟，由两名研究人员（MKM和JS）于2022年5月16日至25日通过MS团队在线进行。参与者因参加而获得少量酬金以10英镑礼券的形式参加研究。录音是在微软团队内部生成的，然后完全转录

在会议之前，向所有参与者提供了关于研究目的的详细信息，概述了焦点小组会议的程序。与会者被提醒，焦点小组会议应被视为一个安全的环境，让每个人都能自信、无所畏惧地表达自己的观点。与会者还被提醒，焦点小组会议将被录音，该会议的其他参与者将能够通过MS Teams查看他们的姓名。他们被要求尊重和保护其他参与者的匿名性。他们被允许在72小时内阅读简报材料，并提供书面同意书，并在焦点小组会议开始前将其退还给首席研究员

该项目获得了国防部研究伦理委员会（MODREC）的有利伦理批准，参考号为2109/MODREC/21。

2.2材料

基于对目前存在的关于一般人工智能应用的研究文献的审查，研究团队提出了一系列问题，以便于参与者讨论和探索他们对人工智能及其在国防环境中的应用的理解和看法（见补充材料）。最初的问题鼓励参与者分享他们对人工智能更一般方面的知识和使用，焦点小组的后半部分问题集中在国防中与人工智能相关的特定方面。这些问题大致围绕着对人工智能在国防中可能是什么的最初看法、与使用相关的信任方面，以及何时认为人工智能在防御中的使用是可接受的（表2）

表2焦点小组会议的紧急主题和子主题

全尺寸表

2.3数据分析

焦点小组记录被逐字转录。主题分析在这里被用作一种方法，目的是识别数据中重复的意义模式（Boyatzis 1998；Braun和Clark，2006年）。这是恰当的，因为“主题捕捉了与研究问题相关的数据的一些重要内容，并代表了数据集中某种程度的模式反应或意义”（Braun和Clarke，2006年，第86页）

在当前的研究中，使用归纳主题分析方法对数据进行分析，研究人员阅读、重读和探索数据，以寻找主题、子主题、模式和它们之间的关系，以及对其含义的见解。如（Braun和Clarke 2006）所述，遵循了以下广泛步骤：熟悉数据、生成初始代码、搜索和创建主题、审查主题以及提炼和命名主题。对文本的重新审查有助于识别文本中的共性和差异，从而形成主题和分主题。识别这些之间的重叠和差异表明了这些之间的模式和关系以及它们的含义

为了了解一般的生活史和事件，我们多次阅读转录本。注意到了最初的编码以及早期的想法和见解。接下来，对数据进行编码，以澄清新出现的主题和子主题，并对模式和重新出现的关系进行注释。然后开始编写每个子组的主题，并进一步探索数据，以建立和澄清子主题（以及构成每个子主题的变量）、模式和关系。这种写作行为增加了另一层分析，对主题和子主题、它们之间的重叠和差异以及对它们之间关系的见解提供了更细致的理解

分析过程由一名研究人员（JS）领导，并由第二名研究人员反复补充（MKM）。然后，另外两名研究人员（LH和JB）对主题的最终配置和分析的有效性进行了检查，一些主题在团队成员之间的讨论后得到了扩展（Braun和Clarke，2006年）。未使用分析软件。因此，首席研究员沉浸在数据中，这使得能够识别出丰富的见解。然而，由于主观性，对这种性质的定性分析可能会有偏差。因此，这四位在应用这种分析方法方面经验丰富的研究人员认识到，他们将尽一切努力确保结果以证据为基础，并举例说明数据

3结果

对焦点小组数据的分析揭示了探索的各种主题一般人工智能的基本经验和看法，以及探索国防中对人工智能的更具体的关注、态度和看法。表1总结了主题和分主题。主题没有按任何顺序排列；所有这些都同样突出

3.1主题一：系统中的人类

第一个主题与人工智能和人类用户/操作员之间的相互作用以及人类和人工智能的角色有关。这个主题捕捉到了参与者在整个人工智能防御基础设施中与人类角色相关的位置中的一些悖论。一方面，参与者承认人工智能是由人类创造的，并在其创造者定义的某些参数范围内发挥作用。然而，参与者也热衷于强调，他们意识到这一过程存在固有问题，由于人类的参与，偏见可能会蔓延到这些系统中。然而，尽管如此，参与者强调人类需要参与结果和决策，并普遍反对允许人工智能在防御环境中以任何形式做出最终决定。与会者还热衷于强调系统内某种形式的问责制的必要性，无论是对程序员本人还是对指导使用系统的其他权威人士。出现了四个子主题

3.1.1人类创造人工智能是为了做我们告诉它要做的事情

许多参与者讨论了人工智能的本质，包括它是如何创建的，为什么创建的，以及它能做什么。对于许多参与者来说，有一个明确的断言，即人工智能是在设定的参数范围内运行的东西，这些参数是或应该由人类设置的：

“这是人类创建的一个系统，可以做我们告诉他做的某些功能”（FG2）
“一台机器正在工作在人类设定的某些参数范围内”（FG4）
“人工智能是由人类创造的，但不是生活在自己身上，而是被设计为在人类定义的参数范围内做出反应”

参与者对人工智能概念化的核心是，人工智能是人类创造的在特定参数范围内发挥作用的东西。对于许多参与者来说，除了这些参数之外，没有任何功能或开发的余地，考虑到人工智能在初始状态之外学习和发展的潜力，这种立场通常与人工智能的目的背道而驰

3.1.2人类将偏见引入系统

参与者讨论了人工智能在决策过程中表现出偏见的可能性，因为创建此类系统所进行的背景编程。许多参与者真正担心的是，人类中存在的偏见可能会蔓延到被认为没有偏见的系统中

“无论创建什么，都会受到创建它的人的偏见”（FG2）
“我只是认为这非常危险，因为你无法从人类编程的初始代码中消除潜在的偏见或影响”。（FG2）
“技术的好坏取决于创造它的人和制定技术需要实现的意图”（FG1）

后一句话举例说明了参与者如何看待国防人工智能开发人员对系统功能过程中的行为产生直接影响的潜力

3.1.3需要人力投入和监测

所有焦点小组中反复出现的一个主题是，需要在人工智能国防中保留人力决策的一个要素。对于一些参与者来说，他们认为这是一个验证过程，因此人工智能在没有人类手术人员直接输入的情况下无法做出最终决定

“也许人工智能与一个关注这些事情的人一起是最好的方法，我将这种信念应用于防御。”>“我担心，通过某种方式将人类排除在等式之外，让这些人工智能系统几乎做出决策，并影响军事和国防方面的政策或重大决策。”（FG2）

其他参与者发现，人工智能有可能在没有人为干预或投入的情况下做出可能导致灾难性后果的关键决策，这是风险和恐惧的来源

“有人投下一枚核弹，但一旦设置好，却没有人为干预来阻止它，这真的很可怕。这更可怕。我们日常的东西不会杀死人，国防人工智能可能会，他们也可能会犯错。”（FG4）

这是参与者关注的关键问题之一，被视为在国防环境中使用人工智能时建立信任水平的关键障碍。在整个焦点小组中，参与者经常重申，需要将人的因素，特别是在关键决策过程中，作为国防人工智能的一部分保留下来

3.1.4问责的必要性

焦点小组讨论反复强调的主要内容之一是问责主题。对于许多参与者来说，他们希望得到保证，有人会或可能会对人工智能在国防环境中的行为负责

“责任在哪里？所以，如果人工智能因为X、Y和Z因素决定我们要轰炸这个大院，如果事实证明这实际上是一所学校，是程序员负责吗？是监督无人机的人，还是房间里的人？”（FG2）

参与者热衷于确定在决策和目标选择错误的情况下，责任在哪里，特别是在对非军事目标可能造成附带损害的情况下。在以下引用中，一名参与者询问，在人工智能被指控决定使用致命武力的情况下，谁将承担责任。同样，人们一致担心这些决定可能不公平和合理

“如果我们把生死攸关的决定交给一台机器，那么，从一开始就已经由人类编程了，责任在哪里？我们如何确保他们做出了公正、公平和合理的决定？”（FG2）

最后，参与者专注于背景编程如何影响谁对人工智能做出的决策的结果负责。

“责任和学习是如何编程的，谁承担责任以及随之而来的一切”（FG5）

所有焦点小组的参与者对人工智能在防御环境中做出的决策的责任归属持保留意见。在大多数情况下，参与者试图澄清在这些情况下的责任所在

3.2主题二：人工智能在国防中的道德使用

本主题探讨了如何以及何时在国防中使用人工智能的观点。与会者对如何以及何时在国防中使用人工智能表达了强烈的意见，非致命应用被认为比致命应用更容易被接受。第一个子主题探讨了参与者对人工智能在国防中可以接受的应用程序的看法

3.2.1人工智能在国防中的可接受使用

参与者讨论了他们认为在国防中使用人工智能是可接受的一般设置和情况。这里有一个明确的界限，这反映了大数据应用程序和Schepman和Rodway（2022）强调的需要人类决策的应用程序之间的区别。大多数参与者认为，人工智能在国防中的适当使用包括平凡的任务、提高效率的任务、可能保护生命的任务，以及可以解放操作员做其他事情的任务

“我认为收集数据、处理数据、分析数据、呈现数据对机器学习和人工智能（FG2）来说是非常好的
”平凡的任务可以花更多的时间来改进其他防御领域，从而全面提高防御能力，但我想说，我最大的反对是当没有人为因素时”（FG1）
“我并不认为它更多地是正在部署的东西，我认为它更多的是一种提高运行和生产力的效率的东西。”（FG1）

这些应用程序的一个共同点是没有参与关键决策过程，而是更直接地关注与更常规的后台任务相关联的流程和操作

参与者还将保障人们安全和抵御外部威胁的能力视为在防御环境中使用人工智能的一个关键好处。在一个层面上，他们谈到了保护前线工作人员和士兵免受伤害，特别是在无人驾驶飞机可用于作战的情况下，特别是战区环境中的炸弹处理活动或侦察行动

“显然，这样做的主要目的是在炸弹处理方面确保人们的安全，但就像你所说的无人机和进入地区一样，它们肯定是人工智能。”

“就我们平民的防御而言，我想我们谈论的是早期预警系统，因为如果有核导弹向英国飞来，就会有一个系统来识别这一点，提醒每个人，谁知道它是如何实际发生的，但同样，如果它是正确的，那就太好了，防御，做他们需要做的事情。”敌人。”（FG1）
3.2.2人工智能在防御中的不可接受使用
参与者非常清楚在防御中不应在哪里使用人工智能。大多数反对意见都与没有人参与需要做出关键决策的情况有关。许多参与者对将人工智能作为唯一的决策机制感到不安，不希望将“人为因素”从这种情况中完全去除

“当涉及到执行和决策时，需要将其交给一个人或一群人，而不是做出执行决策”（FG2）
。这一点在其中一名参与者的以下摘录中得到了体现：
“如果人工智能被用于与紧张局势无关的平民，我认为这就像人工智能做得很好，但如果人工智能不知何故忽略了为人着想……如果人工智能将人作为抵押品，那就是我画红线的时候。”（FG1）
3.3主题三：对系统的信任与对组织的信任
在整个焦点小组中，信任是参与者反复关注的主题。一方面，参与者讨论了直接在机器中放置的信任。另一方面，与会者讨论了与国防部人工智能管理组织相关的信任问题。首先，参与者发现很难与机器建立信任，并认为人类互动的一个元素对发展信任至关重要

“我认为，无论什么事情，都很难信任计算机，你需要个人的触觉和思考能力。”（FG1）
“首先想到的是我们能信任这些东西吗？”（FG5）
更容易，但我不一定相信它。”（FG1）
参与者还热衷于讨论对军队的信任，作为在国防中建立对人工智能信任过程的一部分。再一次，偏见的概念进入了讨论，一位与会者强调，人工智能只有和创造它的人一样好。
“我确实在某种程度上信任军队。这取决于你是将军队定义为一个国家还是一个团体……”
3.3.1错误的可能性
与人工智能信任相关的一个子主题是系统功能中可能发生错误。这些错误反过来被视为有可能导致灾难性的生命损失或更广泛的冲突。例如，一位参与者表示：
“如果你让机器自己决定，那么我预见到未来会有麻烦。”（FG5）
参与者有一种真正的不祥预感，其他参与者也有同感。例如，该参与者质疑这种系统背后的开发过程，并表示编程可能在某种程度上存在缺陷，导致系统无法完全理解如何应对。同样，参与者认为这可能会导致事情出现“可怕的错误”

“有时他们设计这些东西，不一定会把所有的事情都想清楚，你知道，他们不一定会仔细考虑每一个选项，所以可能会有很大的错误空间，而且可能会出现严重的错误。”（FG2）
在下面的摘录中，人们明显担心人工智能可能会开始自己做出决定，导致它有可能“失控”，再次导致灾难性后果。一些与会者提到，这种错误有可能导致无计划的冲突，甚至核战争

“只是希望它不会变得无赖。这是唯一真正的事情。”（FG4）
“如果这是不正确的，我们现在无意中开始了一场基于机器和编写的程序的核战争”（FG2）
3.4主题四：人工智能在国防中的信息收集
参与者探索了他们收集与人工智能和人工智能在防御中的发展相关信息的方式。在整个焦点小组中，围绕大众媒体在国防中对人工智能的描述中所起的作用进行了大量讨论。第一个子主题涉及对大众媒体及其传播国防人工智能事实和真相的能力的根深蒂固的不信任

3.4.1不相信大众媒体会报道真相
所有焦点小组的参与者都认为大众媒体在国防中提供有关人工智能的清晰信息的能力有限。与会者强调，大众媒体更多地关注夸大和危言耸听，不信任媒体在国防中的人工智能主题上所做的任何报道。这是一个有趣的视角，表明至少在某种程度上，参与者正在策划他们关于该主题的信息来源，并有一种批判性的意识，即并非大众媒体所呈现的一切都是事实和循证的

“很多人都想在这类事情上找毛病，任何这样的变化都有可能让人们想找毛病，我认为媒体肯定会让情况稍微糟糕一点。”（FG1）
“如果有人向公众报告，你怎么能相信这个消息来源，因为有这么多不同的媒体，他们都有自己的议程。”（FG2）
3.4.2叙事对国防中人工智能感知的影响
许多参与者以电影和电视节目的形式谈论了娱乐媒体对国防中的人工智能叙事的影响。首先，参与者热衷于尝试在电影和电视节目中建立人工智能在国防中的虚构形象

“我们从电影和书籍中得到的东西中获得我们的观点。”（FG2）
“虽然我不知道这一半是真的，还是我刚刚在电影或电视节目中看到过。”（FG2）
“我知道这听起来很奇怪，但你可以看看《回到未来》或一些詹姆斯·邦德的老电影”（FG4）
然而，这种媒体消费的结果似乎是国防部人工智能的现实和虚构元素之间的模糊。一些参与者发现很难确定他们在电影中看到的东西是真实的，还是与已经存在的实际应用程序有关

这个主题的第二个方面是一种潜在的世界末日叙事，这种叙事在几种流行的电影类型中都有描述。尤其是这在本节的最后一段摘录中很明显，其中一位参与者阐述了人工智能发展到试图摧毁人类的地步的潜力

“如果你在电视上看到什么或有人提到它，你的大脑会自动思考这是真实的，然后会产生什么后果。”（FG5）
“电影就像幻想，但以一种非常奇怪的方式，电影中有一些学习的东西，看起来有可能存在，所以20年后会出现这种情况，这有点可怕。”（FG4）
“你不希望人工智能接管整个世界，你是不是像一些电影中那样，人类必须反击。这就是你脑海中的场景，你看过电影，你不希望这样。”（FG4）
3.4.3信息悖论
一方面，参与者希望能够访问信息，并且觉得他们发现的一些信息很难消化，非常技术性。然而，在同一方面，与会者也表示，一些信息应该受到限制，公众不需要或不应该知道一切，特别是在这些信息可能被用来破坏战略防御的情况下

对于几位参与者，他们讨论了能够以更容易访问、技术含量更低的形式消化国防中人工智能的信息。许多与会者表示，人工智能是一个复杂的主题，往往过于技术性或复杂性，他们很难理解

“我认为更普遍的情况是，你可能会在新闻中听到一些更新，我想这些更新更受公众欢迎，更有意义或更相关。”
“人工智能在国防术语中的使用，因为你很快就会谈论超出普通人的相当复杂的概念及其应用和这些应用的含义。”（FG4）
值得注意的是，依赖公共论坛和社交媒体来获取有关人工智能当前和拟议发展的信息。这令人担忧，因为这样的论坛有可能传播错误信息，并成为阴谋论的滋生地

当涉及到他们收到的信息以及他们是如何收到的时，其他参与者更持怀疑态度。一名参与者评论说，他们觉得公众得到的信息有限，过时了

“任何进入公共领域的东西都比实际发生的事情晚了五到十年，所以感觉是间接的，可能也有点落后。”（FG1）
这种情绪也影响了信息发布的另一个方面，参与者认为，他们只可能通过间接来源（如敏感信息泄露）获得有关人工智能在国防中应用的信息。这样的叙述建立在一个明确的阴谋思维过程中，参与者确立了一种立场，即他们在国防部收到的关于人工智能的大部分信息要么已经过时，要么其发布受到控制

“我认为，我能看到公众了解军方动向的唯一合理方式是通过泄密，而不是像军方积极做的那样——只是有人决定不，公众需要这些信息。”（FG2）
尽管参与者非常渴望获得有关人工智能在国防应用和发展中的信息，但他们也对公众需要了解的内容设定了限制。许多参与者确定了一个水平，在这个水平上，他们将看到信息没有与公众共享，特别是在这些信息的发布会威胁到战略防御行动的情况下

“我认为国防部出于安全原因，为了人们不害怕或不恐慌，向公众披露了他们的大部分行动。”（FG1）
“这有点像一把双刃剑，不是吗？因为在某种程度上，它需要保密，因为如果我们让每个人都知道什么是人工智能，我们在使用它，然后就会失去它的影响力，如果敌人知道这些系统，那么拥有它就没有意义了……”（FG2）
“如果你想保卫你的国家，你不想让对方知道一切，这意味着也要对我们保密。”知道正在开发什么
3.4.4需要更好、更容易获取的信息
几位与会者提出了向公众传达“更好”或更准确、更容易获得的信息的问题，这反过来可以提高人们对人工智能在国防中的当前发展的接受度和更清晰的理解。与会者认为这是民主进程的一部分，了解这一领域的发展情况使他们能够对未来的应用施加一定的控制

“我认为，如果你真的想让公众对这类信息感兴趣，你需要向公众进行大量非常深入的教育，为什么国防很重要[…]你需要公共教育，但你知道如何适当地做吗，所以我们接受这件事。”（FG4）
“民主应该控制我们，但如果我们不知道我们军队在官方机密之外的行动，那么我们就没有能力这样做，是吗？世界其他地区已经发现了这一点。”（FG5）
“我们是一个民主国家，我们应该通过知情的民主来控制我们的政府，我们必须在投票前知道一些事情，不是吗？我的意思是，如果我们无知，那么投票就没有那么有价值。所以，尽管我们不能知道军事机密，但我们肯定可以知道关于事情的更大的道德争论。”（FG5）
与会者还热衷于提出向公众公布国防人工智能信息的潜在机制，其中一人建议政府应召开某种形式的会议，以突出国防人工智能的当前发展

“我认为，也许在某个阶段，政府需要召开一次非常公开的公开会议，真正让公众知道。”

“如果我们非常愤怒，要求他们停止，他们会说，不，我们是军队，我们只会做我们想做的事……除非进行某种公众咨询，否则我想这没有多大意义。”（FG2）

>
4讨论
当前研究的目的是深入探讨公众对国防中人工智能的态度和看法。这项工作首次明确尝试这样做，并提供了一个初始起点，现在可以从这个起点进行更多的工作。以下部分探讨了该领域现有研究的主要主题

4.1系统内的人类很重要……但也可能引入偏见
尽管参与者对自己的观点很有信心，所有观点都是合理的，但他们对人类参与人工智能防御环境的看法似乎有点自相矛盾。一方面，很明显，人类应该在国防中对人工智能发挥监督或监督作用，但另一方面，人类也可能在机器决策中引入偏见。这要求更清楚地理解人类的作用，划定界限和角色，并在决策过程中提供保障。此外，参与者将人工智能视为一种“事物”，在由人类操作员或创造者确定的一组参数范围内发挥作用。在这方面，他们错过了人工智能的实际用途，尤其是在国防环境中。回顾国防创新委员会（2019）提出的定义，人工智能在国防环境中应该有能力“在没有重大人为监督的情况下”发挥作用，并能够“从经验中学习并提高性能”。这两个方面显然与受访参与者的观点相反，表明正式持有的定义对非专家的看法影响有限

许多参与者对人工智能在国防中的作用以及它可以或应该如何发挥作用有着矛盾或不准确的表述，这并不奇怪。事实证明，为人工智能创建一个准确的定义是有问题的，这是一个正在进行的过程，需要更多的研究来克服（王2019）。尽管这不是人工智能理论研究的问题（王2019），但在传达人工智能的性质和目的时，特别是在国防环境中，它确实引起了人们的明显担忧

4.2信任的感知影响对人工智能国防的看法
对人工智能防御的信任主题也是参与者反复提出，尤其是对系统本身的信任。对人工智能的信任问题一直是一个有争议的问题，一些研究人员对人工智能本身可以被视为值得信赖的概念提出了质疑（Ryan 2020）。相反，有人认为，信任存在于开发人工智能应用程序的个人和组织中。事实上，Bryson（2018）指出，“人工智能不是一件值得信赖的事情。它是一套软件开发技术，我们应该通过它来提高我们的机构和我们自己的可信度”，而Ryan（2020）则认为，人工智能应该更多地被视为“可靠”，而不是“值得信赖”。焦点小组参与者强调了这一点，他们提到人工智能可能出现故障或“失控”，这是接受的一个潜在障碍

与Bryson（2018）和Ryan（2020）相反，其他研究人员直接关注信任在接受人工智能方面的作用。例如，对人工智能缺乏信任是人类获得人工智能所能提供的全部利益的主要障碍之一（Gillath et al.2021），而对人工智能缺少信任的主要原因之一是误解或缺乏理解（Gillath等人2021）。参与者可能无法在国防中信任人工智能，因为他们对人工智能是什么没有明确的了解。对人工智能缺乏信任的另一个驱动因素可能是对人工智能的恐惧（Gillath等人，2021），这是参与者在讨论国防中的人工智能时经常传达的，尤其是在可能出现错误和可靠性问题的情况下。对人工智能系统缺乏信任的另一个潜在来源可能与该系统的功能有关。对许多人来说，机器学习和神经网络的内部工作缺乏具体性，仍然无法解释和透明。因此，出现了缺乏信任的情况，因为很难信任一个系统，因为它的关键功能和由此产生的决策超出了大多数公众的掌握范围（Ferrario和Loi 2021；Ryan 2020）

缺乏信任是将人工智能系统整合到团队中的一个关键决定因素（Gillath等人，2021；Groom和Nass，2007年），也是新技术更广泛的开端（Jeffries和Reed，2002年）。增强信任可以通过减少对当前审查技术的风险认知来实现，这一策略可能有利于国防中的人工智能（Gillath等人，2021；McKnight等人，2002年）

一方面，对人工智能国防的信任与对风险的感知和人工智能国防可靠性之间可能存在关系。对这种看似合理的联系进行评估对进一步研究至关重要，特别是对于探索增强公众信任的途径，从而提高人工智能在国防中的接受度

4.3伦理问题和人工智能在国防中的使用
参与者明确表示了可接受和不可接受的人工智能国防使用之间的界限。他们赞成将人工智能用于支持一线服务人员和后勤方面的非致命活动。许多人看到了使用人工智能控制的无人机进入区域的好处，否则会使操作员面临严重伤害的风险。参与者还希望看到人工智能在国防中被部署在安全和保护处于最前沿的情况下，例如预警系统。人工智能在国防中的这些应用包括在Taddeo等人提供的“维持和支持”和“对抗性和非动力性”类别中。（2021）。然而，参与者也热衷于强调，这些功能应该包括人工操作员的监督水平，并对人工智能系统不受约束地执行操作感到不舒服。另一方面，那些被视为在国防中不可接受地使用人工智能的行动是那些涉及使用致命武力的行动，如致命自主武器系统（LAWs；Taddeo等人，2021）。在之前探索人工智能一般应用的研究中，也看到了人工智能应用舒适性的这种二分法。例如，Schepman和Rodway（2020）指出，参与者在使用涉及大数据分析或自动化（例如，减少欺诈，帮助检测其他星球上的生命）的人工智能时更舒适，风险更低，并且没有直接潜力取代关键的人类决策任务。相比之下，那些被视为涉及相当程度的人类决策的活动（例如，疾病诊断、手术和开车）被视为风险更高，参与者对此不太适应

4.4稀缺性可靠信息意味着使用了不可靠的来源
在大多数情况下，参加焦点小组会议的参与者之前对人工智能在国防中的潜在应用知之甚少。人们对人工智能在无人驾驶汽车、无人机的使用以及训练中的应用等方面的使用有所认可，但其他细节有限。每次焦点小组会议都围绕获取有关人工智能在国防中潜在应用的可靠信息进行了丰富的讨论。与会者一致认为，大众媒体缺乏对人工智能在国防领域应用范围的清晰准确信息的信任。然而，与会者也对在哪里可以找到此类信息表示困惑，经常将主题的复杂性和缺乏更易于管理、更易于理解的材料作为关键问题。这是有问题的，还有一个原因：错误信息可能会使公众的看法产生偏见。几位与会者表示，他们依靠互联网论坛获取与国防人工智能相关的信息。这样的论坛为阴谋论和错误信息的发展提供了一个理想的场所（Allcott等人，2019；Allcott和Gentzkow 2017；吴等人2019）。因此，许多公众可能会将他们对人工智能当前发展的了解建立在防御不准确信息的基础上。其他与会者指出，他们认为收到的大部分信息已经过时，他们听说的国防部应用程序已经在使用中，而一些人则表示，他们了解这些发展的唯一途径是通过官方信息的泄露

正如Morgan等人所指出的，（2020），如果公众要成为接受任何技术的关键驱动力，就必须清楚、仔细地了解这些发展。受访的与会者承认，在知情和保密之间取得平衡是很重要的。他们明白，被告知可能会将敏感信息交到敌对国家手中，但与此同时，他们渴望随时了解情况。需要以可访问的格式提供这些信息似乎也是交流过程中的一个关键因素，特别是因为许多与会者发现有关该主题的信息难以消化

4.5影响
这些发现对那些负责制定知情政策、负责任的治理和在国防环境中使用人工智能方面为公众提供响应保证的人具有直接的实际意义。这项工作提供了一种向公众提供信息的途径，有助于让人们更容易获得有关未来发展的任何信息，并淡化有关人工智能在国防中使用的可能错误信息。未来的政策应侧重于确保尽可能减轻公众的主要担忧，并根据本研究中揭示的积极态度和看法，建立一个核心框架，建立对人工智能国防的信任。处理错误信息是一个明确的优先事项，因为当态度变得更加根深蒂固时，错误信息可能会变得难以克服。因此，应该制定有效的策略来应对和抵制错误信息，特别是在人工智能的发展和应用成倍增加的情况下

4.5.1叙事与人工智能在国防中
也许，与信息收集和人工智能在防御中相关的最有趣的方面之一是缺乏对围绕人工智能一般方面的一些关键叙事的直接参考。例如，与人工智能相关的两种常见叙事要么与反乌托邦观点有关，在反乌托邦观点中，人类被有自我意识的人工智能摧毁或奴役，要么与人类从这样的未来中拯救出来，从而产生了对人工智能的过度信任和乌托邦观点（Cave等人，20182019；Cave和ÖhÉigeartaigh 2019）。尽管一些参与者提到了人工智能“无赖”的概念，以及人工智能无意中引发武装冲突的可能性，但这些叙述在焦点小组会议中并不常见。这就提出了一个问题，即这些叙述对公众对人工智能和国防中的人工智能的看法有多大影响，但一些参与者确实提到了其中的某些方面，这意味着它们不能被忽视。正如Cave等人（2018）所指出的，重塑与人工智能相关的叙事的潜力更多地集中在个人如何创造这种叙事，而不是直接看叙事的内容。他们建议，重要的是创造“空间”，通过公开对话和参与，让新故事出现。这一战略与与目前的焦点小组参与者还建议使用公共论坛和会议来帮助创建新的叙事，增强公众对国防中人工智能的看法

4.6进一步研究的局限性和建议
应考虑研究的局限对研究结果进行解释。作为第一次此类探索，这项研究必然是定性的、小规模的。尽管这在认知调查的深度方面产生了力量，但它也限制了可以实际抽样的参与者的范围和数量。这反过来又排除了年龄组之间的比较。未来的研究将有助于在我们的研究结果的基础上进行，该研究采用更大的群体，重点关注更广泛的社会人口变量（如教育、职业和与数字技术的相关性、社会经济地位等）

当我们开始开发公众对国防中人工智能认知的证据时，我们也可以开始将其整合到一个概念模型中，以了解这些认知是如何形成的，以及它们是如何随着时间的推移而演变的。这将需要更多细致入微的证据来探索围绕这项研究中确定的特定概念的当前叙述，而未来的研究应该关注这些叙述。其他类型的证据，包括纵向调查甚至实验，将使我们能够综合证据，最终目的是为干预措施提供信息，以调整态度，解决与国防中使用人工智能有关的不信任问题，并制定更好、更全面的沟通策略
4.7结论
当前的研究首次尝试探索公众对国防中人工智能的态度和看法。这种紧急的理解至关重要，因为在民主社会中，公众可以直接和间接地影响国防人工智能领域的发展。许多参与者对人工智能目前如何在国防环境中使用做出了假设；这些假设通常是由不准确的叙述、阴谋论和社交媒体上出现的信息所驱动的。正如这项研究所表明的那样，公众目前对人工智能在国防中的使用持有一系列态度和看法，即使这种人工智能的发展尚未成为现实。我们无法改变公共话语和叙事，但知道这些已经到位，并融入感知和理解，有助于思考进一步的沟通策略。争论点和误解点对于解决人工智能及其在国防中的应用的信任至关重要。因此，了解相关的公众态度和看法有助于告知潜在误解和错误信息的领域，同时也有助于通过更好的沟通减轻公众当前的恐惧和焦虑

[/section>

简介