1简介

人工智能（AI）技术在国防领域的传播给这些系统的道德治理带来了问题和挑战。与其他领域一样（Jobin等人，2019），应对这些挑战的举措成倍增加，包括发布一套道德原则。这反过来又促使人工智能伦理从什么转向如何（Floridi 20191985），并越来越多地开发符合这些原则的指南和工具

然而，在从什么转变为如何的过程中，对指导方针和工具的关注为制定健全有效的指导方针留下了未解决的关键中间问题：它忽略了为实施人工智能伦理原则制定指导方针所涉及的深刻规范问题。这源于人工智能伦理原则的高级性和基础性（Morley等人，2021），这意味着可以按照不同的方法对其进行解释，从而需要不同（且困难）的规范权衡（Taddeo等人，2024）。例如，当应用于特定案例时，人工智能伦理原则可能会产生需要平衡原则的紧张关系，而仅靠原则或工具无法确定理想的平衡（Whittlestone等人，2019）。在更精细的层面上，改变用于衡量人工智能伦理原则合规性的指标也会改变规范结果。那么，问题就出现了，什么样的标准应该影响指导方针的制定和工具的选择

在这篇文章中，我们概述了在国防领域实施人工智能伦理原则的指导方针中所涉及的规范选择和相应的权衡。为此，我们对人工智能治理文献进行了定性、系统的审查，以确定人工智能伦理治理的关键特征，这些特征应为原则在实践中的解释和应用提供信息。我们确定了五个关键的规范权衡领域：（1）人工智能生命周期的模型；（2）利益攸关方参与的范围；（3）选择问责制目标；（4）审计要求的选择；（5）在选择透明机制和可追溯机制方面。这些要求的性质及其所需的权衡，以及导航/平衡这些权衡的初步建议，详见第节。3.在此之前，在第。2我们概述了国防领域最近为将道德原则付诸实践所做的努力，并强调了其中一些方法的局限性。我们在第节中总结我们的分析。4.

2从人工智能伦理原则到实践

近年来，定义人工智能伦理原理的努力成倍增加（Jobin等人，2019；Floridi和Cowls，2019）。国防领域也不例外，英国（国防部2022）、美国（国防部2020）和澳大利亚（Devitt et al.2020）的国防机构以及北约^脚注1发布了自己的人工智能伦理原则。更广泛地说，人工智能伦理原则被批评过于抽象，无法为人工智能系统的实际设计、开发和使用提供具体指导（Coldicutt和Miller 2019；Peters 2019）。Munn（2022）甚至说人工智能伦理原则是“无意义的”、“孤立的”和“没有牙齿的”。同样，伦理原则为决策提供信息的有效性也受到了质疑。例如，一项包括软件工程专业学生和专业软件开发人员的研究显示，阅读道德规范的人和不阅读道德准则的人的调查结果之间没有统计学上的显著差异（McNamara等人，2018，4）

在国防和国家安全等领域，缺乏关于如何应用人工智能伦理原则的适用和有效指导尤其成问题，在这些领域，与使用人工智能系统相关的伦理风险可能非常严重，并可能使个人权利和民主价值观面临急剧贬值的压力（Taddeo 2013；Taddeo 2015；Blanchard和Taddeo 2023）。缺乏对具体案例应用的指导也可能导致人工智能伦理原则被视为

[…]无关的，作为技术问题的剩余或某种“附加”，作为技术界“外部”机构强加的不绑定框架（Hagendorff 202113）

这反过来可能会将人工智能伦理努力减少到毫无意义的表面，使任何具体结果无效，并引发道德等不当行为bluewashing^脚注2（Floridi 2019，185）

这些担忧促使人工智能伦理从什么转向如何（Georgieva等人，2022），国防领域的一批新兴文献专注于开发人工智能伦理工具和流程，以实施人工智能伦理原则。其中包括：美国国防部负责任的人工智能战略和实施路径（2022）、美国国防部国防创新部负责任人工智能实践指南（2021）和澳大利亚国防科技集团“国防中道德人工智能的方法”（Devitt等人，2020）^脚注3在这里，我们简要概述了指导方针并注意到一些初步限制，然后更详细地考虑在指定国防人工智能伦理原则操作指导方针时所涉及的规范性问题

2.1现有的国防人工智能伦理指南

国防部的“负责任的人工智能战略和实施途径”是根据国防部声明的伦理原则制定的：负责任、公平、可追踪、可靠、可治理（国防部负责任人工智能工作委员会2022）。该途径建立在国防部现有的技术开发和治理基础设施之上，如健全的软件工程实践和稳健的数据管理，并反映了一种“企业范围的方法”，规定了国防部利益相关者的责任。这些原则的实施是围绕六个原则和相关目标（国防部2022，9-10）构建的（见表1）：

**表1国防部RAI原则应用的六个原则及其相关目标（（国防部，2022，9-110）**

国防创新单位（DIU）（Dunnmon等人，2021）为包括人工智能供应商和项目经理在内的国防部利益相关者制定了一系列问题，用于逐步指导，以确保人工智能项目符合国防部道德原则，同时确保在开发周期的每一步都考虑到公平性、问责制和透明度

该指南是根据一套“基本原则”制定的，有助于完善问题的制定，并在符合美国法律、规范和价值观的同时最大限度地提高国防利益。这些都是在一个图形化的工作流程中列出的，该工作流程将利益相关者在每个生命周期阶段的具体问题可视化。然后，每个阶段都会补充一个工作表，作为规划、开发和部署阶段的文档和验证机制。例如，规划阶段需要要求系统的政府机构人员与项目经理合作，以定义系统的预期功能、所需资源和操作环境。根据国防部道德原则（Dunnmon等人，2021，8），本阶段有五条关键的调查线索，如图2所示。

图2

DIU RAI指南第1阶段规划工作流程，（Dunnmon等人，2021，8）

全尺寸图像

最后，澳大利亚国防科技集团提出的“道德人工智能方法”。它旨在确保考虑道德风险的问责制，为每种风险指定特定的人员，并让人类对有关减轻道德风险的决策负责。根据利益相关者研讨会的结果，作者提出了五个“方面”作为广泛的调查领域——责任、治理、信任、法律、可追溯性——以及相应的即时问题，然后提出了一种由三个工具组成的方法（表2）

表2国防中道德开发人工智能方法的组成部分，（Devitt等人，第32–34页）

全尺寸表

鉴于人工智能开发的速度及其带来的道德风险，欢迎实施道德原则的举措。就个人而言，不同的指导方针有其自身的好处和局限性。例如，国防部的指导方针描述了机构对采用人工智能的态度，但没有提供具体的指导来解决在将这些原则应用于特定案例时可能出现的问题，例如解决道德原则之间的紧张关系。这意味着，进行复杂道德评估的责任将移交给可能缺乏必要专业知识的从业者。此外，对利益相关者纳入机制的规定不足。这可能会导致公众对开发负责任的人工智能使用的努力产生负面看法，进而破坏开发国防RAI的具体尝试

DIU方法旨在通过利用负责任的研究创新（RRI）框架来解决国防部实施指南中的局限性。这使DIU指南能够享受RRI框架的好处，例如避免将道德合规性降低为勾选框的反思性方法，但它也继承了RRI框架中的两个重大陷阱（Hajer 2003；Stilgoe等人2013）。首先，DIU的指导意见在其问题中嵌入了规范性元素，例如“你是否清楚地定义了任务？”，而没有给出如何解决这些元素的指导意见。如果没有这些标准，对这些问题的回答将仍然模糊不清，令人不满意。类似地，“是否确定了最终用户、利益相关者和负责任的任务负责人？”这样的问题以确定利益相关者及其利益的标准和程序为前提，如第节所述。3、绝非琐碎的任务

其次，DIU指南有可能将负责任地使用人工智能的负担从机构转移到个人或个人群体。这意味着，与国防部的指导意见一样，关于什么是道德上可接受的，完全由当地决策者（研究人员、开发人员、运营商等）决定，他们可能缺乏人工智能伦理方面的相关专业知识。当这种方法应用于一般的研究和创新（RRI框架最初是为之构想的）时，它可能会起作用，但当应用于国防等高风险领域时，这是不可接受的。RRI框架旨在培养对研发潜在影响的批判性思维和反思。它的目的不是为人们应该或不应该做什么来减轻特定案件的道德风险提供具体的指导

澳大利亚国防科技集团的方法也提出了这些限制中的第一个，未能说明如何从所描述的方面（即原则）得出道德要求。此外，确保该方法的完整性和可重复性的更广泛的治理过程尚未明确。总之，该方法未能提供负责任的决策者所需的具体指导，以减轻道德风险并履行其责任

其中一些限制可以通过修订指南来解决。例如，DIU应该为解决其指导问题中包含的规范性要素提供标准。这不是一项简单的任务，监督本身就指出了一个更根本的问题，这个问题是在国防人工智能伦理从什么转变为如何的过程中出现的。在从原则转向关注指导方针和工具的过程中，这一新兴的关于操作伦理原则的文献留下了未解决的关键中间问题，即如何从人工智能伦理原则中得出支撑指导方针的伦理要求。例如，考虑到它们的高级和基础性质，人工智能伦理原则与宪法原则相当（Morley等人，2021），与宪法原则一样，在较低的抽象层次上运作，这些原则可能会产生需要平衡的紧张关系，而仅靠这些原则是无法解决的（Whittlestone等人，2019）。因此，指导意见应具体说明如何根据具体案例优先考虑人工智能伦理原则

要使人工智能伦理原则有效，需要结合适当的方法论，就如何应用这些原则提供特定领域的指导（Taddeo和Floridi，2018）。参见（Taddeo等人，2024）了解此类方法。同样重要的是，要承认准则的具体规定和工具的选择所涉及的规范性权衡。这是因为准则的具体规定本身就具有规范性的后果。例如，为衡量遵守道德原则而选择的指标将影响遵守情况的特点。仅使用定量指标来衡量合规性的决定可能会产生对原则的表面合规性（见第18页）。因此，指导方针和工具不是价值中立的，设计和指定指导方针以及选择工具的过程应该反映出它们产生的结果的规范性

为这些要求推荐规范不在本文的范围内。这些选择应由特定组织通过与利益相关者的接触，并根据人工智能伦理原则的意图和精神做出。然而，在下文中，我们概述了应告知指导方针规范的关键考虑因素以及这些考虑因素产生的规范性权衡。这些特征——生命周期、利益相关者、问责制、审计、透明度和可追溯性——来自于对领域不可知的人工智能治理文献的定性系统综述

需要两项澄清。首先，这并不是一份详尽的考虑因素清单。例如，上下文特异性——指导方针是否应该以适用于特定用例或广泛用例分组的方式指定——也将是决定结果的一个因素。指导的上下文特异性涉及最大限度地提高粒度以提供具体案例的详细道德指导和最大限度地增加实用性之间的权衡，即更高级别的指导为具体案例提供了不太详细的指导，但为支持一系列案例的标准化和可重复的道德决策提供了更大的范围。虽然背景特异性是指导规范结果的重要决定因素，但这种权衡在所有领域的道德决策中都是常见的，在人工智能背景下并不是唯一突出的。本文重点关注五组规范性考虑因素，它们与人工智能技术指导规范中结果的规范性特别相关。因此，利用这些考虑因素可以帮助利益相关者确定与人工智能原则在实践中的应用相关的具体问题的来源。例如，在人工智能系统绩效审计中纳入定性和定量指标，可以帮助确定原则之间的紧张关系是由其误用造成的，还是由需要深思熟虑的更深层次的道德困境造成的

其次，虽然防御是一个“高风险”领域，但并非所有应用程序都是高风险的。例如，用于订购制服的人工智能物流系统不会在武器系统、指挥和控制通信或核报复协议中出现与人工智能相同的风险。下文概述的考虑因素适用于适用于所有国防用例的高级指导。然而，当从特定用例的指导中引出要求时，这些考虑的严格性和特征会根据用例的风险大小（道德伤害可能性和严重性的组合）而变化。例如，问责制适用于人工智能在招募过程和武器系统中的使用，但问责制的运作方式在两者之间有所不同。对武器系统中人工智能造成的违反国际人道主义法行为的问责将涉及国际论坛，而这与人工智能在招募过程中产生的潜在偏见无关。开发基于风险的人工智能原理应用方法超出了本文的范围。关于根据用例风险大小从指南中引出要求的方法，请参见（Taddeo等人，2024）

3指定指南和评估其规范性权衡的关键方法考虑因素

3.1生命周期

相关文献中的共识是，人工智能伦理准则应涵盖人工智能系统的整个生命周期（Alshamari和Simpson 2017；d’Aquin等人2018；Leslie 2019；国防部2022；Cihon等人2021；Dunnmon等人2021；2019年人工智能高级别专家组；Taddeo等人2021；Ayling和Chapman 2022；Mäntymäki等人2022）。这种对生命周期方法的强调符合一种更广泛的共识，即人工智能伦理治理必须是全面和系统的，才能有效（Eitel Porter 2021）

生命周期方法要求在项目的连续阶段迭代（重新）应用原则。由于工艺、产品和目的的原因，这一点很重要（Stilgoe等人，2013）。关于过程，特定项目的需求可能会超出最初设想的范围，随之而来的可能是新的道德风险。关于产品，一些人工智能模型，如生成模型，可能会产生新的和意想不到的行为（Taddeo等人，2022），因此，确保产品在发布后继续遵守道德原则至关重要。关于目的，项目的社会和政治动机以及创新的目标或轨迹可能会随着时间的推移而变化，因此确保对项目的控制需要持续监测其道德影响

显然，生命周期建模的方式对于指定有效的指导方针至关重要。但从规范的角度来看，它也包含了远非琐碎的选择。这是因为人工智能的生命周期，就像任何技术生命周期一样，是一个社会技术过程，“在实践中，技术创新的不同阶段之间并不总是存在整齐的理论区别”（La Fors等人，2019-210）。这使得确定道德问题的提出点、采取的某些步骤和实现的具体目标成为问题。这也意味着，如果指定为生命周期模型一部分的阶段不是一个任意的模式，则需要对其进行调整

生命周期粒度的选择说明了这种理由的重要性。相关文献中对人工智能生命周期的描述从非常高级的定义——例如指设计、开发和部署的三个阶段——到对生命周期的每个阶段可能需要的任务的细致描述，每个阶段都有自己的子阶段（Leslie 2019）。我们认为，应该注意在生命周期粒度上取得平衡。生命周期描述中的粒度过高和过低都是有问题的。如果确定的阶段太少，那么原则的应用将不会得到充分区分，导致盲点和道德风险的产生。然而，如果确定了太多的任务，则原则的迭代应用会成倍增加，从而使指南对用户来说变得不必要地笨拙。对生命周期的描述过于精细也有可能没有什么价值，因为人工智能的快速发展改变了生命周期阶段，它可能会很快过时^脚注5

人工智能生命周期建模的这些挑战存在于所有领域。然而，在国防领域，还有一些额外的挑战需要解决。第一个与人工智能系统的互操作性有关。当一个国家将人工智能能力借给另一个国家时，考虑到其设计和开发所依据的不同道德文化和法律框架，可能需要对该能力的道德性（和合法性）做出保证（Stanley Lockman 2021）。可公知的人工智能生命周期将是这些互操作性保证的一个重要方面。然而，目前，有关合作国防组织人工智能生命周期描述的文献并不完整。这将造成不一致，并破坏为人工智能的使用提供信息的共享道德准则的可能性。如果在国防中使用人工智能的道德准则将成为采用这项技术及其在盟友之间互操作性的关键要求，那么至关重要的是，这些准则（和道德评估）由伙伴国防机构定义和实施是一致的

其次，随着国防部扩大了采购数字技术的供应商范围，人工智能生命周期的规范将非常重要（Kinder 2023）。这将带来特别的挑战，因为人工智能开发最初将与军事能力开发和采购不一致，后者往往是线性的、慢节奏的，而不是快速的和迭代的。在这方面，生命周期的规范很重要使人工智能开发过程和军事能力过程相互协调

技术标准和框架可能有助于找到正确的粒度来对人工智能生命周期进行建模。然而，在这种情况下，出现了与范围和目的有关的问题。根据模型的目的，可以以不同的方式（在粒度和范围方面）对系统进行建模。制定标准和框架的目的不是为了帮助进行伦理分析或应用伦理原则，如果不具有误导性，可能会被证明是不充分的。我们提出了以下生命周期模型，以说明理解决策可能导致不道德后果的理想粒度水平（见图3）^脚注6

全尺寸图像

3.2利益相关者

文献中越来越多地认识到，人工智能的道德治理是一种多利益相关者现象，利益相关者的参与对于人工智能道德准则的规范是必要的（Alshamari和Simpson 2017；Gasser和Almeida 2017；Butcher和Beridze 2019；Job.in等人2019；Leslie 2019；Krafft等人2020；Hickok 2021；Metcalf等人2021；Seppälä等人2021；Stix 2021；Ayling和Chapman 2022；Georgieva等人2022）。利益相关者的参与对于有效解释原则非常重要，因为视角的多样性有助于从原则中提炼需求。利益相关者的参与也具有深远的伦理意义，随着人工智能技术越来越深入社会，这被视为维护民主规范和价值观的一个方面。事实上，呼吁多方利益相关者参与是人们越来越认识到人工智能伦理应该关注政治和社会正义问题的一部分（Fukuda Parr和Gibbons 2021）。一些作者认为，让更广泛的利益相关者参与道德原则的实施，是对大多数人工智能原则都是在全球北方制定的事实的纠正（Hickok 2021）。这一点尤为重要，因为伦理原则可以在不同的群体和背景下以不同的方式进行解释（Whittlestone等人，2019）

利益相关者“参与”的概念有两种含义，它们支撑着将利益相关者纳入规范过程的不同方法，每种方法都具有显著不同的规范结果。一方面，让利益相关者参与可能意味着充分承认受人工智能影响的利益相关者及其利益。在这方面，人工智能伦理准则的规范可以建立在现有的利益相关者理论的基础上，该理论有一个公认的框架来识别利益相关者，描述他们的利益，并分配他们的责任（如果有的话）（Donaldson和Preston 1995；Ayling和Chapman 2022）。这种类型的参与也可以采取协商方式，即在与利益相关者明确接触后进行道德分析，例如通过研讨会、焦点小组或小型公众协商。通过协商方法，利益相关者不直接参与道德分析，因此，基于所提出的解决方案与所采用的道德理论的一致性，可以证明所产生的指导方针是合理的（Davies等人，2015）。一些人认为，以这种方式识别利益相关者的必要性对于利益相关者沟通和建立信任至关重要（Seppälä等人，2021），对于识别和减轻人工智能系统带来的危害和风险，以及对于在发生危害时向受影响方提供补偿和解释至关重要（Georgieva等人，2022）

另一方面，“参与”也意味着利益相关者在整个人工智能生命周期内积极参与道德准则的规范。这要求利益相关者参与分析和得出规范性结论（Davies等人，2015）。这是伦理分析的对话方法的特点，其前提是基于共识的方法证明规范性结论是合理的（Widdershoven等人，2009）。一些对话方法依赖于这样一种观点，即对话可以导致个人对世界达成共同理解，从而就正确的解决方案达成一致。其他解释认为，民主权威而不是共同的解释和共识提供了规范性的理由（Kim等人，2009）。在这种情况下，理由来源于为得出结论而援引的民主进程的合法性，而不是实际结果或解决方案。在这里，对话不被视为

[…]达成更好决策的工具或技术；它被理解为一个持续的社会学习过程，在这个过程中，参与者对自己的实践有了新的、更丰富的理解（Widdershoven等人，2009239）

在考虑国防领域道德准则的规范时，咨询和对话方法都提供了重要的见解。例如，在为人工智能系统制定道德准则时，识别道德风险和解决方案的对话方法是关键，这将对不同的利益相关者产生不同的影响。然而，有一些可行性权衡可以减轻对话方法的可行性。通过生物伦理学研究方法，对话方法已被纳入关于人工智能伦理治理的辩论中。生物伦理学方法对人工智能伦理治理的吸引力源于这样一个事实，即几十年来，生物伦理学一直在应对与新技术的使用及其对基本权利的影响有关的伦理挑战（Beauchamp和Childress，2013年）。然而，人工智能技术的广泛社会范围及其影响、其可变的目的、制度、问责制和应用环境可能会对在更窄、更具体的生物伦理背景下发展或成熟的方法的一致应用提出挑战

决定对话方法的可行范围很重要，因为利益相关者的参与范围与参与的政治规范目标有关。如果目标是确保可靠和安全的系统，以及符合现有法规的系统，那么利益相关者的范围可能会更窄（Sanderson等人，2022，2）。如果利益相关者参与的目标与公共利益和司法问题有关，那么利益相关者的参与范围可能会扩大（Winfield和Jirotka 2018，4；人工智能高级别专家组2019，19）。然而，随着参与制定准则的利益攸关方范围的扩大，以有意义的方式让他们参与进来的实际困难也在增加，从而可能限制确保有效准则的能力。国防领域数字技术设计和开发的敏感性带来了额外的可行性问题。对话方法继承了解释学的假设，即更全面地理解道德复杂的情况需要阐明和探索利益相关者对该情况的各种（有时是相互冲突的）观点。这反过来又预设了一个关于情况的信息阈值，以便“辨别什么是重要的”（Widdershoven等人，2009239）

我们建议从四个方面评估利益相关者的可行性：

利益相关者如何分类 例如，技术与非技术利益相关者（Stix 2021）
利益相关者如何参与 哪些机制使利益相关者能够参与并获得反馈
利益相关者何时参与 例如，每当人工智能系统进行实质性升级或投入不同用途/不同环境时，是否需要进行咨询
是否存在权衡 可能会出现公共利益需要减少利益相关者参与的权衡，例如在国防和安全领域
他们有责任吗 参与原则实施的利益相关者在多大程度上对道德准则实施后发生的道德风险、缺陷和错误负责

这些问题在相关文献中基本上没有得到解决，如果这些问题仍然存在，那么多方利益相关者对道德准则规范的方法可能会导致利益相关者的肤浅参与或繁琐的过程，从而阻碍有效和敏捷准则的制定

3.3问责

鉴于人工智能治理的形成性，在指导组织（至少）定义问责过程方面很重要。问责机制跨越人工智能的整个生命周期对于实现人类对系统的监督、识别并追究人类行为者在未履行义务时的责任以及抑制不遵守道德原则的行为都很重要。然而，实现人工智能系统的问责制也有其自身的挑战。人工智能系统的不透明和不可预测的结果使得很难确定责任人（Tsamados等人，2021；Taddeo等人，2022）。这可能导致问责制差距，以及相关利益相关者对人工智能系统结果的责任感的错误认知（Novelli等人，2023）。因此，未能建立责任线可能导致“道德推卸”，人工智能系统产生的危害被推向下游

这里有两个说明。第一个问题可以迅速解决：“责任”和“问责制”往往是不同的概念。问责是从外部角度进行的审查，是“责任”的一种形式，而（道德）责任是从内部角度进行的，即对机构的评估（Novelli等人，2023，3）。这一点意义重大，因为缩小人工智能问责制差距，例如通过制度审查过程，并不意味着人工智能产生的道德责任差距也被缩小（Taddeo和Blanchard 2022）

第二个澄清涉及对问责制的理解，这影响了强制问责制的道德原则的实施方式。问责是一种责任关系，涉及“向当局告知自己的行为并证明其正当性的义务”（Novelli等人，2023，3）。这种关系预设了三个条件：权力承认、审问和权力限制。这种关系的内容是由不同的实践、价值观和措施决定的——“问责制”。Novelli等人确定了问责制度的七个特征：上下文（什么？）、范围[关于什么？]、agent[谁负责？]、论坛/（账户到期给谁？）、标准、流程

如何确定这些特征将代表人工智能所涉及的社会技术系统与问责制目标之间的妥协。为此，需要明确社会技术体系和问责制的目标。关于社会技术系统，它们以自己的期望、角色、程序、文化背景和协调机制为前提，为问责制提供信息（Theodorou和Dignum 2020）。例如，国防组织将有自己的问责结构，并且在制定人工智能问责实践时，应依靠现有的良好治理，节省开支是可取的

关于目标，Novelli等人（2023，6）确定了四种类型的问责目标：合规旨在“约束代理人遵守道德和法律标准”。报告的目的是“确保代理人的行为得到适当记录，以向论坛解释和证明其正当性”，从而使论坛能够“质疑和反对代理人的行为”监督旨在根据部署上下文的规则检查信息、获取证据并评估代理的行为执行旨在“根据报告和监督期间收集的证据，确定代理人必须承担的后果[…]。”

根据目标，实施问责制需要不同的工具。例如，在考虑伦理原则时，问责制应为遵守这些原则的目标服务。因此，它需要适合于将代理人与一套特定的道德原则结合起来的措施、实践和工具。一些人认为，审计是促进合规问责制的最佳工具（Sandvig等人，2014；Raji等人2020；Mökander和Floridi 2021b；Mükander等人2021；Costanza-Chock等人2022）。其他人提出自我评估；有权否决不遵守道德准则的项目的道德咨询小组（Kroll 2018；Theodorou和Dignum 2020，11；Seppälä等人2021，3；Morley等人2021，252）；影响评估（Schiff等人，2020）；以及参与式设计方法（Mäntymäki等人，2022，604）

我们认为，由于相同的工具可以服务于不同的问责目标，问题不在于在不同的工具之间进行选择，而在于哪个问责目标最适合在特定领域培养道德人工智能，因此应该付诸实施。例如，一些人建议进行影响评估，以缩小问责差距（Reisman等人，2018；Schiff等人，2020；Ada Lovelace研究所，2022），但影响评估可以同时使用事前或事后，这取决于它们的设计和生命周期中的使用点

在不同的目标和问责工具之间的选择不是价值中立的 披露（报告）有关人工智能系统使用及其影响的信息的事后算法评估主要服务于透明度和正当性以及培养公众信任等价值观，而不是专注于实现合规目标。然而，事前审计过程可以培养价值一致性，但对透明度和可解释性等价值的重视程度较低。因此，在实施问责制的道德原则时，应决定是否应在事前或事后（或两者兼而有之）实施这一原则。决定可能会有所不同，这取决于如何选择指定指南的其他要求。

3.4审计

人们越来越一致认为审计需要实现人工智能的道德治理（以下简称“基于道德的审计”，EBA）（Mökander和Floridi 2021a）。在国防领域，英国国防部（2022，10）强调审计对遵守“理解”原则至关重要，而美国国防部则认为审计人工智能系统对实现可追溯性原则至关重要（DIB 2019）。国防创新部（DIU）在其指导方针中也强调了人工智能审计的重要性，特别是需要为常规系统审计以及这些审计的作用和责任制定明确的计划（Dunnmon等人，2021，9，15）。北约还表示，将其道德原则付诸实践需要进行审计（Stanley Lockman和Christie 2021）

EBA文献有三个主题：范围，包括生命周期的哪一部分以及涉及哪些利益相关者；韵律学；和程序。关于EBA范围的争论取决于审计过程是否应该是主动的和迭代的问题。围绕这个话题没有达成共识。例如，美国DIU建议在生命周期的开发阶段制定“常规系统审计计划”，但它只考虑在部署阶段运行审计流程（Dunnmon等人，2021，4）。在其“负责任的人工智能战略和实施途径”中，国防部（2022，14）要求“在设计评估阶段进行数据审计”。一些文件规定了对一系列利益相关者利益的承诺。EBA的整体方法需要确定广泛的利益相关者，以评估人工智能系统的效果是否符合特定原则。因此，在第。3.2也与此相关

用于评估的指标的选择对审计结果有影响（Costanza-Chock等人，2022）。在国防指南中，很少讨论审计过程中使用的方法，但在显示偏好的情况下，它是针对定量指标的^脚注7正如DIU指南所述：

模型可以通过多种方式进行审计，从内部代码和训练过程审查到模糊化和确定性测试，不同的应用程序将需要不同程度的能力审计（Dunnmon等人，2021，29）

评估性能和系统稳健性的定量指标对于预测系统结果很重要，其本身对于人类控制系统也很重要。然而，它们也有重要的局限性。它们是从人工智能社会技术系统中抽象出来的，这是有问题的，因为原则在上下文之外没有意义，而且量化指标无法跟踪“公平”等原则在上下文和利益相关者之间的差异。定量指标也可能掩盖原则之间出现的紧张关系，并可能导致过度关注满足指标本身，而不是帮助或帮助人类判断使用人工智能系统所带来的现实世界风险和危害。EBA要求绘制：

[…]抽象的边界也包括人和社会系统，如地方激励和奖励结构、制度环境、决策文化和监管系统（Selbst等人，2019，64）

这需要平衡所使用的工具范围，以避免对量化指标赋予特权

一个组织就EBA的范围、指标和程序做出的决定将对审计结果本身产生重要影响。尽管近年来对EBA需求的关注和共识有所增加，但很少有人关注开发和测试此类方法。从程序角度考虑EBA时从观点来看，这既可以是内部的，也可以是外部的。外部审计需要使用外部代理人尽可能公正地询问结果。正如Raab（2020，13）所写，“一个简单地标记自己作业的组织[…]不能做出可信的有效声明。”为了减轻这种风险，独立方可以加入负责进行审计的组织道德委员会；组织可以发布道德风险评估的指导方针和案例研究，供外部专家审查；还可以编制年度透明度报告。一些文献（Raji等人2020；数据伦理与创新中心2021）支持使用内部审计师，因为他们可能有更多机会获得有关系统预期功能及其影响的信息。这对于考虑整个生命周期方法来说尤其重要。内部和外部程序之间的选择应考虑与人工智能系统使用相关的风险，以及确保遵守组织道德原则的义务

3.5透明度和可追溯性

相关文献确定了两种类型的透明度：系统透明度和系统开发透明度（Vakkuri和Kemell 2019，4；Ryan和Stahl 2021，66；Seppälä等人2021，3）。系统透明度是指人工智能产品本身的透明度，包括数据或算法等组件。系统开发透明度是指导致人工智能产品的研究和创新过程的透明度。第二种类型的透明度也被理解为可追溯性。它不仅需要建立

[…]系统是如何工作的，还需要建立它是如何创建的以及用于什么目的，以解释为什么系统具有特定的动态或行为（Kroll 2021758）

这两种类型的透明度对于理解人工智能系统都很重要，但系统开发透明度是实施人工智能伦理原则的关键，因为它可以理解人工智能设计和开发过程中做出的决定（什么、为什么和由谁做出），以及它们与更广泛的治理目标的一致性

在考虑系统开发透明度时，有两项措施很重要。第一个涉及审计，因为我们在上一节中重点讨论了审计，所以我们在此不考虑这一措施。第二项措施是对可复制性的承诺（Morley等人，20202160）。正如Sanderson等人（2022，6）所写，人工智能伦理原则的运作将是必要的

[…]可重用设计方法的应用，其中系统组件的设计和实现以及它们的集成遵循已知模式[…]

透明度还涉及用于规范道德准则的过程，以促进问责制和信任。例如，系统透明度和系统开发透明度的运作需要在算法透明度、信息敏感性要求和军事必要性之间取得平衡。具体信息可能无法披露，但这并不意味着对透明度的需求是多余的。例如，披露实现这种平衡的标准将为如何应对道德风险提供一些保证，促进决策机构的问责制和信任

重要的是要强调“良好透明度”模型的必要性（Porter等人，2022），该模型促进获取相关信息，以确定道德风险、干预点和问责制。为此，Porter等人（2022）引用了Grice（1975）关于合作交际交流的四条准则：数量（传达了适量的信息）、质量（它是真实的）、相关性（信息是显著的）和方式（它的传递促进了信息和理解的有效交换）。在国防领域，实现良好的透明度可能需要平衡这四个要素，并且可能因信息接收方而异

4亲道德的制度文化

以上描述了在指定将原则付诸实践的指导时需要注意的关键事项。由于每一种方法都会产生不同的道德结果，因此每一种都需要组织进行权衡。决定这些权衡将需要求助于道德原则的精神，正如它们在设计时所意图的那样。然而，如果组织文化本身不能使严肃的对这些考虑因素的反思和判断，不支持人工智能的道德治理。为了实现这一结果，并避免渎职风险，这些努力需要在亲道德的制度文化中进行，在这种文化中，道德不被视为附加内容，也不被视是从业者的额外负担，而是日常实践的一个组成部分，不可谈判，从而能够取得积极成果。如果人工智能治理提出的紧迫选择在没有更广泛的组织（和社会）背景的情况下处理，或者在没有强大的预先存在的组织责任文化的背景下处理，它们可能会面临被玩弄的风险，助长不当行为，或将人工智能伦理简化为勾选框练习，以证明现有决策的合理性，而不是支持负责任和道德的决策。从这个意义上说，围绕组织治理、员工权利、劳工政策的现有问题，以及挑战基于人工智能的决策的手段，也必须到位，以支持上述权衡。这还需要与道德培训相结合，以提高从业者对人工智能使用相关的道德风险、问题、复杂性和机会的认识。事实上，由于人工智能系统的传播将对此类规范和劳动实践产生破坏性影响，因此需要对能够识别人工智能系统是否以符合规范的方式开发和使用的组织文化和实践保持警惕

这同样适用于国防组织和国防供应商。我们在上文中注意到，鉴于军事能力发展和人工智能开发生命周期之间的不一致，国防和数字技术供应商之间可能会发生摩擦。至关重要的是，基于第三方道德的审计将确保供应商以符合国防人工智能道德原则以及更广泛的规范和价值观的方式开展人工智能项目。事实上，国防部DIU警告称，“如果供应商在没有非常令人信服的理由的情况下拒绝允许第三方或政府系统审计，这将是一个危险信号”（Dunnmon等人，2021，29）。在这里，DIU指的是用于验证系统输出的审计类型，但对道德合规的强烈需求也应该将拒绝基于道德的审计视为危险信号。应进一步研究在国防中实现基于第三方道德的审计，因为国防人工智能项目的敏感性带来了审计透明度的挑战

5结论

在本文中，我们概述了为人工智能伦理准则规范提供信息的关键功能，以及这些功能所包含的规范性权衡。有五个领域需要进行重要的规范性权衡：（1）人工智能生命周期的模型；（2）利益攸关方参与的范围；（3）所选择的问责制目标；（4）审计要求的选择；（5）透明机制和可追溯机制的选择。这些是通过对人工智能治理文献的系统回顾确定的。对于这五个领域中的每一个，我们都提供了初步建议，以应对在实施人工智能伦理原则的指导规范中所做选择所带来的权衡

[/section>