编辑注意：在前一篇文章中，Palantir的隐私和公民自由（PCL）团队阐述了为什么人工智能伦理和有效性讨论需要超越表演现实。我们建议，人工智能应用程序的上下文领域为深入研究Palantir以及我们为客户构建的人工智能支持和辅助应用程序的方式提供了一个切实的立足点对话向前推进

在这篇博客文章中，Palantir全球隐私总监；公民自由工程Courtney Bowman和Privacy&；公民自由政府和军事道德负责人彼得·奥斯汀探讨了技术提供商在国防领域的道德作用。未来的帖子将探讨Palantir在最重要的环境中支持防御工作流程的工作

引言

过去的一年提醒我们，我们生活在一个充满冲突的世界。举一个最突出的例子，乌克兰人民正在英勇而公正地保卫自己的家园。根据大多数最初的说法，这种防御是如何对抗难以置信的可能性的，这指向了一系列问题，即当代冲突的性质、技术在威慑和作战中的作用[1]，以及致命使用武力的道德是否或如何改变或保持与前代和前代战争相似

本次讨论的一个关键方面是，人工智能（AI）和自动化作为威慑和必要时参与涉及美国及其盟友和世界各地伙伴的对手的武装冲突的决定性区别因素

在本系列中，我们计划探索正义战争传统和战争法在现代国防应用领域的适用性和演变。我们还评估了人工智能和自动化技术的建设者在将这些原则纳入先进技术方面应发挥的相应方法、责任和作用。与更具推测性的猜测相比，我们的讨论源于Palantir在支持国防军方面的直接经验。我们努力为使用软件和其他集成技术组件来补充和实现现代作战人员的专业知识和责任提供一个直观的视角

我们认为，涉及非致命和特别致命武力使用的技术提供商有责任理解和面对围绕其产品应用的相关道德问题和考虑。随着更深层次的技术嵌入到一些最重要的决策过程中，这种责任变得更加重要

为此，在可能的情况下，我们有意使用通俗词汇，强调——有时相当明显——战争中更令人不安的元素。虽然有一种既定的行话委婉地表达了这个话题的内容，但我们认为，重要的是要说清楚，避免使用掩盖武装冲突道德一些最核心问题的语言。例如，当军事文献可能提到“动能行动”时，我们直接指的是使用致命武力的实弹作战（认识到可能有一些具有致命影响的行动不是动能的，以及动能行动的一些用途不是致命的）。[2]

使命与道德

作为一家使命驱动的科技公司，Palantir的成立理念是，软件可以为我们最重要的机构应对现代世界的挑战提供决定性的差异。我们相信，当我们能够为正义事业做出贡献时，比如在保卫乌克兰方面，我们就有道德责任这样做。因此，我们很自豪能够为保卫祖国、国家主权和个人自由的乌克兰部队提供我们的技术经验和技术

然而，做好这项工作需要的不仅仅是让我们的国防伙伴更好地实现他们的军事目的。就必须进行的战争而言，必须以合乎道德的方式进行。同样，在和平时期，开发合乎道德的防御技术对于保持竞争优势仍然同样重要，甚至更重要，通过竞争优势可以阻止武装冲突，维护和平

Palantir捍卫自由民主及其盟友和伙伴[3]的使命包括尊重那些使自由民主和开放社会值得捍卫的价值观、法律和传统。在军事背景下，这意味着支持我们的国防合作伙伴在法律和道德规范范围内开展行动。这些规范建立在正义战争的传统和理论中，作为发动战争的原则（战争法）和交战各方之间的正义行为原则（战争法）[4]。这些准则在《战争法》中被进一步编纂为一套国际规则，规定了在武装冲突期间可以做什么和不能做什么[5]

新建技术与旧传统相遇

将人工智能和自动化等新技术引入军事决策，特别是战略交战建模和战术瞄准决策，对如何在现代战场的复杂性中适应和解释正义战争传统产生了严重影响

在一个数字信息可以与火炮和物资同等重要的环境中，出现了一系列新的挑战。其中包括关于处理大量传感器数据的军事能力的问题；如何保护信息来源免受错误信息和其他对抗性攻击；如何及时、完整地验证这些输入；如何分析质量上有用和可靠的信息；如何将分析工作产品输入指挥官的决策工作流程，指挥官必须确定行动方案；以及军方了解其行动对战斗人员和非战斗人员的影响的能力

因此，军事决策者将相应地需要工具，使他们能够更有效地实现其军事目标，包括其法律和道德义务，并在尽可能多的背景下快速在替代行动方案之间做出决定，同时确保其人员的安全

可以肯定的是，正义战争传统和战争法将（并且应该）继续提供关键的指导性考虑和原则，例如区分战斗人员和非战斗人员的要求，但也可能需要进一步解释，以处理人工智能和自动化引入的现代威慑和作战决策的新方面。例如，用于协助识别军事目标（人类或其他）的人工智能将引发一系列关于辨别合法目标和非法目标的能力的战术问题；根据该信息得出的评估的准确性和可靠性；以及信息系统的设计者、用户和监管者依赖系统的输出来为涉及使用武力的决策提供信息的责任。在更具战略意义的层面上，人工智能和自动化在载人和无人地面、空中和太空资产的协调方面提出了新的挑战；通过主流媒体和替代媒体监测和应对大规模的错误信息运动；执行复杂融资计划的复杂网络操作；供应链中断和贸易封锁；以及自然灾害和气候变化的影响

在某些情况下，人工智能和自动化技术的作用的增强将明显转化为指挥官了解其行动对潜在非战斗人员的影响的能力的增强。然而，在决策问责制问题变得更加复杂的情况下，技术提供者需要进一步探索新技术如何为这些决策和后续行动提供信息或取代传统上由人为驱动的方面。例如，在瞄准活动的背景下，促进数字信息使用和增强决策能力的工具也可能成为评估附带损害、了解平民伤害模式和监督指挥级决策合法性的关键组成部分

这些问题——以及更类似的问题——指出了正义战争理论和战争法如何将当前的困境与值得保留的传统和一系列义务联系在一起，但也给这些原则的应用带来了压力。因此，更新伦理结构的目的是解决这些新的考虑因素

人工智能军事伦理的进展

近年来，美国国防部（DoD）努力开发一个强大的伦理框架，以解决与人工智能和自动化相关的问题，包括：

2019年10月，国防创新委员会发布人工智能伦理原则白皮书-国防创新委员会是国防部长、国防部副部长和其他高级领导人的独立咨询机构，为期12个月，旨在解决为什么需要阐明军事人工智能伦理的问题。委员会提出了五项原则和十二项具体但不具约束力的建议，以将这些原则纳入国防部实践，涵盖负责任、公平、可追踪、可靠和可治理的人工智能能力的主要领域

2020年2月，国防部通过了人工智能伦理原则-在国防创新委员会白皮书发布后，国防部正式通过了指导整个国防部人工智能能力测试、部署和扩展的建议

2020年3月，国防部将人工智能伦理原则纳入商业原型设计和采购计划-由国防创新单位（DIU）发起，国防创新单位是一个专注于在美国军队部署和扩展商业技术的国防部组织。该战略举措反映了国防部为实施拟议的人工智能原则所做的努力在商业收购计划中

2021年5月，国防部副部长发布备忘录，呼吁“在国防部实施负责任的人工智能”-该备忘录确立并指导了国防部的“负责任人工智能（RAI）的整体、综合和有纪律的方法”，呼吁根据六项基本原则实施RAI：RAI治理，作战人员信任、人工智能产品和采购生命周期、需求验证、负责任的人工智能生态系统和人工智能劳动力

2021年11月，国防部发布了一套负责任的人工智能指南-随着国防部发布的“负责任人工智能实践指南”，整合人工智能伦理原则的努力得到了进一步发展。“该出版物由人工智能生命周期（规划、开发和部署）的每个阶段都应该解决的具体问题组成，以帮助确保人工智能项目符合国防部的人工智能伦理原则。该文件不是作为正式要求制定的，而是作为“定义国防部人工智能伦理原则可在采办项目中实施的过程的起点”的指导。

2022年6月，国防部发布了由国防部负责任人工智能工作委员会编制的负责任人工智能战略和实施路径，该备忘录旨在概述一条功能性的前进道路，以实施国防部的人工智能伦理原则，并通过六条工作线更广泛地推进负责任人工智能（RAI），包括实现治理结构现代化、实现标准水平的技术熟练度，以及在人工智能产品和采购生命周期中培养适当水平的护理和风险缓解

2023年1月，国防部更新了第3000.09号指令“武器系统自主性”-该指令对2012年11月早期版本的更新提供了额外的流程规范，如果国防部在非常有限的非致命或静态、机载、，和/或设施、平台和无人驾驶车辆或船只的网络防御，包括确保与国防部人工智能伦理原则和战争法的一致性

通过每一项措施，国防部都发出了一系列明确的期望，即道德需要深入嵌入人工智能技术的未来使用以及军事人员、项目和私营部门承包商的发展文化中。虽然我们详细概述了美国的这一演变，但重要的是，美国并不是唯一一个做出这些努力的国家。例如，2022年6月，英国国防部发布了“国防人工智能战略”，强调了将人工智能工具应用于国防时规范、价值观和最佳实践的重要性。我们参加了最近由荷兰政府主办的REAIM会议，来自世界各地的利益相关者聚集在一起，也在全球舞台上关注这些关键问题

然而，正如我们之前所阐述的，尽管近年来努力制定一个强有力的道德框架来解决与人工智能和自动化相关的问题，但最大的挑战是超越声明性，采取具体行动，在现实世界中操作和实施道德考虑

软件提供商的道德责任

根据道德上负责任的人工智能和自动化最佳实践开发的部署工具与最有效的工具并不矛盾-相反，道德实施实践往往是工具有效性和可信度不可或缺的

Palantir与我们在国防和国家安全领域的合作伙伴保持一致：任何军事决策者的核心任务都是履行《战争法》规定的义务，同时有效实现他们的目标。如果我们只关注一个或者另一种——要么是对军事效能的简化和简单化方法，要么是对脱离重要安全和国防目标的道德目标的考虑——我们将在这两方面都失败

作为一家公司，Palantir的大部分努力都是基于建立对社会至关重要的机构所需的技术，以及以加强负责任、可辩护的应用程序的方式进行建设。正如我们认为支持关键情报任务的最佳方式是通过保护隐私和公民自由的技术一样，我们接受并认可保护和维护道德要求的双重承诺，同时也为作战人员提供执行任务目标的最佳工具这两篇论文不应被视为相互排斥的，而是辩证地综合在一起，对支持我们的道德地位、客户的法律和道德义务以及保护我们想要生活的世界至关重要。

在本系列的下一篇文章中，我们将深入研究更具体的细节，了解Palantir的工作如何寻求在最重要的环境中，将关键的道德考虑具体发展和实施到能力和防御工作流程中

作者

Peter Austin，Palantir Technologies隐私和公民自由政府及军事道德负责人
Courtney Bowman，PalantirTechnologies隐私和民事自由工程全球总监

参考文献

Ignatius，大卫。“算法如何打破乌克兰的平衡。”《华盛顿邮报》2022年12月19日，https://www.washingtonpost.com/opinions/2022/12/19/palantir-algorithm-data-ukraine-war/.
[2] 同样，我们的一些公开声明使用了相当刺耳的短语“杀人链”，因为这个短语暴露了所涉及的利害关系，从而引发了更直接的讨论。“杀伤链”是一个军事概念，指的是攻击的结构。尽管该术语被用来描述具有致命和非致命效果的军事行动（并且在网络环境中越来越多地被重新用于描述网络运营商对信息技术基础设施进行攻击的程序），我们认为，将其与具有潜在致命后果的武力使用联系起来，可能有助于更清楚、更直接地表达战争的现实
[3]“我们通常不会与我们认为立场或行动与我们支持西方自由民主及其战略盟友的使命不一致的客户或政府开展业务。”例如，请参阅Palantir的美国证券交易委员会s-1表格注册https://www.sec.gov/Archives/edgar/data/1321655/000119312520230013/d904406ds1.htm最近提交的10-K文件https://www.sec.gov/ix?doc=/Archives/edgar/data/1321655/000132165523000011/pltr-20221231.htm.
[4]正义战争的传统至少可以追溯到4世纪和圣奥古斯丁的作品，他强调在考虑了所有和平选择后，战争是最后的手段，但也阐明了一套公正发动武装冲突的原则，包括进攻性战争。当代正义战争理论阐明了发动战争的原则和道德理由（战争法），如最后手段、合法权威、正当理由、成功概率和正确意图。它还为交战方一旦交战后的战争道德行为（战争法）提供了一套原则性考虑，包括区分、相称性、军事必要性和尽量减少不必要痛苦的原则。关于公正战争理论的通俗易懂的处理方法，参见Walzer，Michael（1978）正义与不正义的战争。基础书籍
[5]《战争法》有时被称为“武装冲突法”或“国际人道主义法”，专门用于处理武装冲突的情况，包括习惯国际法和条约。红十字国际委员会（红十字委员会）在https://www.icrc.org/en/war-and-law对于对基本条约和习俗感兴趣的读者来说，这些条约和习俗的概念随后由国家行为者实施。例如，美国国防部的《战争法手册》

简介