2021 3月，谷歌的埃里克·施密特（Eric Schmidt）和前国防部（DoD）副部长鲍勃·沃克（Bob Work）在两党合作的国家人工智能安全委员会（NSCAI）长达756页的报告序言中写道：“美国不准备在人工智能时代进行防御或竞争。”，他们总结了委员会的解决方案：“美国需要招募最古老的盟友和新伙伴，为人工智能时代建设一个更安全、更自由的世界。”。国防部正在努力确保美国军方能够使用道德或“负责任”的人工智能，作为未来联盟的一部分和可能的领导者，威慑和打击由人工智能引发的武装冲突。努力的重点是为人工智能的开发和使用建立广泛的原则，并针对跨国使用人工智能的技术推动者，如标准化数据标签流程和与合作伙伴达成数据共享协议

这还不够。在联合战场上，军事人工智能的道德取决于领导人和指挥官如何使用人工智能武器的选择。但目前尚不清楚，美国领导的联盟迄今在政治和行动层面上使用的协调和联合决策实践是否非常适合人工智能时代的行动。联盟将如何管理一个更复杂的决策空间，不同国家的人工智能系统将算法输出传递给整个联盟的操作员和分析师？决策结果是否符合我们的道德理想

人工智能使人类在战争中的判断变得更重要，而不是更少。这意味着美国及其盟友和合作伙伴需要共同创新，专注于更广泛的道德原则和技术解决方案。美国国防企业可以采取我在下文中描述的三个具体步骤，以确保其自身及其合作伙伴的技术和理想与组织结构保持一致，即在联盟中使用人工智能武器

美国联盟和伙伴关系中AI责任的基础

由于美国在大多数武装冲突中都是在联盟中作战，因此注重发展伙伴关系以整合军事AI是一种谨慎的做法。NSCAI要求国防部在2025年前实现广泛的军事人工智能准备，包括“促进与盟友和合作伙伴的人工智能互操作性”，五角大楼正在响应这一呼吁

2020年9月，国防部已经召集了来自北约、非北约联盟和其他防务伙伴关系的13个国家的代表，将其人工智能伦理原则社会化，并就军事人工智能伦理政策进行协调。该人工智能国防伙伴关系（AIPfD）旨在“促进人工智能的负责任使用，推进共同利益和最佳实践……建立促进合作的框架，并协调战略信息传递。”。截至2021 6月，AIPfD已向该集团新增三个成员国；2022年3月，它召开了第五次国际对话。AIPfD合作已从高层对话深化到关于人工智能使用场景的讨论，这标志着国防部重点关注演习和战争游戏中特定人工智能使用案例的关键NSCAI建议取得了进展

此外，2021 10月，北约采用了联盟范围的人工智能战略，主要侧重于负责任的使用。2021，拜登政府在印度-太平洋地区的举措重振了与澳大利亚、印度和日本的四边形安全对话（Quad），并缔结了澳大利亚-英国-美国（AUKUS）技术共享协议，也以人工智能合作为目标。Quad的早期工作包括在更广泛的人工智能技术标准方面的合作，而AUKUS成员正在就在有争议的军事环境中使用的能力进行合作

最后，美国军事部门也开始将新的人工智能系统纳入多国作战演习，这些实验有助于预见和克服在联盟中使用新技术带来的技术和作战挑战

像这些重要的早期步骤有助于制定标准，比如让人类保持在人工智能系统的决策循环中，并拥有强大的技术政策审查流程，这意味着避免在武装冲突中部署未经控制、未经验证的系统的最坏情况

但是，国防部还有更多的工作要做，以避免人工智能的滥用或失败未来联军行动中的武器。在武装冲突中使用任何武器系统是“合乎道德”还是“负责任”，最终取决于指挥官和政治领导人的评估。在“矛尖”使用人工智能工具的多国作战中，非美国领导人和指挥官也将面临各种选择，这些选择决定了他们是否使用这些工具在与美国部队并肩作战时实现诸如相称性和歧视等价值观。他们这样做符合美国的利益。然而，要保证他们这样做是困难的

多样性优势

北约盟国和美国在印度-太平洋地区的盟国和合作伙伴的许多国家人工智能战略文件都将负责任的治理优先于人工智能，在某些情况下，还将人工智能用于作战。尽管如此，2019年和2021的民意调查数据表明，美国安全伙伴对使用致命自主武器系统的具体担忧存在很大差异。今年的数据显示，公众对人工智能的信任程度普遍存在差异，从印度和土耳其等一些合作伙伴的信任度很高，到传统北约盟国和日本的信任度较低。因此，美国领导人不应假定其盟国在未来与人工智能的联合行动中会读到相同的政治或道德剧本。一旦枪击开始，联盟成员往往会发现他们实际上对指导行动的政策和战略存在分歧。国内政治往往决定了联盟成员对行动的贡献范围和限度，它们可以以复杂的方式影响领导人的战略决策。这使得在一个对军事人工智能使用和治理有不同看法的联盟中工作的好处和风险值得仔细思考

直觉上，多样化的视角对于创造性解决问题很有用。在规划军事人工智能研发课程时，国防部设定了在伙伴政府、私营部门和学术机构伙伴之间建立“一个强大的国家和全球[负责任的人工智能]生态系统”的目标，以最大限度地发挥创新潜力和互操作性

然而，在作战环境中，指导领导人和指挥官决策的道德框架和政策的差异的风险要高得多。如果没有适当的方式来管理联盟的贡献，伙伴部队的技能水平和专业能力的不可预见的不匹配可能会对军事效能产生重大负面影响。关于人工智能合作应以民事还是军事为重点的国家政治分歧、军队采用人工智能的不同时间表以及法律和监管结构的不兼容都可能对美国领导的联盟提出挑战，这些联盟一致制定军事人工智能道德的共同理念。有没有办法在这种多样性中找到运营优势

负责任的人工智能联盟

利用多样化人工智能“生态系统”的创造潜力符合美国的利益。然而，也有必要建立习惯，以降低未来联盟伙伴之间的政治、文化和组织差异可能会破坏集体负责任人工智能使用的风险

要做到这一点，国防部现在可以采取措施，提高未来联盟在军事人工智能方面开展国际合作的基础的可靠性。国防部应追求这三个目标，并考虑采取具体行动来实现这些目标。将这些目标纳入国防部副部长凯瑟琳·希克斯（Kathleen Hicks）领导的新的首席数据和人工智能官办公室（CDAO）章程，该办公室将于2022年6月1日前制定，这将有助于调整实现这些目标的体制激励措施

建立一种共同的语言首先，未来联盟中的决策者、指挥官以及技术和法律专家必须能够使用一种通用语言来沟通人工智能系统应该如何在战场上使用，更不用说它们是如何开发和验证的。海军分析中心2021 12月的一份报告确定了565个独特的政策和道德“风险因素”，即在军事应用中使用自主系统。但是，考虑到“在联盟和联盟环境中运作时产生的偏见……源于不同的条约、ROE或文化规范”，人们认为，在没有就辩论条款达成一致的情况下，沟通错误的机会将成倍增加

尽管中国努力带头制定国际人工智能技术标准，但追求自己的标准显然符合美国的利益，根据这些标准，中国将与军事伙伴合作。国防部应责成CDAO监督一个过程，以确定需要哪些资源来吸引合作伙伴围绕人工智能技术词汇表开发和基线化美国项目。这样做将为国防部寻求招募到其寻求建立的负责任的人工智能生态系统中的国际合作伙伴设定辩论条件。如果没有共同的语言，就很难沟通合作伙伴的能力和负责任地使用人工智能的意图，这对未来联盟的战略效力和政治凝聚力构成了风险

规范国际合作第二，人工智能系统需要在接近联盟使用环境的情况下进行专门构建和压力测试。在从研发（R&；D）、测试、评估、确认和验证（TEVV）到作战使用和维持的过程中，目前尚不清楚国防部如何考虑人工智能系统的独特联合指挥和控制挑战。国防部与上述合作伙伴正在进行的活动的样本往往是国家、服务或采办项目的具体工作。为了系统地确保所吸取的经验教训不会在五角大楼庞大的官僚机构中丢失和遗忘，国防部需要首先确定项目办公室、服务分支机构和国家主管官员与合作伙伴的互动时间，以便为人工智能系统的开发、测试和部署提供信息

简介