北约创新部门副负责人阐述了北约当前制定人工智能政策的努力

正如本系列关于北约创新的第一篇文章所指出的，北约面临着一场全球技术采用竞赛。竞争对手正在利用新技术来追求更大的经济竞争力和更大的军事能力的双重目标。盟国在寻求利用新兴的颠覆性技术时面临一系列挑战。这些挑战基于两个相互关联的工作支柱：确保动态采用新技术和负责任地管理新技术。人工智能（AI）是这些考虑的核心

人工智能是机器执行通常需要人工智能的任务的能力——例如，识别模式、从经验中学习、得出结论、做出预测或采取行动——无论是数字还是作为自主物理系统背后的智能软件（见《科学与技术趋势2020-2040–探索科技前沿》）

正如兰德智库在《国防部人工智能态势：评估与建议》（2019）报告中提出的那样，区分三种广泛的应用是很有用的：企业人工智能、任务支持人工智能、，

企业人工智能包括人工智能支持的财务或人事管理系统等应用程序，这些应用程序部署在严格控制的环境中，技术故障的影响很低（就直接危险和潜在致命性而言）
相比之下，作战人工智能可以部署在任务和行动中，即在控制程度较低的环境中，因此故障的影响可能非常高。示例包括固定系统的控制软件或无人驾驶车辆的控制软件
任务支持人工智能是环境控制和故障影响方面的一个中间类别，包括一组不同的应用程序，例如后勤和维护或智能相关应用程序

考虑到这些类别固有的不同风险水平，这些区别可能在确定优先顺序时非常有用，无论是采用政策还是负责任使用原则

当代AI浪潮，或称第二波AI，以机器学习（ML）为中心。ML涉及开发和使用统计算法来查找数据中的模式。例如，可以在大量正确标记的示例上训练分类算法，以确定新观察到的对象属于先前遇到的类别。深度学习是ML的一个子集，它使用多个计算层（具有多个层的人工神经网络）来处理需要计算的模式识别或预测问题，例如用于图像内对象检测的卷积神经网络。下图一是深度学习在图像中识别飞机、车辆和建筑物的图示

深度学习可用于检测图像中的特定对象。（来源：Hoeser，T.；Kuenzer，C.利用地球观测数据的深度学习进行物体检测和图像分割：综述第一部分：进化和近期趋势。遥感2020，12，1667。）src=https://www.nato.int/docu/review/images/5572e8_2_christie_ai_airport-plane_article.jpg — 深度学习可用于检测图像中的特定对象

（来源：Hoeser，T.；Kuenzer，C.地球观测数据深度学习的目标检测和图像分割：回顾第一部分：进化和近期趋势。Remote Sens.2020，121667。）。在广泛使用的良好条件下，ML在越来越窄的模式识别和预测任务范围内，在预测性能和速度方面都优于人类。这是在人类活动的广泛领域中越来越多地采用ML的主要原因

走向动态采纳

传统上，经济学家将产出建模为劳动力和资本（生产要素）以及物质投入的函数。对于人工智能而言，生产要素是高技能专业人才以及用于计算和存储的信息和通信技术（ICT）基础设施，数据是关键输入

数据就是新的石油吗？基本上没有。虽然数据确实需要在进一步使用之前“提取”，然后“精炼”可用性随着产量的增长而增长。数据也是特定的，不可替代。对于任何特定的用例，都需要特定的数据集来捕捉准确相关的真实观察（或模拟）。为了确保一个坚实的起点，盟军国防机构需要确保其进一步数字化。总体而言，数据政策需要解决一个完整的价值链，包括收集、访问、共享、存储、元数据、文档、质量控制（包括数据清理和偏见缓解），以及确保遵守法律要求的流程

生产要素（人才和基础设施）的支持措施应包括健全和灵活的人力资源和合同政策，以吸引和培养最佳人才，以及部署相关和安全的计算和数据存储能力

接下来是生产力。古往今来，经济行为体一直在寻求将生产要素结合起来的最佳方式：它们是互补的吗？它们是可替代的吗？什么组合带来最高回报？哪些生产和管理流程和实践产生最佳结果？对于人工智能来说，虽然在某种程度上存在权衡，但生产要素是远远多于替代品的补充：一个人需要在所有三个要素上进行大量投资才能取得成功

关于流程和管理，软件行业最佳实践表明，人工智能解决方案的开发和交付应依赖于敏捷方法，而不是传统的瀑布模型。这意味着高度动态和迭代的过程，从初始和灵活的问题陈述开始，而不是详细和严格的需求陈述。敏捷的几种变体在行业中存在，其中一些变体在某些北约社区中被积极采用

致力于负责任的使用

联盟在人工智能方面的成功还将取决于与善治和负责任的应用相关的新的、精心设计的原则和实践。某些盟国政府已经在负责任使用领域做出了某些公开承诺，其中涉及合法性、责任、可靠性和可治理性等概念

与此同时，盟国参加了联合国主持的致命自主武器系统政府专家组，从而制定了11项指导原则

重要的是，有充分的理由将采用人工智能的工作和负责任使用原则的工作视为互补和协同。实际上，有一些基本原则或目标将支持和促进工程良好实践以及负责任的国家行为

某些国家原则意味着需要特定的设计要求。例如，可治理性原则可能与检测和避免意外后果以及在意外行为发生时脱离或停用的技术能力有关

确保满足这些目标和其他目标所需的技术特性必然是相关系统设计和测试阶段的一部分。反过来，相关的工程工作将是一个完善理解的机会，从而形成更精细、更成熟的原则。测试、评估、验证和验证（TEVV）领域的进一步工作至关重要，相关建模和仿真工作也将提供支持。北约在标准化领域的成熟优势将有助于制定这些工作路线，同时确保盟军之间的互操作性

与此同时，诸如在一些国家案例中以及在联合国主持下制定的总体原则，为盟国之间的进一步磋商提供了基线，也为现有国家立场提供了参考点

这是北约创新团队迷你系列的第二篇文章，重点介绍盟国希望采用的技术以及它们将为北约联盟的防务和安全带来的机遇

简介