中国在人工智能（AI）和自主性方面的投资被用来鼓励美国加大投资。人们非常关注相关的政府支出、商业和游戏应用程序以及数据收集基础设施。支持者认为，人工智能创新将使美国领先于竞争对手。政府听取了这些论点并采取了一些行动。2018年，国防部（DoD）成立了联合人工智能中心，并发布了一项数据战略，以通过人工智能改造国防部。2021，人工智能国家安全委员会（NSCAI）在一本756页的大册子中详细介绍了赢得这场技术竞赛的建议。然而，美国政府问责局2022年3月的一份报告指出，国防部仍然缺乏实施人工智能的路线图。以前的收购努力以及最近的人工智能和自主性失败表明，从技术概念到实战能力很难转变。政府官员和承包商通常将研究项目或技术演示与已部署的军事系统之间的差距称为“死亡之谷”。跨越“死亡之谷”需要利益相关者在整个项目中对人员、技术和工作方面达成共识。因此，美国必须完善其投资，以纳入一项深思熟虑的、持续的任务工程运动，以加速和改进可信赖的人工智能的交付。

任务工程是对人员、技术和工作的深思熟虑的调查，能够实现良好的项目和产品管理。任务工程团队包括工作领域专家、工程师和科学家，他们在整个开发生命周期中为所有利益相关者提供渐进的见解。与传统的合同招标不同，任务工程提供了人机系统的经验描述。其中包括工作流和工人模型、用户界面模型、操作概念以及系统和数据架构。这些工件提供了用户、项目办公室、技术人员和测试工程师之间的低承诺设计对话。最重要的是，任务工程在敏捷软件开发的速度上提供了积极主动的发现。作为开发者和用户之间的桥梁，所有国防软件工厂和技术收购都需要任务工程。

通常可以在用户体验设计方面进行适度投资，从而实现低风险工作的新技术。销售和用户反馈通常足以进行商业产品管理。“快速失败”方法可以成功，因为低风险用例为用户在现实条件下提供了快速反馈的机会。然而，军事工作组和数据很难访问，需要高度的安全性和可靠性。军事行动并不频繁，而且极其昂贵，因此它们为设计提供了较慢的反馈回路。错误的军事系统破坏国家安全。遗留军事系统的持续性、互操作性和计划约束使技术交付更加复杂。几十年来，军事技术需求一直由工作领域从业者确定和验证，很少有工程或数据科学方面的投入。这些需求记录在文本和基本概念图中，为良好的系统工程提供了陈旧和不充分的细节。由于这些复杂的因素，有必要进行一场精心而持续的任务工程战役。

军事能力本质上是人机系统。从基本工具和武器到复杂的自动化，人类和技术相互作用。即使是最自主的无人机也由人类维护、武装和使用。在任何工作环境中设定目标都是一项固有的人类责任。不考虑这些相互作用而开发的技术会浪费资源，无法提供军事优势。

尽管最近公布的技术成功（例如乌克兰使用的美国标枪导弹），美国的技术投资往往达不到预期目标。自20世纪90年代中期以来，政府软件项目产生了令人失望的结果。Standish Group发现，在2011年至2015年期间执行的政府软件密集型项目中，只有21%在预算内按时完成，并且满足了客户的期望。从2001年到2014年，国防部在武器系统上浪费了460亿美元，这些武器系统在部署前就被取消了。其中之一，美国陆军的未来作战系统（FCS）于2009年被取消，被普遍认为是完全失败的。从2004年到2014年，美国陆军在一个失败情报支持的系统上花费了27亿美元称为分布式通用地面系统陆军（DCGS-A）。2007年，其中一位作者通过审查DCGS-a需求文件，预测了该系统的缺点。DCGS-A需求“不是通过对用户的任务分析生成的”，与它的前身系统一样，将“增加分析师的工作”

令人担忧的是，商业软件开发似乎没有任何改善。《华尔街日报》报道称，美国75%的风险投资公司不退还投资者的资本。信息和软件质量中心估计，2020年美国软件质量差的成本为2.08万亿美元。这个数字包括失败的信息技术项目、遗留系统和运营失败的成本。不幸的是，这些问题不仅表现在资本损失上，也表现在生命损失上。波音737 Max和特斯拉“自动驾驶”系统是涉及自主性的误导性技术开发的两个显著商业例子。

在交付新飞机以与空客A320neo竞争的财务压力下，波音交付了737 Max。这架新飞机引入了有缺陷的自动化系统，即机动特性增强系统（MCAS），以根据机身上迎角传感器的数据进行配平修正。为了避免培训和适航检查会增加成本和延迟交付，波音公司向飞行员和FAA隐瞒了MCAS。这种设计和交付方法假定传感器将始终提供可靠的数据，飞行员永远不必干预。波音公司的“隐瞒文化”导致346人死亡，直接损失至少200亿美元。

特斯拉的“自动驾驶”系统是一套标签错误的传感器和软件，可在特定条件下帮助驾驶员。自2015年特斯拉发布该系统以来，已有250人死于与汽车相关的事故。到目前为止，“自动驾驶仪”的使用已在导致12人死亡的事故中得到证实。自2015年以来，埃隆·马斯克每年都宣布，他的汽车将在12个月内实现完全或完全自主性。当前特斯拉车主手册中的警告讲述了一个截然不同的故事。

“自动转向器适用于驾驶员全神贯注的受控进出高速公路。使用自动转向器时，握住方向盘并注意道路状况和周围交通。不要在施工区或骑车人或行人可能出现的区域使用自动转向。切勿依靠自动转向器来确定合适的驾驶路径。始终做好准备立即采取行动。不遵守这些说明可能会造成损坏、严重伤害或死亡。”

波音和特斯拉的失败说明了试图在人类之外或周围实现自动化的致命缺陷。愚蠢的任务是用技术取代人类，这让工程师处于无法预测未来所有可能的条件和故障模式的境地。一组人为因素工程研究表明，当技术为系统提供代理时，人类是系统韧性的来源。人们基于对机器的能力、限制、状态和轨迹的了解来决定如何以及何时信任技术。这些信任的决定需要良好的反馈，这在人工智能和自主性的设计中常常被忽视。以人为中心的设计不是在开发过程结束时进行的润色。相反，这是持续、健全的工程实践的结果。

人工智能是一种非常复杂的软件，容易出现多种故障源。与任何信息系统一样，人工智能也会因软件和硬件架构缺陷而表现不佳。这些错误会降低准确性、速度、可靠性和安全性。人工智能可能会因数据缺陷而失败。真实或现实的数据往往无法用于军事技术开发。当数据可用时，数据科学家通常无法对数据进行整理和使用。以前收集的数据并非用于人工智能开发，通常是损坏、未标记或不完整的。数据管理需要具备足够工作领域知识的合格工程师来解释和修复数据。人工智能系统投入运行后，可能会因训练数据和生产数据之间的差异而失败。换句话说，用于训练人工智能模型的数据可能与真实世界中收集或可用的数据不一致。这种故障模式导致了波音和特斯拉的致命事故。

人工智能模型是深奥的数学方程，它提出了未解决的问题。它们可能效率低下，需要比其他方法更多的处理、数据存储或电源，特别是对于系统在严酷和不连接的环境中操作。人工智能模型通常无法解释，并且在不断变化的条件下很脆弱。这些缺点可能导致输出不可靠。此外，人工智能模型很难维护。一些人或组织必须监控人工智能模型的性能，以确定是否以及如何更新它们。商业人工智能系统，如搜索引擎或内容推荐器，由拥有模型的公司在后台维护。甚至这些系统也因其不透明和难以管理的隐私入侵而受到审查。这一切都表明，人工智能竞赛本质上是一个计算机和数据科学问题，但并非唯一的问题。因此，我们需要一个更加跨学科的方法来进行国防采办。具体而言，我们必须投资于任务工程，以在整个采办生命周期中预测和描述人机系统。

简介