联合人工智能中心（简称JAIC）负责人周二表示，如果五角大楼想保持中国在人工智能方面的实力领先，它必须加快步伐，实现数据标准化，采用云服务，并将人工智能融入运营。北京正在加速其“中国制造2025”计划，目标是“在2030年在人工智能领域占据主导地位”，迈克尔·格伦中将对国防工业协会的观众表示。他指出，五角大楼的预算编制者目前正在制定五年计划目标备忘录，直到2027年

格罗恩说，整合整个国防部的网络，推进新的企业级云能力和通用数据标准，将是帮助美国军方保持领先地位的关键。

“如果我们不在一个整合的企业中，我们将失败，”他说。他说：“如果我们仍在使用硬盘（前往远程基地），因为使用硬盘连接网络更有效，这是一个征兆，表明我们不在我们需要的地方。”。

Groen还将演讲的大部分时间用于五角大楼的人工智能道德准则，该准则比行业参与者使用的许多类似清单更加详细和严格，当然也比中国军方公布的任何清单都要严格。他驳斥了这些准则和限制正在减缓人工智能工具的开发和部署的说法，认为只有道德体系才能赢得现场指挥官的信任。

“对人工智能系统的信任来自于道德基线。它来自于信任和验证、测试和验证环境，在这个环境中，你可以确保系统正常工作，它们可以在部署的区域工作，并且可以与其他类型的系统合作，以实现你想要实现的整体运营效果，”他说。“如果AI不被……指挥官等信任，那么它就不会被使用，对吗？”

在周四播出的与DefenseOne的对话中，JAIC、CIA、国防情报局和国家情报总监办公室的官员一致认为，关注道德是政府采用人工智能工具的关键。

最大的道德挑战之一是检测和避免AI工具开发中的偏见，这种影响可能出于多种原因，但通常是因为程序员用来训练AI的数据集不够广泛或多样。2018年，谷歌部署了一个照片应用程序，该应用程序几乎只接受白人照片的培训；它倾向于将其他种族的人的照片误解为非人类。

JAIC负责人工智能的首席执行官阿尔卡·帕特尔（Alka Patel）表示，她的办公室正在记录他们正在使用的“数据的关键方面”：数据的收集方式、来源、预期用途等，放弃可能在战斗中起决定性作用的工具。

Rodriguez将这些描述为“算法遗留”的挑战，因为许多人工智能工具在发布之前就已经在构造不良的数据集上进行了训练。他说：“所有这些漏洞都有可能通过有毒数据集等引入。”。

一种防止这种情况发生的方法是组建一个更具种族多样性的编码团队。另一个是在过程的早期引入红色团队来发现漏洞。

“从安全的角度来看，你可以将这种偏见武器化，这是一个真正的问题，因为我们合作的公司确实在生产令人难以置信的算法，但它们往往用于这些类型的问题，在这些问题中，你有着更平衡的数据集，猫和狗，”他说。“比如说，你不是在这些地方寻找一个罕见的目标、一个运输工具或一个发射器，（对手）可能只有一个或两个。”

Rodriguez称之为“许多现有人工智能系统的阿基里斯之踵”。

简介