国会议员、美国军方和著名技术专家发出警报，美国正面临失去人工智能军备竞赛的风险。中国已经利用战略投资和规划，获取大量数据，并怀疑商业实践在人工智能实施的某些方面超过了美国。有人担心，这种竞争可能扩展到军事领域，对美国国家安全造成严重后果

在前冷战军备竞赛时期，美国决策者和军方对与苏联的所谓“导弹差距”表示震惊，这可能会给苏联带来军事优势。其他“差距”也影响了战略分析和公共讨论，包括对空间差距、轰炸机差距等的担忧

差距焦虑的回声今天仍在继续。美国正在进行人工智能军备竞赛的观点表明了另一个差距——人工智能“道德差距”，在这个差距中，美国在军事环境中开发和部署人工智能面临着比对手更高的道德障碍。由于这一差距，美国与对人工智能缺乏顾虑的国家相比可能处于竞争劣势

一些人认为，美国在与科技公司合作方面面临着中国和其他国家所没有的障碍。例如，谷歌决定取消与国防部（DoD）签订的Maven项目图像识别合同，原因是员工对使用他们的研究来改进军事目标表示了道德上的反对。美国其他主要科技公司也面临着与军方合作的劳动力压力。与之相比，冷战时期美国工业界认为支持美国军队是一项爱国义务

从美国的角度来看，中国也在寻求可能被道德禁止的人工智能应用。例如，中国雄心勃勃的政府管理的社会信用系统使用个人数据点为他们分配社会信用分数，以确定某些福利和负担。这只是众多强调国际社会对人工智能伦理观点分歧的例子之一

当然，在美国，关于人工智能开发和使用的道德不确定性比比皆是。算法的公平性、个人数据的适当收集和使用、自主系统的安全性等等都存在一些棘手的问题。像许多具有挑战性的技术问题一样，没有一致的伦理观点，实践原则往往落后于技术发展

国防部在军事人工智能应用方面投入了大量资金，但在自主武器的开发和部署过程中，其政策相对受限（PDF），要求“适当水平的人类判断”。事实上，国防官员经常肯定国际人道主义法、人类尊严和人工智能安全等价值观

由此产生的动态是，美国军方面临的挑战可能会限制其能力，同时也会遵循比竞争对手更透明和更严格的要求。从这个角度来看，道德差距扩大了

需要明确军事人工智能可能带来的道德风险和其他风险的类型

但是，无论道德差距是对美国国家安全的真正威胁，还是仅仅是虚幻的（正如前冷战时期的差距所揭示的那样），都需要明确军事人工智能可能构成的道德和其他风险的类型

军事人工智能带来的一些风险，包括自动杀手机器人违反国际人道主义法、损害人类尊严（PDF）以及无法对错误行为承担责任的风险，引发了严峻的道德问题。其他风险更直接地涉及人工智能系统的技术操作（PDF），例如测试能否确保人工智能系统按预期运行。尽管如此，其他风险也是战略性的，例如，那些关注自动无人机向恐怖分子扩散的风险，或快速升级的“闪电战”风险。

有了这一分类法，人工智能道德差距开始缩小。中国、俄罗斯和其他被认为不道德的行为体也关心运营和战略风险，毕竟，建立不可控制或扩散的体系，可能破坏其威权政权的稳定，不符合他们的利益。对于这些类型的共同风险，美国有机会走出冷战谈判的一页，探索合作建立信任措施，以减轻危险。例如，与俄罗斯和中国的接触可以侧重于制定强有力的测试和评估标准，或提高武器审查程序的透明度

即使存在差异在如何解释美国与其对手之间的道德风险方面，这不是一个会削弱美国的差距，而是美国力量的来源。国防部的道德行为对于加强国内民众支持和军事行动的合法性至关重要。这在开放源码获取军事行动细节的背景下尤为重要，而此前大多数美国人对这些细节并不了解。此外，强调道德行为也有助于军方与私营部门建立伙伴关系，以利用最先进的技术，吸引人工智能人才，并促进与欧洲和其他地方志同道合的国家建立跨国联盟。因此，道德考量可能成为美国如何建立对其硬实力和软实力至关重要的伙伴关系和能力的基本组成部分

但是除了这些关心道德的务实理由外，美国还应该认识到，人工智能引发的道德风险反映了真正的人道主义价值观，这一点非常重要

与其担心道德差距，美国决策者和军事界可以自豪地表明致力于领导人工智能道德，并建立反映美国价值观的负责任人工智能行为标准，以团结国际社会。事实上，美国在人工智能道德方面的领导对于确保风险得到缓解以及人工智能军备竞赛不会成为一场到底的竞赛至关重要

Benjamin Boudreaux是非营利、无党派兰德公司的政策分析师，也是帕迪兰德研究生院的教授

此评论最初于2019年1月11日出现在RealClearDefense上。该评论为兰德研究人员提供了一个平台，根据他们的专业知识和同行评审的研究和分析传达见解

在Facebook上分享

在Twitter上分享

在LinkedIn上分享

简介