研究问题

美国在发展或使用军事人工智能方面是否受到中国和俄罗斯的限制
空军需要做些什么才能最大限度地发挥人工智能系统的潜在效益，同时降低其带来的风险

本报告的作者研究了人工智能（AI）的军事应用，并考虑了其伦理意义。作者调查了被广泛归类为人工智能的各种技术，考虑了它们在军事应用中的潜在好处，并评估了这些技术带来的道德、操作和战略风险。在比较了美国、中国和俄罗斯的军事人工智能开发努力之后，作者研究了这些国家在禁止或管制自主武器的开发和使用方面的政策立场，这是一种人工智能的军事应用，军备控制倡导者认为特别令人不安。他们发现潜在对手正越来越多地将人工智能整合到一系列军事应用中，以追求作战优势，建议美国空军组织、训练和装备，以在人工智能授权的军事系统在所有领域都很突出的世界中获胜。尽管禁止自主武器的努力不太可能成功，但各国越来越认识到，与军事人工智能相关的风险将要求人类操作员在其使用中保持积极控制。因此，作者建议美国空军、联合参谋部和其他国防部领导人与美国国务院合作，寻求与盟国和合作伙伴加强技术合作和政策协调，同时也与中国、俄罗斯和其他试图开发军事人工智能的国家探讨建立信任和降低风险的措施。本报告中的研究于2017年和2018年进行。该报告于2018年10月提交给赞助商，并于2020年3月批准分发。

Keyfindings-

人工智能在军事系统中的整合可能会稳步增加

各种形式的人工智能对作战应用产生严重影响
尽管联合国正在进行讨论，但近期内不太可能对军事人工智能实施国际禁令或其他监管

美国在军事人工智能方面面临着重大的国际竞争

中国和俄罗斯都在追求军事化的人工智能技术

军事人工智能的发展带来了一系列需要解决的风险

从人道主义角度来看，道德风险很重要
操作风险源于人工智能系统的可靠性、脆弱性和安全性问题
战略风险包括人工智能可能会增加战争的可能性，升级正在进行的冲突，并扩散到恶意行为体

建议

组织、训练和装备部队，以在一个由人工智能授权的军事系统在所有领域都很突出的世界中获胜
关注参与《联合国某些常规武器公约》的政府专家组的讨论，并跟踪国际社会利益攸关方不断变化的立场
在军事人工智能的开发和使用方面，寻求与盟国和合作伙伴进行更大的技术合作和政策调整。
探索与中国、俄罗斯和其他试图发展军事人工智能的国家建立信任和降低风险的措施

目录

第一章
简介
>
第二章
人工智能的军事应用
第三章军事人工智能的风险：道德、操作、，第四章美国军事人工智能第五章美国军事人工智能评估。公众对军事人工智能的态度
第八章
发现和建议
>
附录A
专家访谈：方法、数据和分析
>
附录B
公众态度调查：方法、，和分析

兰德空军项目进行的研究

这项研究由美国空军委托，并在兰德空军计划的战略和条令计划内进行

本报告是兰德公司研究报告系列的一部分。兰德公司的报告提出了研究结果和客观分析，以应对公共和私营部门面临的挑战。所有兰德公司的报告都经过严格的同行审查，以确保研究质量和客观性的高标准

本文件和此处包含的商标受法律保护。兰德公司的知识产权仅用于非商业用途。禁止未经授权在网上发布本出版物；鼓励直接链接到此产品页面。出于商业目的，需要兰德公司的许可才能复制或以其他形式重复使用其任何研究文件。有关重印和重新使用许可的信息，请访问www.rand.org/pubs/permissions

兰德公司是一家非营利性机构，通过研究和分析帮助改善政策和决策。兰德公司的出版物不一定反映其研究客户和赞助商的意见。

简介