外交官的 Franz-Stefan Gady 与 Elsa B. Kania 谈论人工智能 (AI) 对军队的潜在影响以及如何世界领先的军事大国——美国、中国和俄罗斯——正计划在未来的战争中开发和部署支持人工智能的技术。

Kania 是美国技术与国家安全项目的兼职高级研究员新美国安全中心 (CNAS)。她的研究重点是中国在新兴技术方面的军事创新。她还是乔治城大学安全与新兴技术中心的研究员和澳大利亚战略政策研究所 (ASPI) 的非常驻研究员。目前，她是博士学位。哈佛大学政府系的学生。

Kania 是众多文章和报告的作者，包括战场奇点：人工智能、军事革命和中国未来的军事力量和新的中俄高科技合作伙伴关系。她最近的报告是保护我们的 5G 未来，她最近还与人合着了一份政策简报大国之间的人工智能安全、安保和稳定性。可以关注她@EBKania。

什么是人工智能 (AI)，您对人工智能的首选定义是什么它？

作为一名倾向于成为现实主义者的政治学家，具有逆势和建构主义倾向，我想我可以尝试回答：人工智能是由国家构成的吗？此外，任何人工智能定义的效用都取决于其预期目的。没有任何定义可以完全捕捉其复杂性和持续发展。

喜欢这篇文章吗？ 点击这里订阅完全访问权限。每月只需 5 美元。

“人工智能”这个概念可以传达出与其技术现实一样重要的意义。当然，人工智能的含义在其整个历史中一直在演变。我喜欢回顾 1956 年达特茅斯会议的目标，该目标始于“学习的各个方面或智能的任何其他特征都可以如此精确地描述，以至于可以制造机器来模拟它的猜想。”

今天关于军事领域人工智能的讨论集中在“狭义”人工智能的各种变体上，而不是人工通用智能或超级智能。可能仍然遥不可及，但仍然是必然的可能性。

当前对人工智能的讨论通常主要集中在机器学习上，即使用算法从数据中学习的过程。特别是，近年来许多最令人兴奋的进展都利用了深度学习，这是一种涉及使用人工神经网络层的技术，其灵感来自人类大脑的结构。

在基本层面上，人工智能涉及利用数据进行学习的软件，但也需要硬件来利用重要计算能力的力量来实现这一过程。因此，人工智能有望迅速扩散，但也取决于“计算”的限制。这种动态提升了为支持人工智能应用而量身定制的半导体进步的战略重要性，从图形处理单元 (GPU) 到新的进步神经形态计算，可以为芯片启用新颖的架构。

当这个领域如此动态且发展如此迅速时，定义人工智能是什么或可以实现什么本质上是一个挑战。目前，AI/ML 技术通常受到数据可用性的限制，但随着合成数据的使用和利用强化学习的技术的进步（例如 AlphaGo Zero 仅从自我游戏中学习的能力），这种情况也可能会发生变化.人工智能目前还受到可靠性和潜在漏洞问题的困扰，人工智能安全领域正在寻求缓解这些问题。

仅在过去的一年里，人工智能领域就出现了许多有趣且令人担忧的突破，说明了其潜力和局限性。例如，生成对抗网络 (GAN) 使用的进步使得“深度伪造”的创建成为可能，其范围可以是离奇的和有趣的（例如，猫的照片存在）到非常令人担忧的（例如，可用于传播虚假信息的视频的更改）。值得注意的是，OpenAI 发布了一种名为 Generative Pre-Training (GPT) 的模型，该模型能够生成合成文本，从而可以自动创建虚假内容。

我对跨学科最感兴趣人工智能在科学研究中的应用。人工智能通过使用神经网络解决了三体问题。在天文学中，人工智能促进了寻找新星系团的努力。迄今为止，人工智能还被应用于药物发现和人类基因组研究。未来的可能性可能仅受人类想象力的限制。尽管对人工智能充满恐惧和担忧，但我们绝不能忽视考虑这种独特的潜力——以及这一切的奇妙之处。

美国国防部 (DoD) 将花费近 10 亿美元用于研发 (R&D) 人工智能和机器学习技术当前财政年度。中国和俄罗斯国防部也在为类似的研发工作分配大量资金。是什么让 AI 对 m 如此重要军人？

中国、俄罗斯和美国的领导人已经认识到，人工智能是一项战略技术，可以证明对国家竞争力具有极其重要的意义。全球多支军队都在探索人工智能在军事事务中的潜力也就不足为奇了。越来越多的军事战略家和研究人员预计人工智能可以改变冲突的性质，一些领导人甚至假设人工智能可以改变战争的性质。

这些新兴能力的未来轨迹还有待观察，但人工智能已成为军事竞争追求的新方向运营优势。第一支充分利用人工智能潜力的军队可能会超越其竞争对手，从而可能破坏军事平衡。

喜欢这篇文章吗？ 点击这里订阅完全访问权限。每月只需 5 美元。

美国军方希望保持技术优势，而中国军方则在寻求超越和超越的机会。使美国的优势过时，俄罗斯军方在其当前的交战中一直在积极进行试验。这些竞争对手——以及全球主要军队——目前正在追求的能力有一些共同点。

人工智能在军事领域的未来轨迹难以预料。在短期内，最有希望的应用可能是最基本和最实用的。一些最初的应用包括情报、监视和侦察，从提高图像分析的效率到部署“人工智能卫星”。事实证明，主要武器系统的预测性维护是有益的，物流方面的进步可能非常重要。

人工智能可能首先改变虚拟领域的战争。特别是，人工智能对于网络防御的进步非常重要，可以提高网络运营的速度和自动化程度。认知电子战中的新技术有望提高争夺频谱优势的能力。 AI/ML 通过改进分析和精确定位将 AI/ML 应用于心理作战也令人担忧。在一个数据可以起决定性作用的时代，人工智能可以改变决策优势的竞争，从智能转变为未来的指挥和控制。

在矛，增加武器系统的自主性有望在被拒绝和激烈竞争的环境中进行操作，并可以在战场上提供优势。人们对法律和道德的复杂性以及未来致命自主武器系统 (LAWS) 可能出现的风险或事故的可能性表示强烈担忧，但在国际外交活动中，关于 LAWS 甚至定义的争论仍然激烈。中国军方正在开发其所谓的人工智能武器或“智能”武器系统，这些武器系统更有能力选择和打击目标。例如，集群技术的进步提高了饱和攻击的可能性，这可能会压倒防御者。

在你看来，目前人工智能领域的世界军事强国是谁？然后-美国国防部长詹姆斯马蒂斯在 2018 年警告说，在人工智能方面，美国正在落后于其所谓的同行竞争对手——主要是中国。你同意这个说法吗？

在我目前的一些研究中，我专注于创建更好的指标来回答和评估那个问题。很难确定人工智能的领导力将涉及或类似，因为我们谈论的是非常不同的功能和应用程序。因此，核心问题可能不是谁在领导，而是哪些方面、哪些具体能力、领导力或比较优势将被证明是最重要的。

可能没有唯一的答案。例如，美国军方可能会更有能力在网络作战中利用人工智能，但中国军方可能会在可自主运行的高超音速武器系统方面取得更大进步，而俄罗斯军方可能在整合方面拥有更多经验。城市战中的无人系统。也就是说，不同的军队可能在不同的应用中领导或拥有特定的熟练程度，也许是建立在现有的优势或投资重点的基础上。

人工智能对军事平衡的影响可能是动态的，难以确定。与更传统的能力不同，人工智能的进步无法轻易计算或衡量。某些能力很可能会被揭示和发出信号。例如，中国军方已经展示了集群技术的进步，并宣布了部署自主潜艇的意图。某些中国无人机和无人船被描述为自主的。

但是，如果不深入了解武器系统的基本技术特征和局限性，就无法轻易验证或评估自主性的特征。我认为这种模棱两可可能会增加事故或误判的风险，包括对军事平衡的错误估计。

当然，对于任何军队来说，人才和培训都是利用人工智能能力的关键决定因素。对技术熟练程度的新要求将需要新的举措来招聘和留住人才，并为持续学习和专业进步提供机会。本质上，军队往往是等级森严的组织，推进新优先事项的调整可能具有挑战性，不仅需要高层领导人的支持，还需要授权新专家的意愿。

在这方面，我对在美国看到像武装部队数字优势法案 a>，最近被纳入新的国防授权法案，旨在将数字工程确立为核心竞争力，并为培训和晋升创造新途径。与此同时，中国军队正集中精力建立新的军事研究机构，以追求人工智能的进步，并招募更多的民用技术专家，同时大规模扩大教育和培训计划。

目前，美军似乎仍然是中国军方衡量自身进步的领导者和标准.然而，考虑到中国的雄心、投资和进步，美国在人工智能领域的领导地位很难得到保证，也不应该被假定。解放军决心在这场军事革命（AI-RMA？）中超越美军并超越美军，包括开发旨在利用美国弱点和弱点的能力。

最终，我认为现在说这个还为时过早。目前，这些趋势仍处于萌芽状态。这场竞争的长期轨迹将演变并取决于以下因素，包括风险承受能力、测试和保证方面的进展、人工智能能力对对手利用的脆弱性，以及各军队接受这些技术变革的意愿，其中其他。那么，也许几年后再问我一次？

您能否简要概述一下美国开发和部署方法之间的一些主要差异人工智能技术与中国的努力？

美国和中国的方法之间的显着差异将由于它们的不同而出现s战略文化、历史经验和组织特征。首先，美国和中国有非常不同的政治经济，这将影响他们的人工智能研发方法。中国领导人正在寻求建立一个结合强有力的国家支持和市场导向的创新生态系统商业企业之间的竞争。美国政府在与这些技术的重要性相称的程度上支持和投资科学和研究的速度很慢。

喜欢这篇文章吗？ 点击此处订阅以获得完全访问权限。每月只需 5 美元。

美国军方在近期历史上的低强度冲突以及转向利用数据方面拥有丰富的经验可以说是从这些经历中浮现出来的。美国军方在人工智能方面的最初举措集中在战术实用性上，包括在 Maven 项目中，该项目集中在使用人工智能/机器学习进行全动态视频分析。相比之下，中国军队，即中国人民解放军（PLA），正在努力创新并应对和平时期创新的特殊挑战，缺乏作战经验，但积极寻求学习外国军队的研究和兵棋推演的新举措。

自 1990 年代以来，中国军队一直将美国视为强大的对手，而美国最近则重新转向伟大的战略竞赛。解放军似乎正在优先考虑反映其优先领域和任务的人工智能应用，包括太空系统、海底战争和高超音速。与美国军方不同的是，解放军关注“防御大数据”并面临管理和利用大数据的官僚挑战，同时寻求扩大其对与军事应用相关的新数据源的获取。

美国和中国军队同样会遇到不同的官僚障碍和挑战。解放军正在进行极具破坏性的改革，这些改革仍在进行中，以促进更大程度的作战联合。习近平监督了这些改革的实施，并提高了创新的重要性。自 2014 年以来，解放军一直关注新的军事革命（RMA），专注于一系列新兴技术。美军正在努力将注意力转移到战略竞争上，并根据不断变化的优先事项重新分配资源。

对于解放军，人力资本一直是并将继续是一个严重的问题，因此它正在加大技术专家的招聘力度以及新的培训和教育计划。同时，党对军队控制的绝对要求，从政治委员的角色到通过政治工作实现意识形态一致性的期望，也可能影响解放军对这些新兴技术的态度。

解放军对武装冲突的道德和法律考虑的方法仍不清楚。解放军关注并考虑涉及人类控制的问题，包括人类在循环中、循环中和循环外的区别。中国军方正在探索和处理这些法律问题，但迄今为止，它缺乏经验，尚未将其应用付诸实施或完全制度化，尽管有人谈论在未来的改革中更多地解决这些问题。

在这种情况下，为什么谈论一场据称发生在美国和中国之间的人工智能军备竞赛没有帮助？

老实说，“人工智能军备竞赛”的话题让我筋疲力尽。我们许多人在该领域进行了多次尝试来反驳这种言论，并重新构建当今人工智能合作与竞争的复杂动态。也就是说，“AI”不是武器系统。谈军备竞赛歪曲本次比赛的复杂性，未能捕捉到多方面的影响< /a>当今人工智能的进步。

事实上，中美研究人员之间存在着相当广泛的研究合作。相对于学术界和工业界的合作，人工智能竞争的讨论之间存在一种奇怪的并列。同时，在涉及军事竞争时，竞争的现实是显而易见的。

我也很担心军备竞赛的谈论分散了人们对中美之间长期经济轨迹重要性的注意力。事实上，这种竞争的经济层面是长期竞争力的基础。中国领导人正在实施创新驱动发展的国家战略。将科学技术作为国家实力的关键推动者。美国战略必须优先投资创新。

在人工智能军事技术的发展方面，美国相对于中国和俄罗斯有哪些优势？华盛顿相对于这些国家有哪些劣势？

也许美国目前拥有的最大优势在于其创新生态系统的活力和稳健性。美国大学和企业一直处于人工智能最新进展的中心。美国继续吸引顶尖人才，并保持良好的创业环境。尽管当前面临挑战，但我也相信我们机构的实力。今天的大国竞争是一场系统性的竞争，我们民主的活力和成功应该是衡量成功的关键指标。

我担心我们最大的劣势可能涉及我们今天的政治，尤其是对科学专业知识和移民的敌意，但我希望目前的情况未来可以克服。激发美国关注科学的精神是“无尽的前沿'必须重新点燃美国对科学研究的投资。纵观我们的历史，移民对美国经济和企业家精神至关重要，而当前的政策可能会浪费这一关键优势。与此同时，美国教育系统急需投资。对于美国来说，战略竞争必须从国内开始。

您认为人工智能是未来战争中的进化技术还是革命性技术？您是否认为人工智能技术对现代战场的影响有被夸大的风险？

我想我认为人工智能在短期内将是进化的，在更远的将来可能会发生革命性的变化。人工智能的炒作周期不利于对人工智能操作化可能带来的真正潜力和严重困难进行细致入微的讨论。我担心这种对人工智能功能潜力的狂热热情也令人担忧，因为它会分散对人工智能系统开发和部署过程中出现的技术复杂性、局限性和漏洞的仔细考虑。

尤其是，人们对人工智能的安全性和可靠性感到担忧。在某些情况下，人工智能系统会导致意外和意外的外部性。这样复杂的系统可以显示出现在实际设置中。我们已经看到，由于人工智能在现实世界条件下表现不佳而发生了严重事故。在一次致命事故中，一辆自动驾驶由于未能识别行人乱穿马路而导致汽车坠毁。 AI 中的偏见反映训练它的数据中扭曲偏见模式的系统，包括招聘工具这体现了对女性的偏见。算法歧视的动态也涉及差异准确性基于种族和性别。

喜欢这篇文章吗？ 点击这里订阅完全访问权限。每月只需 5 美元。

或许，我们暂时还有更多理由担心人为的无知和人为的无能？

在美中/美俄大国竞争中，您认为与人工智能相关的最大危险是什么？您认为这会对这些国家之间的战略稳定产生负面影响吗？

AI 可以d 破坏当前的军事平衡，同时加剧对战略稳定的威胁。有理由担心人工智能的进步可能会加剧第二次打击的脆弱性，这可能对中国来说尤其令人担忧，中国一直保持着更有限的核武库，以采取有保证的报复态势。与此同时，解放军一直在扩大其核力量并使之现代化。初步迹象表明，中国的研究可能会将 AI/ML 纳入核相关系统，包括改进预警、目标定位以及指挥和控制。

目前关于反击的新时代强调了从传感器到计算、数据处理以及现在的人工智能等相互关联的技术发展的融合如何侵蚀核威慑的基础。随着这些技术的投入使用，这些问题将值得进一步分析和学术关注。与此同时，第一次打击的动机，特别是在太空和网络领域，以及可能为升级创造动力的速度的必要性，可能会增加风险。

不仅新兴的能力，而且这种未经测试的新兴技术可能引发的事故风险都应该引起关注。回想起来，考虑到几乎造成灾难的误报和核事故，人类在冷战中幸存下来确实非常了不起。人工智能将增加军事事务的复杂性可以增加事故或意外参与的风险。鉴于这些风险，大国必须积极主动地在人工智能安全、安保和战略稳定性问题上寻求务实合作，以探索缓解风险的选择，正如我们的近期政策简介亮点。

在涉及人工智能以及美国、中国和美国之间持续的军事竞争时，您试图消除的一个神话或经常重复的错误是什么？俄罗斯？

最初，我开始研究中国的军事创新，因为我担心美国国家安全界一直低估中国的野心和进步，未能认识到这一竞争挑战的全部范围。有时，我也担心宿命论或高估中国能力的倾向，忽视了中国的弱点和困难，从人才到有限的经验，以及可能阻碍创新的中共意识形态的影响。美国战略必须以对我们竞争对手的仔细评估和深刻理解为依据。这是战略竞争的核心智力挑战。