阅读我们的Oppenheimer系列

作者Michael C.Horowitz|2018年4月23日

人工智能的前景——包括它提高从后勤、战场规划到人类决策的一切速度和准确性的能力——正在推动世界各地的军队加快研发。原因如下

人工智能（AI）正在国家安全领域占据一席之地。尽管公众可能仍然将军事背景下的人工智能概念与终结者系列中的人形机器人等同起来，但关于人工智能对国家安全后果的讨论已经显著增加。这些讨论涉及学术界、企业界和政府，从牛津哲学家尼克·博斯特罗姆对人工智能对人类构成的生存风险的担忧，到特斯拉创始人埃隆·马斯克对人工智能可能引发第三次世界大战的担忧，再到弗拉基米尔·普京关于人工智能领导力对21世纪全球力量至关重要的声明

这到底意味着什么，尤其是当你超越革命性变革的修辞，思考人工智能在军事上的潜在应用对现实世界的影响时？人工智能不是武器。相反，从军事角度来看，人工智能是一种推动者，就像电力和内燃机一样。因此，人工智能对军事力量和国际冲突的影响将取决于人工智能对军队和决策者的特定应用。以下是思考人工智能军事后果的关键问题，包括评估人工智能“是什么”的原则，以及它与过去的技术变化相比如何，军队可能使用人工智能做什么，使用人工智能的潜在限制，然后是人工智能军事应用对国际政治的影响

人工智能的潜在前景——包括它能够提高从后勤到战场规划的一切速度和准确性，并帮助改善人类决策——正在推动世界各地的军队加快对人工智能应用的研究和开发。对于美国军方来说，人工智能为维持其军事优势提供了一条新途径，同时可能降低美国士兵的成本和风险。对于其他国家，尤其是俄罗斯和中国来说，人工智能提供了一种潜在的更有价值的东西——破坏美国军事优势的能力。人工智能领导力的国家竞争与其他任何事情一样，或多或少是一个经济竞争和领导力的问题，但潜在的军事影响也是显而易见的。人工智能研究的速度和轨迹存在很大的不确定性，这意味着人工智能的承诺总是有可能变成更多的炒作而非现实。此外，安全和可靠性问题可能会限制军队使用人工智能的方式。

人工智能是什么样的技术人工智能代表使用机器或计算机来模拟被认为需要人类智能的活动，研究人员、公司和政府使用不同的人工智能方法，包括机器学习和神经网络。关于人工智能技术发展轨迹的现有工作这表明，即使在人工智能研究人员中，人工智能的潜在发展速度也存在很大的不确定性。虽然一些研究人员认为，实现人工通用智能（AGI）的突破只有几年的时间，但其他人认为，可能需要几十年甚至更长的时间才能实现。因此，本文关注的是“狭义”人工智能，或人工智能解决特定问题的应用，例如AlphaGo Zero，一个旨在击败“围棋”游戏的人工智能系统。

从历史的角度来看，很明显，如果对技术发展持乐观态度的人是正确的，那么人工智能代表了一种具有潜力的广泛技术，根据创新的步伐，影响经济和社会的大部分领域。根据应用的不同，它可能是许多事情的一部分，而不是一个分立的设备，如火箭或飞机。因此，出于军事目的，人工智能被更好地视为一种推动者

人工智能对军队意味着什么然而，军队可能会对人工智能做些什么，为什么这对国际政治很重要？换言之，一些军队可能认为人工智能可以帮助他们解决现代战争的哪些挑战？人工智能的三个潜在应用领域说明了军队为什么感兴趣

首先，许多现代军队在数据方面面临的挑战与公司或政府普遍面临的挑战相似——数据往往太多，很难足够快地处理。处理信息的狭义人工智能应用程序提供了加快数据解释过程的潜力，从而解放了人力来完成更高级别的任务。例如，美国军方的Project Maven试图使用算法更快地解释无人机监控信息中的图像。这种用于军事的狭义人工智能应用具有明确的商业类似物，可能远远超出图像识别。从图像识别到处理公开或机密信息数据库，人工智能的处理应用可以帮助军队更准确、更快地解释信息，从而更好地做出决策

其次，从高超音速飞行技术到网络攻击，高级军事和文职领导人认为战争的速度正在加快。无论你是从OODA（观察、定位、决定、行动）循环的角度来思考，还是仅仅是想在敌人知道你到达之前攻击他们，速度都可以在现代战争中提供优势。然而，速度不仅仅是飞机或弹药的速度。速度关乎决策。就像远程驾驶系统一样，由人工智能“驾驶”的飞机摆脱了保护人类飞行员的限制，可以用驾驶舱中人类飞行员的许多优势换取速度和机动性。例如，在防空的情况下，当面临导弹的饱和攻击时，以机器速度运行可以使一个系统比一个人更有效地保护军事基地或城市，无论他或她有多能干，他的反应都可能被淹没。这已经是以色列铁穹系统运行的原则

第三，人工智能可以在战场上实现各种新的军事行动概念，例如经常被讨论的“忠诚的翼人”想法，该想法假设一名人类飞机飞行员或坦克驾驶员也可以协调一些无人居住的资产。然而，作战空间越复杂，那些“翼人”就越有用，因为他们的算法可以帮助他们在协调的人类控制器无法直接指导他们的情况下做出反应。同样，Swarm可能需要人工智能进行协调

显然，军队有动机研究人工智能的潜在应用，以提高军事效能。这些激励措施不仅仅是来自其他军队的竞争压力；促使各国走向自主武器系统的内部政治和官僚原因。对于美国等民主国家来说，理论上，自主系统有可能以较低的成本和人力风险完成任务。例如，2017年发布的《美国陆军机器人和自主系统战略》特别提到了自主系统以更低的成本和风险提高效率的能力

对于中国和俄罗斯等更专制的政权来说，AI意味着控制。人工智能系统可以让专制国家减少对人民的依赖，让他们在依赖较小、更忠诚的一部分人口的同时运作自己的军队

对人工智能军事应用的讨论比致命自主武器系统的问题更广泛《联合国某些常规武器公约》已经辩论了好几年。人工智能在军事目的中的一个应用可能是创建具有使用致命武力能力的自主系统，但还有许多其他应用

有效利用人工智能的障碍人工智能在军事上的应用面临着技术和组织方面的挑战，其中一些是对安全性和可靠性的一级担忧，可能会使企业脱轨，因此，引以为豪的现代军队基于人工智能的转型从未真正发生。这些技术挑战分为两大类：内部可靠性和外部利用

狭义人工智能系统的特殊性意味着它们被训练用于非常特殊的任务，无论是下棋还是解读图像。然而，在战争中，由于雾和摩擦，环境迅速变化，正如克劳塞维茨著名的概述。如果特定人工智能系统的应用环境发生变化，人工智能系统可能无法适应。这种基本的脆性因此成为系统可靠性的风险。在战场上相互对抗部署的人工智能系统可能会产生一个或多个系统无法理解的复杂环境，从而进一步加剧系统的脆弱性，增加事故和错误的可能性

人工智能的本质，即机器决定并采取最佳行动，可能会使预测人工智能系统的行为变得困难。例如，当AlphaGo击败世界上最好的围棋选手之一Lee Sedol时，第二场比赛中AlphaGo做出了一个不同寻常的举动，Sedol离开房间15分钟来思考刚刚发生的事情。事实证明，即使是一名精英人类玩家也不会考虑这一举动，但机器已经发现了这一点。这显示了人工智能在改进决策过程方面的巨大潜力。然而，军队是基于可靠性和信任运行的——如果操作员，无论是在指挥中心还是在战场上，都不知道人工智能在特定情况下会做什么，这可能会使计划复杂化，使行动更加困难，事故也更可能发生

为每一个可能的突发事件编程人工智能系统的挑战也会破坏可靠性。以一个经过训练可以玩俄罗斯方块游戏的人工智能系统为例。开发它的研究人员发现，人工智能已经训练自己在即将输掉比赛时暂停比赛，以完成指示它每一步都能最大限度地提高获胜概率的命令。人工智能的这种适应反映了超出大多数军队所能容忍的行为不确定性。带有偏见和适当训练数据的挑战可能会进一步使可靠性变得困难。可解释性是人工智能系统面临的另一个挑战。重要的是，一个系统不仅要可靠，而且要以允许他人信任的方式进行解释。如果人工智能系统在对图像进行分类或避开对手雷达时表现出某种方式，但无法输出其做出特定选择的原因，人类可能不太可能信任它。

可靠性不仅仅是人工智能系统设计的问题。战争是一项竞争性的努力，正如军队和情报组织在今天的和平时期和战争时期试图破解和破坏潜在对手的行动一样，拥有人工智能系统的世界也可能如此，无论这些系统是在堪萨斯州的后台还是部署在战场上。研究人员已经证明了图像识别算法容易受到像素级中毒数据的影响，从而导致分类问题。在开源数据上训练的算法可能特别容易受到这一挑战，因为对手试图“毒害”其他国家可能用来训练算法用于军事目的的数据。这种对抗性数据问题意义重大。黑客攻击还可能导致利用在更安全的网络上训练的算法，说明网络安全和人工智能在国家安全领域的关键互动

军队何时使用人工智能在关于人工智能和武器的公开对话中，一个经常被忽略的关键方面是，军队通常不想使用基于人工智能的系统，除非它们在完成特定任务方面明显优于现有系统，无论是解读图像、轰炸目标还是计划战斗

考虑到这些安全和可靠性问题，在竞争环境中，对手试图破坏彼此的系统，这些问题会被放大，人工智能在军事环境中有什么前景？军事力量不太可能停止仅仅因为这些安全问题而研究人工智能应用。但这些安全性和可靠性问题可能会影响开发的人工智能系统的类型，以及它们与“常规”军事行动规划的集成

考虑军事技术集成的三个层面——开发、部署和使用。在这些阶段中的每一个阶段，提高效率、降低人类士兵风险和降低成本的潜在前景都将与影响军队行为的安全性和可靠性挑战相竞争

人工智能的军事研究是在竞争环境中进行的。例如，中国全面推进人工智能研究，让美国许多人担心中国在人工智能能力上超过美国。考虑到人工智能集成可能带来的好处，许多军队将担心被其他行为者的能力甩在后面。没有哪个国家希望其战斗机、舰艇或坦克面临来自对手群的风险，或者仅仅是在作战环境中反应和射击更快的对手系统

尽管进行了建设，但我们仍处于将人工智能集成到军事系统的开端。杜克大学人类与自主实验室主任米西·卡明斯认为，尽管世界各地军队对自主系统的研究和开发有所增加，但进展是“渐进的”，各组织正在“努力实现从开发到作战实施的飞跃”，测试和集成活动应该揭示潜在的安全和可靠性挑战，并使其成为人工智能军事应用的关键投资领域。现在，军队可能会决定，在某些情况下，这些风险是可以接受的，因为他们有落后的风险，并且相信他们可以在飞行中纠正编程挑战。从本质上讲，军队将权衡人工智能领域的可靠性和能力之间的权衡，人工智能系统可能提供更大的能力，但也存在可靠性风险

在部署或使用人工智能系统时，军队可能会权衡特定冲突的具体考虑因素。随着冲突风险的增加，如果军方认为失败的可能性更大，那么在部署有巨大前景但也有可靠性问题的技术时，它自然会变得更容易接受风险。相比之下，随着赌注的下降，军方相信自己可以在承担较少技术风险的情况下获胜，人工智能系统的部署将滞后，直到军方相信它们与现有系统一样可靠或更可靠

军事和商业技术发展的历史表明，既有理由保持谨慎，也有理由相信安全和可靠性问题可能不会导致人工智能军事集成的全面停止——从军队的角度来看，也不应该。卡尔·本茨于1886年生产了第一辆由汽油驱动的内燃机驱动的汽车。这发生在燃气内燃机第一批专利申请后的一代人，而在奔驰汽车之后的另一代人中，汽车才超越马成为主要的交通工具。是什么花了这么长时间？答案是安全可靠。早期内燃机面临的挑战包括可靠性、成本、缺乏标准化机械、制造不一致以及由于内燃机驱动的汽车的复杂性而不断出现故障

每当发明新技术时，这个熟悉的故事就会重复。它们面临着重大的安全性和可靠性问题，同时承诺相对于现状具有更大的能力。有时，就像内燃机或飞机一样，这些问题会得到解决。其他时候，就像飞艇或飞艇的军事用途一样，安全问题迫在眉睫，以至于该技术从未变得比替代技术更有效

人工智能与战争的未来人工智能对世界的影响可能超过对军事力量和战争未来的影响。自动化对未来工作的影响可能会产生巨大的经济和社会后果，无论军方是否为特定军事领域开发人工智能应用程序，都会产生这种后果。法国总统埃马纽埃尔·马克龙最近认为，人工智能将扰乱商业模式和就业，其规模需要法国制定新的人工智能战略，以确保法国在人工智能发展方面的领导地位。不过，他对人工智能的一个潜在军事应用敲响了警钟，表示他“坚决反对”在战场上使用人工智能进行杀戮。然而，法国情报界已经在使用人工智能来提高数据处理的速度和可靠性，相信这有助于提高法国军队在战场上的表现

尽管存在安全和可靠性问题，但人工智能的潜在前景意味着世界各地的主要军队肯定会看到停滞不前的风险。从数据处理到集群概念再到战场管理，人工智能可以帮助军队更快、更准确地运作，同时减少人类面临的风险。或者不是。当前机器学习和神经网络方法普遍存在的安全性和可靠性问题意味着，对抗性数据等问题将对人工智能的许多军事应用构成挑战。

美国国家安全机构的高级领导人似乎很清楚美国在技术变革时代面临的风险。国防部长詹姆斯·马蒂斯最近表示，“现在还为时过早”，但他现在质疑人工智能是否能改变“战争的基本性质”。然而，与中国相比，美国在人工智能方面的投资相对较少，中国的国家人工智能战略正在中国学术界、商业界和军事界掀起投资浪潮。美国可能比一个世纪前的英国更清楚更广泛的技术变革可能会影响其军事优势，但这并不能保证成功。当人们考虑到任何技术的影响主要取决于人们和组织决定如何使用它时，情况尤其如此。从长弓打破骑士力量的方式到海军航空兵结束战列舰时代的方式，历史上充斥着认为自己仍然领先的大国，直到一场重大的战场失败

我们根本不知道人工智能对军队的影响是否会达到类似的规模。考虑到人工智能研究界对进步潜力以及安全性和可靠性挑战的不确定性，20年后，国家安全分析师可能会回忆起人工智能的“时尚”。但考虑到它作为一种技术的广度，与定向能源等特定技术相比，以及商业能源和对人工智能的投资程度，人工智能时代似乎更有可能至少在某种程度上塑造世界各地军队的未来

人工智能的前景——包括它提高从后勤、战场规划到人类决策的一切速度和准确性的能力——正在推动世界各地的军队加快研发。原因如下

人工智能（AI）正在国家安全领域占据一席之地。尽管公众可能仍然将军事背景下的人工智能概念与终结者系列中的人形机器人等同起来，但关于人工智能对国家安全后果的讨论已经显著增加。这些讨论涉及学术界、企业界和政府，从牛津哲学家尼克·博斯特罗姆对人工智能对人类构成的生存风险的担忧，到特斯拉创始人埃隆·马斯克对人工智能可能引发第三次世界大战的担忧，再到弗拉基米尔·普京关于人工智能领导力对21世纪全球力量至关重要的声明

这到底意味着什么，尤其是当你超越革命性变革的修辞，思考人工智能在军事上的潜在应用对现实世界的影响时？人工智能不是武器。相反，从军事角度来看，人工智能是一种推动者，就像电力和内燃机一样。因此，人工智能对军事力量和国际冲突的影响将取决于人工智能对军队和决策者的特定应用。以下是思考人工智能军事后果的关键问题，包括评估人工智能“是什么”的原则，以及它与过去的技术变化相比如何，军队可能使用人工智能做什么，使用人工智能的潜在限制，然后是人工智能军事应用对国际政治的影响

人工智能的潜在前景——包括它能够提高从后勤到战场规划的一切速度和准确性，并帮助改善人类决策——正在推动世界各地的军队加快对人工智能应用的研究和开发。对于美国军方来说，人工智能为维持其军事优势提供了一条新途径，同时可能降低美国士兵的成本和风险。对于其他国家，尤其是俄罗斯和中国来说，人工智能提供了一种潜在的更有价值的东西——破坏美国军事优势的能力。人工智能领导力的国家竞争与其他任何事情一样，或多或少是一个经济竞争和领导力的问题，但潜在的军事影响也是显而易见的。人工智能研究的速度和轨迹存在很大的不确定性，这意味着人工智能的承诺总是有可能变成更多的炒作而非现实。此外，安全和可靠性问题可能会限制军队使用人工智能的方式。

人工智能是什么样的技术人工智能代表使用机器或计算机来模拟被认为需要人类智能的活动，研究人员、公司和政府使用不同的人工智能方法，包括机器学习和神经网络。关于人工智能技术发展轨迹的现有研究表明，即使在人工智能研究人员中，人工智能的潜在发展速度也存在很大的不确定性。虽然一些研究人员认为，实现人工通用智能的突破只有几年的时间，但另一些研究人员则认为，可能需要几十年甚至更长的时间才能实现。因此，本文关注的是“狭义”人工智能，或人工智能解决特定问题的应用，例如AlphaGo Zero，一个旨在击败“围棋”游戏的人工智能系统。

从历史的角度来看，很明显，如果对技术发展持乐观态度的人是正确的，那么人工智能代表了一种具有潜力的广泛技术，根据创新的步伐，影响经济和社会的大部分领域。根据应用的不同，它可能是许多事情的一部分，而不是一个分立的设备，如火箭或飞机。因此，出于军事目的，人工智能被更好地视为一种推动者

人工智能对军队意味着什么然而，军队可能会对人工智能做些什么，为什么这对国际政治很重要？换言之，一些军队可能认为人工智能可以帮助他们解决现代战争的哪些挑战？人工智能的三个潜在应用领域说明了军队为什么感兴趣

首先，许多现代军队在数据方面面临的挑战与公司或政府普遍面临的挑战相似——数据往往太多，很难足够快地处理。处理信息的狭义人工智能应用程序提供了加快数据解释过程的潜力，从而解放了人力来完成更高级别的任务。例如，美国军方的Project Maven试图使用算法更快地解释无人机监控信息中的图像。这种用于军事的狭义人工智能应用具有明确的商业类似物，可能远远超出图像识别。从图像识别到处理公开或机密信息数据库，人工智能的处理应用可以帮助军队更准确、更快地解释信息，从而更好地做出决策

其次，从高超音速飞行技术到网络攻击，高级军事和文职领导人认为战争的速度正在加快。无论你是从OODA（观察、定位、决定、行动）循环的角度来思考，还是仅仅是想在敌人知道你到达之前攻击他们，速度都可以在现代战争中提供优势。然而，速度不仅仅是飞机或弹药的速度。速度关乎决策。就像远程驾驶系统一样，由人工智能“驾驶”的飞机摆脱了保护人类飞行员的限制，可以用驾驶舱中人类飞行员的许多优势换取速度和机动性。例如，在防空的情况下，当面临导弹的饱和攻击时，以机器速度运行可以使一个系统比一个人更有效地保护军事基地或城市，无论他或她有多能干，他的反应都可能被淹没。这已经是以色列铁穹系统运行的原则

第三，人工智能可以在战场上实现各种新的军事行动概念，例如经常被讨论的“忠诚的翼人”想法，该想法假设一名人类飞机飞行员或坦克驾驶员也可以协调一些无人居住的资产。然而，作战空间越复杂，那些“翼人”就越有用，因为他们的算法可以帮助他们在协调的人类控制器无法直接指导他们的情况下做出反应。同样，Swarm可能需要人工智能进行协调

显然，军队有动机研究人工智能的潜在应用，以提高军事效能。这些激励措施不仅仅是竞争问题来自其他军队的压力；促使各国走向自主武器系统的内部政治和官僚原因。对于美国等民主国家来说，理论上，自主系统有可能以较低的成本和人力风险完成任务。例如，2017年发布的《美国陆军机器人和自主系统战略》特别提到了自主系统以更低的成本和风险提高效率的能力

对于中国和俄罗斯等更专制的政权来说，AI意味着控制。人工智能系统可以让专制国家减少对人民的依赖，让他们在依赖较小、更忠诚的一部分人口的同时运作自己的军队

关于人工智能军事应用的讨论比联合国《某些常规武器公约》多年来一直在辩论的致命自主武器系统问题更为广泛。人工智能在军事目的中的一个应用可能是创建具有使用致命武力能力的自主系统，但还有许多其他应用

有效利用人工智能的障碍人工智能在军事上的应用面临着技术和组织方面的挑战，其中一些是对安全性和可靠性的一级担忧，可能会使企业脱轨，因此，引以为豪的现代军队基于人工智能的转型从未真正发生。这些技术挑战分为两大类：内部可靠性和外部利用

狭义人工智能系统的特殊性意味着它们被训练用于非常特殊的任务，无论是下棋还是解读图像。然而，在战争中，由于雾和摩擦，环境迅速变化，正如克劳塞维茨著名的概述。如果特定人工智能系统的应用环境发生变化，人工智能系统可能无法适应。这种基本的脆性因此成为系统可靠性的风险。在战场上相互对抗部署的人工智能系统可能会产生一个或多个系统无法理解的复杂环境，从而进一步加剧系统的脆弱性，增加事故和错误的可能性

人工智能的本质，即机器决定并采取最佳行动，可能会使预测人工智能系统的行为变得困难。例如，当AlphaGo击败世界上最好的围棋选手之一Lee Sedol时，第二场比赛中AlphaGo做出了一个不同寻常的举动，Sedol离开房间15分钟来思考刚刚发生的事情。事实证明，即使是一名精英人类玩家也不会考虑这一举动，但机器已经发现了这一点。这显示了人工智能在改进决策过程方面的巨大潜力。然而，军队是基于可靠性和信任运行的——如果操作员，无论是在指挥中心还是在战场上，都不知道人工智能在特定情况下会做什么，这可能会使计划复杂化，使行动更加困难，事故也更可能发生

为每一个可能的突发事件编程人工智能系统的挑战也会破坏可靠性。以一个经过训练可以玩俄罗斯方块游戏的人工智能系统为例。开发它的研究人员发现，人工智能已经训练自己在即将输掉比赛时暂停比赛，以完成指示它每一步都能最大限度地提高获胜概率的命令。人工智能的这种适应反映了超出大多数军队所能容忍的行为不确定性。带有偏见和适当训练数据的挑战可能会进一步使可靠性变得困难。可解释性是人工智能系统面临的另一个挑战。重要的是，一个系统不仅要可靠，而且要以允许他人信任的方式进行解释。如果人工智能系统在对图像进行分类或避开对手雷达时表现出某种方式，但无法输出其做出特定选择的原因，人类可能不太可能信任它。

可靠性不仅仅是人工智能系统设计的问题。战争是一项竞争性的努力，正如军队和情报组织在今天的和平时期和战争时期试图破解和破坏潜在对手的行动一样，拥有人工智能系统的世界也可能如此，无论这些系统是在堪萨斯州的后台还是部署在战场上。研究人员已经证明了图像识别算法容易受到像素级中毒数据的影响，从而导致分类问题。在开源数据上训练的算法可能特别容易受到这一挑战，因为对手试图“毒害”其他国家可能用来训练军事算法的数据目的。这种对抗性数据问题意义重大。黑客攻击还可能导致利用在更安全的网络上训练的算法，说明网络安全和人工智能在国家安全领域的关键互动

军队何时使用人工智能在关于人工智能和武器的公开对话中，一个经常被忽略的关键方面是，军队通常不想使用基于人工智能的系统，除非它们在完成特定任务方面明显优于现有系统，无论是解读图像、轰炸目标还是计划战斗

考虑到这些安全和可靠性问题，在竞争环境中，对手试图破坏彼此的系统，这些问题会被放大，人工智能在军事环境中有什么前景？军方不太可能仅仅因为这些安全问题就停止研究人工智能应用。但这些安全性和可靠性问题可能会影响开发的人工智能系统的类型，以及它们与“常规”军事行动规划的集成

考虑军事技术集成的三个层面——开发、部署和使用。在这些阶段中的每一个阶段，提高效率、降低人类士兵风险和降低成本的潜在前景都将与影响军队行为的安全性和可靠性挑战相竞争

人工智能的军事研究是在竞争环境中进行的。例如，中国全面推进人工智能研究，让美国许多人担心中国在人工智能能力上超过美国。考虑到人工智能集成可能带来的好处，许多军队将担心被其他行为者的能力甩在后面。没有哪个国家希望其战斗机、舰艇或坦克面临来自对手群的风险，或者仅仅是在作战环境中反应和射击更快的对手系统

尽管进行了建设，但我们仍处于将人工智能集成到军事系统的开端。杜克大学人类与自主实验室主任米西·卡明斯认为，尽管世界各地军队对自主系统的研究和开发有所增加，但进展是“渐进的”，各组织正在“努力实现从开发到作战实施的飞跃”，测试和集成活动应该揭示潜在的安全和可靠性挑战，并使其成为人工智能军事应用的关键投资领域。现在，军队可能会决定，在某些情况下，这些风险是可以接受的，因为他们有落后的风险，并且相信他们可以在飞行中纠正编程挑战。从本质上讲，军队将权衡人工智能领域的可靠性和能力之间的权衡，人工智能系统可能提供更大的能力，但也存在可靠性风险

在部署或使用人工智能系统时，军队可能会权衡特定冲突的具体考虑因素。随着冲突风险的增加，如果军方认为失败的可能性更大，那么在部署有巨大前景但也有可靠性问题的技术时，它自然会变得更容易接受风险。相比之下，随着赌注的下降，军方相信自己可以在承担较少技术风险的情况下获胜，人工智能系统的部署将滞后，直到军方相信它们与现有系统一样可靠或更可靠

军事和商业技术发展的历史表明，既有理由保持谨慎，也有理由相信安全和可靠性问题可能不会导致人工智能军事集成的全面停止——从军队的角度来看，也不应该。卡尔·本茨于1886年生产了第一辆由汽油驱动的内燃机驱动的汽车。这发生在燃气内燃机第一批专利申请后的一代人，而在奔驰汽车之后的另一代人中，汽车才超越马成为主要的交通工具。是什么花了这么长时间？答案是安全可靠。早期内燃机面临的挑战包括可靠性、成本、缺乏标准化机械、制造不一致以及由于内燃机驱动的汽车的复杂性而不断出现故障

每当发明新技术时，这个熟悉的故事就会重复。它们面临着重大的安全性和可靠性问题，同时承诺相对于现状具有更大的能力。有时，就像内燃机或飞机一样，这些问题会得到解决。其他时候，就像飞艇或飞艇的军事用途一样，安全问题迫在眉睫，以至于该技术从未变得比替代技术更有效

人工智能与战争的未来人工智能对世界的影响可能超过对军事力量和战争未来的影响。自动化对未来工作的影响可能会产生巨大的经济和社会后果，无论军方是否为特定军事领域开发人工智能应用程序，都会产生这种后果。法国总统埃马纽埃尔·马克龙最近认为，人工智能将扰乱商业模式和就业，其规模需要法国制定新的人工智能战略，以确保法国在人工智能发展方面的领导地位。不过，他对人工智能的一个潜在军事应用敲响了警钟，表示他“坚决反对”在战场上使用人工智能进行杀戮。然而，法国情报界已经在使用人工智能来提高数据处理的速度和可靠性，认为这有助于提高法国军队在战场上的表现

尽管存在安全和可靠性问题，但人工智能的潜在前景意味着世界各地的主要军队肯定会看到停滞不前的风险。从数据处理到集群概念再到战场管理，人工智能可以帮助军队更快、更准确地运作，同时减少人类面临的风险。或者不是。当前机器学习和神经网络方法普遍存在的安全性和可靠性问题意味着，对抗性数据等问题将对人工智能的许多军事应用构成挑战。

美国国家安全机构的高级领导人似乎很清楚美国在技术变革时代面临的风险。国防部长詹姆斯·马蒂斯最近表示，“现在还为时过早”，但他现在质疑人工智能是否能改变“战争的基本性质”。然而，与中国相比，美国在人工智能方面的投资相对较少，中国的国家人工智能战略正在中国学术界、商业界和军事界掀起投资浪潮。美国可能比一个世纪前的英国更清楚更广泛的技术变革可能会影响其军事优势，但这并不能保证成功。当人们考虑到任何技术的影响主要取决于人们和组织决定如何使用它时，情况尤其如此。从长弓打破骑士力量的方式到海军航空兵结束战列舰时代的方式，历史上充斥着认为自己仍然领先的大国，直到一场重大的战场失败

我们根本不知道人工智能对军队的影响是否会达到类似的规模。考虑到人工智能研究界对进步潜力以及安全性和可靠性挑战的不确定性，20年后，国家安全分析师可能会回忆起人工智能的“时尚”。但考虑到它作为一种技术的广度，与定向能源等特定技术相比，以及商业能源和对人工智能的投资程度，人工智能时代似乎更有可能至少在某种程度上塑造世界各地军队的未来

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

主题：人工智能的军事应用

分享：[addthis-tool=addthis_inline_Share_toolbox]

我需要知道这一点

我真的很感谢你的内容。这篇文章确实使我的兴趣达到了顶峰
我将为您的网站添加书签，并不断查看新信息。感谢分享。

我每天都会花半个小时的时间阅读这个网页的内容，同时喝一杯咖啡

Michael C.Horowitz是宾夕法尼亚大学Richard Perry教授兼Perry World House主任。。。阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介