1997年，IBM的深蓝超级计算机击败了国际象棋世界冠军加里·卡斯帕罗夫，世界震惊了。20年后，世界冠军国际象棋项目Stockfish 8在100场比赛中被谷歌的人工智能软件AlphaZero击败。最大的区别是：AlphaZero在不到四个小时内自学了如何下棋！顺便说一句，它赢了或平局了所有100场比赛！另一个21世纪技术重大飞跃的例子是波士顿动力公司的Atlas机器人在一个盒子的景观中跑酷（见这里令人难以置信的、有点吓人的视频）。不需要太多的想象力就可以看到未来这两种情况下的军事应用潜力。这就引出了一个问题，监管新兴技术是否已经太迟了

乌尔里希·库恩

乌尔里奇·库恩是卡内基国际和平基金会的非居民学者，也是汉堡大学和平研究与安全政策研究所军备控制与新兴技术项目的负责人

更多>

@UlrichKuehn博士

到目前为止，国际社会对新兴技术和相应的武器系统进行了监管，并考虑到三个一般目的：（1）限制或防止不必要的或广泛的人类痛苦，（2）防止某些行为者获得某些技术，以及（3）防止全面战争，即核战争。从历史上看，防止核战争是管理战争技术的最年轻的广泛努力。（顺便说一句，已知最古老的努力可以追溯到中世纪，1139年教皇英诺森二世禁止对基督徒和天主教徒使用弩。）

随着20世纪大规模杀伤性武器和国际人道主义法的出现，规范技术进步的努力已成为一种规范，在数十项双边和多边国际安排中得到了体现，以限制或在一定程度上控制核、生物、化学、导弹和其他武器及其相应技术。出口管制、不扩散文书以及军备控制和裁军协定已成为国际社会管理军事和两用技术工具包的一部分

人工智能（AI）、无人机或基因工程（CRISPR/Cas）的最新一波技术突破引发了人们对人类通过共同制定规则来确保自身生存能力的新兴趣。但为了成功地监管当今的新兴技术，我们应该首先消除一些误导性的假设。我试图在下文中解决其中三个问题，但并不声称这个列表是完整的

一个经常在联合国等多边论坛上提出的假设是，当今的新兴技术与以往的发明相比，其发展速度要快得多。隐含的担忧是，国际监管政策无法跟上步伐。虽然第一种假设至少值得怀疑，但后一种假设可能是正确的。问题是，当时有什么不同吗？国际社会花了将近四分之一个世纪的时间才制定出防止核武器扩散的全球法规。导弹技术控制制度是在首次远程火箭发射近50年后才形成的。可以说，随着古巴导弹危机的爆发，冷战超级大国在就一些规则达成一致之前，必须先跑到边缘

从这个角度来看，联合国目前努力在所谓的致命自主武器系统（有时称为“杀手机器人”）成为世界政治的危险特征之前对其进行监管，或者在核供应国集团的情况下，积极应对3D打印的潜在扩散影响，这无疑是积极的信号。在监管需求明显增加之际，更令人担忧的事态发展是自二战结束以来充当国际监管努力火炬手的一个国家的退缩——美国从多边外交中的退缩

另一个假设是，新兴技术正在挑战现有的军备控制和裁军协议。同样，隐含的担忧似乎是，新的技术发明可能会导致几十年前的条约崩溃。关于高超音速滑翔飞行器及其对美俄《新削减战略武器条约》未来的潜在影响，或者俄罗斯关于无人机的声明以及《中程核力量条约》（INF）的结束，都经常被引用为例子

再次，问题更多地在于政治领域而非技术领域。关于新武器系统或新技术使能手段的分歧并非新鲜事，在过去，遵守军备控制的国家通常利用技术工作组来解决这些问题，以调整相关规则或使其现代化。不幸的是，随着一些国家对军备控制和更广泛的军事克制的兴趣减弱，对合作解决共同问题的兴趣也消失了。在这方面，我们不应该让技术成为政治利益变化的替罪羊

最后，我们似乎认为我们的战略概念和术语仍然适合于应对新兴技术的影响。一个典型的例子是将所有的“网络”都归为“威慑”/“军备控制”二分法。首先，大多数网络武器都是在非常秘密的环境中开发、储存和使用的。与传统的军事装备不同，网络武器可以明显地部署和使用，例如用于“信号”或“保证”任务，但不能这样使用，否则至少会造成“意外升级”的巨大可能性。Anon，“升级”和“升级管理”的经典法则在无法用“水平升级”或归因来定义的环境中不起作用，因此“进攻行动”的“重要性”也无法定义。

未来战场上主要由杀手机器人居住的“升级管理”也是如此。如果不涉及人类的痛苦，或者至少最初不涉及人类痛苦，哪些行动会如此重要，以至于被视为“升级”？尝试阅读托马斯·C·谢林（Thomas C.Schelling）或赫尔曼·卡恩（Herman Kahn）的一些经典作品，同时考虑到网络空间、杀手机器人或无人机群，你会立即遇到一些严重的概念问题。然而，这并不意味着我们应该废除这些概念——当然，只要我们继续依赖老式的核威慑，就不会废除这些概念

总之，监管新兴技术仍然是可能的，许多国家每天都在各种论坛上参与此类努力。然而，如果我们认真对待这一挑战，我们将不得不提出一些新颖的、当然更具创造性的想法。也许我们应该从质疑我们自己对当今新兴技术性质的基本假设，以及我们对如何确保21世纪和平与安全的理解开始

本文最初在瓦尔代俱乐部发布

简介