新美国安全中心高级研究员Paul Scharre在自主武器方面有着相当好的资历。如果你听说过制定国防部自主武器指导方针的第3000.09号指令，沙尔领导了起草该指令的工作组。他将于4月出版一本相关书籍：《无人军队：自主武器与战争的未来》

值得一提的是，沙尔还领导了一个国防部团队，制定了定向能源技术的指导方针。另一个是关于情报、监视和侦察。在进入五角大楼之前，他曾在阿富汗担任陆军游骑兵，在伊拉克担任民政专家

当Scharre同意接受Bulletin关于自主武器的采访时，结果是对自主武器的实用性、部署在战斗中的可能性以及“杀手机器人”的反对者在主张禁止自主武器时犯了什么错——非常非常错

LUCIEN CROWDER：首先，你被部署为伊拉克和阿富汗的陆军游骑兵，对吗

保罗·沙尔：是的。我做了四次海外之旅，三次在阿富汗，一次在伊拉克。我曾在阿富汗陆军第三游骑兵营服役，后来被派往伊拉克担任民政专家

CROWDER：我明白了。现在，你有没有遇到过需要获得自主或半自主武器的作战情况？如果是的话，你能告诉我他们的情况吗

SCHARRE：这似乎是一个微妙的区别，但在讨论中经常会被忽略，我认为这真的很重要——我认为在许多情况下，拥有某种远程武器系统会非常有价值。在潜在威胁和士兵之间创造更多距离的东西。特别是，在叛乱分子和游击队的冲突中，有很多非常模糊的情况，士兵必须在瞬间做出决定。有人向你走来，你不确定他们是否会构成威胁。这使[士兵]处境非常困难。他们正在平衡担心，如果接近他们的人穿着自杀背心，或者驾驶着装满炸药的汽车，可能会对他们或他们的队友造成潜在伤害，而他们可能只是一个无辜的平民，只是迷路了，或者没有注意到。我们总是遇到这种情况；2007年和2008年，在战争高峰期，我所在的伊拉克地区出现了非常严重的自杀背心问题

但我想说，根据我在这些冲突中的经验……模糊程度和做出这些决定所需的背景，很难想象用我们今天拥有的任何[人工智能]工具来编程一台机器来做出[关于使用致命武力]的决定。即使是一些基本的工具，以及实验室中最尖端的工具，当你考虑在现实世界中应用这些工具时，当前的人工智能也太脆弱了，无法真正理解这种背景。这是一个主要的限制

CROWDER：我明白了。现在，当你说你可能想要能创造更多距离的东西时，你基本上是在说某种无人机，对吧？我的意思是，不是在空中，但…

SCHARRE：是的，当然，只要你不是在空中环境中考虑它，对吧？对很多人来说，他们设想飞机在很多情况下，可能有价值的是某种基于地面的系统，它基本上可以用作检查站或小队中的点人、点队友、[或]机器人队友——所以当你沿着小巷移动时，如果你愿意的话，会有一个固定或移动的机器人系统周界，任何潜在的威胁都会首先遇到。你可以想象这两种[类型]都在基地周围——有一个远程控制的机器人哨兵的外围，就像韩国人放在非军事区的[SGR-A1]枪一样。然后，对于机动小队，我会设想一个类似于空中和地面机器人系统的云，它可能会跟随小队，提供外围安全并识别潜在威胁。或者他们在人类的监督下，根据他们的指导，可能会做出相应的反应

CROWDER：现在，在什么样的冲突中，你认为自主和半自主武器才是最合适的？因为听起来它们不太适合你所做的事情

SCHARRE：我认为你可能会设想，在军队真正瞄准其他军事装备的情况下，自主武器是最有用或最可行的。我认为，从瞄准的角度来看，[那种环境]会容易得多，而且[自主武器]在[一个地区]最具军事价值。速度上的优势，以及在没有通信的情况下运行，将是最有价值的

我认为在关于自主武器的对话中经常会忽略一些东西——这种自主武器的价值是什么？为什么有人想制造一种自主武器？我认为，这在讨论中不知何故被忽略了，有时是因为无人监督的自主武器的概念与机器人或无人驾驶车辆混为一谈

在这些讨论中，你有时会听到各方人士混淆了一些可能适用于仍有人参与的远程控制系统的概念，而不是自治系统。例如，我有时会听到的一个担忧是，如果我们拥有自主武器，那么军队将能够在不将人民置于危险之中的情况下进行战争，这将导致更多的战争。这可能是真的，但这实际上是关于拥有没有人的远程操作系统。无论是否有自主武器，这都是一个问题

CROWDER：转向另一种问题，你领导了五角大楼工作组起草了第3000.09号指令，该指令于2012年制定了国防部关于自主武器系统的指导方针

SCHARRE：是的

CROWDER：该指令中几乎第一句真正实质性的话是，“自主和半自主武器系统的设计应允许指挥官和操作员对武力的使用行使适当水平的人类判断。“我听到了一些模棱两可的地方——指挥官和操作员是否会行使判断，而不仅仅是能够进行判断。这是真的模棱两可，还是我读得太多了

SCHARRE：哦，我明白你在说什么了。不，我不认为这是模棱两可的。我认为这是为了指导不同类型的演员，对吧？有对设计和测试武器系统的人的指导，也有对实际使用武器系统的人员的指导。他们在官僚机构中是不同的人。我认为重要的是要记住，[国防部]的指令并不是为了……国际辩论的目的而公开声明美国政府对自主武器的政策。今天正在进行的国际辩论，我认为非常重要，在当时真的不是一个问题。他们只是还没上来

该指令实际上是针对部门内部受众的。有一份指导意见是写给研究人员、开发武器人员、测试武器人员、使用和使用武器人员的。这些是[国防部]内部不同的受众，是不同的官僚行为者。稍后还有一句话——我没有直接面对它——它确实为使用武器的人提供了指导。事实上，在一些地方，它为使用它们的人提供了指导，并指导他们应该如何行事

CROWDER：好的，明白了。现在，你看到全自主作战的部署了吗武器是不可避免的——如果不一定是美国的，那么在某个时候是某人的

SCHARRE：我认为这是个好问题。我认为这项技术肯定使它成为可能，对吧？这在技术上是可行的。我认为这取决于你所说的部署是什么意思——广泛使用，在整个战争中常见，还是孤立的情况？我认为化学武器是今天一个有趣的例子，国际上对化学武器普遍反感，但通常不在乎的政权仍在孤立的情况下使用化学武器

我认为很难想象一个世界，在这个世界上，你会从流氓政权手中夺走制造自主武器的能力。这项技术无处不在，一个相当有能力的程序员可以在他们的车库里制造一种粗糙的自主武器。建立某种防扩散制度，使底层技术不落入人们手中的想法似乎真的很天真，也不太现实。我认为，在这样的世界里，你必须预料到，至少会有恐怖分子和流氓政权利用。我认为，我们是否跨越门槛，进入一个民族国家大规模使用它们的世界，这更是一个悬而未决的问题

如果是这样的话，我认为值得一问，我们用“他们”来形容什么？多大程度的自主权？目前至少有30个国家在使用一些自动化防御系统，我将其描述为人类监督的自主武器——一个人在循环并监督其操作。它们已经使用了几十年，似乎真的没有带来机器人分析或任何东西。我不确定这些[系统]是否特别有问题。事实上，在机器人群集和协作自主等变得更加可能的时代，人们可以认为它们更加有益和有价值

我们谈论的是杀伤人员武器还是反车辆武器？这在过去是地雷等各种武器的重要区别。在一些关于这个话题的讨论中，你会看到人们做出了这种区分，他们似乎主要关心杀伤人员武器——但不是在所有情况下，对吧？对这一概念的一些担忧更多地适用于杀伤人员武器，而另一些则不然。我认为，自主武器不可避免的问题是一个非常有争议的问题，部分原因是，我认为，双方——既支持又反对禁令的人——都把它当作一种逃避，对禁止和限制武器的挑战进行诚实而严肃的讨论。我认为，支持禁令的人往往会掩盖在战争中实际实施相互克制的一些实际现实。仅仅有一个条约是不够的。达成条约的政治是一回事，但仅仅达成条约是不够的。过去有很多例子表明，各国都有禁止武器的条约，但这种武器仍在战争中使用。你是如何成功克制的

另一方面，我认为也有人反对这项禁令，他们经常用这种关于技术必然性的论点来停止讨论，并说：“好吧，一切都是不可避免的，这项技术会存在，所以我们只需要先把它建设得更好。”我认为这不是真的。战争中有成功克制的例子——但也不意味着，仅仅因为别人要做某事，这是一个好主意。人们对安全和可控性等问题有合理的担忧——因此，即使另一个国家确实制造了这样的武器，也不一定意味着正确的答案是自己更快地制造更多的武器

CROWDER：现在，我想我可以猜出你对下一个问题的大致答案，但无论如何我都会问的。有没有可能想象一个未来，来自最先进军队的士兵很少因为不去战区而面临身体风险

SCHARRE：不，我认为这不可能。我认为，很多讨论——人们从今天的无人机推断出这种不流血战争的概念，机器人与其他[机器人]作战——都是[不现实的]，原因有很多。一个是，在技术层面上，通信——以及无法为通信提供远程[免受干扰]——将促使军队将人员投入前线。他们可能不在战场的边缘，但他们需要相对靠近，才能控制无人居住的系统。现在，军队在无人机上使用的模式基本上是远程驾驶或远程驾驶受控。这是一个非常脆弱的模式，因为如果你干扰了通信链路，这些无人机就会变得愚蠢，它们不会真正做任何建设性的事情

显然，人们渴望更多的自主性，但有时人们会立即跳到光谱的另一端，去做完全自主的事情。[这意味着]有点含糊，有点含糊。但是（人们想象一种完全自主的武器）自己做出所有这些复杂的决定。这也很难想象。有时人们会得出这样的结论，“好吧，这项技术是骗人的”，或者“它不能使用。”有时你会听到军方的人想禁止这项技术。军事人员会说：“哦，这些东西是垃圾。”虽然研究实验室里发生了一些非常有趣的事情，但至少美国军方在推进和将机器人系统整合到部队中方面进展非常缓慢。很大程度上是因为这种对控制范式和这些通信的脆弱性的担忧

先进的军队可以建立抗干扰的通信，使他们能够在通信链路可能被对手干扰的竞争环境中作战。但它们的范围和带宽有限，因此在有争议的电磁环境中，你将无法在全球范围内传输大量数据。这是不可能的。我认为这促使我们开始考虑人/机合作。人们乘坐各种交通工具——船只、飞机、坦克或潜艇——在作战空间中前进，他们有相对靠近的机器人队友。也许机器人队友在山上，或者稍微向前，用传感器探测敌人。人在相对较近的地方，协调它。车辆有高度的自主性，但人仍在做出一些决定

另一件事是，你会发现很难将致命武力决策自动化到你可以接受的水平。但在战场上的适应性和灵活性[也将是一项挑战]。有一句格言，没有一个计划能在与敌人的接触中幸存下来。军事人员计划、进行作战演习和训练，使作战人员对如何作战有一个良好的概念。但归根结底，军方希望他们的士兵在战场上适应能力强、灵活性强，这才是真正的制胜之道。机器在这方面非常非常差。我们根本不知道如何制造出能做得很好的机器。这也是为什么我认为你希望附近的人能够对系统进行非常灵活、实时的控制的另一个原因。我认为，如果不这样做，那将是一种非常残酷的军队，它可能能够以非常精确、准确和快速的方式做事，但如果敌人采取创造性的手段欺骗系统，最终可能会失败

但我认为还有一个更广泛的哲学观点。当我观察机器人系统时，我认为它们是战争中距离不断增加的新一步，[这可以追溯到]第一次有人捡起石头扔给别人。在每一个时间点上，人们都倾向于使用能让他们保持更大距离的武器，但人们仍在与他人作战，他们仍在杀害他人。他们现在只是用大炮或导弹杀死他们，或者我认为未来会是机器人系统。但归根结底，在政治层面上，迫使战争结束的将是对人类的暴力。这是悲惨和可怕的，但我认为这就是战争的现实，所以我认为这不太可能改变

CROWDER：现在，为什么无人机——我相信是从佛罗里达州起飞的——尽管存在通信问题，但今天仍能在阿富汗工作？这仅仅是因为像阿富汗这样的地方的对手相对不成熟吗

SCHARRE：是的，因为塔利班或伊拉克和叙利亚等地的ISIS没有能力干扰美国无人机的通信链路。几年前发生过一些事件，他们拦截了当时未加密的视频，你基本上可以用一台旧的超高频电视来接收。但控制系统的实际指挥环节则完全是另一回事。这些类型的演员没有能力真正干扰这些。但对于另一个主要民族国家来说，情况肯定不会如此

CROWDER：这听起来并不是一个非常复杂的能力

SCHARRE：不，不是真的

CROWDER：现在，让我们看看，许多公告读者将熟悉反对自主武器的论点，比如你可能听听“制止杀人机器人运动”或“生命未来研究所”的意见。但是，对这些武器的发展表示同情的论点将不那么熟悉。我知道你认为自主武器带来了社会必须应对的法律、道德和伦理问题。但是，如果社会确实在应对这些问题，你准备好提出一个论点，即自主和半自主武器不仅会被开发，而且应该被开发吗

SCHARRE：正如我前面提到的，我认为[无人驾驶汽车]有很多巨大的好处。至于总体上的自主性，在车辆和武器方面，我认为自主性有很多好处。完全自主武器的概念——这个词被抛来抛去，有时没有太多定义——但我在这里要说的是，我的意思是，一个可以自己完成整个瞄准交战周期的武器系统。它可以去寻找目标，找到他们，自己决定，“是的，这是一个我要参与的有效目标”，然后在没有任何人类参与或人类监督的情况下独自攻击

[人们已经对这些[系统]提出了]一些反对意见，对吧？我认为，最有力的论点之一是，机器无法理解其行为的更广泛背景，这一论点涉及人们提出的许多法律、道德和战略问题。他们可以非常准确地识别物体是什么——事实上，在某些情况下比人类更好：“是的，这是一个人拿着的AK-47。”[但]了解这种情况的背景——这个人是谁，他们为什么在这里？[机器]在[这些任务]上确实做得不太好。人类在这些方面做得很好。我认为让人类参与这些事情可能有很多很好的理由

我们真正想要完全自动化这些武器的情况相对较小。在有些地方，你会担心另一个民族国家会干扰通信链路，而互动的速度非常重要。你可能想派遣一架机器人战斗机进入敌对地区，也许是为了追捕敌人的雷达系统，你知道通信会被干扰，车上没有人很重要，因为这可以让它变得更小、更隐蔽，或者给它带来其他性能优势。或者只是在充满敌意的环境中冒更大的风险。而且你正在寻找移动目标，所以除了要寻找的系统类型的基本参数外，你无法真正对目标进行预编程

我认为可能有一些孤立的案例，从军事角度来看，你可以说这里有价值，对吧？这给军队提供了他们想要的重要能力。我认为从风险的角度来讨论利弊是值得的。有什么好处？风险是什么？我们应该如何看待各种类型的伤害，平民伤害？也许是出于对人的伦理考虑，为此承担道德责任。但我认为，全面废除人类在战争中杀人的责任似乎不是一个好主意。总的来说，我们应该尽可能让人类参与致命武力的决策过程。我真的不知道这在实践中到底是什么样子

CROWDER：好的，足够好了。在我的工作中，我阅读并思考了很多关于核武器的内容，所以我忍不住从威慑的角度思考武器系统。我知道自主武器与核武器不是很相似，但你如何评估自主武器的威慑潜力？比方说，对于一个无赖国家、同行竞争对手或恐怖组织来说，[自主武器]会起到威慑作用吗

SCHARRE：好吧，让我提出两种不同的威慑模型。一种是更强大的军队的广义概念。拥有一支更强大的军队可能会让其他人对侵略更加望而却步，对吧？因此，总的来说，如果你知道这支军队拥有更先进的能力，无论是机器人、自主武器还是其他新型先进的军事部件，其他人可能会更害怕对该国采取敌对行动

核武器让人想起了一种更具体的威慑模式，那就是你可以想象一个世界——而这从未与核武器一起发挥作用——但人们理论上认为，在这个世界上，国家之间可能会进行常规级别的战争，核武器作为一种特殊武器被保留，受到不同的对待。这是一个有争议且最终未经测试的命题，目前尚不清楚常规武器和核武器之间的防火带在实践中会保持不变，甚至坦率地说，无论冷战期间的苏联理论家是否这样认为。苏联的战争计划一开始就涉及在欧洲大规模使用核武器

所有主要军事大国都可以获得自主武器，因此它最终成为一个相当平等的竞争环境。我不确定（自主武器）是否会在他们之间产生影响——或者坦率地说，最终会在他们和一个较小的军事力量之间产生实质性的差异。[但]你可能会想象一个世界，军队会说，“我们将保留这些自主武器，并将其作为最后手段进行部署，只是为了真正打击其他自主武器。”

如果你愿意的话，问题是想象完全自主和半自主武器之间有一个非常明确的区别。这是任何类型的概念或约束思考的问题——比如说，如果未来的隐形机器人飞机用于作战。你怎么知道它是在人在回路中使用还是在完全自主模式下使用？我不知道。除了抓住那架特定的飞机，然后检查它的代码……即使你观察到系统的行为，也无法从外部判断，除非你干扰了它的通信链路，所以你确信它被干扰了——也许这样你就可以判断了。但除此之外，效果也差不多

[自主武器]与其他武器非常不同，比如核武器或核运载系统，[或]导弹发射器[或]潜艇——你可以查看并计算它们。它们是实物资产，你可以从远处——甚至从卫星上——验证是否有人遵守了约束。[但是]很难知道，如果你不知道[一种]武器是否[自主]使用，你如何才能真正在任何层面找到一种有效的克制模式——无论是和平时期的克制，人们甚至害怕制造这种克制；或某种军备控制制度；或者战时克制，就像第二次世界大战期间化学武器的情况一样，军队有化学武器储备，但实际上并没有相互部署

CROWDER：等等，对不起。我们是如何从威慑走向克制的？我有点忘了连接

SCHARRE：我想他们打成平手了。当你想到威慑时，我会想到“我更强大，更强大”的一般概念，这可能会威慑你。然后是一个具体的模型，“我将保留我的自主武器，并使用它们，就像你可能想象的那样，核武器被使用，以阻止你也使用自主武器。”。这似乎是一个很有吸引力的模式——军队拥有这些自主武器，并说：“好吧，如果你这样做的话，我会同意在有人参与的情况下使用它们。除非你这样做，否则我不会切换到全自动。”但如果你不能真正核实人们在做什么，我不知道你是怎么做到的

CROWDER：对。因为只有在战斗中才能进行核查，如果有的话，这确实让核查变得非常困难，对吧

SCHARRE：嗯，这在战斗中似乎根本不可能，对吧？如果这个机器人武器出现并向你射击，你怎么知道是否有人参与了决策

CROWDER：嗯……当它只是坐在柏油路上时，你肯定什么都说不出来

SCHARRE：那当然不是。特别是因为实现自主武器的物理功能，以及在某种程度上传感器和软件等数字功能，基本上与有很多自动化过程但仍有人参与的东西相同——[只是]添加了一个全自动模式。实际上，你可以想象军队会说，真诚地说，“我们将永远让一个人参与其中。”并为此建立所有的武器系统。然后，在战争进行到一半的时候，“你知道吗？实际上我们想制作全自动模式”，并用软件补丁对其进行升级。因为这项技术只会让这成为可能，对吧？从技术上讲，让人参与和不参与之间的界限可能只是几行代码

CROWDER：明白了。让我在这里讨论我的最后一个问题，关于俄罗斯。联合国机构正在就自主武器进行外交讨论，但到目前为止还没有取得那么多进展——据我所知，俄罗斯反对监管是主要原因。[但]我不完全理解为什么在战略层面上，俄罗斯会采取这种做法。我知道普京曾表示，无论谁赢得（人工智能）竞赛，都将统治世界，但在我看来，俄罗斯在自主武器技术方面与美国或中国匹敌或超越的希望不大。莫斯科为什么要无限制地发展自主武器

SCHARRE：这个问题有很多问题。让我停顿一下，思考如何以合理的方式打开它

CROWDER：当然，当然

SCHARRE：老实说，我想首先，我看不出俄罗斯和美国的立场之间有多少分歧。两国基本上都表示，他们认为现有的国际人道主义法已经足够了，没有必要建立任何新的制度。在战术上，就沟通方式而言，可能会有细微的差异，但归根结底，没有一个主要的军事力量支持禁令。在支持禁令的22个国家中，没有一个是主要的、领先的军事大国或机器人开发商。[一些问题]推动了这种立场——不仅来自俄罗斯，也来自一些国家

一个原因是，在国际讨论中，禁令的理由没有得到很好的阐述。这只是一个直接的现实，对吧？那些试图为禁令辩护的人做得很糟糕。主要的论点是，自主武器应该被禁止，因为它们不符合国际法。这是一个糟糕的论点，原因有很多。第一，这是循环的——如果它们不能遵守国际法，那么它们就已经是非法的，所以没有理由禁止它们。这根本没有任何意义。从逻辑上讲，这没有任何意义

第二，[争论]取决于当今的技术状况。对自主武器的许多反对意见都围绕着这项技术今天能做什么，以及它不能做什么。嗯，技术发展得非常非常快，所以这真的是一个糟糕的基础。18个月后，可能发生的事情可能会发生巨大变化。就在关于自主武器的国际讨论开始的几年里，我们看到了人工智能和机器学习的巨大进步。10年前，人们会理所当然地说：“看，机器在物体识别方面很糟糕——你怎么可能制造出一台能够准确识别物体的机器呢？”现在，（机器）实际上在标准的基准测试中击败了人类。[诚然，]如今机器进行物体识别的能力存在巨大的局限性。他们不太了解上下文，而且显然存在对抗性的数据问题，比如愚弄图像，目前还没有很好的解决方案。这些可能会持续很长一段时间，也可能在一夜之间发生变化——对吧？很难知道。但我认为，“好吧，根据今天的技术状况，这是不好的”这句话对很多人来说都站不住脚

第三个问题[支持禁止自主武器的论点]是，[这些论点]基本上围绕着平民伤害和人道主义伤害。我认为这主要是人们习惯的一个功能。参与“阻止杀人机器人运动”的人——他们中的许多人在之前的地雷和集束弹药运动中都有经验，这些运动是由人道主义伤害引起的。[但对于地雷和集束弹药]，你确实受到了人道主义伤害，这是真实的，正在发生。有人被地雷和集束弹药炸死或致残。你可以进入国际环境，公平地批评外交官和国家没有采取行动

事实并非如此。这是一个假设。也许这些事情会对平民造成损害，也许不会。但在缺乏真正证据的情况下，特别是考虑到自动化在精度等方面非常擅长，有一些合理的论点——你可能不会选择相信它们，但它们至少是合乎逻辑的——为什么你可能认为自主武器实际上可能更能避免对平民的伤害。当然，在过去几十年里，精确制导弹药极大地减少了战争中对平民的伤害。例如，当你看到今天使用精确制导武器空袭造成的平民伤亡，与第二次世界大战中对城市的大面积轰炸相比，这是一个完全不同的世界

另一个问题是，关注人道主义伤害会使军队基本上附带关注的问题与重要关注的问题对立起来。你基本上是在告诉军队，“看，我们想拿走你的武器，这可能很有价值，可能改变游戏规则，可能是一种赢得战争的武器，因为它可能会对平民造成伤害，而这在今天是不真实的。”大多数国家都非常关心国际人道主义法和平民伤害，对吧？你可能会看到俄罗斯这样的国家说，“嗯，他们不太重视（国际人道主义法），”你可能会看看他们在乌克兰或其他地方的行为，说，“好吧，他们对平民伤亡没有表现出足够的关注。”但他们想关心多少就关心多少，对吧？这不是一个真正引起各国共鸣的论点

当你审视禁止武器的尝试时，从最近的历史来看——民间社会中的非政府行为者出于人道主义原因试图向各州施压，要求其禁止武器——从历史上看，这实际上是非常不寻常的。大多数禁止武器的尝试，无论成功与否，都是由大国推动的。19世纪末和20世纪初有一些协议，当然还有大量冷战时期的双边和多边协议。所有这些都是由大国出于各种原因试图限制武器所推动的。也许是因为它们对平民造成了伤害，或者给战斗人员带来了不必要的痛苦，或者它们无法控制或破坏了稳定，或者其他原因。但它是由各州推动的

《联合国某些常规武器公约》的动态从一开始就是，非政府行为者试图从政府手中夺走他们可能认为非常有价值的工具。各国互不信任，对吧？因此，俄罗斯或其他国家不一定会说：“我真的需要这些自主武器。”只是他们中没有人相信，如果他们真的放弃了，其他国家也会放弃

如果禁令真的要在政治上实施，你可能需要克服三个主要障碍。一个是，各国需要能够克服这种对彼此的不信任，这样他们就知道，如果他们放弃武器，其他国家也会放弃

[20]，他们需要相信，他们放弃他们的原因是有道理的——这样做符合他们的利益，而不是让非政府组织高兴。[这一论点]引起了一些国家和一些西方民主国家的共鸣。这不会引起像俄罗斯这样的国家的共鸣

[三，必须有]一种方法可以清楚地区分什么是进来的和什么是出去的。这是自主武器的一个真正问题，因为定义问题有点模糊和难以捉摸，而且显然存在一系列的自主性。人们必须能够真正明确地同意：这是一种被禁止的武器，也是一种合法的武器。这些都是严重的障碍，实际上那些试图为禁令辩护的人没有付出任何努力。相反，有像这段“屠宰场”视频这样的东西——我最近写了一篇对此的评论——这并不是一次认真的尝试，也不是对人们对禁令可行性的担忧做出回应。这只是试图激起公众恐惧的一种方式

我认为，在那些想要禁令的人真正关注并试图说服各国为什么支持禁令符合他们的利益之前，我很难看到各国真的会支持禁令。俄罗斯为什么要支持禁令？这对俄罗斯有什么好处？因此，如果人们担心这些自主武器可能会失控并杀死一群平民，我猜俄罗斯人可能不会觉得这是一个非常有说服力的论点，或者他们并不特别担心。如果争论是关于问责制的，我也不知道这会引起他们的共鸣，对吧？那么，支持禁令符合他们利益的理由是什么呢

CROWDER：好吧，我一时想不出你的答案

你提到了其他导致达成国际协议的军备控制努力，你说追求这些协议符合各国的利益。但（来自非政府组织的）压力在很多情况下肯定与此有关。你不会说吗

SCHARRE：你在想什么

CROWDER：集束弹药、地雷…

SCHARRE我认为对于这些情况，我会说是的，[非政府]的压力在实现这些目标方面起着决定性作用。[但]我认为，当你看到武器被禁止的广泛模式时，这些实际上是不寻常的例外。现在，[非政府组织]正在使用地雷和集束弹药的战术手册。我认为这种策略在这种情况下不太可能奏效

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

主题：人工智能、网络安全、颠覆性技术、访谈、技术和安全

史诗般的，每当人工智能的其中一个变得野蛮时，无辜的人就会死去，并没有人会面临后果。他们将确保程序员完全不受任何司法、监督和问责的惩罚。（所以失败将是惊人的。）看机器人警察一号…事情就是这样

Lucien Crowder是《原子科学家公报》的高级编辑。他负责监督《公报》对化学武器的报道，。。。阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介