阅读我们的Oppenheimer系列

作者Ian Reynolds|2023年3月28日

<源尺寸=（最大宽度：1024px）100vw，1024px srcset=https://thebulletin.org/wp-content/uploads/2023/03/32504299827_1e8bed7bbe_o-1024x683.jpeg.webp1024w，https://thebulletin.org/wp-content/uploads/2023/03/32504299827_1e8bed7bbe_o-300x200.jpeg.webp300w，https://thebulletin.org/wp-content/uploads/2023/03/32504299827_1e8bed7bbe_o-768x512.jpeg.webp768w，https://thebulletin.org/wp-content/uploads/2023/03/32504299827_1e8bed7bbe_o-1536x1024.jpeg.webp1536w，https://thebulletin.org/wp-content/uploads/2023/03/32504299827_1e8bed7bbe_o-555x370.jpeg.webp555w，https://thebulletin.org/wp-content/uploads/2023/03/32504299827_1e8bed7bbe_o.jpeg.webp1920w type=images/webp> 终结者半机器人骨架高度=683尺寸=（最大宽度：1024px）100vw，1024px

终结者半机器人骨架高度=683尺寸=（最大宽度：1024px）100vw，1024px

终止符。Daniel Oberhaus摄（2017），知识共享许可证

“流行文化在塑造人们的思维方面具有巨大的力量，”研究人工智能偏见影响的领先人工智能研究员Timnit Gebru说。科幻电影、电视节目和文学作品让人联想到无所不知的机器人无论好坏，这些流行文化的表现影响了公众对智能机器的看法

终结者系列电影和其他媒体，例如，始于一部科幻电影，讲述了一台人形杀人机器被未来充满敌意的人工智能网络及时送回。近40年来，它帮助塑造了公众对人工智能误入歧途的看法

但不仅仅是普通公众对人工智能的看法受到流行文化的影响。美国国防官僚机构也介入了这些故事。提及流行文化可以作为国防官员用来解释人工智能的利害关系、风险和军事用途的“修辞曲目”。通过将人工智能战争想象成一个终结者的世界，这些曲目可能掩盖了人工智能在短期内广泛影响冲突和安全的更实际的方式，包括一些人可能认为人工智能在数据处理、分析和决策支持中的“平凡”应用

例如，国防技术公司Palantir最近声称，其软件被用于为乌克兰的目标决策提供信息。如果是这样，这表明算法系统的数据处理能力已经被纳入军事决策的工作流程

流行文化渗透到军事实践中一些研究表明，流行文化和科幻小说的元素通过塑造政策制定者对冷战安全问题的看法，或作为试图禁止“杀手机器人”的倡导团体的叙事，对政治结果和实践产生了直接影响。“因为人类与智能机器共存或对抗智能机器的故事在科幻小说中很常见，所以值得研究这些故事是如何在人工智能技术和战争实践之间发挥作用的

例如，1977年的科幻电影《星球大战》与战略防御计划联系在一起，这是里根时代的一个防御项目，专注于高度先进的导弹防御技术的结合。按照那个时代的技术标准，这个项目被认为是不可能的。该倡议的计算小组成员大卫·帕尔纳斯于1985年辞职，原因是担心包括人工智能元素在内的软件组件不够值得信赖

终结者系列也被证明是有影响力的。2016年，时任参谋长联席会议副主席的保罗·塞尔瓦将军讨论了他和媒体机构所称的“终结者难题”

当时的国防部副部长Robert Work也提到了这个系列：“如果我们的竞争对手离开事实证明，终结者能够更快地做出决定，即使他们很糟糕，我们会如何回应？”这项工作将人工智能自主武器系统融入战争视为美国国防政策的一个严重问题

美国国防界的其他人则采取了不同的策略，广泛指出科幻小说是衡量人工智能和机器学习进步的标准。例如，军事期刊上的文章表明，自主武器和机器人正在从科幻电影“进步”到战争领域。《2021年国家安全委员会人工智能报告》也提出了类似的主张，认为“人工智能不会停留在超级大国的领域或科幻小说的领域。”

军方官员也表示担心，一些人可能没有意识到人工智能在军事实践方面的能力。正如现已退役的空军中将约翰·沙纳汉在国会关于人工智能军事应用的证词中所指出的那样，“如果没有人能玩人工智能，那就是科幻小说。”后来在证词中，他再次提到了科幻小说，这一次是为了反驳可能的怀疑论者，沙纳汉认为“还没有人相信它，因为他们还没有真正看到它发挥作用的好处……我们必须让人们相信它是真实的，而不仅仅是科幻小说。”沙纳汉希望人们相信，一个曾经只存在于虚构领域的技术世界已经过渡到了现实

至少对美国国防界的一些人来说，科幻小说似乎是关于将人工智能融入军事实践的辩论的一个方向。对于Robert Work来说，《终结者》系列是思考美国和其他大国（即中国和俄罗斯）军事技术竞争可能带来的威胁的焦点。提及这些电影可以鼓励人们想象一个“他们”有《终结者》而“我们”没有的世界

塞尔瓦也有类似的担忧，尽管他将国际竞争与将战争的各个方面委托给非人类的伦理和道德困境联系起来。在这里，《终结者》也是一个表达这些担忧的修辞平台

修辞风险国际关系学者通过塑造政治进程的条款和条件，证明了修辞在大国政治和战后重建等情况下可以发挥的重要作用。分析人士有充分的理由相信，类似的修辞曲目将成为讨论技术和安全政策交叉点的一种语法

然而，使用这种语言可能有风险。首先，这些修辞曲目可能过于关注未来超级智能机器的含义，而忽视了已经存在的人工智能技术的影响。在去年的一条推特帖子中，人工智能伦理学家贾达·皮斯蒂利写道，“关注这些科幻问题只会使围绕这些技术存在的集体恐慌永久化，而忽视了它们的实际风险。”

这种担忧应该适用于以暴力为核心的行业：战争。援引终结者作为军事技术竞争的理由可能会引发“集体恐慌”。此外，它在修辞上与技术恋物癖联系在一起，而技术恋物主义在美国军方有着悠久但有争议的传统。大卫·C·本森警告说，担心“他们”拥有终结者，从而拥有更先进的军事技术，会引发对人工智能的科幻描述，无论是负面的还是正面的，都会“产生不合理的崇高期望”。直到2023年初，本森还在高级航空航天研究学院教授战略与安全研究

这种言论也表明，更快的军事技术发展步伐是“我们”获得更大安全的途径，这与技术成熟度可以通过技术主导地位导致“轻松”战争或国际和平的说法有关。如果战争爆发，谁会希望没有终结者在他们身边

这并不是说探索虚构总是不好的，也不是说上面引用的国防官员有任何错误的意图。虚构的场景可以帮助分析人士想象新的世界，打破成文的思维方式，这是美国军方正在试验的一种做法

然而，提及对军事人工智能的科幻描述，也可能掩盖人工智能和机器学习在短期内与战争和更广泛的安全生态系统交叉的更实际甚至平凡的方式。其中包括将人工智能集成到瞄准实践、情报分析、指挥控制、网络作战以及边境安全和执法等其他领域

军事人工智能工作，如美国国防部的全领域联合司令部；Control和Project MAVEN似乎专注于数据的获取、处理、分析和传播，这些数据将塑造致命的决策——将传统上由人类进行的战争要素委托给算法系统。这些努力并不是为了制造超级智能终结者，但它们正在重新配置美军作战的方式

钛合金脸后面可能没有红光闪闪的眼睛，但人工智能技术似乎注定会影响生死攸关的决策和行动

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

关键词：终结者、人工智能、科幻
主题：artificial intelligence，明日之声

复制链接链接复制
Facebook
推特
LinkedIn斯坦福国际安全与合作中心和斯坦福大学的博士后研究员以人为本研究所。。。阅读更多
版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策
1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介