国防大学前战略研究所研究员徐纬地

不久前，美国朋友寄来文章《人工智能与核稳定》，读后深受启发。在此提出一些问题和思考，向作者MichaelDepp和PaulScharre请教。

一、“不能把核武器交给AI”，是真的不交么?

近一个时期，在美国和西方，很多人都在喊:不能把核武器交给AI!但拜读这篇文章后，感到两位作者对AI进入核武器领域并不是完全拒绝。用他们的话说:正确地在核武器领域使用AI，可以增强核战略稳定;而错误地使用AI则会破坏战略稳定。

为了避免把核武器交给AI，美国非常强调，在核武器领域引入AI，必须是“人在回路”。两位作者在文章中也写到，人在回路也有情况和程度的不同。是积极地参与回路，还是被动地应付式地参与回路，情况会大不一样。那么是否可以说，所谓“人在回路”，实际上也是一个有弹性的概念，甚至可以说，是个有些含糊的，毛茸茸的概念?“人在回路”就能保证进入核武器领域的AI系统不会出错误么?。

人可能犯错误，人工智能(模拟人的机器)也可能犯错误。怎么能说，人与人工智能的结合(人x人工智能)就一定能不犯错误呢?人的智慧，有时就体现在能够自我识错和自我纠错上。能够实现自我识错自我纠错，也许是高等级AI的标志之一。

两位作者似乎认为，AI进入核武器领域，特别是进入目标识别和指挥控制与通信领域，实际上是不可避免的。如果是这样，那么是不是可以这样说，美国和西方所谓“不能把核武器交给AI”，其实是假的。

按照两位作者的说法，无论是美国还是俄罗斯，都在把核武器交给AI，只是把核武器交给AI的方式和程度有所不同而已。

二、AI进入核武器，怎样是安全的，怎样是不安全的?

Michael Depp和 Paul Scharre在文章中提出，俄罗斯的AI与核武器结合的方式是错误的，不稳定的。他们认为美国应该推动国际社会达成协议，禁止有关国家以像俄罗斯的“周长/死手”系统这样的方式将AI与核武器相结合，禁止研发和部署像“波塞冬”远程核动力推进核鱼雷，这种在“可回收的无人平台”上部署核武器，是不稳定的。在作者看来，像美国那样，在图像识别、目标判别与追踪、指挥控制和通信和决策辅助过程中可以使用人工智能，才是负责任地使用人工智能。

我们知道，当前在人工智能的机器学习、深度学习、大数据和生成式人工智能的研发方面，美国的确领先于俄罗斯，领先于其他国家。俄罗斯正是由于在某些AI领域相对落后，才走了一条适合自己技术水平的道路。两位作者认为，像俄罗斯这样在核武器领域使用AI的方式是应该被禁止的。可是，假如Michael Depp和Paul Scharre是俄国人，两位会不会说:你走你的路，我走我的路，只要能解决各自的安全问题就好，凭什么大家都得跟你走一条路?

两位作者认为，美国的AI入核方式是合适的。但从文章看，他们自己对此似乎也不那么有信心。人在回路，要深到哪一层才合适?是否要把所有的关键算法和基础数据都由得人来审查?生成式AI提出有关核武器使用的建议，是否可以接受?这算不算把核武器交给AI?两位作者认为俄罗斯的“波塞冬”太危险，但谁能说美国的“三叉戟D-5”就一定比“波塞冬”更安全么?如果一个美国核武器专家一定要跟一个俄国核武器专家讨论这两种核武器哪个更安全，十有八九是无法达成共识，吵不出结果的。

三、为何不能从使用核武器的阴影中跳出来?

说到底，核武器是安全还是不安全，跟加不加AI不能说完全没关系，但有关系也不那么大。国际战略稳定，更多还是取决于核武器国家之间的战略利益关系。如果A、B两国战略利益关系中分歧不大，那么它们也不用太担心对方的核武器。但如果A和B都把对方当作自己的主要战略威胁，都想着怎么用自己的核武器来威慑对方，那就很难减少核武器滥用和误用的风险。在这种情况下，即便是按两位美国作者所说的正确使用AI，又能在多大程度上增加战略稳定?这很令人怀疑。换言之，核战略稳定的关键，在战略决策者。相比之下，A国或B国究竟是人在回路中、人在回路上，还是人在回路外，并不那么重要。

拜读了Michael Depp和 Paul Scharre的大作，笔者有一个感觉:他俩和很多美国人、俄罗斯人一样，都陷入了一个深深的两难困境:既怕使用核武器，又老想者要发挥核武器的威慑作用，总是从核武器使用上做文章，这就很难走出来。冷战时期美苏建立了战略稳定，其实就是限制了核武器的使用。双方都约束自己，只是在常规领域，在对方不那么敏感的领域争夺。当下的情况不同了。现在北约正不断向俄罗斯的身边扩张，不断踩踏俄罗斯的红线，俄罗斯则不断挥舞核大棒。难不成美国和欧洲北约国家真的要逼着俄罗斯使用核武器么?不久前，曾有一位美国退役将军(请允许笔者不披露他的名字)私下对笔者说:这样下去，万一哪天俄罗斯真的在乌克兰使用了战术核武器，美国怎么办?美国能用战略核武器攻击莫斯科么?

为何不能限制核武器使用上找出路?

如果美国和俄罗斯，所有的核武器国家，都像中国这样奉行“不首先使用核武器”(NFU)的核政策，就可以大大降低核武器的戒备程度，核武库的规模也可以大大减小，更不用一天到晚老担心自己或别人会出现人或技术原因导致的“误发射”，或是“非授权发射”了。

中国不首先使用核武器，但一旦别人对中国使用了核武器，不管对方是最高领导人下令使用，还是某个下级军官的非授权使用;不管是没有错误地“正确”使用，还是AI故障或其他技术故障导致的使用，对中国来说，结果都是一样的。中国都一定要实施核反击。中国不会因为对方说是AI错误或通信技术错误，或者是哪个下级军官按错了按钮就不反击。1999年5月8日，美国“误炸”中国大使馆的错误，中国没有忘记。中国不会允许包括美国在内的任何国家再对中国犯这样的错误了。在核武器上犯错误，更是一定要付出沉重代价的。避免付出代价的最好办法，就是尽量不犯错误。把核武器的使用仅限于反击他人的核攻击，就可以大大减少犯错误的可能。

以上所有看法均属于笔者，不代表任何组织和机构，若有错误，也由作者负责。

简介