现代出口控制系统充满了讽刺意味：决定政府出口新兴技术方法的民间机构并没有利用这些技术来执行关键任务。诚然，专家们对将人工智能武器化的国家和非国家行为者发出了警告，但他们相对较少关注政府本身如何利用人工智能来支持敏感技术的不扩散

多年来，军事界和情报界都在寻求适合其组织的新兴技术的应用。中央情报局至少有137个人工智能项目正在进行中，国防部最近宣布，未来五年将投资20亿美元用于人工智能研究。然而，美国国家安全机构的影响力远远超出了情报界和五角大楼。未来几年的一个关键问题是：国家安全领域的民事机构如何利用人工智能来巩固安全利益，而其资源远少于重量级的军事和情报机构？一个答案来自韩国

对抗扩散在美国，利用大数据和新兴技术来对抗核扩散并不是什么新鲜事。美国机密军事和情报项目已经使用人工智能搜索卫星图像和其他数据，以搜索朝鲜和中国等地的导弹发射场和发射准备迹象。迄今为止，人工智能驱动的系统似乎专注于打击大规模杀伤性武器的扩散，而不是保护敏感技术的更全面的方法。例如，美国特种作战司令部司令雷蒙德·托马斯上将今年早些时候谈到了使用人工智能和深度机器学习来跟踪大规模杀伤性武器

区块链技术为安全、快速、透明的交易提供了去中心化的账本，也被讨论为加强核供应侧控制的一种手段。应用于防扩散，区块链可以使用“智能”合同透明地验证受控商品的信息。正如2017年参加兰德公司一系列研讨会的个人所提议的那样，人工智能也可以用于裁定违反军备控制的行为

虽然这些领域肯定值得进一步探索，但韩国在战略贸易控制中应用人工智能提供了更直接、更少探索的经验教训。这并不意味着修改传统的多边出口管制制度，如《导弹技术管制制度》或《瓦森纳安排》，而是加强美国等参与成员国在其国家体系中实施管制的方式。以供应侧管理为重点，人工智能应被视为各国寻求更高效、一致的出口管制管理和执行的关键工具

智能导出控制数据库2009年，韩国赢得了开发四个反应堆机组的合同，这些机组构成了阿联酋的首个民用核计划，并建造了约旦的第一个研究反应堆，导致了前所未有的核出口规模，当时韩国出口管制机构正是为此而进行的没有装备。虽然该国此前曾出口反应堆部件，但供应全尺寸核电站出口大大扩大了韩国核不扩散与控制研究所（KINAC）的范围，该研究所支持对韩国核项目的出口管制。在这方面，KINAC在现有核出口促进服务数据库的基础上开发了智能出口管制审查系统

2012年，该研究所的官员开始积极开发人工智能系统，以管理越来越多与经验证的技术转让相关的文件。他们创建了IXCRS，这是一种能力建设形式，以解决专门从事核能出口管制的人力不足的问题。IXCRS维护三个子系统，用于挖掘文本以确定文档是否包含战略材料；确定文档之间的相似性；并使用图像处理分析来确定战略技术规范。尽管人类可能缺乏专业知识，或者在个案分类和许可证申请中做出主观决定，但这些人工智能系统允许在文件之间进行更大的比较，以促进更客观、一致地应用韩国出口管制。该系统仍有一些缺陷，包括语言障碍和分系统，但迄今为止，其成功和实用性的一个标志是，韩国打算将该系统从纯粹的分类问题扩展到更复杂的许可相关责任

尽管智能出口管制审查系统专门针对反应堆机组和部件工业出口的核贸易管制，但它提供的教训要广泛得多。首先，拥有强大出口控制系统的大国，如美国，可以使用人工智能来帮助确保一致性，并优化分类和许可程序，以回应出口商的投诉，例如等待时间长和许可证决策缺乏透明度带来的官僚负担。智能数据库得益于文件中的大量记录，因此美国系统的准确性和有效性将比目前韩国系统更高。其次，较小的国家可以将基于人工智能的系统视为一种能力建设措施，以实现许可证和执法决策的稳健性。到目前为止，有两种形式的人工智能与智能出口管制管理系统的相关性突出：图像识别和检索，以及具有自然语言处理的文本挖掘

文本挖掘和图像处理工具在不断增长的核贸易控制经验的基础上，人工智能可以被用来加强受控军民两用技术和常规武器的不扩散。IXCRS在其文档检索和文档聚类系统中使用文本挖掘算法，允许比简单的关键字搜索进行更深入的分析。一旦算法将文本与基本概念相匹配，它们就可以从大量出口管制文件中回忆起类似的结果。例如，文本挖掘可以分析关键术语周围的模式，以确定对准确分类至关重要的信息，如有效载荷、组件或附件，而不是将“无人机”与“无人机系统”等类似关键词联系起来

同样，人工智能可以帮助加强美国国家核安全局开发的新“指纹技术”。这项技术根据货运单据中的技术信息，如重量，而不是根据分类或编码，将类似的两用商品捆绑在一起。例如，注意到汽车轮胎和铀浓缩的压力传感器具有相同的代码号，通过寻找比代码号更好的指标的其他技术规范来自动化部分流程，可以帮助提高流程的效率。更进一步，文本挖掘指纹可以识别其他这样的例子，以取出“唾手可得的果实”，并允许人类审查人员在更复杂的案例上花费更多时间

同时，可以使用图像处理技术来分析图表和图像之间的相似性，这些图表和图像包含要导出的材料的技术规范。分析图像之间相似性（或“距离度量”）的图像检索系统也可以加强许可程序。IXCRS的架构师认为，人工智能对于跨文档比较图形非常有用。不同记录的图像之间的小距离——例如，检测激光设计是否被修改为与以前版本不同的军事规格——可以帮助以一致的方式对出口进行分类。已经用于捕捉设计的人工智能系统剽窃和其他形式的商标侵权可能被用来仔细审查附在许可证申请上的图表、蓝图或其他图像

尽管智能出口管制审查系统是目前唯一可用的基准，刚刚开始从分类系统扩展到许可证系统，但很容易想象未来会有基于人工智能的合规系统。人工智能模式识别算法可以为出口执法增加价值。例如，美国商务部的战略情报司负责确定“在做出许可决定时的潜在转移风险”。人工智能与图形数据库一起存储信息，对对象之间的联系进行更自然的处理，可以补充人类智慧，改进对以下事项的预测：哪些受控物品容易受到国内转移的影响，最终将物品交到有关各方手中；美国综合筛选名单上的缔约方之间的联系是否可以通过分析开源或机密数据来找到，以更好地了解这些缔约方及其获得敏感技术的途径；以及出口管制货物的非法采购可以追溯到一个网络而不仅仅是个人。同时使用图像处理和文本挖掘，将智能解决方案应用于现有数据库可以发现新的相关节点，并加强出口管制法规的执行

未来的人工智能应用程序，用于不断发展的供应侧控制应用于出口控制数据库，文档集群可以识别人类未检测到的模式。聚类算法分析数据分组是如何有机发生的，而不是人类如何设置模式。例如，当人工智能应用于战略游戏围棋时，计算机使用被称为“外星人”的动作战胜了人类。由于机器对信息的评估与人类不同，计算机可以识别数据中的非直观模式，从而加强战略技术的防扩散措施。使用智能聚类模型意味着用无监督算法来补充人类的直觉，以解释不同数据点之间不可预见的联系。如果智能出口管制审查系统这样做是为了保持一致性而将文件相互比较（成功程度不同），那么未来的智能出口管制系统可能会更战略性地使用集群

人工智能也有助于对新兴技术进行分类，帮助美国在出口管制制度的限制下保持其技术优势。例如，最近，中国警方开始使用最初在杜克大学由国防高级研究计划局（DARPA）资助开发的远程监控摄像头，但后来没有被美国政府选中使用。杜克大学的一位发言人表示，该大学已获得国务院的许可，可以出口这项技术，但这些相机的合法出口仍然暴露出一个关键问题：处于早期研究和技术阶段或准备水平较低的不受控制的物品可能会从缝隙中溜走。这种追溯性地意识到潜在的恶性最终用户使用敏感的美国技术的案例表明，技术进步的速度仍然可能超过政府预期发现尖端技术的新的、潜在的敏感应用的速度

这起事件并非特例：研究表明，一旦军事应用变得更加明显，大学和私人机构开发的技术，即使有政府拨款或资助，也往往在后期阶段被归类。与寻找人工智能预测应用的趋势一致，算法在预测新兴技术的未来用途方面可能比人类更好，例如农业部门合成生物学的初步研究，敏感应用只有在公共领域或转移到国外给潜在的敌对行为者时才能被阐明。虽然人工智能远非灵丹妙药，但它可以分析大量已发表的研究和技术准备水平较低的公共资助项目，以更好地预测未来应该控制哪些项目

实施人工智能。尽管当今技术的快速发展和传播对武器和出口管制的未来构成了严峻挑战，但技术也可能是部分补救措施。以毒攻毒，能够实时跟踪变化的技术——比任何人都快——如果实施得当，可能会提供一条前进的道路

美国政府在跟上商业步伐方面面临着看似长期的困难推动技术变革，但保护国家安全利益——比如防止敏感技术的扩散——可以优先考虑。人为智能的出口管制管理系统需要改变招聘方式，以满足对数据专家的更大需求，而实施需要将资源专门用于培训，也许更重要的是，需要进行文化变革，以建立对“智能”系统的更大信任

实施还需要采取措施确保这种信任不会成为无条件的。虽然自动化以前由人类执行的任务一开始可能在文化上具有挑战性，但更大的恐惧是之后会发生什么。随后对人工智能的依赖可能是危险的，这正是因为计算机进行的“外星人”推理，而它们无法向人类处理者解释。在这里，IXCRS的先例再次具有指导意义，因为韩国人已经努力证明，该系统中的机器学习旨在补充而不是取代人类决策。特别是在国家安全领域，确定问责制必须是大规模使用人工智能的先决条件。

例如，系统架构师可以定义人工智能驱动的任务排序中的关键步骤，而不是在过程中注入过多的自主权，从而确保该过程仍然是可审计的，并且人类仍然是负责任的。这些关键步骤将因所涉及的出口管制相关任务而异，从分类问题到许可证决定，再到违规监测和裁决。这种程序的一个附带好处还可能是抑制对机器的不受约束的信任，并允许在出口管制专家认为机器提供的信息或处方不合逻辑或错误时逐步纠正错误

让人类参与其中将增加对人工智能驱动结论有效性的信心。虽然让人工智能控制自己的诱惑最终可能会压倒人类跟上快速技术进化步伐的能力，但早期的步骤应该是渐进的，不要过于雄心勃勃。相反，他们可以坚持适度的目标，使出口管制程序更高效、更一致、更安全

公告将专家的声音提升到噪音之上。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

关键词：IXCRS，KINAC，韩国，军民两用，出口管制
主题：人工智能，颠覆性技术，核能，核风险，明日之声

复制链接链接复制
Facebook
推特
LinkedIn

曼是美国国防与战略研究所的副研究员。Rajaratnam国际学校。。。阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介