世界各地的政策制定者都在依靠历史类比，试图预测人工智能或人工智能（具有讽刺意味的是，人工智能本身就是一种预测技术）将如何发展。他们正在寻找线索，以提供信息并制定适当的政策，帮助促进创新，同时应对可能的安全风险。一个多世纪前，电力彻底改变了我们的世界，改变了从交通运输到医疗保健到制造业的每一个行业，人工智能的力量可能会产生类似甚至更大的破坏

无论是否是“下一代电力”，所有人都可以同意的一个事实是，人工智能本身并不是一种东西。本论文系列的大多数作者都关注这样一个概念，即人工智能是一种通用技术，即GPT，它将使许多应用程序能够跨越各个领域。虽然人工智能应用程序预计会对我们的生活产生显著的积极影响，但同样的应用程序也可能被不良行为者滥用或操纵。在国家和国际层面制定规则，并与行业仔细协商，这对于确保人工智能安全地提供新的能力和效率至关重要

然而，要想确定这次讨论的位置，需要回顾一下，以确定我们将要去哪里。虽然人工智能并不新鲜-马文·明斯基（Marvin Minsky）在20世纪50年代早期开发了被广泛认为是第一台神经网络学习机器-但其规模、范围、采用速度和今天的潜在使用案例凸显了一系列新挑战。现在有许多不祥的迹象表明，如果人工智能以不受限制的方式部署，特别是在军事应用中，将面临极大的危险，商业环境中与潜在歧视、破坏隐私和颠覆传统就业结构和经济模式相关的令人担忧的趋势也将如此

虽然人工智能应用程序预计会对我们的生活产生显著的积极影响，但这些应用程序也可能会被不良行为者滥用或操纵

从技术角度来看，变革的驱动因素是双重的。首先是用于创建算法的两种方法的进步：深度学习和机器学习。机器学习本质上是“允许系统直接从示例、数据和经验中学习的技术”（皇家学会2017，16）<深度学习被认为是机器学习的一个子领域，它大致以人脑中存在的神经网络为基础，因此有人工神经元网络用于处理数据。这种变化的第二个驱动因素是可以用于训练的大量数据，以及计算能力的指数级增长

在当前和可能的未来迭代中，这些技术给决策者带来了许多难题。当技术能够为自己学习、为自己“思考”，并最终与自主机器人相结合时，治理挑战将变得复杂。有一些道德问题，还有一些关于可解释性、安全性、可靠性和责任性的问题

在接下来的一系列文章中，国际专家试图评估在军事和安全应用中增加部署人工智能和自主系统的近期、中期和长期政策影响，并认识到（当然）时间跨度越长，分析变得越抽象、越具投机性。该系列还试图解决一些迫在眉睫的重大政策问题：

现有国际法是否足够

这项技术会颠覆或改变传统的国家权力结构吗

人工智能将是国际关系中的稳定力量还是不稳定力量

国家将如何与私营部门合作，反之亦然，这些决定将产生什么影响

强大、安全、参与，暴露了问题：“国家和非国家行为体越来越多地在武装冲突门槛以下的‘灰色地带’使用混合方法来实现其议程。混合方法涉及协调应用外交、信息、网络、军事和经济手段，以实现战略或行动目标。它们通常依赖于故意传播错误信息在国际社会中制造混乱和不和，制造歧义并保持否认。混合方法的使用增加了误解和误判的可能性”（加拿大国防部，2017年，53）

随着人工智能越来越好，以及敌对行为体继续潜伏在传统武装冲突的门槛之下，这一系列挑战将被放大。不可避免的是，这些挑战将继续对现有的国际规则和治理结构施加压力，其中许多规则和治理架构是为不同的时代设计的。考虑应对这些挑战的创新政策解决方案的时机是正确的。我们希望，本系列文章中提出的思想可以为政策制定者在这个极具挑战性的时代提供一些指导在提供实用和灵活的监管的同时促进创新正如Daniel Araya和Rodrigo Nieto-Gómez

在他们的文章《人工智能时代更新多边治理》中告诉我们制定人工智能政策和监管制度最具挑战性的部分是确定具体必须监管的内容。他们指出，这是因为人工智能技术不是作为最终产品设计的，而是作为“广泛产品、服务和系统中的成分或组件”设计的，最终鼓励了组合技术的扩散。因此，正如Araya和

Nieto-Gómez所建议的，成功的监管“与其说是建立不扩散制度……不如说是创造良好的设计规范和原则”，这些规范和原则仔细权衡了设计关注与技术和道德关注

那么，决策者应该从哪里开始？在她的文章《人工智能技术和安全的公共和私人层面》中，玛雅·梅代罗斯（Maya Medeiros）建议，各国政府必须在国家层面上发挥领导作用，但必须协调“不同公共行为体之间的努力。具有类似政策目标的不同监管机构应采用通用的立法语言，以鼓励监管趋同。”。jpg src格式=https://www.cigionline.org/static/images/AI_SinghGill_landscape.2e16d0ba.fill-377x246.jpgwidth=377 height=246>

建议

一场新的军备竞赛和全球稳定

有一个好消息：我们不必重新制定人工智能监管制度。许多将受到人工智能严重影响的行业已经有了强有力的监管历史。以汽车行业为例。在美国，国家公路交通安全管理局管理汽车安全，环境保护局管理汽车排放，而州和地方政府可以制定自己的安全法律法规，只要它们不与联邦标准冲突

但是，即使特定部门采取不同的方法来监管人工智能能力，新的人工智能规范、法律和法规也需要足够通用，以免过时。正如Liis Vihul在她的文章《自治技术的国际法律法规》中所敦促的那样，它们不能模糊到无用。对于国防部门来说，已经有了一个开始的地方：Vihul描述了一个“密集的国际战争法律框架”，其中可能已经存在许多规范冲突中使用自主技术的规则。然而，我们只会在这些工具的应用中了解旧框架是否适用

安全未来的挑战

迈克尔·霍洛维茨在《AI与全球力量扩散》中指出，似乎治理人工智能的挑战还不够艰巨，人工智能必然会使网络安全威胁更加复杂。他认为，网络间谍活动可能会演变为专注于算法盗窃，而数据中毒可能会阻止对手开发有效的算法。Amandeep Singh Gill在其文章《新的军备竞赛和全球稳定》中特别指出，敌对攻击者对图像识别模型的欺骗是一种风险，这只会使萨曼莎·布拉德肖（Samantha Bradshaw）概述的虚假信息挑战变得更加复杂，政府要应对这些挑战。正如Bradshaw在她的文章《社交媒体上的影响运营和瓦解》中指出的那样，这些挑战是一个系统问题。因此，我们需要找到解决方案的方法，而不是简单地将内容标记为问题，首先要承认社交媒体平台既有责任也有技术机构来有效地管理我们的信息生态系统

最后，误判的风险可能是人工智能带来的最严重威胁，因为这些工具太新了，我们还没有制定强有力的政策、法律和流程框架，以防故意或无意的误用。Robert Mazzolin在他的文章《人工智能和让人类‘处于循环中’》中评估了人类是否、何时以及如何保持在决策循环中；他认为，决策将取决于人工智能在区分不同数据集以正确“自我学习”和注意操纵尝试这一关键任务上的熟练程度。同样，吉尔认为，我们需要倡导“时间的礼物”，以保护自主武器的使用

政策制定者的下一步

管理新兴人工智能技术的任务很容易让人感到不知所措。值得庆幸的是，本系列的撰稿人为评估灾难性风险、支持和平和商业用途以及为近期人工智能应用保持北美技术领先地位制定了蓝图。政策制定者可以应用四项关键建议来解决人工智能的扩大使用及其高度不可预测的潜力

首先，政策制定者必须优先发展一个由可信赖的专家组成的多学科网络，定期拜访他们，以确定和讨论人工智能技术的新发展，其中许多可能不是直观的，甚至是想象的。就像70年前马文·明斯基（Marvin Minsky）无法预测人工智能今天的能力一样，今天的决策者唯一确定的是不确定性。人工智能的大规模部署，特别是在安全背景下，提出了一系列横向公共政策问题——国际贸易、知识产权、数据治理、国内创新战略和国家安全等。鉴于这些关切领域内部和之间往往存在复杂的相互关系，必须获得多学科的专门知识

说白了，这些原则，包括隐私权、思想自由和良心等，都非常重要，不能为了设计而放弃

第三，决策者必须投入大量时间和资源，与私营部门密切合作，以确定最需要治理框架的特定人工智能应用。这项工作必须主要包括持续评估人工智能的许多子部门中的每一个，以确定特定国家和地区的相对技术进步。它还要求政策制定者在某些领域迅速（但有意）采取行动风暴已经向我们袭来&我们只需要考虑行为推动、大数据、个人数据、微观目标、反馈回路和外国敌对势力对从选举到社会凝聚力的一切影响之间的相互作用

结论

尽管这一时刻可能具有挑战性，但它为决策者提供了一个重要机会；正如Vihul所指出的，记住“自主技术正处于起步阶段”是至关重要的。今天和不久的将来，我们只谈论“狭隘”的人工智能应用，例如通过统计机器学习衍生的应用。霍洛维茨认为，如果实现了人工通用智能——或能够像人类一样或比人类更好地执行广泛认知任务的机器——那么治理策略就需要修改

虽然狭窄的人工智能系统可能会继续超过人类同类系统，但几乎没有证据表明，这些应用程序虽然复杂，但会迅速发展成具有通用智能的系统。例如，《麻省理工学院技术评论》（MIT Technology Review）最近对开放式人工智能的新语言生成模型GPT-3进行的一项测试显示，尽管该模型具有令人印象深刻的“1750亿个参数和450千兆字节的输入数据”，但该模型“对现实的把握很差”，审查人员得出结论，该模型“不具备值得信赖的智能”（Marcus和Davis 2020）

简单地说，人工智能应用程序具有并将继续具有显著的局限性，在设计治理系统时必须考虑这些局限性

相反，破坏更可能发生在技术组合中，例如机器人和人工智能。识别这些趋势线，并能够在可适应的监管和法律框架内提供灵活但足够具体的政策，基本上，当技术确实发展时，能够做出反应的治理护栏-将对确保国际安全的新维度至关重要

随着敌对国家继续在“灰色地带”使用混合方法，随着人工智能技术继续快速发展，决策者可以预计挑战将变得更加突出。他们还可以预计，现代冲突和未来的战场将与人工智能和自主系统深深纠缠在一起。随着世界进入一个由不信任和大国竞争定义的高度分裂的时代，人工智能有可能成为一种破坏稳定的力量，如果在没有适当的治理机制的情况下部署，可能会增加误判的可能性

简介