简介

一系列领域正在取得重大技术进步，包括信息通信技术（ICT）；人工智能（AI），特别是在机器学习和机器人方面；纳米技术；空间技术；生物技术；量子计算等等。预计这些突破将极具破坏性，并将带来社会运作方式的重大变革

所讨论的技术进步是由40多年前开始的数字革命推动的。这些创新集中于收集、处理和分析来自信息科学的大量数据，这些数据对无数研究和开发领域都有影响。这些进步带来了巨大的社会和经济效益，提高了效率，提高了许多部门的生产力

技术的破坏性潜力

但越来越多的人担心，这些技术及其使用方式将带来严重挑战，包括劳动力错位和其他市场混乱、加剧的不平等以及对公共安全和国家安全的新风险。这些技术大多具有双重用途，因为它们既可以用于恶意或致命目的，也可以用于促进社会和经济发展，从而使管理这些技术的工作更加复杂¹相对容易访问和使用，它们中的大多数天生就容易受到近距离和远距离的攻击和破坏

与此同时，世界各地的地缘政治紧张局势正在加剧，大多数国家越来越多地将这些技术视为国家安全的核心。滥用的可能性很大。更大的经济一体化和互联互通意味着技术进步的影响和后果远没有以前那么本地化，并可能扩散到世界各地的国家和行业

技术创新在很大程度上超出了政府的权限。在许多情况下，创新的速度超过了各州跟上最新发展及其潜在社会影响的能力。即使一个或几个国家政府制定了管理这些影响的政策，许多新兴技术的全球影响力及其影响也需要新的多边治理方法，而这些方法更难达成一致。必须有更多和更多的行为者参与，以发起、形成和实施技术和规范解决方案

然而，与政府一样，许多其他行为者没有（或根本没有投资）手段来考虑其投资、研究和创新的更广泛的跨境社会影响。当他们这样做时，确定最相关或最有效的以政策为导向或以规范为重点的平台来讨论这些影响可能是具有挑战性的，尤其是因为现有平台有时不考虑所涉及的行为者的多样性、所涉技术的跨境范围以及不同的价值观和政治制度。当技术仅为盈利而设计，其轨迹完全取决于市场力量时，情况尤其如此

Camino Kavanagh

Camino Kavanagh是卡内基国际和平基金会的非居民学者，她的研究重点是国际安全、治理和新兴技术

更多>

今天的技术进步不仅在市场上被认为是破坏性的，而且在某种意义上也被认为是“扰乱法律和监管秩序”，并有可能“扰乱现有社会秩序的合法性所依据的深层价值观，以及公认的法律和监管框架所依据的价值观”，动态框架已经控制了一些技术领域。例如，网络空间是由现有国际法的合并来管理的；以及一系列越来越复杂的政治协议；技术标准和协议；贸易、商业和人权标准；研究原则；国家法规；以及私营部门的自律。这些法律和规范的试金石以现有规范、价值观和原则为基础。它们跨越不同的政策领域和问题，吸引了众多令人眼花缭乱的行动者，并跨越了众多国际制度。此外，它们还得到了一系列旨在加强安全和复原力的信任和能力建设措施和努力的补充³然而，尽管存在新的风险和漏洞，例如与互联网相关的风险和脆弱性，这一制度的重要要素仍然存在争议物联网、人工智能和其他技术应运而生，需要加以管理

世界经济论坛（WEF）创始人克劳斯·施瓦布（Klaus Schwab）将技术进步（无论是好是坏）描述为“革命”，因为其“速度、范围和系统影响”。同样，2019年为世界经济论坛编写的一篇论文强调，需要“改变传统的治理结构和决策模式”，并采用更“灵活”的治理方法<但应对随之而来的风险和挑战并不需要探索新的治理结构、工具和流程。这项任务要求对制定政策、规范和条例的社会、文化、经济和地缘政治背景有更深入的理解，并更坚定地把握影响人类与技术关系的权力和冲突的首要问题。此外，迫切需要大量的公众参与，因为政府和公司不能也不应该指望独自解决这些困境

一些关键挑战包括：

确定关键原则和价值观：相关行为者必须阐明原则和价值观的愿景，如公平、平等、包容、责任、透明度、，以及责任-，这可能会受到某些技术进步以及如何最好地保护这些价值观的负面影响。这项任务将需要新的思考，如何确保某些技术（如预测算法、生物技术或允许空间资源开发的技术）不会加剧现有的社会经济不平等，或者如何最好地应对涉及身体和大脑的个人隐私的新侵犯。某些形式的研究（如生物工程的某些方面）可能需要受到限制

确定适当的原则和价值观需要的不仅仅是对技术创新如何演变、如何设计以及如何使用的共同理解。这种规范性反思还要求明确认识世界各地不同社区所持有的不同价值观和原则，以及保护这些价值观和准则的手段和行为体。它还需要超越单纯的原则的阐述和扩散，而实际应用和承认相关的挑战和限制

让利益相关者有效参与：立法者、监管机构、私营企业领导人、研究人员和公民行为者需要做好准备，对技术进步的影响和后果及其带来的潜在社会风险做出更负责任和有效的反应。正在进行的新规则、原则和协议的实验，以处理具体的相关政策问题，当然值得注意，其中一个例子是世界经济论坛的“敏捷”治理倡议<然而，大规模实施这些应对措施并将其应用于一系列跨境社会经济和安全挑战将是一项复杂的挑战。这项任务可能需要综合各种方法，增加独立公共研究的支出，并需要除国家之外的许多行为者的参与。为此，至关重要的是，相关行为者应界定国内和国际责任，以确定哪些与技术有关的挑战应在国内解决，哪些问题需要跨界协调与合作

拓宽现有的多边参与平台：澄清各种行为者（而不仅仅是国家）如何负责任地促进多边机制的工作，重点是现有国际法或政治规范如何适用于国家使用某些技术。这些平台包括各种联合国政府专家组（GGE），以及与技术（包括ICT、机器学习、自主武器、生物技术和空间技术）和国际安全相关的其他专门工作组。这些努力还可以推动正在进行的讨论，即如何确保多边机制足够灵活，以确定何时需要新的全球规范或规则（有约束力和/或无约束力的规范或规则）来管理技术驱动的挑战和风险，并限制这些技术的某些应用或国家和其他行为者的特定行为

制定适当的法规：还需要新的政策和法规方法。例如，信息和通信技术、机器学习、生物技术的进步以及这些技术的融合已经在推动多方面的讨论，讨论相关政策的重点和理由以及最合适的监管类型（预防性、预防性、反应性或三者的组合）。关于是否选择硬监管、缺乏约束性监管的软政策举措（如指南、认证程序和标签计划），或私人实体当前的自我治理措施趋势，也存在大量问题。如上所述，一个关键问题是如何确保这些监管解决方案符合目的，以及它们是否应在国内或国际上进行协调。考虑到正在发挥作用的技术的跨境影响以及它们之间的日益趋同，不协调的国家规则和政策很可能是无效的

增强透明度、监督和问责制：最后，新的政策和监管方法将需要对透明度、监督与问责制机制进行更多投资。这就需要就国家监管监督机构的性质达成一致，并确定它们是公共机构、私人机构还是混合机构。这项任务还应确保科技公司和组织接受更严格的审查。例如，科技公司应加强对其自律举措的内部监控和外部报告，为适当隔离、公共资助的研究人员提供安全访问其数据的途径，最重要的是，确保责任涵盖供应链的所有方面，并明确了解相关技术的直接和间接成本（如劳动力和环境成本）⁷就行业在资助和参与监督机制（如道德委员会和咨询委员会）方面的角色达成一致，这是为某些流程注入合法性的一个同样重要的杠杆。这种审查也将有助于确定剩余的差距，并让更多的参与者参与进来，以帮助衡量是否以及如何监管某项技术或其应用

有效治理和协调的挑战

国际环境很难有助于讨论如何最好地协调应对围绕新技术出现的复杂跨境困境。在某些角落，现有的多边平台越来越被认为不适合解决这些挑战。众所周知，国际社会在采用新的规则和制度来应对新的挑战方面进展缓慢，国家主权和民主合法性问题带来的困境持续存在。相比之下，企业行为体似乎在争先恐后，致力于塑造人工智能等新技术的“科学、道德和法律”，而支持或指导其努力的公众辩论有限⁸许多这些公司及其生产或利用的技术越来越多地被视为国家权力的工具，这一事实只会增加这些主权和合法性相关的问题

与此同时，世界主要大国之间，特别是高科技部门之间日益激烈的战略竞争，对多边合作和有效应对的努力来说，并不是一个好兆头。这样的竞争格局正在导致监管支离破碎，并可能会推迟急需的规范和监管行动。这种潜在的僵局给现有努力带来压力，并可能进一步推迟实现2030年联合国可持续发展目标等紧迫的社会和经济目标，而这些目标已经面临压力。此外，由此产生的国家间信任赤字对国际和平与安全构成了重大威胁，而现有的政治机构不一定准备应对这种威胁

纵观历史，新的挑战（包括与技术和治理相关的挑战）通常为合作开辟了新的机会和渠道。今天也没有什么不同，尽管目前面临的挑战非常复杂，而且是在系统性政治变革和冲突和危机感上升之际出现的。无论技术发展如何影响社会，以及技术的使用和应用如何产生最大的破坏和争议，都迫切需要开展更有意义的对话与合作。这种方法可能会为紧急治理努力提供更大的合法性，同时也将其与共同利益挂钩。正如一位专家在世界经济论坛第四次工业革命倡议中指出的：

当你开始说技术是当今最强大的力量时，那么你所做的就是证明人们有权决定如何开发和使用技术。在实践中，这意味着有意识地尝试塑造技术轨迹，意味着制定研究议程，指导可预见的技术，阐明可能惠及大多数而非少数人的用途；将技术置于民主政治之中⁹

根据对专家的采访和广泛的研究，本分析评估了四个技术领域，围绕这些领域，治理困境是显而易见的，并讨论了紧急应对措施。这四个领域包括信通技术、人工智能、生物技术和空间技术。之所以决定将重点放在这些领域，是因为这些领域具有破坏性，与两用性质相关的潜在国家和国际安全风险，以及围绕这些领域出现的国家竞争日益激烈。重要的是，这些同样的问题也突显出迫切需要加强合作和加强治理框架，以管理相关风险，这一点也反映了这一重点。对这些努力的进一步了解有助于了解相关行为体如何应对当前和应对新的技术相关治理挑战

信息和通信技术

虽然这不是一个新的技术领域，但今天毫无疑问，网络计算和信息通信技术其他方面的持续进步正在与其他技术领域的进步汇合，大大增加了人类对这些数字工具的依赖¹⁰世界各国政府正在建立新的机构，确定这种日益增长的数字依赖所带来的政策影响，并为管理由此产生的经济和社会变革的整个政府方法制定综合框架。尽管有相关的好处，但人类对信息和通信技术的日益依赖仍然带来重大风险。网络安全和信息和通信技术系统的稳定性已普遍成为最高政策优先事项

当前的规范格局

管理信息和通信技术的“政权情结”源自多种来源：现有的国际法、政治协议和自愿规范；由技术团体和研究团体管理的越来越多的互联网治理技术协议和标准；国家法规；私营部门的自律；以及其他形式的非约束软法律<这些规范跨越不同的主题领域，跨越众多国际制度，需要多个行为者参与

这些规范和治理机制旨在加强国家和全球范围内的网络安全；更广泛地加强国际安全与稳定以及人类的总体福祉；利用现有的规则、价值观和原则，促进负责任的行为。例如，维护数字时代隐私权的规范以及联合国人权理事会确认人权在网上和在线下一样适用，都支持了人权、隐私规范以及见解和言论自由¹²

然而，许多州似乎并不遵守这些规范，除了基本的隐私和人权问题外，人们越来越担心网络运营的人力成本，特别是影响医疗保健和工业系统的运营或可能产生系统影响的运营<就网络犯罪而言，进展同样缓慢。各国未能就打击网络犯罪的国际框架达成一致，尽管许多国家在通过国家网络犯罪立法并就这一问题进行合作时，都倾向于现有的《欧洲委员会（布达佩斯）公约》和双边条约

关于国际和平与安全，一系列联合国政府专家组（迄今已有五个）的工作重申了包括《联合国宪章》在内的国际法对网络空间的适用性，并建议了一些自愿的、不具约束力的政治规范，旨在鼓励各国负责任地使用信息和通信技术<规范旨在促进约束、最佳实践和其他形式的积极行为

具体而言，许多准则借鉴了现有的国际法原则，涉及各国负责任地使用信息和通信技术的几个方面，包括认识到归属的挑战、防止利用国家领土实施国际不法行为、，不进行或故意允许损害公众关键基础设施和基本服务的活动，保护国家计算机应急响应小组（CERT）及其系统免受恶意网络活动的影响，响应其他国家的援助请求，并报告和共享信息漏洞。这些规范还包括确保供应链的完整性，维护数字时代的在线人权和隐私权，以及在涉及网络行动的恐怖主义和其他犯罪案件方面加强合作和信息共享<随后，联合国大会建议各国在2015年政府专家小组报告中“指导其使用信息和通信技术”<此后，几个国际、区域和其他专门机构都批准了政府专家小组的建议。尽管如此，当一个新的政府专家小组（成立于2016年）未能达成共识报告时，推进这项工作的努力陷入停滞，主要原因是对国际法和该小组未来工作的分歧。随着这一议题变得更加政治化，2018年12月，联合国大会第一委员会同意建立两个新的平行进程：一个由全体大会组成的不限成员名额工作组和一个由25名成员组成的政府专家组<其他政府间组织补充了联合国领导的这些努力。例如，东南亚国家联盟（东盟）、欧洲联盟（欧盟）和美洲国家组织（美洲组织）等区域组织都赞同政府间专家组准则。20国集团（G20）和国际金融机构也是如此。此外，二十国集团制定了加强金融系统网络弹性的指南，并寻求建立旨在保护金融数据完整性的规范<一些专门组织，如国际原子能机构，一直在积极开发能力建设工具、指南和标准，包括保护核基础设施计算机和信息系统的资源¹⁹

就国家而言，各国面临着越来越大的压力，需要确保政府机构、网络安全公司和研究人员更及时地发现和披露网络漏洞，并防止这些漏洞被非法交易或滥用。在一些州，这些努力正在演变为脆弱性权益程序（VEP）或协调的脆弱性披露机制。虽然主要目的是加强政府对发现的零日漏洞的使用的透明度和监督，但有人担心，这类过程官僚复杂，成本高昂，可能会消除公司生产更安全产品和服务的压力。此外，管理漏洞的明确流程可能被视为政府黑客行为的合法化²⁰然而，实际上，政府不太可能避免所有漏洞的使用，因此在这一领域加强尽职调查、透明度和监督将比不这样做更为有益。

，另一个重要因素是设计更安全的信息和通信技术产品和系统，使各国不会利用支撑人民日常生活的技术产品和服务中的漏洞来对抗公民和其他国家。全球经济的成本无疑是巨大的，人们对潜在的人力成本越来越担忧²¹设计安全原则（见下文）已在许多工程师和企业家中流行

鉴于持续存在的网络安全风险，各国政府也在采取更加注重监管的解决方案，其中许多方案还没有正式监管。例如，2018年，欧盟通过了一项名为《网络安全法案》的广泛文书，其中包括一个自愿认证框架，以帮助确保连接到物联网的数十亿设备的可靠性，这些设备支撑着关键基础设施，如能源和交通网络，以及无人驾驶汽车等新消费设备²²该框架旨在“在其技术设计和开发的早期阶段（通过设计实现安全）纳入安全功能”，确保此类安全措施得到独立验证，并使用户能够确定给定产品的“安全保证级别”，尽管怀疑者经常指出其他行业的自愿认证计划存在挑战。例如，涉及汽车制造商大众汽车（Volkswagen）的丑闻（一个通常被称为Dieselgate的事件）表明了这种自愿计划的局限性。在这种情况下，目标可能是好的，但在过程设计、监控和监督方面的内在利益冲突往往会从长远来看破坏这些目标<《网络安全法》紧随欧盟《通用数据保护条例》（GDPR）之后，旨在加强欧盟公民的数据隐私，并协调欧洲各地的数据隐私法律。2016年欧盟网络和信息系统安全指令是欧盟通过的第一项网络安全立法²⁵在美国，公司面临着越来越大的压力，需要优先考虑消费者保护和公民安全，并将“主动责任和责任引入市场”，包括通过产品责任。当“通过公认的良好工程原则”很容易防止安全漏洞时，这种方法可能特别有用，互联网工程工作队、互联网架构委员会、互联网协会和万维网联盟，以及国家代码域名注册处的区域协会²⁷互联网治理论坛等倡议促进了多方利益相关者就互联网相关问题进行政策对话，而政府间机构（包括信息社会世界首脑会议、国际电信联盟和欧洲电信标准协会）则处理互联网治理的一些政策方面。根据信息社会世界首脑会议《突尼斯议程》的规定（行动线5），联合国一些部门和机构向政府提供能力建设以及技术、立法和其他形式的支持，国家技术机构如CERT和计算机安全事件应对小组（CSIRT）也提供了支持<28

由其他社会行为者推动或以其他方式涉及其他社会行为者的倡议也在激增。例如，2018年，前联合国秘书长科菲·安南成立了安南数字时代选举与民主委员会，旨在“调和技术进步与民主之间的破坏性紧张关系”，正在研究规范如何增强网络空间的稳定性。经过磋商，它制定了2018年的“规范包”，旨在塑造国家和非国家行为者在从防止供应链篡改到打击非国家行为者的攻击性网络行动等问题上的行为³⁰早期的一项倡议，即全球互联网治理委员会（Global Commission on Internet Governance），主张建立一个“开放、安全、可信、人人可访问”的互联网，强调需要一个“新的社会契约”，旨在保护用户的权利，建立负责任的公共和私人使用规范，并确保鼓励创新和增长的灵活性³¹

行业参与者也以多种方式活跃。虽然其中一些努力可能被视为试图阻止监管，但许多努力的目的是向行业行为体或国家施压，使其承诺采取更负责任的行为。例如，2018年，西门子在慕尼黑安全会议上发布了一份《安全数字世界信任宪章》，该文件概述了最初签署方（八家公司和慕尼黑安全会议）认为的原则，这些原则对于在政治行为体、商业伙伴之间建立信任至关重要，随着世界对数字技术的依赖越来越大<自那时起，宪章签署国的数量已增至16个³³

Microsoft也促进了国家和行业行为体的负责任行为规范，据报道，在遵守欧盟GDPR等新法规方面，该公司的反应比其他公司同行更积极³⁴该公司还提出了“数字日内瓦公约”的想法，这是一项有约束力的文书，可以保护用户免受恶意国家活动的侵害³⁵与其他几位行业领袖一起，微软还宣布了《网络安全技术协议》，该协议主张主要行业行为体增加对网络安全的投资（并加强其责任）

2018年，该公司发起了一项名为“全球捍卫民主”的新举措³⁶这项倡议旨在与世界各地的民主国家合作，（1）“保护运动免受黑客攻击”；（2） “提高网上政治广告透明度”；（3） “探索技术解决方案”以保护选举进程；以及（4）“防御虚假信息运动”。³⁷该倡议与该公司发起的“立即数字和平”运动同时出现，该运动呼吁政府采取更大行动，并改善网络卫生部分用户。有趣的是，这场运动没有提及私营部门的行动³⁸

2018年11月，法国政府在一项名为“巴黎网络空间信任与安全呼吁”的倡议框架下纳入了许多这些倡议，许多政府、行业参与者和民间社会参与者加入了该倡议³⁹然而，在2019年3月新西兰克赖斯特彻奇（Christchurch）发生袭击后，Facebook创始人马克·扎克伯格（Mark Zuckerberg）呼吁加强政府和监管行动，特别是在“有害内容、选举诚信、隐私和数据可移植性”领域⁴⁰重要的是，他强调需要以“全球统一框架”的形式更有效地保护隐私和数据，这有点讽刺意味，敦促更多国家采用欧盟GDPR等规则作为共同框架。扎克伯格的观点文章反响冷淡，许多专家仍对他的意图持怀疑态度<41

未来是什么

尽管取得了这一进展，但网络空间仍面临重大治理挑战。在某些情况下，不仅要保护数据、隐私和在线人权，还要关注国家和国际安全问题，这方面的努力正在改善。例如，根据一项评估，欧盟的GDPR提供了更严格的指导方针和“收集、管理和处理个人数据的严格安全标准”。但该文书确实为数据控制者或处理者提供了“国防、刑事调查和保护公众”方面的豁免。“在其他国家和地区，进步仍然有限，甚至倒退

关于网络犯罪，尽管人们对网络犯罪活动的规模、经济和社会成本以及其他风险日益增长表示担忧，但各国尚未（也可能不会）就处理网络犯罪或其他危害用户、阻碍经济增长和发展的恶意网络活动的共同框架达成一致。鉴于一些国家继续坚持需要一个共同的框架，而另一些国家仍然坚持扩大现有的《布达佩斯公约》，这种情况不太可能改变

还有其他挑战。在实现公共和私营部门承诺以弥合现有技术鸿沟和推进数字化转型议程方面，进展仍然缓慢。即使技术不断进步，州（和城市）内部和州之间的不平等也在加剧。这种情况可能会使实现联合国可持续发展目标更具挑战性⁴³

一些国家将进一步挑战互联网治理模式，特别是那些认为国家更多参与互联网治理对国家安全至关重要的国家。这些关于互联网应如何管理的分歧继续在国家和其他利益相关者之间引发紧张<与此同时，一些国家宣布，他们将寻求建立自己的全球互联网替代方案，这可能会进一步破坏（已经支离破碎的）万维网，尽管一些观察人士质疑这种替代方案的可行性<关于国际安全，虽然各国之间的紧张关系继续围绕国家行为的规范性限制而恶化，但今年将通过开放式工作组（2019年9月至2020年7月）和新的政府专家小组（2019月至2021 5月）启动两个新的多边进程<许多观察家认为这两个进程是相互冲突和相互竞争的举措（鉴于前者由俄罗斯提出，后者由美国提出）。一些缔约方也认为这些机制已经过时（因为这两个机制的主要参与者都是国家，但重要的是，这两个机构都包括了与区域组织、私营公司、学术界和民间社会等其他参与者接触的协商机制）。但人们对确保这些进程既互补又具有建设性表示了兴趣

尽管如此，但有人担心，例如，GGE关于国际法如何适用于网络空间的讨论可能再次碰壁。如上所述，在国际法相关问题上的分歧在一定程度上阻碍了上一届政府专家小组达成共识报告。从那时起，一些国家决定公开分享他们对国际法如何适用的看法，尽管到目前为止，只有少数几个国家澳大利亚、法国、英国和美国这样做了⁴⁸重要的是设立政府专家小组还建议，该报告应包括一个附件，与会的政府专家可在其中列入各国对国际法如何适用于各国使用信通技术的看法<与此同时，一些国家和一些非国家行为者似乎仍然致力于一项具有约束力的国际条约。然而，达成这样一项条约的可能性可能很小，这主要是因为对任何协议至关重要的关键行为者以截然不同的战略角度看待网络空间和网络安全；目前，达成新制度的动机似乎有限

除了具有约束力的国际法，未来24个月将成为一个重要的窗口，了解过去政府专家小组建议的政治、非约束性规范和建立信任措施在社会化和制度化方面取得的进展。这两个新的联合国进程及其相关的协商机制将成为分享各国如何在国家和通过区域组织实施准则和建立信任措施以及其他行为者如何为此作出积极贡献的经验和教训的重要平台⁵⁰

其他分组可能是主动的。例如，七国集团（G7）成员国最近通过《迪纳尔宣言》承诺分享关于上述准则的经验教训，他们很可能会将这些经验教训引入多边进程<同样，全球网络空间稳定委员会等多方利益相关者团体或技术协议等行业倡议肯定会从他们所倡导的规范中吸取教训和经验

各国如何追究彼此违反规范的责任同样重要。事实上，一些国家对信息和通信技术的持续滥用（以及潜在的致命性使用）正在导致一个危险的安全困境，这涉及到具有重大升级潜力的针锋相对的活动。除了这些活动引发了对法治的严重质疑之外，如果关键国家之间没有真正的外交对话渠道，那么在升级的情况下，大多数相关的危机管理或建立信任机制可能会被证明是无效的。目前这种渠道基本上不存在。在这方面，必须在落实现有的建立信任承诺、第1轨道或第1.5轨道对话以及其他合作措施方面进行更多的政治和财政投资

越来越多旨在促进更大网络安全和稳定的举措没有（或许也不能）解决导致不安全和不稳定的一些结构性问题。信通技术产品和服务尤其如此，它们仍然极易受到恶意行为者的利用⁵²迫切需要就全球信息和通信技术市场趋势的性质以及使信息和通信产品和服务更加安全和可靠的结构性杠杆进行更广泛、更具参与性的对话，而这不应因对职业教育计划和其他类似措施的日益关注而受到阻碍

最后，现有的威胁和脆弱性肯定会因新的问题而加剧。这意味着，随着时间的推移，需要重新考虑安全概念，并且可能需要调整现有的规范和治理框架。例如，与物联网相关的新威胁和漏洞正在出现：随着人类机构与“智能代理式设备”之间的界限越来越模糊，相关服务和设备的安全性仍然存在严重问题<同样，依赖人工智能的关键系统（如越来越多的部门和行业依赖云计算）、关键卫星系统以及信息和决策过程也面临着新的威胁，这些系统越来越容易受到政治和战略影响的操纵。战略竞争的加剧和国家间信任的恶化进一步加剧了这些挑战。各国比以往任何时候都更需要在外交上进行投资，以促进在对社会构成最大风险的信息和通信技术相关问题上进行更大的对话、合作和协调

人工智能

尽管人工智能研究已经存在了50多年，但在过去几年中，人们对这一主题的兴趣日益浓厚。这个高度复杂的领域来自计算机科学学科

人工智能的经典定义可以追溯到1955年，当时约翰·麦卡锡和他的同事们将人工智能描述为“使机器的行为方式，如果人类如此行为，则称之为智能”作为早期图灵测试的基础，Florini和Cowls将人工智能概念化为“一种不断增长的交互式、自主性和经常自我学习的机构资源（在机器学习意义上……），它可以处理那些需要人工智能和干预才能成功完成的任务。”。“⁵⁵

人工智能包含许多子学科，包括自然语言处理、机器推理、统计机器学习和机器人<某些子学科，如深度机器学习和机器推理，通常被视为一个连续体上的点，在这个连续体上，在复杂的决策中需要的人越来越少<一些观察家认为，这将最终导致人工通用智能或超智能，达到或超过人类智能<然而，人工智能是否真的会达到或超过这种认知和抽象决策能力，仍存在激烈的争论<尽管如此，人工智能各子领域的进步有望带来巨大的经济和社会效益。通信、医疗保健、疾病控制、教育、农业、交通（自动驾驶汽车）、太空探索、科学和娱乐只是已经从人工智能的突破中受益的几个领域。然而，这些技术的研究、设计和开发方式以及它们的使用方式所固有的风险同样容易破坏这些优势

当前的风险和挑战包括将现有的网络安全威胁和漏洞扩展到日益关键的依赖人工智能的系统（如云计算）；人工智能与其他技术（包括生物技术和核领域）融合时的意外或预期后果；算法歧视和偏见；人工智能决策过程的透明度和问责制较弱；将道德问题概念化的方式过于狭隘；安全研究和协议投资有限。与此同时，决策者们热衷于预测自动化将如何改变产业、劳动力以及现有的社会和经济组织形式。有关自动化和先进的机器学习可能加剧经济不平等的预测尤其引发了焦虑。一些关于工作未来、食物未来甚至人类未来等主题的研究试图减轻这些担忧，同时也强调和预测风险⁶⁰

不同的人工智能应用程序和模型从大量收集、存储和处理的在线数据中获得（或将获得）大部分能量。对数据保护、隐私以及其他原则和价值观（如公平与平等、自主性、透明度、问责制和正当程序）的担忧与日俱增。人工智能应用程序的双重用途也使得难以限制其开发和规范其使用。这一趋势表明，随着战略竞争（在地缘政治、军事、经济和规范方面）的加剧，此类技术的开发和使用将变得更加复杂<此外，一些国家希望将人工智能作为“军事力量各方面能力的关键推动者和力量倍增器”的愿望越来越明显<简而言之，人工智能的进一步发展可能会显著改变经济、社会政治生活、地缘政治竞争和冲突的轮廓。据一些观察人士称，这项技术甚至可能带来生存风险。然而，仍有时间认真思考人工智能，并对未来的挑战做出更有力的回应

当前政策和规范格局

几类行为体在推动关于其中一些问题的讨论方面发挥着重要作用，包括非政府组织（NGO）和非营利组织、商业行为体、政府和多边论坛。这些努力导致了新规则、价值观、原则、信条、标准和宣言的泛滥，使人们越来越难以理解这些不同标准的重叠之处，造成不必要的重复，或造成混淆和歧义⁶³

非营利组织和多方利益相关者倡议：涉及人工智能和机器人领域的领先科学家、技术专家、研究人员、民间社会组织和投资者的一系列倡议正在宣传有助于降低风险和传播的重要原则人工智能的益处。

示例包括2017年制定的《阿西洛马尔原则》，该原则旨在“支持人工智能的未来发展，确保所有人共享人工智能的机会和益处。”，努力确保人工智能不被用于助长军备竞赛或开发致命的自主武器和其他军事能力，以及其他价值和风险。这项关于军事应用的原则和人类控制的核心问题是非政府组织国际联盟发起的制止杀人机器人运动所不可或缺的<关键公司、组织和个人最近签署的《致命自主武器承诺》以及许多人工智能和机器人研究人员签署的《2015年关于人工智能和自主武器的公开信》中，有意义的人类控制原则和问题也是核心⁶⁷

与此同时，纽约大学下属的研究机构AI Now就与人工智能相关的各种治理挑战制作了一系列深入的报告，人工智能系统生产和生命周期的所有方面的透明度，以及对这些系统的直接和间接影响的评估（问责制）。与此相关的是，该研究所还出版了它所称的“算法问责政策工具包”。最近，它研究了原则扩散趋势，并建议在一个共同框架下统一现有的努力（下文讨论）

就电气和电子工程师协会（IEEE）而言，它继续更新其2016年“全球论文”，以伦理方式设计人工智能系统以促进人类福祉的原则和建议；本文档是由来自商业界、学术界和政策界的1000多篇众包稿件组成的⁶⁹2019年，IEEE发起了一项超越原则表述的努力。原则付诸实践倡议也建立在众筹捐款的基础上，其核心是验证现有原则<这项工作的结果可能会受到密切监测

与此同时，人工智能造福人类和社会伙伴关系将越来越多的研究和民间社会团体以及大型人工智能公司聚集在一起，以促进类似的原则。该小组的目标是“研究和制定人工智能技术的最佳实践，促进公众对人工智能的理解，并作为一个开放的平台来讨论和参与人工智能及其影响。“⁷¹

商业行为体：一些公司逐渐意识到需要创建新的治理结构，并在政府强制要求之前“明确定义人工智能的进展和实施方式”<例如，参与人工智能合作伙伴关系的开放人工智能公司制定了自己的章程，概述了其工作和总体战略的原则，这是一份与其他行为者协商制定的文件⁷³这些原则以“在[人工通用智能]开发过程中为人类的最大利益”的承诺为基础，使公司致力于确保：广泛分配的利益；长期安全；技术领导力（有效应对人工智能对社会的影响），以及与全球其他研究和政策机构合作，以应对与人工智能相关的全球挑战，并提供相关公共产品⁷⁴

科技公司越来越受到日益增长的监管威胁的推动，并寻求确保任何监管都有利于他们的利益，不会扼杀创新。同时，他们的行动也受到对人工智能技术如何使用的潜在风险的深刻理解的推动。例如，针对公司员工因军事合同而质疑公司道德的问题，谷歌采用了七项原则来指导其人工智能工作⁷⁵这些包括开发对社会有益的人工智能，避免产生或加强不公平的偏见，为安全而构建和测试，对人负责，纳入隐私设计原则，维护科学卓越的高标准，并可用于符合这些原则的用途。其他公司也发布了类似的公告，如微软的“人工智能原则”，或埃森哲更广泛的“负责任人工智能和机器人的道德框架”Salesforce等公司已经建立了专门的人工智能伦理和价值观研究流、“首席道德和人道使用官”等特定人员职位以及道德咨询委员会等其他实体⁷⁸

政府：政治行为体越来越多地将人工智能视为一项战略技术，在经济、政治和国防领域具有巨大的前景。根据最近的一份报告，至少有27个国家政府表达了对“鼓励和管理人工智能技术的发展”的兴趣，并通过国家政策、战略和理论组织其努力<他们还致力于减轻自动化和数字化增加带来的社会风险。当然，人们越来越担心机器人会接管大量的蓝领和白领工作，以及这些工作岗位的流失会对世界各地的社会产生的相关影响。然而，一些专家认为，这种自动化的速度可能会放缓。他们表示，尽管机器人技术的应用肯定会影响建筑、医疗保健和商业等服务行业，但在其他行业，它更有可能导致就业转型，而不是替代<因此，越来越多的人敦促政府投资于社会安全网和人力资本，以便工人能够培养转型劳动力市场所需的技能⁸¹

AI子领域，如机器学习、深度学习和机器人，在国家安全和国防方面具有重要的竞争优势。在过去几年中，中国、俄罗斯、英国、尤其是美国一直在激烈地争夺这一领域的主导权。这些国家中的每一个都在创新上投入大量资源；在许多情况下，他们已经或正在与人工智能领域的全球技术领导者建立密切关系，以促进社会政策以及国防研发；D、尤其是因为私营部门对人工智能的投资继续大大超过政府<对人工智能军事应用的兴趣越来越大，这在关于机器学习如何实现“卫星图像分析和网络防御等劳动密集型活动的高度自动化”的讨论中已经很明显。以美国为例，国会正在努力解决各种问题，包括平衡人工智能开发的公共和商业资金、阐明国会和行政部门在人工智能开发方面的监督作用和责任、协调与人工智能相关的研发和管理；D和具有伦理考虑的自主系统，确定军事人工智能应用程序集成所需的立法或监管变化，并找出如何帮助管理全球人工智能竞争

人工智能预计会带来的国家安全风险包括与人工智能相关的战略竞争和相关的安全困境；关键人工智能依赖系统的网络安全风险；与生物技术、核领域和其他领域的双重用途技术的相应融合；以及围绕AI算法的整体不可预测性及其对偏见、盗窃和操纵的脆弱性。一个特别令人烦恼的潜在操纵工具是deepfakes，它是“真实的照片、音频和视频伪造品”，可以被武器化用于“信息操作”。一些研究人员正在帮助加深人类对这些人工智能相关安全风险的理解。长期网络安全中心最近对十个国家的国家人工智能安全政策和战略进行的一项比较研究表明，人工智能安全的方法存在很大差异<如果不加以调和，这些差异从长期来看可能对国家和国际安全构成严重威胁

多边论坛：人工智能越来越多地出现在联合国各规范制定机构和其他专门机构（包括联合国裁军谈判会议、联合国教育、科学及文化组织（教科文组织）、国际劳工组织和世界银行）以及其他国际和区域组织的议程上（如欧盟、经济合作与发展组织（OECD）和欧洲委员会）

这些不同的机构都在关注劳动力流失的经济后果以及安全、道德和安全风险等问题，包括与人工智能增强监控和数据隐私相关的问题。此外，包括一些联合国实体在内的一些组织正在与学术界和行业行为体接触，以确定人工智能解决方案的最佳组合方式，以帮助解决全球问题人道主义和发展挑战，实现联合国可持续发展目标和《气候变化巴黎协定》。在某些情况下，特别是在道德领域，个别政府或地区团体建立了新的机构，如人工智能和道德问题工作组或中心，以及部长级或大使级职位

从区域角度来看，欧盟加大了对人工智能的参与力度。例如，欧洲科学和新技术伦理小组（European Group on Ethics In Science and New Technologies）加强了对“国际公认的人工智能、机器人和自主系统的设计、生产、使用和治理伦理框架”的呼吁，要求“一个集体、广泛和包容的过程”。“2018年4月，欧盟发布了一份《人工智能合作宣言》，随后不久便发布了《欧盟人工智能通讯》⁸⁸该通讯建立了一项关于人工智能的欧洲倡议，旨在提高欧洲在人工智能及其应用方面的技术和工业能力，解决其社会经济影响，并确保制定适当的法律和道德标准。该框架以欧盟价值观为基础，并与《欧盟基本权利宪章》保持一致，包括“即将出台的关于现有产品责任规则的指导意见，对新出现的挑战进行详细分析，并通过欧洲人工智能联盟与利益相关者合作，制定人工智能道德准则”，将以欧洲科学和新技术伦理小组的工作为基础

此后不久，欧盟成立了人工智能高级专家组（AI HLEG）。它由工业界、学术界和民间社会的成员组成，将支持欧洲人工智能倡议的实施。人工智能高级专家组将就未来人工智能政策发展提出建议；就相关的道德、法律和社会问题提供指导；并担任欧洲人工智能联盟工作的指导小组。它将与其他倡议互动，帮助激发多方利益攸关方对话，收集参与者的意见，并在其分析和报告中反映这些意见。欧盟打算如何在国际上推广这些举措和指导方针，目前尚不清楚

经合组织和欧洲委员会也在加强对人工智能的参与。例如，2019年5月，根据经合组织理事会关于人工智能的建议，经合组织通过了一套原则，旨在促进“具有创新性和可信赖性、尊重人权和民主价值观的人工智能（AI）”，并确保参与开发、部署或运营AI系统的人员承担更大的责任。这些原则旨在补充经合组织在隐私、数字安全风险管理和负责任的商业行为等关键领域的现有标准⁹⁰这些原则通过一个月后，二十国集团贸易和数字经济部长级会议通过了自己的“以人为中心的人工智能原则”，该原则也借鉴了经合组织的原则。20国集团的原则伴随着对决策者的指导。该指南以“最大化并分享人工智能的好处”、“最小化风险和担忧”、“国际合作”和“包括发展中国家和代表不足的人口”等概念为基础，人权专员发起了一系列规范性讨论和倡议⁹²

越来越多的人认为，人工智能的军事应用需要采取规范行动，应优先考虑在军队中负责任和合乎道德地使用人工智能系统<最突出的例子之一是致命的自主武器系统。使用传感器套件和先进的机器学习算法，这些武器可以识别目标，做出交战决策，并引导武器摧毁目标，而不受人为干预或控制<自2016年《联合国特定常规武器公约》（CCW）缔约方成立政府专家小组，研究新兴技术的法律、规范、伦理、技术和军事方面，以及它们如何应用于致命自主武器系统以来，这些武器系统受到了极大关注。与联合国大会裁军和国际安全第一委员会设立的专家组不同，《特定常规武器公约》专家组允许研究界、民间社会和私营部门参与。这些非政府行动者中的许多人都参加了制止杀人机器人运动

2017年，《特定常规武器公约》专家组商定了几个研究问题，包括如何最好地描述系统以促进对与《特定常规武器公约》目标和宗旨相关的概念和特点的共同理解<政府专家小组还同意在使用致命武力时考虑人的因素；考虑与致命自主武器系统相关的新兴技术的开发、部署和使用中的人机交互方面；审查相关技术的潜在军事应用。重要的是，该小组被要求根据《公约》的精神，提交解决致命自主武器相关技术所带来的人道主义和国际安全挑战的备选方案<自2017年以来，已有28个国家加入了禁止完全自主武器的呼吁<在2018年《特定常规武器公约》政府专家组第一届会议上，85个国家“在多边论坛上公开阐述了对致命自主武器系统的看法”，其中一些国家推动制定一项关于完全自主武器的具有法律约束力的文书<联合国秘书长也表示支持对此类技术的使用采取某种形式的规范性限制，尽管他承认各国在这一问题上的立场不同。例如，他在《裁军议程》中指出，尽管“越来越多的国家，包括一些具有先进军事能力的国家，呼吁预防性禁止使用致命的自主武器系统”，但其他国家认为“现有的国际人道主义法足以应对这些风险”，他指出，无论个别国家采取何种立场，各方都同意，“至少，对使用武力进行人的监督是必要的。”<然而，对话仍在继续。《特定常规武器公约》专家组2018年10月的报告概述了若干问题，供2019年3月开始工作的新专家组进一步研究。除上述问题外，政府专家组的新议程还包括“可能的指导原则”，如“国际人道主义法”的适用，以及“与致命自主武器系统相关的新兴技术的开发、部署和使用中的人机交互方面”。“103新的政府专家小组第一届会议于2019年3月25日至3月29日举行，更加强调“国家间对话”，尽管按照以往惯例，该小组还涉及其他行为者<该会议为定于2019年8月举行的政府专家组第二届会议奠定了基础

不知道人工智能的潜在利益和风险在未来几十年将如何发挥，这将迫使决策者面临一系列相互关联的治理问题。公共和私人行为者之间必须进行重大协调与合作。从国际上讲，必须建立参与性或合作性机制，以了解人工智能不断演变的影响以及如何最好地管理这些影响，同时应对未来发展的不确定性和风险

这些机制需要通过广泛的公众讨论和参与一系列问题来了解情况。首先，需要就复杂人工智能模型和系统的发展所带来的伦理价值和原则以及它们所带来的变化的性质和方向进行更广泛的公众对话。这种对话应包括就公共和私人实体（有时是联合）正在推动的一系列新原则和价值观进行交流和对话，并就更透明地管理相关跨境风险进行对话

目前的趋势，无论是政府机构还是非政府机构，都倾向于为人工智能制定原则和指导（上文讨论的原则扩散），这表明在原则重叠的地方可能会有很多重复，在不同的地方可能存在“混淆或歧义”，这些原则驱动的倡议中的大多数往往是在西方发达经济体中出现的，这反过来表明，如果不在讨论中引入其他声音，在中长期内可能很难调和某种程度的分裂。这一趋势对实现更公平分配人工智能相关利益的持续努力具有深远影响。所谓的公平规范倡导在特定领域或部门制定协调的人工智能发展路径，为接触人工智能的人提供合理的补偿或利益共享风险

但仍有希望。例如，根据对当前备受瞩目的促进道德人工智能的努力进行的比较分析，AI Now研究所建议了一个由五个核心原则组成的总体框架，以克服这种重复、混淆和歧义。这些框架原则主要来自生物伦理学领域，包括慈善、非暴力、自主和公正，以及一个新的可解释性原则，它既包含了可理解性（特定人工智能系统如何工作），也包含了道德责任感（如何追踪谁最终对人工智能系统的影响负责）¹⁰⁶这一总体框架可能是跨区域对话的重要基础，旨在确保更有道德的人工智能造福全球社会

其次，透明度和问责制问题需要特别提及，尤其是在公司方面。根据一位专家的说法，大多数关于人工智能相关政策和原则的公司声明似乎“比一条小丑裤更能给人留下回旋余地”。然而，更令人担忧的是“商业人工智能巨头研究其自身技术的社会影响的伦理的利益冲突”。鉴于人工智能的广泛社会影响，需要寻求某种形式的公私合作或契约。但是，要找到“以某种咨询形式或其他形式，向某个科技巨头或另一个科技巨头”尚未纠缠的学术界人士，难度越来越大。监督机构的性质和组成同样存在问题。例如，虽然一些公司设立了道德委员会，但他们对其成员或运营并不总是公开或透明的。例如，Alphabet Group于2014年收购的DeepMind公司创建了DeepMindEthics and Society，一个研究小组专注于探索“人工智能领域面临的关键伦理挑战”。该小组承诺，其工作应“遵循一套原则，以确保这项工作的严谨性、透明度和社会责任”，包括帮助技术专家将伦理付诸实践，帮助社会预测和管理人工智能的影响以造福所有人的方式<然而，与此同时，该公司因其AI道德委员会缺乏透明度而受到批评<当Alphabet集团收购该公司时，该委员会被写入一份名为《道德与安全审查协议》的合同中。该协议实质上将DeepMind“最有价值和潜在最危险的技术”——其核心人工智能技术——的控制权置于道德委员会的管理之下，该委员会的实际组成从未公开<然而，政策制定者和其他行为体可以从一些公司的新兴实践中吸取重要的教训。例如，美国Axon（前身为Taser）公司最近宣布成立人工智能和警务技术道德委员会，以帮助指导其产品和服务的开发，该公司开发用于执法的人体摄像头和武器<这一决定很可能受到了该公司在批评者眼中的规范和道德真空中向全美警察提供自由身摄像头的强烈批评的影响<此后，Axon成立了一个独立的董事会，其任务是“为公司开发人工智能产品和服务提供专家指导，特别关注其对社区的影响”，包括在其第一次会议上制定的人工智能产品开发指南

这无疑是一个重要举措。然而，董事会的运作原则可能会引发更多问题，即如果公众本身不参与这一过程，那么像这些多元化和专业化的董事会如何为对各种社区有深远影响的产品和服务提供合法的指导和监督。就Axon而言，似乎缺乏与更广泛的警务政策和民主监督的联系。尽管如此，独立董事会的成立及其引发的其他问题仍然是一个有趣的步骤，随着这个复杂且竞争激烈的领域的发展，支持人工智能道德的公司可能会从中学习

第三，它有必要就如何在安全协议的研究和设计、公平、透明和负责任的决策与技术进步的投资之间取得最佳平衡进行更深入的讨论。到目前为止，大部分投资都投向了后者。从特定行业的人工智能和自动化试点、沙箱运动和初始监管步骤（如欧盟正在进行的）中提炼和分享经验教训，可以推动这一讨论。此外，这种方法有助于就未来特定人工智能系统可能需要的监管、法律和监督框架的性质和范围进行更深入的对话

第四，尽管所有国家都有权在其认为合适的情况下制定自己的人工智能国家安全政策和战略，但需要围绕最终目标达成更大的一致，以防范更广泛的系统性风险。随着对人工智能相关国家安全政策和战略发展研究的深入，可能会对长期网络安全中心最近报告中提出的建议进行进一步思考。特别值得注意的是与促进围绕已确定的共同利益进行早期协调有关的建议；鼓励公共投资，以确定和分享最佳做法；了解将一个子问题优先于另一个子问题的风险，以及可能被忽视的机遇和挑战；确保加强技术部门的问责制；以及在政府政策和战略的制定过程中要求更大的包容性<第五，关于人工智能的公共讨论必须解决国际规范、规则和原则如何减轻（甚至防止）滥用人工智能的新方式，并在全球力量平衡发生变化时维护和平与稳定的问题。在短期内，与是否应允许武器系统做出生死决定有关的法律和伦理问题（即有意义的人类控制问题或可解释性问题）可能仍然是核心问题，并与国际人道主义法或其他规则在人工智能系统和能力的其他国家安全用途方面的适用问题有所区别。然而，应该努力确保这些关于致命自主武器系统的重要讨论不会淹没对与人工智能和国家安全相关的紧迫规范问题的审议<为此，可能需要建立更加具体和综合的机制，以应对人工智能和自主系统未来发展的不确定性，并管理相关风险，包括人工智能与战略竞争日益相关的风险。未来几年，与人工智能日益军事化相关的其他问题可能会出现在多边安全议程上¹¹⁹联合国裁军研究所的“信任但验证人工智能项目”等倡议可以为围绕人工智能和国际和平与安全的辩论带来新的思考¹²⁰该特定项目旨在将人工智能技术专家、军备控制从业者以及监管和技术控制政策方面的其他专家聚集在一起，以考虑人工智能军备控制如何可行

生物技术

生物技术领域也取得了重大进展，联合国将其定义为“使用生物系统、活生物体或其衍生物制造或修改特定用途的产品或工艺的任何技术应用”，基因驱动和合成生物学。目前的趋势表明，生物技术产品的种类、范围和复杂性将大大不同于以前的产品。准入壁垒的降低为越来越多的行动者打开了这一领域

技术进步正在推动生物经济的快速增长。根据核威胁倡议（NTI）的生物安全计划，2014年全球生物经济占世界贸易的很大一部分，并在能源、食品生产、医疗保健和其他对可持续发展至关重要的领域提供了社会效益。例如，2012年，印度的生物经济价值已经超过43亿美元。与此同时，据报道，2015年，欧盟的生物经济已经创造了超过2.3万亿欧元（约合2.6万亿美元）的营业额，以及约1800万个就业岗位。鉴于这一经济潜力，许多国家正在该领域投资。2013年，中国政府拨款118亿美元用于“2015年至2020年的生物技术创新”各国正在制造生物肥料，以开发新技术，并促进生物系统的产品开发<与此同时，新的全球学术联合会正在讨论如何解决围绕合成生物学出现的伦理和监管挑战，以及其改造现有生物或创造“迄今未知的生物”的潜力。许多国家的公众对生物技术相关风险和挑战的认识正在提高。中国研究人员贺建奎声称改变了双胞胎女孩的基因，以防止她们感染人类免疫缺陷病毒（HIV），这一失败就是一个很好的例子，不仅因为围绕他的说法存在怀疑，而且因为他的研究提出了伦理问题，包括人类意味着什么<与此同时，国家监管机构正努力跟上变化的速度和范围，平衡工业、学术界、社会其他部门和国家的竞争利益变得越来越具有挑战性。在国际上，生物技术的快速发展和国家之间持续存在的分歧加剧了生物攻击的潜在后果，给《生物武器公约》等现有制度带来了新的压力。随着世界越来越依赖生物系统，越来越需要加强现有的治理系统，包括规范和监督机制，并酌情确定新的治理系统

当前的规范景观

生物技术为人类提供了对生命基本组成部分的极大理解。人类基因组计划于2000年初完成了人类基因组的绘制，确定了人类脱氧核糖核酸（DNA）中大约20000至25000个基因中的每一个<此后，研究人员在基因编辑和基因驱动研究方面取得了重大进展。基因组编辑涉及通过特殊蛋白质精确切割和粘贴DNA片段。最受关注的方法被称为簇状规则间隔短回文重复序列（或CRISPR）和CRISPR相关蛋白9（Cas9）。这种简单、多用途和廉价的技术最初是在20世纪80年代末发现的，最近研究人员已经学会了如何使用CRISPR和Cas9进行基因编辑<目前，CRISPR正在测试各种用途，如治疗某些遗传病、种植气候适应性作物、防治疟疾等病媒传播疾病、设计食品和药物，甚至挽救濒危物种免于灭绝。这项技术也为所谓的自体治疗带来了巨大的潜力，其中包括教导细胞“在自己的身体中对抗疾病，为自己和自己的后代消除遗传性疾病，并在遗传修饰传递给后代时塑造新一代的生物。“几乎没有其他新技术为缓解疾病带来更多希望。与此同时，基因编辑可能会带来不可预测的永久性遗传变化，其中一些可能会危害人类和生物圈

该领域的一些进展提出了新的伦理和规范问题和风险，需要新的解决方案，特别是在四个关键领域，其中一些领域重叠：

生态风险：基因改变可能会在改性物种和其他物种中产生不可预测的不良后果，甚至可能引发新的未知动物和人类疾病。研究人员正在研究基因驱动系统如何被用于根除疾病；这些项目中最先进的是消灭携带疟疾的蚊子。一些科学家希望利用CRISPR基因驱动来防止受到入侵生物威胁的野生动物物种灭绝。这种想法认为，修改入侵生物的DNA以降低其繁殖能力，然后将该生物释放回野外，将导致降低生育能力的基因在入侵种群中传播，从而消灭害虫。但同一批科学家最近的一项研究发现，改变的基因实际上可能会传播到同一种生物根本没有入侵的地方，而是当地生态系统的一部分<131此类意外后果将带来不可接受的风险

此类项目表明，需要首先开发这种强大技术的更安全版本，并提出与标准和法规相关的重要问题。使用此类技术的后果不在国界之内，这些影响可能需要某种形式的跨国机制来考虑所有利益攸关方的意见。这要求对生物技术政策采取更协调的方法，尤其是因为基因编辑的规则和实践因国家而异。与此同时，包括资助和支持研究的利益相关者在内的所有利益相关者都需要确保遵守现有的指导原则，例如世界卫生组织（WHO）2014年的一套转基因蚊子检测指南<根据一些专家的说法，支持标准的努力可能需要建立某种形式的问责机制，这种机制至少可以监督对这一指导的遵守情况，并确定实施的可能障碍¹³³

另一个生态风险是对食物和水资源进行生物攻击的可能性，正如下面进一步讨论的那样，这将造成经济损失以及“对食物供应失去信心，并可能造成生命损失”，最近的一项研究表明，科学家对植物和动物基因组的深入理解将使理论上更精确地定位脆弱性或创造具有潜在有害特性的生物新品种成为可能。作者们认为，“如果植物或动物病原体被重新设计，分别以农作物或畜群的形式在世界上广泛传播，其结果可能是广泛和持久的食物短缺。”135

其他健康和安全风险：实验室事故或旨在使致命病毒更具传染性或致病性的研究等事件也会带来危险。与此相关的是，这些技术和研究成果的出版可以教育和增强恶意行为者的能力。2012年，两位科学家在著名期刊（自然和科学）上发表的研究引发了此类担忧。两人都成功地对禽流感病毒（H5N1）进行了基因工程

研究界制定的国家指导、法规和行为准则有助于解决其中的一些挑战^{137在全球范围内，国际标准组织（International Standards Organization）正在制定新标准，以协调帮助实验室管理生物风险的努力，并借鉴欧盟和世界卫生组织（WHO）建立和实施有效的生物风险管理系统的努力<但仍有重要差距。随着生物技术变得更便宜、更容易获得，这些较软的监管形式可能不足以管理相关风险}

同意和人类诱导的永久性遗传变化问题也引发了新的难题。例如，对修改胎儿或以其他方式增强受试者的审美表现或其他属性的担忧驱使人们对基因歧视、人类克隆和优生学的担忧。各州对生物技术这一方面的国家法规和做法差异很大。例如，许多国家援引伦理考虑，禁止或限制某些人类CRISPR试验，以治疗或预防生殖细胞（而不是体细胞）的疾病或残疾<在其他情况下，此类研究被禁止。例如，中国当局此后对贺建奎的案件进行了调查，并得出结论，贺建奎“组织了一个包括外国工作人员在内的项目团队，该团队有意避免监控，并使用安全性和有效性不确定的技术，以生殖为目的进行人类胚胎基因编辑活动，这在中国被正式禁止。“斯坦福大学也对斯坦福大学学术人员与这位中国科学家之间的联系展开了调查<然而，他确实成功地在双胞胎胚胎上测试了基因编辑，这一事实引发了关于如何管理风险和意外后果以及如何确保更好的研究监督的新问题¹⁴²

法治风险：执法机构越来越多地使用数据敏感生物技术，如指纹识别、系统采集人类DNA样本、引入生物识别器和智能植入物，这些都构成了重要的社会风险，包括法治和人权的核心原则。例如，在美国，执法机构在利用家谱网站上的DNA信息识别臭名昭著的金州杀手案嫌疑人后，对访问私人运营的基因家谱库表现出越来越大的兴趣<事实上其中一些网站的所有者在用户不知情的情况下提供了充分的执法权限，这引发了有关隐私、同意和正当程序的严重问题¹⁴⁴

国际安全风险：人们也越来越担心生命科学技术进步的双重用途及其恶意使用的可能性。基因组工程和基因驱动技术（包括生物武器的生产）可能应用的多样性及其潜在影响是不可预测的。虽然此类生物技术应用可能仍需要国家或大型企业的资源，但近年来，获取、开发和使用生物制剂作为武器的技术壁垒已大幅降低。生物战、生物犯罪和生物恐怖主义的风险尤其严重

关于生物战，《生物武器公约》是一项具有法律约束力的条约，禁止使用生物武器，并制定了一项强有力的、古老的、跨文化的规范，禁止将疾病作为武器。但《生物武器公约》在制度上很薄弱，缺乏核查、监督和执行规定。此外，公约可能无法跟上科学技术的快速发展

值得注意的是，由于生物科学本质上是双重用途的，因此可以用于造福社会的相同工具和技术也可以用于造成故意伤害，关键区别在于用户意图。虽然没有与《生物武器公约》目标不符的新发展的具体例子，但生物技术的进步确实具有与安全相关的影响。这些进步使生物武器的开发和生产变得更容易和更容易获得，即使这种研究努力主要是为了完全合法的目的（如一般科学发现、公共卫生和食品生产），因此本身不能被禁止

目前尚不清楚技术和准入壁垒的侵蚀是否会导致更广泛的获取和使用生物武器。虽然科学和技术进步可能会继续对反对将疾病作为武器的规范施加压力，但它们也可以起到威慑作用。例如，创建多功能诊断和治疗平台可以快速应对任何工程威胁，阻止邪恶行为者将生物学视为大规模恐怖的潜在工具，如上所述<然而，如果没有相应的进展来监测遵守情况并区分进攻和防御（或和平）意图，生物技术的进步可能会使识别违反《生物武器公约》的行为更加困难

《公约》第八次审查会议于2016年11月举行，在没有就任何提高条约效力的重大步骤达成协议的情况下结束，包括建立一个定期咨询机制，以协助监测和评估相关科学发展。与此同时，由欧盟和美国资助的几次区域研讨会正在进行中，旨在使《生物武器公约》审查会议后关于科学和技术的讨论更加全球化和多样化的研讨会也在进行中。希望这些研讨会将有助于为今后的审查和评估提供基线

除了全面生物战的风险，还有其他国际安全风险。其中一个风险是生物技术和人工智能日益融合，特别是在合成生物学领域。虽然人工智能生物工程目前主要用于良性和有益的目的，但美国国家科学院的一份报告警告说，这些技术“扩大了生物武器的风险，因为新的或更致命的病原体可以从头开始创造。”尽管有一定程度的炒作，利用生物技术实施恐怖袭击或其他犯罪行为仍然有限。最近的研究指出，只有一例死亡是由生物犯罪造成的（尽管这是有争议的），一系列没有直接相关死亡的生物恐怖主义事件，148例死亡，5例死于美国的独狼恐怖事件<然而，随着利用生物制剂作为武器的技术壁垒降低，这种风险增加。新的生物技术工具的日益普及，可能使恐怖组织制造和改造病原体，或以其他方式滥用生物材料和专业知识<据报道，基地组织和自称“伊斯兰国”等组织呼吁“科学家、医生和工程师加入他们的事业，包括使用专门技能制造伤害”前面

目前管理生物技术相关伦理和规范挑战以及管理生物风险的框架是支离破碎的。职责分散在不同的政府间机构和国家监管和监督机构<几十年来，世界卫生组织帮助制定了与生物技术、卫生保健和生物伦理学有关的规范。联合国和其他国际和区域机构长期以来在其中一些领域的原则、标准和规范的制定方面发挥了作用，结果好坏参半。就联合国教科文组织而言，自20世纪70年代以来，它也参与了生物伦理学。其工作围绕生命科学（包括生物技术）进步的社会文化、法律和伦理影响展开，并设立了国际生物伦理委员会等机构来研究这些问题

联合国还负责执行《生物武器公约》（1975年生效）中的禁令，这是第一项禁止发展、生产和储存特定类别大规模杀伤性武器的多边裁军条约。通过一系列决议，联合国安理会也参与了某些与生物技术相关的问题，特别是与加强成员国预防生物犯罪和生物恐怖主义的能力有关的问题。其中包括联合国安全理事会第2325（2016）号决议，该决议呼吁所有国家在执行联合国安理会第1540（2004）号决议的过程中加强国家防扩散制度，通过其新技术伦理和科学小组（EGE），欧盟也越来越重视生物技术及其规范影响。在早些时候就基因编辑发表声明之后，EGE正在准备一份关于基因编辑的意见，预计将于2019年夏天完成。意见将集中于“这个问题的更大图景”，它跨越了现有的道德分歧，以及“关注的具体方面”，如“应用于动物的基因编辑”和“生物多样性和生态系统背景下的基因编辑。”。例如，除了在第四次工业革命方面的工作外，论坛还成立了全球未来生物技术理事会，以审议与生物技术相关的发现、应用和政策问题所产生的伦理和安全问题<就国家而言，与某些生物技术应用（如基因编辑）相关的规则和实践在各国之间仍有很大差异。世界各地的政策制定者都在努力跟上最新发展的步伐，并调整国内机构来管理与未来进步和产品的出现相关的风险。各国尚未协调各自的努力，尽管一些国家正在倡导通过世界卫生组织等机构作出更多的全球反应，包括就指导道德原则达成共识<在这方面，世界卫生组织决定设立一个专家咨询委员会，“审查与人类基因编辑有关的科学、道德、社会和法律挑战”，目的是就“人类基因编辑的适当治理机制”提供咨询意见并提出建议，这可能是朝着正确方向迈出的一步¹⁵⁶

除了这些正式的多边机构之外，科学协会、研究团体和出版商都在制定指导生物技术研究和创新的原则、标准和规范方面发挥着重要作用。例如，美国国家科学院提出了一套原则来应对与人类基因编辑相关的挑战。这些原则包括促进福祉、透明度、应有的注意、负责任的科学、尊重人、公平和跨国合作<相关行业行为体似乎没有在道德和规范问题上进行重大参与，尽管正在努力加强这种参与，并鼓励在现有道德价值观和原则的基础上进行自律¹⁵⁸与此同时，人们再次呼吁生物技术研究的公共和私人资助者做出更多努力，确保他们支持的研究“符合世界卫生组织和相关机构提出的标准”，无论研究在何处进行<在联合国大会、世界经济论坛和慕尼黑安全理事会最近的讨论中，主要利益攸关方被敦促寻找减少生物风险的创造性方法。作为回应，NTI计划生物安全、惠康信托基金会和WEF正在推动病毒学和合成生物学界的领导人建立新的全球规范，以及采用此类规范的模式<为此，2018年，这三个组织发起了一项联合倡议，旨在将基因组学、病毒学、合成生物学、生物伦理学、安全、保险和科学出版领域的领导人和专家聚集在一起。在首次圆桌会议之后，国家信息技术研究所旨在召集一个多方利益相关者理事会，以推动采用新的全球规范和技术方法，加强生物安全创新并降低风险<毫无疑问，鉴于当前存在大量的道德和规范问题，政府和其他关键行为者需要确保一个更加一致、合作和参与的政策环境。各国需要取得进展，确定国际合作与协调有助于解决持续存在或新出现的挑战的案例。这样做将吸引更多利益相关者参与，提高效率，提高整体安全和标准，并降低风险。这种方法还将促进更大的透明度和问责制，为决策、规范制定和监管过程赋予亟需的合法性。而且，有必要确定当前的平台是否能够充分满足这一目的，或者是否需要新的平台

空间技术

历史上，主要大国之间的战略和资源竞争塑造了外层空间<如今，技术的重叠进步正在促成新形式的太空商业和军事活动。随着更多的有形威胁、更低的准入壁垒和越来越多的利益相关者，各国和其他行为者迫切需要进行更多的对话与合作，以确定如何最好地加强相关的治理框架

空间技术发展

虽然外层空间最初由国家主导，但它已成为经济增长、创新和私人商业活动的舞台。仅在过去十年中，国际商业空间部门就大幅多样化。根据经合组织的数据，2013年，外层空间产生了约2500亿美元的收入，其中包括空间制造供应链、卫星服务以及卫星电视和全球定位系统（GPS）设备等消费服务部门<创新继续改变了包括卫星工业在内的各种与空间有关的经济部门。无论是大公司还是小公司，以及大学，都越来越多地使用最初为低地球轨道上昂贵的科学研究目的而开发的强大微型卫星。这些小型卫星通常采用现成的商业组件开发。业余爱好者有时通过众包活动获得资金，也会使用它们。除此之外，技术创新还将打开和/或扩大新的领域，如商业航天发射和太空旅游、太空制造和资源回收（小行星采矿）。例如，在一些国家，私人支持的火箭发射、火箭回收和向空间站运送有效载荷的投资，已经产生了突破，与政府资助的竞争对手相比，带来了显著的效率

在某些情况下，行为者正在现有空间技术的基础上进行创新。例如，天基遥感器的使用正在改变各种领域的运作方式，包括人道主义援助、危机管理和农业。社交媒体和科技公司正在评估如何在低地球轨道上使用卫星，以扩大偏远地区的互联网接入（以及他们自己的产品和服务）。这些技术进步有望为经济增长、发展和新行为者的参与提供新的机会。2014年，经合组织推断，“随着成本降低和技术进步吸引更多国家和公司进入该领域，并催生了一个蓬勃发展的商业航天产业，拥有长期建立的航天计划的国家面临着越来越大的挑战。”，美国银行（Bank of America）的数据显示，太空相关产业的总价值估计为3500亿美元，预计到2040年将增长至2.7万亿美元左右，“新的驱动因素”使这一趋势成为可能，例如“SpaceX的可重复使用发射、市场上私人所有权的增长、80多个国家的投资和融资以及火箭实验室和Vector等运载工具发射成本的下降”，例如碰撞的可能性和可能由这种碰撞导致。在地缘政治紧张局势加剧之际，各国越来越多地将太空经济视为新的力量来源，这一事实正在推动战略竞争。这可能会影响相关规范性讨论。此外，尽管从事商业空间活动的行为者越来越多，但这些会谈往往在少数富裕国家举行，这意味着天基经济的潜在参与者和受益者数量仍然很低。这一现实加剧了人们对与技术有关的分歧和公平获得空间经济活动利益的问题的担忧

除了商业活动，在过去几十年中，人们对利用太空作为支持战术军事行动和其他与战略防御相关的现有用途的媒介越来越感兴趣。现有和新兴的航天强国都在为通信、导航和侦察目的的军事航天系统进行更多投资，以确保包括无人机和精确武器在内的一系列能力的可操作性。此类系统可用于检测潜在目标、攻击对手，或以其他方式损害他人利益。许多国家还投资于能够破坏或摧毁这些天基能力的技术

现代军事严重依赖卫星系统的事实意味着这些太空资产已成为潜在目标。这对于现代导航系统和GPS或全球导航卫星系统可能受到干扰或破坏的可能性越来越大，是一个特别重要的问题。严重依赖卫星技术的美国已经认识到了这些弱点。华盛顿认为，俄罗斯和中国寻求反卫星武器（ASAT），包括激光武装、卫星定位飞机，是为了“降低美国和盟国的军事效能”，“抵消美国从军事、民用或商业空间系统获得的任何军事优势”。“¹⁶⁶这些令人不安的趋势正在推动国防开支增加弹性和冗余，包括考虑如何最好地实现GPS相关定位、导航和定时（PNT）保证，这是“现代网络化军事的核心和决定性组成部分，可以在所有领域：空中、陆地、海洋、空间和信息中精确作战。“¹⁶⁷特朗普最近指示成立一支太空部队，作为美国空军的第六支部队，这反映了这一点<在某些情况下，PNT保障正在与可能的地面反卫星部件（如开发新的天基防护罩，增加对新的地面军事硬件的保护，以及干扰卫星的其他能力，如通信和GPS干扰）一起讨论。据联合国裁军研究所（UN Institute of Disarmace Research）称，中国、俄罗斯和美国军方正在“开发瞄准太空资产的能力，包括导弹防御拦截系统和机动卫星。”这些领先的军方还投资于旨在对抗对手太空情报的技术和技术，监视和侦察以及精确打击活动

毫无疑问，在冲突中使用这些能力对抗对手的太空资产，甚至先发制人，可能会对地球轨道和地球本身产生灾难性后果。此外，反卫星能力的开发和测试也加剧了危险空间碎片带来的风险。例如，中国2007年直接上升反卫星试验的碎片仍在轨道上（可能会在那里停留几十年）¹⁷⁰尽管印度最近于2019年3月进行的试验是在低轨道上进行的（据报道允许碎片随时间扩散），但这项试验仍然存在安全风险，包括对国际空间站的安全风险<除了上述安全问题，卫星和航天器计算机系统中的漏洞可能是国家、其代理人或恐怖组织网络攻击的潜在目标。人们越来越担心，国家行为者可能会利用攻击性网络能力或行动作为其反卫星工具箱的一部分。例如，对全球定位系统卫星的攻击将波及广泛的经济和社会部门，可能会影响供电、银行服务和信用卡服务等基本公共服务的提供，所有这些服务都依赖全球定位系统¹⁷²

当前的规范性环境

技术发展使商业和军事航天活动得以增加，这重新唤起了人们对自然界的老问题人类在外层空间的活动。一系列新问题也正在浮出水面，对此可能需要调整管理外层空间活动的国际规范框架，并修订相关的国家政策和条例

这些担忧并非新鲜事。1957年的斯普特尼克卫星发射以及随后的美国和苏联之间的太空竞赛引发了人们最初的担忧，即外层空间将被用于非和平目的，即放置和部署核武器，以及部署可能引发或警告核攻击的军事卫星。决策者还担心商业卫星应用，特别是用于监测、遥感和广播的应用。这些技术可以直接从一个状态内部获取信息，或者将信息传送到一个状态。此时，只有世界上的两个大国拥有探索和开发外层空间所需的资金和技术

随着非殖民化的发生，一场关于外层空间军事用途日益增加的辩论展开了。辩论涉及与主权有关的原则，如事先同意和管辖权，以及较新的原则，例如公平获得商业卫星使用带来的利益。后者导致1959年成立了联合国和平利用外层空间委员会（COPUOS），以及现行的国际空间法和相关的非约束性措施和指南。自那时以来，这些不同的文书塑造了国家空间政策和条例

1967年《外层空间条约》是这一法律体系的核心文书，至今仍是管理外层空间活动的主要框架。该条约的原则是为促进国际和平与安全而谈判的。它并不是为了规范载人航天和探索。相反，它授予了探索和利用外层空间的权利，前提是这些活动“是为了所有国家的利益而进行的”。“这些原则旨在确保“外层空间、月球和其他天体”仍然是和平活动的舞台，任何一个实体或国家都不能声称对外层空间拥有主权<在整个冷战期间，遵守条约以及大国的威慑理论有助于确保外层空间的军事活动不会导致紧张局势升级

然而，对外层空间军事活动的担忧仍然存在。自20世纪80年代初以来，曾多次尝试限制某些活动。在联合国大会或裁军谈判会议上提出了许多关于“防止外层空间军备竞赛”的建议。这些建议包括自1982年以来每年通过的一项非约束性联合国大会决议《防止外层空间武器竞赛》（PAROS）。该决议“重申1967年《外层空间条约》的基本原则”，“主张禁止空间武器化”。该决议还主张“采取进一步措施防止外层空间军备竞赛”，“呼吁裁军谈判会议设立一个防止外空军备竞赛问题特设委员会”。“

其他提案包括中国和俄罗斯支持的旨在防止在外层空间放置武器和禁止使用反卫星武器的文书草案以及2008年的相关条约提案。2014年，莫斯科和北京提交了名为《防止在外层空间放置武器条约》的提案草案的新版本，俄罗斯提出了一项新的联合国大会决议，其中载有禁止在外层空间部署武器的承诺。由于各种法律、技术和政治原因，包括对可核查性或缺乏公平性的担忧，这些建议没有得到推进。欧盟在联合国和裁军谈判会议职权范围之外推动一项不具约束力的《外层空间活动国际行为准则》的替代努力也没有取得进展。虽然对拟议行为守则的实质内容可能存在有限的分歧，但将其制度化的过程从一开始就陷入了问题

2011年，联合国大会设立了一个专家小组，研究与外层空间活动有关的透明度和建立信任措施。该小组的任务是就旨在扩大外层空间活动和空间计划透明度的行为规则和措施提出建议。2013年，它提出了一份共识报告，受到联合国大会第68/50号决议和随后鼓励会员国审查和实施建议的措施。联合国大会还将该报告提交给和平利用外层空间委员会、裁军审议委员会和裁军谈判会议审议。但政府专家小组建议的执行进展缓慢，不信任继续盛行。迄今为止，只有一个联合国会员国美国向大会提交了一份报告，概述了它如何执行2013年政府专家小组报告中的建议<有希望取得进展。例如，裁军谈判会议（最终）于2018年2月设立了四个附属机构，以推进其工作。其中一个附属机构的重点是“防止外层空间军备竞赛”。然而，2019年，裁军谈判会议未能重新建立这四个机构。裁军审议委员会在过去两年中就实际执行透明度和建立信任措施进行了非正式讨论。成员国已同意在委员会2018年至2020年的三年周期中处理这一问题，但尚不清楚这在实际意义上意味着什么

从稍微积极的角度来看，外空委继续就和平利用外层空间的实质性和法律问题开展补充工作。在2007年《空间碎片减缓准则》的基础上，它正在努力制定旨在提高外层空间活动长期可持续性的可能性的准则。这些最近的努力也发挥了重要的建立信任作用

此外，似乎公众压力正在有效地产生一些反卫星测试的良好做法，以及不制造碎片的必要性。例如，中国2007年反卫星试验后引发的公众强烈抗议似乎说服了北京，这种能力必须以可控的方式进行试验，而不必炸毁物体和在太空中散布碎片。但这并不意味着该国不会使用替代的反卫星能力。根据最近的一份报告，中国对“近地轨道（LEO）和地球同步轨道（GEO）的近距离接近和交会技术进行了多次测试，这可能会导致同轨反卫星能力”。目前还没有足够的证据来断定北京是否会在不久的将来获得这种作战能力。同一份报告指出，俄罗斯、美国和许多其他国家也已开发或正在开发五类新型反卫星和其他反空间能力：直接上升、共轨、电子战、定向能源和网络

未来是什么
在谈判该条约时，已经有人试图限制政府企业进行太空探索，这主要是对美国私营部门主导商业卫星产业的反应。条约第六条规定的由此产生的妥协允许在外层空间进行私人活动，使各国政府对其国民的行为承担法律责任。然而，今天新的商业活动引发了新的问题。第一次探测月球资源的任务已经定于2020年发射。根据国际法规定的“授权和持续监督”本国国民开展的此类活动的义务，包括卢森堡、阿拉伯联合酋长国和美国在内的几个国家已经通过了关于空间资源开采权的新立法，同时也放松了规管，以允许商业活动<包括法国、德国、日本和英国在内的其他国家将很快效仿

但这种开发太空资源的冲动很可能会引发新的紧张局势。太空资源回收可能会在主权的基础上进行审查。该条约第一条规定，“外层空间，包括月球和其他天体，应在平等的基础上，根据国际法，不受任何歧视地自由供所有国家探索和使用，并应自由进入天体的所有区域。但该条约随后的条款明确指出，空间资源“不受国家拨款。”一些专家将后一项规定解释为禁止提取空间资源，并批评美国最近的立法赋予从事商业回收空间资源的美国公司“拥有、拥有、运输、使用和销售所获得的空间资源”的权利。此外，能力有限的国家可能会谴责获得空间资源的不平等和不公平。新兴的国家规则和条例体系最终可能需要以管理商业空间探索和利用的国际协定的形式，与国际社会对有关活动的看法保持一致

2017年，海牙国际空间资源治理工作组成立，这是向前迈出的重要一步。在缺乏明确的空间资源开采框架的情况下，这一多方利益攸关方小组一直在研究现有的概念，“以确保它们满足有关在轨运行和空间资源权利的现有条约义务”，并为空间资源相关活动的新国际监管框架奠定基础。就条约条款允许和不允许的内容达成共识无疑是一项挑战。同时，许多行为者打算利用空间促进商业活动和刺激经济增长，例如，这实际上可能会激励就共同原则进行对话和达成协议。其他更为全球性的目标，如联合国可持续发展目标也应如此

关于外层空间军事用途的问题，有关天基军备竞赛的辩论很可能会继续下去，并继续存在分歧。2017年，联合国大会在裁军谈判会议下设立了一个新的政府专家小组，其具体任务是“审议一项关于防止外层空间军备竞赛的具有法律约束力的国际文书的实质性内容并提出建议，其中包括防止在外层空间放置武器。“当所有大国和越来越多的小国都在发展反太空能力时，新的政府间专家小组在当前环境下能否取得很大成就，一直存在严重的疑问。政府专家小组举行了两届会议，一届在2018年，另一届在2019年。然而，该小组未能达成共识报告

然而，据报道，该小组就与“安全、有保障和可持续利用外层空间”有关的一系列问题进行了富有成效的讨论，透明度和建立信任措施的重要性在小组的审议中变得明显<该专家组的工作可能会得到更多实际努力的补充，例如就反卫星试验指南达成协议并予以实施<后者将基于广泛接受的最佳实践；与建议的外层空间活动透明度和建立信任措施挂钩；以外空委、裁军谈判会议和裁军审议委员会正在进行的工作为基础；并与正在进行的碎片减缓工作和外层空间活动的长期可持续性有关。联合国裁军研究所解释说，这些准则将尊重各国“拥有或发展反弹道导弹（ABM）或反卫星能力的权利，前提是它们以公认的负责任的方式这样做”，同时增强外层空间的稳定并限制武器化的潜在危险¹⁸⁶
再次，商业空间活动带来的经济增长和发展潜力可作为此类努力的重要激励因素。尽管如此，在这些领域的每一个领域，都必须就指导外层空间活动的核心原则和规范——特别是那些限制破坏稳定行为并确保公平获得潜在利益的原则和规范，保持对话，在这些政府主导的进程和机制中，其他相关行为者有更多机会表达自己的观点

结论

世界舞台上出现的一系列新技术、它们可能带来的新威胁以及相关的治理困境突出了一系列共同主题。首先，技术创新的爆炸性增长超出了技术创造者、私人投资者、国家政府和现有多边体系理解、监测和有效管理随之而来的影响和后果的能力（或意愿）

其次，这些技术为社会带来了巨大的利益，同时，造成从恶意使用到加剧社会经济不平等的严重风险。尽管目前正在采取一系列举措，并广泛认识到当前的治理挑战，但令人震惊的是，迄今为止的应对措施是多么的乏力。如果没有必要的政治意愿和跨行为体和区域的协调合作，就不可能确保负责任地使用技术；公平分享他们的利益；而严重的道德、社会、经济、人身安全、环境和国家安全风险得到了巧妙的管理

第三，这种缺乏政治意愿和合作的现象越来越受到破坏达成共识努力的结构性动力的驱动。技术是地缘政治竞争的一个根深蒂固的方面，特别是在大国之间，这种创新对于刺激经济增长和获得军事优势至关重要。因此，很少有强国愿意限制他们对技术优势的追求。随着中国、俄罗斯、美国和越来越多的中间大国之间的经济、政治和军事竞争加剧，这种安全困境的影响越来越严重。这种竞争态势在信通技术和外层空间领域已经很明显，在人工智能、生物技术和本文未讨论的其他领域（如量子计算和纳米技术）也出现了类似的趋势。过去，各国（包括大国）克服了激烈的竞争和加剧的紧张局势。他们现在应该承诺这样做

第四，支撑全球技术市场的经济模式，由公司需要在拥有多少用户方面达到规模经济的驱动，导致许多公司将重点放在首先提供产品和服务，然后解决由此产生的问题上。这种心态使得软件、硬件和供应链容易受到政府、犯罪集团和世界各地其他恶意行为者的破坏、操纵和捕获。同样，这种情况在ICT领域很明显，类似的行为也可能出现在其他技术领域。值得注意的是，这些领域需要广泛的（有时是敌对的）行为者进行协调并达成协议，包括各个国家、推动创新的公司、技术专家、民间社会、国际组织和学术机构

虽然这些动态为合作带来了不利的前景，但与此同时，为应对新出现的挑战和风险，已经开展了广泛的努力。其中一些行动是由政府牵头的，而另一些行动是来自同样广泛的学科和部门的一系列行为者的产物。这些努力复杂、分散、范围广泛（通常是非生产性的），需要承认、加强和扩大。各区域必须分享积极和消极的经验教训，因为这些经验可以为有效治理和多部门合作安排提供更有效的方法或模式

联合国也应该能够支持其成员国和所有其他利益攸关方，促进就技术进步带来的政策和规范挑战进行对话与合作。联合国秘书长通过一系列举措，包括他的《裁军议程》、新技术战略和建立数字合作高级别小组，承认了这一点<这些倡议标志着人们认识到，这些进展是在国际关系的关键时刻出现的，在这个时刻，共识越来越难以达成，管理和治理新的风险和挑战的努力也越来越复杂。与其他领导人一样，他明白支持正在进行的努力和促进对话与合作将是困难的，但他也明白联合国有责任维护其原则和宗旨。随着世界对尖端技术的依赖程度不断加深，该机构的成员国（及其国家政府）也应该这样做

作者简介

Camino Kavanagh是伦敦国王学院战争研究系的客座研究员。她还担任独立顾问，目前的合同包括与联合国政治事务部政策和调解司就预防冲突和新兴技术项目担任高级顾问。卡瓦纳担任2016-2017年联合国信息和电信领域发展问题政府专家组报告员/顾问国际安全背景。她参与了一些与冲突和国际安全有关的信通技术和新兴技术的政策和研究举措。Kavanagh于2016年获得伦敦国王学院战争研究系博士学位。

致谢

如果没有许多个人的宝贵贡献，本出版物就无法出版。首先，作者要感谢卡内基国际和平基金会（Carnegie Endowment for International Peace）同意出版这本书，特别是乔治·佩科维奇（George Perkovich）、凯特·查利特（Kate Charlett）、蒂姆·毛雷尔（Tim Maurer）、夏洛特·斯坦顿（Charlotte Stanton）、，作者还感谢联合国基金会资助了本次出版的初步研究，特别是凯西·布朗和梅根·罗伯茨提供了建设性的反馈意见。她还想向联合国执行办公室的马克·杰昆德和法布里齐奥·霍克希尔德表示感谢感谢秘书长有机会在2018年制定秘书长的新技术战略，并通过本出版物进一步发展其中的一些工作

最后，作者感谢多位专家分享了他们对各自领域出现的治理和规范困境的见解。这份名单包括联合国裁军研究所的Kerstin Vignard和Daniel Porras，联合国裁军事务厅的Gillian Goh，人类未来研究所的Piers Millet和Carrick Flynn，核威胁倡议的Beth Cameron和Jacob Jordan，OpenAI的Michael Page，伦敦大学学院的Madeline Carr，和国际战略研究所的奈杰尔·因克斯特

注释

¹Camino Kavanagh和Paul Cornish，“预防性外交、信息和通信技术与国家间冲突：当前实践与观察回顾”，瑞士联邦外交部，（即将出版的2019年）

²Roger Brownshi剑、Eloise Scotford和Karen Yeung（编辑），《牛津法律、法规和技术手册》（牛津：牛津在线手册，2017年）

³哈佛大学教授约瑟夫·奈伊（Joseph S.Nye Jr.）将这一框架称为“管理全球网络活动的全球政权复合体”，https://www.cigionline.org/sites/default/files/gcig_paper_no1.pdf.

⁴世界经济论坛，“第四次工业革命：意味着什么，如何应对”，2016年1月14日，https://www.weforum.org/agenda/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/.

⁵世界经济论坛，“敏捷治理：在第四次工业革命中重塑政策制定”，2018年1月，http://www3.weforum.org/docs/WEF_Agile_Governance_Reimagining_Policy-making_4IR_report.pdf.

⁶世界经济论坛，“第四次工业革命：它意味着什么，如何应对”。

⁷Yochai Benkler，“不要让工业为人工智能制定规则”，《自然》，2019年5月；第569卷（7755）：161，https://www.nature.com/magazine-assets/d41586-019-01413-1/d41586-019-01413-1.pdf; Luciano Floridi和Josh Cowls，“社会中人工智能五项原则的统一框架”，《哈佛数据科学评论》，2019年6月23日https://doi.org/10.1162/99608f92.8cd550d1.

⁸Benkler，《不要让工业为人工智能制定规则》。

>9Anne-Marie Engtoft Larsen，《第四次工业革命的法规》，WEF播客第5集，[与莫纳什大学Rob Sparrow的访谈部分]，2018年1月30日，https://www.weforum.org/agenda/2018/01/podcast-regulation-for-the-fourth-industrial-revolution/.

¹⁰Joseph S.Nye Jr.，“管理全球网络活动的政权复合体”。

<11同上，

<12联合国人权理事会，“在互联网上促进、保护和享受人权”，第20/8号决议，2012年7月16日，https://www.right-docs.org/doc/a-hrc-res-20-8/; 联合国人权理事会，“在互联网上促进、保护和享受人权”，第26/13号决议，2014年7月14日，http://hrlibrary.umn.edu/hrcouncil_res26-13.pdf.

¹³Laurent Gisel和Lukasz Olejnik，“网络行动的潜在人力成本：开始对话”，2018年11月14日，红十字国际人道主义法和政策委员会（博客），https://blogs.icrc.org/law-and-policy/2018/11/14/potential-human-cost-cyber-operations/.

<14联合国裁军事务厅，“国际安全背景下信息和电信领域的发展”https://www.un.org/disarmament/ict-security/; 联合国大会，“国际安全背景下信息和电信领域发展问题政府专家组”，文件A/65/201，2010年7月30日，https://undocs.org/A/65/201; 联合国大会，“国际安全背景下信息和电信领域发展问题政府专家组”，文件A/68/98*，2013年6月24日，http://www.unidir.org/files/medias/pdfs/developments-in-the-field-of-information-and-telecommunications-in-the-context-of-international-security-2012-2013-a-68-98-eng-0-518.pdf; 联合国大会，“国际安全背景下信息和电信领域发展问题政府专家组”，文件A/70/174，2015年7月22日，https://undocs.org/A/70/174.关于国际法的适用性，见联合国大会文件A/68/98*和大会文件A/70/174中的国际法章节。对这些报告结果的分析，见Camino Kavanagh，“联合国、网络安全与国际和平与安全：应对21世纪的复杂性”，联合国裁军研究所（裁研所），2017年，http://www.unidir.org/files/publications/pdfs/the-united-nations-cyberspace-and-international-peace-and-security-en-691.pdf.

<15见联合国大会文件A/70/174第三节，7。

<16联合国大会，“国际安全背景下信息和电信领域的发展”，第70/237号决议，2015年12月3日，https://undocs.org/en/A/RES/70/237.

¹⁷联合国会员国可以通过大会（在本例中，是其裁军和国际安全第一委员会）提议设立政府专家小组。然后将该提案付诸表决，如果获得通过，将通过决议予以通过。见联合国大会，“国际安全背景下信息和电信领域的发展”，文件E/C.1/73/L.37，2018年10月18日，https://undocs.org/A/C.1/73/L.37; 联合国大会，“国际安全背景下信息和电信领域的发展”，文件A/C.1/57/L.27/Rev.1，2018年10月29日，ttps://undocs.org/A/C.1/73/L.27/Rev.1.

¹⁸G20信息中心，“公报【G20财长和央行行长会议，德国巴登-巴登】”，2017年3月17日至18日，http://www.g20.utoronto.ca/2017/170318-finance-en.html; Tim Maurer、Ariel Levite和George Perkovich，《反对操纵金融数据完整性的全球规范》，卡内基国际和平基金会，2016年6月29日，https://carnegieendowment.org/2017/03/27/toward-global-norm-against-manipulating-integrity-of-financial-data-pub-68403.

¹⁹例如，参见国际原子能机构（IAEA），“IAEA启动保护核设施免受网络攻击国际培训课程”，2018年10月24日，https://www.iaea.org/newscenter/pressreleases/iaea-launches-international-training-course-on-protecting-nuclear-facilities-from-cyber-attacks; 和IAEA，“IAEA计算机和网络安全”https://www.iaea.org/topics/computer-and-information-security.

²⁰关于VEP、其成因和特征，请参阅凯瑟琳·查莱特、萨沙·罗曼诺斯基和伯特·汤普森，“国际社会应该认真对待脆弱性股票”，《法律战》，2017年11月15日，https://www.lawfareblog.com/its-time-international-community-get-serious-about-vulnerability-equities; 以及Sven Herpig和Ari Schwartz，“全球脆弱性股票进程的未来”，《法律战》，2019年1月4日，https://www.lawfareblog.com/future-vulnerabilities-equities-processes-around-world.

²¹Laurent Gisel和Lukasz Olejnik，“网络运营的潜在人力成本：2018年11月14日至16日在日内瓦召开的红十字委员会专家会议”，红十字国际委员会，https://www.icrc.org/en/document/potential-human-cost-cyber-operations.联合国政治和建设和平事务部和人道主义对话中心，“数字技术与武装冲突调解”，2019年3月，https://peacemaker.un.org/sites/peacemaker.un.org/files/DigitalToolkitReport.pdf.工具包的数字版本可在以下位置获得：https://peacemaker.un.org/digitaltoolkit.

²²数字欧洲，“DIGITALEUROPE关于欧盟委员会关于ICT产品和服务网络安全认证计划欧洲框架提案的立场文件”，2017年12月15日，https://www.digitaleurope.org/resources/digitaleuropes-position-paper-on-the-european-commissions-proposal-for-a-ict产品和服务网络安全认证计划欧洲框架/

²³艾琳·多纳休、梅丽莎·海瑟薇、詹姆斯·A·刘易斯、小约瑟夫·S·奈、埃内肯·提克和保罗·托梅，“超越规范：国际网络安全挑战的新方法”，国际治理创新中心，2017年9月7日，9，https://www.cigionline.org/sites/default/files/documents/Getting%20Beyond%20Norms.pdf.

²⁴Karen Yeung，“第四次工业革命的法规”，WEF播客第5集，[采访Karen Yeng，前伦敦国王学院]，2018年1月30日，https://www.weforum.org/agenda/2018/01/podcast-regulation-for-the-fourth-industrial-revolution/.

²⁵欧盟委员会，“2018年欧盟数据保护规则改革”，欧盟委员会，https://ec.europa.eu/commission/priorities/justice-and-fundamental-rights/data-protection/2018-reform-eu-data-protection-rules; 欧洲委员会，“网络和信息系统安全指令（NIS指令）”https://ec.europa.eu/digital-single-market/en/network-and-information-security-nis-directive.

²⁶同上。

²⁷参见以下对I*组织的解释：“I*组织”，亚太网络信息中心，https://www.apnic.net/community/ecosystem/iorgs/.

²⁸“保护互联网公共核心的呼吁”，全球网络空间稳定委员会，2017年11月，https://cyberstability.org/wp-content/uploads/2018/07/call-to-protect-the-public-core-of-the-internet.pdf.

²⁹科菲·安南数字时代选举与民主委员会，“关于委员会”https://www.kofiannanfoundation.org/our-work/kofi-annan-commission/.

³⁰“新加坡规范包”，全球网络空间稳定委员会，2018年11月，https://cyberstability.org/wp-content/uploads/2018/11/GCSC-Singapore-Norm-Package-3MB.pdf.

³¹“一个互联网”，国际治理创新中心和查塔姆研究所，2016年，可访问：https://www.cigionline.org/sites/default/files/gcig_final_report_-_with_cover.pdf.

³²参见西门子，“《信任宪章》迈出了推进网络安全的重要一步”，2019年2月15日，https://www.siemens.com/press/en/feature/2018/corporate/2018-02-cybersecurity.php.

³³西门子，“西门子信托宪章介绍”，2019年3月，https://assets.new.siemens.com/siemens/assets/public.1552654550.55badda4-4340-46d3-b359-f570e7d1f4c2.charter-of-trust-presentation-en.pdf.

³⁴Romain Dillet，“50位科技CEO来到巴黎，谈论科技造福”，TechCrunch，2018年5月23日，https://techcrunch.com/2018/05/23/50-tech-ceos-come-to-paris-to-talk-about-tech-for-good/.

³⁵Microsoft，“保护网络空间的数字公约”，Microsoft政策文件，https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RW67QH.

³⁶Tom Burt，“宣布捍卫民主计划”，微软，2018年4月13日，https://blogs.microsoft.com/on-the-issues/2018/04/13/announcing-the-defending-democracy-program/.

³⁷同上，

³⁸Microsoft，“现在的数字和平”https://digitalpeace.microsoft.com.

³⁹“网络安全：巴黎网络空间信任与安全呼吁”，《法国外交》，2018年11月12日，https://www.diplomatie.gouv.fr/en/french-foreign-policy/digital-diplomacy/france-and-cyber-security/article/cybersecurity-paris-call-of-12-november-2018-for-trust-and-security-in.

⁴⁰马克·扎克伯格，“互联网需要新规则。让我们从这四个领域开始”，《华盛顿邮报》，2019年3月30日，https://www.washingtonpost.com/opinions/mark-zuckerberg-the-internet-needs-new-rules-lets-start-in-these-four-areas/2019/03/29/9e6f0504-521a-11e9-a3f7-78b7525a8d5f_story.html?utm_term=.993b6d276366

⁴¹例如，作家罗杰·麦克纳梅（Roger McNamee）将其描述为“虚伪和误导的纪念碑”。《卫报》（Guardian）《马克·扎克伯格（Mark Zuckerberg）说他想修复互联网。别把他当回事》（Roger McCamee）2019年4月2日，https://www.theguardian.com/commentisfree/2019/apr/02/mark-zuckerberg-fix-the-internet.

42“平衡安全与公共利益：GDPR与公共部门”，Trend Micro，2018年4月9日，https://www.trendmicro.com/vinfo/au/security/news/online-privacy/balancing-security-and-public-interest-gdpr-and-public-sector.有关数据控制器和处理器角色的说明，请参阅“控制器和处理器”，GDPR EU.org，https://www.gdpreu.org/the-regulation/key-concepts/data-controllers-and-processors/.

⁴³Kaysie Brown，“高级政治论坛之后会发生什么？以下是4个领域观看，“联合国基金会（博客），2018年7月20日，http://unfoundationblog.org/what-happens-after-the-high-level-political-forum-here-are-4-areas-to-watch/.

⁴⁴黛博拉·布朗，“2018年国际电联全权代表会议的预期以及对互联网的意义”，外交关系委员会，2018年3月12日，https://www.cfr.org/blog/what-expect-2018-itu-plenipotentiary-conference-and-what-it-means-internet.

⁴⁵例如，参见《普京说，俄罗斯必须在外国干扰的情况下建立自己的互联网》，《莫斯科时报》，2019年2月21日，https://www.themoscowtimes.com/2019/02/21/russia-must-build-own-internet-in-case-of-foreign-disruption-a64578.

⁴⁶联合国裁军事务厅，“提交秘书长关于国际安全背景下信息和电信领域发展的第73/27号决议和关于在国际安全背景中推进网络空间负责任国家行为的第73/226号决议的报告”，联合国ODA/2019-000116/ICTS号文件，2019年2月6日，https://s3.amazonaws.com/unoda-web/wp-content/uploads/2019/02/19-074nve.pdf.Brian Egan[美国国务院前法律顾问]，“关于网络空间的稳定性和国际法的评论”，美国国务院，2016年11月10日，https://2009-2017.state.gov/s/l/releases/remarks/264303.htm.

⁴⁸联合国大会，“国际安全背景下信息和电信领域的发展”，文件A/C.1/57/L.27/Rev.1，第5段，2018年10月29日，https://undocs.org/A/C.1/73/L.27/Rev.1; 联合国大会，“国际安全背景下信息和电信领域的发展”，文件E/C.1/73/L.37，第3段，2018年10月18日，https://undocs.org/A/C.1/73/L.37.

⁴⁹同上，

⁵⁰联合国裁军事务厅，“秘书长关于国际安全背景下信息和电信领域发展的第73/27号决议和关于在国际安全背景中推进网络空间负责任国家行为的第73/226号决议的报告的提交”。“

⁵¹七国集团，”迪纳尔网络规范倡议宣言，“七国集团外长会议，迪纳尔-圣马洛，2019年4月6日至7日，https://www.elysee.fr/admin/upload/default/0001/04/d37b5326306c7513b58c79d26938f678d95cb2ff.pdf.

52Camino Kavanagh，“遏制对信通技术威胁和脆弱性的利用：当前趋势、有利动力和私营部门应对措施概述”，裁研所，2019年6月25日，http://www.unidir.org/files/publications/pdfs/stemming-the-exploitation-of-ict-threats-and-vulnerabilities-en-805.pdf.

⁵³同上。

⁵⁴约翰·麦卡锡、马文·明斯基、纳撒尼尔·罗彻斯特和克劳德·E·香农，“达特茅斯夏季人工智能研究项目提案”，《AI杂志》27，第4期（2006）：12，https://aaai.org/ojs/index.php/aimagazine/issue/view/165.（这篇文章最初写于1955年8月，但发表在本期刊上。

⁵⁵Floridi和Cowls，《社会中人工智能五项原则的统一框架》。

⁵⁶Rodney Brooks，《人工智能的起源》，for&；AI，2018年4月27日，https://rodneybrooks.com/forai-the-origins-of-artificial-intelligence/; John Mallery，“国防应用中的智能计算：人工智能还是魔法？”，2018年军事网络稳定性圆桌会议，题为“国防中新技术的应用”的会议框架演示，华盛顿特区，2018年7月17日；Rodney Brooks，《人工智能预测的七宗罪》，《麻省理工技术评论》，2017年10月6日，https://www.technologyreview.com/s/609048/the-seven-deadly-sins-of-ai-predictions/.

⁵⁷国际战略研究所（IISS），《2018年军事平衡》，第1章，第2部分，“大数据、人工智能和国防”（伦敦：IISS，2018年），https://www.iiss.org/publications/the-military-balance/the-military-balance-2018.

⁵⁸例如，参见Max Tegmark，《生活3.0：在人工智能时代成为人类》，（纽约：Knopf，2017）；和尼克·博克斯特罗姆（Nick Bockstrom），《超级情报：路径、危险、战略》（Superintelligence：Paths，Dangers，Strategies），（牛津：牛津大学出版社，2014年）

⁵⁹“日益自主技术的武器化：第8号人工智能（《特定常规武器公约》代表入门）”，裁研所，2018年，http://www.unidir.ch/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-artificial-intelligence-en-700.pdf.

⁶⁰参见国际劳工本组织的“工作未来”研究系列及其全球工作未来委员会、经合组织的“未来工作倡议”和世界经济论坛的“为未来工作做好准备”倡议。关于食品的未来，请参见拉森德工程学院，“人工智能能帮助养活世界吗？食品的未来就在这里”，Medium，2018年4月16日，https://medium.com/lassondeschool/can-ai-help-feed-the-world-the-future-of-food-is-here-429e7c10290b; 和Emiko Terazono，“食品的未来：农业科技硅谷内部”，《金融时报》，2018年10月15日，https://www.ft.com/content/199cae4c-cbc6-11e8-b276-b9069bde0956.关于人类的未来，请参见人类未来研究所和生命未来研究所以及Michio Kako的研究，《人类的未来：我们在宇宙中的命运》，（纽约：企鹅出版社，2019）

⁶¹詹姆斯·文森特，“普京说在人工智能领域领先的国家将成为世界的统治者”，Verge，2017年9月4日，https://www.theverge.com/2017/9/4/16251226/russia-ai-putin-rule-the-world; https://www.scmp.com/economy/china-economy/article/2171102/develop-and-control-xi-jinping-urges-china-use-artificial; 白宫科技政策办公室，“加速美国在人工智能领域的领导地位”，2019年2月11日，https://www.whitehouse.gov/articles/accelerating-americas-leadership-in-artificial-intelligence/.

⁶²Elsa Kania，“大国竞争与人工智能革命：军事和战略稳定的一系列风险”，《法律战》，2017年9月19日，https://www.lawfareblog.com/great-power-competition-and-ai-revolution-range-risks-military-and-strategic-stability.

⁶³Floridi和Cowls，“社会中人工智能五项原则的统一框架”。

⁶⁴生命未来研究所，“Asimolar人工智能原则”https://futureoflife.org/ai-principles/.

⁶⁵阻止杀人机器人运动，“关于我们”https://www.stopkillerrobots.org/about/.

⁶⁶生命未来研究所，“致命自主武器誓言”https://futureoflife.org/lethal-autonomous-weapons-pledge/?cn-reloaded=1.

⁶⁷生命未来研究所，“自主武器：AI和机器人研究人员的公开信”https://futureoflife.org/open-letter-autonomous-weapons/.

⁶⁸Meredith Whittaker等人，《2018年AI Now报告》，纽约大学AI Now研究所，2018年12月，https://ainowinstitute.org/AI_Now_2018_Report.pdf; 和AI Now Institute，“算法问责政策工具包”，2018年10月，https://ainowinstitute.org/aap-toolkit.pdf.

⁶⁹电气和电子工程师协会（IEEE），“伦理一致设计：用自主和智能系统优先考虑人类福祉的愿景”，2016年第一版，https://ethicsinaction.ieee.org/#read; IEEE，“IEEE自主和智能系统伦理全球倡议”https://standards.ieee.org/industry-connections/ec/autonomous-systems.html.

⁷⁰同上，

⁷¹人工智能伙伴关系，“Tenets，”https://www.partnershiponai.org/tenets/.

⁷²Salil Sethi，“2019年人工智能的7个预测”，OpenSource.com，2019年2月5日，https://opensource.com/article/19/2/predictions-artificial-intelligence.

⁷³开放人工智能，“开放人工智能宪章”https://blog.openai.com/openai-charter/.

⁷⁴同上，

75谷歌，“谷歌的人工智能：我们的原则”https://blog.google/technology/ai/ai-principles/.

⁷⁶Microsoft，“Microsoft AI原理”https://www.microsoft.com/en-us/ai/our-approach-to-ai.

⁷⁷埃森哲，《负责任的人工智能和机器人：道德框架》https://www.accenture.com/gb-en/company-responsible-ai-robotics.

⁷⁸Salesforce，《人工智能伦理与价值观》https://einstein.ai/ethics; Paula Goldman加入Salesforce，担任Salesforce首席道德和人道使用官https://www.salesforce.com/company/ethical-and-humane-use/.

⁷⁹杰西卡·库辛斯·纽曼，《迈向人工智能安全：全球对更具韧性未来的渴望》，加州大学伯克利分校，长期网络安全中心，2019年2月，https://cltc.berkeley.edu/wp-content/uploads/2019/02/Toward_AI_Security.pdf.

⁸⁰世界银行，《不断变化的工作性质：2019年世界发展报告》，2019年，http://documents.worldbank.org/curated/en/816281518818814423/pdf/2019-WDR-Report.pdf; 和Simone D.McCourtie，“随着人工智能的发展，工作岗位正在改变，但预计不会出现大规模失业”，联合国劳工专家2018年9月4日，https://news.un.org/en/story/2018/09/1018292.

⁸¹世界银行，《工作的变化本质》。

⁸²丹尼尔·阿拉亚，《人工智能与政府的终结》，《福布斯》，2019年1月4日，https://www.forbes.com/sites/danielaraya/2019/01/04/artificial-intelligence-and-the-end-of-government/#27e90bc3719b; 英国商业、能源和工业战略部以及数字、文化、媒体和体育部，“人工智能行业交易”，2019年5月更新，https://www.gov.uk/government/publications/artificial-intelligence-sector-deal/ai-sector-deal

⁸³Greg Allen和Taniel Chan，《人工智能与国家安全》，哈佛大学肯尼迪学院贝尔弗科学与国际事务中心，2017年7月，https://www.belfercenter.org/sites/default/files/files/publication/AI%20NatSec%20-%20final.pdf.

⁸⁴Kelley M.Sayler，《人工智能与国家安全》，国会研究服务，2019年1月更新，11，https://fas.org/sgp/crs/natsec/R45178.pdf.

⁸⁵Cussins Newman，《迈向人工智能安全》。

86欧洲科学与新技术伦理小组，“关于人工智能、机器人和‘自主’系统的声明”，欧洲委员会研究与创新总局，2018年3月9日，https://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf.

⁸⁷“欧盟人工智能合作宣言”，欧盟委员会，2018年4月10日，https://ec.europa.eu/jrc/communities/en/node/1286/document/eu-declaration-cooperation-artificial-intelligence.

⁸⁸欧洲委员会，“欧洲人工智能合作交流”（COM（2018）237最终版），2018年4月25日，https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe.

⁸⁹同上，4.

⁹⁰经济合作与发展组织（OECD），“OECD人工智能原则”，2019年5月，https://www.oecd.org/going-digital/ai/principles/.经合组织吹嘘说，这些“是各国政府签署的第一批此类原则”，除经合组织成员国外，包括阿根廷、巴西、哥伦比亚、哥斯达黎加、秘鲁和罗马尼亚在内的许多其他国家也已签署

⁹¹G20，“G20贸易和数字经济部长级声明”，2019年6月，https://g20trade-digital.go.jp/dl/Ministerial_Statement_on_Trade_and_Digital_Economy.pdf.

⁹²欧洲委员会部长委员会，“技术融合、人工智能和人权：建议2102”，2017年；欧洲委员会部长委员会，“技术融合、人工智能和人权：对建议的答复”，2017年10月19日；欧洲委员会人权事务专员“解除人工智能：保护人权的10个步骤”，2019年5月；和欧洲委员会部长委员会，“部长委员会关于算法过程操纵能力的声明”，2019年2月13日。所有这三份文件都可以在欧洲委员会的人工智能网页上找到。参见欧洲委员会，“欧洲委员会和人工智能”https://www.coe.int/en/web/artificial-intelligence/home

⁹³Cussins Newman，“走向人工智能安全”，https://fas.org/sgp/crs/natsec/IF11150.pdf; 和Daniel S.Hoadley和Kelley M.Sayler，《人工智能与国家安全》，国会研究服务，2019年1月30日更新，14，https://fas.org/sgp/crs/natsec/R45178.pdf.

⁹⁵有关更多详情，请参阅《禁止或限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》缔约国政府专家组，“2017年致命自主武器系统政府专家组的报告”（联合国文件CCW/GGE.1/2017/3），2017年12月22日，https://undocs.org/CCW/GGE.1/2017/3.

⁹⁶同上。

⁹⁷这28个国家是：阿尔及利亚、阿根廷、奥地利、玻利维亚、巴西、智利、中国、哥伦比亚、哥斯达黎加、古巴、吉布提、厄瓜多尔、埃及、萨尔瓦多、加纳、危地马拉、教廷、伊拉克、墨西哥、摩洛哥、尼加拉瓜、巴基斯坦、巴拿马、秘鲁、巴勒斯坦国、乌干达、委内瑞拉和津巴布韦参见生命未来研究所，“致命自主武器承诺”https://futureoflife.org/lethal-autonomous-weapons-pledge/

⁹⁸[ii]活动停止杀手机器人，“国家对杀手机器人的看法”，2018年4月13日，https://www.stopkillerrobots.org/wp-content/uploads/2018/04/KRC_CountryViews_13Apr2018.pdf.

⁹⁹制止杀人机器人运动，“联合国首脑呼吁禁令”，2018年11月12日，https://www.stopkillerrobots.org/2018/11/unban/.

¹⁰⁰联合国裁军事务厅，《确保我们的共同未来：裁军议程》，（纽约：联合国，2018年5月），55，https://s3.amazonaws.com/unoda-web/wp-content/uploads/2018/06/sg-disarmament-agenda-pubs-page.pdf#view=Fit.

<101同上。

<100由于不同的原因，据报道，联合国安全理事会五个常任理事国中的四个拒绝就自主武器问题谈判新的国际法

《禁止或限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》缔约国政府专家组，“致命自主武器系统领域新兴技术政府专家组2018年会议报告”。“

<104有关这些问题的详细概述，请参阅北马其顿共和国常驻联合国、世贸组织和日内瓦其他国际组织代表团，”主席关于临时议程的信，“致命自主武器系统领域新兴技术政府专家组，2019年3月19日，https://www.unog.ch/80256EDD006B8954/（httpAssets）/E2B8A8216FE382FBC125839B00608672/$file/190208+LAWS+-+椅子+第一封+信件+给+陪同+临时+议程+（%D1%84）.pdf；和2019年致命自主武器系统政府专家组，《禁止或限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》，联合国裁军事务厅，2019年3月19日，https://www.unog.ch/80256EE600585943/（httpPages）/5C00FF8E35B6466DC125839B003B62A1？OpenDocument

¹⁰⁵Floridi和Cowls，“社会中人工智能五项原则的统一框架”。

<106同上，第4-8页。

<107特里斯坦·格林，“谷歌开发人工智能的原则不够好”，Next Web，2018年6月8日，https://thenextweb.com/artificial-intelligence/2018/06/08/googles-ai-principles-7-shades-of-gray-area/.

¹⁰⁸娜塔莎·洛马斯，《关于人工智能的冲突和挑战的讨论》，TechCrunch，2018年6月17日，https://beta.techcrunch.com/2017/06/17/a-discussion-about-ais-conflicts-and-challenges/?_ga=2.250353861.219450613.1532680997-423792798.1532680997.

¹⁰⁹娜塔莎·洛马斯，“DeepMind现在有一个人工智能伦理研究单位。我们对此有一些问题……”，《TechCrunch》，，2017年10月4日，https://techcrunch.com/2017/10/04/deepmind-now-has-an-ai-ethics-research-unit-we-have-a-few-questions-for-it/?guccounter=1.

¹¹⁰DeepMind，《DeepMindEthics and Society：关于我们》https://deepmind.com/applied/deepmind-ethics-society/.

111DeepMind，“原则”https://deepmind.com/applied/deepmind-ethics-society/principles/.

<112洛马斯，“DeepMind现在有一个人工智能伦理研究单位。我们对此有几个问题……”；Alex Hern，“谷歌承诺的DeepMind人工智能道德委员会发生了什么？”《卫报》，2017年1月26日，https://www.theguardian.com/technology/2017/jan/26/google-deepmind-ai-ethics-board.

¹¹³Hal Hodson，《深度思维与谷歌：控制人工智能的战斗》，《经济学人1843》杂志，2019年4月至5月，https://www.1843magazine.com/features/deepmind-and-google-the-battle-to-control-artificial-intelligence; Lomas，“DeepMind现在有一个人工智能伦理研究单位。我们对此有几个问题……”；和Hern，“谷歌承诺的DeepMind人工智能道德委员会发生了什么？”

<114Axon，“Axon人工智能和警务技术道德委员会”https://es.axon.com/info/ai-ethics.

¹¹⁵杰克·拉佩鲁克，《泰瑟的自由身相机适合警察，而不是人民》，《连线》，2018年4月15日，https://www.wired.com/2017/04/tasers-free-body-cameras-good-cops-not-people/.

<116Axon，“Axon人工智能和警务技术道德委员会”。

<117Cusins-Newman，“迈向人工智能安全”，4。

¹¹⁸例如，见裁研所，“日益自主的技术的武器化：考虑道德和社会价值”，2015年，http://www.unidir.org/files/publications/pdfs/considering-ethics-and-social-values-en-624.pdf; 裁研所，“日益自主技术的武器化：考虑人类控制的意义如何推动讨论”，2014年，https://www.files.ethz.ch/isn/185834/considering-how-meaningful-human-control-might-move-the-discussion-forward-en-615.pdf; 和IISS，《2018年军事平衡》，第一章，第二部分“大数据、人工智能和国防”。

<119JayshreePandya，《人工智能武器化》，《福布斯》，2019年1月14日，https://www.forbes.com/sites/cognitiveworld/2019/01/14/the-weaponization-of-artificial-intelligence/#7c6f03bb3686.

¹²⁰见裁研所，“信任但验证人工智能：管理国防和安全人工智能技术的选项”http://www.unidir.org/programmes/security-and-technology/trust-but-verif-ai-options-for-regulating-defence-and-security-ai-technologies.

<121联合国，《生物多样性公约》，第2条：术语的使用，https://www.cbd.int/convention/articles/default.shtml?a=cbd-02.

¹²²作者对NTI的采访，2018年7月。关于印度的数字，请参见Burrill Media、生物技术产业组织和生物技术主导企业协会，“加速增长：锻造印度的生物经济”，2014年，https://www.bio.org/sites/default/files/files/Burrill_AcceleratingGrowth_India-6-9-final.pdf.

123欧盟委员会生物经济知识中心，“欧盟生物经济”，2018年9月1日，https://ec.europa.eu/knowledge4policy/sites/know4pol/files/2018_09_01_bioeconomi_infographic_update_en.pdf.该信息图表基于以下同行评审出版物：Tévécia Ronzon和Robert M'Barek，《监测转型期欧盟生物经济的社会经济指标》，《可持续性》，第6期（2018年5月26日），https://www.mdpi.com/2071-1050/10/6/1745.

124James C.Greenwood，“中国的生物技术”，生物技术创新组织，2013年1月，https://www.bio.org/sites/default/files/files/Biotechnology-Industry-Pg62-64.pdf.

¹²⁵作者对NTI的采访，2018年7月；欧盟委员会，“什么是生物经济？”，2018年5月9日https://ec.europa.eu/research/bioeconomy/index.cfm; 【奥巴马】白宫，《国家生物经济蓝图》，2012年4月，https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/national_bioeconomy_blueprint_april_2012.pdf; Beate El Chichakli等人，“政策：全球生物经济的五大基石”，《自然》535，编号7611（2016）：221–222，https://www.nature.com/news/policy-five-cornerstones-of-a-global-bioeconomy-1.20228; 和Beth Baker，“合成生物学和市场：构建新的生物经济”，《生物科学》67，第10期（2017）：877-883，https://doi.org/10.1093/biosci/bix101.

<126Arjun Bhutkar，《合成生物学：应对未来挑战》，《生物法与商业杂志》，第8期，第2期，（2005年）：19-29。

<127Ed Yong，《CRISPR婴儿丑闻一天比一天更糟》，《大西洋》，2018年12月3日，https://www.theatlantic.com/science/archive/2018/12/15-worrying-things-about-crispr-babies-scandal/577234/.

¹²⁸美国国家医学图书馆，“遗传学家庭参考：了解遗传条件指南”，2019年6月25日，https://ghr.nlm.nih.gov/primer/basics/gene.

¹²⁹参见Martin Jinek等人，“自适应细菌免疫中的可编程双RNA引导DNA内切酶”，《科学》，337，编号6096，（2012年8月17日）：816-821，https://science.sciencemag.org/content/337/6096/816; 和Le Cong等人，“使用CRISPR/Cas系统的多重基因组工程”，《科学》，339，第6121号（2013年2月15日），819-823，https://science.sciencemag.org/content/339/6121/819.

¹³⁰Maria Patrão Neves和Christiane Druml，《用CRISPR/Cas9对抗疟疾的伦理意义》，《BMJ全球健康》，第3期，（2017）：1–2，https://gh.bmj.com/content/2/3/e000396.

¹³¹Charleston Noble等人，“当前CRISPR基因驱动系统可能在野生种群中高度入侵”，《eLife》，2018年6月19日，https://elifesciences.org/articles/33423.

¹³²世界卫生组织，“转基因蚊子检测指导框架”，2014年，http://www.who.int/tdr/publications/year/2014/guide-fmrk-gm-mosquit/en/.

¹³³作者对NTI的采访，2018年6月，https://www.dhs.gov/sites/default/files/publications/prep_biological_fact_sheet.pdf

¹³⁵Monica Schoch-Spana等人，“全球灾难性生物风险：走向工作定义”，健康安全，15 no.4，（2017年8月1日），327，https://www.liebertpub.com/doi/10.1089/hs.2017.0038.

<136Maski Imai等人H5 HA流感导致费列特体内H5 HA/H1病毒的呼吸道飞沫传播，“自然，486，（2012年6月21日），420–428，https://www.nature.com/articles/nature10831; 和Colin A.Russell等人，“呼吸液滴传播A/H5N1流感病毒在哺乳动物宿主中进化的可能性”，《科学》，336（2012年6月22日）：1541–1547，https://science.sciencemag.org/content/336/6088/1541.

¹³⁷例如，见以下两份文件，后者于2013年进行了修订，以纳入两用技术。美国卫生与公共服务部，“关于涉及增强型潜在大流行病原体的拟议研究的资助决策指导框架”，2017年12月，https://www.phe.gov/s3/dualuse/Documents/p3co.pdf; 或日本科学委员会，“科学家行为准则：修订版”，2013年，http://www.scj.go.jp/ja/scj/kihan/kihan.pamflet_en.pdf.

¹³⁸同上。另见：欧洲标准化委员会，“实验室风险管理”，2011年9月，http://www.uab.cat/doc/CWA15793_2011.

¹³⁹国家科学院和国家医学院，“人类基因组编辑：科学、伦理和治理”，2017年，https://www.nap.edu/catalog/24623/human-genome-editing-science-ethics-and-governance.关于极具争议的种系编辑实践，请参见Joel Achenbach，“伦理学家建议在将CRISPR基因编辑应用于人类时谨慎”，《华盛顿邮报》，2017年2月14日，https://www.washingtonpost.com/news/speaking-of-science/wp/2017/02/14/ethicists-advise-caution-in-applying-crispr-gene-editing-to-humans/?utm_term=.dfd0a40218a2.

¹⁴⁰Phoebe Zhang，《中国确认基因编辑婴儿出生，科学家何建基违反规则》，《南华早报》，2019年1月21日，https://www.scmp.com/news/china/science/article/2182964/china-confirms-gene-edited-babies-blames-scientist-he-jiankui.

<141“斯坦福调查婴儿基因编辑丑闻中与科学家的联系”，《卫报》，2019年2月8日，https://www.theguardian.com/science/2019/feb/08/stanford-investigates-links-to-scientist-in-baby-gene-editing-scandal.

<142中国官员于2019年1月首次正式承认何娟奎的研究以及他可能因此面临的潜在制裁。Austin Ramzy和Sui Lee Wee，“编辑婴儿基因的科学家可能面临指控”，《纽约时报》，2019年1月21日，https://www.nytimes.com/2019/01/21/world/asia/china-gene-editing-babies-he-jiankui.html.

¹⁴³根据《纽约时报》，约瑟夫·德安杰洛被确认，后来被指控犯有26项谋杀和绑架罪，“因为一名家谱学家帮助加州的调查人员通过GED匹配和其他家谱记录确认了德安杰罗的第三个堂兄弟。”，2019年6月11日，https://www.nytimes.com/2019/06/11/opinion/police-dna-warrant.html.

<144同上。

<145作者对Beth Cameron和Jacob Jordan的采访，NTI，2018年7月。另见Piers Millet和Andrew Synder Beattie，《存在风险和成本效益生物安全》，《健康安全》，15第4期，（2017）：https://www.liebertpub.com/doi/10.1089/hs.2017.0028.

<146国家科学、工程和医学院，“如果滥用，合成生物学可能会扩大制造新武器的可能性；国防部应继续监测该领域的进展，新报告称，”2018年6月19日，http://www8.nationalacademies.org/onpinews/newsitem.aspx?RecordID=24890.这篇文章被引用在Cussins Newman的《走向AI安全》19中。另见Eleonore Pauwels，“风险汇聚的新地缘政治：联合国与人工智能时代的预防”，联合国大学，2019年5月2日，https://cpr.unu.edu/the-new-geopolitics-of-converging-risks-the-un-and-prevention-in-the-era-of-ai.html.

<147根据《临床微生物学与感染》中的一篇文章，1978年匈牙利持不同政见者乔治·马尔科夫（Georgi Markov）在伦敦被用雨伞注射到受害者体内的蓖麻毒素丸谋杀“可被视为生物犯罪行为”，20第6号，（2014年6月）：488–496，https://reader.elsevier.com/reader/sd/pii/S1198743X14641732?token=AFE37540897C1FA821BF43B528E3FE75A1DCEB1FDE9FE237962B44A475988F1FC8433AA1E092F2437BD416B51AC884A9.

<148V.Barras和G.Greub，《生物战和生物恐怖主义史》，《临床微生物学和感染》，20第6期，（2014年6月），497-502，https://www.sciencedirect.com/science/article/pii/S1198743X14641744.

<149联邦调查局，“美国炭疽病或炭疽病调查”https://www.fbi.gov/history/famous-cases/amerithrax-or-anthrax-investigation.

¹⁵⁰与Beth Cameron和Jacob Jordan的访谈，NTI，2018年7月。

<151Gryphon Scientific，“功能研究收益的风险和收益分析：最终报告”，2016，177–179，http://gryphonsci.wpengine.com/wp-content/uploads/2018/12/Risk-and-Benefit-Analysis-of-Gain-of-Function-Research-Final-Report-1.pdf.

¹⁵²作者对Richard Lennane的采访，日内瓦裁军平台，2018年1月。

¹⁵³欧洲研究、创新和科学专员Carlos Moedas在2018年7月的一封信中提出了征求意见的请求。参见卡洛斯·莫达斯（Carlos Moedas），《无题信》，欧盟委员会，2018年7月10日，https://ec.europa.eu/info/sites/info/files/research_and_innovation/ege/letter_chair_of_the_ege_group.pdf.

154世界经济论坛，“生物技术如何在第四次工业革命中发展”，2018年5月，https://www.weforum.org/agenda/2018/05/biotechnology-evolve-fourth-industrial-revolution/; 世界经济论坛“全球生物技术未来理事会”https://www.weforum.org/communities/the-future-of-biotechnology.

<155“中国，不受规则约束，在基因编辑试验中领先”，《华尔街日报》，2018年1月21日，https://www.wsj.com/articles/china-unhampered-by-rules-races-ahead-in-gene-editing-trials-1516562360.

156参见世界卫生组织人类基因组编辑咨询委员会，“全球健康伦理：人类基因组编辑”，2018年12月14日，https://www.who.int/ethics/topics/human-genome-editing/en/.

¹⁵⁷同上。

¹⁵⁸作者对Beth Cameron和Jacob Jordan的采访，NTI，2018年5月。

159比尔·盖茨，《基因编辑：CRISPR如何改变全球发展》，《外交事务》，2018年5-6月，https://www.foreignaffairs.com/articles/2018-04-10/gene-editing-good.

¹⁶⁰作者采访Beth Cameron，NTI，2018年5月。

<161同上。

¹⁶²Benjamin Bahney和Joshua Pearl，“为什么创建太空部队会改变一切：太空从一开始就被军事化”，《外交事务》，2019年3月26日，https://www.foreignaffairs.com/articles/space/2019-03-26/why-creating-space-force-changes-nothing; 和Camino Kavanagh，“信息技术与国家：远景”，博士论文，伦敦国王学院战争研究系，未出版，2016年。

¹⁶³OECD，“太空经济一瞥”，2014年，3，https://www.oecd.org/sti/futures/space-economy-at-a-glance-2014-highlights.pdf.

¹⁶⁴同上。

¹⁶⁵Michael Sheetz，《美国银行预测，30年内太空产业将价值近3万亿美元》，CNBC，2017年10月31日，https://www.cnbc.com/2017/10/31/the-space-industry-will-be-worth-nearly-3-trillion-in-30-years-bank-of-america-predicts.html.维多利亚·萨姆森（Victoria Samson），“美国对空间威胁和能力的评估和不断变化的认识”，安全世界基金会，2018年12月12日，https://swfound.org/media/206305/us-assessments-and-evolving-perceptions-of-space-threats-and-capabilities.pdf.

¹⁶⁷Scott Welles和William Nichols，“弹性位置、定时和导航（PNT）需要对系统导航进行新思考”，国防一号，2017年，https://www.defenseone.com/media/resilient_positioning_navigation_and_timing_thought_piece_presented_by_booz_allen.pdf.

¹⁶⁸Bahney和Pearl，“为什么创建太空部队不会改变什么：太空从一开始就被军事化了”

<169Daniel Porras，“走向反卫星试验指南”，裁研所，2018，2，http://www.unidir.org/files/publications/pdfs/-en-703.pdf.

¹⁷⁰Brian Weeden，“2007年中国反卫星测试概况”，安全世界基金会，2010年11月23日更新，https://swfound.org/media/9550/chinese_asat_fact_sheet_updated_2012.pdf.

¹⁷¹Amitabh Sinha，“印度反卫星试验产生的碎片，国际空间站面临的风险：NASA”，《印度快报》，2019年4月3日，https://indianexpress.com/article/india/nasa-says-400-pieces-of-debris-in-orbit-indias-asat-test-increased-risk-to-iss-by-44-5653898/.

¹⁷²例如，大西洋描述了2015年，一个几乎不明显的错误如何将全球各地的“GPS相关定时设备中断了大约12小时。”尽管系统中存在冗余，但在美国和加拿大的不同地区，“警察、消防和EMS无线电设备停止运行。”无法访问数字收音机。此外，文章报道称，在电网中也检测到了故障。Dan Glass，“如果GPS失败会发生什么”，大西洋，2016年6月13日，https://www.theatlantic.com/technology/archive/2016/06/what-happens-if-gps-fails/486824/.

¹⁷³联合国外层空间事务厅，《关于各国探索和利用包括月球和其他天体在内的外层空间活动的原则条约》，1966年12月19日，http://www.unoosa.org/pdf/gares/ARES_21_2222E.pdf.

<174[三]同上。

<175见联合国裁军事务厅（UNODA）和联合国裁军谈判会议关于拟议防止空间军备竞赛（PAROS）的文件。联合国裁军事务厅和联合国裁军谈判会议，“与防止外层空间军备竞赛有关的裁谈会文件，2017年10月12日，https://www.unog.ch/80256EE600585943/（httpPages）/DC4FE00A7302FB2C12575E4002DED85？OpenDocument；联合国裁军事务厅，“防止外层空间军备竞赛的进一步有效措施政府工作组”https://www.un.org/disarmament/topics/outerspace/paros-gge/.

¹⁷⁶美国科学家联合会，“防止外层空间军备竞赛：一般规定”，2013年，https://fas.org/programs/ssp/nukes/ArmsControl_NEW/nonproliferation/NFZ/NP-NFZ-PAROS.html.联合国裁军谈判会议，“2016年8月29日美利坚合众国代表团致裁军谈判会议秘书长的口头说明，转递美国提交裁军谈判会议的材料：“执行报告的建议”（A/68/189*）“外层空间活动中的透明度和建立信任措施以加强外层空间稳定政府专家组”，2016年9月16日，https://undocs.org/pdf?symbol=en/CD/2078.

178国际裂变材料小组（IPFM），“裁军谈判会议未能重新设立附属机构”，IPFM博客，2019年3月14日，http://fissilematerials.org/blog/2019/03/conference_on_disarmament.html.

¹⁷⁹Brian Weeden和Victoria Samson（编辑），“全球反空间能力：开源评估”，安全世界基金会，2018年4月，https://swfound.org/media/206118/swf_global_counterspace_april2018.pdf.

<180见《关于各国探索和利用包括月球和其他天体在内的外层空间活动的原则条约》第六条

2015年，前总统巴拉克·奥巴马签署了《太空资源勘探与利用法案》，该法案是《商业太空发射竞争力法案》（H.R.2262）的一部分。参见美国国会，“美国商业太空发射竞争力法案[H.R.2262]”，2015年11月25日，https://www.congress.gov/bill/114th-congress/house-bill/2262.

<182莱顿大学，“海牙国际空间资源管理工作组，”https://www.universiteitleiden.nl/en/law/institute-of-public-law/institute-for-air-space-law/the-hague-space-resources-governance-working-group.

183联合国，“防止外层空间军备竞赛的进一步实际措施”，联合国文件A/RES/72/250，2018年1月12日，https://undocs.org/en/A/RES/72/250.

<184联合国，“防止外层空间军备竞赛的进一步实际措施政府专家组主席的报告”，2019年1月31日，https://s3.amazonaws.com/unoda-web/wp-content/uploads/2019/02/oral-report-chair-gge-paros-2019-01-31.pdf.该报告是由主席根据A/RES/72/250号决议第5段编写的，该段要求主席“在2019年组织一次为期两天的不限成员名额闭会期间非正式协商会议，以便所有会员国都能参与互动讨论，并根据主席以自己的身份提供的小组工作报告分享意见。“另见联合国，“防止外层空间军备竞赛的进一步实际措施”，联合国文件A/RES/72/250，2018年1月12日，https://undocs.org/A/RES/72/250.

<185Porras，“迈向反卫星试验准则”。

<186同上。

¹⁸⁷[xvi]联合国裁军事务厅，《保障我们的共同未来：裁军议程》；联合国，“联合国秘书长新技术战略”，2018年9月，https://www.un.org/en/newtechnologies/; 联合国，“秘书长启动数字合作高级别小组”，2018年7月12日，https://www.un.org/en/digital-cooperation-panel/.另请参阅小组的最后报告：联合国，“Digital Interdependence,” June 2019, https://www.un.org/en/pdfs/HLP%20on%20Digital%20Cooperation%20Report%20Executive%20Summary%20-%20ENG.pdf.