数字时代的主权和战略自主

在过去几年中，战略自主和主权已成为最重要的政治优先事项。政府领导人感到国家主权受到威胁。究其原因，无孔不入、变革性甚至破坏性的数字技术、网络事件的爆炸性增长、美国和欧盟一方与中国和俄罗斯另一方之间日益加剧的国际紧张局势以及跨大西洋紧张局势交织在一起

毫无疑问，这些威胁危及主权。Kello（2017）认为，“网络”造成了“主权鸿沟”。国家和非国家行为者都在利用网络安全手段。Kello观察到，持续的破坏（“不和平”）、滥用网络技术的无赖国家行为体以及非国家行为体通过网络实现影响力的行使，从国家代理人（Maurer 2018）到恐怖分子再到全球平台，这些都会系统性地改变传统的基于国家的（威斯特伐利亚）国际关系体系中的权力平衡

决策者和政治家倾向于将战略自主视为实现目的的手段，即主权。它们通常将“主权”或“战略自主”与一个代表关键资产的术语联系起来：数据主权、数字主权、技术主权、国防和军事战略自主、金融战略自主、，

我将战略自主定义为“就能力和能力而言，在经济、社会及其机构中决定并对长期未来的重要方面采取行动的能力”（Timmers 2019a）。与过去相反，当战略自治主要是法国在军事和国防领域以及印度用来强调其外交政策独立性的术语时，如今的战略自治关系到经济和社会以及民主（想想选举期间的假新闻）

国家通常采用三种方法来应对数字时代战略自主的挑战（见图1）。这些是：（1）风险管理，即尽可能使主权风险可控，强调（网络）韧性，作为全球共同利益，开发和保护某些关键数字资产。一个国家可以同时采取一种或几种方法

图。1

解决与网络安全相关的战略自主的方法

全尺寸图像

第四种方法，即完全独立，在美国或中华人民共和国最可行。尽管对全球贸易造成了严重后果，但这种方法似乎在这些国家越来越受欢迎，因为它效率低下，需要全球相互交织的供应链脱钩

让我们从主权攸关的角度分析这三种方法中的每一种，并关注人工智能使用的伦理方面

风险管理方法中人工智能和网络安全的道德挑战

风险管理法旨在加强与风险相关的“识别、保护、检测、防御、恢复”每一个步骤，尤其是电力、水、健康、云服务等关键基础设施的风险。该方法涉及复杂资产的大规模传感/监测；基于大数据的威胁检测和分析；实时响应，解释商业、法律和道德规则；以及有管理的基础设施恢复

在每一种情况下，人工智能都被认为是一种必不可少的辅助手段，并且已经成为一项大生意。只有使用人工智能，才能快速筛选数十亿个传感器数据点，以便负责的CERT^Footnote1只关注少数值得注意的情况。据报道，纽约证券交易所每天被袭击半万亿次，造成30至40起袭击^脚注2基于人工智能的网络复原力解决方案提供商已经达到数十亿-

网络安全风险管理中的道德挑战是什么，尤其是在使用人工智能时？在人工智能的帮助下，广泛的监控和普遍的风险预防可能会对员工或公民造成高度侵入和胁迫。人工智能也可能如此强大，以至于人们觉得自己的掌控感被剥夺了。他们也可能有一种错误的安全感。截至目前，深度学习人工智能在如何从如此多的数据点做出决策方面并不透明，但运营商可能会盲目相信这一决策。人工智能还可以煽动搭便车，因为它很容易将责任转移到“系统”上。

风险管理也是一种接受剩余风险的方法。在财政上，这可能会被网络保险所抵消，但一个政治和主权问题是，在国家内部合法性之前，有多少人的生命是可以接受的，因此主权确实面临风险（2017年Wannacry袭击事件影响了许多英国医院，可能导致了生命损失）。当人工智能系统自动调用网络防御策略时，这个政治问题变得更加敏感，比如关闭部分电网，这意味着人们可以选择是否将其置于危险之中。

技术专家也认为，系统如此复杂，永远无法得到充分保护。人们担心的是，风险管理可能无法检测到一个系统中存在“关闭开关”，该系统可能在国际冲突或意外情况下被激活，并关闭关键基础设施，如远程通信（此类论点已在5G/华为辩论中提出）。或者，人们担心的是知识产权的系统性泄露，这会侵蚀国家的长期竞争力。恶意人工智能的作用是隐藏这样一个杀戮开关或系统泄漏。

因此，当我们将人工智能与网络安全结合在战略自主的风险管理方法中时，我们面临着大量的道德问题。这些问题包括个人自主权的侵蚀、责任的不公平分配、人在循环中的谬误、大规模监视和以个人伤亡与集体保护相权衡的有争议的伦理道德。

在国际上，风险管理是一个富有成效的领域，甚至是制定国家行为准则和价值观的主要领域。联合国政府专家组制定了稳定和克制（相互回应）、公开信息和透明以及兼容治理的规范和原则（Heinl 2019和Timmers 2019b），参见图2。

同样，诸如巴黎网络空间信任与安全呼吁等私人和公共倡议提出了此类规范。通过建立信任措施（CBM），规范变得具体。

约束规范的一个例子是“不伤害”，即承诺不攻击对方的关键基础设施。透明的建立信任措施包括网络威胁信息交流和联合网络演习。一个更为雄心勃勃的透明CBM将是由一个独立方进行的相互软件代码检查。兼容治理CBM的一个例子是，各国政府可以与世界卫生组织、全球行业和民间社会就卫生部门的网络弹性等问题进行协商，并“比较意见”。显然，“不伤害”等约束规范具有道德基础。同样，透明度包括对“不欺骗”道德的承诺，兼容治理包括“公平、公平和包容”的承诺。

在实践中，很难成功实施网络建立信任措施。到目前为止，它们似乎只在战略自主性最不重要的地方发挥作用，例如全球反虐待儿童联盟，以及在提高认识、执法培训和国家战略制定方面的援助。在大多数关键的基础设施中，在信息交换和类似CERT的能力建设方面的全球合作仍然是一个梦想。然而，可以提出一个强有力的理由，至少如建议的那样，就关键基础设施中最“平民”的复原力（即健康）进行合作有效性，这也有道德方面。让我们在这里考虑代码检查。华为在英国的代码检查方法（涉及GCHQ）被认为存在缺陷，因为它不包括一个有影响力的方，即中国政府，据称这可能会让华为在其产品中植入漏洞（Drew和Parton 2019）

还有另一个针对软件的有效性挑战，即频繁更新远远超过手动检查的速度。您如何知道供应商在进行这些更新时是诚实和勤奋的？尽管如此，由于基于区块链的软件版本“锁定”和基于AI的软件检查，以确保这种二进制等价性，可能会有一些曙光

代码控制的有效性进一步受到挑战。软件算法通常是专有的，具有很高的知识产权价值，因此不可独立检查。此外，基于神经网络的人工智能还无法解释它是如何做出决定的，并且容易受到数据偏见和数据中毒的影响。有效的透明度还必须解决数据输入、存储和传输问题。接受这样的效率差距是否合乎道德

简而言之，战略自主的风险管理方法即使是当今最受关注的方法，也会给我们留下一系列令人不安的道德问题，不仅是人工智能的应用，而且人工智能也会加剧这些问题

战略伙伴关系方法中人工智能和网络安全的道德挑战

让我们回顾一下，战略伙伴关系意味着仅在最关键的领域与充分信任的合作伙伴合作；传统上，这主要包括军事系统。然而，今天，由于战略自主关系到经济、社会和民主的许多方面，问题是：在经济、社会与民主体系中，什么是如此关键的，以至于它只能由值得信赖的合作伙伴开发或提供，这些值得信赖的伙伴是谁？最近，德国提出了一种欧洲专用云GAIA-X。法国前部长杰拉尔·科隆谈到法欧战略自主

在战略伙伴关系思维中，人工智能和网络安全有三种形式：（1）人工智能作为关键基础设施安全和安全的组成部分，例如电信、智能电网、工业4.0或民主和司法程序，（3）武器化人工智能，即网络或网络动能武器中的人工智能

与志同道合的各方建立战略伙伴关系。这种“类似思维”延伸到与前两种形式的人工智能和网络安全相关的伦理。最近，欧盟委员会人工智能和伦理高级别小组提出了人工智能和道德准则（欧盟委员会2019）。遵守这些准则将成为战略伙伴关系政治辩论的一部分。这是个人数据保护和相关欧盟法律《通用数据保护条例》（GDPR）中常见的讨论。当欧洲人强调个人数据保护是一项人权时（GDPR基于《欧盟运作条约》第16条），其他国家则认为GDPR是建立贸易壁垒的工具，并指责欧盟将GDPR用于战略贸易地缘政治

同样，欧盟必须预见到，其人工智能和道德准则以及未来可能的人工智能立法不会被所有人视为人权的表达，而是贸易政治的工具，作为道德的战略用途。事实上，我们需要就“战略伦理”的认知和现实展开辩论，即使这可能会引起争议

追求战略伙伴关系方式实现战略自主显然是一个高度政治性的问题。演员还必须能够引导伙伴关系的方向，并找到共同点，比如思想。这样做，他们必须能够嵌入或调整自己的价值观，在这种情况下，符合道德和人工智能（Taddeo和Floridi 2018），从而接受一定程度的共享或共同主权

用于（潜在）攻击目的的人工智能和网络安全从单一的杀伤开关（过去也称为“逻辑炸弹”）到基于人工智能的网络攻击或反攻击软件，如用于网络威慑（Taddeo 2018）。这种网络人工智能可以与物理、动能武器相结合。武器化人工智能的范围包括致命自主武器（LAWS）。Brundage（2018）讨论了许多与智能武器相关的伦理问题

总之，第二种方法（战略伙伴关系）的重点是一方面对道德或“战略”的战略运用道德”，另一方面是人工智能网络和网络动能武器的道德。虽然后者备受关注，但前者需要更认真的辩论，以确定战略伙伴关系相对于风险管理或全球共同利益方法的价值和可行性

全球共同利益方法中人工智能和网络安全的伦理挑战

追求全球共同利益的方法在国际上并不陌生。20世纪80年代，一个引人注目的全球挑战被发现：臭氧层的空洞越来越大。作为回应，科学家、政策制定者和工业界共同努力减少氟氯化碳的排放，氟氯化碳是破坏臭氧的化学物质。在两年内，《蒙特利尔议定书》签署，氟氯化碳被禁止，尽管持续了很多年，臭氧层已经开始恢复。这是在保护全球共同利益方面取得的重大成功。有趣的是，在蒙特利尔办法中，主权关切被共同关切和预防原则所控制（绿色2009）

问题是，有多少网络空间可以被定位为全球共同利益，如何将其视为共同利益，即适当的治理。最初的互联网确实是一个“自由、开放和全球性的互联网”，它的一些可能是理想主义的创造者希望它成为全人类的共同利益（Barlow 1996）。然而，它的设计缺陷至少部分是当今网络安全威胁的原因：它缺乏设计上的安全性和设计上的隐私。在纠正这些缺陷方面，人工智能将发挥主要作用，仅次于区块链和加密等技术

将（部分）网络空间视为全球共同利益的基本前提是存在“全球网络空间的共同伦理”。从技术上讲，实施这种全球伦理可能意味着设计安全、设计隐私、设计自主和包容性

有人可能会说，这是从“代码就是法律”到“法律就是代码”转变的一个例证。这是在21世纪初，Lessig（2000）和Lessig（2006）表明，互联网的技术架构制约了立法规则：“代码就是法律”。相反，今天我们更愿意看到“法律就是准则”。也就是说，我们希望作为国际社会或单个国家拥有的规则，以及道德指导或严格法律是否限制我们在市场上接受和允许的技术，例如通过认证。对于人工智能来说，这意味着，除其他外，强烈强调开源和分布式控制。需要考虑的一个实际但高度相关的案例是保护互联网的公共核心，即域名系统，并将其宣布为全球共同利益（Broeders 2017）

根据定义，全球共同利益方法不是以国家为中心的。它超越了国家，从而软化了对主权的争夺。这可能看起来是理想主义和不切实际的，但事实并非如此。它允许各国将其稀缺的资源用于捍卫主权，用于其他不符合全球共同利益的事务，如军事、司法甚至教育系统。从这个意义上讲，与亚历克西斯·德·托克维尔（Alexis de Tocqueville）交谈时，这种方法是明智的，从“自我利益”或“开明的自我利益”的角度来看

网络空间全球共同利益方法的一个弱点是，所需的国际治理不到位，现有的国际互联网治理也不完善。任何国际治理都有可能通过秘密捕获而受到以国家为中心的行为的影响。此外，尚不清楚这种国际治理会是什么样子

尽管如此，（Cohey和Aronson 2017）已经给出了一些提示，并有了一个基础：联合国倡议（人工智能和网络安全）、互联网社区和相关倡议，如ICANN，以及网络基金会的#ForTheWeb运动和数据保护的坚实技术实施，以及全球商业计划，如物联网的oneM2M

有趣的是，大多数联合国网络安全规范、原则、规则和网络空间的建立信任措施并不关注全球共同利益的创造，而是关注风险管理。这是一个显著的范围限制，因为联合国的职责是全人类的利益，联合国有着在其他领域为全球共同利益作出贡献的强大传统

尽管如此，联合国的工作（最近的共识仅限于联合国政府专家组2015年的报告）与全球共同良好思维之间仍存在薄弱的联系。这是在规范和原则层面，但不是在CBM层面。例如，联合国大会对开放和平互联网的承诺，国际和平与安全，适用人道主义原则，并与《联合国宪章》保持一致。2015年的报告还建议在未来的实际工作中探索建立信任措施，例如就国际法如何适用于开放、安全、稳定、无障碍和和平的信息和通信技术环境，以及在技术、法律和政策层面如何使用信息和通信技术领域的国际和平与安全概念达成共识

显然，包括人工智能和网络安全在内的战略自主的全球共同良好做法值得更多关注。这将符合各国主权和全球商业利益的深思熟虑和自身利益，它有着悠久的传统，在国际上，联合国可以给予政治支持，并与私营部门、互联网社区和民间社会合作

政策建议

可以从前面的分析中得出的一些政策建议不限于AI 该分析也适用于其他数字用例，甚至适用于电子识别和认证等基本基础设施，可以促进国际准则和价值观的制定和实施，以承诺“不损害”民用基础设施和提高透明度。从人工智能前数据采集到人工智能处理，再到人工智能后算法的可解释性，涵盖整个人工智能链的信息交换需要进行实际工作。此外，鉴于攻击者越来越复杂，我们需要人工智能支持的网络演习。我们还需要互操作性、标准化、认证和促进部门网络韧性的开放数据（以实现由大数据提供的人工智能威胁分析）

非常重要的是，从人工智能的人类局限性角度重新思考风险管理规则和立法。与传统风险管理的缓慢而困难的决策过程相比，人工智能凭借其微秒级的深度分析，其速度之快、威力之大无与伦比。然而，正是这些过程嵌入了欧盟网络和信息安全指令等网络复原力立法中。我们需要知道，当事实上我们有人工智能支持的关键基础设施恢复能力的“人出环”时，如何调整立法。
2.
战略伙伴关系
对于战略伙伴关系，重要的是要反思人工智能和道德准则（或法律）对网络安全的影响。最明智且可能接近许多人内心的做法是寻求国际化指导，因为这将保持全球共同利益之路的畅通。因此，欧盟委员会目前推动试点并验证其最近的人工智能和道德准则，应在网络安全的背景下明确考虑全球层面

还需要在国防和安全政策中解决武器化人工智能的道德认证问题。与此同时，贸易政策（如瓦塞纳协议）必须验证出口管制如何适用于具有道德风险的网络相关人工智能。在欧洲背景下，这是正在进行的出口管制修订的一部分，更明确地引入了人权层面（欧盟委员会，2016年）。雄心勃勃的一步，然而，在联合国层面，讨论一项不参与人工智能网络军备竞赛和不扩散网络武器的国际条约是合适的（2017年裁研所分析了与这一雄心壮志相关的挑战）追求人工智能和网络空间伦理的全球共同利益

此外，国家或国家联盟（如欧盟）可以优先考虑开源AI和AI，以便在其研发中进行分布式安全控制；D和投资政策

最后，需要追求的最相关和最紧迫的全球共同利益之一是确保人工智能和网络安全与个人数据保护的适当相互作用。就欧盟而言，在人工智能和个人数据方面，GDPR的实施应明确国家安全与自动化决策透明度之间的关系

结论和观点

我们在这里讨论网络安全、人工智能和与主权相关的伦理的相互作用。是否有一个概念框架允许我们结合多个视角？我建议这将是一个以供进一步研究。本结论部分提供了一些观点

我们分析了主权如何与战略自主的三种方法联系起来，以及这些方法与道德之间的关系。国家制定的规则中包含的道德与“规范”、“法律”等概念相关，反之亦然。网络安全和人工智能之间的一个联系是，两者都是关于智能的：行动者是智能的，无论是国家和非国家的真实行动者还是虚拟行动者（体现在人工智能中）

与主权相关的网络安全和伦理与主权差距的伦理后果有关，例如，我们是否通过了一个损害阈值，从而解决主权差距成为优先事项，即国家合法性何时受到严重影响

这将引导我们调查国家合法性的伦理层面（Hurrell和Macdonald 2012）。内部合法性是国家及其机构对公民的权力和权威（意味着接受或同意的形式）（Biersteker 2012）。当“网络”造成的损害变得太大时，当局就会失去信誉。当网络漏洞破坏了一个国家权力的外部信誉，或者当国家事实上从属于强大的全球供应商，如平台公司时，外部合法性，即其他国家对一个国家最终权威的承认，就会面临风险。这里的伦理接近主权作为一种权利，包括自决权

这开启了关于国家主权的首要地位或代价的辩论，例如，相对于人权，人权是联合国网络安全两极分化的重要因素。合法性成本是网络与主权伦理之间联系的基础。网络提高了成本。问题是维护国家主权的可接受成本是多少，即有什么理由填补主权缺口。这一代价可能包括对人民生活的损害，例如得不到紧急医疗（cf Wannacry）或压制言论自由（cf中国的维吾尔人监视）

这给了我们三个与主权相关的概念联系（见图3）：国家和非国家行为体是智能的；主权差距是有代价的；法典条件法和法典条件法。然后，争论的焦点变成了（内部和外部）国家合法性，这是主权政治理论中众所周知的概念。国家合法性可由聪明的行为体来质疑。维护国家合法性是有代价的。国家合法性强加于技术，而技术也制约着国家合法性。鉴于人工智能和网络安全的挑战，对道德和国家合法性的进一步反思可能是一个富有成效的研究领域
图。3
国家合法性和道德
全尺寸图像

简介