简介

英国国家人工智能战略的发布[1]代表着国家工业、政策、监管和地缘战略议程的一个重大变化。尽管人工智能此前已在其他战略（如工业战略和数字法规框架内）的范围内进行了讨论，但本出版物以人工智能为中心。这代表着负责处理人工智能研究、创新、产业、政策和监管各个方面的各种机构和机构的观点的具体化和成熟化（参见数据伦理与创新中心、人工智能办公室、艾伦图灵研究所、信息专员办公室等）。尽管在可采取的步骤（“短期”、“中期”和“长期”，跨越“生态系统”、“部门/地区”和“治理”这三个垂直领域）方面有许多线索需要探索，但本文主要可以理解为“信号”文件

事实上，我们将《国家人工智能战略》视为创新（研究、中小企业）和机遇（产业、经济）的愿景，以信任框架为基础，该框架将此类创新和机遇置于任何标准和监管框架的前列

在本白皮书中，我们概述了该文件的结构，并对各种突出之处进行了重点评论（第2节）。在此之后，我们就战略中的战略争论点提供了初步想法和反馈（第3节——对本评论感兴趣的人可以立即进入本节）

下面，我们简洁地再现了我们的主要要点（第3节对每一点进行了扩展）：

创新第一：国家人工智能战略发出的最明确的信号是，它将创新能力置于其人工智能方法的最前沿。人工智能创新被解读为所有其他流，例如全球经济增长和竞争力的载体
信任的替代生态系统：尽管英国信息专员在英国脱欧谈判过程中很早就同意了英国-欧盟数据传输的充分性，但英国提出了一项国家数据战略[2]，该战略在某些方面远离了欧洲框架，更接近于美国的隐私政策，更注重经济成果和创新。在鼓励创新和间接鼓励孤立主义之间，以及放弃成为受信任的数据保管人之间，存在着微妙的平衡
防务、安全和风险：在整个文本中都提到了防务、安保和风险。发现了两个方面：第一个是利用：国防部的研究、利用和现代化运作；第二个是治理：该战略建议对长期风险进行研究和理解，并制定一项防止人工智能恶意使用的战略
修改数据保护：英国是否会采取比欧盟更“轻”的数据保护制度，这是一个悬而未决的问题。尽管谈论的主要是“修订”和“审查”，但信号是英国确实在寻求将自己定位为在数据保护方面不那么严格。将文件要求降至最低的潜在意图与这一潜在转变相一致
欧盟不结盟大西洋主义？：对创新和经济发展的关注不断被吹捧为远离欧盟监管战略的一步。此外，由于GDPR在欧盟之外也有一定的影响力（因为任何与欧盟打交道的企业在管理欧洲数据时都必须遵守规则），因此，可能脱离欧洲的做法可能会产生全球影响。这就提出了一个问题：《国家人工智能战略》仅仅是支持创新，还是实际上在数据保护权方面后退了一步？为此，我们邀请就创新赋能标准和监管进行更深入的讨论

最后，我们简要地提供了争论点，以进一步激发讨论。这些是：

信号而不是战略：该战略是地缘政治和经济计划的信号，而不是发展治理良好的人工智能的战略
数据流连续性：我们对欧盟和英国之间数据流的连续性有一些担忧
行业：制定足够具体的规则，为特定行业提供明确性，将是一项艰巨的任务
责任：该战略没有明确可能达成的法律责任立场
参与方法：《战略》未披露制定法规/规则的方法或利益相关者将如何参与在这个过程中
对公民的责任：任何替代系统都需要保留“设计隐私”的内在概念，同时可能重新平衡和重构实现这一目标的系统

概述

在本节中，我们提供了战略文档的概述。我们复制了文本的结构，并以摘要的形式进行了解释。虽然本节提供了概述，但它作为文本的阅读呈现，其中概述与评论交织在一起

十年计划

该文件以英国作为“全球人工智能超级大国”的理想开始。值得注意的是，从一开始，“种族”一词就在其他国家的背景下被提及——表明地缘战略层面——无论是在经济方面还是在“技术变革”方面。在此之后，提到了监管环境（道德和监管），并明确以“促进创新”为指导原则（支持抱负中宣布的机会创新和经济）

“这个国家人工智能战略将向世界发出信号，表明我们打算构建世界上最有利于创新的监管环境”

很明显，这是一个工业和地缘政治愿景，英国不仅是人工智能开发和部署的领导者，也是建立市场规则的领导者^脚注1

执行摘要

执行摘要不仅对文件进行了总结，而且再次强调了英国将成为“全球人才蜂巢和进步的监管和商业环境”的愿景。通过在三个划定的领域中的行动，即生态系统、部门/区域和治理，将每个领域的愿景简化为短期（未来3个月）、中期 + 月）的行动和目标。这些概述如下：

生态系统：投资和规划科学领域的领导力，以期成为人工智能超级大国
- 短期：数据可用性、网络物理基础设施框架、技能
- 中期：发布技能议程（以支持更广泛地获得人工智能技能建设和职业机会为基础）、评估私人资金、教育计划、职业、审查计算能力、UK-USA R&；D申报，新的签证制度
- 长期：审查半导体供应链，考虑开放和机器可读的政府数据集，启动国家研究和创新计划，全球伙伴关系，支持人工智能的多样性，监测国家安全的保护，在任何贸易协议中包括关于新兴技术的条款
部门/地区：支持所有部门和地区向人工智能经济转型
- 短期：卫生和社会保健、国防、知识产权战略
- 中期：扩散战略、创新使命、建立开放的挑战库、支持发展中国家
- 长期：启动人工智能采纳计划，发展可信度、可采纳性和透明度，将人工智能作为应对战略挑战的“催化作用”
治理：确保国家和国际治理，以鼓励创新、投资，并保护公众和英国的基本价值
- 短期：发布保障路线图、数据保护和治理咨询、国防使用、国际人工智能活动
- 中期：支持创新白皮书、算法透明度分析、试点人工智能标准中心、提高政府对人工智能安全的意识
- 长期：技术标准参与，全球共享研发；D挑战，更新公共部门人工智能道德和安全指南，了解哪些公共部门行动可以安全推进人工智能并减轻灾难性风险

支柱1：投资于人工智能生态系统的长期需求

我们认为第一个支柱涉及三个主题，即研究、基础设施和经济

研究：
- 国家计划：在这里，研究、开发和创新通过国家人工智能研究与创新（R&；I）计划进行宣传。该计划旨在满足五个主要目标，将
  - 促进新人工智能技术的发现和发展，
  - 最大限度地提高研究人员的创造力，
  - 支持人工智能的招募创新者，
  - 建立合作伙伴关系，
  - 并支持私营部门的创新
  人们相信这将“大大增加英国开发和利用的人工智能发现的类型、频率和规模”。此外，还列举了研究和创新方面的国际合作，其中提到了地平线欧洲[4]和与美国的倡议
- 技能：通过数据科学和人工智能研究生转化课程（包括签证计划），增加多样性，缩小技能差距
基础设施：
- 数据和计算：访问数据、标准化和基础设施（云）是需要解决的关键领域。在公共部门内，数据将用于支持数据驱动的创新，以支持公共服务。访问计算能力（用于训练人工智能系统）是第二个基础设施优先事项，因为需要考虑安全和竞争
经济学：
- 金融和风险投资：持续评估专门针对在英国每个地区开发人工智能技术的创新公司的资金状况，以评估人工智能创新公司在获得资金方面是否存在重大投资缺口或障碍
- 贸易：随着英国获得新的贸易协议，政府将纳入包括人工智能在内的新兴数字技术条款。这些规定将确保在保护个人数据的同时，不会有不必要的障碍阻止数据跨境

支柱2：确保人工智能惠及所有部门和地区

我们将第二支柱理解为涉及两个主题，即人工智能的传播（研究、开发、部署等）和创新

扩散：
- 扩散和刺激：人工智能在整个经济中的扩散，以推动人工智能带来的经济和生产力增长，并刺激人工智能技术在高潜力、低人工智能成熟度行业的发展和采用。将启动一项计划，通过激励学习支持企业并增加增长和合作的机会
创新：
- 创新使命：政府将开发一个短期、中期和长期人工智能挑战库，以激励行业和社会确定并实施战略优先事项（如净零、健康和社会护理）的现实解决方案。为此，将推动人工智能用于公共利益（将人工智能视为“催化贡献”[5]）。最后，公共部门将成为买方（例如，国防部正在使用人工智能优化电力供应，皇冠商业服务公司正在努力改善购买人工智能技术的机会），也将成为激励创新和采用人工智能的杠杆
- 知识产权（IP）：创造和保护知识产权（我们在担心在人工智能开发和采用的背景下，以及在地缘政治方面，知识产权盗窃的可能性）

支柱3：有效管理人工智能

我们将第三支柱理解为涉及两个主题，即支持信任的创新和标准/法规。我们认为，在数据保护方面引用的“新方向”尤为重要

信任促进创新：
- 全球：各国政府的目标是为全球人工智能治理构建最受信任和最有利于创新的系统，以支持“创新和采用，同时保护公众和建立信任”。他们的数字监管计划[6]认识到需要精心设计的框架，通过平衡隐私和限制水平来推动经济
- 人工智能保障：为了支持成熟人工智能保障生态系统的发展，CDEI正在发布人工智能保障路线图。考虑到我们对人工智能保证的兴趣，并通过我们在人工智能审计方面的研究工作和行业经验，为该议程的制定做出了贡献，我们热切期待这项工作[7，8]
- 公共部门作为范例：这是一种将公共部门作为人工智能的采纳者和创新者的机制。我们注意到，这一点在公共数据集的使用和标准化愿景中尤为明显
- 人工智能风险、安全和长期发展：在这种情况下，讨论更具推测性，涉及存在风险的问题，如AGI（人工通用智能）和国防的发展。人工智能办公室在探索长期风险方面的作用被引用。
数据保护：
- 数据保护框架和人工智能：面向创新的数据保护新方向已由政府在其数字监管战略提案中明确阐明[6]。尽管《国家人工智能战略》承认需要在这一领域进行更多监管，但它确实指出了英国现有监管机构对人工智能技术某些部分的立法覆盖。然而，这些监管者中的一些人没有在这一领域积极执行，尽管这在他们的范围内。这方面的一个例子是信息专员办公室，根据我们的观点，该办公室并不总是对GDPR的执行采取强硬立场。此外，这一变化需要与取消信息专员的自主权的建议相抵触，使专员对数字、文化、媒体和信息部负责；运动因此，追究政府责任的能力将大大降低尽管监管方面的改进是值得欢迎的，而且在这一领域是非常必要的，但我们还需要将对话付诸实践，并了解如何在真实案例和真实数据中应用和实施这一点
- 英国脱欧后的数据充分性：该文件提出了符合欧盟人工智能法案的方法和伙伴关系[9，10]。然而，一些提案有可能成为GDPR所采取措施的潜在倒退。目前尚不清楚国家人工智能战略等战略的实施对当前欧盟-英国GDPR充分性决定的潜在影响[11]
标准/法规：
- 政策信号：提出了三个观点，即：
  - i 消除一些现有的监管负担，因为有证据表明这些负担对创新造成了不必要的障碍。
  - ii 保留现有的基于部门的方法，确保各个监管机构有权在其职责范围内灵活工作，以确保AI提供正确的结果。
  - iii 引入针对人工智能的其他跨部门原则或规则，以补充个别监管机构的作用，使现有制度更加一致。一段时间以来，有迹象表明英国将采取针对特定行业的方法，因此，纳入这一跨行业监管政策是一个重要的转变
- 协调：在国家层面（英国监管机构，如FCA、CMA、ICO、Ofcom等）和国际层面（提到的是OECD[12、13]、欧洲委员会、全球人工智能伙伴关系（GPAI）、联合国教科文组织、北约（AI防务伙伴关系））进行协调
- （全球）数字技术标准：英国可以引领技术标准的发展被视为支持R&；D和创新、贸易、“给英国企业更多机会”、“提供安全、安保和信任”以及“支持合规性评估和监管合规性”。这些技术标准是通过行业主导的过程制定的，旨在通过安全高效的人工智能造福英国公民、企业和经济[14]

评论

创新第一
国家人工智能战略发出的最明确信号是，它将创新置于最前沿^脚注2创新被解读为所有其他流，例如全球经济增长和竞争力的工具。事实上，研究是在采用（即产业）的背景下，以及对国家目标和挑战（如健康和净零）的“催化贡献”方面进行讨论的。此外，技能议程（从职业和能力方面解读技能，这是微妙的，但明显不同于教育）是双管齐下的，既有利于人才培养（通过签证提供），也有利于国家教育计划（有待咨询）。最后，在有利于创新的意义上，创新是治理议程的基础，这一议程在促进创新方面进行了明确讨论

另一个信任生态系统
英国信息专员在脱欧谈判过程中很早就同意了英国-欧盟数据传输的充分性。另一方面，欧洲数据保护委员会（European Data Protection Board）关于从欧盟到英国的数据传输是否充分的可能性的意见仅在2021 3月才成为现实。该意见指出了英国数据保护框架与欧盟数据保护框架的相似性，并授予了充分性，但最后指出：“（……）虽然法律可以演变，但应保持这种一致性。”[15]. 虽然这是一个看似无辜的声明，但它反映了在数月的紧张和谈判中，英国提出了一项国家数据战略，该战略在某些方面脱离了欧洲框架，更接近美国的隐私做法，更侧重于经济成果和创新同样值得注意的是，这一决定实际上是临时的，因为它第一次包含了日落条款，有效地允许它在4年后到期。有关数据策略的评论，请参见[16]。这种紧张局势可能会对整个科技行业产生重大影响[17]，尤其是人工智能技术

在鼓励创新和间接鼓励孤立主义和个人权利的退化之间，或者通过提供一个为道德和监管创新创造机会的空间来实现这两者之间，需要采取一种特别微妙的平衡措施。我们可以从孤立主义和替代信任生态系统的角度来阐述机会和风险：
孤立主义：这里的担忧是英国将在其监管和创新生态系统中变得孤立，在行业将选择遵循更大的监管/市场生态系统的情况下，类似于欧盟GDPR如何成为事实上的全球标准（从而有效地实现欧盟生态系统的普遍化），英国可能会发现自己最终将被迫遵守更大的规管市场力量。另一种可能性是，英国将成为一个孵化器，在这里进行测试和创新，从而成为一个发射台，即为初创企业和产业提供更为创新友好的空间。鉴于成为全球领导者的愿望，这些可能性对《战略》的既定目标而言是负面的

替代信任生态系统：英国监管市场规范有机会成为创新和信任的首选生态系统。英国的做法可能被认为是一种替代信托计划，（与欧盟一样）值得信赖，但更利于创新。通过英国的各种影响力机制（通过语言和文化的软实力；联合国安理会常任理事国席位；共同财富等），可以形成一个足够大的监管市场生态系统（想想英国、加拿大、印度、澳大利亚等），与欧盟相抗衡（甚至可能成为事实上的全球规范）。然而，为了提供这一级别的保证，英国需要有强有力的替代框架和公认的监管体系

总之，在鼓励创新和间接鼓励孤立主义之间，以及从受信任的数据保管人的退缩之间，存在着微妙的平衡

防务、安全和风险
全文都提到了防务、安保和风险。通过国防部发布国防战略（包括管理相关国防影响）是一项短期目标。更一般地说，有两个维度：
利用：第一个维度是“防御”，即系统的研究和利用。这里提出了一个新的国防人工智能中心（被视为“国防科学超级大国”），虽然没有明确提及，但我们认为这是关于军事能力的一个重要信号。此外，人工智能将用于国防部的现代化和运作

治理：第二个是基于治理。人工智能在防务中的道德（和法律）影响可能是防务战略的核心。该战略建议研究和理解长期风险（人工智能的安全发展和灾难性风险的缓解），以及防范人工智能被恶意使用的战略

鉴于人工智能在国防能力中的使用经常受到关注，推进人工智能研究和利用与良好治理的需要之间的导航尤为迫切。此外，我们选择强调这一层面，因为它表明了英国政府对人工智能开发和部署的认真态度。重要的是要注意到国防运作所处的受保护环境，事实上要考虑英国在这方面是否可以做出改变，同时比国家规范更加公开和透明

修订数据保护
英国的数据保护规定基本上与欧盟的一致，英国作为欧盟成员国（参见英国GDPR）多年来在制定和实施欧盟的数据保护方法方面发挥了主导作用

英国是否会采取比欧盟更“轻”的数据保护制度一直是一个悬而未决的问题。尽管谈话主要是“修订”和“审查”信号是，英国确实在寻求将自己定位为在数据保护方面不那么严格。
这有两个方面：
实现者：这里，开放数据访问（包括公共数据）、数据标准化和网络物理基础设施支持都包含在战略中。这一点至关重要，因为获取高质量和充足的数据对人工智能的发展至关重要。希望数据保护方面更开放的制度将增加人工智能创新的使用和可能性。
数据保护作为价值：欧洲GDPR（大胆地）声称，鉴于如此明确的价值，数据保护是一项基本权利，数据保护在数据治理中的重要性是可以理解的。然而，正如我们在其他地方所讨论的那样，数据保护与人工智能性能（系统的准确性）、公平性（系统在受保护特征方面如何影响人们，如种族和宗教）和透明度（系统的可解释性）之间的关系往往是一种权衡[8]。一个指示性的例子是，确保高水平的数据保护可能会导致透明度降低。实际上，英国战略通过提出其他价值（系统性能等）和机会（以价值机会和创新表示）来挑战数据保护作为数据治理的基础价值的首要地位。关于我们对数据与人工智能伦理之间的相互关系的评论，请参见[18]。
数据治理中数据保护的首要地位转变中的这一信号将对经济（见上文第3.1点）、创新（可能会出现什么样的产品、初创生态系统的组成等）、，治理（问责的性质）和法律（修订现有法律）。
欧盟不结盟大西洋主义
对创新和经济发展的关注不断被吹捧为远离欧盟监管战略的一步。然而，在其自身的愿望中，经济发展是欧洲隐私政策的一个关键因素：数据保护旨在监管并允许在需要时以透明的方式处理个人数据，从而支持经济目标[19]。一些人提出这样的观点：“（…）GDPR的一些最重要的影响可能与隐私无关，而是与反垄断和贸易政策有关”（[20]，第50页）。
此外，可能脱离欧洲的做法可能会产生全球影响，因为“GDPR在欧盟之外也有一定影响力，因为任何与欧盟打交道的企业在管理欧洲数据时都必须遵守规则”（[21]，第3页）。虽然推动创新的一些预期目标本身是有价值的，但政府必须仔细评估可能扰乱现有数据流和执法合作的任何变化的后果。
这就提出了一个问题，即国家人工智能战略只是促进创新，还是实际上在数据保护权方面后退了一步？事实上，我们认为，通过与所有利益相关者（行业、初创企业、非政府组织和学术界）的长期磋商，了解放松某些数据保护条款可能如何影响创新的本质，这并不是否定“更多数据更多创新”这一明显的格言，而是将创新视为赋能标准和监管（欧盟将声称这确实是他们的既定目标）^脚注3

结论

最后，我们简要地提出了争论点，以进一步激发讨论。这些是：
信号而不是战略：虽然该文件被宣传为国家人工智能战略，但其大部分内容显然更多地是地缘政治和经济计划以及人工智能如何支持这些计划的信号，而不是道德、创新和良好治理的人工智能发展战略。因此，我们阅读本文件并不是作为路线图，而是作为英国人工智能治理方法的出发点。
数据流连续性：如果该战略的某些要点得到实施，我们对欧盟和英国之间的数据流的连续性有一些担忧，这可能会导致英国在国际数字空间中进一步孤立。这一担忧与英国将自身定位为一个更宽松的生态系统（在数据治理方面）所带来的机遇和风险密切相关。
部门：实行跨部门监管是值得称赞的雄心壮志，但这将是一项艰巨的任务具体到足以为行业提供清晰的规则。此外，尚不清楚新规则将在多大程度上建立在已经完成的工作基础上，例如信息专员办公室最近发布的各种报告和指南。
责任：人工智能监管中存在一些重大问题，例如责任和责任。《战略》没有明确说明在这些问题上可能达成的立场。事实上，一段时间以来，我们强调了算法和法律以及算法系统的法律地位等更广泛的问题。
参与方法：该战略没有披露制定法规/规则的方法，也没有披露利益相关者将如何参与该过程。这是其他人（如Goodson[3]）提出的担忧，我们也对此表示赞同。此外，为了在全球范围内实现这一目标，将需要在外交和主题能力方面的大量专业知识。
对公民的问责：显然，创新确实带来了社会利益，但如果发展的框架不符合道德和稳健，则可能会牺牲公民的个人权利。尽管GDPR的各个方面可能被认为是繁重的，但“设计隐私”的概念是值得称赞的。因此，任何替代系统都需要保留这一内在概念，同时潜在地重新平衡和重构实现这一目标的系统。
我们将呼吁道德创新。这需要跨学科专业知识和全球外交才能实现。此外，如果英国要建立替代数据保管系统，则需要更明确地阐明英国不会跨越的界限。人工智能开发和数据保护的新方法有待掌握，但需要进行复杂的分析和资源配置，以正确记录和开发道德的人工智能创新。尽管本文件为促进和发展创新发出了重要信号，但实现道德创新是一项更艰巨的挑战，需要一个精心发展的框架，并具备适当的专业知识。