简介

人工智能（AI）是一个智能技术集群，从机器学习软件到自然语言处理应用，再到机器人技术，具有前所未有的能力重塑个人生活、社会和环境（Floridi等人，2018）。近年来，人工智能带来的好处越来越多，例如Deep Mind在2020年在蛋白质结构方面取得的科学突破（Callaway，2020）。然而，人工智能应用也存在重大风险。在过去几年中，政府治理人工智能以最大化这些利益和最小化风险的努力才取得了实质性进展。在之前的一篇文章中，Cath等人（2018）分析了美国（美国）、欧盟（欧盟）和英国（英国）的人工智能战略。文章的结论是，所分析的文件涉及与人工智能相关的各种伦理、社会和经济因素，但没有一份文件为发展“良好的人工智能社会”提供了总体的长期政治愿景，也没有明确表明这样的社会在现实中会是什么样子

自那篇文章发表以来，所有三个被考虑的国家行为者都发布了几份备受瞩目的人工智能文件。许多其他州也对人工智能治理表现出了浓厚的兴趣，有60多个州发布了人工智能政策文件（OECD.AI，2021a，2021b），这是人工智能正在经历的当前“夏天”的反映和后果（Floridi，2020a；Tsamados等人，2021）。鉴于这些政策发展和人工智能技术日益产生的重大社会影响，重新审视这些人工智能战略以评估它们的差异以及长期愿景的发展程度至关重要。这是下面几页的任务

由于全球对人工智能治理越来越感兴趣，我们在这里理解为私人和公共机构以及个人对人工智能行使权力的多种方式（Yu，2018），一种可能的方法是将分析扩展到美国、欧盟和英国之外。这样做将有助于采取更多样的方法，因为文化价值观的广度更广，正为其他人工智能战略提供信息（Duan，2020；Sambasivan等人，2020）。事实上，我们在其他文章中分析了中国的人工智能战略（Roberts等人，2021b，2021c），许多分析也考虑了其他国家的其他方法（Chatterjee，2020；Cisse，2018；Gal，2020）。然而，在本文中，我们将只关注两个案例研究：欧盟和美国。决定将我们的分析局限于两个案例研究，是基于广度和深度之间不可避免的权衡。我们选择重点关注欧盟和美国，尤其是因为它们对人工智能治理的全球影响力远远超过其他国家（不包括中国）。更重要的是，欧盟和美国是一个有趣的比较案例研究，因为它们经常被吹捧为政治联盟而非指导价值观，如代议制民主、法治和自由。事实上，这种结盟导致了广泛的呼吁，要求在人工智能治理方面进行更深入的跨大西洋合作，特别是考虑到中国对这些价值观构成的威胁（Delcker，2020；Lawrence&；Cordey，2020；Meltzer等人，2020）

关注欧盟和美国的人工智能战略，我们需要考虑两个具体的研究问题。首先，“良好人工智能社会”的愿景在道德上更可取。我们从所概述的目标以及这些规范性愿景在实践中是否得到或可能得到满足来考虑道德可取性。其次，鉴于这些不同的人工智能治理方法，我们考虑跨大西洋深度合作在多大程度上可行

在转向我们的分析之前，基于此框架需要两个澄清点。首先，已经进行了政策分析，将欧盟和美国的人工智能战略单独考虑（Brattberg等人，2020；Rasser，2019），并进行了比较（Allison&；Schmidt，2020；Gill，2020；Imbrie等人，2020）。然而，这些分析通常只关注国家的能力，包括对人工智能的投资、数据和硬件的获取以及国内人才，而不涉及这些政府对人工智能在社会中的作用的愿景，也不涉及我们在这里所说的“良好人工智能社会”的发展。解决欧盟和美国对人工智能的长期、总体愿景并将其纳入背景非常重要，因为这为就国家战略的方向和目标做出明智的规范性判断提供了空间

其次，重要的是扩展我们所说的“良好人工智能社会”。就人工智能的开发和使用而言，什么是“好的”是文化和政治上的依赖（Floridi等人，2018）。如果不承认这一点，就构成了一种绝对主义，根据这种绝对主义，只有一种绝对（即与任何历史或文化环境无关）的“有效”愿景，完整而正确，才能使人工智能在社会上发挥“作用”（Wong，2020）。同时，认为没有价值观本质上是“好的”，这是一种极端的元伦理相对主义（Brandt，2001），根据这种相对主义，对于不同愿景的各自优点，没有任何实质性的东西可以合理地说出来。我们将自己置于这两个极端之间，处于道德多元化的中间地带。这意味着我们认为“良好的人工智能社会”有许多不同的有效愿景，但每一个都需要由一组在国家和国际层面上被视为可取的价值观支撑。这些价值观可能包括民主、正义、隐私、保护人权、，脚注6和对环境保护的承诺（Ess，2020a；Wong，2020）。类比一下，目前全球使用的家用电源插座插头有15种类型，它们都不同，但它们也有一些基本功能和特点，使电器适配器和转换器成为可能。同样，尽管一些基本价值观在欧盟和美国可能会有类似的解释，但其他价值观可能会有所不同，至少在其优先顺序和重要性水平上是如此，因此可能会成为“良好人工智能社会”的不同愿景的基础，但它没有为做出规范性判断提供指导，因为对基本价值有多种有效的解释。因此，需要采取另一个规范步骤，以确保对欧盟和美国概述的“良好人工智能社会”的不同愿景做出有意义的判断，同时也基于我们自己的伦理观点使用道德推理来做出规范性判断（Angle，2002）。这种方法尊重差异，但也允许我们对我们认为对基本价值的解释在道德上不可取的地方进行知情分析，在接下来的几页中，我们比较了这两个政府治理战略的发展，围绕三点构建我们的分析：

（i）
欧盟和美国如何构想“良好的人工智能社会”以及与每种方法相关的机会成本“良好的人工智能社会”有助于跨大西洋合作。

在“欧盟的人工智能方法”和“美国的人工智能方式”部分，我们分别讨论了欧盟和美国的人工人工智能战略的要点（i–ii）。我们概述了人工智能政策是如何演变的，并包含了独特的面向国内和国际的元素。我们确定并评估每一个项目的关键主题，包括改善国内的经济、社会和伦理成果；为国防和对外国际关系发展人工智能的立场；以及在实践中应用这些战略时政策结果的内部碎片化。这一分析为回答我们的第一个研究问题提供了基础，在我们看来，哪一种观点在道德上更可取。在“跨大西洋人工智能治理合作”一节中，我们讨论了第（iii）点，并考虑了促进跨大西洋合作的现有举措，以及这些不同愿景产生的进一步合作障碍。我们通过比较愿景的道德可取性来总结，并展望围绕人工智能治理开展跨大西洋深度合作的潜力。

欧盟的人工智能方法

2016年5月，欧盟发布了第一份关于人工智能治理问题的文件：欧洲议会法律事务委员会（European Parliament’s Committee on Legal Affairs）的一份题为《机器人民法规则》（Civil Law Rules on Robotics）的报告草稿，呼吁欧洲采取协调一致的方法，采用软硬法律相结合的方式来防范可能的风险。尽管本报告开始讨论与人工智能开发和使用相关的许多伦理和社会问题，Cath等人（2018）强调了一些差距，包括将人工智能仅仅视为机器人技术的一个基本组成部分，以及未能承认问责或透明度作为指导伦理价值观

自2016年JURI报告以来，欧盟政策制定者对人工智能的关注度显著提高。2018年4月，25个欧洲国家签署了《人工智能合作宣言》，脚注8，其中表示他们打算促进欧洲对人工智能的集体反应^脚注9不久后，欧盟委员会发布了一份关于欧洲人工智能方法的通信（“通信”），该通信概述了一条协调的前进道路，围绕以下三个优先事项：

（2）

通过预测市场变化、现代化教育和培训以及适应社会保护系统，为人工智能带来的变化做好准备

（3）

确保有符合欧盟价值观的适当法律和道德框架

2018年6月，欧盟委员会任命了人工智能高级专家组（HLEG），脚注10一个由52名专家组成的小组，以支持通信的实施。在其他产出中，他们制定了《人工智能道德准则》，该准则侧重于通过确保系统合法、道德和稳健来发展值得信赖的人工智能（欧盟委员会，2019年）。为了实现这一目标，列出了七项关键要求（表1），并附有一份评估清单，为实际实施提供了指导

表1可信人工智能的要求（欧盟委员会，2019年）全尺寸表，它提出了一种基于风险的方法来监管人工智能，并概述了四类风险：不可接受、高风险、有限风险和最小/无风险。被认为具有不可接受风险的系统将被禁止，包括社会评分和潜意识操纵系统（第二篇）。高风险人工智能包括安全关键部件和对基本权利构成特定风险的系统。对于这些系统，概述了供应商、进口商、分销商、用户和授权代表的具体义务（标题III）。有限风险系统是指那些与人类互动、用于生物特征分类或生成操纵性内容（例如deepfake）的系统；这些系统有特定的透明度要求（标题IV）。对于风险不高的系统，鼓励采用自愿行为守则（第九篇）。违反这一规定将导致高达全球营业额6%或3000万欧元的罚款（标题X）

自2018年以来出现的国内政策

欧盟人工智能政策解决了Cath等人（2018）中强调的许多关键缺陷，包括人工智能概念化方式的转变，以便将其视为一种应独立于机器人技术进行分析的无实体技术。然而，如拟议的《人工智能法》所述，欧盟对人工智能的定义极其广泛，包括“统计方法”。这可能有利于欧盟定义的未来验证，但也可能导致不被普遍认为是人工智能的系统受到该法案的监管，从而可能影响创新。因此，欧盟对“良好人工智能社会”的愿景已从机器人的狭隘治理转向对各种技术和方法的包容性考虑。此外，HLEG的道德原则和《人工智能法》现在明确包括问责和透明度要求，这标志着指导人工智能道德发展的显著进步

总体而言，欧盟对“良好人工智能社会”的长期愿景，包括实现这一目标的机制，似乎是一致的。治理人工智能的愿景以欧洲基本价值观为基础，包括人类尊严、隐私和民主。这些个人权利，从欧洲的意义上理解，并不是基于新古典主义、自由放任的自由理念，而是寻求促进集体福祉和公民权利社会^脚注11它有三个实际的基石，分别是：改善经济成果、最大限度地减少社会破坏以及制定适当的道德和法律框架。基于风险的方法结合了硬法和软法，旨在确保将对人的伤害降至最低，同时考虑到这些技术的商业和社会效益（Floridi等人，2018）。重要的是，高级别专家组关于如何在道德上开发人工智能系统的指导意见不具约束力，《人工智能法》目前是一份拟议草案。通过该草案成为法律的过程需要欧洲议会和理事会的确认，可能需要两年多的时间，可能需要经过谈判、修订和妥协。因此，欧洲议会、成员国通过欧洲委员会的影响力，以及间接通过私营部门的影响力，仍然可以改变委员会基本上已经确定和概述的人工智能愿景

欧盟对“良好人工智能社会”的国内愿景涉及不可避免的权衡。该愿景被批评过于注重保护个人权利，而不是刺激创新，这可能阻碍经济增长和竞争力（Brattberg等人，2020）。这种批评可能是正确的；然而，如果制定得当，监管的明确性和指导可以帮助促进欧盟的道德创新（Porter&；van der Linde，1995）

欧盟对“良好人工智能社会”的愿景也存在差距。虽然提到了将人工智能用于社会公益目的（如保护环境）的可能性，但没有讨论训练人工智能模型对增加温室气体排放的贡献（Kaack，2021；Cowls等人，2021）。考虑到能源密集型人工智能研发集中在北美和欧洲，这一点尤为重要，这导致了长期存在的环境不公平问题（Ottinger，2017）。概述的愿景还可以为支持集体利益和社会价值观做出更多贡献；例如，通过引入群体隐私权（Floridi，2014；L.Taylor等人，2017）。最后，欧盟的愿景几乎没有考虑如何解决系统性风险，只关注特定系统对个人的风险，而不是人工智能造成更广泛社会混乱的可能性。例如，《人工智能法案》试图解决来自推荐系统的个人操纵问题，但没有考虑到它们可能会更广泛地分化在线话语（Whittlestone等人，2021）。欧盟（根据其愿景）希望在不加剧现有环境问题或集体伤害的情况下，将人工智能用于社会公益目的的道德使用（Tsamados等人，2021）

国际政策

欧盟的国际愿景主要侧重于在尊重基本权利的基础上促进人工智能治理方面的合作（欧盟委员会，2020a）。然而，它还具有拟议措施的域外范围的特点。如果通过，《人工智能法》将不仅适用于在欧盟设立的供应商，也适用于任何在欧盟单一市场中使用人工智能系统提供服务的人，并且人工智能系统产生的输出将在欧盟使用。这些措施可能会导致所谓的“布鲁塞尔效应”，这一点已经在GDPR的颁布中体现出来，欧盟的市场和监管力量创造了全球标准，科技公司遵循这些标准，第三国也采用了这些标准（Bradford，2020）

欧盟对“良好人工智能社会”的面向外部愿景也应理解为“数字主权”这一更广泛目标的一部分，人工智能是其中的一部分（Floridi，2020b；Roberts等人，2021a）。尽管“数字主权”尚未明确定义，也未在欧盟各机构中得到一致使用，但人们普遍认为，通过拥有决定其长期社会和经济未来的能力来保持战略自主（Timmers，2019）。目前，这一威胁最为严重的是美国和中国的科技公司，正如欧洲议会的一份报告所说，它们“越来越被视为主导欧盟经济的整个部门”（Madiega，2020）。数字主权是为应对这一挑战而制定的一项政策议程，旨在通过改进监管手段和促进国内创新来加强欧洲对外部行为体的控制（Roberts等人，2021a）

欧盟对外战略中的一个显著遗漏是在军事领域使用人工智能方面的成熟立场。拟议的《人工智能法》提到人工智能作为辩护，只是在一开始就指出，该文件并未涵盖该主题，尽管事实上许多成员国的军队和安全机构已经开始研究和开发人工智能支持的能力（Boulanin等人，2020；Franke&；Sartori，2019）。一些欧盟机构，如欧洲防务局（EDA）、网络安全局和自由、安全和司法领域大规模IT系统运营管理局，迄今为止选择了谨慎的做法，分享研究、报告和建议，但没有明确的指导方针（ENISA，2020；欧盟LISA，2020）。同样，欧洲议会最近投票通过了关于人工智能军事和非军事使用的无约束力准则，重点是需要维护人类决策、尊重人类尊严和保护人权（欧洲议会，2021）。EDA备受期待的“人工智能行动计划”建立在成员国表达的要求和偏好基础上，预计很快将为该主题提供更明确的指导方针（EDA，2020）。

评估实现欧盟良好人工智能社会的进展

欧盟在实现其高级别政策优先事项方面的进展喜忧参半。关于《信息通报》中概述的前两个首要优先事项，即提高行业能力和为社会动荡做好准备，已经提出了许多倡议。委员会和会员国共同努力，大力投资于人工智能带来的机遇。例如，欧洲投资银行（EIB）和欧洲投资基金（EIF）承诺提供1.5亿欧元，支持欧洲各地的人工智能公司（欧盟委员会，2020b）。还概述了各种旨在减轻人工智能可能造成的社会干扰的政策，包括数字教育行动计划（2021至2027年），以确保公民在面对市场变化时拥有强大的数字技能，并为平台制定了《信息失真行为守则》。

欧盟的第三个优先事项——制定人工智能治理的法律和道德框架——也取得了重大进展，它为开发和部署人工智能的人员提供了将原则部署到实践中的清单。尽管这一指导意见是自愿的，但拟议的《人工智能法》将提供可执行的法规来支持这些目标。

尽管做出了这些努力，但欧盟“良好人工智能社会”的愿景在多大程度上得到充分实现仍然值得怀疑。欧盟人工智能生态系统目前的资金支持阻碍了提高欧盟工业能力的目标，与美国和中国相比，该生态系统被批评为不足（Bughin等人，2019）。此外，一些欧盟研究资金，尤其是通过地平线2020的资金，被批评为不道德，因为尽管可能威胁到欧盟的基本价值观，但对几个使用人工智能执法的项目提供了支持（Fuster&；Brussel，2020）。这表明欧盟的人工智能融资模式仍存在问题。

一个更根本的问题是，欧盟的经济、社会和监管目标能否在整个欧洲平等实现。尽管某些欧洲国家（包括法国、德国和瑞典）缓解了欧盟资金的不足，但并非所有国家都是如此。这一支出缺口反映了一个更广泛的问题，即确保积极的社会和经济成果在整个欧盟范围内均匀传播。一些成员国（通常是西欧）已经制定了人工智能战略，但东欧和南欧的情况大多并非如此（Brattberg等人，2020）。这对社会结果是至关重要的，因为不同的投资水平导致不平等的收益以及不同的风险水平。例如，根据愿景、基础设施和数据质量等多项指标衡量，芬兰的人工智能就绪度比克罗地亚高55位（政府人工智能就绪指数，2020年，未公布），拟议的《人工智能法》通过禁止某些用例，并提供定义和管理高风险和有限风险人工智能的共同标准，为整个欧洲的保护标准化奠定了坚实的基础。《人工智能法案》提议设立一个欧洲人工智能委员会，由每个成员国国家监督机构的负责人组成，旨在为管理人工智能提供持续指导。重要的是，拟议的《人工智能法》赋予委员会在监管人工智能方面的重大影响力，例如通过担任欧洲人工智能委员会主席，执行法规措施的资源或意愿（Reinhold&；Müller，2021). 如果这一提议实现，那么它将确保欧盟的监管愿景在整个欧洲得到实施

即使整个欧盟的执行相对标准化，根据所采取的立场，这些提案也可能“过度监管”或“监管不足”人工智能

在被禁止的系统方面，拟议的《人工智能法》规定，“应禁止某些旨在扭曲人类行为的人工智能系统，从而可能造成身体或心理伤害”。该条款包含并可能包括一系列用例，例如推荐系统，其目的是在限制个人接触其他内容的同时，将个人推向特定类型的内容（Milano等人，2020）。可以合理地认为，这些系统会造成精神和身体伤害，例如通过宣传“反暴力”内容或鼓励极端主义（可以说是国会大厦暴动的例子）（郝，2021）。尽管推荐系统无疑会被证明是有害的，但考虑到它们在使用数字服务（如购买产品、听音乐或在线观看电影）时给日常生活带来的好处，禁止它们将是一种不成比例的反应。此外，如果不进一步澄清，过度监管可能会通过增加成本和繁文缛节阻碍创新，导致欧盟失去对其他国家的竞争力，进而阻碍积极的经济成果（Brattberg等人，2020；Murgia&；Espinoza，2020）

与此同时，人们可能会对欧盟监管不足提出质疑。HLEG的一些成员批评了《指南》的模糊性和不承诺性，该指南被归咎于一个庞大的行业团队的监管捕获，其数量超过了董事会中的伦理学家（Kelly，2020）。《人工智能法》可能会缓解对不强制执行的担忧，然而，措施中的关键弱点仍然存在。禁止“实时”远程生物识别监控具有关键的例外情况，包括失踪儿童、恐怖威胁或事先获得司法批准的严重犯罪案件。对此，欧洲数据保护主管Wojciech Wiewiórowski表示，他对该法案没有像一周前由40名MEP组成的跨党派小组（Lomas，2021）所呼吁的那样，完全暂停远程生物特征监测感到失望（欧洲数据保护监管人，2021）

同样，对高风险系统供应商的要求似乎很严格，需要完成事前一致性评估，包括数据、文件、透明度、监督、稳健性和安全性。然而，对于大多数提供商来说，这是内部流程，而不是第三方文档检查。理论上，公司可以自由地遵循他们喜欢的任何标准，但遵循欧洲机构制定的统一标准可能是一种更便宜、更安全的选择。表面上，这可能是另一种检查，然而，依靠标准机构来解释AI法案草案中充满价值的条款是有问题的，特别是考虑到利益集团参与标准制定过程的高门槛（Veale&Borgesius，2021）。同样，围绕不同影响评估的文本模糊且不具承诺性，几乎没有检查偏见的正式要求（MacCarthy和Propp，2021）。鉴于缺乏具体的补救机制，这一问题尤其严重（Del Castillo，2021）。因此，高风险系统的有效保护将在很大程度上取决于标准机构的解释和公司的有效内部合规，这可能导致实践中的无效或不道德结果。事实上，先例表明，这些潜在限制中的一些可能会实现，特别是对于资源较少的小型公司，一项与欧盟有关的调查报告显示，2019年超过一半的小型公司不符合GDPR（Wolford，2019）。这提出了一个更普遍的问题，即监管人工智能和实现欧盟愿景的规范性监管方法的有效性（Clark&；Hadfield，2019）

在决定欧盟是否能够实现其“良好人工智能社会”愿景方面，可能会产生影响的最后一个不确定性是，欧盟数字主权议程在多大程度上得到了阐述和成功实施。提高欧盟“独立行动”能力的宽松目标（Madiega，2020；Von Der Leyen，2020）未能充分解决欧盟寻求从谁那里获得独立（即，哪些其他行为体可能声称拥有数字主权），也未能充分解决欧洲“独立”做出选择的程度（Roberts等人，2021a）。如果没有明确阐述欧盟的数字主权议程除了人工智能监管措施之外，很难围绕一个清晰、全面的数字政策方法来提供支持，从而刺激欧盟的竞争力

美国的AI方法

2016年10月，白宫科技政策办公室（OSTP）发布了美国第一份专门关注人工智能的报告：《为人工智能的未来做准备》和《国家人工智能研究与发展战略计划》。这些报告将政府在人工智能发展中的角色定义为创新的促进者和极简主义监管者，并概述了联邦R&；D投资将引导“人工智能的长期转型影响”。在对这些政策文件的评估中，Cath等人（2018）强调，仅将现有框架应用于新问题是不够的

特朗普政府延续了这些文件中对人工智能的自由放任态度，并在最初进一步表示无意制定国家计划。这一立场因未能刺激投资、培养人才和最大限度地减少伤害而受到批评（Knight，2018），政府在2019年2月签署了美国人工智能倡议，在一定程度上做出了让步。这项行政命令强调了美国在人工智能领域持续领导的重要性，并概述了五项关键原则：
（1）
推动人工智能领域的技术突破，以促进科学发现、经济竞争力和国家安全

（2）
制定适当的技术标准，减少人工智能安全测试和部署的障碍，以便创建和采用人工智能

（3）
为美国工人提供技能培训，使他们为未来的工作做好准备

（4）
培养公众对人工智能技术的信任和信心，保护公民自由、隐私和美国价值观

（5）
促进一个支持研究的国际环境，为美国人工智能产业打开市场，同时保护美国的技术优势，包括来自竞争对手的人工智能技术

自充实这五项原则以来发布的政策文件。2020年11月，在特朗普政府即将结束之际，白宫发布了针对政府机构的指导意见，提出了针对私营部门的人工智能新规定，该指导意见围绕三个主题：限制监管过度；确保公众参与；促进公平、透明和安全的可信赖人工智能（Hao，2020）。这些想法包含在序言中，以及人工智能应用程序管理的10项原则（表2）
表2美国人工智能原则监管指南（总统办公厅，2020）

全尺寸表。该法案的目标在很大程度上反映了美国人工智能倡议的目标，以美国人工智能在研发领域的领导地位为中心；D和开发值得信赖的人工智能系统，以及为潜在的劳动力中断做好准备，并协调军事和民用部门。它还授权建立提供联邦级指导的机构，包括“国家人工智能办公室”，负责支持人工智能研发；D、教育倡议、机构间规划和国际合作；国家人工智能专家咨询委员会，用于评估美国实现其目标的程度；以及一个人工智能和执法小组委员会，就合法性、偏见和数据安全等问题提供咨询

国内政策
美国对“良好人工智能社会”的愿景的特点是对限制监管过度的关注。然而，《国家人工智能倡议法案》标志着人们越来越认识到需要为美国实现其雄心壮志提供一些协调和支持。尽管如此，从消极自由的意义上讲，美国的战略并不是将保护个人自由的法规作为前景，而是将重点放在赋予个人和企业积极自由以从人工智能中获益

从经济角度来看，对人工智能技术的治理采取基本上自由放任的做法可能是允许的，尽管限制监管是确保创新的最佳方式这一假设受到了专家的质疑，包括此前为奥巴马政府提供人工智能建议的专家（Johnson，2020）。然而，从道德上讲，美国的愿景是考虑到与人工智能技术的普遍分布相关的众多伦理挑战，问题重重。白宫强调避免过度监管，这明显阻碍了联邦机构引入严格监管，白宫官员此前曾批评过考虑禁止面部识别技术的州（文森特，2020a）。虽然行业的自我监管可能会减轻一些潜在的道德危害，但缺乏具体的监管措施和监督可能会导致诸如道德清洗（引入表面措施）、道德购物（选择道德框架来证明行为的合理性）和道德游说（利用数字道德来延迟监管措施）等做法（Floridi，2019）。实际上，私营部门监管措施的不足助长了许多危害，例如面部和情绪识别技术中的偏见导致歧视（Buolamwini&Gebru，2018；Crawford，2021）。为了了解这种方法可能造成的更大危害的可能性，我们只需要看看之前在其他高风险领域没有充分监督的情况下，自我监管的失败，例如2007–2008年金融危机前信贷机构的自我监管，以及波音737坠机前航空业的自我监管（Clark&；Hadfield，2019）

国际政策

与国内舞台上的这种不干预的做法相反，美国的愿景似乎倾向于对国际人工智能的单边^脚注13治理采取动手方法。美国人工智能倡议指出，需要促进一个国际环境，为美国人工智能产业打开市场，保护美国的技术优势，并确保国际合作符合“美国价值观”。在这样做的过程中，这一愿景包含了商业的底蕴

在这一总体愿景中，美国的人工智能防务战略可能是最发达的方面。2019年《国防授权法案》设立了人工智能国家安全委员会（NSCAI），这是一个独立委员会，旨在审查人工智能领域的进展，以满足美国的国家安全需求。NSCAI在其最终报告中得出结论：“联合国应该投入一切力量来保持其创新领导力，负责任地使用人工智能来捍卫自由人民和自由社会，并为全人类的利益推进科学前沿”（Schmidt等人，2021，第14页），并为实现这些目标提出了一些建议

美国国防创新委员会于2020年2月发布了在国防中使用人工智能的伦理原则，旨在确保人工智能应用符合国际人道主义法，同时加强国家安全，将人工智能视为一种防御能力，这对于保持对对手的技术优势和作战优势至关重要。制定这些伦理原则是向前迈出的积极一步；然而，实际上，它们的框架可能会受到质疑。确保对对手的优势的推动可能会导致缺乏有效控制的先进自主能力的发展，这是美国引入诸如“黄金部落”弹药计划等系统所面临的风险（Insinna，2021）。因此，这些伦理原则的框架本身就与所述的对伦理结果的渴望产生了紧张关系

考虑到美国面向外部的人工智能战略，对其效力提出了许多问题。尽管美国的出口禁令战略可能会减缓中国的步伐，但“中国制造2025”和“中国标准2035”等计划分别寻求改善新兴技术和国际技术标准的国内创造。因此，对中国的出口管制并不能保证美国长期领导人工智能。例如，华为正在一家避开美国技术的芯片工厂上取得快速进展，使他们能够避开美国制裁，保持芯片供应（Hille等人，2020）。这些政策可能会加快中国发展和出口竞争力的努力，尽管迄今为止，中国在发展国内芯片能力方面取得成功的证据喜忧参半（Khan等人，2021）。同样，缺乏促进负责任创新的成熟国内方法可能会损害美国的国际竞争力（Rasser等人，2019）。例如，尽管中国正在通过千人计划等激励计划吸引外籍人士回国，这可以提高其整体竞争力（Joske，2020），但美国已经制定了可能对人工智能公司不利的敌对签证政策（Coles，2020）

最后，应该强调的是，“美国价值观”定义不清。特朗普人工智能倡议的网站似乎将“美国价值观”定义为“自由、人权保障、法治、机构稳定、隐私权、尊重知识产权以及所有人追求梦想的机会”，行政命令认为隐私与“美国价值观”是分开的，其他政策文件对隐私的定义也有所不同。外部保护主义与内部古典自由主义形成对比，这些不一致性引发了人们的疑问，即美国对人工智能治理的方法在联邦政府内部如何统一，尤其是与支撑欧盟“良好人工智能社会”愿景的更一致的价值观相比。正如我们将在Sect。“跨大西洋人工智能治理合作”，拜登政府可能正试图为“美国价值观”创造一个更加一致的定义

评估实现美国良好人工智能社会的进展

已经采取了若干步骤来实现美国“良好人工智能”的愿景。在促进经济竞争力和实现R&；在研发突破方面，政府承诺将联邦非国防研发与生产能力提高一倍；2021财政年度的人工智能资金（科技政策办公室，2020年）。2020年8月，美国宣布为12个专注于人工智能和量子计算的研究中心提供10亿美元的资金（文森特，2020b）。重要的是，政府资助只是一个充满活力的人工智能生态系统的一部分，在这个生态系统中，私营部门创新发挥着核心作用。虽然很难确定确切的数字，但许多估计表明，美国是私营部门投资的领先国家（全球人工智能指数，n.d.）。尽管有这些发展，一些评论员认为政府在刺激人工智能生态系统方面做得不够（Rasser等人，2019）

通过教育和培训举措为美国社会变革做好准备的努力也在不断增加。例如，已经发布了旨在改善终身STEM教育的政策文件（国家科学技术委员会，2018年），并加强R&；通过一系列研究奖学金和培训计划（美国人民的人工智能，n.D.）。然而，这些方案在多大程度上可以解决人工智能可能造成的长期社会变化，尤其是在受教育程度较低的人口方面，应该受到质疑。2018年，美国在25个发达经济体中自动化准备程度排名第9，职业技术培训不足（Paquette，2018）。其他研究也呼应了这一发现，指出美国在技术丰富的环境中解决问题的能力弱于其他一些发达国家，并建议需要进一步的终身培训计划（Cummins等人，2019）

在开发可能导致就业市场根本变化的人工智能类型时，缺乏对确保公平发展的关注可能会加剧这些问题。国家科学技术委员会的《制定成功的路线：美国STEM教育战略》将“增加STEM的多样性、公平性和包容性”作为其支柱之一，但无论是本文件还是其他以人工智能为重点的文件，都没有强调在整个人工智能发展过程中保持多样性，人们对其通过人工智能渠道留住代表性不足群体的有效性提出了质疑。如果不注重种族和社会经济群体之间的培训和留用公平，可能会导致与人工智能相关的社会变革对已经边缘化的群体不利，而教育和再培训举措可能无法为这些群体服务。美国国家科学院（National Academies）的人工智能对劳动力的影响研究是《国家人工智能倡议法案》（National AI Initiative Act）的一部分，该研究可以更清楚地了解当前劳动力的不足和未来的需求，尽管任何研究都必须考虑不同的影响

联邦确保人工智能安全可靠的努力有限，上述高级别原则是现有的主要行动。这些原则仅仅是指导，对道德人工智能的强调被自由放任的监管方法的明确优先顺序所压倒。最近，政府审计署发布了一个人工智能问责框架，供联邦机构和其他实体使用（问责框架），2021），这代表了一个有希望的、尽管是自愿的发展。另一个值得注意的进展是联邦贸易委员会（Federal Trade Commission）在2021发布的一篇博客文章，其中指出它禁止不公平行为，并且这包括种族歧视算法（Jillson，2021）。这表明联邦政府有可能对有偏见的制度进行执法。尽管如此，这些新措施和对现行法律的重新解释的例子是联邦机构中的例外，而不是规范

与联邦政府采取的“不动手”的做法相反，美国少数几个城市推出了自己的措施，以减轻人工智能的潜在道德危害。最近引人注目的例子包括旧金山2019年暂停政府使用面部识别技术和波特兰私营部门禁止使用相同技术（Simonite，2020）。在缺乏明确的国家法规的情况下，这些都是在这些州内实现道德成果的积极发展，然而，地方监管措施并不禁止联邦使用，并导致各州之间的标准存在重大差距

美国在促进有利于其“良好人工智能社会”愿景的国际环境方面取得了相当大的进展。它通过抵制限制数据流动的数据本地化措施，通过在贸易协议中正式施加压力，也通过公开威胁和增加外交胁迫非正式施加压力，确保了开放市场（Basu，2020；Sherman，2020）。还采取了一些措施来应对战略竞争对手，包括对许多人工智能产品的出口限制，以防止某些技术因所谓的经济和安全原因落入中国手中（“美国政府限制人工智能软件的出口”，2020年）。综合来看，这些措施使美国能够保持本国产品的开放市场，同时阻碍了竞争对手超越的努力

尽管如此，一些学者仍然认为，美国在保护其人工智能能力（包括数据集）和阻止技术非法转让方面做得不够（Rasser等人，2019；Thomas，2020）。批评是，美国没有充分保护其技术和经济领导地位，也没有在道德上阻止其技术在其他地方用于镇压，例如在中国新疆对维吾尔族少数民族的监视迫害（Mozur&；Clark，2020）。事实上，美国是全球最重要的监控技术出口国之一^脚注14

跨大西洋人工智能治理合作

两个“良好人工智能社会”愿景都强调了国际对话的重要性，各国政府都已采取措施改进国际治理工作。美国最初拒绝加入全球人工智能伙伴关系（GPAI），这是一项国际和多方利益相关者倡议，旨在指导人工智能的负责任开发和使用，原因是担心道德重点会阻碍创新，美国于2020年5月加入，与欧盟和其他国家一样。这主要是为了对抗中国的威胁，并确保人工智能的发展符合全球“美国价值观”。不久后，2020年9月，美国通过建立AI防务伙伴关系，积极推动防务合作。该倡议旨在分享经验教训，提高互操作性，并增加盟国之间的数据共享。重要的是，该倡议包括许多欧洲国家，如丹麦和法国，但不包括其他国家，包括德国和荷兰（Trabucco，2020）

欧盟和美国还支持经合组织的人工智能伦理原则，该原则以发展基于五个关键价值观的值得信赖的人工智能为中心：可持续增长和福祉、以人为本和公平、透明和可解释、稳健和安全以及问责（OECD.AI，n.d.）。其他国际组织也在努力促进人工智能的国际化和协议化，例如联合国教科文组织（UNESCO），其关于人工智能伦理的建议草案已被成员国暂时接受（2021）。然而，鉴于2018年美国退出联合国教科文组织，他们似乎不太可能接受这些措施
自乔·拜登于2021就职以来，有迹象表明，随着新总统承诺美国将重返多边主义并进行合作，以捍卫民主价值观，跨大西洋关系有可能进一步加深（Schaake&；Barker，2020）。事实上，技术是拜登承诺召开的“民主峰会”议程的核心，有人呼吁利用这一机会，建立基于人权和民主等共同价值观的善政对话。欧盟也呼吁加强技术合作治理（Hanke Vela&Herszenhorn，2020）。拜登人工智能倡议的网站明确定义了“美国价值观”，表明未来治理工作（如欧盟）有可能建立更为连贯的基础，并强调美国将与盟友合作，以实现其目标（国际合作，2021）

拜登政府有关高风险技术的人物发表更坚定的声明，可能为与欧洲加强合作创造肥沃的土壤。例如，作为总统候选人，副总统卡马拉·哈里斯（Kamala Harris）对在刑事司法系统中使用人工智能的潜在问题表示担忧，并明确承诺“确保联邦执法部门使用的技术[…]不会加剧种族差异或其他偏见”（哈里斯，2019）。随着哈里斯的上任，这似乎是一个有希望的基础，可以在经合组织的高级别原则之外，在定义国际人工智能伦理方面达成更深入的协议

在现实中，对当前或未来跨大西洋深度合作的期望应该有所缓和。评估欧盟和美国面向国际的战略，可以发现紧张局势可能对国际合作不利。可以看出，欧盟和美国都在向其国内管辖范围以外的人工智能输出意识形态方法（尽管在欧盟的情况下是间接的）。事实上，欧盟对数字主权的渴望主要集中在限制美国科技公司上，这与美国的“数字自由贸易”议程及其企业的低进入壁垒直接冲突。考虑到特朗普政府执政前在数字贸易等领域存在的根本差异，这些基本立场似乎不太可能改变（Azmeh&Foster，2016；Jones等人，2021）。即使在拜登担任总统的短短时间内，也有人讨论对寻求向美国科技公司征税的州采取报复性税收措施（Islam，2021）

同样，欧盟和美国对经合组织伦理原则的支持不应被理解为对值得信赖的人工智能的一致性。事实上，西方已经围绕着治理人工智能的五项伦理原则达成了共识（Floridi&；Cowls，2019）。然而，如果一方面没有对基础价值体系的明确定义，另一方面又没有明确的建议，人工智能原则本身就无法说明人工智能将如何发展和使用，以及良好的人工智能社会是什么样子（Roberts等人，2021b）

随着欧盟和美国的道德方法的进一步发展，无论是在如何理解和执行原则方面，潜在价值观的差异都可能变得更加明显。对包括隐私在内的“以人为本的价值观”的解释就是如此。欧盟的数据保护法律比美国严格得多，欧洲法院在2020年7月的数据保护专员诉脸书爱尔兰有限公司案和Maximilian Schrems案中的判决就体现了两者之间的区别，该案裁定，欧盟-美国隐私保护局提供的数据保护，监管欧盟和美国之间数据交换的框架不足（Tracol，2020）

结论

自2018年以来，欧盟和美国在巩固“良好人工智能社会”的愿景并为实现这些愿景制定前进道路方面取得了重大进展。这些将欧盟公民个人与美国国家竞争力放在首位的不同愿景，对国内外人工智能的道德治理产生了重要影响。从国内人工智能治理的角度来看，欧盟的做法在道德上是优越的。它通过概述以人为中心的可信赖人工智能的指导价值来保护公民的权利，该人工智能锚定了额外的伦理原则。拟议的《人工智能法》的颁布将通过为高风险使用人工智能提供强有力的执行机制，巩固这一道德治理的领先地位。很明显，“良好人工智能社会”的核心应该是许多基本价值观，如保护人权和保护隐私，这些基本价值观已经存在，并且可能会通过执行现有措施（如《通用数据保护法》）和引入新措施（如人工智能法草案）得到保护。这一执法无疑是不完美的，但现有的措施将有效地引导良好行为，惩罚最严重的违法者

这并不是说欧盟的愿景无法改善；包括群体隐私保护和更明确的措施来限制人工智能潜在的环境危害将有助于通过改善对基本价值的保护和促进来实现伦理成果。更一般地说，欧盟的监管框架还需要辅之以更强有力的措施，以促进负责任的创新，以确保道德成果。欧盟相对缺乏投资和领先的科技公司，这对其他领域产生了连锁反应，比如吸引人工智能人才<这些缺陷损害了欧盟确保技术开发和部署符合欧洲价值观的能力，欧盟国家在新冠肺炎大流行中开发和使用国内接触追踪应用程序所面临的困难就是明证（Sharon，2020）。因此，需要促进人工智能领域的欧洲竞争对手，包括微电子、云、超级计算和网络安全等基础和互补技术，以确保欧盟“良好人工智能社会”的愿景能够在实践中实现

美国在国内采取的自由放任道路在道德上更值得怀疑。它在很大程度上将人工智能的治理权交给了私营部门，为组织将自身利益置于公民利益之上留出了很大的空间。虽然《国家人工智能倡议法案》中概述的一些措施似乎是朝着正确方向迈出的有希望的一步，但对道德和监管措施的重视在很大程度上是进一步加强研发和创新的次要因素；D提高竞争力。如果没有政府监管监督，道德清洗或购物会有很大的危害风险，私营部门原则的有效性也会受到质疑（Hagendorff，2020）。来自消费者、员工和投资者的压力等市场机制可能会阻止一些不道德行为（Cihon等人，2021）。事实上，一些评论员对美国大型科技公司设立人工智能道德委员会持积极态度（Newman，2020）。然而，谷歌解雇Timnit Gebru和Margaret Mitchell（Vincent，2021）揭示了当公司基本实践的道德允许性受到挑战时，软检查的局限性。因此，一些“美国价值观”可能会受到人工智能的自由放任观点的保护，即自由市场原则得以保留，但这可能会以保护其他基本价值观为代价，如人权（包括美国宪法中所规定的）。鉴于人工智能如果不加控制，将对基本价值构成重大风险，从系统性歧视到助长垄断行为，再到加剧气候变化，这种方法是不够的

如果不出台新措施，欧盟和美国的一个持续风险是内部分裂。由于人工智能提供给公民的监管保护和机会不同，与人工智能和数据驱动技术相关的利益和风险已经在欧盟和美国不均衡地分布。这种不合理的执行是有问题的，因为它将导致执行不平衡和对公民权利的不平等保护。这破坏了从治理角度维护和投射“良好人工智能社会”的一致愿景的能力，并引发了道德问题，即谁不受棘手法规的保护

尽管并非不可调和，尽管美国政府发生了变化，但这两种愿景不太可能围绕着跨大西洋的深度合作而融合。事实上，随着欧盟数字主权议程的不断发展，与美国及其科技公司的摩擦可能会加剧。这并不是说更深入的跨大西洋合作是不可能的。例如，如果中国与美国和欧盟之间的关系继续恶化，那么它们之间就有可能在国防等领域进行更实质性的接触。尽管如此，通过美国将其关于道德人工智能的声明变为现实，更紧密的结盟是可取的。例如，联邦贸易委员会（Federal Trade Commission）表示将考虑对不公平或欺骗性的人工智能实施执法，这可能为其他机构宣布自己的措施提供了一个强有力的起点，但仅凭这一点是不够的。可执行的人工智能法规、有意义的反垄断措施以及与盟友和竞争对手合作的国际环境，都是实现真正的“良好人工智能社会”的必要条件，所有人都是其中的一员。这些发展在未来几年的发展将对人工智能的发展和部署以及为美国、欧洲和美国公民提供的保护产生重大影响其他地方。