简介

人工智能已被确定为全球许多国家的关键技术套件，很大程度上是由于其通用性（Brynjolfsson和McAfee 2014）。人工智能技术，尤其是机器学习技术，正在广泛应用于语言翻译、科学研究、教育、物流、运输等领域。很明显，人工智能将在国家、国际和全球层面深刻影响经济、社会和文化。这导致人们越来越关注人工智能伦理：考虑到人工智能系统对健康和其他根深蒂固的价值观（如自主或尊严）的潜在影响，我们应该如何开发和部署人工智能系统；以及人工智能治理：通过监管、治理框架或诸如标准和道德准则等“更软”的方法来确保社会中人工智能的道德使用是更实际的挑战。^脚注1

跨文化合作对于这些道德和治理举措的成功至关重要。我们所说的“跨文化合作”，是指来自不同文化和国家的团体共同努力，确保以有益于社会的方式开发、部署和管理人工智能。在本文中，我们特别关注跨越国界的合作。例子包括（但不限于）以下：来自不同国家的人工智能研究人员合作项目，以安全和负责任的方式开发系统；建立网络，以确保多样化的全球观点能够平等地纳入关于人工智能提出的伦理问题的国际讨论；并让一系列全球利益攸关方参与制定实用原则、标准和法规。通过鼓励跨文化合作，我们并不一定意味着世界各地都应该遵守与人工智能有关的相同规范、标准和条例，或者总是需要国际协议。确定哪些问题需要全球标准或协议，以及哪些地方需要更多的文化差异，这本身就是一个需要合作解决的关键挑战。

跨文化合作之所以重要，有几个原因。首先，如果人工智能要在全球社会中带来广泛的利益，使世界一个地区的进步能够与其他国家分享，并确保社会的任何一部分都不会被人工智能忽视或过度负面影响，那么合作将是必不可少的。其次，合作使世界各地的研究人员能够分享专业知识、资源和最佳实践。这使得在有益的人工智能应用以及管理可能出现的道德和安全关键问题方面取得更快的进展。第三，在缺乏合作的情况下，存在国家或商业生态系统之间的竞争压力可能导致对安全、道德和社会有益的人工智能开发投资不足的风险（Askell等人，2019；Ying 2019）。最后，出于更实际的原因，国际合作也很重要，确保设置为跨越国家和地区边界的人工智能应用程序（如主要搜索引擎或自动驾驶汽车中使用的应用程序）能够成功地与不同地区的不同监管环境和其他技术进行交互（Cihon 2019）。

借鉴一组东亚和欧洲领先学者的见解，^脚注2我们分析了当前在人工智能伦理和治理方面跨文化合作的障碍，以及如何克服这些障碍。我们专注于欧洲和北美以及东亚之间的合作。这些地区目前在影响全球关于人工智能伦理和治理的对话中发挥着巨大的作用（Jobin等人，2019），最近有很多关于这些地区国家之间在人工智能发展和治理领域的竞争和紧张关系的文章，尤其是在中国和美国。然而，我们的讨论和建议对围绕人工智能开展更广泛的国际合作具有重要意义，我们希望这些讨论和建议将促使人们更多地关注促进更广泛地区的合作。随着时间的推移，建立合作可能会变得更加困难，特别是如果跨文化误解和不信任在知识和公众讨论中根深蒂固的话。如果是这样，那么全球合作文化越早建立越好。培养共同的理解和深度因此，围绕指导人工智能影响的合作关系应被视为全球社会面临的紧迫挑战

北美、欧洲和东亚在塑造全球人工智能对话中的作用

北美、亚洲和东亚尤其在基础和应用人工智能研究与开发方面投入巨资（Benaich和Hogarth 2019；Haynes和Gbedemah 2019年；Perrault等人2019），由企业和政府投资支持。各种分析已经确定了美国和中国之间人工智能开发和部署的进展，尤其是通过竞争的视角（Simonite 2017；Allen and Husain 2017；Stewart 2017），尽管这一框架在规范和描述性方面都受到了批评（Cave andÓhÉigeartaigh 2018）

这些地区的学者和政策界也在采取深思熟虑和积极的步骤，在区域和全球层面制定人工智能的伦理原则和治理建议。这反映在与政府有关的倡议中，如欧盟人工智能高级别专家组的活动，该小组已制定了道德准则、政策和投资建议，作为其前两份出版物《脚注》；英国政府承诺“与国际合作伙伴密切合作，就如何确保人工智能的安全、道德和创新部署达成共识”（2018年5月）；中国政府也承诺“积极参与人工智能全球治理，加强对机器人异化和安全监管等重大国际共同问题的研究，深化人工智能法律法规和国际规则方面的国际合作”（中国国务院2017年）。北美、欧洲和东亚也在为国际人工智能标准化工作做出不成比例的贡献，这些工作正在国际标准化组织（ISO）、电气和电子工程师协会（IEEE）、，脚注5和经济合作与发展组织（OECD）<北美、欧洲和东亚的突出地位进一步体现在多利益攸关方和非政府倡议的领导和组成上，如人工智能伙伴关系、未来社会、国际人工智能治理大会、，^脚注9和全球人工智能伙伴关系（Hudson 2019）^脚注10大多数关于人工智能伦理和治理的最重要会议都在这些地区举行，包括美国的有益人工智能会议系列、北京人工智能学院会议系列、，^Footnote13美国人工智能、伦理和社会会议，Footnote>/span>14governance和伦理研讨会，附于领先的机器学习会议，等等

以下组合：

a
b
这些地区在塑造全球道德和治理对话中的巨大作用；和
c
通过竞争的视角来构建进步所带来的潜在紧张，以及对基本道德和治理问题的分歧的看法，导致我们关注这些地区和文化之间存在的知识交流与合作障碍。鉴于人工智能技术的影响领域真正是全球性的，因此，对人工智能伦理和治理的跨文化合作的全面分析（本文范围之外）必须考虑所有国家和文化的作用。进一步努力解决技术领先国家与这些技术出口国之间正在出现的权力和影响力不平等（Lee 2017），以及技术领先国家将这些国家纳入全球治理和道德对话并赋予其权力的责任，将尤为重要

人工智能跨文化合作的障碍，指导人工智能开发和使用的原则和治理框架

不同地区和文化之间的不信任是人工智能伦理和治理国际合作的最大障碍之一。目前，美国和中国的学者、技术专家和决策者之间存在着特殊的不信任环境<这种不信任文化的基础是：
a
这两个强大地区之间的政治紧张关系的历史，近年来显著加剧，目前正在促成人工智能发展的竞争框架，将其定义为“东方”和“西方”国家之间的“竞赛”^脚注16
和
b
这些地区所基于的不同哲学传统，导致人们对“西方”和“东方”文化在数据隐私等关键问题上存在重大且无法解决的价值差异的看法（Larson 2018；Horowitz等人2018；Houser 2018）

最近的一系列技术和政治发展也可能助长了这种不信任，包括对美国科技巨头的公众和政治影响力的担忧（Ochigame 2019）；对中国社会信用评分系统的认知和反应（Chorzempa等人，2018；宋2019）；以及对人工智能技术有争议使用的担忧，尤其是有争议的例子，包括人工智能在移民控制中的使用（Whittaker等人，2018）、美国的犯罪风险评估（Campolo等人，2017），以及在追踪中国维吾尔族穆斯林少数民族等社区中的应用（Mozur 2019）。美国政治和国防领导人的敌对言论也助长了这种紧张局势。最近媒体报道的例子包括：声明意图“成为AI的威胁”；评论集中在中国作为对手的“另类”上，脚注18更广泛地关注中国的技术进步对美国全球领导地位的威胁（2018年6月）。这种不信任文化的持续恶化可能会严重破坏在人工智能开发和治理方面进行全球合作的可能性

此外，目前尚不清楚现有的跨文化合作和联盟能在多大程度上塑造像美国、中国和总部设在这些国家的大型跨国公司一样在全球占据主导地位的行为体。例如，即使人工智能伦理框架可以由多利益相关者团体原则上达成一致，但要在实践中实施这些框架，以约束那些拥有不成比例的权力来塑造人工智能发展和治理的人的行为，也远不是一件容易的事

有效合作的另一个挑战是平衡全球合作的需要与对文化和地理敏感的差异化方法的需要（Hagerty和Rubinov 2019）。我们必须避免一两个国家试图将其价值观强加给世界其他地区的情况（Acharya 2019）。在某些特定领域，例如人工智能被用于支持医疗保健的提供，不同的文化可能对权衡的看法非常不同（Feldman等人，1999年），实施特定地区的标准和治理可能不仅是可能的，而且是必要的。人工智能系统在不同文化区域部署时也会产生不同的影响，这也可能需要不同的治理方法（Hagerty和Rubinov 2019）

然而，对于人工智能开发和治理的某些方面，合作将更加重要。例如，人工智能技术在军事环境中的一些潜在用途，例如在自动瞄准和攻击中，可能会侵犯人权和国际人道主义法（Asaro 2012）。另一个担忧是，通过在军事领域自动化信息收集、决策和响应的各个方面，冲突局势不必要升级的可能性可能会因事件的发生而增加，需要比有效的人类判断和监督更快的反应（Altmann 2019）。在这两种情况下，追求这项技术的国家可能有各自的军事优势；但在缺乏国际协议和标准的情况下，总体影响可能会破坏稳定<国际协议对于在一个地区开发人工智能技术，但在另一个地区使用或部署人工智能技术的所有情况也具有特别重要的意义。因此，跨文化合作的一个关键挑战将是确定国际协议最重要的领域，并将这些领域与更适合尊重多元化的领域区分开来
国家之间的合作还有更实际的障碍：语言障碍、缺乏物理距离以及移民限制限制了不同文化和研究社区的沟通和合作能力。此外，尽管科学是一个全球性的企业，但科学出版物的语言仍以英语为主。

克服这些合作障碍

尽管人工智能伦理和治理中的跨文化合作将真正具有挑战性，我们建议，今天可以采取一些步骤来取得进展，而不需要首先解决更大的问题，即在所有基本的伦理和哲学问题上寻求文化之间的共识，或者解决几十年来国家之间的政治紧张关系，包括围绕分歧

国家之间的不信任是对人工智能伦理和治理未来的严重关切。然而，我们认为，这种不信任至少部分是由误解和误解造成的，因此，建立更大的跨文化信任的第一步必须是识别和纠正重要的误解，

我们很容易假设，围绕人工智能在东西方之间建立信任的主要障碍是，世界上的这些地区有着截然不同的基本价值观，导致他们对人工智能应该如何发展、使用和治理从伦理的角度看，持不同的观点，或许是相互矛盾的。虽然文化之间的价值差异确实存在，但关于这些差异如何表现的说法往往取决于未经审查的概念和根深蒂固的假设，并且缺乏实证证据（Whittlestone等人，2019）。“东方”和“西方”伦理传统从根本上冲突的观点也过分简化了两者之间的关系。有许多不同的哲学传统可以在任一标题下提及：例如，中国、日本和韩国的相关哲学观点之间存在许多重要差异（Gal 2019），随着时间的推移，“西方”哲学的价值观和观点发生了很大变化（Russell 1945）。更广泛地说，两个地区的伦理和文化价值观都在不断演变，正如世界价值观调查和亚洲晴雨表等项目所反映的那样。例如，隐私常常被视为东西方之间存在重大价值差异的问题，导致人们认为，与美国和欧洲相比，中国对数据隐私的监管和控制更为宽松。然而，这种说法往往是非常笼统的，没有实质性的证据或分析这些差异有多大，或者它们在实践中如何表现（Ess 2005；LüYao Huai 2005）。这会导致两方面的误解。首先，美国和欧洲在隐私概念（Szeghalmi 2015）和与隐私相关的法规（McCallister等人，2018）方面存在显著差异。中国人对西方社会的看法往往忽略了这些，西方社会往往只关注美国，但它的发展速度很快，并且以西方学术界所熟知的方式发展。来自中国学者和决策者的一系列论文和报告强调了数据隐私在人工智能伦理和治理中的重要性（北京人工智能研究院2019；应2019；曾等人2018；丁2018b）。保护个人数据隐私的原则也开始在中国的监管行动中得到体现；超过100个应用程序因侵犯用户数据隐私而被政府禁止，另有数十个应用程序被要求对数据收集和存储进行更改，但这种差异往往被过分简化，而且没有得到很好的理解。

另一个不同看法的例子是围绕中国社会信用评分（SCS）系统的看法。西方媒体、政策界对SCS进行了非常关注的讨论作为中国政府奥威尔式社会控制的一个例子（Botsman 2017；Pence 2018），代表了一种与西方价值观截然不同的文化和政府（Clover 2016）。然而，中国和西方消息人士都认为，围绕SCS存在重大误解。多位学者指出，SCS并不是设计成一个统一的平台，对所有14亿中国公民进行评分（正如人们通常认为的那样），而是一个由各个平台组成的网络，这些平台具有不同解释的自由度，社会信用评分主要由金融机构给出（与大数据驱动的综合评级相反）（Mistraanu 2019；Sithigh和Siems 2019）。Song（2019）指出，SCS中的许多措施旨在解决地方政府中的欺诈和腐败等问题。Chorzempa等人（2018）还强调，“社会信用的许多关键组成部分，从黑名单到广泛的监督……已经存在于美国等民主国家。”随着时间的推移，中国的SCS可能会发生重大变化，无论是在当前还是未来的实施方面，都可能存在真正令人担忧的原因。然而，对《能力标准体系》如何运作、如何使用以及如何影响中国公民的跨文化理解更加清晰，将使有关道德和治理问题的对话取得更具建设性的进展

鉴于美国、欧洲和中国等地区之间缺乏历史上存在的共享知识和话语，因此它们之间存在许多误解也就不足为奇了。因此，我们应该提防跳得太快，以致于无法解决根本性的分歧。误解显然存在于两个方向：例如，对民意调查数据的分析表明，美国和中国民众对另一个国家的特征和特点都持有各种误解（Johnston和Shen 2015）。如上所述，在中国，西方社会的多样性也常常被过分简化为美国生活的单一模式。与此同时，美国和欧洲在历史上一直难以理解中国（陈和胡2019），例如，多次未能预测中国的自由化（或缺乏自由化）或经济增长时期（《经济学人》2018；考恩2019；刘2019）。语言障碍给西方国家在收集中国在人工智能发展、伦理和治理方面正在发生的事情带来了特别困难（Zhang 2017；Ding 2019）。正如吴恩达（Andrew Ng）在2017年《大西洋月刊》（Atlantic）的一次采访中指出的那样：“语言问题造成了一种不对称：中国研究人员通常说英语，因此他们可以获得所有以英语传播的作品。另一方面，讲英语的社区不太可能在中国人工智能社区内工作（Zhang 2017）。例如，腾讯发布了一本关于人工智能战略的书（腾讯研究院等，2017年），其中包括对道德、治理和社会影响的深入分析，但英语报道相对较少（丁2018a）。即使在实证问题上，如中国在人工智能研发方面的公共投资水平，美国广泛报道的数字也可能不准确一个数量级（Acharya和Arnold 2019）

最近发布的北京人工智能原理（北京人工智能研究院2019）和世界各地开发的类似原理（Cowls和Floridi 2018）事实上在关键挑战上显示了实质性的重叠（Zeng等人2018；Jobin等人2019）。《北京原则》明确提到了其他文件中突出的关键概念和价值观，包括人工智能应“造福全人类”；尊重“人的隐私、尊严、自由、自主和权利”；“尽可能公平，减少可能的歧视和偏见，提高其透明度、可解释性和可预测性”此外，《北京人工智能原则》和《中国新人工智能国家治理原则》都呼吁开放与合作，后者鼓励“跨学科、跨领域、跨地区和跨国界的合作”（拉斯凯和韦伯斯特2019）。然而，具有不同文化的国家可能在实践中对相同原则的解释和优先顺序有所不同（Whittlestone等人2019），这可能是误解的进一步来源。例如，我们不能简单地假设“西方”文化比“东方”文化更重视隐私；相反，当隐私与其他重要价值观（如安全）发生冲突时，我们需要对隐私的优先顺序进行更细致的理解（Capurro 2005）。同样，尽管它是重要的是要认识到许多文化都重视自主，同样重要的是理解在不同背景下支撑这种价值的不同内涵和哲学假设（Yunping 2002）

鉴于各国之间存在着丰富的误解历史，为了建立更大的跨文化合作，我们应该首先关注那些与人工智能伦理最相关的误解，并就存在更多实质性分歧以及可能影响治理方法的地方建立更大程度的相互理解。在这样做的过程中，有必要明确区分与道德有关的分歧与治理问题，因为尽管我们将在后面讨论，不同的道德假设证明了相同的治理原则是合理的，但有时团体可能会就相同的治理原则达成一致。区分与人工智能直接相关的误解（如对其他国家技术投资的误解，或对数据保护法的误解）和与人工智能更间接相关的更广泛的社会、政治或哲学问题相关的误解也可能有帮助，因为它们可能需要不同的方法来解决

当然，承认误解的作用并不意味着人工智能伦理和治理中的所有跨文化紧张问题都是基于误解。各地区在一系列问题上仍存在深刻而根本的分歧，包括与个人、社会和国家之间的关系有关的问题；民事、私营和军事部门之间的整合程度和性质；以及社会政策的各种具体事项。然而，最初将重点放在减少误解上，将有助于更清楚地确定存在这些根本差异的地方，同时确定存在充分协议以开展富有成效的合作的背景。这样做是应对跨文化合作在人工智能伦理和治理方面的更广泛挑战的关键第一步

尽管存在分歧，但找到合作的方法

即使在人工智能伦理、治理和更广泛的社会问题上存在重大分歧，协议和合作的形式仍然是可能的

如前所述，人工智能伦理和治理面临的一个关键的突出挑战是，确定哪些领域的跨文化规范、标准或监管协议至关重要，哪些领域的不同解释和方法是可以接受的，甚至是可取的。这恰恰是一种挑战，它本身就需要跨文化合作：必须以不同的文化视角来描述人工智能在不同背景下的影响，以及不同人群的需求和愿望。事实上，这一方法反映在《中国新人工智能国家治理原则》中，其中包括“启动国际对话与合作；充分尊重每个国家的人工智能治理原则和实践，促进就国际人工智能治理框架、标准和规范形成广泛共识（拉斯凯和韦伯斯特2019）

在抽象层面的伦理假设和高级原则上的区域和文化差异也不一定是就更具体的规范和治理达成一致的障碍。如果不就基本道德问题达成共识就不可能达成任何实际协议，那么《禁止核武器条约》等许多重要国际协议就不可能实现。法律学者中“不完全理论化的协议”的概念（Sunstein 1995）描述了在基本或抽象问题上意见分歧的人如何能够在具体案件上达成一致，这对法律的运作以及更广泛的多元化社会的运作至关重要。跨文化信息伦理文献中的几位作者提倡旨在达成“重叠共识”的相关理念（罗尔斯1993），不同的群体和文化可能有不同的理由支持相同的规范和实践指南（Taylor 1996；Søraker 2006；Hongladarom 2016）。例如，Taylor（1996）讨论了我们如何在不同的文化传统中建立国际共同的人权准则。虽然西方哲学与其他哲学（如佛教）在重视人的主体及其在宇宙中的独特地位方面有很大不同，但两者似乎最终都以相同的人权准则为基础

Wong（2009）批评了跨文化信息伦理可以以不同的理由达成共同规范的观点，并指出这也有制定规范的风险“薄”，缺乏所有规范性内容。Søraker（2006）承认，对这种信息伦理的“务实”做法也有类似的反对意见：它可能会导致协议因缺乏实质性规范内容而变得脆弱。然而，根据瑟拉克本人对这些反对意见的回应，我们认为，“重叠共识”的目的应该是达成共同的规范和实用准则，因为这些准则和实用准则从一系列不同的哲学或规范角度得到认可和论证，因此实际上更加有力。这应该与一种文化使用务实的论据试图将自己的价值观强加给其他文化的情况相区别，或者几种文化达成一致，但因为没有什么规范性内容的原因，我们同意黄的观点，这是值得关注的。泰勒关于人权得到多种哲学观点支持的例子似乎证明了这种充分证实的重叠共识的合理性，我们认为，在规范和实践指南上找到重叠共识的领域，对于确保人工智能的益处可能比在一套共同的基本价值观上达成全球共识更重要，而这一目标是最近许多提案的基础（Benjamin 1995），而为人工智能制定更有力的规范、标准和监管的最佳方法将是找到那些可以由多个不同价值体系支持的标准，一些人可能会反对，在实践中影响人工智能的开发和使用仍然很困难，尤其是因为这样做需要影响强大的国家和没有合作动机的公司的行为，与人工智能伦理和治理相关的问题上的其他参与者超出了本文的范围（值得进一步研究），我们简要解释了为什么我们不认为这一障碍会破坏我们的建议。尽管具有挑战性，但历史先例表明，公共和学术联盟有可能在具有全球重要性的问题上影响强大行动者的行为。有证据表明，广泛的跨文化“知识共同体”，即特定领域的专家网络，在支持国际政策协调方面尤其有效（Haas 1992）。例如，一个军备控制专家社区帮助塑造了冷战期间美国和俄罗斯之间的合作，通过建立对核军备控制问题的国际共识（Adler 1992），生态认知社区成功协调了保护平流层臭氧层的国家政策（Haas 1992）。一个值得注意的例子是人工智能在军事环境中的应用。对人工智能在战争中的使用的担忧一直是国际学术界和民间社会专家高调运动的主题，例如参与国际机器人武器控制委员会（ICRAC）和制止杀手机器人运动的专家。这些运动在《联合国某些常规武器公约》（CCW；主持关于禁止集束弹药、致盲激光武器和地雷的谈判的机构）（贝尔菲尔德2020）上建立关于致命自主武器的讨论方面发挥了主导作用。90个国家就法律问题发表了声明，其中大多数是在《特定常规武器公约》上发表的；28个国家支持一项禁令（2018年制止杀手机器人运动）。2018年，超过4000名谷歌员工签署了一封信，抗议谷歌参与五角大楼的Maven项目，这是一个探索在视频分析中使用人工智能的军事项目（Shane和Wakabayashi 2018），一些人辞职（Conger 2018）。由来自美国、欧洲、日本、中国、韩国和其他地方的学者和研究人员组成的其他几个竞选团体发布了公开文章和信件，支持谷歌从业者的担忧（ICRAC 2018），并且不会竞标国防部100亿美元的云计算合同（Belfield 2020）投入在制定原则方面发挥了重要作用，这些原则很可能成为未来几年约束性监管的基础。例如，欧盟委员会的《关于人工智能的白皮书-欧洲卓越与信任的方法》（欧盟委员会2020）列出了“未来欧盟监管框架的政策选项，该框架将确定适用于相关行为体的法律要求类型，特别关注高风险应用”（欧盟委员会2020b）。本文件受到了欧盟人工智能高级专家组的工作的强烈影响，该专家组由来自学术界、工业界和民间社会的52名欧洲专家组成<同样，美国国防部在与美国学术界、工业界和政府利益相关者进行了15个月的磋商后，正式采纳了人工智能伦理原则（美国国防部2020），并聘请了员工来实施这些原则（巴尼特2020）。虽然在这两种情况下，咨询的小组都是针对特定地区的，但不同地区制定的原则之间的一致性和重叠程度表明，与其他地区更广泛的知识社区的互动，基本上为见解和建议提供了信息。这表明，从跨文化合作和共识中获得的见解可以有意义地纳入区域和国家层面的监管框架

建议

学术界在支持人工智能伦理和治理方面的跨文化合作方面可以发挥重要作用：通过研究最需要什么样的合作，并通过制定倡议来克服更多实际的合作障碍。我们在本文中的讨论提出了许多问题，这些问题需要不同的学术专业知识来回答，包括以下问题：哪些重要的误解最阻碍跨区域合作；需要就人工智能道德和治理达成国际协议；以及尽管在道德问题上存在分歧，但如何就具体治理标准达成一致。学术界也特别适合在实践中增进地区和文化之间的相互理解，因为他们有自由流动、国际和跨文化思想交流的传统。学术界人士可以与国际同事进行公开对话，这种方式对在行业或政府工作的人来说通常是具有挑战性的，来自世界不同地区的两位学者可以进行富有成效的合作，即使他们都对另一个国家的政府和/或公司提出强烈批评

以下建议指出了学术中心、研究机构和个人研究人员可以采取的一些具体步骤，以促进对人工智能伦理和治理的跨文化理解与合作。这些领域中的每一个都已经在进行一些出色的工作。然而，我们认为，人工智能在新领域和地区的部署速度要求学术界更加重视跨文化桥梁的建设，并将跨文化专业知识纳入更广泛的伦理和治理研究项目

制定需要跨文化合作的人工智能伦理和治理研究议程

加强研究项目的跨文化合作将在建立一个能够支持国际政策合作的国际研究社区方面发挥关键作用（Haas 1992）

一个很适合这种合作的研究项目的例子是，进行比较前瞻性练习，探索不同文化对人工智能对社会影响的积极愿景和突出关注的差异。这可能有助于为我们希望在人工智能开发中实现和避免的目标制定一个更为全球的愿景，这可以指导围绕道德和治理框架的更为实际的讨论。围绕避免特定负面结果达成共识可能有特别宝贵的机会；安全和保障是全世界人类文化的基础，因此制定协议以避免对这些文化的威胁可能是一个更容易的起点。然而，作者认为，重要的是不要忽视积极的愿景，因为跨文化的学者有机会共同创造共同的积极未来，这可能是深入研究共同价值观中细微差别的绝佳方式

与这些国家的专家合作，探讨人工智能对发展中国家的持续和预期影响也将特别有价值。此类研究应旨在确保在发展中国家部署技术是在当地专业知识的指导下进行的，以增强当地社区的能力（Hagerty和Rubinov 2019）。在更实际的层面上，国际研究小组可以富有成效地共同努力，制定关于人工智能安全、安保、信息和通信的研究、专业知识和数据集的国际共享框架，

来自多个地区和文化的研究人员之间的合作对于进一步研究跨文化合作本身的主题也至关重要。我们在本文中的讨论，特别是在第4节中的讨论指出了许多需要进一步探索的研究领域，包括：

在多个不同层面上探索、识别和挑战感知到的与人工智能伦理和治理相关的价值观、假设和优先事项方面的跨文化差异，包括脚注28以下内容：
- 分析不同哲学传统中技术伦理的相似性和差异，并探讨这些可能如何影响人工智能的开发、部署、影响和实践中的治理
- 探索文化间关键价值差异主张背后的经验证据。例如，一个项目可能会识别和探索与人工智能治理相关的东西方文化之间的感知价值差异，例如与数据隐私、国家与个人的角色以及对技术进步的态度有关的文化
- 了解与社会中使用人工智能相关的实际优先事项和限制因素的区域差异，以及这些差异对人工智能研发的影响，并将其与跨文化差异可接受或可取的领域区分开来
- 跨文化贡献，在需要这些标准的关键领域制定国际和全球人工智能标准；探索灵活的治理模式，酌情将全球标准和区域适应性结合起来
- 探索模型和方法，尽管在更基本或抽象的伦理问题上存在分歧，但仍能就具体案例、决策或治理标准达成一致，并确定在其他领域成功实现这一点的案例，这些案例可以转化为人工智能伦理和治理。然而，我们认为，人工智能在新领域和地区的部署速度要求学术界更加重视跨文化桥梁的建设，并融入跨文化专业知识，在更广泛的伦理和治理研究项目中。脚注29
  翻译关键论文和报告
  语言是促进围绕人工智能发展、治理和伦理的跨文化理解的一大实际障碍，正如在许多其他科学领域一样（Amano等人，2016）。因此，新兴的人工智能伦理和治理文献以及人工智能研究文献以多种语言提供将非常有价值。虽然许多亚洲人工智能领域的顶尖学者都能流利地使用英语，但许多人却不太流利；此外，我们所讨论的误解的一些来源可能与一个地区的关键文件在其他地区被理解和呈现的方式有关。在西方媒体上，中国2017年新一代人工智能发展计划被视为在经济和战略上促进人工智能全球主导地位的目标（Knight 2017；Demchak 2019）。然而，从中国的角度来看，国家人工智能发展目标似乎主要是出于中国经济和社会的需要（2017年中国国务院），而非必然的国际竞争优势（2019年应）。看来，一些翻译可能导致对关键术语和要点的误解。例如，中文原文提到中国将在2030年成为“世界主要人工智能创新中心”（应2019年）。^脚注30然而，报告的一些英文翻译将这一短语翻译为中国将成为“世界首要人工智能创新中心”（例如，Webster等人2017）。谷歌母公司Alphabet的前执行主席埃里克·施密特（Eric Schmidt）将其解释为“到2030年，他们将主导人工智能行业。稍等片刻。（中国）政府就是这么说的。”（Shead 2017）。虽然这种措辞的演变在某种意义上不是实质性的，它具有重要的内涵；与全球主导地位相比，原始语境中的语言带有更柔和的领导力和进步内涵。对最重要的文件进行多个高质量的翻译将使学者能够探索在报告这些文件时可能丢失的语言和上下文的细微差别
  
  用多种语言制作高质量的论文和报告版本也传达了尊重和跨文化参与的意愿，这可能会鼓励合作。高质量的学术和政策材料翻译是一项具有挑战性和耗时的任务，我们将鼓励得到更多的支持和庆祝。在这方面有越来越多的工作要庆祝；例如，Jeff Ding翻译了一系列关键的中国人工智能文档（Ding 2019），Intellisia在中国关于国际关系、技术和其他主题的工作，以5种语言出版(http://www.intellisia.org/); Brian Tse将OpenAI的《宪章》等文件翻译成中文，脚注31；以及新美国对中国工业和信息化部《三年行动计划》的翻译（Triolo等人，2018）
  
  大型人工智能研究会议和伦理与治理会议的备用大陆
  为了鼓励更多的全球参与人工智能发展、伦理和治理，我们建议这些主题的许多主要会议和论坛在多个大陆之间交替举行。这有几个优点。它减少了来自世界上这些会议不经常举行的地区的学者的成本和时间投入。它避免了对全球研究界某些部分产生不同影响的限制性签证限制。它鼓励当地组织者的参与，他们可以在吸引可能不考虑远赴海外参加活动的当地研究社区方面发挥有效作用。它还鼓励组织者用多种语言而不是单语举办活动
  
  同样，还有令人鼓舞的步骤。在人工智能研究会议中，IJCAI于2019年在澳门举行，2013年在北京举行，前两次会议在中国举行（尽管已经在日本举行了两次）。ICML于2014年在北京举行，并将于2021在首尔举行，2020年ICLR将在埃塞俄比亚举行，这是第一次在非洲举行的顶级大型机器学习会议。明确关注人工智能伦理和治理的既定会议较少，因为该领域的发展相对较晚，但如果可能的话，通过交替举办会议的大陆来确保全球存在对这些会议来说可能尤为重要。例如，《人工智能伦理与社会》目前在美国举行，因为它与美国人工智能协会有联系；围绕这些问题建立一个国际学术共同体的重要性可能证明找到某种方法来改变这一点是合理的。中国有一系列新兴的人工智能伦理和治理会议，包括北京人工智能学院系列会议。还有一些现有的会议涉及与人工智能伦理和治理相关的主题（即使没有明确围绕这些主题），确实有助于更多的国际参与，例如信息社会世界首脑会议论坛（大多数年在日内瓦举行）、互联网治理论坛、，和RightsCon（历史上都曾在一系列地点举行，包括南美、印度和非洲，但都不在东亚）^脚注32
  为博士生和博士后建立联合和/或交流计划
  鼓励不同文化的研究人员在职业生涯早期进行跨文化合作，将有助于随着研究的进展，加强合作和相互理解。有许多国际奖学金和交流项目，特别是在美国和中国之间（如智行中国奖学金和施瓦茨曼学者项目）以及英国和新加坡之间（伦敦国王学院与新加坡国立大学提供哲学或英语联合博士课程）。据我们所知，没有明确关注人工智能的此类倡议；我们目前意识到的唯一一项专注于人工智能伦理和治理的倡议是伯格伦中国研究所（Bauch 2019）最近设立的国际研究金计划^脚注33建立更多这样的计划对于未来围绕人工智能的国际合作可能是有价值的，并且有许多现有的模型和倡议可供构建和学习。
  更多大体上，作者赞同人工智能伙伴关系向各国政府提出的关于建立签证途径、简化和加快签证流程、确保公正标准以支持人工智能/人工智能多学科专家的国际交流与合作的建议。我们强调，这些建议包括致力于或寻求从事人工智能伦理和治理工作的专家（有时不属于“熟练技术工作”范畴）（PAI Staff 2019）

限制和未来方向

我们认为学术界在支持人工智能伦理和治理中的跨文化合作方面可以发挥重要作用：有可能在不需要解决所有基本价值的情况下建立有效的相互理解和合作社区减少文化之间的误解和误解可能特别重要

然而，我们认识到，本文中的建议无法完全克服跨文化合作的诸多障碍，需要做更多的工作来确保人工智能在全球范围内受益。我们简要强调了支持这一目标的两个广泛的进一步研究途径：

跨文化合作障碍的更详细分析，特别是那些与权力动态和政治紧张有关的问题

虽然对历史成功的分析表明，围绕人工智能伦理和治理的跨文化倡议有可能在实践中极大地影响规范、标准和监管的演变，但在实施和执行方面仍有许多障碍，我们无法在本次分析中加以考虑。进一步研究过去影响全球相关规范和监管的尝试何时以及如何取得成功，将具有重要价值

我们在本文早些时候承认，与权力关系和政治紧张有关的各种问题可能会对跨文化合作构成重大障碍，而不仅仅是文化之间的价值差异和误解问题。因此，对这些问题如何构成人工智能伦理和治理中跨文化合作的障碍进行更多研究将特别有价值，有助于我们理解学术倡议在促进合作方面的局限性，以及需要以何种方式将这些方法嵌入更广泛的权力和政治动态分析中

考虑到围绕更强大的未来人工智能系统的跨文化合作所面临的独特挑战

人工智能的未来发展，一些学者认为其影响可能与工业或农业革命一样具有变革性（Karnofsky 2016；Zhang和Dafoe 2019），可能会为全球合作带来比我们已经面临的更大规模的新挑战。如果没有谨慎的全球管理，这种进步可能导致技术领先国家和落后国家之间前所未有的财富和权力不平等。其他人则走得更远，对开发表现出超智能的系统的可能性进行了理论化（即，比人类的一般智能更大；Bostrom 2014）。这些系统由于其巨大的能力，如果在没有仔细考虑和注意安全的情况下开发，可能会给人类文明带来灾难性的风险。有人提出，避免灾难性后果的一个关键挑战将是设计符合人类价值观的价值取向系统（Russell 2019）。这将大大增加就共同价值观和原则达成全球共识的重要性和紧迫性，并找到方法设计尊重不共享价值观的制度

专家们对这种进步在未来会有多远的看法大相径庭，大多数人预测会有几十年。然而，制定有效和协调的应对措施所需的合作和协议也可能需要几十年的工作。这表明，今天的合作倡议不仅必须解决当前人工智能系统的伦理和治理挑战，而且还应为预测和应对未来挑战奠定基础

结论

如果没有跨领域、跨学科、跨国家和跨文化的深度合作，就无法在全球社会中实现人工智能的全部好处。当前美国和欧洲以及中国之间的不安和不信任给这方面带来了特别的压力。误解可能在助长这种不信任中发挥重要作用，更广泛的社会和政治优先事项的差异往往被过分强调或同时，假设与人工智能有关的所有主要伦理原则都可以在这些地区之间完全共享，并且可以载入规则和标准，这是天真的。即使是这样，这些地区在塑造全球人工智能的道德和治理方面也不太理想；所有受人工智能影响的全球社区都必须被包括在内并获得授权。然而，在这些“人工智能超级大国”之间实现更大理解的努力可能有两方面的帮助：第一，通过减少全球人工智能治理领域内的关键紧张局势。其次，通过提供有助于道德和治理框架的经验教训，能够支持更大的价值观多样性，同时在需要时达成共识。对于一个运作良好的人工智能全球合作系统，挑战将是开发一个模型，将由全球共识形成和支持的原则和标准，以及允许研究和政策社区最好地满足其社会需求的变化结合起来，以及人工智能伦理和治理社区，必须仔细思考自己的活动如何支持全球合作，并更好地理解不同地区的不同社会观点和需求。加强跨文化研究合作与交流，在不同地区举行会议，以及更多跨语言出版，可以降低合作障碍，理解不同观点和共同目标。随着政治风向越来越倾向于孤立主义，研究界跨越国家和文化鸿沟，致力于全球有益的人工智能，这一点前所未有的重要