1.简介

人工智能（AI）正在迅速改变当今社会中交易和社会互动的组织方式。人工智能系统和支持其操作的算法在为社会做出有价值的决策方面发挥着越来越重要的作用，预测犯罪活动可能性的警务系统以及为用户分类和提供个性化内容的过滤算法（Helbing，2019，D.（2018）数字革命的社会、经济、道德和法律挑战：从大数据到深度学习、人工智能和操纵技术。在Helbing D.（ed）《走向数字启蒙》（第47–72页）Cham：Springer。https://doi.org/10.1007/978-3-319-90869-4_6[Crosref]，[谷歌学者]；Mittelstadt、Allo、Taddeo、Wachter和；Floridi，2016年米塔尔施塔特，B。D、，Allo，P.//span>，Taddeo，M.，Wachter，S.Floridi，L.（2016）算法的伦理：映射辩论 大数据&；社会，3（2），2053951716679679.[Crossref]，[Web of Science®]，[Google Scholar]）。在复杂的问题解决中模仿或竞争人类智能的能力将人工智能与其他技术区分开来，因为许多传统上由人类执行的认知任务可以被机器取代并超越（Bathaee，2018Bathaie，Y.）人工智能黑匣子以及意图和因果关系的失败 哈佛法律杂志；技术，31（2），889.[谷歌学者]；Osoba&；Welser，2017Osoba，O。A、，&Welser，W.（2017） 我们心目中的智能：人工智能中的偏见和错误风险Rand Corporation。加利福尼亚州圣莫尼卡。[谷歌学者]；Sætra，2020年Særa，H。S、（2020）对人工智能技术统治的肤浅辩护：检查算法治理在政府领域的政治危害 社会中的技术，62101283.[Crossref]，[Google Scholar]）。

虽然该技术可以对人类产生积极影响，但人工智能应用也会产生意想不到的后果，并带来新形式的风险，需要政府有效管理。当AI系统除了编程规则之外还从数据中学习时，系统未经培训处理的意外情况和人机交互中的不确定性可能导致人工智能系统显示出对其用户构成安全隐患的意外行为（He等人，2019He，J.，Baxter，S.L.、Xu、J.、Xu、J.周、X.和Zhang，K.）>2019年）人工智能技术在医学中的实际应用 《自然医学》，25（1），30–36。[Crossref]，[Web of Science®]，[Google Scholar]；Helbing，2019Helbing（2019）数字革命的社会、经济、道德和法律挑战：从大数据到深度学习、人工智能和操纵技术。在Helbing D.（ed）《走向数字启蒙》（第47–72页）Cham：Springer。https://doi.org/10.1007/978-3-319-90869-4_6[Crosref]，[谷歌学者]；Knudson&；Tumer，2011年Knudson，M.，An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request

HTTP Status 400 – Bad Request

: 0通过机器学习算法实现的诸如数据分析、服务、制造和驾驶等领域的常规和手动任务的自动化，聊天机器人和无人驾驶汽车预计将取代数百万个在国内和各国之间分布不均的工作岗位（Linkov，Trump，Poinsulate Jones，&；Florin，2018Linkov，I.，Trump，B.、Poinsulate-Jones，K.，&；Florin，M.V.//span>（2018）可持续数字世界的治理战略 可持续性，10（2），440.[Crossref]，[Web of Science®]，[Google Scholar]；Taihah&；Lim，2019塔伊哈，A.，Lim，H。S、 M.（2019）管理自动驾驶车辆：针对安全、责任、隐私、网络安全和行业风险的新兴对策 交通评论，39（1），103–128。[Taylor&；Francis Online]，[Web of Science®]，[Google Scholar]）。管理人工智能采用的规模和速度及其伴随的风险正成为各国政府日益重要的任务。然而，在许多情况下，这些技术的受益者并不承担其风险的成本，并且这些风险被转移到社会或政府（Leenes等人，2017Leenes，R.，Palmerini，E.、Koops，B.J.//span>、Bertolini，A.、Salvini，>P.>卢西维罗，F.（2017）robotics的监管挑战：解决法律和道德问题的一些指南 《法律、创新与技术》，9（1），1–44。[Taylor&；Francis Online]，[谷歌学者]；Soteropoulos，Berger，&；Ciari，2018Soteropoulos，A.，Berger，M.//span>Ciari，F.（2018）自动车辆对出行行为和土地利用的影响：建模研究的国际综述 交通评论，39（1），29–49。[谷歌学者]）。

虽然有大量关于人工智能各个方面的文献涌现，但人工智能治理是一个新兴但严重不发达的领域。为了提高人工智能的效益，同时将其带来的不利风险降至最低，世界各国政府需要更好地了解所带来的风险的范围和深度。需要重新评估传统治理方法的有效性，如使用法规、税收和补贴，由于缺乏信息和不断变化，这可能是不够的（Guihot，Matthew，&；Suzor，2017，M.，Matthew，A.F.，&；Suzor、N.P.//span>（2017）Nudging robots:监管人工智能的创新解决方案 Vand公司。J、 Ent.公司&；技术人员L，20，385.[谷歌学者]），人工智能的采用速度和规模可能会超过监管部门对解决所提出问题的回应（Taeihagh、Ramesh和Howlett，2021，Taeihagh，A.，Ramesh，M. ；，HowlettM.（2021）评估新兴颠覆性技术的监管挑战。在法规中；治理。https://doi.org/10.1111/rego.12392[Crosref]，[谷歌学者]>）。因此，政府面临着越来越大的压力，需要设计和建立新的监管和治理结构，以有效应对这些挑战。政府和公众对人工智能治理的认可度越来越高（Chen，Kuo，&；Lee，2020年）为自动化车辆做好社会准备：认识到新出现的问题的重要性和紧迫性治理、法规和更广泛的影响 可持续性，12（19），7844[Crosref]、[Web of Science®]、[Google Scholar]；张&；Dafoe，2019张，B，&<达福，A（2019） 人工智能：美国的态度和趋势<英国牛津：牛津大学[谷歌学者]，2020年>张，B，&<达福，A（2020）美国公众对人工智能治理的意见。AAAI/ACM人工智能、伦理与社会会议记录，第187–193页<张，B，&<达福，A（2020）美国公众对人工智能治理的意见。AAAI/ACM人工智能、伦理与社会会议记录，第187–193页。美国纽约州纽约市，【谷歌学者】）和行业从AI元话语中出现的新治理框架（如自适应和混合治理）中可以明显看出（Leiser&；Murray2016年Leiser，M.，&；Murray，A）非国家行为者和机构在治理新的和新兴的数字技术方面的作用。在《牛津法律、法规和技术手册》（The oxford handbook of law，regulation and technology）中，Eds.R.Brownshi剑，E。Scotford，K.Yeung，&；O、 U.出版社。（第670–704页）[谷歌学者]；林科夫等人，2018年林科夫，I，特朗普，B，Poinsulate Jones，K，&<弗洛林。五、（2018）可持续数字世界的治理战略 可持续性，10（2），440[Crosref]、[Web of Science®]、[Google Scholar]；Tan&；Taeihah，2021b，谭氏，S。Y、，&Taeihah，A（2021b）自动驾驶汽车的自适应管理：加速新加坡颠覆性技术的采用《政府信息季刊》，38（2），101546[Crosref]、[Web of Science®]、[Google Scholar]），以及自我监管举措，如指导人工智能设计的标准和自愿行为准则（Guihot等人，2017Guihot，M.，Matthew，A.F.，&；Suzor，N.P.）Nudging robots:监管人工智能的创新解决方案 Vand公司。J、 Ent.公司&；技术L，20，385[谷歌学者]；IEEE 2019（IEEE 2019） IEEE关于自主和智能系统伦理的全球倡议。符合伦理的设计：通过自主和智能系统优先考虑人类福祉的愿景（第一版编辑）IEEE。查姆施普林格。https://standards.ieee.org/content/ieee-standards/en/industry-connections/ec/autonomous-systems.html[谷歌学者]）。2018年上半年，十几个国家发布了新的人工智能战略，政府对人工智能的承诺资金支持大幅增加，行业机构进一步参与人工智能监管发展（Cath，2018年Cath，C.）管理人工智能：道德、法律和技术机遇与挑战[Crossref]，[谷歌学者]），提出了关于什么想法和利益应该塑造人工智能治理以确保社会所有成员的包容性和多样性的进一步问题（Hemphill，2016tabindex=0>Hemphil，T。A、（2016）调节纳米材料：混合治理的案例 科学、技术和技术公报；社会，36（4），219–228[交叉引用]，[谷歌学者]；Jobin，Ienca，&；瓦耶纳，2019乔宾，A、Ienca、M，&Vayena，E（2019）道德准则的全球格局 自然机器智能 1（9），389–399。[Crossref][/span>，[谷歌学者][/span>）

本期特刊介绍了人工智能治理的多方面挑战，包括新兴的人工智能治理方法、政策能力建设，以及探索人工智能和机器人的法律和监管挑战。这篇介绍对人工智能进行了梳理，并描述了人工智能治理在面临无数挑战的情况下，为何会获得更多关注。然后，介绍了特刊文章的摘要，并强调了它们的主要贡献。由于这一特殊问题包含了一系列不同的文章；它强调了人工智能治理的最新水平，并讨论了需要关注的突出问题和差距，旨在使研究人员和从业者更好地认识到人工智能带来的挑战，了解人工智能治理和未来探索途径的复杂性

2.人工智能——背景和最新趋势

人工智能的概念可以追溯到早期开发人工神经网络以复制人类智能的努力，这可以被称为解释和学习信息的能力。最初设计用于理解人脑中的神经元活动，在20世纪末，随着处理能力的进步，开发了更复杂的神经网络，以解决图像和语音识别等问题（Izenman2008Izenman，A.J）。现代多元统计技术 回归、分类和流形学习，10，978–0Springer，纽约州纽约市[Crosref]，[Google Scholar]）。这些努力导致了AI概念的引入，即计算机程序（或机器）可以以更高的速度和精度执行预定义的任务。在大数据分析技术进步推动的最近一波人工智能发展浪潮中，人工智能能力已经扩展到包括计算机程序，这些程序可以从大量数据中学习，并在没有人工指导的情况下做出决策，通常称为机器学习（ML）算法（Izenman2008Izenman，A.J。（2008）。现代多元统计技术 回归、分类和流形学习，10，978–0Springer，纽约州纽约市[Crosref]，[Google Scholar]）。与依赖预先编程的规则来执行重复任务的早期算法不同，ML算法设计有关于如何从涉及“推理推理”、“感知”、“分类”的数据中学习的规则，以及复制人类决策的“优化”（Bathaee，2018Bathaie，Y.（2019）人工智能黑匣子以及意图和因果关系的失败 哈佛法律杂志；技术，31（2），889[谷歌学者]；林科夫等人，2018年林科夫，I，特朗普，B，Poinsulate Jones，K，&<弗洛林。五、（2018）可持续数字世界的治理战略 可持续性，10（2），440[Crosref]、[Web of Science®]、[Google Scholar]）。学习过程涉及向这些算法提供大型数据集，从中寻找并测试候选变量之间的复杂数学相关性，以最大化对特定结果的预测（Kleinberg等人，2018年An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request

HTTP Status 400 – Bad Request

: 061–79。[Crossref]、[Web of Science®]、[Google Scholar]>）。本简介和本专刊的文章侧重于狭义人工智能的应用。
世界各地的行业和政府都对人工智能带来的潜在社会效益充满热情，从而加快了该技术在各个领域的发展和部署。部署人工智能的一些动力包括提高经济效率和生活质量、解决劳动力短缺、应对人口老龄化和加强国防、，根据各国独特的战略关切，它们在政府之间有所不同（Lele，2019Lele，A.（2019）裁军、军备控制和军备竞赛。军事和安全的颠覆性技术（第217–229页）Singapore:Springer.[Crosref]，[谷歌学者]>；Taihah&；Lim，2019塔伊哈，A.，Lim，H。S、 M.（2019）管理自动驾驶车辆：针对安全、责任、隐私、网络安全和行业风险的新兴对策 交通评论，39（1），103–128。[Taylor&；Francis Online]，[Web of Science®]，[Google Scholar]）。例如，日本和新加坡政府支持在医疗保健和公共交通自动驾驶车辆中使用辅助和手术机器人，以解决劳动力短缺和应对人口老龄化问题（Inagaki，2019年）日本的人口统计学为自动驾驶汽车提供了很好的证据 《金融时报》。https://www.ft.com/content/382aef5c-a7d7-11e9-984c-fac8325aaa04[谷歌学者]；SNDGO（智能国家和数字政府办公室）（2019年）医疗保健中的辅助技术和机器人 智能国家新加坡。https://www.smartnation.sg/what-is-smart-nation/initiatives/Health/assistive-technology-and-robotics-in-healthcare[谷歌学者]；Taihah&；Lim，2019塔伊哈，A.，Lim，H。S、 M.（2019）管理自动驾驶车辆：针对安全、责任、隐私、网络安全和行业风险的新兴对策 交通评论，39（1），103–128。[Taylor&；Francis Online]，[Web of Science®]，[Google Scholar]；Tan&；Taeihagh，2021，Tan，S。Y、，&管理新加坡在长期护理中采用机器人和自主系统。政策与社会（第1–21页）。[Taylor&；Francis Online]，[谷歌学者]，2021b。Y、，&Taeihah，A.（2021b）自动驾驶汽车的自适应管理：加速新加坡颠覆性技术的采用 《政府信息季刊》，38（2），101546。[Crossref]，[Web of Science®]，[Google Scholar]）。成本节约和生产率提高是各个行业采用人工智能的主要动机，人工智能已经在改变制造业、物流业、服务业和海运业（2018年世界经济论坛论坛，W.E.（2018年）。2018年就业报告的未来。世界经济论坛，瑞士日内瓦。[谷歌学者]）。基于人工智能的技术也是中国、美国和俄罗斯等国家的战略军事资产，这些国家的政府对机器人、无人机和完全自主的武器系统进行了大量投资，以实现国防和地缘政治影响力（Allen，An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request
HTTP Status 400 – Bad Request
: 0数据驱动和不可预测，该系统可以在响应几乎相同的输入时表现出截然不同的行为，这使得很难预先指定“正确”行为并验证其安全性（Koopman&；Wagner，2016Koopman，P.，WagnerM.（2016）自动驾驶汽车测试和验证方面的挑战 SAE国际运输安全杂志，4（1），15–24[Crosref]、[Web of Science®]、[Google Scholar]）。特别是，学者们指出，由于自动化偏见的问题，人工智能系统与其用户之间的交互也可能产生潜在的安全隐患，因为自动化偏见的性质，人类对自动化决策的可信度更高，因此，在使用人工智能系统时变得自满并表现出不那么谨慎的行为（Osoba&；Welser，2017Osoba，O.A.，Welser，W.（2017） 我们心目中的智能：人工智能中的偏见和错误风险Rand Corporation。加利福尼亚州圣莫尼卡[谷歌学者]；Taihah&；Lim，2019塔伊哈，A，&Lim，H。S、 M.（2019）管理自动驾驶车辆：针对安全、责任、隐私、网络安全和行业风险的新兴对策 交通评论，39（1），103–128[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]）。因此，人机界面显著地影响了安全程度，尤其是在涉及与用户频繁交互的社交环境中，例如用于个人护理的机器人、自动驾驶车辆和服务提供商

人工智能的决策自主性显著降低了人类对其决策的控制，为将人工智能所造成的损害归咎于他人的责任和法律责任带来了新的挑战。机器操作责任和责任归属的现有法律框架将机器视为工具，由其操作员根据人类对机器规范有一定程度控制的假设进行控制（Matthias2004Matthias，a）。责任差距：对学习自动机的行为承担责任 伦理与信息技术，6（3），175–183.[Crosref]，[谷歌学者]；Leenes&；卢西维罗，2014年Leenes，R，&<卢西维罗（2014）关于机器人的法律、机器人的法律和机器人的法律：通过设计来调节机器人的行为 法律、创新与技术，6（2），193–220[Taylor&；Francis Online]，[谷歌学者]）。然而，由于人工智能在很大程度上依赖于学习和调整自己规则的ML过程，人类不再处于控制之中，因此，不能期望人类总是对人工智能的行为负责。在严格的产品责任下，制造商和软件设计者可能要对制造缺陷和设计缺陷承担责任，但ML决策的不可预测性意味着AI做出的许多错误决策超出了这些方的控制，也无法被这些方预测（Butcher&；Beridze，2019Butcher，J.，Belidze，I.（2018）<全球人工智能治理状况如何RUSI期刊，164（5–6），88–96[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]；Kim等人，2017Kim，S（2017）Crashed software:评估自动化车辆中软件缺陷的产品责任 杜克L.&；技术版本，16，300[谷歌学者]；Lim&；泰伊哈，2019年林氏，H。S、 M.，&Taeihah，A（2019）AVs中的算法决策：了解智能城市的伦理和技术问题 可持续性，11（20），5791[Crosref]、[Web of Science®]、[Google Scholar]）。这就提出了一些关键问题，即人工智能供应链中的不同方在不同的事故场景中承担责任的程度，以及足以“限制”这些方对此类意外事故的责任的自主程度（Osoba&；Welser，2017年Osoba，O.A.，&；Welser，W.//span>（2017年） 我们心目中的智能：人工智能中的偏见和错误风险Rand Corporation。加利福尼亚州圣莫尼卡[谷歌学者]；Wirtz，Weyerer，&；Sturm，2020年Wirtz，B。W、，Weyerer，J。C、，&Sturm，B。J、（2020）人工智能的黑暗面：公共行政的集成ai治理框架 《国际公共管理杂志》，43（9），818–829[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]）。人们还普遍认识到，过高的负债风险会阻碍技术的长期创新和改进，这突出了一个重大问题，即政府如何构建新的责任框架，在促进创新的利益与保护社会免受新兴技术风险的道德义务之间取得平衡（Leenes等人，2017Leenes，R.，Palmerini，E.、Koops、B.J.、Bertolini、A.，Salvini，P.>，Luciviro，F.（2017）robotics的监管挑战：解决法律和道德问题的一些指南 法律、创新与技术，9（1），1–44[Taylor&；Francis Online]，[谷歌学者]）

考虑到算法在社会各个方面自动化的决策的价值负载性质，人工智能系统可能会表现出与社会价值观和规范相冲突的行为，从而引发人们对人工智能快速采用可能引发的伦理问题的担忧。整个行业和学术界讨论最激烈的问题之一是算法决策可能存在偏见和歧视。由于ML算法可以从从社会收集的数据中学习以做出决策，它们不仅可能与最初的伦理规则相冲突，还可能再现这些数据中所包含的社会不平等和歧视模式（Goodman&；Flaxman，2017Goodman，B.，FlaxmanS.（2018）欧盟关于算法决策和“解释权”的规定 AI杂志，38（3），50–57[Crosref]、[Web of Science®]、[Google Scholar]；Osoba&；Welser，2017Osoba，O。A、，&Welser，W（2017） 我们心目中的智能：人工智能中的偏见和错误风险Rand Corporation。加利福尼亚州圣莫尼卡[谷歌学者]；钢琴，2020年。五十、（2020）机器学习和人工智能的伦理原则：来自领域的案例和可能的前进方向 人文社会科学传播，7（1），1–7[Crosref]，[Google Scholar]）。如果使用数据中的敏感个人特征（如性别或种族）对个人进行分类，并且发现某些特征与该算法旨在优化的结果，被分类为这些特征的个体将比具有不同群体特征的其他个体受到惩罚（Liu 2018）。这可能会在风险暴露和获得社会和经济利益方面产生不同的结果。在构造算法时，也可以通过人类设计者引入偏差，即使从数据中删除了敏感属性，ML算法也可以使用“概率推断”变量作为敏感属性的代理，这更难调节（Kroll等人，2016Kroll，J.A.，Barocas，S.//span>，Felten，E.W.，Reidenberg，J.R.，Robinson，D.G.，&；Yu，H.（2016）Accountable algorithms 美国。宾夕法尼亚州修订版，165，633[Web of Science®]，[谷歌学者]；Osoba&；Welser，2017Osoba，O。A、，&Welser，W（2017） 我们心目中的智能：人工智能中的偏见和错误风险Rand Corporation。加利福尼亚州圣莫尼卡[谷歌学者]）。人工智能算法优化过程中产生的偏见和歧视风险反映了围绕人工智能治理公平性讨论的一个主要问题，即算法决策中公平与效率之间的权衡（Sætra，2020Sæ特拉，H.S.（2020）对人工智能技术统治的肤浅辩护：检查算法治理在政府领域的政治危害 社会中的技术，62101283[Crosref]，[谷歌学者]），以及如何达成平衡以产生符合不同群体道德偏好的社会理想结果，仍有待讨论

大量的文献和政府报告都强调了人工智能应用可能引起的数据隐私和监控问题。由于AI系统中的算法利用传感器来收集数据，有人担心第三方可能滥用个人数据，越来越多的人呼吁建立更全面的数据治理框架，以确保组织内部和组织之间可靠地共享数据（Gasser&；Almeida，2017年Gasser，U.，Almeida，V.A.//span>（2017）AI治理的分层模型 IEEE互联网计算，21（6），58–62[Crosref]、[Web of Science®]、[Google Scholar]；杨森、布鲁斯、埃斯特维斯、巴博萨和；Janowski，2020年杨森，M，Brous，P，Estevez，E，巴博萨，L。S、，&（2020）数据治理：为值得信赖的人工智能组织数据 《政府信息季刊》，37（3），101493[Crosref]、[Web of Science®]、[Google Scholar]）。AI系统存储关于其用户的广泛个人信息，例如使用自动驾驶汽车中收集的过往旅行数据为乘客定制广告（Chen等人，2020年陈，S.Y.，Kuo，H.Y.，李，C.（2020年）为自动化车辆做好社会准备：认识到新出现的治理、法规和更广泛影响问题的重要性和紧迫性 可持续性，12（19），7844[Crosref]、[Web of Science®]、[Google Scholar]；Lim&；Taeihah，2018年Lim，H。S、 M.，&Taeihah，A（2018）自治An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request
HTTP Status 400 – Bad Request
: 0应用于各个行业。研究强调了数字平台使用的个性化算法的潜力，通过根据用户的偏好过滤呈现给用户的信息并影响他们的选择，从而破坏数据主体的决策自主性。通过对个人决策施加控制并减少提供的“信息多样性”，个性化算法可以减少个人自主性，被解释为不道德（Mittelstadt等人，2016年Mittelstatt，B.D.，Allo，P.，Taddeo，M.//span>，Wachter，>S.，&；Floridi，L.（2016年）算法的伦理：映射辩论 大数据&；社会，3（2），2053951716679679[Crosref]、[Web of Science®]、[Google Scholar]）。在医疗保健中，使用机器人提供个人护理服务引发了人们的担忧，即如果机器人过度限制患者的行动以避免危险情况，可能会失去护理对象的自主性和尊严（Leenes等人，2017Leenes，R.，Palmerini，E.、Koops、B.J.、Bertolini、A.，Salvini，P.>，Luciviro，F.（2017）robotics的监管挑战：解决法律和道德问题的一些指南 法律、创新与技术，9（1），1–44[Taylor&；Francis Online]，[谷歌学者]；Tan等人，2021 Tan，S。Y、，塔伊哈，A，&Tripathi，A（2021）在长期护理中使用机器人和自主系统的风险和道德之间的紧张关系和对抗性互动 技术预测与社会变革，167，120686[Crosref]、[Web of Science®]、[Google Scholar]）。研究尚未检验如何在其他情况下平衡这些风险及其对自主性的潜在益处，例如自动驾驶汽车增加了残疾人和老年人的行动能力（Lim&；Taeihah，2018Lim，H.S.M.，Taeihagh，A.智能和可持续城市的自动驾驶汽车：对隐私和网络安全影响的深入探索能量，11（5），1062[Crosref]、[Web of Science®]、[Google Scholar]），和个人护理机器人，为患者提供更大的行动自由，并确保受到监控（Leenes等人，2017Leenes，R.，Palmerini，E.、Koops、B.J.、Bertolini、A.，Salvini，P.>，Luciviro，F.（2017）robotics的监管挑战：解决法律和道德问题的一些指南 法律、创新与技术，9（1），1–44[Taylor&；Francis Online]，[谷歌学者]）。在军事领域，无人驾驶飞机和无人机等自主武器系统已被开发出来，以提高军事作战、规划和战略的精度和可靠性，但工业界和学术界的势头越来越大，包括知名人物、，强调他们在道德和法律上的不可接受性（Lele，2019Lele，A.（2018）裁军、军备控制和军备竞赛。军事和安全的颠覆性技术（第217–229页）Singapore:Springer[交叉引用]，[谷歌学者]；Roff，2014年<罗夫，H。M、（2014）战略机器人问题：战争中致命的自主武器 军事伦理杂志，13（3），211–227[Taylor&；Francis Online]，[谷歌学者]）。这些担忧的核心是授权机器“独立于人类对其道德和法律合法性的决定”使用致命武力，以及缺乏对这些适应性系统的控制，引发了人们对反乌托邦未来的担忧，即此类武器会造成人员伤亡，并在更大范围内升级危机（Firlej&Taeihagh，2021Firlej，M.，&；Taeihagha，a.）（2021） 调节人类对自主系统的控制Regulation&；治理。https://doi.org/10.1111/rego.12344[Crosref]，[谷歌学者]；Scharre，2016年Scharre（2016） 自主武器和作战风险Washington，DC:新美国安全中心[谷歌学者]；索洛夫耶娃&；Hynek，2018年Solovyeva，A，&Hynek，N（2018） 超越“杀手机器人”辩论：自主武器系统引发的六大难题<《中欧国际期刊》；安全研究，12（3）[谷歌学者]）

由日常认知任务自动化导致的失业和社会不稳定仍然是关于人工智能采用的最公开争论的问题之一（Frey&；Osborne，2017Frey，C.B.，M.A.（2017）<就业的未来：工作对计算机化的影响有多大技术预测和社会变革，114，254–280[Crosref]、[Web of Science®]、[Google Scholar]；林科夫等人，2018年林科夫，I，特朗普，B，Poinsulate Jones，K，&<弗洛林。五、（2018）可持续数字世界的治理战略 可持续性，10（2），440[Crosref]、[Web of Science®]、[Google Scholar]）。自动化的影响已经在制造业、娱乐业、医疗保健业、金融业、，随着公司越来越多地投资于人工智能，以降低劳动力成本和提高效率（Linkov等人，2018>Linkov，I.，Trump，B.、Poinsulate Jones，K.//span>，和Florin，2018M.V.）可持续数字世界的治理战略 可持续性，10（2），440[Crosref]、[Web of Science®]、[Google Scholar]）。虽然技术进步在历史上也创造了新的就业机会，但人们担心就业机会在各个部门和技能水平上的分布不均衡。研究表明，许多中等技能工作的特点是高度常规和认知性任务，这些任务的自动化风险很高。相比之下，自动化风险相对较低的任务是机器无法轻易复制的任务——这包括在需要灵活性和“身体适应性”的低技能、服务性职业中的手动任务，以及需要创造性智力的工程和科学领域的高技能职业（Frey&；Osborne，2017Frey，C.B.，Osborne、M.A.（2018）<就业的未来：工作对计算机化的影响有多大技术预测和社会变革，114，254–280[Crosref]、[Web of Science®]、[Google Scholar]；世界经济；2018年论坛，W。E、（2018）。《2018年就业前景报告》。《世界经济》论坛，瑞士日内瓦。[谷歌学者]）。随着高技能和低技能职业从工资溢价的增加中受益，中等技能工作正在逐步淘汰，自动化可能加剧收入和社会不平等（Alonso等人，2018年Alonso Raposo，M.，Grosso，M.，Després，>J.，Fernándezmacías，2 E.//span>，Galassi，C.<1span>，>Krasenbrink，A.、Krause，J.、Levati，L.、Mourtzouchou，A.、Saveyn，B.、Thiel，C.和Ciuffo，B.（2018） 欧洲合作、互联和自动移动（CCAM）可能产生的社会经济影响分析欧盟。卢森堡：欧盟出版局，[谷歌学者]）。

4.治理人工智能

4.1为什么人工智能治理很重要

了解和管理人工智能带来的风险对于实现技术的好处至关重要。提高了商品和服务交付的效率和质量，提高了老年人和残疾人的自主性和移动性，提高了在医疗保健等安全关键操作中使用人工智能的安全性，交通和应急响应是人工智能带来的许多社会经济效益，可以推动智能和可持续发展（Agarwal，Gurjar，Agarwal&Birla，2015年Agarwal，P.K.，Gurjar、J.、AgarwalA.K.，Birla，R.（2015）人工智能在智能城市智能交通系统开发中的应用 《交通与运输工程杂志》，1（1），20–30。[谷歌学者]；Lim&；Taeihah，2018年Lim，H。S、 M.，&Taeihah，A.（2018）智能和可持续城市的自动驾驶汽车：对隐私和网络安全影响的深入探索 《能源》，11（5），1062。[Crossref]，[Web of Science®]，[Google Scholar]；Yigitcanlar等人，2018年Yigitcanar，T.，Kamruzzaman，M.//span>，Foth，M.、Sabatini，J.、Da Costa，E.，Ioppolo，G.（2018）城市能在不可持续的情况下变得智能吗？文献综述。在可持续城市和社会中 45，348–365。[谷歌学者]）。因此，随着人工智能系统的发展和复杂性的增加，其风险和与其他智能设备和系统的互联性也将增加，这就需要创建两种特定的治理机制，例如医疗保健、交通和自主武器，以及更广泛的人工智能全球治理框架（Butcher&；Beridze，2019Butcher，J.，Beridze、I.（2018）<全球人工智能治理状况如何RUSI期刊，164（5–6），88–96。[Taylor&；Francis Online]，[Web of Science®]，【谷歌学者】）。

4.2人工智能治理的挑战

人工智能环境的高度不确定性和复杂性给政府在设计和实施有效的人工智能治理政策方面带来了许多挑战，棘手且非线性，使得政府很难在其政策中制定具体目标（Gasser&；Almeida，2017年Gasser，U.，Almeida，V.A.（2017年））AI治理的分层模型 IEEE互联网计算，21（6），58–62。[Crosref]，[Web of Science®]，[Google学者]//span>；Perry&；Uuk，2019佩里，B，&Uuk，R（2019）AI治理和决策过程：降低AI风险的关键考虑因素 大数据与认知计算，3（2），26[Crosref]，[Google Scholar]）

ML系统固有的不透明性和不可预测性给政府在确保人工智能问责制方面带来了技术挑战。首先，复杂ML算法的不透明性仍然是人工智能治理的一个主要障碍，因为它限制了人工智能系统中可以实现的透明度、可解释性和问责制的程度（Lim&；Taeihah，2019Lim，H.S.M.，Taeihagh，a.AVs中的算法决策：了解智能城市的伦理和技术问题 可持续性，11（20），5791[Crosref]、[Web of Science®]、[Google Scholar]；Mittelstadt等人，2016Mittelstatt，B。D、、Allo、P，Taddeo，M，Wachter，S，&<佛罗里达州（2016）算法的伦理：映射辩论 大数据&；社会，3（2），2053951716679679[Crosref]、[Web of Science®]、[Google Scholar]）。即使算法具有法定的透明度和可解释性，专家自己也不可能解释某些算法输出是如何从其输入中得出的，而将算法设计得更易于解释也会降低其复杂性，这已被证明会破坏准确性和性能（Felzmann，Villaronga，Lutz，&；Tamò-Larrieux，2019，Felzmann、H.、Villaronga，E.F.//span>、Lutz，C.、Tamò-Larrieux，2019年）您可以信任的透明度：法律规范和上下文关注之间的人工智能透明度要求 大数据&；社会，6（1），2053951719860542[Crosref]、[Web of Science®]、[Google Scholar]；钢琴，2020年。五十、（2020）机器学习和人工智能的伦理原则：来自领域的案例和可能的前进方向 人文社会科学传播，7（1），1–7[Crosref]，[Google Scholar]）。这一问题被强调为欧盟《通用数据保护条例》在提高算法透明度以解决歧视方面的严重限制（Goodman&；Flaxman，2017>Goodman，B.，Flaxman、S.（2017）欧盟关于算法决策和“解释权”的规定 AI杂志，38（3），50–57[Crosref]、[Web of Science®]、[Google Scholar]）。算法开发人员通常故意保持不透明，以防止网络攻击和保护商业机密，ML算法使用的大量数据集的复杂性使得几乎不可能识别和删除与敏感个人数据类别相关的所有变量（Carabantes，2020Carabante，M.黑箱人工智能：认识论和批判性分析。AI&；Soc 35，309–317（2020）。https://doi.org/10.1007/s00146-019-00888–w[谷歌学者]；古德曼&；Flaxman2016Koopman，P，&Wagner，M（2016）自动驾驶汽车测试和验证方面的挑战 SAE国际运输安全杂志，4（1），An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request

HTTP Status 400 – Bad Request

: 0®]，[谷歌学者]）

由于了解技术所需的信息不足，现有的治理和监管框架也不足以管理人工智能带来的社会问题，监管滞后于人工智能的发展。谷歌、脸书、微软和苹果等主要科技公司和人工智能开发商在监管人工智能方面拥有巨大的信息和资源优势，这大大取代了政府在分配和控制社会资源方面的传统角色（Guihot等人，2017Guihot，M.，Matthew，A.F.//span>，和Suzor，N.P.（2017）Nudging robots:监管人工智能的创新解决方案 Vand公司。J、 Ent.公司&；技术L，20，385[谷歌学者]）。技术公司和监管机构之间的信息不对称加剧了后者在理解和将新的或现有立法应用于人工智能应用方面的困难（Taeihagh等人，2021，Howlett，M（2021）评估新兴颠覆性技术的监管挑战。在法规中；治理。https://doi.org/10.1111/rego.12392[Crosref]，[谷歌学者]>）。监管机构正在努力填补这些信息空白，由于技术的快速发展，这反过来导致制定的法律“过于笼统”或“模糊”，缺乏有效监管该技术的专门性（Guihot等人，2017，M.，Matthew，A.F.，&；Suzor，N.P.//span>（2017）Nudging robots:监管人工智能的创新解决方案 Vand公司。J、 Ent.公司&；技术L，20，385[谷歌学者]；Larsson，2020年Larsson，S（2020）通过道德准则治理人工智能 《法律与社会杂志》，1，23[谷歌学者]）。特别是，立法者可能会对算法程序员概述特定规则和职责感到却步，以允许未来对代码进行实验和修改以改进软件，但这样做为程序员提供了逃避责任和对系统在社会中的行为负责的空间（Kroll等人，2016年Kroll，J.A.，Barocas，S.，Felten，E.W.//span>，Reidenberg，J.R.，Robinson，D.G.，&；Yu，H.（2016）Accountable algorithms 美国。宾夕法尼亚州修订版，165，633[Web of Science®]，[Google Scholar]）。这些挑战表明，政府传统上用于监管的四种管理资源不足以管理人工智能带来的风险，政府需要找到获取信息的新方法，并制定能够适应不断变化的人工智能环境的有效政策（Guihot等人，2017Guihot，M.，Matthew，A.F.//span>，&；Suzor，N.P.（2017）Nudging robots:监管人工智能的创新解决方案 Vand公司。J、 Ent.公司&；技术L，20，385[谷歌学者]；Wirtz等人，2020年Wirtz，B。W、，Weyerer，J。C、，&Sturm，B。J、（2020）人工智能的黑暗面：公共行政的集成ai治理框架 《国际公共管理杂志》，43（9），818–829[Taylor&；Francis Online]、[Web of Science®]、[Google学者]//span>）

在“硬”监管框架的问题中，行业机构和政府越来越多地采用自律或“软法律”方法来管理人工智能设计，但其有效性仍然有限。软法方法指的是“非约束性规范和技术”，这些规范和技术创造了“不可直接执行的实质性期望”。行业机构发布了自愿标准、指南和行为准则（IEEE 2019） IEEE关于自主和智能系统伦理的全球倡议。符合伦理的设计：通过自主和智能系统优先考虑人类福祉的愿景（第一版编辑）IEEE。查姆施普林格。https://standards.ieee.org/content/ieee-standards/en/industry-connections/ec/autonomous-systems.html[谷歌学者]//span>），各国政府都成立了专家委员会来制定人工智能战略，并发布了多个人工智能道德准则和治理框架（PDPC等人，2020年PDPC（2020年）。（2020） 新加坡个人数据保护委员会、信息通信媒体发展局（IMDA）和新加坡数字（SG:D）。赋权可能性模型人工智能治理框架（第二版编辑）。新加坡。https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Resource-for-Organisation/AI/SGModelAIGovFramework2.pdf[谷歌学者]；人工智能；Hleg，2019Hleg、A。一、（2019）人工智能高级专家组。值得信赖的人工智能道德准则。在欧洲委员会中比利时布鲁塞尔。https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419[谷歌学者]；Jobin等人，2019Jobin，A、Ienca、M，&Vayena，E（2019）道德准则的全球格局 自然机器智能 1（9），389–399。[Crossref][/span>，[谷歌学者][/span>）。与传统法规相比，指南的修改和调整速度更快，因此有利于跟上技术发展的步伐（Hemphill，2020Hemphil，T.A.（2020）创新治理困境：预防原则的替代方案 社会中的技术，63，101381[Crosref]、[Web of Science®]、[Google Scholar]；Larsson，2020年Larsson，S（2020）通过道德准则治理人工智能 《法律与社会杂志》，1，23[谷歌学者]）。这种方法是针对以前的新兴技术而采用的，可以促进人工智能设计中的道德、公平和非歧视性做法，但在其有效性方面存在许多问题。首先，自律举措的自愿性质不能确保始终遵守所概述的原则，特别是因为它们通常不受统一的执行标准的约束（Butcher&；Beridze，2019Butcher，J.，Beridze。RUSI期刊，164（5–6），88–96[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]；Hemphil，2016年Hemphill，T。A、（2016）调节纳米材料：混合治理的案例 科学、技术和技术公报；社会，36（4），219–228[Crosref]，[Google Scholar]）。第二，如果遵循以下原则，各国政府将面临确保在不同部门设计相同的人工智能技术时一致应用这些指南的挑战在多个指南中存在差异，且与法规不协调（Cath等人，2018年Cath，C.（2018年）管理人工智能：道德、法律和技术机遇与挑战[交叉引用]，[谷歌学者]；Guihot等人，2017Guihot，M，马修，A。F、，&Suzor，北。P.（2017）Nudging robots:监管人工智能的创新解决方案 Vand公司。J、 Ent.公司&；技术L，20，385[谷歌学者]）

此外，由于无法确保包容性和不同利益相关者的代表性，单独的自我监管可能不足以甚至不利于人工智能治理。行业利益相关者在制定人工智能伦理原则和法规方面的深度参与引发了对企业利益主导人工智能法规的担忧，这一直是对治理新兴技术的自我监管举措的持续批评（Hemphill，2016Hemphil，T.A.（2016）调节纳米材料：混合治理的案例 科学、技术和技术公报；社会，36（4），219–228[Crosref]，[Google Scholar]）。例如，主要科技公司对人工智能问题的框架和人工智能政策的制定产生了重大影响，例如通过游说努力，并将其纳入政府组建的人工智能专家组（Cath等人，2018年Cath，C.（2018年）管理人工智能：道德、法律和技术机遇与挑战[交叉引用]，[谷歌学者]；Jobin等人，2019Jobin，A、Ienca、M，&Vayena，E（2019）道德准则的全球格局 自然机器智能 1（9），389–399。[Crossref][/span>，[谷歌学者][/span>）。研究表明，由于人工智能开发人员的巨大信息优势，人工智能行业面临监管风险，这使得他们的技术专长对监管机构“特别有价值”（Guihot等人，2017Guihot，M.，Matthew，A.F.//span>，&；Suzor，N.P.（2017）Nudging robots:监管人工智能的创新解决方案 Vand公司。J、 Ent.公司&；技术L，20，385[谷歌学者]）。此外，企业可以利用ML算法的“不可理解”和高度不透明的性质，使行业深度参与人工智能法规合法化，而这些法规背后的选择往往不受公众监督。企业以及人工智能领域的关键政治人物的肆无忌惮的影响力可能加剧权力失衡和社会不平等，少数精英的意识形态和利益可以通过人工智能的设计和他们在社会中做出的决定来体现（Jobin等人，2019Jobin，A.，Ienca，M.，&；Vayena，E.（2018）道德准则的全球格局 自然机器智能 1（9），389–399。[Crossref][/span>，[谷歌学者][/span>）。为了确保人工智能治理的包容性和多样性，需要进行更多的研究，以检查人工智能政策中的关键参与者、他们的角色、主导思想和价值观，不同国家的这些价值观是否存在全球趋同，以及这些价值观在多大程度上反映了社会利益或出于政治动机（Jobin等人，2019Jobin，a.，Ienca，M.，&；Vayena，E.（2018）全球景观道德准则 自然机器智能 1（9），389–399。[Crossref][/span>，[谷歌学者][/span>；Mulligan&；Bamberger，2018年Mulligan，D。K、，&Bamberger，K。A、（2018）通过设计节省治理 校准L.Rev.，106，697[Web of Science®]，[Google Scholar]）

4.3人工智能治理的前进步骤

人工智能的概念框架是如何理解人工智能引入的问题的关键决定因素，它们是否包含在政策中，以及在公共政策制定中给予问题的优先程度（Perry&；Uuk，2019Perry，B.，Uuk，R.（2019）AI治理和决策过程：降低AI风险的关键考虑因素 大数据与认知计算，3（2），26[Crosref]，[Google Scholar]），但框架问题尚未作为人工智能治理的关键组成部分进行广泛讨论。由于人工智能仍在发展，有可能变得更加突出和多样化，其挑战的复杂性表明，人工智能系统中的决策需要根据其应用环境进行仔细的概念化，并且这些框架过程应该受到公众的讨论（Cunneen，Mullins，&；Murphy，2019Cunneen，M.，Mullins、M.、Murphy、F.（2018）自动驾驶车辆和嵌入式人工智能：制定机器驾驶决策的挑战 应用人工智能，33（8），706–731[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]）。例如，决策者如何界定特定人工智能应用中产生的不同伦理原则的相对重要性，伦理原则之间的冲突，其重要性的合理性对设计人工智能系统和公众遵守不同道德准则所产生的权衡具有关键影响（Piano，2020，s.L.（2020）机器学习和人工智能的伦理原则：来自领域的案例和可能的前进方向 人文社会科学传播，7（1），1–7[Crosref]，[Google Scholar]）。人工智能的初始框架对于避免放大围绕新技术的感知风险和恐惧也至关重要，相反，它促进了关于人工智能是什么、人工智能应该在社会中加强的目标和规范的更平衡的讨论，以及最大化其利益同时最小化其风险的设计要求（Cath等人，2018年Cath，C.（2018年）管理人工智能：道德、法律和技术机遇与挑战[交叉引用]，[谷歌学者]；Cunneen等人，2019Cunneen，M、竖梃、M，&<墨菲，F（2019）自动驾驶车辆和嵌入式人工智能：制定机器驾驶决策的挑战 应用人工智能，33（8），706–731[Taylor&；Francis Online]，[Web of Science®]，[Google Scholar]）

为了应对人工智能发展的不确定性和复杂性带来的治理挑战，越来越多的人呼吁采用创新的治理方法，如适应性治理和混合或“去中心化”治理（Dafoe，2018Dafoe（2018） 人工智能治理：研究议程；人类未来研究所<英国牛津：牛津大学[谷歌学者]；Linkov等人，2018年bAn exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request

HTTP Status 400 – Bad Request

: 0An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request

HTTP Status 400 – Bad Request

: 0An exception occurred: [Errno Expecting value] HTTP Status 400 – Bad Request

HTTP Status 400 – Bad Request

: 0未来人工智能治理研究的一个关键研究议程将是分析人工智能技术的独特特征，这些特征需要采用与以往技术不同的方法

一个新兴的文献机构提出通过设计来管理人工智能系统，其中社会、法律和道德规则可以通过规范人工智能系统行为的代码来执行（Leenes&；Luciviro，2014年Leenes，R.，Luciviro（2014）关于机器人的法律、机器人的法律和机器人的法律：通过设计来调节机器人的行为 法律、创新与技术，6（2），193–220[Taylor&；Francis Online]，[谷歌学者]）。例如，数据保护法中的规定可以转化为配备摄像头的机器人的技术规范，以及在数据超过指定的存储时间段后删除数据或限制第三方访问特定类别的数据（Leenes等人，2017Leenes，R.，Palmerini，E.、Koops、B.J.、Bertolini、A.，Salvini，P.>，Luciviro，F.（2017）robotics的监管挑战：解决法律和道德问题的一些指南 法律、创新与技术，9（1），1–44[Taylor&；Francis Online]，[谷歌学者]）。然而，为了通过代码有效地管理人工智能系统，还必须解决几个实现挑战。许多法律和道德规则无法转化为明确的准则，其中包括“微妙的例外”，这些例外通常需要价值判断和考虑上下文因素进行解释，而最终的机器解释也取决于最初的设计（Leenes&；Luciviro，2014年Leenes，R.，&；Lucifero，F.（2014年）关于机器人的法律、机器人的法律和机器人的法律：通过设计来调节机器人的行为 法律、创新与技术，6（2），193–220[Taylor&；Francis Online]，[谷歌学者]；Mulligan&；Bamberger，2018年Mulligan，D。K、，&Bamberger，K。A、（2018）通过设计节省治理 校准L.Rev.，106，697[Web of Science®]，[Google Scholar]）。政府需要从这种方法中管理的其他风险是对编码规则的潜在操纵，以“颠覆监管目标”，这很容易被ML流程的不透明性所掩盖（Mulligan&；Bamberger，2018Mulligan，D.K.，Bamberger、K.A.（2019）通过设计节省治理 校准L.Rev.，106，697[Web of Science®]，[Google Scholar]）

最近的人工智能治理框架研究的共同点是强调围绕人工智能伦理原则建立广泛的社会共识并确保问责制，但需要研究如何在实践中实施这些框架。Gasser和Almeida's（2017Gasser，U.，&；Almeida，V.A.（2017）AI治理的分层模型 IEEE互联网计算，21（6），58–62[Crossref]、[Web of Science®]、[Google Scholar]）三层框架包括一个涉及人工智能系统流程和数据结构的技术层、一个人工智能伦理设计层和第三层，包括人工智能的社会影响以及监管和立法的作用。Rahwan（2018年Rahwan，I.（2018年）循环中的社会：编程算法社会契约 道德和信息技术，20（1），5–14[Crosref]，[Web of Science®]，[Google Scholar]）建议将“循环中的人”方法扩展到更广泛的“循环中社会”方法，其中社会首先负责就影响人工智能的价值观以及不同利益相关者之间的利益和成本分配达成共识。其他提案集中于需要更大的集中化和跨文化合作，以改善国家方法之间的协调（Cihon等人，2020年Cihon，P.，Maas，M.M.，&；Kemp，L.Fragmentation and the Future:Investigating Architecture for International AI Governance碎片化与未来：国际人工智能治理的研究架构 全球政策，11（5），545–556[Crosref]、[Web of Science®]、[Google Scholar]；奥赫·盖尔塔伊，惠特尔斯通，刘，曾，&；刘，2020年。S、，Whittlestone，J，Liu，Y，曾，Y，&Liu，Z（2020）克服人工智能伦理和治理中跨文化合作的障碍。在哲学和；技术，33（4），571–593。[谷歌学者]）。Cihon等人（2020Cihon，P.，Maas，M.M.，&；Kemp，L.（2020）Fragmentation and the Future:Investigating Architecture for International AI Governance碎片化与未来：国际人工智能治理的研究架构 全球政策，11（5），545–556[Crossref]、[Web of Science®]、[Google Scholar]）提出了一个框架来集中当前国际人工智能治理的分散状态，概述了监测和协调国家方法的方法，例如监管滞后和对快速发展风险的适应性有限。在这些方法中，越来越多的人要求制定更具体的规范，以在实践中实施这些治理框架，并确定政府中负责领导人工智能治理不同方面的各方（Wirtz等人，2020年Wirtz，B.W.，Weyerer，J.C.//span>，&；Sturm，B.J.（2020）人工智能的黑暗面：公共行政的集成ai治理框架 《国际公共管理杂志》，43（9），818–829[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]）

5.特刊文章概述

特刊文章通过案例研究和比较分析解决了人工智能和机器人的管理问题，解决了与在不同应用和部门部署人工智能的风险和收益相关的文献空白，识别人工智能治理元话语中设想的主导理念及其含义。此外，还对各国/政府为治理人工智能而采取的新法律/监管/治理方法进行了探索，并对可加强人工智能实施的方法进行了审查，并对人工智能治理方法进行跨国比较。作者通过案例研究探讨了不同人工智能治理方法的局限性/有效性，并得出了促进政策学习的关键经验。以下是关于人工智能和机器人治理的专刊文章的简要摘要

5.1为有争议的新兴技术构建治理框架：来自人工智能政策的见解（乌尔尼卡内、奈特、利奇、斯塔尔和万吉库，2021 span>（2021）为有争议的新兴技术构建治理框架：来自人工智能政策的见解。《政策与社会》（pp。1–20）[谷歌学者]）

人工智能的发展方式是对社会有益还是有问题很大程度上取决于公共政策、治理安排和监管。近年来，许多国家政府、国际组织、智囊团、咨询公司和民间社会组织都推出了人工智能战略，概述了收益和风险以及初步治理和监管框架。对于新兴颠覆性技术的监管和治理，存在许多问题（Taeihagh等人，2021，Howlett，M.，2021）评估新兴颠覆性技术的监管挑战。在法规中；治理。https://doi.org/10.1111/rego.12392[Crosref]，[谷歌学者]>）。本文讨论了以下关于人工智能治理的问题：正在出现哪些治理和监管模式来促进人工智能的收益并避免其风险？不同的行动者——政府、国际组织、企业、学术界和民间社会——在人工智能的新兴治理中扮演了什么角色？人工智能领域的激进技术创新是否需要治理方面的激进或渐进创新？不同国家、地区和组织的新兴治理和技术框架是趋同还是分歧？原因是什么

为了研究这些问题，乌尔尼卡内等人（Ulnicane et al.）（2021，乌尔尼卡内、I.、Knight、W.、Leach、T.、Stahl、B.C.、Wanjiku、W.G.2021）为有争议的新兴技术构建治理框架：来自人工智能政策的见解。政策与社会（第1–20页）[谷歌学者]）从全球“国家政府、国际组织、咨询公司、智库和民间社会组织”的60多个人工智能战略数据集中提取。本文的跨学科研究框架借鉴了科学、技术和创新研究、政策分析和政治学的概念和方法。它由两个主要支柱组成。首先，为了研究政策文件中人工智能的风险、不确定性和意外后果，使用了政策框架和积极和消极预期的概念。其次，为了研究政策文件中概述的新兴治理和监管框架，使用了治理和治理模型的概念。对人工智能政策文件进行分析，以确定它们是如何构建人工智能的。根据市场、参与、灵活和放松管制等多种治理模式对人工智能的新兴治理进行了分析（Peters，2001年） 治理的未来：四种新兴模式Kansas:堪萨斯大学出版社[谷歌学者]）。本文通过分析人工智能的风险和不确定性框架如何导致制定特定的治理和监管安排，从而映射各国、地区和组织之间的相似性和差异，从而有助于新兴颠覆性技术的研究

5.2指导人工智能的治理：从的角度来看的国家战略（Radu，2021指导人工智能治理：国家战略视角。在政策和社会中[Taylor&；Francis Online]，[谷歌学者]）

最新一波人工智能发展围绕着深度学习、语音和图像识别以及日常部署的数据分析工具，如银行、电子学习、医疗诊断，智能车辆（Radu，2021）指导人工智能治理：国家战略视角。在政策和社会中[Taylor&；Francis Online]，[谷歌学者]）。本文对治理进行了实证研究对全球人工智能发展的反应。文章审视了世界范围内最近的人工智能国家战略，以揭示在州一级阐明监管的方式

文章强调了主导监管话语的关键要素，并对人工智能国家项目进行了比较。使用内容分析和比较方法，Radu（2021）指导人工智能治理：国家战略视角。在政策和社会中[Taylor&；Francis Online][/span>，[Google Scholar][/span>）研究了许多国家的战略，以确定人工智能治理的衔接以及政治和社会技术结构的共同生产。在实证证据的基础上，文章强调了技术项目的集体代表性是如何在政治上预先定义的，并被封装到一个愿景中，该愿景被整合到社会相关部门的监管中（Flichy，2008Flichy（2008） 理解技术创新：社会技术方法。英国切尔滕纳姆：Edward Elgar Publishing[谷歌学者]）。因此，本文通过对辩论进行概念化，并批判性地审视人工智能的治理及其未来的复杂影响，为围绕人工智能的政策讨论做出了贡献

人工代理的治理（Gahnberg，2021）人工代理的治理。在政策和社会中[谷歌学者]）

Gahnberg认为，需要制定新的监管战略来构想治理人工机构的挑战。在文章中，他认为，“智能”的概念是衡量系统成功与否的一个模糊指标，人工智能系统的关键特征是其在特定环境中作为自主代理的整体能力（Gahnberg，2021，人工代理的治理。在政策和社会中[谷歌学者]）。在文章中，他假设，虽然不同的人工智能应用程序从过滤垃圾邮件到杀手机器人，但它们有一个共同的特点，即被授权执行与特定目标相关的任务

文章强调了将这一权力授予人工代理人的社会和法律限制，包括可能禁止授权代理人追求某些目标（例如使用致命武力）的法律和道德规定。Gahnberg（2021）人工代理的治理。在政策和社会中[谷歌学者]）进一步突出了非国家行为者在治理机制发展中的作用，例如在技术社区为故障安全机制或诸如算法正义联盟（Algorithmic Justice League）之类的倡议开发标准和最佳实践的情况下，该联盟旨在通过创建包容性训练数据来减轻算法偏见的风险。通过研究治理人工机构的挑战，文章为有关人工智能治理的辩论提供了见解

管理新加坡长期护理中机器人和自主系统的采用（Tan&Taeihagh，2021）管理新加坡在长期护理中采用机器人和自主系统。政策与社会（第1–21页）[Taylor&；Francis Online]，[谷歌学者]）

自主系统和机器人被称为一种可行的技术解决方案，可解决全球日益增长的长期护理需求，人口老龄化加剧了这一问题（Robinson，MacDonald，&；Broadbent，2014年Robinson，H.HTTP Status 400 – Bad Request

HTTP Status 400 – Bad Request

: 0分享分析风险应对策略的公共政策视角 风险分析，41（3），519–532。https://doi.org/10.1111/risa.13505[谷歌学者]；Taihah&；Lim，2019塔伊哈，A，&Lim，H。S、 M.（2019）管理自动驾驶车辆：针对安全、责任、隐私、网络安全和行业风险的新兴对策 交通评论，39（1），103–128[Taylor&；Francis Online]、[Web of Science®]、[Google Scholar]）

本文是一项理论上知情的实证研究，以新加坡为案例研究，探讨了在长期护理中采用自主系统作为政策措施，以遏制人口老龄化导致的社会护理需求上升的问题。本文回顾了新加坡老年人社会护理和长期护理中自主系统的各种现有和潜在应用。然后讨论了将这些系统部署到用户、社会和整个经济中的技术风险和道德影响。最后，它评估了治理策略在多大程度上影响新加坡政府采取的政策应对措施，特别是在平衡创新需求和解决医疗保健中新兴技术部署带来的不确定性方面。收集的见解对于政策学习非常重要，尤其是在理解新技术和新兴技术的治理过程，作为解决卫生部门供需不匹配的可能解决方案方面。分析将展示政策能力的互动动态，治理战略和政策响应是新兴技术治理的三大要素，并调整其各自的比例，以促进新技术在医疗领域的有效实施（Tan和Taeihagh，2021（2021）管理新加坡在长期护理中采用机器人和自主系统。政策与社会（第1–21页）[Taylor&；Francis Online]，[谷歌学者]）

5.5.探索颠覆性技术的治理困境：澳大利亚和新西兰的护理机器人案例（Dickinson，Smith，Carey，&Carey，2021，凯里，凯里探索颠覆性技术的治理困境：澳大利亚和新西兰护理机器人的案例政策与政策；社会，本期[Taylor&；Francis Online]，[Google Scholar]）

尽管世界各地正在进行一系列实验，将人工智能和机器人应用于各种护理环境（Tan等人，2021Tan，S.Y.（2021）在长期护理中使用机器人和自主系统的风险和道德之间的紧张关系和对抗性互动 技术预测与社会变革，167，120686[Crosref]、[Web of Science®]、[Google Scholar]），对积极结果的期望很高，Dickinson等人（2021，Carey，N探索颠覆性技术的治理困境：澳大利亚和新西兰护理机器人的案例 政策与政策；社会，本期[Taylor&；Francis Online][/span>，[Google Scholar][/span>）关注意外后果和风险，他们的文章探讨了澳大利亚和新西兰在护理服务中使用机器人。他们指出，虽然关于机器人的文献正在兴起，但大部分文献都是围绕技术效率、可接受性或法律后果展开的。他们指出，在护理环境中机器人的实施缺乏关注及其对决策的影响

通过对政策制定者、护理提供者、机器人供应商和技术专家的半结构化访谈，Dickinson等人（2021）●●●●探索颠覆性技术的治理困境：澳大利亚和新西兰护理机器人的案例 政策与政策；社会，本期[Taylor&；Francis Online]，[Google Scholar]）引发了这一领域面临的一系列治理“困境”，并确定了与独立和监督、人类互动的重塑、，护理和接受护理的动态说明了护理服务中机器人管理所涉及的一些紧张关系，并提请人们注意政府为有效采用这些技术所需解决的问题
法律与技术的冲突：可预见性、合理性和先进的驾驶员辅助系统（Leiman，2021）法律和技术冲突：可预见性、合理性和先进的驾驶员辅助系统。政策与社会（第1–22页）[Taylor&；Francis Online]，[谷歌学者]）
自2016年5月以来，自动化车辆发生了多起死亡事件，这一事件得到了高度宣传。同时，由于人工驾驶车辆的碰撞，已造成数百万人重伤和死亡。在赔偿取决于过错成立的司法管辖区，许多受伤者或其家属将无法获得任何赔偿（Leiman，2021，Leiman和T.（2021）法律和技术冲突：可预见性、合理性和先进的驾驶员辅助系统。政策与社会（第1–22页）[Taylor&；Francis Online]，[谷歌学者]）。在许多澳大利亚司法管辖区，当适用于部分自动化、高度自动化和全自动化车辆时，所需的护理标准面临重大挑战（同上）
Leiman（2021）法律和技术冲突：可预见性、合理性和先进的驾驶员辅助系统。政策与社会（第1–22页）[Taylor&；Francis Online]，[Google Scholar]）探讨了澳大利亚现有监管框架在确定机动车辆法律责任时如何考虑风险感知，以及这种方法是否适用于自动车辆。文章研究了法律本身是否会影响自动车辆产生的数据对风险的认知，并考虑了澳大利亚现有的无过错或混合方案对法律责任的效力，并将其与英国议会通过的强制保险公司承担责任的替代立法进行了比较。莱曼还讨论了有关政府在确保自动化车辆安全和故障方面的作用的建议

5.7共同规范数字平台的算法公开。Di Porto和Zuppetta（2021）（2021）共同规范数字平台的算法披露。政策与社会（第1–22页）<[Taylor&Francis Online]，[Google Scholar]）

Di Porto和Zuppetta（2021>Di Porto、F.、Zuppetta和M.（2021）●●●●共同规范数字平台的算法披露。政策与社会（第1–22页）[Taylor&；Francis Online]，[谷歌学者]）探讨IT中介平台采用算法决策的能力日益增强，以及披露自我规管是否作为它目前处于欧盟层面，是解决私人实体日益采用算法决策所带来的风险的适当策略。虽然通用数据保护条例（GDPR）要求平台提供有关人工智能系统处理个人数据的信息，并自我评估数据泄露的风险，没有提及接收实体理解算法决策的含义和后果的不同能力。

文章认为，考虑到人工智能的新发展，应重新考虑披露自我监管，并指出，由于最终消费者和中小企业不知道这些平台的技术基础个人数据，监管机构应该介入并解决这个问题。此外，随着平台越来越多地部署人工智能和大数据，他们已经获得了操纵自己生成的信息的能力，从而削弱了消费者和小企业选择的有效性（Di Porto和Zuppetta，2021>Di Porto，F.和Zuppetta，M.>（2021）共同规范数字平台的算法披露。政策与社会（第1–22页）。[Taylor&；Francis Online]，[谷歌学者]）。作者主张，监管机构应解决信息不对称、低议价能力和错误信息问题，并支持一种强制的联合监管方法，允许平台和消费者参与，并根据消费者的需求开发个性化披露，以增强他们的能力。