在过去的六个月里，中国政府发布了一系列政策文件和公开声明，最终为国家的人工智能（AI）治理体系注入了活力。鉴于中国利用人工智能进行大规模监控的记录，人们很容易将这些举措视为掩盖广泛侵犯人权的遮羞布。但这种反应可能会忽视对全球人工智能发展和国家安全具有重大影响的监管变化。任何想要与中国的人工智能生态系统竞争、合作或仅仅了解中国的人工生态系统的人都必须仔细审视这些举措

这些最近的举措表明，人工智能治理出现了三种不同的方法，每种方法都由中国官僚机构的不同分支支持，并且每种方法的成熟程度都不同。他们的支持者也有着截然不同的官僚作风。值得研究这三种方法及其支持者，以及它们如何相互补充和竞争，以更好地了解中国人工智能治理的方向

科学技术部

中国人工智能治理的三种方法
组织	方法重点	相关文件//td>
中国网络空间管理局	>在线算法规则，关注公众舆论	-《互联网信息服务算法推荐管理规定》 -《关于加强网络信息服务算法全面治理的指导意见》
	中国信息通信技术研究院	“可信人工智能”测试和认证工具系统	-值得信赖的人工智能白皮书 -值得信任的面部识别应用和保护计划
	在公司和研究机构内建立人工智能伦理原则并设立技术伦理审查委员会	-关于加强科学和技术伦理治理的指导意见技术 -新一代人工智能的道德规范

中国网络空间管理局（CAC）在人工智能治理方面做出了最有力、最具影响力的举措，这是一个相对较新但非常强大的监管机构，负责制定人工智能某些应用的规则。CAC的方法是最成熟、最有章可循、最关注人工智能在传播信息方面的作用的

2021 8月，CAC发布了一套由30条规则组成的草案，用于规范互联网推荐算法，该软件为从TikTok到新闻应用程序和搜索引擎的所有领域提供了强大的动力。其中一些规则是针对中国的，比如规定推荐算法“大力传播正能量”的规则。但其他条款在正在进行的国际辩论中有所突破，比如要求算法提供商能够“解释”和“补救”算法侵犯用户权益的情况。如果付诸实施，这些类型的规定可能会促使中国公司尝试新的算法可解释性披露和方法，这是一个新兴但非常不成熟的机器学习研究领域

在发布推荐算法规则后不久，CAC就推出了一项更为雄心勃勃的工作：一份管理所有互联网算法的三年路线图。要完成这一路线图，将需要包括工业和信息技术部（MIIT）在内的九个共同签署该项目的监管机构的投入

第二种人工智能治理方法来自中国信息通信技术研究院（CAICT），这是工信部下属的一个有影响力的智库。CAICT积极参与政策制定和技术测试和认证的许多方面，通过专注于创建测量和测试人工智能系统的工具，其方法与众不同。从技术和监管角度来看，这项工作仍处于起步阶段。但如果成功，它将为中国更大的人工智能治理体系奠定基础，确保部署的系统稳健、可靠和可控

马特·希恩（Matt Sheehan）是卡内基国际和平基金会（Carnegie Endowment for International Peace）的研究员，他的研究重点是全球技术问题，专门研究中国的人工智能生态系统。style=背景图像：网址(https://images.carnegieendowment.org/images/experts/Matt_Sheehan_Headshot_High_Res_cropped.jpg)>

Matt Sheehan

Matt Sheehan是卡内基国际和平基金会（Carnegie Endowment for International Peace）的研究员，他的研究重点是全球技术问题，专门研究中国的人工智能生态系统

更多>

中国国际计算机科学技术委员会正在与中国人工智能产业联盟（一个政府赞助的行业机构）合作，测试和认证不同类型的人工智能系统。2021 11月，该公司发布了第一批可信赖的面部识别系统AI认证。根据实施的技术严格程度，这些类型的认证可能有助于加快算法可解释性的进展，或者它们可能会变成一种官僚主义的寻租形式。在政策影响方面，CAICT通常被视为代表了强大的工信部的观点，但工信部领导层尚未发布自己关于值得信赖的人工智能的政策文件。是否发布将是这一方法背后的官僚动力的有力指标

最后，科技部（MOST）采取了三种人工智能治理方法中最轻的一种。其最受关注的出版物侧重于制定道德准则，依靠公司和研究人员监督自己将这些原则应用于他们的工作

2021 7月，科技部发布了指导方针，呼吁大学、实验室和公司成立内部审查委员会，监督和裁决技术伦理问题。两个月后，在社会变革管理计划下运作的主要人工智能专家委员会发布了自己的一套人工智能道德规范，特别关注将道德融入整个发展生命周期。从那时起，MOST一直鼓励领先的科技公司建立自己的道德审查委员会，并审计自己的产品

MOST的方法与联合国教育、科学及文化组织和经济合作与发展组织等国际组织的方法相似，这些组织发布了人工智能原则，并鼓励各国和公司采用这些原则。但在中国的背景下，这种策略感觉与该国日益实际的技术治理方法格格不入，这种脱节可能会削弱MOST努力的影响

一个未回答的问题是这三种方法如何结合在一起。中国各部委和行政机构之间的竞争是出了名的，它们不断地在国家中央领导层面前推挤，希望自己的举措成为党国的政策选择。在这场竞争中，CAC的方法似乎占据了明显的优势：它是最成熟的，最符合监管时代精神的，并且来自于最具官僚影响力的组织。但它的方法不可能完全靠自己取得成功。CAC要求公司能够解释其推荐算法的功能，而构成可解释人工智能的工具或认证可能来自CAICT。此外，考虑到技术的庞大和快速发展，值得信赖的人工智能的许多实际方面将首先出现在受MOST启发的各个公司的道德委员会中

算法治理的三年路线图提供了一些官僚合作的一瞥。尽管CAC显然是主要作者，但该文件包括了新的算法值得信赖的参考，以及公司设立道德审查委员会的参考，这些补充可能是在其他两个部委的要求下做出的。随着人工智能治理扩大到涵盖人工智能的许多工业和社会应用，官僚权力也可能发生重大变化。CAC传统上是一个以互联网为中心的监管机构，未来对自动驾驶汽车或医疗人工智能的监管可能会为工信部等部门夺取监管权创造机会

这些监管潮流的潜在影响远远超出了中国。如果CAC遵守了算法透明度和可以解释的是，中国将对欧洲监管机构长期争论的话题进行一些世界上最大的监管实验。中国公司是否能够满足这些新的要求，可能会在欧洲引发类似的解释权辩论

卡内基的相关分析。CAICT目前在认证人工智能系统方面的实验可能还不足以应对这些高风险部署决策。但对中国机构和技术专家如何处理这些问题的早期理解，可能会证明对政府很有价值，因为他们可能很快就会发现自己正在就自主武器和军备控制的各个方面进行谈判

2022年是中国政治日历上的重要一年，构建中国人工智能治理的人民和官僚机构可能会继续争夺地位和影响力。这种竞争的结果值得人工智能专家和中国观察人士密切关注。如果中国控制算法的尝试被证明是成功的，它们可能会给这些方法注入一种技术和监管软实力，从而塑造全球人工智能治理机制

简介