人工智能（AI）等颠覆性技术的迅速出现要求创建新的治理框架，以便这些技术的发展能够在安全和道德的环境中进行，以减轻其风险并使其对人类的利益最大化。人工智能治理有公共和私人层面。多家私营公司呼吁加强公共监管，以确保新技术的道德使用，一些公司甚至暂停了高风险应用，如用于执法的面部识别，直到适当的监管框架到位。公私合作对于创造创新的治理解决方案至关重要，这些解决方案可以随着技术的发展进行调整，不仅可以支持创新和商业应用，还可以提供保护人权和社会价值的坚固护栏

人工智能治理中的私人倡议

私人公司的治理倡议通常涉及管理负责任人工智能开发和使用的最佳实践和自愿指南

另一项私人倡议，人工智能合作伙伴关系，由几家大型科技公司-苹果、亚马逊、DeepMind和谷歌、Facebook、IBM和微软-建立，并自那以后扩大到包括各种各样的公司、智库、学术人工智能组织、专业协会、，以及美国公民自由联盟、大赦国际、联合国儿童基金会和人权观察等慈善团体。该伙伴关系的工作涉及研究、讨论、识别、分享和推荐人工智能技术研究、开发、测试和应用方面的最佳实践。该伙伴关系涉及公平和包容、解释和透明、安全和隐私、价值观和道德、人与人工智能系统之间的合作、系统的互操作性以及技术的可靠性、可靠性、遏制力、安全性和鲁棒性等领域

公私合作对于创建创新的治理解决方案至关重要，这些解决方案可以随着技术的发展而调整

>

信息技术产业理事会（ITI）是一个行业协会，它制定了自己的一套人工智能原则，用于设计不符合现有法律的人工智能技术（ITI 2017）。ITI认识到技术的潜在使用和误用，其使用或误用的影响，以及行业有责任和机会采取措施，通过致力于设计道德来避免人工智能的合理可预测滥用

许多大型科技公司都有基于价值的内部人工智能活动原则来指导其行为¹然而，这些私人计划没有约束力，需要使用该技术的公司自愿遵守

人工智能治理中的公共倡议

>公共治理倡议包括基于国际价值的负责任人工智能政策和国家立法指南

除了国际原则外，多个外国政府还提出了国家人工智能政策或旨在规范相邻技术堆栈某些方面的政策。在加拿大，《国家网络安全战略》提出了保护加拿大人数字隐私、安全和经济的愿景，并承诺与法国就道德人工智能开展合作（2018年加拿大公共安全）

中国有一个国家推荐的个人数据收集标准，发布为GB/T 35273-2020或“信息安全技术-个人信息安全规范”（中华人民共和国2020），该标准解决了与欧盟《一般数据保护条例》中类似的数据问题。中国的“下一代人工智能发展计划”强调，需要加强研究，建立与人工智能以及隐私和财产保护相关的法律、道德和社会问题的法律、法规和伦理框架（中华人民共和国2017年）。在印度，人们讨论了人工智能伦理、隐私、安全和透明度的重要性，以及当前缺乏关于隐私和安全的法规（印度国家转型研究所2018）

欧盟法律事务委员会建议，“应根据机器人的复杂性及其诸多社会、医学和生物伦理影响，更新和补充现有的欧盟法律框架”（欧洲议会2017，9）。欧盟委员会（2018a）发布了关于人工智能的战略文件，但没有提出任何新的人工智能监管措施。作为后续行动，它发布了一份“人工智能协调行动计划”，阐述了欧盟范围内人工智能战略的目标和计划（欧盟委员会2018b）。英国的一项战略考虑了人工智能进步的经济、道德和社会影响，并建议为劳动力市场、开放数据和数据保护立法、数据可移植性和数据信托的中断做好准备。英国的观点集中于这样一个事实，即必须防止控制大量数据的大公司变得过于强大。法国旨在实施包容性和多样化的人工智能，并避免“人工智能的不透明私有化或其潜在的专制使用”（马克龙，2018年《拉贝桑德拉塔纳报》引用）

建议

人工智能和保持人类“在循环中”

美国似乎专注于人工智能政策的军事方面，众议院军事委员会（House Committee on Armed Services）立法成立了一个人工智能国家安全委员会，授权“考虑推进美国人工智能、机器学习和相关技术发展所需的方法和手段，以全面满足美国的国家安全和国防需求。“委员会的最新报告建议成立一个由白宫领导的技术委员会，旨在传达一个重要的想法：“在计算、数据和人才方面赢得人工智能竞争的国家、公司和研究人员将能够赢得一场更大的比赛”（国家人工智能安全委员会2020，2）

然而，这些政策对私人玩家没有约束力。各国政府正慢慢开始针对某些技术引入具有约束力的国家法律，如自动决策、人脸识别和会话代理。在技术开发和部署加速的同时，私人行为者继续要求加强监管，以确保使用新技术并降低风险

需要共同努力

需要私营公司和公共政府的共同努力，以创建一个更灵活的监管框架，应对不断加快的破坏性技术步伐。许多私人实体更好地理解人工智能工具和监管的意外影响，使其观点对公共监管机构至关重要

需要采取公共行动来强制遵守人工智能政策并执行道德要求。不同公共行为体之间应协调努力。具有类似政策目标的不同监管机构应采用通用的立法语言，以鼓励监管趋同。例如，具有通用语言的国际标准有助于简化在多个国家运营的私营企业的采用。为了广泛遵守任何新法规，需要私人行为者的合作

当前的人工智能策略通常基于价值，可能无法提供足够详细的信息，说明私人行为者如何在不同的用例中实现目标，以遵守该策略。应该有足够的指导，以了解如何设计特定的人工智能工具来实现目标，以及特定工具是否符合目标。任何条例都应包括与私人行为者合作制定的业务指导和可行指令。不同应用程序的详细示例有助于提供指导，并为特定策略对这些应用程序的影响提供更多确定性

私营企业可以同意自愿采取公共举措，直到新的治理解决方案可用。如果一家公司自愿采用人工智能政策，那么它必须遵守该政策。评估特定的人工智能工具是否符合原则，需要私人玩家付出巨大努力。综合评估通常需要对特定人工智能工具的技术理解，以了解其如何映射到不同的原则。然而，监管机构可能缺乏知识，需要私营行业的投入，以提高对这些复杂技术的理解。执行一项政策可能需要对人工智能工具进行检查，如果该工具的某些方面作为商业机密受到保护，这是不可取的。对政策规定的代码进行检查时，需要对代码采取保护措施

私人合同可用于增加对新破坏性技术的治理条款的采用。否则可能是自愿的道德和治理要求可以纳入合同中，以在私人参与者之间建立有约束力的义务。然而，将治理条款纳入合同需要缔约方的同意。如果当事方在与人工智能技术相关的合同中通常包含治理条款，它们将有助于鼓励这些条款的采用和标准化，并至少建立道德和安全的最低标准

开源软件许可证也可用于鼓励采用治理条款。颠覆性技术通常作为标准条款许可的“开源”工具提供。还可以更新软件许可证，以包括最低治理要求，例如通过列出开源工具和禁止使用的许可道德用途。这些工具的广泛使用反过来会引发这些最低治理条款的广泛采用。例如，为公共卫生目的追踪疫情的接触者追踪工具可能涉及收集具有不同敏感度的数据。接触者追踪工具和相关数据可以根据规定基本道德规范的使用条款发布

针对颠覆性技术的创新监管模式也正在出现。新的混合“监管市场”将强有力的政府监管与私营部门监管机构相结合。在这些监管市场中，私营部门监管机构争夺监管特定人工智能领域的权利。政府可以制定目标，独立公司可以决定如何实现这些目标，从而激励他们发明简化的方法来实现这些政府设定的目标，而不是制定传统的法规。私人监管机构可能会受到其监管实体而非公共利益的影响，因此，确保私人监管机构独立行事至关重要。

私人行为者将继续要求公共监管部门对高风险的颠覆性技术应用提供指导，例如在自动驾驶汽车和执法中使用人工智能。在适当的安全和道德监管措施到位之前，这些技术的使用将受到抑制。然而，监管合规和执行方面的不确定性也会扼杀创新。我们需要新的解决方案来管理对高风险应用程序做出响应的破坏性技术，同时支持技术开发和部署

简介