简介

最近的报告估计，至少有70套由政府、人工智能公司和独立人工智能伦理倡议提出的公开可用的人工智能伦理原则（Floridi等人，2018；Jobin等人，2019）。然而，人们也普遍认识到，这种高水平的原则很难通过明确的规则和设计指南转化为实践（Morley等人，2020；Peters等人，2020）。

因此，许多声称采用道德原则的人工智能研究和开发组被指责为无端的道德信号或“道德清洗”（Nemitz，2018）。根据这些批评者的说法，道德原则没有明显地落实到人工智能研究和开发实践中，无异于烟雾和镜子，向消费者投射了一种毫无根据的可信形象，并为决策者提供了不追求可执行监管的理由（Calo，2017；Mittelstadt，2019；Whittlestone等人（2019b））。

因此，对于高水平原则是否以及如何影响安全和有益的人工智能的发展，仍然存在一个问题。在本文中，我同意将高水平原则转化为实践是一个重大挑战；然而，我们不应如此迅速地将原则视为人工智能治理体系中的工具。除了作为阐明更具体的基层规则和实践的第一步，高级别原则在促进和维护专业社区的文化价值观和行为规范方面也发挥着关键作用，这有助于更明确的规则和要求的接受和提高效力。鉴于人工智能伦理原则的第二个作用，我主张对人工智能治理采取双重方法，其中原则主义是对外部政策的补充，并被认为有助于成功实施外部规则和条例

要理解原则在人工智能治理中的作用，医学伦理是一个很好的起点。^脚注1考虑“不伤害”这一医学咒语，这是希波克拉底式的非人道主义基础，这是Beauchamp和Childress（1979）提出的四项生物医学原则之一。“不伤害”或“无恶意”是医学界的中心原则，但尚不清楚为什么需要阐明这一原则。一方面，医生似乎不应该故意伤害患者，但另一方面，这一点过于宽泛，无法给出具体的指导。例如，关于医生协助自杀是否符合或违背非人道原则，存在着很多争论（Shibata，2017）。那么，如果一个原则过于明显或过于宽泛，为什么要陈述它呢

原则是阐明道德实践的第一步

最明显的答案是，原则为阐明更精确的道德实践规则和要求提供了一个起点。例如，简单地说“不伤害”会引发一些问题，例如，在医生协助自杀、堕胎或痛苦治疗制度的背景下，“不伤害伤害”意味着什么？随后，相关的争论接踵而至。

在人工智能伦理和治理文献的框架内，原则主要被认为发挥了这样的“起点”功能。由于其普遍性，原则本身不能提供具体的地面指导。然而，它们在对伦理问题进行分类以供进一步研究方面确实发挥了有用的作用，因此，它们为思考更明确的规则和要求提供了一个出发点，这些规则和要求应用于指导人工智能研究和开发。

然而，将高层原则转化为底层规则和需求仍然是一项耗时且需要认知的任务。它需要仔细考虑原则的定义、确定相关情景、参与实践中出现道德问题的方式、为每个情景阐明具体的准则（规则、清单等）以及实施和执行计划。这些步骤中的每一个步骤的决定都存在固有的争议，这可能会导致不愿尝试进一步规范。

Brent Mittelstadt（2019）解释说，将生物医学原理转化为医学实践取得了一定的成功，因为医学专业受益于一个统一的目标（治疗疾病和减轻患者痛苦）明确定义的活动范围和建立的系统促进审议和阐明明确的规则和要求（如内部审查委员会）。相比之下，Mittelstadt认为，人工智能开发人员的目标因技术应用的背景（如医学、刑事判决、金融、军事应用等）而大不相同，而且该领域目前缺乏支持人工智能伦理原则翻译和实施的基础设施。米特尔斯塔特怀疑原则能否在人工智能伦理治理中发挥重要作用，并警告称，声称采用人工智能伦理原则的机构进行“伦理清洗”的风险很高。因此，为了确保安全和有益的人工智能的发展，人工智能治理应主要依赖明确的政策要求，如审计和记录保存要求。

我同意道德清洗是一个严重的问题，尤其是如果仅凭对道德原则的自我遵守就有望支撑人工智能治理。事实上，即使在医学背景下，也有一些人反对原则主义。例如，在博尚和柴尔德丽斯阐述四项生物医学伦理原则之后，Clouser和Gert（1990）领导了一个谨慎的反对者，他们认为“原则”充其量主要是作为清单，列出在考虑生物医学道德问题时值得记住的问题。最坏的情况下，“原则”由于未能成为指导原则，以及对道德理论的折衷和不系统的使用，模糊和混淆了道德推理”（220）。^{脚注然而，诸如Mittelstadt和Clouser&；格特认为，原则的“起点”功能中的缺陷往往会忽略高层次原则的第二个关键功能。把这称为原则的“文化影响”功能。}

再次考虑非偶然性的生物医学原则。医学生不会重复《非恶性》，因为它特别深刻，或者因为它概述了一些有用的指导。相反，在没有转化为明确的规则和要求的情况下，高水平的原则，如非人道、仁慈和尊重患者自主性，定义了一种心态，这种心态会影响从业者如何理解他们面临的挑战和他们接受的解决方案。

例如，世界经济论坛（2020）最近发布的一份白皮书确定了高级人工智能原则的一个关键功能，即提供了一个通用词汇，人工智能开发人员可以使用该词汇讨论设计挑战，并思考潜在的影响和风险。反过来，通用词汇会影响所考虑的解决方案。例如，有道理的是，主要从优化和效率的角度思考的AI开发人员将从不同的角度来概念化医疗诊断系统，而不是考虑包容性和可解释性的开发人员。被视为构建从业者思维定势的工具，与其说有多少高层次的人工智能原则，或者它们被描绘或定义得有多精确，倒不重要。重要的是，他们始终参与并广泛讨论和辩论。

然而，更重要的是原则也可以用于在专业社区内建立行为规范。规范通过社会压力和内在价值观影响个人行为；1979年，Childress对经典生物医学原则——非人道、仁慈、自治和正义——的阐述是由一系列明显的违反行为引发的，如塔斯基吉梅毒试验（Beecher，1966）。在将其重新表述为四大核心医学原则之一之后，非机会主义被强化为医学专业的一个决定性特征。对于一名医学专业人士来说，忽视这一点将招致社会嘲笑，并有可能遭到专业人士的拒绝。

其他原则从一开始就不那么明显。例如，在阐明现代生物医学原则之前，“医生最了解”这句口头禅更准确地描述了医学心理，而不是尊重患者的自主性和知情同意。引入一项新原则的行为，可能是广泛的，有助于在专业社区内发起文化转变。这种现象也可能发生在人工智能伦理的背景下。快速发展的硅谷文化（人工智能研究和开发在很大程度上植根于此）主要重视效率、优化和规模（Thompson，2019:21-23）。许多人提出了人工智能原则，如公平、问责制、可解释性、，包容性和透明度挑战了这一现状，并可用于促使类似的文化转向安全、责任和人类福祉的优先顺序

为什么要关心文化

原则作为影响AI开发者文化的工具的重要性不应被低估。建立理想的人工智能研发文化对于有效的人工智能治理至关重要，原因有两个

首先，文化规范和价值观超越了明确的规则和要求。如果规则规定了法律的文字，那么规范和价值观就是精神。并不是医生或人工智能开发人员可能面临的每一个决定都可以被规定，在正式规则没有规定具体行动的情况下，专业价值观和行为准则可以提供总体指导，以填补空白。例如，在时间和获得更明确指导的途径有限的临床前紧急情况下，使用一般价值来指导医疗决策就说明了这一点（Torabi等人，2018）

其次，文化规范与政策目标的一致性是明确规则和条例的接受和效力的关键。个人更有可能坚持他们相信的外在措施。正如Seth Baum（2017）所解释的那样，明确的规则和要求通常会产生额外的工作，而检查表、自我评估和影响陈述等耗时的要求如果被视为不必要的限制或多余，可能会引发从业者的怨恨。反过来，这种怨恨可能会导致对正在提倡的原则的拒绝（Pettit，2002）

另一方面，如果外部规则和条例能够吸引所适用的社区所持有的文化规范和价值观，则其效力更大。文化规范通过外部社会压力激励个人行为，如果内在化，则通过内部产生的奖励和惩罚（例如羞耻或骄傲）激励个人行为（Coleman，1994）。如果一个人的内在规范与政策目标一致，那么她将更有动力响应政策的文字和精神。例如，考虑医生在进行任何手术之前必须征得患者的知情同意。将“尊重患者自主性”的生物医学规范内化的医生将更有动力确保患者了解他们的治疗选择，并解决他们的所有顾虑，而怀有“医生最了解”心态的医生更有可能只满足知情同意的最低要求，并在可能的情况下偷工减料。在人工智能的情况下，我们可能同样期望，如果这些外部措施与社区内部化的文化规范相一致，人工智能研究人员和开发人员将更有效、更愿意遵守任何规则和要求

结论：人工智能治理的双重方法

原则在其“起点”功能中的效用有限，因为难以将高级原则转化为底层实践。然而，原则在其“文化影响”是在人工智能开发人员中建立责任和慈善文化的催化剂。当然，文化变迁是一个复杂的过程。鼓励人工智能开发者内化新的价值观，改变他们的社会规范以符合政策目标，这不仅仅是在墙上张贴一套原则的问题。外部规则和要求在加强价值观和“推动”规范发展方面发挥着重要作用。相反，内化的规范和价值观会影响外部措施的效力，个体从业者参与外部措施的概念化、沟通和实施将是促进其实施的关键

不应只指望原则来管理人工智能，规则和要求也不应如此。明确的监管对于防止道德清洗和确保达到最低道德标准是必要的，但与文化规范保持一致是确保明确的规则和要求充分发挥其潜力的关键。如果人工智能治理的目的是确保负责任的研究、开发和部署安全和有益的人工智能，那么我认为最有效的人工智能治理策略是双重方法；明确的规则和条例应该得到基于原则的倡议的支持，鼓励人工智能研究和开发社区内的文化变革，以淡化优化和规模可能与AI治理的目标对立，并促进慈善和责任等价值观。