简介

最好的人工智能（AI）通常是最不可控、最不透明的。它是最不可控的，因为除其他原因外，它的一些过程太快，无法实时监控（Coeckelbergh 2020；Sparrow 2007），它也是最不透明的，因为它的一些技术基础，例如深度神经网络，使用难以穿透的复杂算法创建“黑匣子”（Bathaee 2018；Wang等人2019）。然而，就控制和预测结果的能力是人类道德责任的关键而言，一个紧迫的问题浮出水面：当如此复杂但无法控制和不透明的人工智能造成伤害时，例如当自动驾驶汽车碾压行人时，当手术机器人瘫痪患者时，或者当自主武器系统杀死非战斗人员时

这个问题引发了一场关于人工智能是否会造成“责任鸿沟”的争议性辩论，即没有人在道德上对人工智能造成的伤害负责<一些学者认为，人工智能的使用造成了责任差距（Danaher 2016；De Jong 2020；Matthias 2004；Sparrow 2007），正是因为它消除了控制和理解，而其他学者则否认了这种差距的存在（Himmelreich 2019；Johnson 2015；Tigard 2020）。还有一些人支持中间立场，认为差距存在，但比通常想象的要窄（Nyholm 2020，第3章；Schulzke 2013；Simpson和Müller 2016）

在这篇论文中，我将假设——为了论证——至少一些最复杂的人工智能系统确实会造成责任差距，我将询问我们是否可以随意弥补这些差距，即我们是否可以仅仅通过执行某个言语行为，即传达让自己负责的意图，我理解这类似于人们如何通过传达特此给予许可的意图（通过同意）给予许可。因此，承担责任将是一种真正的“规范权力”。因此，如果这种规范性权力存在，人们可以简单地让自己在道德上对他们本来不应该负责的事情负责。我将认为，这种规范性权力的某种形式确实存在，因此，我的目标不仅是解决当前人工智能伦理中的一个紧迫挑战，而且是更广泛地改变关于道德责任的辩论中的一些核心范式

我将按如下方式进行：我将首先讨论并拒绝香槟和汤肯斯（此后称为“CT”）的观点，他们主张承担责任。根据这一观点，军事指挥官可以而且必须提前接受对其指挥下的自主武器系统造成的任何伤害的指责和惩罚。然后，我将为我自己的承担责任的建议辩护，即人们可以让自己在道德上对人工智能系统造成的伤害负责，不仅是在时间之前，而且在伤害已经造成时。最后，我将概述承担责任的规范力量在多大程度上可以弥补人工智能的责任差距，并解释我的叙述如何即使对那些否认存在真正责任差距的人也保持吸引力

但在我继续之前，让我澄清一下本文的两个方面。首先，唯一可以通过规范性权力解决的责任差距将是与责任作为责任的责任相关的差距，而不是责任作为责任或惩罚的责任。第二，即使在将责任视为责任差距的问题上，拟议的规范性权力的效果最终也可能有限

CT的建议：承担预期责任的规范权力。他们争辩道，差距出现了，因为“（1）程序员[或开发和使用人工智能的任何其他人]不能对真正自主的机器人的行为负责，（…）（2）让一个非自主的机器人负责是没有意义和不令人满意的”（Champagne and Tonkens 2015，第134页）。然而，CT仍然声称“有办法密封责任真空”（第126页）。更准确地说，他们主张

“空白支票”责任的可能性站立可以对所有自主机器人设备的行为（正常或异常）承担责任，即使该人除了事先达成的协议之外，不能与这些行为有因果关系。”（第126页）
他们补充道：
'我们认为指挥官自愿和自由地将责任分配给（第133页）
因此，CT认为，一个人可以接受或对他们不应该负责的事情承担责任。首先，正是一个人的意志或沟通行为造成了这个人对人工智能造成的伤害的责任。CT称这种责任承担为“非因果归责”（第127、136页），并将其描述为签订了“明确的社会契约”（第136页。因此，承担责任是一种规范性权力：一个人只需通过某种言语行为就对某件事承担责任，就像一个人只需要通过同意行为就对某事给予许可一样。
更具体地说，CT谈论的是承担前瞻性责任，而不是回顾性责任。换言之，人们只“提前”承担责任，即对某些人工智能系统未来可能造成的伤害负责，而不是对已经造成的伤害。
此外，CT从责任和惩罚的角度讨论责任。为了承担责任，他们解释道，是“对战争中发生的任何机器人行为接受指责（或赞扬）”（第132页），“对任何被视为不道德的自发性机器人行为承担责任”（第134页），即“适当排名和充分知情的人”（Champagne and Tonkens 2015，第133页），不仅能够承担责任，而且有责任。换言之，这是“接受权威地位的一个不可协商的条件”（第132页），比如说，最高级别的军事指挥官或负责军事行动的政治家，这些人也要提前为“战争中发生的任何机器人行为”（第134页）承担责任。CT没有指定其他人可能能够对机器人行为负责，例如远程计算机程序员是否也能够这样做，但他们清楚，某些人必须负责。
总结这些点，我们可以看到，CT提出了一种将预期责任作为某些权力职位（如军事指挥官职位）的不可协商条件的说法。为了支持他们的观点，CT提出了两个主要论点。首先，他们声称，我们已经接受了类似于在医疗同意领域通过意志行为承担责任的行为：
'使用知情同意作为我们主观实践道德标准的一部分（例如，为实验研究招募患者），（至少有些）责任由此转移到了作出同意的代理人身上。”（第133页）
CT认为，医疗同意不仅创造了许可，而且塑造了责任。当患者同意医疗程序时，他不仅允许其医生继续进行，而且对医疗程序中固有的风险承担责任，即如果出现某些风险，患者放弃投诉的权利，至少只要医疗程序符合专业标准，他们认为，在人工智能的背景下，人们也可以承担责任，或者同意承担责任。
其次，CT声称，在接受新角色时，我们也已经承担了责任。例如，当我在大学接受一份工作时，我会在教学、管理和研究方面给自己施加一些我本来就不具备的义务。CT认为，军事指挥官在接受指挥官角色时可以承担责任的想法非常相似。因此，CT将他们的提议作为两个已被接受的想法的结合和进一步发展，即同意可以意味着承担责任的想法和我们在承担新角色时承担责任的观点。
对CT观点的批评
CT提出了一个有趣的提议。然而，他们的提议面临两个难题，因此，我们应该拒绝它指挥官必须接受“指责”（Champagne and Tonkens 2015，第132页），并对机器人的行为（如非法杀害非战斗人员）“受到惩罚”（第134页）。然而，军事指挥官可能仍然没有过错。更重要的是，正是在这种无过错的伤害因果关系的情况下，CT的“空白支票”责任应该弥补由此产生的责任差距

但是，其他人怎么能真正责怪指挥官而不暗示错误呢？正如弗里克所解释的那样：“当一个人做坏事不是因为自己的过错时，指责是不恰当的。”。如果没有过错，那么就没有适当的责任”（Fricker 2016，第170页）。在Gary Watson看来，“（道德上）指责是将某件事归因于代理人的（道德上的）过错”（Watson 2004，第266页）。Wolf表示，这种指责关系到“我们对错误行为可能形成的判断和态度”（Wolf 2011，第332页）。因此，当一个人没有过错时，他就不能适当地“指责”另一个人，而仅仅宣布接受指责也不会有什么不同。因此，如果要受到真正的指责，也必须有过错

这一立场背后的基本原理是，从概念上讲，我们无法区分道德责备与悲伤或失望，除非表明责备在其目标中记录了（至少是感知到的）道德过错。如果，正如认知责备理论所持（参见Hieronymi 2004；Watson 1996），责备本质上是对一个人或其行为的负面道德判断，那么这种判断需要提及某种道德错误，否则它就无法支撑其独特的道德负性。如果，正如情感指责理论所支持的那样（参见Menges 2017；Shoemaker 2017），指责本质上涉及特定形式的情感参与，最明显的是怨恨或愤怒，那么也需要指责对象的某种道德过错，否则愤怒和怨恨就变得不合适了。或者，如果责怪理论，特别是斯坎隆的版本（Scanlon 2008），认为责怪对人际关系造成了某种道德损害，那么我们也需要提到被责怪者的道德缺陷，否则，斯坎隆为什么会有这种道德损害，这将变得不可信，也就是说，为什么有人会有理由改变他们与被指责者的关系，比如不再把他们视为朋友（Scanlon 2008，第129页）。因此，在这些主要的责备方法中，需要对过错进行一些参考，以使责备不仅在内涵上充分，即对责备是（与悲伤或失望相反）提供合理的解释，而且在外延上充分，即提供将责备与其他类似的、，但不同的反应或判断（如悲伤或失望）

遵循这些指责方法，我将假设一个人在没有正当理由或借口的情况下，实施了有害或错误行为，或未履行某些规定的行为，是“有过错的”<换言之，过错是道德污点，是由既不正当也不可原谅的行为造成的。因此，可以理解的是，错误可能出现在广泛的情况下，可能包括人们的行为来自有缺陷的性格，即使他们无法控制自己的性格。然而，重要的是，过错不仅仅需要做一些会造成伤害的事情，比如冒一个后来发生的风险。这是因为，例如，当军事指挥官冒险使用自主武器系统时，原则上，指挥官可以有理由这样做（毕竟，如果这是最好的做法，所有事情都考虑在内），或者可以被原谅（例如，因为指挥官对情况的关键方面毫无过错）。无论哪种情况，指挥官在道德上都不会有过错，也不应该受到指责，即使风险已经发生，伤害已经造成。指挥官被赦免并无过错地造成伤害的案例类似于伯纳德·威廉姆斯的著名例子，即“卡车司机在没有过错的情况下碾压了一名儿童”（威廉姆斯1981年，第28页，重点补充）。就像威廉姆斯倒霉的卡车司机一样，CT倒霉的指挥官在故意从事某种活动或冒险时可能会造成严重伤害。然而，司机和指挥官可能都表现出了最大的努力，并不是他们自己的过错造成了伤害。但CT的描述适用于此类无过错伤害案件，并要求指挥官承担责任。更重要的是，如前所述，在这些无过错损害的情况下，责任缺口出现，CT关于“空白支票”责任的账目声称要消除责任缺口，这恰恰是

但一旦我们澄清了责任以过错为前提，我们可以看到CT面临两难境地：要么（i）在没有过错的情况下，责任是不适当的，因此，承担责任的行为不能将责任延伸到责任；或者（ii）在存在过错的情况下，责备是适当的，但承担责任的行为是多余的，因为适当的责备跟踪过错，而不是随意承担责任的先前行为。不管怎样，CT认为一个人可以通过意志行为使自己承担责任的观点是错误的。一个人不能适当地“责备”一个没有过错的人，而接受责备的声明也不能起到作用，就像一个人不能仅仅因为某人宣称自己值得憎恨而适当地憎恨他一样

然而，对CT建议的反对不仅适用于过失的责任，也适用于处罚责任，因为处罚也与过错有关。正如达夫所解释的：刑事审判旨在确定被控犯有此类罪行的人是否有罪；定罪不仅仅是以中立的语气记录被告在没有正当理由或借口的情况下犯错，而是谴责或责怪他犯错。他通常被判处的刑罚将这种责备传达给罪犯和其他人；这是将刑事处罚与国家可以施加的其他种类的负担以及刑法与其他种类的法律法规区分开来的部分原因（达夫，2021，第1页）因此，即使我们考虑（法律）惩罚，而不是（道德）责备，也会出现类似的困境：（i）惩罚在没有过错的情况下是不适当的，因此，先前承担责任的行为不能扩大刑事责任；或者（ii）在存在过错的情况下，惩罚是适当的，但承担责任的行为是多余的，因为适当的惩罚追踪过错，而不是事先决定延长个人的刑事责任。因此，在他们看来，CT对责任和惩罚的关注造成了一个根本性的问题，即道德责任和法律惩罚^脚注4
2.2.2困境2：要么严格责任的论点对CT的提案具有决定性，要么CT的提案无法弥补责任差距

然而，到目前为止，CT可能会对我的反对意见作出部分答复。即使在道德上不存在无过错的责任，在刑法中也有可能承担严格的刑事责任因此，CT能否至少从法律角度为他们的观点辩护

通过进一步阐述，“严格责任的罪行要求证明被告实施了被禁止的行为，但不要求证明被告应受责备”（Herring 2020，第210页）。适用于指挥官：只需证明自主武器系统在指挥官当值时造成伤害，从而违反了法律规范，而不是指挥官在任何方面都应受指责或有过错。然而，在这一点上我需要明确：关于CT提案的问题不在于在自主武器系统造成伤害的情况下，严格责任本身是否合理。更具体地说，问题是，军事指挥官是否可以提前决定是否对自己施加如此严格的责任。但要解决后一个问题，我们仍然可以先考虑前一个问题（即关于严格责任本身的问题），然后评估一旦我们关注强制严格责任的规范性权力，而不是传统的严格责任，相关论点会如何变化

对严格责任的支持本身在自主武器系统的背景下是很弱的，因为一些反对严格责任的关键论点完全适用。首先，严格责任犯罪通常涉及“较不严重”的犯罪，这些犯罪起到规范人们行为的作用，使社会能够有效运作，而不是表明被告的行为在道德上应受谴责。这些监管犯罪通常不需要犯罪意图的证明，因为它们没有更严重的犯罪所具有的道德谴责的分量（Herring 2020，第211页）。然而，正如CT声称的那样，军事指挥官可能要为明显的战争罪行负责，比如一个机器人的“杀戮狂欢”（Champagne and Tonkens 2015，第125页），该机器人射杀“明显投降”的人（第128页）。因此，在这种情况下，严格责任犯罪是不合适的

其次，在严格责任犯罪中，危险活动的成本通常由那些从中受益最多的人承担（Turner 2019，第91页）。然而，受益最大的不是指挥官使用自主武器系统。指挥官使用这些系统来保护人类士兵，并为她的国家参与军事行动。CT辩称，军事指挥官在其职业生涯中获得“社会声望”（Champagne and Tonkens 2015，第125页）。但是，战争中的复杂性和众多利益攸关方过于复杂，无法假设自主武器系统的使用主要有利于那些决定使用它们的人。因此，在这种程度上，严格责任也是不合适的

第三，大多数严格责任犯罪不会带来严重的耻辱，因此可以证明是合理的（Carpenter 2003，第221–223页；Herring 2020）（另见R v Hughes[2013]1 WLR 2461）。然而，杀害无辜的人会带来严重的耻辱，在这种程度上，对自主武器系统的危害承担严格责任也是不合适的

鉴于这些点，针对严格责任本身的案件似乎具有决定性意义。但是，如果不再是严格责任的问题，而是像CT所建议的那样，将严格责任强加给自己的规范性权力的问题，这些论点又会如何改变呢？看来，这些反对严格责任的论点的核心是，严格责任给被追究责任的人带来了严重的负担，例如对严重不法行为的指控和污名化，而没有给该人任何有意义的控制权，使其无法控制自己是否会受到这种负担。引入规范性权力和事先协议可以缓解这一问题：未来是否接受这种严格的责任由一个人决定，例如，指挥官决定是否接受涉及使用自主武器系统的特定角色，或者是否拒绝该角色。这足以挽救CT的提议吗

不幸的是，引入这种规范性权力并不能提供足够的控制来减轻反对严格责任的争论。根据CT的建议，指挥官需要提前决定是否对当值时自主武器系统造成的任何伤害承担严格责任。但在这一事先决定中，指挥官无法合理预见她可能要承担的伤害。此外，指挥官的控制权进一步受到以下事实的限制，即她只能行使一次承担责任的规范权力，即在决定是否接受其指挥官角色时。一旦她成为指挥官，就不可能再随意承担或拒绝责任，因此，在指挥官的角色范围内，一个人将承担传统意义上的严格责任。出于这个原因，CT的规范性权力并没有给人们带来重大的控制。它只提供了人们在其他领域已经拥有的控制的数量和类型，在这些领域，他们可以提前决定是否从事法律赋予严格责任的某些活动

但是，如果我们放弃军事指挥官也必须作为接受其角色的一个条件，提前接受严格的责任，并且我们给予指挥官更多的自由裁量权，以决定是否在其角色范围内承担责任，那该怎么办？这将产生更多的控制，并偏离严格责任的传统模式。然而，不幸的是，这条道路将导致CT陷入第二个两难境地：为了减轻反对严格责任的标准论点的力量（这似乎对CT的建议起决定性作用），CT需要给予军事指挥官更大的自由裁量权，以决定她是否将面临严格责任；自由裁量权越大，尤其是在指挥官的角色范围内，这些反对严格责任的标准论点就越不具有决定性。但为了缩小责任差距，CT根本不能授予任何重大的自由裁量权，否则是否承担责任将完全取决于情况。因此，CT的建议面临着一个无法克服的问题：他们需要同时做到这两件事，增加和减少指挥官的自由裁量权

因此，我得出结论，即使是严格的刑事责任模式也不是CT建议的辩护版本。CT提案中的主要障碍是关注责任，即责任，无论是道德谴责还是法律惩罚。因此，如果我们要发展一种更好的承担责任的规范权力，这就是需要改变的地方

我的建议：采取回顾性应对措施的规范权力

为了重新开始，我现在将把重点从责任转移到责任，理解为责任和惩罚，理解为道德责任。我定义了道德责任（此后称为“责任”）作为回答和解释的义务，通常是一个人自己的有害行为，从而对那些有资格要求这样解释的人作出回应。如此理解，责任也可能导致进一步的义务，例如道歉的义务，对受到伤害的人的福祉采取后续行动的义务，采取预防措施以避免类似的伤害再次发生，等等，可以根据与道德责任相关的某些义务来定义

这种对责任的理解稍微偏离了哲学正统。例如，Shoemaker认为，对某事负责意味着一个人对什么负责在某种程度上反映了一个人的“判断质量”。因此，可回答性预设了与我们判断的某种联系，从而使某些所谓的反应性态度变得适当（Shoemaker 2015，第2章）。相比之下，在我看来，责任感并不意味着我的责任反映了我的判断质量。要在道德上负责，只需要我有道德义务向别人解释和回答。因此，我对责任的看法与安东尼·达夫（Antony Duff）的观点最为接近，后者也将责任描述为对某些人的解释，并避免将责任人的判断质量或资格作为反应态度的目标（达夫2009）

在接下来的内容中，我将依靠这种责任感的概念，并认为，在某些情况下，存在一种规范性的力量，可以通过这种方式，无论是前瞻性的还是回顾性的，让自己对复杂的人工智能系统所造成的伤害承担道德责任^脚注5我将为这个视图提供两个主要论点

从类比到承诺的论证
David Owens认为，“承诺之所以存在，是因为它符合我们的权威利益”（Owens 2012，第146页）。在本节中，我扩展了欧文斯关于承诺支持承担责任的规范权力的观点。更具体地说，我认为，如果我们至少接受欧文斯关于承诺的有影响力的观点，我们也应该接受我关于承担责任的具体观点
欧文斯解释说，权威利益是规范性利益，即规范性方面的利益，如某些道德义务的存在。更具体地说，权威利益是“在控制他人有义务做的事情中的利益”（Owens 2012，第142页；重点增加）。承诺服务于这些权威利益，因为当一个人接受并接受承诺时，他就可以控制另一个人对他的特定道德义务。作为承诺接受者，我现在可以决定是否解除你的承诺，从而控制你是否在道义上有义务履行承诺。这种控制是有价值的，因为它可以平衡个人关系中的权力不对称（因为许诺者将他们对情况的控制权转移给了许诺接收者），它可以创造道德上有价值的关系（因为承诺可能表示对另一个人需求的承诺），它有助于社会协调，因为承诺是亲密关系的组成部分，如友谊或亲子关系（Shiffrin 2008）。因此，欧文斯总结道：“人们拥有权威是很好的，对某些事情简单地拥有权威会让他们的生活变得更好（ceterisparibus）。承诺的规范性力量来源于这一关于人类福祉的事实（Owens 2012，第150页）

然而，欧文斯的账户并不局限于承诺接收人（受承诺人）的利益。允诺的规范性权力背后的基本原理还包括允诺人（允诺人）的利益。正如欧文斯解释的那样：
'如果我们愿意，我们都有兴趣满足他人的需求。如果受允诺人有权获得对允诺人的授权，则允诺人通常有权授予该授权，也有权作出承诺（Owens，2012年，第146页）
换句话说，如果作为承诺的接收者，我们拥有重要的权威利益，那么作为承诺的给予者，我们也对能够满足他人的权威利益感兴趣，因为满足他人重要利益的能力可能是我们生活中的重要资产，尤其是在建立和维护有价值的人际关系方面。因此，欧文斯解释说，规范性权力之所以存在，是因为它服务于那些接受承诺的人，以及那些能够满足这些权威利益的人的相关利益

我现在将设计一个类似于欧文斯的论点来支持承担责任的规范力量。更准确地说，我将主张存在所谓的“责任利益”，“责任利益是指承担责任”，“权力利益”是指承诺的规范力量，因此，如果我们接受权力利益，我们还应该接受，责任利益是承担责任的规范力量的基础
与权威利益一样，责任利益也是规范性利益，即规范性方面的利益，如某些道德义务的存在。更具体地说，责任利益与权威利益一样，是控制这些道德义务的利益。然而，责任利益并不涉及我们通过承诺而获得的道德义务，而是与道德责任相关的道德义务。早些时候，我将道德责任定义为一种回答和解释的义务，我声称，这种责任也会导致进一步的义务，比如对那些受到伤害的人采取后续行动的义务，道歉并由此承认伤害的道德意义，或采取预防措施防止类似的未来事件等，我将责任利益理解为存在以及控制与他人道德责任相关的道德义务的利益

如上所述，我们可以理解为什么责任感兴趣很重要。当我们因他人的行为而受到伤害时，我们有一个利益，即一些人不仅计划或事实上向我们解释发生了什么，跟进我们等，而且他们在道义上欠我们。这种道德义务的存在很重要，因为当其他人承担这些义务时，这意味着我们受到的伤害不仅仅是一些自然的不幸或损坏的物品，即需要在保险公司的抽屉中存档的东西，而是需要人际道德承认的东西。此外，对我们来说很重要的是，我们也可以通过决定是否解除他人的道德义务来控制他们的道德义务，就像我们在承诺的情况下以这种方式控制他人的义务一样重要。这是因为这样的控制将我们从单纯的患者（即那些遭受伤害的人）提升到真正的（道德的）代理人，即那些对伤害的道德后果有积极发言权的人。被剥夺这一积极角色会贬低我们，使我们客观化，并侮辱我们作为一个值得尊重的人的地位

通常情况下，我们的责任感利益得到满足，因为人类造成的伤害通常伴随着一些人的道德责任。然而，有时我们的责任感利益可能仍不满足。如果人工智能真的制造了责任缺口，那么就存在着人类引发的伤害，而没有道德责任，这会让我们的责任利益受挫<脚注只有随心所欲地承担责任的规范性权力，即将道德责任强加给自己的权力，才能创造道德责任，从而满足受伤害者的责任利益。因此，正如只有承诺的规范性权力能够服务于我们的权威利益一样，只有负责这一规范性权力才能服务于我们的一些责任利益

但这不仅关乎被伤害者的利益，也关乎其他所有人的利益，尤其是那些参与伤害因果关系的人的利益。后者中的一些人，即使他们在道德上不负责任（根据情况的事实判断），也可能处于承担责任的独特位置。如果他们这样做，他们可以为那些受到伤害的人提供安慰，帮助他们克服痛苦和苦难。更重要的是，如果一个人为了帮助他人而自由地将与责任相关的道德义务和负担强加给自己（如果这个人在道德上没有责任的话），他就会表现出美德。在承担责任时，一个人的行为就像沃尔夫和麦肯齐所描述的慷慨大方的人，即“自愿为他人谋利或试图以牺牲自己为代价为他人谋取利益”的人（沃尔夫2001，第14页），拒绝成为“比帮助他人更关心面子”的人”（麦肯齐2017，第110页）。因此，正如欧文斯所解释的，权威利益不仅对那些我以类似的方式声称，责任利益不仅对那些拥有它们的受害方重要，而且对那些能够满足它们的人也重要。满足责任感兴趣提供了一个机会，使他人受益，形成有价值的道德关系，并发展自己的道德品质

因此，要实现一个完整的循环：承担责任的规范性权力满足了责任利益，否则这些利益将得不到满足，正如承诺的规范性权利满足了权威利益，否则将得不满足。因此，我们可以支持人工智能背景下承担责任的规范力量，这与欧文斯最初对承诺的描述类似：正如权威利益奠定了承诺的规范力量一样，责任利益奠定了承担责任的标准力量

这种欧文斯式的论点也强化了这种承担责任的规范力量的轮廓。首先，这个论点特别支持将责任作为责任，而不是责任。由于承担责任的人的利益在这一论点中同样重要，而不仅仅是受损害人的利益，因此承担责任的规范性权力无法得到充分支持。毕竟，正如我在对CT提案的批评中所指出的那样，在责任缺失的情况下，有人强烈反对严格责任，这种反对的力量来自于没有充分考虑到责任主体的利益^脚注7
此外，我的欧文斯式论点将包括承担回顾责任的力量，即对有害事件承担责任，即使它已经发生。我与CT不同，CT只专注于承担未来责任，即对未来的事情负责。包括追溯责任是因为责任利益在伤害已经发生的情况下同样适用：即使伤害已经发生，在道德责任的存在下，那些受到伤害的人仍然具有同等甚至更强的责任利益。然而，采取前瞻性回答也将很重要

此外，我的论点表明，不是每个都能承担责任。我声称承担责任是基于责任利益。但如果是这样的话，承担责任的权力也必须局限于那些能够至少以某种基本方式满足他人责任利益的人。我声称，要做到这一点，必须有人参与了造成伤害的人工智能系统的使用或开发。这是因为参与伤害不仅使人处于解释发生了什么的特殊位置，而且因为参与是对那些受到伤害的人作出有意义回应的条件。毕竟，如果我要对一些与人工智能相关的伤害负责，而我与之毫无关联，那么伤害的受害者可能会理解这种行为与他们完全无关，甚至可能是侮辱性的，或者是试图转移人们对那些应该承担责任的人的注意力。因此，让自己对人工智能系统造成的伤害承担道德责任的权力仅限于那些参与开发和使用人工智能的人

但在我继续之前，需要进行一些澄清。首先，我所关注的人工智能开发和使用的参与类型仍然不足以单独承担责任，因为我继续认为存在责任差距。其次，这种参与可以发生在不同的阶段，正如我的短语“参与人工智能的开发和使用”所表明的那样。例如，某人可以作为计算机科学家参与人工智能系统的开发，或者作为最终用户参与最终应用程序。第三，可以根据两个重要指标对参与进行有用的分析。第一个是接近度，即代理人的行为与AI相关结果之间的时间或空间距离。最终用户通常比开发该系统的计算机科学家更接近结果。第二个指标是相关性，它涉及一个人参与的重要性。在这里，计算机科学家有时会对人工智能的结果做出比最终用户更重要的贡献，至少当最终用户仅将系统用于其先前确定的目的时。这两个指标在具有多个代理的环境中特别有用，如在人工智能的环境中，可以帮助确定承担责任的最大价值。（与结果的）接近度和（贡献的）相关性越大，一个人就越有可能满足责任感兴趣，因此，这个人承担责任的行为的价值就越高^脚注8
契约主义论点
在上一节中，我使用了责任利益的描述，作为欧文斯式论点的一部分，支持承担责任的规范权力。在本节中，我将展示我关于责任利益的实质性观点也可以是契约主义论点的一部分

契约主义者认为，正确的道德原则是由一些假设的协议或决策确定的。例如，Scanlon认为，我们可以通过关注“没有人可以合理地拒绝作为知情、非强制、普遍协议的基础”来确定正确的道德原则（Scanlon1998，第153页）<通常，这些原则涉及一般要求和禁令。但是，正如沃森所指出的，它们不必受到如此限制，也可以包括赋予我们规范权力的原则。事实上，正如沃森所说，人们似乎无法合理地拒绝一项赋予人们承诺权力的原则：
'这个想法是，鉴于各种利益和价值观，没有人能够合理地拒绝赋予人们以这种方式约束意志的权力的原则。（……）期望的重要性、协调、保证的价值，以及达成相互承诺的利益，都将从合理拒绝的角度进行登记。通过这种方式，许诺和信守承诺最终能够满足人类的深层需求，正如我们理解的那样（Watson，2009年，第164页）
但是Watson的契约主义理论不仅适用于承诺的规范力量。它也可以扩展到承担责任的权力，因为人们不能合理地拒绝一项原则，即在某些情况下，允许人们通过意志行为承担责任。如果我在上一节中所说的大致正确（即，如果需要一种承担责任的规范性权力，如所述，以满足受伤害者的重要利益以及其他人的利益），那么这就支持一种原则，即允许这种权力作为我们共同生活的基础，并且反对合理地拒绝这种原则。因此，即使人们拒绝欧文斯将规范权力直接置于某些规范利益中的方法，人们仍然可以接受我关于责任利益的实质性观点，作为对承担责任的规范权力的契约主义辩护的一部分

此外，上一节中提出的承担责任的规范似乎已经消除了合理拒绝承担责任的标准权力的理由。首先，由于第1节给出的论点，人们可能会合理地拒绝关注责任和惩罚。然而，由于我关注的是责任，而不是责任，所以这种反对被排除在外。此外，人们可以合理地拒绝允许任何人承担责任的原则，无论他们离造成的伤害有多遥远，因为这样的承担责任是武断的，可能是侮辱性的。然而，有了适当的规范，特别是对谁能够满足责任利益的限制，这种反对也可以被排除。因此，正如我所理解的那样，承担责任的规范似乎排除了合理拒绝的理由，从而产生了我所描述的规范权力的契约主义支持^脚注10

两个问题（和一个反对意见）

在我结束之前，让我先回答两个紧迫的问题：既然这样做会给自己带来负担，为什么有人会为坏事承担责任？与此相对，如果承担责任仍然是可选的，我们难道不会冒着责任差距悬而未决的风险吗

正如我之前在讨论欧文斯时所概述的，有与美德或关系相关的原因需要承担责任。通过承担责任，我们可以满足他人的责任利益并使他们受益。这样做，在为自己承担负担的同时，既可以是一种美德，也可以创造和维持有道德价值的关系。因此，只要我们关心美德、道德品质以及与他人的关系，我们就有充分的理由在某些情况下承担责任

这一说法不应令人惊讶：规范权力承担责任的权力类似于承诺的规范性权力：既涉及对自己施加义务，也涉及为他人创造利益；正如承诺是有价值的，因为它有助于与他人建立和维持关系，也有助于让他人对某一情况进行规范性控制一样，承担责任也是有价值的

然而，此外，承担责任在道德上也可能是强制性的，至少在对另一方造成严重伤害且没有其他人能够以有意义的方式承担责任的情况下。亚当·斯密辩称，简单地回避此类案件，让受害方自行处理，可能会羞辱和冒犯他们。史密斯说：“不道歉，不赎罪，被视为最残忍的行为”（史密斯2009年，第125页（第二部分，第三节，第二章）。我建议，以类似的方式，在某些情况下不承担责任会羞辱和冒犯那些受到伤害的人，可能会掩盖对他们造成的伤害的道德意义。但如果是这样，在这些情况下承担责任在道义上是必须的，因为不这样做会冒犯他人。因此，也可能有义务（即义务相关），而不仅仅是道德（即美德相关）的原因来承担责任^脚注11
最后，我们有理由承担责任，因为这样做肯定了我们作为真实世界代理人的实际身份。沃尔夫解释说，“表达我们的认识是有价值的，我们是一个完全处于世界中的人，在与他人的互动中，我们无法完全控制他人的动作和思想，我们意外地、有意地、非自愿地、无意地、无可避免地、自愿地和故意地影响和受到他人的影响”（沃尔夫2001年，第14页）。（Wolf 2001，第13页）。但如果是这样的话，我们不应该回避我们毫无过错地造成的伤害，而是应该通过承担责任来表达我们的机构在道德上有重大影响，即使这种影响和我们的行为本身不会导致道德责任

但是，即使存在这些承担责任的原因，人们可能会想人们实际上承担责任并缩小责任差距的可能性有多大。如果个人可以自由决定是否承担责任，那么就不能保证有人会真正承担责任。因此，是否以及在多大程度上缩小责任差距是一个偶然的事实。可能只是责任差距缩小了一点

因此，要缩小重要领域的责任差距，可能需要从CT返回一个想法，根据该想法，提前承担责任是承担某些角色或从事某些活动的条件。早些时候，我辩称CT自己的账户不能合法地要求承担这种预期责任，因为这将导致不合理的严格刑事责任。然而，我自己的账户并没有面临同样的异议，因为我将责任作为责任，而不是将责任作为责任因此，在我看来，我们可以将承担责任（作为责任）作为某些立场的条件，从而引入一种形式的严格责任，而不会因此成为反对严厉责任的反对者的牺牲品 因此，在我看来，监管承担未来责任的空间更大，从而确保更有效地缩小责任差距。然而，即使在这里，我们也不能完全保证责任差距将完全缩小，因此，我们应该承认承担责任所能发挥的有限但仍然非常重要的作用

但我的观点可能会有最后的反对意见。早些时候，我声称，伤害受害者的利益在支持承担责任的规范权力方面发挥着重要作用。然而，这种说法可能对我的目的来说太过分了：受害者的利益本身就足以产生某些义务，因此不再需要单独承担责任的行为来产生这些义务。如果是这样，承担责任的行为将是多余的

为了回应这一异议，让我澄清正在考虑的利益。在我之前的辩论中，我重点讨论了我所说的受害者的责任利益。可回答性利益是规范性利益，即其他人有义务做某些事情的利益，而不是事实性利益，也就是其他人仅仅做这些事情的利益。然而，无论 个人A的规范性利益是指个人B对其负有某种义务，仅凭这种利益不能产生这种义务。例如，无论我的邻居有多么强烈的规范性兴趣，我有义务粉刷他的房子，这种兴趣本身并不能为我创造这样的义务。同样，无论受害者有多么强烈，有人有义务解释、道歉和跟进，这种兴趣并不能创造这些义务。因此，承担责任并非多余

然而，一旦我们考虑到受害者的事实利益，即受害者在实际收到解释、道歉和后续行动中的利益，而不是在被欠下这些事情中的规范利益，这种反对可能会有更强烈的版本。如果受害者的实际利益足够强烈，那么他们就有足够的理由要求有能力提供帮助的人给予满足。此外，这样的理由甚至可能产生一种义务，至少如果一个人接受这样一个原则，即帮助他人是必须的，这样做会给他们带来很大的好处，不会给他们带来任何重大负担（参见Singer 1972）。因此，在这种情况下，承担责任的行为可能没有必要产生某些义务

为了论证起见，我将承认积极的义务可能来自于事实利益，因此我不理会自由意志主义（或自由主义）对这种立场的反对。但即便如此，事实利益是否能够产生正确的义务还是值得怀疑的。首先，由于他人的利益或需要而产生的积极义务通常是不完美义务，因为它们与特定的索赔权利不相符。但是，拥有这样的索赔权利，并能够控制相应的义务，正是受害者所具有的规范性利益，或者我所主张的

此外，事实利益不能产生道歉的义务，因为对某事进行真诚和恰当的道歉需要一个人也对此负责，而不仅仅是道歉会产生积极的后果。正如戈维尔和弗沃德所解释的那样，“为一个行为道歉就是承认（……）一个人对此负有责任”（戈维尔和弗沃德2002年，第69页），舒曼补充道：“要想有意义，道歉必须（…）承认责任”（舒曼2000年，第185页）。（另见（Cunningham 2014；Gill 2000；Harris等人2006；Smith 2008）。因此，在没有责任的情况下，本该道歉的东西最终只是表达遗憾或失望。仅仅满足某些利益的前景并不能使道歉变得更恰当，更不用说是强制性的，因为满足某些利益可以使惩罚某人变得更恰当

然而，即使我们也将这些观点放在一边，假设事实利益可以产生正确的义务（即完美义务和道歉义务），承担责任的行为仍然不会多余。与承诺相比，承诺也涉及对自己施加义务，这可以说明原因

假设我的朋友真的需要我帮忙搬家，他过去也帮过我。我朋友对我的帮助有强烈的实际兴趣，加上友谊的准则，我有义务帮助他。因此，不需要进一步的承诺来为我创造这一义务。然而，即使我随后也承诺帮助他，这个承诺仍然是重要的。首先，我的承诺仍然可以指定一个模糊的义务，可能会增加其严格性，并使其成为我们互动的明确部分。但最重要的是，存在一些仅利益就产生义务的情况并不意味着总是如此。事实上，在大多数情况下，我朋友的利益并不会给我带来义务，因此，在这些情况下，随意承诺和创造义务的能力仍然保持其全部价值

在这些方面的承诺是真实的，承担责任也是真实的。即使受害者的实际利益自行产生了义务，承担责任仍然可以增加价值。在承担责任的过程中，一个人可以指定一项模糊的义务，增加义务的严格性，并使其成为未来互动的明确部分。更重要的是，在人工智能的背景下，往往有许多人能够满足受害者的利益，这样承担责任的行为也可以为受害者提供一个他们本来就缺乏的特定收件人。但最重要的是，正如在承诺的情况下一样，在某些情况下，仅利益就产生了某些义务，这一事实并非如此暗示总是这样。事实上，在大多数情况下，受害者的利益不会产生义务，这意味着在这些情况下，承担责任的权力将保留其全部价值

因此，即使我们承认只有事实利益才能产生正确的义务（我认为并非如此），承担责任的规范性权力仍然没有多余，并保留了其价值

结论

在这篇文章中，我接受了某些人工智能系统会导致责任差距，我问我们是否可以随意缩小这些差距，即通过行使承担责任的规范权力。我首先拒绝了香槟和汤肯斯的观点，即承担预期责任，根据这种观点，军事指挥官可以提前接受对其指挥下的自主武器系统造成的任何伤害的责任和惩罚。相反，我为采取回顾性责任的观点辩护，即人们可以让自己在道德上对人工智能系统造成的伤害负责，不仅提前，而且在伤害已经造成时

我的观点表明，承担责任的规范性权力可以缩小人工智能的责任差距，但仅限于某些限制。由于我特别关注责任，我的观点可以缩小责任差距，但不一定是负债。然而，确保责任是解决责任差距的一个重要步骤，更重要的是，我所捍卫的规范权力能够比CT的建议更有效地弥合责任差距。由于我专注于责任（而不是更繁重的责任），承担这种责任可以更容易地成为接受某些角色的条件。毕竟，当被追究责任时，一个人会被视为一个理性的道德代理人，值得进行真正的道德对话，而不是像被追究严格责任的情况一样，仅仅是一个被动的指责或惩罚对象。此外，我还介绍了除前瞻性责任外，承担回顾性责任的可能性，从而为缩小责任差距提供了另一条途径。此外，鉴于人们必须行使将责任视为责任的规范性权力的原因，人们实际上更有可能让自己承担责任，而不是让自己受到指责和惩罚

最后，我的论点基于这样一个假设，即存在责任差距，因此“承担”责任等于“创造”责任，否则就没有责任。然而，我的方法也可能对那些否认责任差距的人保持吸引力。这些学者可以认为承担责任，而不是“创造”责任的一种方式，而是将责任从一群人身上“转移”出来的一种方法，比如说，在这些人身上，很不清楚是否有人承担了超过一小部分的责任，而这些人将作为主要承担者承担责任。在这种意义上承担责任也可以满足其他人的重要责任利益，并导致一种无法合理拒绝的契约主义原则。因此，即使在没有责任缺口的情况下，也可以支持将责任视为规范性权力，从“转移”责任的意义上理解。然而，在另一个场合，详细研究这些论点将是一项任务