简介

近年来，人工智能和依赖人工智能的自主系统的发展取得了快速进展。一些已经使用或即将开发的自动驾驶系统包括自动驾驶汽车和其他自动驾驶车辆、自动武器系统、工作机器人以及医疗和法律人工智能系统。自主系统有望以比人类或传统机器更高的速度、准确性和可靠性执行许多任务，从而降低成本、提高生产率、提高安全性并将我们从日常工作中解放出来^脚注1在不利方面，批评者指出，很难为自主系统的行为分配责任，尤其是在发生事故或其他不良事件的情况下。一个使用复杂算法的自主系统的行为太自主，太不可预测，任何人为其做出贡献的人都无法对其负责，或者有人这样说。这导致学者们谈到了“责任差距”（Danaher，2016；Matthias，2004），并在这一点上阻止使用自主系统，尤其是自主武器系统（Sparrow，20072016）^脚注2围绕如何解决这个问题展开了一场热闹而持续的辩论^脚注3

本文的项目是通过消除对责任差距的担忧，对人工智能提出更乐观的看法。我首先提出了两个挑战，那些对所谓的责任差距发出警报的人必须应对这两个挑战。我将在这里称之为责任差距悲观主义者，他们必须确立两件事：首先，他们必须让我们有理由相信，当使用自主系统时，责任差距可能会出现。其次，他们必须解释为什么存在这样的差距是有问题的。本文提出的两个挑战涉及责任差距悲观主义的这两个组成部分。我在论文第一部分（第2节）提出的挑战涉及责任差距的出现。我不会断然否认责任差距的存在，但我会指出，责任差距的性质和出现仍然有些不透明^脚注4在提出责任差距是什么的说明后，我将建议，在某些情况下，我们可以确信责任差距不会出现。这就提出了一个问题，在哪些情况下它们会出现。在责任差距的信徒具体说明其发生的环境之前，责任差距在某种程度上仍然是一种哲学幻想。这是第一个挑战

在论文的第二部分（第3节和第4节）中，我将指出，假设存在责任差距，那么责任差距并没有那么大问题^脚注5我将继续讨论我对责任差距最严重的两个担忧。第一个担忧是责任差距会带来灾难性后果，因为它会激励有害行为。第二个担忧是，智能军事系统的使用将违反《战时法》。通过消除这两个担忧，我的讨论将向责任差距悲观主义者施加压力，让他们更多地解释为什么我们应该认为可能出现的责任差距是一开始就要担心的问题。这是第二个挑战。简言之，本文的主张如下：目前尚不清楚责任差距是否以及何时出现，但如果确实出现，我们不必过于担心

在本文中，我关注的是由于自治系统的自治而产生的责任问题。我并不关心所谓的多手问题（Poel et al.，2015；Thompson，1980）。一些学者提出，只要某个结果是大量代理人（“手”）的贡献的结果，就会出现类似的责任分配问题。然而，多手问题并非自治系统产生的结果所特有的，这也在更传统的环境中出现（参见例如Poel等人，2012）。尽管本文关注的是由系统自主行为导致的责任差距，但一些发现可能会影响到许多人的问题

责任差距及其难以捉摸

在我开始消除对责任差距的担忧的项目之前，我们需要更好地理解我们正在谈论的内容这样的差距。在本节中，我将提出责任差距的特征描述，并根据该特征，制定第一个挑战^脚注6

我认为责任差距首先是道德责任，而不是法律责任。此外，我同意塞巴斯蒂安·科勒（Sebastian Köhler）、尼尔·罗格利（Neil Roughley）和汉诺·绍尔（Hanno Sauer）的观点，即认为存在责任差距的人最好理解为主要关注责任的问责方面（科勒等人，2018年，第52页；另见鲍姆等人，2022年，第5-6页）。也就是说，当某人有理由为此受到指责或赞扬时，她就应该为某事负责^脚注7

一个独特但相关的概念是我所说的损害的道德责任。如果一个人在道义上有义务赔偿受害者的损失，那么她对自己造成的损失负有道义上的责任。受害者在道义上有权获得赔偿。道德责任不同于法律责任，也就是说，不同于对造成的损害负有赔偿的法律义务

此外，我使用术语“责任差距”主要指满足以下两个条件的情况：

无责任：自主系统在没有任何人的情况下执行某些操作，无论是程序员、制造商还是操作员，也不是自治系统本身对这种行为及其后果负责

自治：这种责任缺失是由于系统的自治

无责任应理解为涉及规范性声明。它指出，没有人负责，因为指责任何人都是不公正的。几乎所有写过责任差距的人都接受这种情况的某些版本（例如，参见Danaher，2016；Himmelreich，2019，第734页；Köhler等人，2018，第54页；Sparrow，20072016）^脚注8Autonomy还规定，责任的缺失必须是由于系统的自主行为造成的。如果责任的缺失与系统的自主性无关，我们不会谈论责任差距，例如，因为这是由于人们缺乏自由意志，他们受到外部力量的控制等，其理念是，这是系统的自主性，即在复杂环境中独立于人类干预的能力，以及做出不基于具体人类指令的决策的能力，从而取消了人们的责任^脚注9同时，机器被认为不够成熟或“像代理人”，不足以成为可能的责任承担者^脚注10

有些人可能想添加一个描述性条件，说明人们对责任的某种普遍要求：

要求：人们对责任有一种要求，因为人们希望追究某人的责任

添加此条件的动机是，责任差距可能被认为不仅是缺少负责人，更确切地说，是责任差距。也就是说，责任差距可能被认为涉及某种不匹配或差异。理解这种不匹配或差异的一种方式是，存在未满足的责任欲望或需求（参见例如Danaher，2016）^Footnote11在下文中，我将假设No Responsibility和Autonomy的结合抓住了责任差距的本质，它们的实现对于这种差距的发生是必要的和充分的，而DemandDemand^脚注13^，Footnote14

如引言所述，责任差距悲观主义者的首要任务是确定责任差距确实可能发生。假设以上对责任差距的描述，他们必须表明，在某些情况下，一个自治系统执行了某些行动，但由于该系统的自治性，任何人都不对该行动及其后果负责

现在的挑战在于具体说明情况。要解决问题，请考虑尽管可以想象责任差距出现在某些情况下，必须拒绝这样的观点，即没有人曾经对自治系统的行为负责。可以公平地假设，即使那些假定存在责任差距的人也必须承认，在某些情况下，人类代理人应对此类机器造成的伤害负责，当由于人类的疏忽（疏忽或鲁莽）或由于自治系统意图造成伤害（恶意）而导致自治系统造成伤害或损害时，可以假设不满足无责任条件。

考虑第一个疏忽，这是一种粗心的行为。一旦她将车辆送上任务，她就无法控制其行动，也无法精确预测其行为。但她没有努力预测和减少可能的风险。当工程师最终调度车辆时，它犯了一个错误，伤害了无辜的旁观者。相反，我认为我们会判定她负有责任，因为她没有采取合理的谨慎措施。她疏于将车辆送去执行任务，却没有做出重大努力来识别和降低无辜旁观者的风险。她应该做更多的事情来预见和限制伤害的风险。这使她有责任。声称“疏忽工程师”中存在责任差距是不合理的，因为“不承担责任”是不符合要求的。更重要的是，如果工程师鲁莽行事，也就是说，如果她意识到车辆伤害无辜旁观者的风险很高，并且仍然将其发送出去，那么她就应该受到指责。如果她故意（恶意）造成伤害，也就是说，如果她意识到高风险并因为试图造成伤害而将车辆开走，那么她显然应该受到谴责，即当这些人没有行使应有的谨慎（疏忽或鲁莽）或意图造成伤害（恶意）时。即使是那些认为存在责任差距的人也应该同意这一点。当然，例如，斯派罗不会想说，由于武器的自主行为，自主武器系统的指挥官完全没有考虑到可能的风险或打算杀死平民，因此杀害平民是无可指责的，即在结果不是粗心或恶意的结果的情况下。这就是我所说的责任差距出现的合理性限制。只有在负面结果不是由于粗心大意或恶意造成的情况下，责任差距才有可能出现。否则，将不满足No Responsibility条件。这仅仅是一个约束，即何时可能出现责任差距。但这确实提出了一个问题，系统的自主性为什么样的人类行为辩解，因为这似乎不能为疏忽、鲁莽或恶意行为辩解。换言之，什么是人类行为，如果它导致一个自主系统造成损害，那么它是无可指责的，但如果它导致了一台传统机器造成损害，那幺它同样是值得指责的

责任差距的支持者因此面临两难境地：要么拒绝合理性约束，要么坚持认为自治系统的自主性通过使各种行为（包括疏忽、鲁莽或恶意行为）无可指责而造成责任差距。然后，我们会对出现责任差距的情况以及他们为哪些行为辩解有一些想法。但这一观点极不可信，据我所知，没有人对其提出有希望的辩护。或者，他们接受合理性约束，承认仍有处理自主系统的人承担责任的情况，特别是他们未能谨慎行事或恶意行事的情况。但这会导致出现责任差距难以捉摸在这些情况下，处理自主系统的人和处理这些系统的人不承担任何责任，因为系统的自主性。这些情况需要具体说明

这是责任差距悲观主义者必须解决的第一个挑战，但仍未解决。许多人一直担心责任差距的可能性，但他们可能出现的具体情况仍然没有明确说明。除非这一挑战得到解决，否则几乎没有理由相信责任差距是“一件事”

然而，在本文的其余部分中，我将假设这些差距确实可能出现，并提出第二个挑战：即使这些差距出现在上述合理性约束下，我们也不清楚为什么要关注它们

责任差距及其后果

关于责任差距的直观最令人信服的担忧围绕其可能的有害后果。斯派罗虽然主要关注正义战争理论的道义原则，指出，有“严重的后果主义考虑”反对允许自主武器系统产生责任差距：“如果无法确定战争罪行的责任人，将使他们的起诉变得毫无意义，[…]对战争的可能方式造成灾难性后果。“（Sparrow，2007年，第67页）他特别反对在军事领域使用自治系统，但他的“后果论”担忧并不局限于战争罪和军事自治系统。同样的担忧也出现在非军事自主系统上，这也是人工智能和责任文献中反复出现的主题。类似的逻辑告诉我们，例如，黛博拉·约翰逊（Deborah Johnson）的观察表明，如果人们能够承担责任，这将“继续向开发商施加压力，以确保此类设备的安全性和可靠性。“（2015年，第714页）Santoni de Sio和Mecacci最近观察到，责任差距“是令人担忧的，因为设计、监管和操作系统的人越能合法地（可能有系统地）避免对其错误行为的指责，就越不会激励这些代理人来防止这些错误行为。”（2021，第1063页）^脚注19

据我所知，人们担心的是，如果没有人负责，人们就没有压力将伤害和损害降至最低。如果缺乏减少伤害和损害的激励措施，自主系统的程序员、制造商和运营商将无法行使应有的谨慎，甚至可能故意造成伤害，因为他们可以这样做而不受惩罚。他们粗心大意或故意伤害他人的行为将给社会其他人带来灾难性后果。因此，人们担心的是采取适当谨慎行动和避免伤害的动机，或者更确切地说是缺乏不谨慎行动和故意伤害的动机。责任差距侵蚀了一个对社会有益的激励结构

两个进一步的澄清可能有助于更好地理解这一问题。首先，虽然有一种似是而非的假设，即缺乏责任消除了在没有适当注意的情况下采取行动的动机，但这些动机的性质需要具体说明。我发现，如果存在责任差距，区分三种可能被认为缺乏的抑制因素是有用的：（1）责备（2）损害的道德责任（3）惩罚。其次，重要的是要注意，我们不是在谈论人们实际上面临的抑制因素，而是他们也可能理所当然受到的抑制因素。原因是，当存在责任差距时，指责人们、要求他们赔偿损失或惩罚他们将是不公正的。他们将缺乏这些抑制因素，因为我们不应该做不公正的事情

因此，我们得到了这一担忧的三个版本：

（1）
如果存在责任差距，那么责怪人们是不公平的，因为责怪不承担任何责任的人是不公平。因此，人们将缺乏这种谨慎行事的抑制力
（2）
如果存在责任差距，要求人们支付损害赔偿金是不公平的，因为要求不承担任何责任的人支付损害赔偿是不公平。因此，人们将缺乏这种谨慎行事的抑制力
（3）
如果存在责任差距，惩罚人们是不公平的，因为惩罚不承担任何责任的人是不公平。因此，人们将缺乏这种谨慎行事的抑制力

就我所见，每一种担心都是没有根据的。人们应该被允许粗心大意，更不用说故意造成伤害，因为潜在的责任差距而不受惩罚，这种想法是站不住脚的。当然，为什么没有得出这样悲观的结论，与发现责任差距的出现受到上述引入的合理性约束有关。如果责任差距出现了，那么在人们没有适当注意的情况下，责任差距就不会出现。

考虑第一个责任。指责他人可以阻止他们从事对社会有害的行为。但是，从上述引入的对责任差距出现的合理性限制直接得出结论，即责任差距不会在粗心大意或恶意的情况下出现，这种担忧是没有根据的。可以肯定的是，如果是责任差距导致疏忽、鲁莽或恶意行为无可指责的情况，人们可能更倾向于从事这种行为，因为他们知道自己不能因此受到应有的指责。但是，自治系统的高度自治为这种行为开脱了罪责，这正是难以想象的。如果疏忽、鲁莽或恶意行为导致自主系统受到伤害，无论是谁，制造商、程序员、操作员等，都应该受到谴责。因此，这也只是让这个人受到责备，并以此方式劝阻这种行为。我在这里并不是假设责任差距根本不会出现。我只是假设它们的出现受到上述引入的合理性约束。他们不会为粗心或恶意行为开脱。

类似的情况适用于（2）和（3）。（2）背后的想法是，要求制造商、程序员或运营商为其粗心大意造成的损害赔偿是不公平的，否则这一要求可能会阻止他们采取这种方式，这将给战争带来灾难性的后果。理由似乎是，如果无人负责，自主武器的指挥官就不会有足够的动力犯下战争罪，因为惩罚（“起诉”）他们这样做是不公平的。因此，更多的战争罪将发生，（2）和（3）都是基于不可信的假设，即自主系统的自主性将为粗心或恶意行为开脱，我们应该根据合理性约束来拒绝这一假设。指责不承担任何责任的人是不公正的，这种说法几乎是重复的，因为责任是从应受责备的角度来理解的。相比之下，（2）和（3）涉及更具争议性的主张，即要求不负责任的人分别支付损害赔偿金或惩罚他们是不公平的。这使（2）和（3）面临额外的反对。当涉及到自主系统时，假设粗心或恶意行为可能不值得指责，这不仅是不合理的。此外，人们可能会质疑这样一种假设，即要求那些对自己造成的不良后果不承担责任的人赔偿损失或惩罚他们是错误的。即使自治系统的自治使粗心或恶意的人无可指责，这也不一定意味着要求这些人赔偿他们造成的损失是不公平的，即使这种行为不应该受到指责。

尽管如此，后果论证失败的主要原因是，它难以置信地假设责任差距将为其开脱，并因此激励疏忽、鲁莽或恶意行为。责任差距可能存在，但当人们粗心大意或恶意行事时，责任差距肯定不会出现。自主系统的程序员、制造商和运营商如果采取这种方式，可能会受到指责和谴责、责任指控和惩罚。这将抑制对社会有害的行为。再次，我并不否认可能存在责任差距。我对它们的存在持开放态度，但要注意的是，迄今为止，它们出现的条件仍有些不明确。我只是争论它们是在某种情况下出现的，为了使结果论关注有效，它们必须出现

责任差距和战争

斯派罗（2007）概述的另一个关于责任差距的担忧围绕着一种非常特殊的自主系统，即自主武器系统。自主武器系统本身就是一个有趣的案例研究。但对斯派罗推理的讨论将产生超出军事领域的影响

我们已经看到，斯派罗和许多其他人一样，对责任差距怀有后果性的担忧，这在上文中已经讨论过。但他的主要反对意见是，战争中的正义原则与没有对这些武器造成的损害负责的人之间存在冲突：“打一场正义战争的一个基本条件是，有人可能要对在战争中死亡的敌人负责。特别是，必须有人能够对平民死亡负责。”（Sparrow，2007年，第67页；类似地，Roff，2013年）^脚注24自主武器系统产生的责任差距使其使用不道德，因为这会违反战时法<斯派罗反对自主武器系统的案例可能是对人工智能和责任的道德担忧的最有影响力的表述。但它也经不起审查。与上一节一样，我不是否认责任差距可能出现，而是建议责任差距并不像人们想象的那样有问题。尽管责任差距的出现应被视为受到合理性限制，但我很高兴地接受，在某些情况下，例如，一名军事将领或一个自主武器系统的指挥官由于其自主性而不对该武器系统的行为负责（尽管发生这种情况的情况有待澄清）。然而，从公正的战争理论角度来看，这种责任差距并不令人担忧

考虑战争中最广泛接受的法的三个原则，其中斯派罗引用了第一个和第二个原则：
1，故意攻击军事目标。（Lazar，2017年，增加了大写字母）
Sparrow，正如我对他的理解，他认为，通过产生责任差距，自主武器系统的使用在两种不同的方式上与bello中的jus不同

首先，他建议，责任差距意味着违反上述原则或使其无法遵守：
责任的承担和/或分配是[…]至关重要的，以使战时法的原则根深蒂固。例如，歧视原则要求战斗人员区分合法目标和非法目标，它假定我们可以指定谁应对可能违反该原则的攻击负责。（Sparrow，2007年，第67页）
但目前尚不清楚为什么责任差距会与上述战时法原则相冲突 自主武器系统的编程和部署方式要么满足这些原则规定的条件，要么导致违反这些条件。在前一种情况下——如果平民不是目标，则可预见但非预期的伤害是相称的，并使用可行的危害最小的手段 − 毫无疑问，贝洛法的三项要求已经得到满足，战争在这方面是公正的^脚注26因此，即使在没有人负责的情况下，也显然可以遵守这些原则<在后一种情况下——如果平民成为目标，可预见但非预期的后果不成比例，或者使用了过度有害的手段——战争法的原则被违反，战争在这方面是不公正的，这一点也是微不足道的。但是，没有一个可以被公正地追究责任的人，并没有违反这些原则。如果是某人可以被正当拘留的情况对武器的行为负责，这些原则仍然会被违反。这些原则被视为违反，因为平民被杀害，可预见但非预期的伤害不相称，或者所使用的手段不是危害最小的可行手段，而不是因为没有人可以被追究责任。责任与遵守最常用的三项原则<；i>jus in bello<；/i>；无关
然而，第二，斯派罗似乎认为，要求某人对自主武器系统造成的伤害负责，这本身就是战争法的原则。也就是说，他建议在上文所列的一套经典原则中加入另一条原则，大致如下：
4。
责任：必须有人对造成的死亡（或更广泛的伤害）负责

这一解释得到了他的断言的支持，即“某人负有责任的条件可能被认为是战争中jus的要求之一”（2007年，第67页）<如果这一条件被接受为贝洛法的原则之一，那么使用自主武器系统，假设它会产生责任缺口，实际上将构成对贝洛法违反。关键的问题是，为什么我们应该接受这一附加的原则，即jus in bello

Sparrow的推理似乎是，这一原则得到了构成上述三项经典原则的道德基础的相同考虑的支持，即尊重敌人的人性。他辩称，正是这种对敌人的尊重“奠定”（2016年，第110页）或“巩固”（第112页）了战争中的正义原则。杀害我们的敌人，尤其是平民，而没有任何人对此负责，就像违反了三个经典原则中的任何一个，就是对我们的敌人的不尊重，从而否定了贝洛法的基本价值。在尊重的问题上，最容易引述他的话：
这是对我们的敌人的最低限度的尊重——如果战争将完全由道德来控制，那么有人应该为夺取他们生命的决定承担责任或承担责任。如果我们在这方面失败了，我们会像对待害虫一样对待我们的敌人，就好像他们可能会被完全不道德地消灭一样。我们对敌人的最起码的亏欠是让他们的生命有足够的价值，有人应该为他们的死亡承担责任。（2007年，第67页）
如果这就是自主武器系统违反jus in bello的原因，那么即使遵守jus in belo这三个经典原则，它们也会这样做。但接受责任的理由并不充分

首先，考虑我们使用自主武器会发出什么信号或表达什么似乎相对不重要，充其量提供了一个反对使用自主武器的微弱的事前理由。称量货物是出了名的困难，但如果我们必须在通过放弃自主武器来传递尊重信息和拯救一个人的生命之间做出选择，无论是士兵还是平民，选择应该是显而易见的。表示尊重的重要性与战争中其他有利害关系的物品相比相形见绌

此外，对敌人的尊重可以用许多不同的方式表达。一种方法可能确实是避免冒险杀人，除非有人对此负有责任。但还有其他表达尊重的方式。例如，政府可以竖立纪念碑纪念被自主武器杀害的人，或者自主武器指挥官可以每隔一段时间默哀一分钟，表达对死者的敬意。还有无数其他表达尊重的方式。可以说，表达对平民生命的尊重最有力的方式是尽自己所能避免杀害他们，这甚至可能需要使用自主武器（Jenkins&；Purves，2016，第396页）。也就是说，如果我们希望表达对我们的敌人，特别是平民的尊重，那么有一些方法可以与部署自主武器相兼容，即使它们会产生责任差距

最后，正如斯派罗本人所承认的那样，缺少一个可以承担责任的人表示缺乏尊重，这是一个传统的事实（斯派罗，2016年，第109页）。它表达了对行为意义的某些偶然的、社会建构的观念的缺乏尊重，而这些观念恰巧在我们的社会中共享。道德意义这类公约的数量有限。如果有重大的理由支持使用此类武器，也许是他们在战场上更道德的行为（Arkin，2010），我们应该努力克服阻碍我们前进的惯例。这是诉诸行动象征意义的论点的普遍问题。如果一些其他有益的行动或政策因其传统象征或表达的内容而遭到反对，我们应该改变这一惯例，或者实际上完全忽略它（参见Brennan&；Jaworski，2015）

那么，第二条推理线也不令人信服，它假设了一个独立的战争法原则，即必须有人对战争造成的死亡负责。我想强调的是，我没有积极主张使用自主武器。很可能还有其他原因需要警惕“杀手机器人”。但问题并不是他们通过产生责任差距而违反了bello法

尽管上述讨论围绕军事机器人展开，但其意义并不局限于军事领域。有些人可能认为，如果有人受到伤害而没有任何人负责，这是不尊重的，这一观点同样适用于非军事自动系统造成的伤害，如自动驾驶汽车或工作机器人。因此，这一想法将提供一个更具原则性的理由，反对开发和使用自主系统，而不考虑其使用的领域。然而，斯派罗的不尊重论点经不起审查的原因也转移到了非军事领域，这也化解了这种更普遍的、独立于领域的对自治系统的反对

总结这两个部分，即使存在责任差距，也不清楚我们为什么要关注它们。假设它们的出现受到所建议的合理性约束，它们似乎是无害的。因此，这是第二个挑战。责任差距悲观主义者必须让我们有理由相信，责任差距，如果存在的话，确实值得关注

结论

如果我的分析是正确的，至少可以对人工智能和责任差距保持谨慎乐观。可以肯定的是，我所说的任何话都不能断然排除存在有问题的责任差距。但如果是合理的，我的分析表明，没有什么积极的理由相信存在有问题的责任差距。然而，我并不认为这篇文章解决了这个问题。我从两个挑战的角度阐述了我对责任差距悲观主义的批评，对于那些对责任差距表示担忧的人来说，可以证明这些挑战是可以应对的。责任差距悲观主义者必须首先说明责任差距发生的情况，并给出其发生的可能性限制；其次，解释这些责任差距是如何引起关注的

一个选择是利用我只考虑了两个关于责任差距的问题这一事实。即使这些担忧是毫无根据的，也可能存在其他被忽视的责任差距问题。例如，人们可能会认为责任差距是有问题的，这仅仅是因为人们想责怪某人的愿望会变得沮丧。即使不应将需求条件纳入什么是责任差距的定义中，人们可能希望在责任差距的情况下责备某人，这一偶然事实无法得到满足，也可以解释责任差距的问题所在。我认为这不合理。一方面，仅仅是这种欲望的挫败感，很难保证在人工智能和责任的辩论中弥漫着高度的担忧。另一方面，从道德的角度来看，我们希望世界上有更多值得指责的人，仅仅是因为人们希望指责而不是受挫，这当然很奇怪。尽管如此，原则上，责任差距的支持者可以尝试沿着这些思路展开争论，或者找出上面没有说明的责任差距的其他问题<然而，请注意，即使可以识别出某些此类问题，其识别也只能解决这两个挑战中的第二个。责任差距悲观主义者仍必须应对先前的挑战，即证明责任差距甚至是一件事。他们首先必须详细说明导致这种差距的情况鉴于所建议的对其出现的合理性限制。
作为结论，我想强调，即使如我所建议的那样，人工智能不会产生有问题的责任差距，这也不应使我们忽视分配责任并不容易这一基本事实。当人们与智能系统交互时——生产、编程、销售、使用等等——很难确定这些人在多大程度上对智能系统造成的后果负责，自主系统的制造商和运营商必须保持应有的谨慎，以逃避疏忽或鲁莽的指控，可能还不清楚应有的谨慎到底需要什么。因此，必然会有一些责任不公，正如人们所说的那样，因为会有假阳性和假阴性。人们有时会被追究更高或更低程度的责任，就像今天没有智能系统参与的情况一样。这个问题是认识的而不是形而上学的。它不在于真正的（形而上学的）缺乏一个负责任的代理人，而是在于（认知的）难以正确地确定人们是如何负责任的。因此，这一困难并不等于真正的责任差距。根据文献中通常对此类差距的理解，此类差距被定义为实际缺乏责任代理人。尽管如此，认知问题仍然是一个值得记住的问题。与许多人的问题一样，认知问题并不是智能系统特有的。即使不涉及人工智能，很难确定人们有多值得指责，也很难确定在风险下的决策中疏忽从哪里开始。如果出了问题，一组工程师在从事地质工程之前，究竟需要多少小心才能做到无可指责？这很难说。但考虑到人工智能技术的新颖性和不可预测性，当涉及到自主系统时，问题可能会特别尖锐。上述考虑的工程师，没有努力预测和减少可能的风险，肯定是过失。但考虑到人工智能技术的新颖性和不可预测性，很难说她应该为降低风险付出多少努力，以及她可以合理预期哪些风险。我认为，我们可以自信地正式宣称，在疏忽的情况下不会出现责任差距（更不用说鲁莽或恶意）。但是，诚然，很难通过明确说明疏忽的含义来证明这一说法的真实性。因此，尽管上述讨论值得我对人工智能引发的责任差距持谨慎乐观态度，正如我所建议的那样，但这并不能改变实现责任公正是困难的这一基本事实。当涉及自治系统时，实现责任公正可能特别困难。