简介

当代关于生成和使用人工智能系统的道德问题的争论主要集中在谁对这些系统的行为负责的问题上。一个核心建议是，道德代理人可以对什么负责[24]，或者他们可以因什么受到报复[9]，与人工智能系统的行为之间存在差距。另一方面，几位作者要么声称我们的责任归属实践与AI的行为之间没有差距[20，38]，要么就如何修改我们的责任归因实践以弥合这些差距提出建议[27]。这篇文章认为，我们正朝着错误的方向看：责任不是一个适合解决围绕人工智能的道德问题的术语。辩论中许多人提出的对“责任”的成分分析应该成为放弃未经分析的一般术语而使用成分的理由，至少在伦理理论中是这样

解决人工智能系统使用问题的尝试存在于各种环境中，从自动驾驶[28，29]和机器人的军事用途[36]到人工智能诊断系统的认知责任[14]。结果同样不同。他们从完全拒绝使用人工智能系统，因为不可能可靠地归因于责任，到拒绝或重大修改责任概念，因为它不适合澄清机器人伦理问题[23]

关于技术发展挑战我们的法律和道德实践，特别是责任归属的诊断，在之前的几项技术中已有先例，从蒸汽机开始。最近的例子包括汽车，这一问题在核能和基因技术方面变得最为突出。例如，Gifford讨论了自动化织机和铁路的早期自动化如何促使“用疏忽制度取代先前存在的严格责任侵权标准”（[11]，第1页），以及汽车的广泛引入如何使生产“金融责任法”要求车主购买保险或提供证明，证明他们有足够的财力支付索赔”（[11]，p.41 f.）。有人指出，在这些和其他背景下，我们既定的责任归属做法与当前技术发展的道德要求之间存在差异。这种差异或差距至少由两个因素造成：首先是由日益复杂的社会和制度环境造成的，在这种环境中，行为及其后果很难归因于单个人类行为体[18]。其次，技术系统的发展越来越决定了行动的条件、过程和后果（[37]，第107页及其后）。这两个因素的极点可以在人工智能系统的使用中找到。人工智能系统显然是行动的技术支持系统，对所述行动的进程产生强烈影响。然而，它们也不太明显地融入复杂的社会和制度环境，因为它们的生产、培训甚至人工智能系统的使用涉及不同制度依赖性的多个参与者

如果说人工智能是人类行动的技术支持系统，那么就目前的目的而言，这个词的含义就缩小了。它的目的是指狭义或至多中等通用性的学习系统。这样的系统可以而且经常在有限数量的特定任务中表现出超人的性能，但通常不会在任务之间泛化[7]。此类系统在设计、培训和验证过程中严重依赖于人为干预。然而，它们在使用方式上对人类干预的需求可能存在很大差异。一些系统（如语言变换器）严重依赖于人工输入，其他系统（如自动图像识别系统）可以在相当长的时间内使用自动传感器数据采集，而无需人工干预。虽然两者都是人类行动的支持系统，但一个是近距离支持系统，而另一个是远距离支持系统。相比之下，具有人类水平的概括能力和潜在的超智能的系统可能必须被视为行为的真正作者，从而不再仅仅是人类行为的支持系统[2]。因此，它们需要与我在本文中提出的不同的处理方式

为什么人工智能的责任有争议id＝Sec2 content>
关于在人工智能系统的帮助下采取行动的责任的争议目前比比皆是，一个主要的例子是关于使用军用机器人的讨论。这些应用程序是取缔杀手机器人运动中政治关注的焦点，也是目前关于Ais行为责任的哲学文章的经典范例[27，38]的核心主题：Robert Sparrows里程碑式文章《杀手机器人》。在这篇文章中，他问当一个自主武器系统卷入通常被描述为战争罪的暴行时，我们应该对谁负责（[36]，第62页）。因此，麻雀的杀手机器人是一个远程支持系统的例子，即一个由机器人部件组成的系统，在使用过程中几乎没有人干预。他试图表明，在所有可能的责任候选人中，没有人适合为借助半自动军事机器人实施的行动承担责任

Sparrow似乎认为责任总是属于个人，而这取决于预测或控制相关事件的能力。由于缺乏对自主武器系统行为的控制，斯派罗声称，如果系统行为构成战争罪，制造商、程序员和指挥官都无权对系统行为负责。因为责任只能由可能受到惩罚的人承担，所以机器本身不适合承担责任。因为它既不会遭受痛苦，也无法通过惩罚来纠正它的行为，更不用说通过赞扬或指责了，所以让机器承担责任是不可能或不合适的。在需要道德评价的事件和不允许责任归属的行为之间，存在着后来被称为“责任鸿沟”的鸿沟

“责任差距”一词可能是由Andreas Matthias于2004年创造的，他认为，人工智能系统会造成责任鸿沟，而这种责任鸿沟无法通过既定的责任概念来弥补：“如果我们想避免让人们对他们无法充分控制的机器行为负责的不公正，我们必须找到一种方法来解决道德实践和立法中的责任鸿沟”（[24]，第183页）

Sparrow使用了这个概念，如果不是责任差距的话。正如马蒂亚斯所介绍的那样，让任何人为自主武器系统的行为负责都是不公正的，因为他们对系统行为缺乏控制。斯派罗斯的总体结论很简单：因为不可能合理地追究任何人对自主武器系统犯下的战争罪负责，但追究特定个人对战争罪负责的可能性是公正战争的必要条件，所以在战争中使用自主武器系统是不合理的（[36]，第66页）。它们不应该被使用，也可能一开始就不被建造

类似的论证结构可以在完全不同类型的文件中观察到，即在AI工程师的行业指南中。英国标准和IEEE指南都指出，一些基于人工智能的系统的预测和控制存在不确定性。两者都认为，这种不确定性导致了工程师（和用户）的责任与机器行为的实际后果之间的差距。在这一点上，他们同意斯派罗的观点。但与他不同的是，他们显然不要求放弃这项技术。然而，他们也不会简单地接受认知差距，或呼吁放弃我们的做法，即当一个人无法预测和控制设备时，就将责任归咎于他人。相当地他们呼吁工程师设计有问题的系统，使其能够预测或至少追溯系统的行为（英国机器人和机器人设备标准，第5页；IEEE人工智能和自主系统伦理考虑全球倡议，第90页及其后）为用户提供最好的产品，同时也保护制造商和工程师免受法律和道义上的指责，以及对其产品的不良行为承担责任。哲学作者和利益相关者组织似乎怀疑，我们当代的责任归属实践能否解决因使用人工智能系统而产生的道德和法律问题。无论是不可预测的还是不可控制的人工智能系统，都必须被完全摒弃，或者它们必须适应我们的责任实践

在下文中，我将认为这些作者声称我们的当代人是完全正确的责任归属的实践并不能解决如何应对在人工智能系统支持下或由人工智能系统实施的道德问题行为的道德问题。然而，这并不是因为人工智能系统以某种根本的方式改变了行为的结构或道德评价的要求，但因为“责任”一词不适合对复杂行动进行详细的道德分析。
鉴于我们目前的责任归属实践，人工智能辅助行动的这些道德问题无法解决的说法是因为“责任是一个捆绑词，内部张力过大。这一术语的内部紧张关系因其允许某种程度上消除区别而变得更加明显，这一点在人工智能的一个突出应用中可以看出：“在法律体系中，代理人对其行为负责的方式多种多样，对应于不同的可用惩罚手段。人类代理人历来受到各种惩罚：通过施加痛苦、社会排斥或放逐、罚款或其他没收财产，或剥夺自由或生命本身。关于让（ro）机器人对其行为负责是否有意义的争论通常集中在这些传统应用的惩罚对人工智能体是否有意义上。”（[41]，第208页，我的重点），在“责任”一词下收集责任。通过尝试用这个术语解决人工智能的道德问题，我们试图用一个相当粗糙的工具来解决几个高度专业化的任务。

责任词源结构和功能角色

“责任”这一概念最初被建模为类似于法官和被告之间的互动。在里德的脚注1和康德的《道德形而上学》中，它首次出现在哲学上，指的是对自己行为进行描述的人。起初，这种情况在道德上似乎相当简单。一个人必须为她之前的行为向另一个人负责。这种典型的明确的义务和权利分配是该术语使用的指导。因此，“责任”是一个用于粗粒度道德任务的术语，即确定谁必须为自己的行为向谁提供理由[4，15，33]。

与外表相反，即使是这种看似简单的道德状况，其特征也不是一个，而是所涉人员之间的各种道德关系。它涉及相互承认、道德地位和状态的相互归属，以及若干具体的道德要求和义务，例如一个人对另一个人的义务，她可以对他提出的要求，她欠他的理由，可能应得到的赔偿等等，涉及诸如可归因性、责任、责任、罪责、个人和团体代理等术语。

使用“责任”一词在许多当代关于人工智能的道德话语中很常见，如上文斯派罗的文章、瓦拉赫和艾伦的书、英国标准和IEEE指南中所述。以下分析将试图表明，这是在使用超出其能力范围的术语，即超出了确定法官和被告的粗粒度任务。

原型和责任归属的变化

在当前文献中，责任被区分为这个词的不同含义和它所指的不同关系。根据哈特开创性工作的第一种区分，对某事负责可以意味着某人有责任做某事，或者他或她对某事负责[12，13]。第二种区分区分了责任关系的关系，即谁可以对谁负责，根据哪种规范，为谁负责[22，30]。这两个区别在最新的分析中被归纳在一起（[39，40]）。因此，责任一词指的是一系列实践，这些实践回答了一个非常普遍的问题：“以何种方式（1）谁（2）负责什么（3）根据什么规范（5）向谁（4）负责，为了谁（6）？”。根据上下文的不同，这个问题中的每个疑问词可以有不同的答案，但有些答案构成了我们说话方式的核心，有些则是变异甚至偏差2在下文中，我将为以下论点提供一些详细的支持，即所有六个疑问词的原型答案都是以简化的对话情境为模型的，并涉及捆绑术语“责任”的特定组成部分。相比之下，我将展示，分析人工智能的道德问题需要一个不同于对话情境的模型，需要使用多种道德关系，而不仅仅是一种。为了说明这种情况，我将重点讨论前三个疑问词的答案

还有另一种分析责任概念的传统，它主导了科勒及其同事[20]以及蒂加德[38]的著作。特别是蒂加德，继戴维·舒梅克之后，将责任的概念区分为问责制、可归因性和可负责性，拒绝各自责任实践中的差距：“就像我们对人类同胞的问责实践一样，我们可以通过实施制裁、纠正所获得的不良行为模式，并总体上看到我们的反应目标是为了未来而改进，这是一个自下而上的强化学习过程。”（[38]，第604页）

两者都是关于道德责任的多元主义的版本，它们在责任的某些组成部分中重叠。然而，在术语上存在不匹配，例如。Tigard所说的“责任”在这里被归入“责任”，并深入分析。虽然Tigard将责任类型分为可归因性、可问责性和可负责性三部分，但目前的区别不仅仅是对类型的分析，还确定了更多的类型

“以何种方式负责？”

“以何种方式负责？”可以有几种不同的描述性和规范性答案。在下文中，我将只讨论规范版本。然而，应该提到的是，典型的描述性答案指的是一个原因：雨水是道路潮湿的原因。这是一种常见的说话方式，在许多（并非所有）规范性责任判断中都有预设

“责任”一词的规范性维度由三个回顾性维度给出，即责任、赞扬和应受责备、责任，我将在下文中重点讨论这三个维度，以及两个前瞻性维度，即义务和美德[39，40]。其中大多数都是从“责任”的对话模型中挑选出一个单独的维度。如果一个人以自己的行为为由接近另一个人，她可以要求对方为自己辩护、表扬或指责，或者承担某种责任^脚注3

在我看来，“以何种方式负责”的典型答案是负责。原因如下：负责任是“责任”所包含的进一步道德关系的必要先决条件。从负责任的意义上讲，负责任意味着能够并被期望为过去的行为提供理由，即证明其正当性。在这种意义上负责的人可以在直接互动和回答中被问及他们的行为，即解释他们为什么说或做某事（参见[3]）。被要求并为自己的行为提供理由是任何形式的规则控制的互动的入场券，是参与对话的充分（可能也是必要的）条件。此外，能够提出理由并接受挑战是理性主体的核心特征，即能够为理由行事的人[4，33]。这就是为什么责任感和为自己/自己的行为辩护的能力有时也等同于行动能力，有时甚至等同于人格。道德话语必然需要辩解的能力，给出和接受理由的能力[15]，接受或给予赞扬和指责，或分配或接受责任的能力完全取决于此

存在混淆责任和可解释性的危险。负责任意味着要成为一种能够为自己的行为提供理由的人，而不是解释其因果关系。当被问及“你为什么这么做？”解释“内部状态x_1.n>、输入y_{1.n<0/sub>和在前者上运行的机制z_1.n的组合导致了作为输出的这种行为”不是有效的回答。这充其量只是一个开始，但缺乏任何合理的相关性。它未能将有关行动置于一个相互接受的行为准则的网络中}

如前所述，赞扬或责备的道德关系密切取决于责任。这样做是因为表扬和指责至少有纠正行为的功能。如果一个人不能用行为的改变来回应赞扬或指责，那么他就不是他们的候选人（除了为责备者的愤怒提供一个发泄渠道）。反过来，在表扬和指责的基础上改变自己的行为，需要有理由行动的能力。这不同于仅仅根据惩罚和奖励来改变行为的能力。前者只适用于话语的存在，后者适用于话语和非话语的存在。从值得称赞或值得指责的意义上讲，责任使一个人成为道德共同体的积极成员，因为它可以将道德理由应用于自己的行为

相关的是将“责任”理解为责任，即可以期望个人对其行为的后果进行补偿或道歉[6]。代理人的责任范围通常取决于特定规范及其目标。例如，规范的设计是为了报复还是为了改善，这将产生不同。在前一种情况下，对话情境可能是一种合适的模式，在后一种情况中，需要一种更复杂的社会安排作为一种模式。然而，在任何情况下，让代理人承担责任都需要有一定的心理能力，没有这种能力，规范的应用就毫无意义（[40]，第25页）。当斯派罗声称自主武器系统不适合承担责任，因为它们不会遭受痛苦，因此无法受到惩罚时，他所指的就是这种对某些心理能力的预设。甚至责任也与“责任”一词的对话模式密切相关。我们通常只在代理人能够以最低限度的方式掌握其应承担责任的违反规范的情况下，才谈论代理人的责任。这意味着，这些规范至少有可能成为该代理人采取行动的理由。当被要求为自己的行为辩护时，他们必须能够将自己的行为与这些规范联系起来。如果仅根据这些规范来调节代理，这是不够的

在关于任何人如何对人工智能代理的行为负责的辩论中，有两个答案占据主导地位：第一，对系统本身的一种偏离形式的问责。如前所述，行业标准建议人工智能系统的设计应确保其行为可随时追踪。同样的想法也是可解释的人工智能运动的核心。然而，该系统没有给出行动的理由，而是旨在使其行为的原因透明或更糟：允许另一个通常同样不透明的系统使原始行为的原因变得透明（参见[38]，第602页，[45]）。如上所述，对原因的解释不是有理由的理由。充其量，创建或使用系统的人员可以查阅其日志，了解其继续操作、修改或关闭系统的原因[32]。因此，这个离经叛道的案例陷入了两难境地：要么关于行为原因的信息不是对规范性“你为什么这么做？”的答案问题然后，使系统可解释地跟踪因果关系，这充其量是“责任”的非规范版本，而不是责任的案例。或者，信息被视为对规范性问题的回答，但这是一个针对系统的工程师、提供者和用户的问题：“为什么系统要接受这些数据的培训？”，“为什么培训期间的这些输出被认为是正确的或可接受的？”，“为什么要在这种环境下使用该系统，并为此目的？”那么，这不是对系统的责任，而是对创造、销售或使用系统的人的责任

其次，关于人工智能系统所涉及的事件及其后果由谁负责，人们进行了定期讨论。一项建议是一种集体责任形式。这个想法是通过创建一个货币基金，由人工智能系统的生产者、分销商、用户等承担连带责任，系统造成的损害和可能产生的罚款将从中得到补偿[1]。由于两个原因，这是一个将责任视为责任的边界案例。首先，这是一个极其狭隘和纯粹的法律责任范围。它没有考虑到真正的道德反应和行为改变。其次，这一点与下一个疑问词密切相关，它涉及对“谁对涉及人工智能系统的行为负责？”它提出了一种集体责任的形式，但即便如此，这也会是一种离经叛道的情况，因为所讨论的团体不符合任何类型的团体机构的标准条件责任几乎没有共同的行动背景，没有行为主体的自我认同或任何类似的东西[8]。该责任组成员之间的唯一联系是对产品的某种参与。

从描述中可以清楚地看出，在这两种情况下使用“责任”一词掩盖了更多的道德关系，而不是它所揭示的道德关系。这并不是说处理人工智能辅助行动的具体道德问题的解决方案不好。他们不是。但他们被“责任”一词过分简化或错误描述。追求可解释的人工智能既不是简单的问责或任何其他规范版本的责任，也不是未区分的“责任”充分描述了人工智能雇佣后果的共同责任的复杂法律星座。这两个问题，即问责问题和责任问题，不仅涉及一种责任方式，而且涉及多种责任方式；他们都指的是一种情况，这种情况不能简单地模仿对话的情况，但总是涉及更多的各方。这就引出了第二个疑问词，责任的“谁”

作为对话者的这一特点反映在所谓的可归因性中，即独立于外部归因而被赋予道德属性的能力[38，42]。另一个人可以正确地归因于实际原因、反应态度或美德和恶习。另一方面，算法的道德属性不是模型本身的属性，而是它们以某种方式设计，并被置于特定用途的特定使用环境中。道德属性可以归因于（人类）设计、使用和目的的结合，而不是算法本身。

典型对话者的原型显然没有穷尽道德关系的可能主体范围。在该术语的任何含义中，可能的责任主体的范围通常由一组需要正确归因于所述系统的特征来描述，例如理性、接受理由、接受通过赞扬和指责或惩罚进行纠正等，有理由认为，能够站在所讨论的道德关系中，本身就是一种渐进的现象，或者是一种门槛现象。在这方面，责任的所有变化也不一定是相同的，例如，法律实践似乎知道在一定的能力门槛下承担全部责任（责任、知情同意的能力）的情况，而至少教育实践将责任（责任）视为青少年相继获得的一种渐进现象。根据在某一特定道德关系中的能力构成的特征，例如，一些动物、人类婴儿、患有严重精神残疾的人或人工智能系统是否可以成为该关系的一部分，这是一个有争议的问题。另一方面，道德关系可以将不止两个人联系在一起。例如，一个代理人可能在道德上对同一关系中的多个不同的个人负有义务，例如，有义务尊重自己的父母，包括他们两人。还有集体责任的特殊情况。诚然，在哲学上，群体的道德权利或义务是否具有不能追溯到个体群体成员的权利和义务（参见[8]）的道德等价物，这是一个尚未确定的问题。

在关于人为智能系统行为责任归属的辩论中，谁负责？支配自塞缪尔·巴特勒（Samuel Butlers）的小说《埃雷洪》（Erewhon）[5]：人工智能系统本身以来，第一个问题已经在科幻场景中讨论过。正如上面在斯派罗的例子中看到的，一些哲学家提到了这个选项，但却立即拒绝了它。这似乎是该领域大多数作者的反应：人工智能系统很少被认真讨论为责任承担者。另一些人则稍微严肃一点，用比喻的方式谈论程序解决特定任务或遵守特定限制的职责。这一用法甚至见于瓦拉赫和艾伦的杰出哲学贡献，他们谈到设计系统的方式不会违反具体的行为准则。但最终，他们承认，人工智能系统充其量是离经叛道的责任案例[41]。一些极少数人选择了“责任”一词的一个特殊方面，即“因果责任”中的描述性用法，并在此基础上将责任归于人工智能系统[10]

人工智能系统责任归属的第二个主要方面是构建一种群体或系统责任形式，对在人工智能系统的帮助下实施的行动的后果负责。如上所述，例如，贝克对法人的概念进行了粗略的类比，并提议为人工智能系统生成一种特殊的法律地位。它旨在由参与人工智能系统创建和使用的所有各方的部分责任组成：这个机器人法人只会捆绑不同各方（用户、销售商、生产者等）的所有法律责任。这种捆绑实际上是这些机器需要新分类的主要原因。（[1]，第479页）。在哲学上，斯文·尼霍姆（Sven Nyholm）也提出了类似的建议，他认为，如果我们将责任理解为参与某种行为或事件（他称之为人机协作）的代理人和工具的网络或系统的关系属性，那么责任差距就不多了[27]。但正如尼霍姆本人所承认的，他的建议涉及到对“责任”和“代理”的重大重新概念化。在这里介绍的术语中，它将该术语的使用与词源进一步分离，而不是试图挽救对话星座

Nyholm介绍了代理和责任方面的几个显著区别。特别是，他将机构区分为个人与合作、领域特定与领域独立、基本与原则、监督与尊重与负责（[27]，p.1207 f.）。Nyholm以自动化汽车和军用机器人为例的当代和近期机器学习系统具有“协作型的监督和尊重机构[…]”（[27]，第1211页）。鉴于人工智能系统的机构是协作的，服从于协作中的人并由其监督，Nyholm可以将责任分配给一对或一组协作者，但将责任归属于人的部分。诚然，尼霍姆可以借此表明责任差距并不大，但他通过表明设计、训练、销售和使用人工智能系统的人类是负责任的一方来做到这一点：“这里最困难的问题是，人类对机器人合作者造成的任何潜在不良后果负有最大责任。”（[27]，第1214页）

更重要的是，尼霍姆成功地弥合了道德关系中的差距，因为他进一步区分了责任的概念。设计、训练、销售和使用人工智能系统的人类不仅负有明显的责任，而且我们应该“确定谁对汽车的行为的哪些方面负责”（[27]，第1214页）。因此，Nyholms计划通过（a）区分责任类型和（b）将责任分配给与系统相关的人，来证明对人工智能系统使用“责任”概念的正确性。Nyholm解决人工智能系统使用引发的道德问题的方法的基本理念非常令人信服，即将其视为协作工具或人类机构的支架[16，17]。但与外表相反，这不是一个依赖于捆绑概念“责任”的解决方案

一般来说，用“责任”一词来分析人工智能的道德问题，这一术语是建立在对话情境的基础上的，这会阻碍人们对复杂情境的理解，正如尼霍姆所证明的那样，这些问题发生在复杂情境中。人工智能系统的道德问题通常不仅仅涉及两个人，而且大多数时候，受影响的人和涉及的人并没有整齐地分成集体代理人，更不用说分成两方了

“某人负责什么？”
责任的对象是响应需求中解决的问题，即主体负责什么。在日常语言中，非常不同的事情可以对象负责…的位置，例如，物理对象、行为、事务状态。一个人可以对自己的汽车、孩子的照顾或工作场所的安全负责。然而，许多作者认为，一个人可以负责的这些不同类型的事情只能归结为一种或两种，即行动，也可能是行动的成功。毫无疑问，责任对象的原型是先前的行为。
根据还原位置，负责其车辆的人实际上负责其车辆相关的某些行为：定期维护、以特定、安全的方式驾驶车辆、仅将其停放在标记的停车位等。人们是对行动的成功负责，还是只对行动本身负责，这是一个悬而未决的问题：负责工作空间安全的人是否必须清除障碍、提供指导等，并在完成所有这些任务后履行了职责？或者，她是否有责任确保工作场所在这些行为之外是安全的，如果有人在工作场所受到伤害，她是否忽略了自己的责任，尽管已经采取了所有具体措施来确保工作场所的安全？这个问题的答案取决于上述责任的确切含义。例如，一个人可能在法律上（甚至在道德上[6]）对所发生的事件负责，即使他们已经执行了所有他们有义务执行的行为。首先，因为它将事件转移到焦点，而这些事件绝对不是行动，而是一种非常模糊的意义，即计算机系统的数据处理和输出。行动是基于实际原因而进行的行为，而实际原因又由一些积极的态度（如愿望或愿望）和一些工具性信念组成。即使将人工智能系统的行为描述为行动很方便，这也只是借用了心理学术语。从有意的立场来看，将信念归因于人工智能系统可能是有意义的。然而，将其归为亲态度充其量是该术语的衍生用法，如果不仅仅是一种修辞手法的话。
这种衍生用法在我们的描述中已经根深蒂固，尤其是在强化学习和树搜索算法中。我们分别讨论了他们最大化奖励函数或偏好函数。这个术语是从行为科学中引入的，无论是动物行为研究还是行为经济学，在行为经济学中，生物体的行为都用相同的术语来解释，即奖励和偏好功能。然而，我们应该区分最大化奖励或偏好功能的概念和易受奖励[35]或有偏好的概念，尽管这些很容易混淆。虽然为了科学解释的目的，可以根据奖励功能的最大化来描述给定领域内的动物行为，但这种抽象忽略了大量相关的心理信息。同样的道理也适用于描述偏好函数指导下的行为，尤其是人类行为。这可能是一个有用的抽象，但它只捕获了偏好意味着什么的一小部分。人工智能系统可以利用这些心理和行为科学的解释模型来设计，这一事实并不意味着这些系统与所描述的有机体具有相同类型的状态。人工智能模型在科学上令人兴奋的一个方面是，它们不需要模仿它们所解释的现象的结构[26]。这同样适用于人类思维模型。
正是因为这个原因，将认知和认知状态或代理归因于人工智能系统时，会非常小心地考虑到底是什么。以Nyholm的例子为例：“特定领域的原则性代理：在特定的有限领域内，以受特定规则或原则规范和约束的方式，在表达的基础上追求目标。”[27]，第1208页，我的重点）或Floridi的例子：“代理 = <定义。一个系统，位于一个环境中，是一个环境的一部分，随着时间的推移，它会启动一种转变，产生一种效果，或对其施加力量。”（[10]，第140页，我的重点）。只有少数作者会坚持认为，人类代理人的积极态度和信念以及由此产生的行为与人工智能系统的目标或目标以及表征以及由此产生行为是相同的[44]智能系统从根本上与概念原型不一致，因为它很少涉及人工智能系统引发的道德问题所涉及的真实行为，即个体人类主体的行为。这可能是当前辩论中最令人不安的诊断。很少有人会问软件工程师是否对自己编程和训练人工智能系统的方式负责，是否对订购或销售人工智能系统负责，或是对命令使用自主武器系统应受责备的官员，尽管这些都是我们应该问的基本道德现象。相比之下，人们实际上要问的问题是，这些人中的任何一个人是否可以对人工智能系统或这种系统所带来的事件负责。几位作者想知道，是软件工程师对人工智能系统负责，还是指挥官对自主武器系统的行为负责，或者与这些系统中的每一个都以何种方式负责的程度形成对比

责任的概念对使用人工智能系统的道德分析有什么作用

在阐述责任概念及其在人工智能系统话语中的特殊用途时，有两件事应该特别值得注意：第一，责任概念包含了一种内在张力，即简化的对话原型和非常不同的责任归属实践之间的张力。其次，使用该术语的做法，即责任归属，借鉴了一整套用于回答规范性问题的工具，至少在道德和法律方面是如此。它试图重构义务、义务、期望、责任等密集网络中的不同道德关系，并根据典型道德主体之间的对话情境对其进行建模。确定“责任”的不同组成部分或版本，例如责任责任或责任作为义务，首先是一项任务，即分离不同代理星座之间可区分的道德关系。根据这些可区分的道德关系分析复杂的道德状况，例如涉及人工智能工具的行为，是合乎逻辑的下一步。不出所料，这对一些新颖的道德关系来说效果更好，对其他人来说效果更差。然而，这些分析充其量被误称为对人工智能行为的责任调查，而事实上，这些分析表明，“责任”这个无差别的术语本身在这方面没有任何分析作用

让我用一个粗略的比喻：最初的努力（道德分析）以一组复杂的子任务（识别不同的道德关系）为特征，为此我们需要不同的专业（术语）工具。这些工具包括：“权利”、“义务”、“正当理由”、“责任”、“补偿”等。事实证明，我们可以将相关数量的这些工具打包在多工具“责任”中，就像一把瑞士军刀。与真正的多功能工具一样，我们不会组装一个完整版本的专用工具，而是组装一个适合外壳的工具。这里，外壳是“责任”一词的对话结构。现在，我们分析了这一多重工具，并产生了诸如“责任责任”之类的差异。但这些主要是指扩展了某个子工具的多工具。责任责任不高于责任和责任，因为义务只是义务。当我们最初的努力经历了一个关键且部分陌生的转折（在人工智能的道德问题分析中）时，我们试图坚持使用我们的多工具，而不是打开整个工具箱，尽管我们在多工具的适用性方面遇到了差距：责任差距

在上述责任归属分析中，没有任何一点证明该术语的作用超过了一套不同的工具。关于人们在其制度嵌入中生产和使用人工智能工具的道德和法律问题，可以用相关学科中更具差异的概念工具来解决，而不能用多工具“责任”来解决

黛博拉·约翰逊（Deborah Johnson）在谈到我们将责任归咎于工程师的做法时，也有过类似的观察：“尽管工程师有社会责任这一广泛共识，但人们对以社会责任的名义所应承担的责任并没有很好的理解。”（[19]，第85页）。在分析了几个工程学会的规范之后，这些学会主要讨论她建议将工程师的责任分析为责任，而责任又包括根据共同规范的义务。她没有坚持将参与方一概认定为“工程师”和“公众”，而是明确了究竟谁参与了问责的社会实践。如果这是我们分析人工智能系统及其使用责任的路径，那么我们最好跳过弯路，从一开始就使用更专业的术语。回到斯派罗的例子：我们不应该谈论自主武器系统造成的事件的责任，而应该要求参与其中的每个人都有不同的道德权利和义务。以下是一些问题：指挥官是否有责任阻止其部队和装备采取任何行动，这将构成战争罪？如果她的部队或他们的装备违反了正义战争的准则，她是否值得受到指责？她应该后悔还是自责？如果她履行了所有的监督义务，她是否可以被原谅或减轻罪责？在这种情况下，受害者或他们的亲属可以向她提出索赔吗？如果用户（在这种情况下是军事单位）没有过错，公司是否对其货物造成的损害负责？公司是否有义务告知用户不可预见事件的可能性及其风险？一家生产可能涉及战争罪事件的设备的公司在道德上是否值得指责？一个军事或政治领导人为军队配备工具，即使在良好的条件下，这些工具也会导致必须被描述为战争罪的事件，这在道德上是否值得指责？我毫不怀疑，鉴于正在审查的案件的一些细节，所有这些问题都可以毫无遗漏地得到回答

在何种情况下，使用完整的道德术语工具箱进行分析会导致差距？我认为这个问题可以诊断关于人工智能系统责任的争论。答案似乎是，如果存在某种道德关系的主体，而由于某种原因，这种道德关系不能成立，例如，一个不能承担义务的义务主体，就会出现差距。这背后的思想是，人工智能可以被理解为一个代理人，但不能被理解为作为代理人而产生的道德关系的主体。我认为问题在于前者，而不是后者。只有当我们将人工智能系统视为伪智能体时，才会出现责任差距。然而，令人不安的事实是，在人工智能系统成为代理的那一刻，不再存在责任差距。代理人是指可以参与“责任”一词下包装的所有道德关系的人。然而，伪代理人和非代理人根本不属于任何类型的道德关系，他们只能是代理人之间道德关系的主题。后者通常不使用更一般的术语“责任”进行分析，而是使用更专业的组件进行分析。如果这些代理正在使用人工智能工具，则没有理由这样做