简介

人工智能（AI）机器人是一种智能的、半自主的机器、软件和系统，具有越来越强的能力来与人类协作或自行制定决策，以支持人类。它们提高了效率，提高了生活质量（采伊奇等人，2018），因此可以对商业和社会产生深远影响。人工智能机器人帮助老年人护理（Broekens等人，2009；Jiang&；Cameron，2020），支持医疗诊断（Yoon&，Lee，2019），并在自动驾驶汽车的情况下简化交通（Hassan等人，2018）。然而，与此同时，使用人工智能机器人会引发社会变革，从而产生伦理影响（Alles&；Gray，2020；Veruggio等人，2016；Wirtz等人，2018）。正如Westerlund（2020）所指出的，随着时间的推移，人工智能机器人可能会显著影响社会政治秩序，在最高级别引发道德问题和问责问题，与算法和个人数据收集的情况一样（例如，剑桥分析丑闻，Wang等人，2020）。

尽管很难预测人工智能机器人的技术创新速度，但基于商业和管理的人工智能机器人伦理讨论对于减轻未来风险是必要的（Russell等人，2015），协助人工智能机器人行为的编纂（Gunkel，2012），以及在商业环境中建立问责机制。尽管商业道德领域在道德领域相对较新，但它可以帮助指导个人和组织用户，他们的目标是更好地管理自己的道德行为，如果是组织，也可以更好地管理员工的道德行为（Trevino&；Brown，2004）。虽然一些用户可能已经“有了更高的全球意识”来遵守道德（Huang&；Rust，2011，第44页），但其他一些用户需要更多的指导。在本文中，我们总结了规范和描述性伦理理论的见解，借鉴了前者对人工智能机器人伦理挑战（我们确定了四个类别）的可采取行动的明确回应的能力，后者的解释能力与塑造人工智能机器人情境的道德维度有关（我们引用了两个道德能动性和强度）。这些理论元素结合在一起，引发了人们对管理商业中人工智能机器人应用所需的“责任集群”（众多参与者、层级和机构）的思考。

据我们所知，将规范和描述性伦理应用于商业环境中的人工智能机器人是一种新颖的方法，因为它使人们能够将来自然而不相关的知识领域的概念与与人工智能机器人有关的概念及其对实际问题的思考相结合。我们利用这些见解开发了一个新的框架，该框架包含以下结构：道德中心（人对人工智能机构）、道德强度和责任分散、责任集群以及非法、不道德、允许和超级监管这四个道德类别。虽然道德的轨迹取决于道德决策的位置（Kagan，2018），但道德强度是指不同情况下与问题相关的道德义务的程度，并考虑单个行为可能对多个受害者或受益人产生的影响（Jones，1991）。然而，我们也注意到，人工智能机器人的道德含义源于松散连接的行动者之间的独特相互关系网，如人工智能机器人设计师、个人和组织用户、行业和政府机构以及民间社会团体。因此，我们必须考虑人工智能机器人问责的新形式，我们在理论上称之为“问责集群”。这些是位于不同层次的相关行动者的网络，构成了人工智能机器人的问责机制（例如，个人/专业、组织、机构、超地域）。

关于这一重要现象，我们广泛遵守Beu和Buckley（2001年，第65页）的定义：“责任是对具有奖惩权限的观众辩护或证明行为的感知需求，其中奖惩被视为取决于观众对此类行为的评价。”然而，正如Buhmann等人（2019年）在“算法责任，“人工智能和系统学习技术可能存在特殊的、离散的问责特征（如技术和战略不透明性），这使得人们对问责的期望具有高度的流动性。人工智能机器人应用程序有可能使传统的正式问责机制（例如，工作场所法庭）变得更加复杂，因为它将道德代理分散在潜在的众多代理人之间，这些代理人可能对严重的伤害负责，但他们是在空间上、组织上，甚至在时间上都是脱节的。因此，问责分散是指问责在不同行为体和层级之间的扩散程度，在这种程度上，高度问责分散给利益相关者在确保人工智能机器人的道德使用方面带来了沟通和协调方面的挑战。我们对责任分散的理论化建议调查各级内和各级之间的行动者之间的相互联系，呼应了对治理和企业社会责任等相关主题进行多层次学术研究的丰富传统（Balakrishnan等人，2017；François等人，2019；Young&；Marais，2012）。因此，尽管我们大致遵循微观-中观-宏观分析路径，但我们的四个“责任集群”更准确地描述了参与者的性质和围绕人工智能机器人应用的环境特征。因此，我们在《商业伦理杂志》的这期特刊中的目标是在未来商业和社会对人工智能和人工智能机器人的研究中，促进在各个层面建立“理论桥梁”（Hitt等人，2007）。我们通过四个集群探索不同的人工智能应用环境如何与道德强度、代理和责任的概念相互作用，提取不同位置的参与者集群，并促使考虑人工智能机器人使用责任的一些基本结果。因此，我们强调了将描述性和规范性理论应用于重要的商业社会问题的价值

为AI机器人问责制定一个新的概念框架的潜在贡献如下：首先，为了扩大目前对AI机器人应用的道德含义的理解，我们制定了上述问责集群。这些集群表明了确保问责制的必要行为体和活动，例如，设计和实施人工智能机器人的公司、行业、政府/监管机构和民间社会组织。在这里，我们将“问责集群”定义为位于不同层次的相关行为体之间的联系，这些行为体构成了人工智能机器人问责机制（例如，个人、组织、行业/政府、超地域），这些机制将用于治理人工智能机器人应用环境中的非预期道德违规行为

其次，对于每个问责集群，我们整合了Heath（2014）提出的非法、不道德和允许的四个规范性道德类别，Heath将其概括为“商业道德的市场失灵方法”的支柱，这是规范性商业道德的一部分。此外，我们扩展了Heath的工作，纳入了以创造超额价值为特征的超级机器人使用类别（Driver，1992），以涵盖使用人工智能机器人的潜在积极影响。超级使用的概念也植根于规范的商业道德。结合消极（即非法、不道德）和中性/积极（即允许、超级监管）两个方面，为围绕人工智能机器人的创新进行伦理调查开辟了道路，与对道德或不道德的事物的二元观点相比，这使人们能够创造更微妙的理解（例如，Bommer等人，1987；Constantinescu&；Kaptein，2015；Khalil，1993）。这转化为从“是或否”的道德评价转向“是，请”（上级）/“好”（允许）/“不”（不道德）/“根本不”（非法）的四边形。此外，这些类别代表了不同层次的道德强度，而超级英雄的使用是道德强度最低的。我们从人工智能机器人使用的例子中得出了我们的框架，并从伦理和监管角度特别强调了人机交互（Johnson，2015；Lobschat等人，2021；Wirtz等人，2018）

第三，我们解决了使用人工智能机器人（Wirtz等人，2018年除外）扩展规范商业伦理领域文献的商业伦理宏观研究的稀缺性。最后，我们的方法可以为监管机构、公司和个人提供关于开发和控制道德精明的人工智能机器人的政策建议，例如通过使用场景规划、利益相关者映射和人工智能机器人设计框架。基于拟议的新商业道德框架，我们为与人工智能机器人的学习行为及其在决策过程中的角色相关的监管干预提供了一些考虑点

本研究的结构如下：我们首先寻求与AI机器人相关的概念清晰性。然后我们讨论道德，特别是作为下一节概述的新框架基础的商业道德，以及责任集群。接下来，我们将概述包括监管影响的讨论部分。最后，我们强调了未来研究的局限性和方向，包括研究主题和研究问题。第一作者感谢Sareh Pouryousefi博士对商业道德的有益讨论

AI、机器人和AI机器人

评估相关道德含义需要概念清晰，因此下面的章节重点提供AI、机器手以及AI机器人的定义。这三种现象是相互关联的，而第三种现象，人工智能机器人，对本研究特别感兴趣。当我们专注于人工智能机器人时，我们也可以将概述的伦理考虑应用于更广泛的人工智能应用

AI

AI指的是开发智能自主系统，该系统可以执行其他归因于人类智能的任务，例如视觉或语音识别、语言翻译以及对环境中的事件做出反应（King，2017）。因此，人工智能构成了智能软件。算法，尤其是基于机器学习技术的决策算法是人工智能的固有部分（Martin，2019）。人工智能通常与机器编程相关联，以参与学习、推理和自我纠正等类人思维过程（Benlian等人，2019）。人工智能遍布各种活动领域，如机器学习、知识表示、人类认知建模、数据科学、增强现实、计算机成像、视听信号和自然语言处理，仅举几个例子。人工智能产生的输出包括信息、人机通信，甚至物理物体（Baskerville等人，2020）。人工智能也越来越多地支持，甚至在某些领域替代了人类决策（Baskerville等人，2020）

机器人

历史上，机器人的概念是指执行通常归因于人类智能的功能的自动设备（Calo，2017）。机器人根据可编码的预先确定的目标行动，并遵循认知结构以适应其环境。它们可以识别部分环境，例如物理物体或人类声音（Aleksander，2017），并执行特定的、预先编程的动作，例如移动物体和与人类互动（Admoni&；Scassella，2017）。机器人的控制水平是有限的：人类有权纠正或停止机器人的动作（Zieba等人，2011）。凭借其信息处理能力和特定领域的认知能力，机器人在各个领域的表现往往超过人类（Ma&；McGrootty，2017）。进一步的规范将机器人视为自动控制、可重新编程的多用途机器，既可以固定到位，也可以移动使用（参见ISO 8373标准）。传统上，支持学习和支持决策的复杂IT系统不支持机器人。虽然有几个机器人符合这些特征，但传统方法更多地关注机器人的物理实体

人工智能机器人

推进人工智能机器人的定义并不断调整其以适应最新的技术发展水平一直是一个持续的挑战。除其他外，欧洲议会向机器人民法规则委员会提交的决议（EP 2015/2103，INL）形式的立法呼吁制定最新的、具体的、可操作的定义，包括人工智能和机器人。对于本文，人工智能机器人的工作定义是，它们是半自主、无意识的实体，表现出生物的行为，并具有学习和决策能力，以促进人类活动（基于Aleksander，2017；King，2017）。该工作定义借鉴了机器人的定义，特别是通过感知和适应环境来执行活动（Aleksander，2017），以及人工智能的定义，尤其是与类人智能而非感觉有关（King，2017）。一些人工智能机器人可以具有物理表示，因此是具有智能软件的机器（例如Nao或Pepper），而其他机器人仅虚拟表示，没有特定机器的必要物理表示（例如Siri或Alexa）。因此，继Wirtz等人（2018）之后，学者们将具有随时间学习能力和自主行动能力的虚拟人工智能软件视为人工智能机器人的一个例子

人工智能机器人结合了自动化机制和复杂的学习和决策能力来支持人类。然而，人工智能机器人仍然无法处理或表达情感以及人与人之间交流的其他重要方面（Ciborra&；Willcocks，2006）。部分原因是缺乏同理心，AI机器人的学习过程与人类学习不同（Kamishima等人，2018），因为AI机器人需要缩短学习周期（Bilgeri等人，2019），从而产生更高的处理大量信息的能力（Bera等人，201），从而可以减少人类工作量。人工智能机器人通常由一个代理（可以是一个物理实体，如人工智能机器人，但也可以是一种软件）及其环境（在该环境中，代理通过传感器进行动作并与之智能连接；代理的环境可能包含其他代理）组成（Choudhary等人，2016）。尽管人工智能机器人已经作为证人出现在法庭面前，但它们通常被视为道德上被动的工具，尽管可能并不准确（Westerlund，2020）。因此，人工智能机器人的法律地位及其责任仍在讨论中（Calo，2017），但在准备背景材料和评估专家证词时，它们可以帮助法官工作（Katz，2013）。人工智能机器人的决策越来越重要，成为日常生活的一部分。然而，区分人工智能机器人的决策和专门适合人类的决策一直是一个持续的挑战（Baskerville等人，2020；Ciborra&；Willcocks，2006）

AI机器人与道德

关于AI机器人的文献确定了围绕用户（例如，Buhmann等人，2019；Westerlund，2020）、制造商（Bench Capon，2020；Buhmann等人，201）、其他组织，如政府（Wright&；Schultz，2018）和部分AI机器人本身（Bench Capon，2020）的集中问责。研究人员应用了多种方法，从美德伦理学（Bench Capon，2020）到社会契约理论（Wright&；Schultz，2018）。这些研究的重点在几个主题中有所不同，从放弃人类责任（Allen&；Wallach，2014）到算法责任（Buhmann等人，2019）。一个常见的模式是，作者以集中问责为特征，并就人工智能机器人的伦理维度的必要性展开讨论。表1列出了文献中的一些要点，并将我们的研究与已确定的来源进行了对比

表1人工智能机器人文献中的一些要点和本研究的定位

全尺寸表

<

关注规范商业道德

道德参考隐式和在没有政府指导方针或其他外部监管制度的情况下，应遵循明确的规范和原则（Heath，2008）。跨学科伦理分析包含了广泛的管理、经济、社会、技术和法律问题（Zsolnai，2006），并讨论了缓解伦理问题的监管措施。商业伦理是一个跨学科领域，涉及市场中的一系列规范问题，包括围绕个人行为和责任、组织和制度伦理以及市场、法规和政治监督的公正设计的问题（Norman，2011）。规范性商业道德是指商业道德的一个领域，研究道德如何为决策提供信息（Hasnas，1998）。Kagan（2018）认为，规范的商业道德涉及关于如何行动、如何生活、如何做生意以及成为什么样的人的实质性建议。它确定了在给定条件下道德上可接受的行为，并得出了关键的监管/管理协议（Cropanzano等人，2013）。与规范伦理学相反，元伦理学（Miller，2003）旨在描绘道德概念并证明道德理论的合理性，而不暗示“对”或“错”的构成然而，规范的商业伦理研究道德原则，并为解决个人/机构道德困境和市场设计制定指导。此外，规范的商业道德提出了关于如何与非人实体接触的问题

在规范性商业伦理领域，文献区分了美德伦理（Hurshouse，1999），这主要涉及评估个人的内心状态以及行为与性格之间的契合度 Deontology（Alexander&；Moore，2007）是对责任的研究，即道德义务要求我们做什么 后果主义（Peterson，2013）认为，行为的后果决定了行为的道德正确性。伦理经济方法（Koslowski，2001）主张将伦理和经济学结合起来，形成理性行为和社会选择理论的综合理论（Arrow，1973）。市场失败方法商业伦理（Heath，2014）试图制定隐含在市场经济体制机制的基本经济假设中的规范性标准。它指出，商业和创新需要不同于普通道德的规则。市场失灵方法将市场竞争视为推动商品和服务的有效配置，以实现更大的共同利益（Heath，2011）。它将监管和道德干预理解为纠正缺陷的杠杆，从而减少资源的任何不当分配（Heath，2014）。

在规范的商业道德中，我们利用市场失灵的商业道德方法来区分非法、不道德和允许的使用（Heath、2014）。我们用另一个规范的商业道德范畴来补充这些支柱，这是一组监管行为（Driver，1992）。使用规范商业道德的基本原理是实践与道德理想情景之间的联系。关于人工智能机器人的最新发展，忽视实际考虑将阻碍对其使用的伦理评估 超强的行为代表了一个人在道德上的期望值（Driver，1992；Mazutis，2014）。市场失灵方法中概述的三个道德类别如下：（1）非法是任何违反法律法规的行为；（2） 不道德是仅达到法定最低限度的任何行为。诸如“我们没有违法”之类的言论表明了违法行为，并暗示了对道德体系的不满（Wilson&；Series，2002）。Bardy等人（2012）将道德定义为促进合作行为的一套普遍行为标准；（3）道德上允许的行为是指不需要解释假定的公平性或适当性的行为。Heath（2014）讨论了特定对象的不道德行为，如利用公司资产寻求特权或因战略地位而获取内幕信息。道德上可争论的非特定对象行为包括，例如，施虐行为。为了在关于“应该”和“不应该”发生什么的建议之间取得相对平衡，我们纳入了旨在鼓励而不是阻止某些行为的超级监管类别。连同第四组，我们提议的新框架将包括两个禁止性（非法和不道德）和两个非禁止性（允许和超级）类别。如图1和讨论所示，我们在下面进一步说明了如何根据四个责任集群来解释这些类别。1

AI机器人问责制的新框架

全尺寸图像

现存伦理讨论通常采用区分道德和不道德行为和决定的二元逻辑。Bommer等人（1987）确定了不同的因素，如企业目标、司法制度、宗教或社会价值观，这些因素可以鼓励个人决策者做出道德和不道德的决定。然而，最终，研究人员将决策分为道德和非道德的二元组。同样，Constantinescu和Kaptein（2015）探索了行为的各种驱动因素，并质疑个人或组织可以在多大程度上承担责任。然而，关于结果，这些作者也坚持道德和不道德交易的二元分类。Khalil（1993）的研究考察了专家人工智能系统背景下的伦理决策。他通过假设决策者可以在几项需要评估为正确或错误、道德或不道德的行为中做出选择来建立自己的论点。哈利勒指出了道德问题的原因。例如，专家系统缺乏人类的智力、情感、价值观，并具有一定的偏见。他提出了各种驱动因素，但将结果分为道德或不道德两类。这些研究提供了对影响决策的潜在机制和因素的有用见解组织背景。因此，它们对个人、公司和政府审查其决策过程非常有用。然而，我们认为，从伦理角度来看，除了决策的驱动因素之外，结果也是相关的。与过于简单的二元伦理/非伦理分类不同，还有空间采用更精细的方法，包括非法、不道德、允许和超级伦理类别。研究可以从伦理评估的两个极端之外的更多选择中受益，尤其是在人工智能机器人方面，技术的进步和技术的不同使用是不同的，以至于它们被划分为伦理和非伦理类别变得越来越具有挑战性，与实践不一致

人工智能机器人问责新框架

新框架可以为管理者、公共政策制定者和民间社会团体的道德评估和后续行动规划提供信息，以更好地理解人工智能机器人应用的含义和问责响应。考虑到申请形式的固有变化、技术状态的变化，以及至关重要的是，社会对道德上可接受和不可接受的合法性的期望的变化，这不是一个规定性或静态框架（Suchman，1995）。我们提出了两个驱动道德和道德强度框架轨迹的轴向主题，这两个主题以独特的方式结合在一起，为商业中的人工智能应用提供了必要的特定“责任集群”（图1）。图1描述了责任日益分散的本质，这是道德强度和人工智能机构不断提高的结果，以及这如何引发不同类型的行为体和不同层次的分析。我们的四个问责集群与特定级别的参与者类型相对应。因此，在集中问责的情况下（即，低分散性、低道德强度和人为代理），人工智能机器人的问责可能会受到明确定义的本地行为体的影响。这可能包括提供人工智能设计公司、实施公司和用户。这方面的一个例子可能是在大型仓库内部署人工智能清洁甚至库存机器人。相反，在问责广泛分散的情况下（即，高度分散、道德强度高、人的能动性低），问责集群可能会吸引宏观机构和超领土领域的众多正式和非正式行动者，以提供问责。这类人工智能机器人设置的一个例子可能是国际维和、军事和/或人道主义应用，在这些应用中，部署需要跨不同地缘政治和法律领域的问责制

AI机器人的问责挑战

图1突出了我们在特定环境下的AI机器人应用环境中道德轨迹和道德强度之间的联系，以及可能需要的相应问责机制（将在下文中进一步详细讨论）。将此链接与人工智能机器人应用程序联系起来是必要的，原因如下：首先，在非人工智能环境中，如果经理或员工做出不道德的决定或从事非法行为（例如骚扰、歧视、欺骗、盗窃），谁应该负责的问题很可能相当集中（例如，当地/接近个人、部门或组织），使得个人决策者或道德代理人可能独自负责。任何惩罚性或恢复性问责机制的管理也可能是地方性的（直线经理、人力资源管理、培训计划、举报程序）。至关重要的是，这些问责机制的重点和范围并没有广泛分散。然而，将人工智能机器人引入此类环境大大复杂了潜在的错误行为人（或无意识/同谋的“错误行为人”）与相应的修复机制之间的相互关系，与使用人工智能机器人相关的技术不透明性加剧了这种关系

如果道德问题（可能是错误的）直接造成伤害或间接促成伤害，责任问题就复杂得多。人工智能机器人、支持人工智能系统、开发人员、实施组织、监督管理人员、行业监管机构或政府是否负责？Martin（2019年，第129页）就算法的非预期后果的责任问题提出了这个问题，算法的作用从“简单的if-then语句到人工智能（AI）、机器学习和神经网络”发现（2019:130）不可避免的是，“所有算法决策都会产生错误”，如果不被发现，可能会对不同的利益相关者造成不公平、不平等和伤害。因此，即使“机器人伦理”的设计是为了抑制人工智能机器人的不道德决定，伦理问题也可能会出现并持续存在，从而将责任分散到最初设计者之外的一系列参与者和活动中。因此，我们预计类似于“算法问责”的事情将发生在AI机器人应用程序的背景下，并敦促讨论特定于背景的问责机制，该机制将包括但远远超出AI设计师或用户的初始编码角色（表1表明了对设计师用户问责的关注）。因此，下一节将讨论人工智能机器人在商业道德和更广泛的管理研究社区中的使用责任的关键驱动因素。表2将“责任集群”与违法、不道德、允许和监管的道德类别联系起来。每个交叉路口都有AI机器人用于不同目的和不同设置的示例

表2责任集群和道德类别

全尺寸表格

道德轨迹

人工智能机器人的使用对道德轨迹的影响程度，道德轨迹被定义为选择道德行为的自主性（Bruder，2020），主要集中在人工智能机构（弱人工智能机构），而人工智能机构对人工智能机器人的专注度较低（强人工智能机构。强大的人工智能代理并不意味着人类代理的缺乏，而是人类代理的隐藏本质。“机器人伦理学”领域的最新研究（Leventi等人，2017）表明，人工智能机器人不仅可以在应用环境中与人类共享代理权，还可以从中学习并“改进”（机器学习）。机器人技术的进步导致了“智能机器人”的出现，Westerlund（2020年，第35页）将其定义为“能够与人类协作的自主人工智能（AI）系统。它们能够从操作环境（……）中“学习”，以提高性能。”

从理论上讲，重复糟糕的人类决策，没有注意到某些伤害或不公正，甚至无意中造成了这些，都是人工智能道德机构升级的可能性。在构建我们的纵轴（图1）时，我们将道德轨迹的概念与Martin（2019年，第131页）的断言相结合，即“算法减轻了个人的某些任务负担，类似于机器人如何在流水线中排挤工人。同样，算法是为增强自动化决策连续体上的特定点设计的。“

我们注意到，作为自主伦理决策者的上连续统AI机器人的更极端的末端目前是理论上的。完全自主是一个假设场景，它是一个定位点，而不是AI机器人的实际、可达到的质量。随着时间的推移，这取决于围绕人工智能接受的技术和社会许可的状态，即使是强大的人工智能伦理机构也可能会经历一些“有限”的自治。然而，Westerlund（2020）告诉我们，人工智能机构具有广泛的潜力，从机器人作为人类道德的被动接受者（程序化道德准则的对象）到高度活跃的代理人（道德判断的主体）。Westerlund（2020）还指出，随着时间的推移，人工智能机器人可能会在更宏观的社会层面上成为社会文化伦理规范的接受者和塑造者。因此，道德的轨迹可能会塑造“地方”问责回应，强调设计师用户问责解决方案的作用（Bench Capon，2020），以及更广泛的宏观社会变革，这些变革可能需要由组织、政府和公民代理人和结构组成的群体做出暂时不明确的回应

这些考虑告诉我们如何构建图1中的纵轴——“道德轨迹”在规范伦理理论中，一个主要假设是，关于行为（正确的规则/最佳结果）导致的各自伤害或自由的伦理决定取决于理性的选择主体。根据道德哲学的脉络，这可能涉及必要的人类特征，如对权利和行为后果进行道德推理的能力、社会获得的美德感和道德品格，以及更为存在主义的道德冲动、同理心和/或对他人的关怀等先天概念。最新的商业伦理研究表明，管理者可以唤起他们的“道德想象力”（Johnson，1994），包括推理、同理心和纯粹的直觉，以达到最佳的道德决策（Tsoukas，2020）。目前技术发展的力量，至少对于一些人工智能机器人应用而言，是朝着模仿人类的方向发展，特别是包括我们做出选择的方式。这当然包括伦理性质（或结果）的选择，从服从和模仿到潜在的自主判断。然而，模仿在道德上存在风险，而“人工智能系统是一种工具，它将试图实现它被命令完成的任何任务。当这些命令由人类发出时，问题就来了，这些命令很少像应该的那样精确”（Kaplan&；Haenlein，2020，第46页）

因此，纵轴捕捉到了从人类到人工智能机器人的连续体，其中道德决策的轨迹越来越多。在低端，也就是其他人所说的“辅助人工智能”，例如人工智能辅助诊断，人类在很大程度上为人工智能机器人设定了伦理参数，在所有情况下，人工智能机器人都会对伦理决策做出最终判断。人类可以制定道德准则并进行任何必要的调整。人工智能机器人无法做到这一点。人类和人工智能机器人作为伦理决策的起源（轨迹）之间的界限随着我们向上移动而变得越来越模糊，在这一连续统中，人类和人工机器人可能对伦理决策承担不同程度的自主权。连续体的顶部代表了理论上可能的位置（Westerlund，2020），人类几乎没有参与任何道德决策，这完全由人工智能机器人负责，并最终质疑谁对在这种情况下执行（或不执行）的不道德决策负责（例如，系统、产品、公司或政府）

道德强度

这导致了责任的第二个决定因素，即道德强度。在描述性伦理理论文献中，给定情况下的道德强度已经得到了很好的记录，最值得注意的是Jones（1991）的问题关联模型，该模型显示了道德强度的感知如何影响个人的决策。当我们关注问责集群如何为特定的人工智能机器人应用环境发展时，我们以与琼斯不同的方式部署道德强度，将其定义为脆弱性和规模的上下文特定紧急情况，它们放大了AI机器人应用环境中的非预期后果（即，这里的重点不是决策主体对道德强度的感知）。正如我们稍后在四个责任集群中解释的那样，道德强度可能源于（任何组合）潜在受影响的人数、人类因素的脆弱性和/或当前和遗留影响对社区或生态系统的严重性。由于我们的方法是描述性的，因此我们不会在这里讨论来自义务论或目的论框架的设计师如何制定AI机器人的决策（参见Bench Capon 2020，了解关于这些的明确讨论）

在伦理理论（包括规范伦理）中，研究人员通常强调决策的道德强度。例如，利弊后果的大小和分布是功利主义伦理理论的任务。正义理论认识到某些行为体相对于其他行为体的相对脆弱性，使其更容易受到潜在伤害或无法获得利益。在每种情况下，危害/利益对决策都有一定的程度或强度。在希思的概念化中，道德强度伴随着互动的增加：“互动的反复只会增强他们[个人]在竞争环境中以同样[道德上有问题]的方式行事的动机”（希思，2007年，第360页）

总的来说，在道德强度低和高之间存在一系列情况（Jones，1991）。时间、规模、距离和后果分布等因素可能会起作用。与长期将利润优先于患者安全的医院相比，定期休息时间比同事长的员工的道德强度不同。使用我们框架中的示例，我们可以类似地认为，在大多数情况下，有故障的AI清洁机器人会比在医疗服务中未能正确诊断的AI机器人带来相对良性的结果（短暂丢失）

人工智能机器人的责任集群

虽然我们已经开始讨论上述人工智能责任，但首先有必要在我们的理论结构和相应的责任集群之间建立详细的联系，如图1所示。人工智能机器人环境中道德的位置和强度需要特别考虑问责制和治理。尽管主要关注算法，Martin（2019）强调了决策失误（人和系统）的必然性。不管是有意还是无意，偶尔经理会做出糟糕的决定。这里的问题，也是商业伦理学者迫切关注的问题，当错误发生时会发生什么（例如，错误报告公司的财务健康状况）：“不受管理的决策，如果错误得不到解决、滋生，甚至加剧，都是不道德的。不受管理决策表现出对决策（可能）意外伤害的某种随意忽视；对于重要决策，这可能意味着不公平或权利减少的问题”（Martin，2019，第132页）

我们认为，虽然人工智能机器人收集和记录可能表明错误（或原因）的信息的能力非常强大，但识别、解释、判断和审议的能力可能相应地很小。弱小的人工智能道德代理人可能无法识别需要纠正的不道德决定。适度的人工智能伦理代理人可能会模仿并重复它们（“好”）。强大的人工智能道德代理人在追求其他“良好”组织目标时可能会忽视严重的危害（例如，缺乏同理心）。简言之，人工智能机器人的决定和做法会导致伤害、不平等和不公平，随着时间的推移，这些决定和做法可能不会得到纠正。因此，利益相关者有必要认真思考特定人工智能机器人环境中的问责问题。作为回应，我们建议将四个问责集群作为解决问责问题的行动者、资源和活动的指标。简言之，由道德和道德强度所在地决定的问责要求可能是局部的、集中的和临时的（组织监督），也可能在持续的问责讨论中广泛分散在私人、公共和民间社会机构中（Buhmann等人，2019）。例如，与人工智能道德机构更强的情况相比，道德重心主要集中在人类代理人（人工智能道德力量较弱）和道德强度较低（例如，办公室清洁）的情况，以及道德强度远高（例如，人工智能护理人员或士兵）的情况下，对责任集群的要求会有明显不同。然而，我们没有提供新的道德规范（例如，管理问责原则本身），但指出了具体情况的问责集群，很可能包括制定规范的行政机制

在本节中，我们回应了Buhmann等人（2019）从算法研究中发出的警告，即人工智能和系统学习技术可能存在特殊的、离散的问责特征（如技术不透明性），这使得对问责的期望高度流动和微妙。我们没有提供管理者或政策制定者必须遵循的严格的问责机制类型，而是解释性地开发了松散地分为图1中四个不同的问责集群的集群。从某种意义上讲，我们在这里演示了管理者或决策者如何使用我们的理论来尝试结合围绕AI机器人问责的场景规划。根据我们的理论，我们开发了四个集群（见图1），描述了AI机器人的特定上下文应用。这使得能够相应地考虑适当的道德类别。这里请注意，所描绘的集群不是相互排斥的，而是累积的，它们每个都嵌套在另一个内部，就像俄罗斯（matryoshka）玩偶一样，随着道德强度和能动性的提高，融入了越来越多的代理人。对于每个问责集群，我们还将讨论非法、不道德、允许和监管的规范伦理属性。我们描述了道德动态和相应的责任集群，提供了人工智能应用的进一步相应示例（参见表3中示例相关的来源）

表3不同情境下人工智能机器人应用的示例

全尺寸表

集群1职业规范

集群1代表一个相对局部和集中的问责集群，其特点是低人工智能道德机构和低道德强度的应用程序，其中责任问题主要包含在明确定义的设计师-设备关系中。类似于产品的安全认证方案，设计师做出合乎道德的决定，然后将其编码为人工智能机器人能做和不能做的非反射性任务和行为。我们在这里区分了作为模仿者的人工智能机器人（例如支持预订流程的某些聊天机器人）和在这种情况下遵循简单预先编程的行为准则的人工智能（例如智能加热系统）。考虑到设计师塑造了技术特征，并可能包含伦理考虑，专业规范在这里发挥了关键作用，特别是考虑到设计师不太可能在人工智能机器人的使用上受到政府和国际机构的巨大压力。正是在这一最低的代理和强度水平上，我们将定位主要与超级化有关的模型。例如，智能供暖系统在不给利益相关者带来重大风险的情况下实现环保解决方案就是一个很好的例子。然而，“低”风险并不意味着“没有”出现道德问题的风险，这意味着尽管在这些环境中更为地方管理，但始终需要高度的问责

低道德强度和与人类密切相关的道德轨迹是这一群体的特征。我们将家庭中的智能供暖和清洁系统包括在这一类别中：人类设定了确切的活动细节（例如，清洁路线和顺序），我们认为活动类型通常是无害的。不道德或非法使用这些人工智能机器人似乎不太可能，因此它们的道德强度有限。责任主要由人承担（例如，选择财产加热的程度）。总体而言，这一群体的道德风险较低，在适当的情况下需要人类监督，即使这些措施更多地起到预防作用，而不是管理某些人工智能机器人之前遇到的问题。很难解释智能取暖和清洁系统的非法应用，但我们不能排除这样的可能性，即一些智能系统除了其原始用途（例如清洁、取暖）外，还具有重新编程的能力，可以主动监控某人的私人生活或商业事务。一个潜在的不道德应用程序是，当有人误导他人他/她因行动不便而无法参加某个活动，并在移动AI机器人的支持下参加另一个活动时。这类许可的一个例子是，如果清洁工的客户在家或工作场所设置了智能清洁系统，他/她可能需要寻求其他工作

Cluster 2 Business Responsibility

Cluster2代表一个责任集群，其特征是在道德强度适中的环境中，适度的道德代理（责任地点与人类/人类群体的联系更紧密）。这可能意味着，尽管人工智能机构的水平有所提高，但在人类很少或任务性质对人类或生态系统几乎没有威胁的情况下。有趣的是，对于复杂的有机生命来说，可能很难或不可能在其中运行的应用环境，例如采矿、深海或太空探索，可能会邀请具有相当程度自主性的人工智能机器人。相对缺乏生态或人类威胁可能会导致在时间有限的时间内（例如，遵循现有行业法规的用户组织），主要是专业和/或组织层面的行为体更加集中。这使得“商业责任”成为该集群的特征，它指的是使用人工智能机器人的组织的责任。此外，正是在这个集群中，我们可能会看到潜在的允许决策、实践和结果。强调基于组织价值观、目标、使命和行为准则为人工智能机器人设定明确的参数，很可能会补充设计师主导的人工智能机器人伦理

用于昆虫检测的农业人工智能机器人是这一群体的一部分，具有几乎完全自主的操作，对人类的身体或其他风险很低。此外，用于除草和播种的人工智能机器人也属于这一类。类似地，维修和检查人工智能机器人可以进入人类难以到达的空间，并使用能够加速人类感知能力的传感器。例如，柔性弹性双头蜗杆AI机器人模仿英寸蜗杆运动，手持传感器探索其环境并学习维修工作模式。公司可以将其用于维修和检查（Tahir等人，2018）。这种人工智能机器人的允许性在于，尽管更多的工人可能会失业，但在人工智能机器人增强的环境中继续工作的人可以享受更好的工作条件（Fleming，2019）。随着人工智能机器人化环境中工人的减少，工人从事危险任务的风险降低。增加的安全元素代表超负荷运行。不太可能的潜在非法应用包括由于疏忽或计划中的犯罪行为而对人类造成伤害，或者在人工智能机器人的帮助下更有效地获取非法药物。一个不道德的应用可能是向人力施加压力，使其与在组织不同场所进行的人工智能机器人的性能“竞争”。可能仍然需要“监督”人员代理的存在，以提供临时和/或战略监控，以及纠正设计师或组织可能存在的任何道德“盲点”。

集群3机构间规范性

集群3反映了相对高的人工智能道德机构和相对高的道德强度的情况。问责可能相对分散在受体制规范约束的行为体之间，例如，区域行业和/或国家背景，这促使需要就道德问题进行组织间联络。例如，监管机构、行业、工会和民间社会机构行动者可能存在，但在国家或区域特定的背景下。机构间规范性是指决策过程的性质，在决策过程中，人们得出合乎道德要求的行动和结果。在这一集群中，不同组织之间的互动发挥了重要作用（而不是关注单一的组织环境）。这一群体中的人工智能机器人应用值得特别关注，以尽量减少涉及不道德决策、实践和结果的事件。虽然我们并不完全排除法律机制（毕竟所有法律都有道德基础），但我们在这里强调关注机构，包括与工业如何使用人工智能机器人相关的某些政府机构。我们可能预期制度规范的内容会因地缘政治背景而有所不同；然而制度规范的存在很可能反映出在脆弱性加剧的情况下保护公民的某种社会契约。

这一集群中的例子包括使用人工智能支持的医疗数据管理系统（需要专业医疗机构、程序员和政府之间的组织间联系）以及人工智能支持预防犯罪系统（通常在国家一级运作，尽管国际合作对于预防犯罪越来越重要）。人类可以在医疗保健和预防犯罪数据管理系统中对护理计划和资源分配决策进行战略控制，然后在人工智能机器人的日常编码任务中实施这些决策。类似地，申请社会审计的AI机器人可以鼓励保持社交距离和其他相关安全措施也属于这一群体。潜在的道德违规不太可能源于人工智能机器人本身（因为它是一个模仿者），但缺乏人工智能机器人的判断意味着，人类糟糕决策的任何非预期后果可能会被人工智能机器人常规地忽视和延续。缺乏人工智能反射能力可能会在各种学习和康复环境中造成不公平、不平等、社会排斥甚至伤害。需要建立强有力的规范性机构问责机制，不仅要为在这种环境中实施人工智能机器人的行为体设定参数，还要根据一套商定的规范衡量缺陷并提供反馈。问责机制可能尚未到位的一个例子是，英国范围内超过40万条犯罪记录（包括罪犯指纹信息）的数据库已被删除（路透社，2020）。删除犯罪记录也可能发生在非人工智能增强系统的情况下，但人工智能机器人可以加快这种数据特定损害的速度和数量，这从社会安全角度来说至关重要。缺乏适当的数据监测机制，引发了机构层面（本案中为警察）的不道德问题。我们不能完全排除违法的可能性。例如，在一个假设的场景中，一名能够访问被泄露的犯罪记录系统的警官可能想要掩盖某人的犯罪活动，但这一点在调查过程中尚未得到巩固。

集群4超地区法规

集群4代表一组应用程序，道德强度高，行为体之间的责任分散最广。因此，问责集群很可能是流动的和复杂的，需要设计师、用户、组织、行业、监管机构之间不断进行讨论，从而需要超地区法规。多个行动者可能会损害多个行动者的集群和一系列不同的既得利益（例如，国家和地区政府、国家和国际法、民间社会、行业机构和公司）。超领土条例提到个人和组织行为体需要在国际一级进行合作。正是在这一层，我们可能会遇到导致非法决策、实践和结果的情况。可能需要强调加强和监督最高级别的监管机制（例如，包括国际法律机构、媒体和民间社会），以补充更多的地方和区域机制。属于这一类别的人工智能机器人应用程序的示例可能涉及某些医疗保健服务和军事应用环境，尤其是在受影响人数众多和/或应用程序的性质意味着存在重大漏洞的情况下

高度的责任分散并不意味着人工智能机器人“篡夺”了人类道德决策的角色，但将人工智能机器人的行为归因于特定的个人或组织变得越来越困难。如果管理不当，这个群体很可能会出现非法使用人工智能机器人的情况。这个群体中的人工智能机器人可以越来越自主。道德强度非常高的一个例子是使用致命的自主武器系统（LAWS），在这种情况下，人们对道德的感知距离人类个体很远。操作自主性非常高，几乎没有人参与。关于避免或允许使用这些人工智能机器人的协议在本质上是国际性的，因为防御的性质通常是（内部冲突除外）。除了LAWS，还有其他相当自主的人工智能机器人，如军用无人机和大狗（Lin等人，2014），它们被认为是军事装备的载体，而不是攻击机器人，但仍在支持战争努力。高度自主的人工智能杀手机器人可以自己做决定，我们可以将其制造商视为促进者，但根据伯恩（2018）的说法，他们自己不是凶手。政府间政权需要合作，阻止非法使用军用人工智能机器人。根据监管设置，使用LAWS通常是非法的。如果没有法律禁止，它们可能是不道德的。使用其他军用人工智能机器人可能是允许的（例如，出于自卫目的），甚至是超级机器人（例如，在自然灾害中拯救生命）

无人驾驶汽车是自主人工智能机器人的另一个例子，其中的责任主要不在于驾驶者。无人驾驶汽车启动了一个包含限速指导的程序，但得知其他汽车超过限速，并得出结论，它也应该加速。可悲的是，特斯拉汽车超速行驶导致了不同的死亡事件（Etzioni&；Etzini，2017）。这导致特斯拉进一步检查其自动驾驶系统。无人驾驶汽车的监管环境越来越国际化，因为它们正成为国际流动性的固有部分。尽管与无人驾驶汽车相关的国家具体情况可能适用（例如，德国高速公路（高速公路）缺乏速度限制），但越来越需要在超地区层面保持一致性（类似于允许在任何成员国使用欧盟驾驶执照）。此外，尽管在养老院中使用人工智能机器人可以提高老年人的生活质量（Broekens等人，2009），但这也意味着一些风险，特别是在不清楚谁应该“监督”这些人工智能机器人的情况下，或者当指派的监管人员忽视了对人工智能增强型护理机器人的检查以及其使用是否符合国际健康和安全标准时

动态上下文因素

对于如何解释图1，我们需要强调一些动态因素。我们建议的维度会随着时间的推移而变化，具体取决于实际的上下文应用。可能影响框架应用的关键趋势包括技术状态的变化，例如，机器根据其所拥有的人类模仿程度（分析直觉）而变化。另一个因素是相对的劳动力/技能转移（Wright&；Schultz，2018），其中某些（低技能）工作场所可能会因劳动力中可限制的专业水平而遭到大量裁员。就业机会减少和人工智能支持的国家间战争也引发了与平等相关的担忧。“除非政策缩小而不是扩大技术发达的富国和技术落后的穷国之间的差距，否则技术很可能会继续加剧不平等”（Wright&；Schultz，2018，第829页）。最后，存在一个未知结果的因素。例如，目前我们不知道人工智能机器人是否会变得更好比人类更道德的决定，或更一致的决定。我们也不知道他们是否能够独立地重新定义道德参数。例如，人工智能似乎具有加强和减少种族主义的潜力（Noble，2018）。例如，人工智能机器人可以学习脏话和欺凌行为（Dormehl，2018）。虽然这些行为可能并不违法，但我们可以认为它们是不道德的，因此，决策者应该支持建立适当的监督机制。值得注意的是，尽管人们的注意力从人工智能机器人的技术创新转移到了与人类互动的各个角落，但人工智能机器人本身并不会发展出不道德的行为，而是从人类身上学习这些行为，例如通过预编程或模仿人类

讨论

理论含义

本研究为人工智能机器人问责提供了一个新框架，该框架沿着道德轨迹和道德强度的维度对人工智能机器人的道德含义进行了概念化。考虑到人工智能机器人可能具有潜在的高度决策自由裁量权（毕竟很像人类员工，模仿和学习人类是人工智能机器人设计师的目标之一），如果数据响应出现意外错误、误解甚至故意误解，直接造成伤害或间接促进伤害，问责问题可能被广泛分散（例如，开发者、维护者、实施组织、监督管理者、行业规范和法规告知者）。我们认为，问责制中的这种重大道德偏差需要以特定的方式予以承认和探索。本研究确定了问责制集群，我们可以在不提供新的道德规范（例如管理问责制原则）的情况下，通过不同的问责制集中来表征这些集群，这些道德规范可以为制定规范的行政机制提供信息

当涉及到描述道德强度时，该研究借鉴了规范的商业道德，尤其是商业道德的市场失灵方法（Heath，2014）。希思的工作重新审视了组织的道德责任这一尚未解决的问题，以及管理层应考虑哪些因素来确保道德运营。值得注意的是，从股东和利益相关者理论之间的激烈争论中，市场失灵的商业道德方法得到了发展（Young，2015）。米尔顿·弗里德曼表示，企业的责任是通过增加利润来满足股东的需求（弗里德曼，1970年）。相反，利益相关者理论认为，公司的目标是为了所有利益相关者的利益，而不仅仅是为了股东的利益（Freeman，1994）。Heath（2014）声称，组织应通过只关注利润最大化来避免扭曲竞争。非法、不道德和允许使用的道德类别源自希思对组织行为的概念化

然而，希思对商业道德的市场失灵方法只区分了需要被法律禁止（非法）或遵循道德标准禁止（不道德）或允许（允许）的行为。它缺乏关于组织应鼓励哪些组织超越最低道德要求的建议。因此，本研究将概念化扩展到更广泛的规范伦理家庭中，并整合了超级权力使用的伦理范畴（Driver，1992；Mazutis，2014），以便不仅能够提供关于限制的见解，还能够鼓励某些发展。最后，本研究将希思对公司的主要关注视为对市场失灵方法的限制，因为任何事件的道德状况似乎完全取决于公司。除了企业，个人（Soares，2003）和政府也有道德责任，这在关于环境问题的道德影响的辩论中得到了强调（Fahlquist，2009）。因此，这项研究从公司的角度扩展了概念化，以涵盖个人和军队的道德立场

所提出的框架有可能引发关于道德责任和道德强度的进一步学术讨论，并通过将这两种现象系统地结合在一起以供人工智能机器人使用来推进知识。关于道德强度，我们认为非法、不道德、允许和超级使用鼓励对人工智能机器人使用的道德性采取非二元方法。随着时间的推移，人工智能机器人在概述的集群中使用的某些示例的位置是可变的。例如，无人驾驶汽车已经属于超领土保护伞但仍相当接近十年前的机构间规范。集群如何发展有一个时间视角，因为随着时间的推移，利益相关者的立场可能会随着道德、社会和环境问题而改变（Longoni&；Cagliano，2018）。此外，与某些人工智能机器人使用相关的利益相关者群体可能会扩大或缩小，包括设计师、个人/组织用户、政府以及政府间机构。最后，Vogel（1992）承认，不同群体、地区和国家之间的道德标准协调非常缓慢，尤其是与技术创新的步伐相比

人工智能机器人道德使用的监管考虑

如果人工智能的普遍性继续存在，那么使用人工智能机器人的道德强度和道德责任的挑战将产生第二个挑战，即监管机构应如何采取行动，以实现道德上适当的人工智能应用。监管机构可以利用拟议的框架，为决策者关于人工智能机器人使用案例的道德和责任的讨论提供信息。例如，基于相对道德强度和道德轨迹，决策者可以在概述的集群中定位某些人工智能机器人的用途，作为情景规划的一部分，以审查责任分散及其未来的潜在发展。此外，该框架有助于利益相关者绘图，以确定当前和未来应纳入相关对话的利益相关者群体。人工智能机器人设计专家也可能受益于使用这样的框架来增强他们的伦理考虑，并在特定环境中探索伦理可能性。由于人工智能机器人的使用位置不是固定的，而是可以在集群之间移动，因此监管方面的考虑可能会反映这一点。例如，即使仅在预订设置中使用的模仿司机聊天机器人，如果聊天机器人学习并应用欺凌行为，也可能“符合”道德上更激烈的集群。例如，人工智能增强的犯罪记录数据管理问题很可能位于机构间规范性所描述的集群中。随着时间的推移，特别是随着在国际一级分享预防犯罪做法的需求不断增加，它可以演变为超领土法规。问责集群之间的转换需要包括不同的利益相关者，拟议框架有助于支持深入理解和相关思考

我们为监管者和其他决策者提供了一些考虑点，让他们在道德上使用人工智能机器人，以提高责任感并反映道德强度。在这样做的过程中，我们应该特别注意学习机制和决策过程，因为这两者对于开发和使用AI机器人至关重要（Baskerville等人，2020；Benlian等人，2019）。监管机构不仅应该特别关注人工智能机器人应该学习什么，还应该特别关注他们应该避免学习什么。例如，在无人驾驶汽车的情况下，学习算法应该包括对学习危险学习行为的限制。虽然决策几乎是完全自动化的，但人类应该可以选择以透明的方式恢复到不太自主的模式，也就是说，当人类只是无人驾驶汽车中的乘客时，当他们充当司机时，应该对其进行跟踪，这样问责仍然清晰，如果人类造成事故，就不能将其错误行为归咎于人工智能。这类中有一些人工智能机器人应该禁止使用，例如，LAWS。使用法律的影响给包括平民在内的人民的生命带来了高风险。开发这些自主武器超出了国际和平协议的范围，但一些国家已投资开发这些武器。一个主要的伦理问题是，人类几乎没有机会对抗高度精确和智能的杀手机器人（Byrne，2018）。应进一步鼓励在非军事环境中应用最初的军事人工智能解决方案，例如在紧急情况下进行救生（例如，在发生重大洪水时识别和拯救人和动物），因为这些解决方案属于超级应用

我们建议计划对应用的人工智能学习机制进行定期审计，因为它们可能需要随着医疗程序的创新而更新。对历史数据的依赖在制定优化解决方案方面有其局限性，我们应该在监管层面承认这一点。对于决策，应安排向负责联系人寻求批准的机制。在未经专家批准的情况下，依赖人工智能建议的医疗保健和社会护理解决方案具有很高的道德风险。然而，人工智能机器人可以利用历史患者数据可以为医疗保健和社会护理决策提供信息，并且不存在偏见。请注意，风险评估很重要，因为它允许组织（医院）在安全和避免非人化之间找到可接受的平衡。此外，考虑到利益相关者的高度不稳定性以及管理者填补短期劳动力缺口的愿望，政府层面的控制是必要的，以防止组织误用人工智能。这将确保采用基于组合/需求的方法，使人工智能能力与人类需求相匹配

学习机制应包括一些限制性特征，例如可能危害人类安全的过程（包括工作实践和食品安全），人们应避免这些过程，在某些情况下，甚至不学习。对于决策，管理层应定期监测和审查人工智能机器人在决策中的作用，以进一步改进态势响应。建议在使用人工智能机器人之前/之前比较结果，除非比较会危及安全性。例如，人们仍然应该定期检查从事昆虫识别和消灭工作的人工智能机器人，以确保它们符合人类安全规定，即使我们通常认为这些人工智能机器人对人类仁慈

应定期监测和审查人工智能机器人的学习机制，以避免潜在的道德问题，例如与隐私和数据管理有关的问题。这些问题并非全新，但可以通过使用人工智能来加强。同样，管理层应定期审查人工智能决策水平，即使这一群体中的人行使控制权。一个挑战是，在总体道德风险较低的情况下，为这些评估留出时间。然而，意识有帮助，因为低可能性仍然会引发高影响事件，例如隐私和数据管理实践。例如，在一个假设场景中，清洁人工智能机器人可以从使用它的建筑物中收集机密数据，从而引发组织/国家安全问题

未来研究的局限性和方向

本研究遵循西方伦理标准，因此替代性解释可能适用于国际上甚至不同的西方国家。同样，在国际监管背景下，各国法律框架的可变性可能有所不同。我们在本研究中使用的例子来源于监管辩论、法院上诉和以前的论文，而不是原始数据收集。虽然我们认为这是一个潜在的局限性，因此建议进行进一步的实证研究，但我们研究的伦理性质证明了使用现有案例的合理性。伦理学家在使用经验数据的方法上有很大差异。理论家认为，商业伦理的经验主义分支缺乏彻底的理论基础，因为它关注数据而不是推理（Doorn，2010）。然而，以实用主义为导向的伦理学家认为，以考虑实用主义条件为形式的经验描述是应用伦理学的重要组成部分，需要用经验考虑来填补伦理原则和行动指导之间的差距（Birnbacher，1999）。这是为了改进论证，增加研究对伦理的适用性，以支持日常判断和决策。然而，即使在实用主义的伦理学家中，一般的理性也是通过各种方式引入经验见解，并以反思的方式将其纳入其中（Van Thiel&；Van Delden，2010），而不是必须收集原始数据，例如，通过采访使用人工智能机器人提高医疗保健效果的患者和医疗专业人员，进行道德思考。尽管我们在这项研究中将注意力集中在人工智能机器人上，这同时代表了一个焦点和一个局限，但研究人员可能会将所提出的新框架扩展到更广泛的一组或特定的人工智能应用的伦理调查，如人工智能机器人在医疗保健、教育环境或能源领域的使用

表4确定了几个潜在的未来研究主题和相关研究问题。例如，非法/不道德/允许和超级规范的伦理范畴值得进一步研究。这项未来的调查可能包括道德责任的研究，例如，通过评估责任如何在不同的案例和不同的自动化水平中演变。学习和决策机制是高度相关的，因此未来的研究可以探索组织应该如何以道德负责的方式管理它们。在更实用的层面上，研究人员可以进一步细化使用人工智能的伦理含义人工智能机器人嵌入的支持系统

表4人工智能机器人伦理使用的未来研究议程