简介

配备人工智能的机器现在无需直接人工输入即可做出决策。例如，下棋、决定互联网用户看到什么新闻、产品或状态更新，以及协助医疗诊断的计算机。不久，人工智能可能会控制汽车、飞机、发电站和武器等机器。此类计算机的决策或故障可能会造成致命后果。当自动装置杀死或伤害人类时，谁来承担责任？这个问题的答案具有重要的政治后果。有效的民主治理要求公民能够识别并追究那些做出产生不期望结果的决策的人的责任（见McGraw，1990年；Peffley，1984年；Powell和Whitten，1993年；Rudolph，2003年）。但允许机器做出致命决定可能会造成“责任缺口”（Matthias，2004），因为尚不清楚如何追究此类机器的责任

什么是自主武器

美国国防部将自主武器定义为“一种武器系统，一旦激活，可以选择和攻击目标，而无需人类操作员的进一步干预”（国防部，2012:13；人权观察组织，2015年和联合国人权理事会报告员，2013年使用了类似的定义；有关讨论，请参见Wagner，2014年）。该定义“包括人类监督的自主武器系统，其设计目的是允许人类操作员超越武器系统的操作”。这种由人监督的武器已经存在。例如，导弹防御系统，即人类定位、激活和监督武器，但依靠它遵循预定规则，以比人类操作员更快、更准确地识别和攻击来袭导弹。在这里，人类“在循环中”；他们决定何时何地部署武器，并可以进行干预以阻止其行动。出于这个原因，这种武器可能被更好地描述为半自主的，因为它们缺乏在没有直接和直接的人类监督的情况下参与战斗的能力（Garcia，2015）。尚未存在的完全自主武器可以在没有这种监督的情况下运作。这类武器将包括人工智能算法，这将允许他们参与机器学习，这意味着“在生产过程中，他们所遵循的规则不是固定的，而是可以在机器运行过程中改变的，机器本身”（Matthias，2004:177；强调）。最受关注的是这一类别。当人类处于循环中或处于循环中时，原则上可以对使用武器造成的不良后果负责。这种可能性应该鼓励他们在使用致命武力时仔细考虑法律、交战规则和背景。但目前还不清楚当完全自主的武器产生不想要的结果时，谁（如果有人）可以合理地承担责任

理论和假设

责任归因要求行为人的行为对结果有因果关系（Hewstone，1991）。自主武器由于其参与机器学习的能力，可能会使这一点变得更加困难。下令使用此类武器的文职领导人和军事指挥官，以及设计此类武器的工程师，无法准确预测它们在战场等模棱两可的环境中如何运作。这意味着他们不会对武器进行充分的因果控制，从而对其行为负责。这个困难事实上，没有明显的方式可以让自动机器对其行为负责，因为它们缺乏意图，无法感受到身体上的痛苦，也无法体验到公众羞耻和其他形式谴责的负面后果（见2015年人权观察中的有益讨论）。因此，自主武器将增加设计武器决策算法的人员的作用，并引入一种可以做出复杂和后果性决策但不必承担责任的武器，从而使责任归属更加困难。这将允许人类行为体辩称，他们不能为此结果承担因果责任，因此不能被指责，这是麦格劳称之为“责任扩散”的借口（麦格劳，1990:120）。基于这一逻辑，许多学者得出结论，无人能有效地对自主武器产生的后果负责（Asaro，2006年；Matthias，2004年；Sparrow，2007年）

H1：在比较导致不良后果的行动时，那些涉及更多自主武器的国家将减少文职领导人和军事指挥官的责任

Schulzke（2013）认为，现有的责任归属机制可以扩展到自主武器。他的见解是，“人类士兵是完全自主的，但由于他们代表指挥官行事，在其他行为者创造的环境中做出决策，并依赖他人收集的情报，指挥官对士兵的行动承担责任（Schulzke，2013:204；重点补充）。当发生违反法律或政策的行为时，可以确定士兵个人及其指挥官对结果的贡献，并且可以追究所有行为导致结果的人的责任。自主武器和人类士兵之间的关键区别在于前者不能因其行为而受到惩罚。但现有的问责机制并不仅仅或完全依赖于惩罚那些在战斗中实际使用武器的人。这导致Schulzke得出结论，“在某种程度上，（自主武器）的行动是由其软件或硬件的设计所导致的，责任……应该由开发人员来承担。”。如果他们的行动受到其指挥链中文职和军事官员的支持或约束，这些官员应分担自主武器行动的责任”（Schulzke，2013:204）

这表明自主武器的责任归属模式截然不同：

H2：在比较导致不良后果的行动时，涉及更多自主武器的行动将导致更多责任归于参与武器设计和编程的人类行为者
H3：在比较导致不良后果的行动时，那些涉及更多自主武器的行动不会导致文职领导人和军事指挥官承担更少的责任

另一种推理方式挑战了自主机器本身不能承担责任的观点。有证据表明，一些人将责任归咎于机器和其他非人类实体（Epley等人，2007年）。Waytz等人（2010年）开发了一种此类拟人化的心理测量方法，即拟人化个体差异量表（IDAQ）。在这个尺度上得分较高的受试者更信任技术实体做出相应的决定。如果是这样的话，拟人化应该缓和责任归属：

H4：在比较导致不良后果的行动时，拟人化程度较高的个人会将较少的责任归属于具有更大权力的人类行为者，如文职领导人和军事指挥官，更多的是设计自主机器的人类行为者以及这些机器本身

研究设计

我设计了一个调查实验来评估这些假设。600名受试者从亚马逊的机械土耳其人在线劳动力市场招募。这不是一个有代表性的样本；更多的受试者是男性，受教育程度更高，他们更可能是白种人，也更可能被认为是民主党人，而不是普通大众（样本的人口特征与整个人群的比较见附录）。非代表性样本的使用提出了一个问题，即结果在多大程度上可以推广到整个人群。对于目前的实验来说，确保这种外部有效性不如确保内部有效性重要。治疗中描述的武器不太可能在不久的将来用于战斗。最相关的人群不是今天的公众，而是一些未来的公众，现在很难预见武器系统的具体特征、对手的性质等会如何影响未来公众的态度。实验结果不应用于预测特定的未来态度，而应在测试假设时做出更为温和的贡献。附录报告了控制受试者水平特征的回归模型的结果，包括人口统计学变量以及对更普遍使用武力的态度，例如他们的好战自信程度（Herrmann等人，1999年）。纳入这些变量不会改变以下报告的结果模式

受试者被随机分配到三个故事中的一个，描述了对叙利亚一个武装分子大院的空袭计划。这些治疗表明，武装分子控制了防空系统，该大院位于平民居住的城区。第一个（标记为非自主）描述了这次突袭是由美国飞行员远程操作的作战无人机进行的。第二名（半自主）补充说，无人机配备了传感器，可以检测建筑物中的武器和人员，远程飞行员使用这些信息来确定要打击的目标。第三架（完全自主）表示，无人机配备了相同的传感器，其人工智能计算机决定攻击哪些目标

结果

图1显示了国防部长、军事指挥官、设计武器的工程师、，而武器本身（此处称为其传感器）对每个治疗组的平民伤亡结果负责。²责任归因的因变量是一个指数，它结合了对以下问题的回答：这些行为者中的每一个是否对袭击结果负责并承担责任；它的范围从0到1，值越高表示责任越大。彩色圆点表示平均值，条形图表示95%的置信区间。

图1。责任归属。

在查看器中打开

每个治疗组的受试者将最大程度的责任归属于国防部长和军事指挥官，而工程师、计算机和传感器的责任最小。这与假设3一致，但与假设1不一致。与非自主治疗相比，完全自主治疗中工程师和无人机计算机的责任显著增加。这与假设2一致。被调查者能够调整他们的归因，以包括这些新的参与者。这表明，自主武器的发展将增加对错误负责的行为者的范围。

图2描述了调查这些行为者的平均支持；值越高表示对调查的支持越多。平均而言，受试者对调查国防部长和军事指挥官的想法的支持程度远高于对工程师和传感器的支持程度，而且这在不同的治疗方法中没有显著差异。然而，与分配给非自主治疗的受试者相比，分配给完全自主治疗的被试者对工程师和传感器的调查意愿确实有所增加。这与假设2一致。即使武器的自主性增加，受试者仍更愿意调查军事指挥链顶端的人员。更多的自主性也导致人们更愿意调查负责武器技术设计的人员的作用以及武器本身的决定，与非自主治疗组相比。

分配给非自主治疗和半自主治疗的受试者之间，责任归属或支持调查方面没有统计学上的显著差异。平均而言，受试者似乎看不到人在“循环”和“循环”中的情况之间的巨大差异。这表明受试者能够彼此区分不同程度的自主性，并将在机器中从事致命行动的授权视为不同于机器向人类控制者提供信息的情况。

这些发现保持在回归模型中，其中责任归属和对调查的支持是因变量，独立变量是治疗分配、好战的自信、，对政府的信任、IDAQ、政党身份、少数民族地位、年龄、性别和教育程度（完整回归结果见附录）。IDAQ评分较高的受访者认为，国防部长和指挥官的责任较少，而工程师和传感器的责任更多。这与假设4一致。正如附录中所讨论的，这些关系并不取决于受试者对军队的期望这项任务将取得成功或导致平民伤亡

结论

本实验得出了两个关键结论。首先，自主武器不会降低文职和军事领导人被认定为对负面结果负责的程度。第二，完全自主的武器确实增加了制造和设计这种武器的人的责任。这表明，使用完全自主的武器可能不会破坏民主问责制，因为这可能会激励领导人仔细监督此类系统，并鼓励其设计者谨慎使用此类武器的能力。当然，即使建立了一个强大的自主武器问责制，也可能有其他战略和道德原因反对引进和使用这项技术，例如担心降低战争成本、破坏稳定的扩散潜力，或此类武器无法遵守国际人道主义法

这些发现对一系列依靠人工智能替代或辅助人类判断的技术具有潜在的重要意义。例如，许多网络武器被设计为在网络中传播，选择和攻击目标，而无需直接人工输入。自动驾驶地面和空中车辆的发展提出了有关事故的法律和道德责任的重要问题。这里报告的结果表明，负责决定部署此类技术的个人和团体将继续为不期望的结果承担相当大的责任，而创造此类技术的人的责任和制裁将增加

致谢

本文的早期版本在2015年6月圣加仑大学“机器中的人”研讨会和美国政治科学协会2015年会议上发表。对于评论和建议，我感谢玛丽·莱顿·阿特金森、托马斯·伯利、贾斯汀·康拉德、凯特·达林、格雷姆·戴维斯、德克·莱姆库尔、切丽·迈斯塔斯、马库斯·舒尔茨克、马库斯·瓦格纳和伊莎贝尔·维尔哈伯

利益冲突声明

无声明

资助

这项研究没有从公共、商业或非营利部门的任何资助机构获得任何特定的资助。