本文内容摘自《焦点简报》6/21。

《自主武器系统的责任和控制：全面人类监督框架》

思维和机器–2020年8月

《自主武器系统的出现导致学术界和社会对责任和控制概念的兴趣日益浓厚责任相当多的注意力集中在问责制差距上，这将导致缺乏刑事责任和道德责任。本文作者试图解决这个问题。他们首先提出了对“问责制”的理解，即允许将运营作为实际使用的可验证要求。然后，他们确定了自主武器系统可能产生的三个潜在责任缺口。作者提出了“有意义的人的控制”原则，以确保人对使用武力的决定负责，但建议将这一原则扩大到“全面的人的监督”框架作者的“全面人类监督”框架从“控制”的工程、社会技术和治理角度出发，为确保自主武器系统行为的可靠可控性和问责制提供了一种机制。虽然乍一看，这篇文章可能具有高度的技术性和语义性，但从实用角度来看，它概述了一种确保在部署自主武器系统之前、期间和之后进行监督的工具和流程

相关：

《法国对自主武器伦理的看法》，《岩石上的战争》，21年6月2日

北约启动武器人工智能谈判》，C4ISRNet，21年4月28日

《人工智能与无人类战争》，《亚洲时报》，21世纪4月23日

《军事人工智能将很难规范》。《这是前进的道路》，《公告》，3月21日

专家小组表示，美国在追求人工智能武器方面具有“道义上的紧迫性”，“工程与技术，1月27日21日

根据国际法管理致命自主武器的挑战

《西南国际法杂志》-2021 3月

许多国家呼吁在研制、采购和使用致命自主武器方面实行具有约束力的国际法限制。本文概述了创建此类监管计划的挑战。这项提案的一个关键限制是缺乏“自主武器”的商定定义。另一个问题是，各个国家对法律内容的看法存在巨大差异。至少有26个国家呼吁全面禁止完全自主的致命武器。其他国家声称，现有的武装冲突国际法足以规范自主武器的发展和使用。美国是一个明显的主要参与者，它主张自主武器可以通过提高瞄准精度和辨别力来增强对现行战争法的遵守。这篇文章考虑了有关已被禁止的武器特性的历史趋势，发现试图管制自主武器的使用很可能会失败

相关：

“改变对话：国际红十字委员会对自主武器系统的新立场”，Lawfire，5月21日

“关于致命自主武器系统问题的国际讨论”，国会研究服务，4月19日

“我们需要重启关于自主武器管制的谈判——现在，”犁铧监视器，21年3月25日

《美国政府小组：不要禁止人工智能驱动的自主武器》，《国防邮报》，21年1月28日

《人工智能军事和非军事用途指南》，“欧洲议会21年1月20日寻求‘人的因素’：关于管制自主武器系统的国际辩论”，《国际观察家》，2021 2月。对这些武器的担忧包括责任差距、刑事责任、通过将目标减少到算法处理的“数据点”来破坏侵犯人类尊严的可能性在这项工作中，Daniele Amoroso和Guglielmo Tamburrini提出了一个解决方案。他们注意到，国际社会在使用武力时，通过保留人的因素来避免这些问题。这些决议属于“有意义的人的控制”的保护伞，分为三类：盒装自治、拒绝自治和监督自治。Amoroso和Tamburrini强调了这些政策的缺陷，并提出了他们自己的新颖、不同的方法来实现有意义的人类控制。这种不同的方法规定，每一种自主武器系统都需要其自身的道德和法律规范部署。考虑到可以想象为“自主武器系统”的各种能力，这种补救措施似乎适合陆军

相关：

《为什么我们应该对自主武器系统保持警惕和警惕》，《堪培拉时报》，21年6月11日

《战争迷雾可能会混淆为自己着想的武器》，《经济学人》，21日5月29日

《彼得·毛雷尔：我们必须决定我们希望人类在武装冲突期间的生死决策中扮演什么角色》，21年5月12日

《人工智能、武器系统和人类控制》，《电子国际关系》，21年2月16日

美国将军警告称，“人类的龙群正在变得太快，无法战斗”，《福布斯》，1月27日21日Steven Umbrello辩称，自主武器系统不会造成道德责任差距。他认为，那些声称自治会产生这个问题的人误解了军事行动和工程设计的本质。在前者的情况下，自主武器系统，甚至军队中的任何人类代理人，都已经受到部署之前和部署期间发生的各种决策和规划的制约。在后一种情况下，工程师已经有道德责任确保自主武器系统完全响应他们的命令。这“两个抽象层次”的实际含义确保了人将始终对所采取的任何行动负责。假设一个自动武器系统杀死了一名平民。要么是故意下令将其作为军事行动的一部分，在这种情况下，决策者负责，要么是违反命令，在这种情形下，设计武器的工程师负责。Umbrello的结论是“反对自主武器系统的发展，例如提高自主性或以平民为目标，只有在与负责任的设计、实际的军事规划和实际作战实践脱钩的情况下，才是有问题的。陆军采用这种思维模式的挑战在于第二部分。我们显然对军事行动有重大控制，但在过去三到四十年来，我们一直积极避免参与设计或制造决策

相关：

“五角大楼在让人工智能控制武器方面的进展”，《连线》，21年5月10日

《可解释的自主性：机器杀人时》，观察者研究基金会，21年4月7日

《机器人的崛起：人工智能武器化》，国家海事基金会，2021年4月1日

《我们准备好让武器拥有自己的头脑了吗？》公共诚信中心，21年2月17日

《公共责任：定义有意义的人的控制的模型》，《国家安全法杂志》；《政策》，2月21日2月2日《关于杀人机器人的尊严》，道德与信息技术——2021 3月。一些理论家声称，在自主武器系统手中死亡是不光彩的。加里·杨（Garry Young）对这一“侮辱性论点”提出了两个反驳他较弱的反驳认为，部署自动武器系统杀害敌方作战人员是对其尊严的侮辱，侵犯某人的尊严在道德上是错误的。尽管如此，Young认为道德上的善可以凌驾于这样的错误之上。因此，如果对尊严的侮辱超过了为实现军事目标而减少的痛苦，则可以允许部署这些武器。杨的回应更加有力，否认自主武器系统侵犯了目标战斗人员的尊严。虽然武器本身可能无法尊重目标战斗人员的固有尊严，但部署这些武器的军事指挥官可以。此外，Young建议，人类可能拥有无条件的不可剥夺的尊严，战斗人员即使面对侮辱也能保持自己的尊严

相关：

《AI伦理有后果——从自主武器系统的问题中学习》，《数字经济学》，21年7月5日

《道德机器的问题》，美国广播公司，21年3月28日

《自主武器与战争法》，瓦尔代，21年2月9日

，21年1月29日

《反对自主武器系统中的固有不朽性》，The Forge，21年1日

简介