src=/sites/default/files/wysiwyg/150710-australia-ihl-chris-jenks-image-01.jpg

武器技术的进步意味着在战场上使用武力的决定越来越多地可以由机器在没有人为干预的情况下操作。最近在堪培拉举行的一次活动，跨越卢比孔：进攻性自主武器的道路，集中讨论了与这些类型系统的潜在使用相关的一系列问题。活动结束后，亚太军事法中心现任研究员克里斯·詹克斯（Chris Jenks）教授向红十字委员会发表了演讲，阐述了他对自主武器所引发的法律、道德和伦理问题的看法

您最近在堪培拉的演讲是以攻击性自主武器系统不可避免的概念为前提的。你认为为什么会这样
我们正在朝着进攻性自主武器迈进，并且已经走了一段时间。主要原因将是防御系统的增加，通过自主性的进步，防御系统很快将包括蜂群。我所说的蜂群是指几十个甚至数百个基本上是自主的防御系统。这些系统，无论是小船、飞机还是地面系统，都能够以人类驾驶或控制系统根本无法实现的方式运行。最终，有效攻击蜂群防御自主系统的唯一方法将是使用蜂群攻击自主系统。但这将意味着武器系统攻击武器系统，而不是直接针对人。因此，虽然我认为我们会达到使用进攻性自主系统的阶段，但我相信这些系统将在水下和高空使用。就其在陆地上使用的程度而言，这将与其他自治系统相抵触。与一些说法相反，机器人不会猎杀人类。第二个问题是，我认为在社会上，我们正处于脱敏或接受生活中日益自治的系统的边缘。这将从无人驾驶汽车的引入开始。有趣的是，我们将看到越来越自主的系统在我们日常生活中的作用在多大程度上对我们接受它们的军事应用起到了作用

您在演讲中讨论了自主武器位于频谱上。为什么这很重要
这很重要，因为自治通常被错误地用二进制术语来定义，即某个事物要么是自治的，要么不是自治的。将自主性理解为一系列综合的人和机器能力，不仅在准确性方面很重要，而且在证明区分允许的和不允许的武器系统有多困难方面也很重要

是否充分考虑了潜在使用自主武器的法律影响
在我看来，法律问题相对直接。与自主武器相关的伦理和道德问题要广泛得多。在使用自主系统之前，国家必须对武器进行审查，以确定是否会根据《第一附加议定书》第36条所述的国际法禁止使用这些武器。经过法律审查后，该系统是否能够区分并不会造成不必要的痛苦，这一点将很清楚。我们应该记住，经过法律审查的致命自主武器已经被许多国家使用了几十年。这一领域更具进化性而非革命性，自主武器系统更像是一条路径而非目的地。然而，就目前和可预见的未来而言，人类是否能够发展出一个能够通过第36条审查的体系，这是事实

这些伦理道德问题中最关键的是什么
对我来说，人类越来越不使用致命武力。然而，这并不是自治系统独有的问题；分离是战争本质固有的。无论是弩、步枪还是火炮，你都希望以对手无法有效对抗的方式使用武力。这种分离带来了一个担忧：因为你可以使用致命的武力，而不会对你造成危险，所以你会更快地使用这种武力。最近的一个例子是无人机，它允许军队使用致命武力，而对自己的武装力量几乎没有风险。因此，自主武器系统只是我们一直以来的连续性的又一步。如果我们考虑使用完全自主的系统来决定致命武力，那么我确实认为这将带来深刻的伦理和道德问题。道德的挑战讨论是我们首先需要讨论道德&我们是在谈论我的道德感还是你的道德感

您在亚太军事法中心的研究重点是新兴技术如何影响武装冲突中的问责制。关于由完全自主的战场机器做出的决定由谁负责，人们进行了很多讨论。你对此有什么看法
我认为我们让这个问题变得更难了。刑事责任分析始于指挥官，即指挥袭击的个人，他下令开炮或投掷炸弹。我无法想象使用越来越自主的系统会如何改变这一点。我们将观察指挥官，并评估其使用自主武器行动的背景合理性。问题是：我们如何定义合理性？随着无人驾驶汽车等系统变得越来越自主和普遍，我们对合理性、疏忽和责任的概念在民用领域如何变化将是一件有趣的事情。

一些支持者表示，自主武器系统可以被编程为更谨慎和准确地操作，因为它们不像人类那样处理情绪。你对此有什么看法
我们倾向于表现出一种认知偏见，对人类能力的看法比我们的表现保证的更乐观。人们容易疲劳、害怕和愤怒。这可以通过训练和经验来缓解，但即使是训练有素的士兵，在紧张的环境中使用武力也相对不准确。人类并不是我们喜欢把自己视为存在的精确的歧视性行为体。在讨论日益自主使用武力时，我们必须牢记人类状况的积极和消极方面。当你看到机器目前的能力时，诚然，在谨慎的环境中，我不禁想知道，自主武器系统是否会使用比人类更具歧视性的武力，从而减少平民伤亡，并在这一过程中更好地保护部队。虽然目前的讨论对使用自主武器系统的合法性提出了质疑，但我相信，当这种情况完全逆转时，如果不使用这些系统，非法行为可能会发生。

本文中表达的观点并不一定反映红十字国际委员会的观点

简介