在阿姆斯特丹大学的采访中，项目负责人Berenice Boutin博士讨论了与军事人工智能相关的一些挑战，以及DILEMA研究项目如何解决这些挑战

完整的采访可以在这里以英语或荷兰语提供，并转载如下

****

尽管各种类型的自动武器已经存在了数百年，其中杀伤人员地雷是最早的例子，但人工智能（AI）控制的此类系统的开发为其带来了一系列新问题和担忧。随着近年来此类系统的激增，对其使用的担忧也与日俱增。阿姆斯特丹法学院和TMC Asser研究所的Berenice Boutin是DILEMA项目的负责人，该项目旨在将国际法和伦理设计成军事人工智能，该项目正在研究保护人类机构而非军事人工智能的法律、伦理和技术方法

“我们从最广泛的意义上看待军事人工智能。这个问题的很多报道都集中在“杀手机器人”（即自主武器系统）上，这当然是我们研究的一个重要方面，但我们的项目试图研究人工智能在军事上的广泛应用的影响。我们的目标是确保军事人工智能技术在设计上符合道德和国际法。我们不想等到技术被开发出来，然后才开始检查它是否符合我们的规范和价值观。而且，从更合法的角度来看，我们不想等到伤害发生后再考虑法律影响

“该项目的另一个重要领域是研究人工智能技术如何（有时以非常微妙的方式）影响人类行为和人类判断。例如，我们研究了在指挥链的所有级别上使用算法的情况。这些算法应该为人类决策提供支持。但是，在实践中，如果一台机器在5秒内基于一百万个数据点提出了一个决定，那么人类就没有足够的认知能力来重新猜测这个决定或判断它是错误的。因此，从形式上讲，这些重大的、生死攸关的决定并没有授权给机器，但在现实中，它确实发生了，这需要紧急检查

有关于人工智能的法律–这不是一个法律真空，特别是在军事用途方面，无论您使用何种技术，都有既定的国际人道主义法准则。就私营公司的使用而言，公司所在州通常会施加一些限制，但可能还不够。还有一个问题是，私人公司正在开发技术，然后被用于军事用途。例如，一家私人公司开发的图像识别系统，然后在军事环境中实施。这样一个系统的设计目的是一个，现在却被用于一个非常不同的目的，因此，例如，在制定时，平民和战斗人员之间的区别没有被考虑在内，这可能是一个严重的问题。因此，在使用之间进行转移时，需要有某种方法来检查这些情况——这可能不是需要新的法律，但我们需要更严格地适用现有的法律。”

'军事人工智能有着明显的兴趣，我们看到它越来越多地在一些州使用。目前，在不久的将来，没有“杀手机器人”在使用。但在实践中，有一些所谓的“杀手算法”。例如，已经有许多算法在使用，这些算法旨在识别可能的军事目标。他们将扫描数百公里的地形图像，并将其与其他类型的数据（如手机的元数据）相结合，然后将它们放在一起，例如，稍微简单地说，“这里有一个恐怖分子营地”。当人类的判断和机构受到这些信息的影响时，已经存在可能违反法律或道德原则的问题。以及问责和责任问题，因为如果我们最终陷入一种情况，即决策支持算法的使用方式是人类操作员无法真正控制并导致战争罪，我们可能无法将刑事责任分配给个人，因为此人没有足够的故意或未达到刑事责任的高门槛

这就是为什么现在是对这些问题采取行动的时候。技术不是从真空中产生的。出现的是我们选择的结果。人工智能的发展速度比以往任何时候都快，我们需要确保我们的法律和道德从一开始就根深蒂固

简介