在不久的将来，关于自主武器前景的各种观点似乎预示着一种绝望的局面，美国要么注定要被一个通过完全自治而充分享受战争战斗优势的敌人打败，要么注定要看到长期指导美国军队作战的人性和人权原则被彻底侵蚀。在某种程度上，双方都是对的。美国高层领导既不能忽视道德问题，也不能将技术优势割让给潜在对手。然而，他们应该认识到，美国对自主武器的道德判断可能会根据具体情况而改变。因此，国防部领导层不应完全否定完全自主，而应支持人机协作等概念，而应着眼于能够实现这两种功能的系统，就像几十年来所做的那样，拥有可调整的自主程度。这样的系统将加强当今的人在环作战，并在未来的重大战争中提供更大的能力。

无论计算机处理的进展如何，如果没有人的监督和控制，完全自主的武器系统都会出错。也许技术会进步到错误很少的程度，但它们会发生。这一论点的支持者是正确的；当系统在区分敌方战斗人员和无辜平民的能力上出现这些错误时，就会导致暴行。

当然，可悲的现实是，在每一场冲突中都会发生意外的平民伤亡，即使是在人类控制武器并做出决定的时候。于是出现了两个问题。首先，致命的自主系统会比人类操作的系统更容易出错吗？第二，人类造成的平民伤亡是否比计算机造成的伤亡更不应受到谴责

关于第一个问题，虽然人工智能和机器学习可能还不能与人类区分目标和非目标的能力相提并论，但它正变得越来越接近。计算机可以处理输入，根据决策标准对其进行权衡，速度比人类快得多，无需担心情绪或疲劳会降低判断能力。因此，技术可能正在走向一个计算机能够比人类更快更好地做出决策的阶段。这将使它们比人类控制的武器更不容易造成意外平民伤亡。

关于第二个问题，合理的论点是，人类或计算机造成的意外平民死亡没有区别。事实上，自主系统导致意外死亡人数减少的可能性，应该超过人们对人类与机器之间的责任的疑虑。然而，人类并非纯粹理性（PDF）。在美国社会中，由于与情感、道德信仰相关的原因，也许还有人类责任感的需要，两者之间存在着先天的差异。一些人认为，冷酷无情的机器造成的平民意外死亡，在某种程度上比一个活生生的、有呼吸能力的人类造成的同样的死亡更糟糕，而人类的良心将承担这一负担。高级国防领导应该承认这一点。试图用一个基于数字的论点来武装它，然而，理性可能会失去公众对美国国防机构的信任….

这篇评论的其余部分可以在nationalinterest.org上找到。科林·罗伯茨（Colin Roberts）是非营利、无党派兰德公司（RAND Corporation）的访问军事研究员，也是美国海军的水面战官员。这里表达的观点是作者的，并不代表美国海军、国防部或美国政府的官方立场。本评论最初出现在2016年11月3日的《国家利益》上。评论为兰德研究人员提供了一个平台，根据他们的专业知识和同行评议的研究和分析传达见解。

在Facebook上分享

在Twitter上分享

在LinkedIn

简介