在防御系统中找到人类和人工智能（AI）之间的有效平衡，将是任何促进与“循环中的人类”保持距离的政策的关键。在这种平衡中，我们在考虑诸如杀伤链等概念时必须接受一些偏差。国防申请中的政策进展如何？解决人工智能集成的政治、技术和法律界限将使人工智能的优势，特别是速度，融入到杀戮链中。最近，前国防部长阿什·卡特（Ash Carter）表示：“我们都承认，机器可能会发生坏事。我们不接受的是，机器不道德地发生坏事。”当然，人类将毫无例外地保留凌驾能力和责任。领导人将永远受到人工智能制导武器系统的行动的约束，这可能与他们在战斗中对服役人员的行为负责并维护人工智能尚未掌握的道德标准无异

武器系统的未来将包括人工智能指导目标选择、信息收集和处理，并最终在必要时交付力量。战场上的统治将不是传统的手段，而是由人工智能和竞争算法主导的冲突。然而，人类主导的决策过程的正常性确实为人工智能在过程中提供了空间，但这并不是一种有意义的方式。在决定致命行动的实际决策中，人工智能从未发挥过重要作用。显然，支持一体化的能力和技术远远超过了我们当选官员的容忍度。我们必须采取两个基本步骤，与他们和公众建立信任

首先，信息收集和处理主要由人工智能控制，官员之间几乎没有摩擦。这种整合虽然在研发（R&；D）的角度上没有增加能力，但将有助于建立信心，而且可以很快完成。为人工智能开发基本的协议，使其能够适用于炮塔等单个系统，一开始很容易，但难度却在缓慢增加，这将允许技术从研发到生产的发展；D的立场，同时逐步建立信心和信任。将识别软件纳入武器系统将允许选择特定的目标，无论是平民还是恐怖分子，这些目标可以被呈现、优先排序，然后交给指挥官采取行动。一旦在一组定义的周界内自信地运行，就可以增加重叠覆盖的系统数量。一个人可以通过一个指挥中心，通过一个城垛管理系统来监控这些系统，从而到达所有数据的交叉点；有效地成为一个“在”环路上的人，能够根据需要停止任何交战，或基于个人或任务容忍度限制人工智能角色

此过程不能单独封装在R&；D环境。相反，公众和民选官员都必须了解并接受透明度。是的，这些步骤看起来很初级，但它们并没有完成。重点集中在能力发展上，当两者必须共同进步时，对相关政策发展没有类似的关注。具有健全政策和监督的小的具体步骤至关重要。如果没有这样的理解，决策者就不能凭良心认可，而是默认了一个安全而简单的答案：“不”。等待人工智能集成到我们的武器系统中，会使我们落后于有效与敌人竞争所需的技术曲线。相信我们的对手和他们的R&；由于道德和公众支持的要求，D项目在人工智能集成方面受阻；中国人称之为“智能化”战争，并投入了大量资金。在成功的测试和部署过程中让人类“参与”这一循环，将成为美国在未来战争中继续开发这些技术所需的额外人工智能权威和公众支持的桥梁

John Austerman是高级军事和文职领导人的经验丰富的顾问，主要专注于研发领域的军备政策。在50多个国家和黎凡特拥有包括敌对火力区和战区在内的经验

图片：路透社

简介