在军事环境中部署人工智能（AI）技术有可能大大提高军事能力，并提供重大的战略和战术优势。与此同时，军事环境中越来越自主的技术和自适应系统的使用带来了深刻的道德、法律和政策挑战。该项目探讨了在遵守法治和道德价值观的同时，利用人工智能技术在军队中的潜在利益的条件和模式

人工智能技术在军队中的潜在使用的伦理和法律影响已被联合国、各国政府和非政府组织列入议程多年。在关键作战功能中，对自主智能系统的依赖确实存在很大争议，应根据道德价值和法律规范进行仔细评估。完全自主的武器系统构成了一条硬红线，许多人认为这与国际人道主义法以及人类尊严和责任的公共价值观不可调和。然而，在何处以及如何划定这条红线的问题尚未解决。此外，人工智能在军事领域的潜在应用远不止于自主武器问题。人工智能技术以超出人类认知能力的规模和速度收集和处理大量信息的能力可能会影响军事行动规划和实施过程中广泛活动中决策的许多方面，包括侦察和情报收集，在作战环境中确定潜在目标的优先顺序

人工智能技术可以有效和合法地部署，以支持和改进军事行动，并协助人类决策，但必须明确界定在何种情况下以及在何种程度上，人工智能系统应支持战略、作战和战术层面的军事决策。人工智能技术被认为只是辅助决策，但在形式上仍处于人类的直接监督之下，然而，为辅助决策而部署的某些技术在现实中是否不能替代人类的决策，可能会引发疑问。因此，至关重要的是批判性地解决在军事人工智能技术的开发和部署过程中，应在何处以及如何保持人工智能的作用这一问题

该项目将调查如何确保军事人工智能技术支持但绝不取代人类士兵的关键判断和决策的问题。为了回答这一主要问题，将讨论三个子问题：（1）为什么必须保证人参与某些职能和活动，以及（3）如何在技术上确保军事技术的设计和部署符合道德和法律框架

该项目将由一个跨学科团队进行，该团队将与合作伙伴进行对话，以解决研究问题的伦理、法律和技术层面。将招募三名研究人员，分别关注为什么、在哪里以及如何保持人类对军事人工智能技术的控制。同时，两个横向轨道将寻求加强跨学科对话，并为军事人工智能建立共识的公共价值观

一名具有哲学和伦理学背景的博士后研究员将进行研究，旨在查明在开发或部署高度自动化军事技术时保护人类机构的基本原理。博士后研究员将从事关于人类机构功能的基础研究，并分析当前或未来的人工智能系统如何影响这些功能。她/他将测试构建这一建议的假设，即人类机构能够实现公共价值，是遵守国际规范和问责制的前提条件。预计对人类机构的研究将揭示与军事人工智能相关的法律合规和问责问题的内在跨学科层面

一名博士研究人员将调查适用于军事人工智能技术的国际法律框架，并就军事人工智能科技的部署和获取过程中遵守国际法以及违反国际法的责任进行深入研究。国际人道主义法和武装冲突法的既定法律标准适用于开发或部署是设想的，一个国家不遵守其国际义务是其责任所在。然而，在部署军事人工智能时，如何准确遵守国际义务和人道主义原则的问题需要进一步探讨。这位博士研究人员将采用一种粒度和特定背景的方法，区分不同类别的军事活动和人工智能技术类型。此外，博士研究人员还将制定军事技术获取阶段的合规框架。事实上，在寻求获得新的军事装备和技术时，也必须充分遵守国际准则。将与研究小组其他成员合作，进一步解决收购阶段相对未探索的法律合规问题，目的是制定政策和技术指南，以验证合规性

基于对伦理和法律界限的研究，该界限应指导和限制军事技术的开发和部署，一名具有计算机科学和系统工程背景的博士后研究员将致力于如何在自主技术设计中整合这些规范和价值观。特别是，博士后研究员将制定将国际法律规范纳入军事技术的方法和议定书，以及验证和证明军事人工智能系统符合国际法的标准和程序。该项目的目的不是编写系统规范，而是强调为了测试和证明给定的人工智能组件或系统的设计和部署符合国际法，应考虑哪些要素。此外，博士后研究员将测试符合国际规范的系统优化在多大程度上可以与安全有效的人工智能技术目标相融合

当前关于负责任（军事）人工智能的研究所面临的一个持续障碍是，在哪些公共价值观应该得到保护，以及在开发人工智能时如何最好地实现价值一致方面，缺乏共识和共识。该项目旨在弥合这一差距，并通过以下方式带来新的思考和解决方案：（1）建立一个平台，旨在达成跨学科共识，公共价值观应指导军事人工智能的设计和使用，（2）将适用于军事行动的国际法律规范（特别是习惯国际人道主义法）概念化为更广泛的公共价值的可操作表达，以及（3）开发工程方法，以分配、优化和量化公共价值和国际标准作为目标函数。为了达成这一共识，将在海牙与来自伦理、法律、军事、计算机科学、系统工程、心理学和其他相关学科的专家举行两年一次的会议。预计真正的跨学科对话和相互参与将有助于在军事人工智能公共价值的识别、解释、分级和量化方面达成共识。该项目还设想让公众参与建立共识，特别是通过一项关于确定军事人工智能价值的在线调查

在整个项目中，研究团队和合作伙伴将编写跨学科开放获取论文，探讨研究领域边界的特定主题问题。每年约有两篇论文将由至少两名具有不同学科背景的研究团队或财团成员共同撰写。例如，与武装冲突行为有关的一些人道主义原则和价值观处于法律和道德的交界处。合法军事人工智能的认证标准也是政策、法律和计算机科学的交叉点。

简介