国际人道主义法超越目标

围绕军事环境中的人工智能（AI）和自主系统的许多争论都集中在自主武器和目标系统上。人们反复关注使用人工智能进行目标定位和致命武力的系统是否符合国际人道主义法（IHL）（生命之未来研究所，2021；Russell等人，2021；Asaro，2019年和2012年），同时也注意到人工智能和机器学习（ML）系统对于快速识别有效军事目标的价值（DoD，2022a）。相比之下，我们在这里关注的是人工智能技术在军事情报、监视和侦察（ISR）行动中的应用，特别是当它们向人类决策者提供信息时

随着军队越来越多地在多个平台和模式上部署复杂的传感器网络，从而产生大量信号，AI/ML系统对于确保适当的感知变得越来越重要。一个著名的现实世界例子是美国国防部（DoD）联合全领域指挥与控制概念，该概念旨在使用人工智能处理来自众多传感器的数据（Hoehn，2022）。报告还指出，俄罗斯打算开发使用神经网络增强ISR能力的侦察和侦察打击无人驾驶飞行器（Allen，2022）。用于ISR作战的此类社会技术AI系统可能会提高目标定位过程的速度，也会为对手欺骗打开新的攻击载体，包括隐藏或隐藏欺骗的新方法（Danks，2020）。当然，同样的技术也可以减少人为误差，提高瞄准精度（Arkin，20102018）。我们对人工智能ISR系统可能影响合法人道主义努力的方式特别感兴趣

习惯国际法认为，“冲突各方必须允许和便利人道主义救济品快速、不受阻碍地运送给有需要的平民”（红十字委员会，2005年，第55条）。因此，有义务尊重和保护人道主义救济人员，原因不仅仅是他们作为平民的“单纯”身份。我们认为，在AI ISR系统和人道主义组织之间建立适当的联系可以使冲突各方更好地履行这些（和其他）国际人道主义法义务，特别是根据《日内瓦公约》第一附加议定书第71条尊重和保护人道主义救济人员。人道主义努力也会对冲突本身产生重大影响，可能有助于军事行动的战略成功。例如，2022年8月美国国防部《平民伤害缓解和应对行动计划》（以下简称《行动计划》）指出：

保护平民免受与军事行动相关的伤害不仅是道义上的当务之急，而且对在战场上取得长期成功至关重要。[增加强调]（国防部，2022b，第1页）

尽管冲突各方遵守其国际人道主义法义务有多种原因，但它们在履行这些义务方面也面临许多挑战。AI ISR系统可以说有潜力提高相关的态势感知，从而使各方更好地履行这些关键的道德承诺。在下一节中，我们将研究人工智能ISR如何改进目标消除冲突流程和人道主义通知系统。第三节更详细地讨论了我们的建议。最后，我们注意到与消除冲突进程有关的一些反对意见和义务

需要一个接口

基本上所有现代军队都有适当的流程和系统来减少平民伤亡。例如，国防部联合出版物3–60将无打击和限制目标清单（参谋长联席会议，2013年）用于国防部目标消除冲突过程，以确定哪些潜在目标是合法的。对这一过程的准确性和鲁棒性的担忧构成了对国防部平民伤害记录的许多批评，文件指出，不小心瞄准或（证据）袭击可能违反武装冲突法（Yager，2022）。《2022年国防部行动计划》旨在加强此类过程和系统，包括直接呼吁“在整个联合打击过程中提高对平民环境和平民伤害缓解能力和过程的了解”（国防部，2022b，第12页）。《行动计划》不仅承认减轻平民伤害（包括保护人道主义救援人员）的道义责任，而且承认这样做的战略益处消除冲突的过程以及过程本身，但我们必须首先提供关于消除冲突的当前状态的更多细节

目前为军事无打击数据库提供信息的一个来源是一组临时人道主义通知系统，通常也称为人道主义消除冲突机制。这些系统向军事行动者提供有关人道主义行动的位置信息，但它们因冲突而异，对于自愿提供信息的人道主义组织和接收信息的军事实体来说，都是众所周知的不可靠（Lewis，2022；Ulbricht&Weiner，2021）。在撰写本报告时，此类系统已经或正在多个冲突中使用，包括乌克兰（人道协调厅，2022年）、黎巴嫩（人道协调署，2006年）、叙利亚（人道协调局，2018年）和也门（人道协调办，2021）^脚注1

在所有现有的人道主义通知/消除冲突系统中，人道主义救援行为体自愿报告其行动的数据。这些报告通常通过电子邮件发送给某个中央数据收集和共享实体。例如，自2014年以来，联合国人道主义事务协调厅（OCHA）在叙利亚开展了他们称之为“人道主义消除冲突机制”的活动，该机制与冲突各方分享有关静态人道主义地点和涉及行动的人道主义任务的信息（OCHA，2018）。人道主义组织自愿参与，向人道协调厅发送一份完整的模板，然后由人道协调厅将收到的确切信息发送给冲突各方，而不试图核实或验证这些信息。提交的数据可能包含错误和不一致，这为该机制不可信任且易被滥用的说法提供了可信度（Hill&；Hurst，2019）

即使人道协调厅的叙利亚人道主义消除冲突机制作为信息传播机制发挥了适当的作用，冲突各方也必须在随后的目标确定决定中适当地使用这些信息。特别是，理想情况下，还应使用参与人道主义组织的数据，以确保实际对军事目标进行积极识别，特别是因为人类空袭小组“在一个又一个案例中，错误地将平民识别为合法目标”（Yager，2022）。为此，有多种机会利用AI ISR系统提高对人道主义救援活动的认识。首先，对于人道主义组织来说，这些技术可以提供一种可靠和透明的数据提交方法，减少潜在的错误来源，从而削弱冲突各方无视这些通知的共同理由。第二，如果冲突各方将人道主义通知数据纳入其AI ISR系统，那么他们很可能会提高作战空间意识（假设数据是可信的；见前一句）。第三，通过人工智能ISR系统更有效地沟通、审查和验证有关人道主义活动的数据，将使人道主义组织和整个国际社会能够更好地识别不良行为者并追究其责任。第四，也是最直接的一点，《国际人道主义法》规定冲突各方有义务实施可行的民事风险缓解措施，这些制度可以说提供了这样的机会

当前改善人道主义通知的努力和我们的建议

正在努力改善解除冲突进程的状态、为其提供信息的人道主义通知系统以及总体平民伤害缓解工作。具体而言，当现代军队将其国际人道主义法义务视为道义和法律义务以及战略成功的关键时，他们注意到了利用人工智能能力的可能方式。例如，国防部行动计划的行动4.i.、4.l.和4.n.特别提到了需要使用人工智能/人工智能等技术加强平民伤害缓解工作（国防部，2022b，第13-14页）。我们在此建议，我们可以在这一基础上，以显著扩大此类努力的方式进行建设

具体而言，我们建议军队应为人道主义组织建立与人工智能ISR系统的接口。这种接口将为人工智能辅助的人道主义人员、物体和活动的验证和确认创造可能性，从而扩展和改进电子邮件数据等临时方法。目前，人类情报分析人员必须花时间分析人道主义组织提交的数据，以确定是否禁止罢工数据库中的条目是合法的。然而，从人道主义组织接收位置数据的AI ISR系统可以审查数据来源，无论是通过向人道主义组织提供和签署的军事凭据，还是通过零信任架构（Rose等人，2020）（或两者兼而有之）

如果对数据源有信心，AI ISR可以自动将提交的位置与地理空间图像和其他数据源进行匹配，以验证报告的人道主义活动。作为一个具体的例子，应用于地理空间图像的图像识别技术有助于验证红十字委员会为战争伤员设立的外科医院的信息，前提是该医院遵循既定的标记标准。这种审查和验证的速度和使用的信息源远远超过人类情报分析员的速度

这项建议的一个关键好处是，人工智能ISR系统可以包含许多不同类型的数据，因此可以对人道主义组织的断言提供额外的确认和验证。例如，开源智能（OSINT）AI系统可以使用网络抓取来将人道主义医院的公开可用的、带有地理标记的图像或视频与提交的数据进行匹配。信号情报（SIGINT）AI系统可以将截获的呼叫的位置与人道主义医院的报告地点相匹配。人类情报（HUMINT）报告可以通过自然语言处理系统进行分析，以供人道主义医院参考。许多其他相关数据源也可以使用。此外，人道主义组织的数据将直接（而且可能是安全的）提供给军事AI ISR系统，从而为这些组织提供超越简单文本报告的数据创造了可能性。然后，所有这些数据来源都可以被纳入一项全面分析，以零信任的方式审核和验证提交的人道主义数据

此外，由于过程将以可信的方式发生，我们建议接口不必是单向的。特别是，人工智能ISR系统可以提供正式确认，即人道主义组织提交的数据已经过审查和验证，并被纳入总体评估（尽管人工智能ISR可能得出结论，有理由质疑输入数据）。确认并不保证人道主义组织的安全，但通过确认信息已正确提交并包含在分析中，确实提供了些许透明度

超越冲突各方的态势感知，人工智能ISR系统的接口也可以产生二级和三级积极影响。首先，界面的双向性可用于向人道主义行为者通报未爆弹药的威胁。第二，人道主义组织的AI ISR界面提供了建立违反国际人道主义法行为模式的可能性，可用于追究冲突各方的责任。第三，这种人工智能ISR界面将使冲突各方能够利用人工智能，以现有基于电子邮件的人道主义通知系统无法比拟的方式，持续快速审查和验证提交的人道主义信息

总之，为人道主义组织创建与AI ISR系统的双向接口不仅将改善消除冲突过程的质量数据通信，还将支持公正、独立和中立的人道主义行动；为目标确定过程建立问责制的可能性；并提供一个足够灵活和快速的系统，以适应冲突地区人道主义行动的动态性质。由于这种技术上的可能性存在，而且国际人道主义法规定人道主义组织可以不受阻碍地接触平民，因此人们可以认为，冲突各方有法律义务，而不是“仅仅”道德和道德义务来建立这样一种界面。红十字委员会已经强调了“环境扫描仪表盘”的开发，该仪表盘使用AI和ML评估冲突地区的人道主义需求（红十字委员会，2019年）。允许此类仪表盘访问更广泛的数据集将使国际社会更好地履行国际人道主义法规定的保护平民的义务

反对、义务和结论

我们承认，军事行为体和人道主义组织都有很多理由反对这一提议。人道主义组织迫切关注安全问题，特别是数据安全问题。尽管冲突各方都有义务尊重人道主义行动，但也有已知的邪恶行为者的例子他们故意以人道主义行动为目标（Mauvais，2020）。冲突各方，无论是国家还是非国家行为者，都与一方或团体结盟，因此他们的立场与人道主义行动有根本不同，人道主义行动基于人道、中立、公正和独立的原则。这一根本区别意味着，人工智能/情报、监视与侦察系统的接口以及这些数据的后续使用必须设计为符合人道主义原则，而不是军事愿望

军方可能会反对为其AI ISR系统提供任何类型的接口，因为它可以直接或通过数据中毒提供新的攻击向量。然而，我们认为，与军事AI ISR系统（或功能类似的系统）的人道主义接口不仅是可取的，而且实际上是强制性的。国际人道主义法要求各国尊重和保护人道主义救援人员，包括确保他们在冲突地区合法运送人道主义援助时的安全。许多冲突各方目前没有充分履行这一义务，部分原因是他们无法收到经过审查和验证的人道主义工作地点（和其他）数据。因此，各方有义务获得更准确和可用的数据，而与AI ISR系统的接口是实现这一目标的有力手段

本立场文件是朝着确定军事和人道主义组织利用现有人工智能技术减少战争中人类痛苦的具体机会迈出的一步。可能会有人道主义组织的反对，他们可能持怀疑态度，或者没有数据/技术素养，也可能会有军方的反对，因为他们可能更喜欢一种更简单的现状（更愤世嫉俗的是，这让他们可以否认，并尽可能少地承担责任）。我们认为，有一种更好的方式可以利用现有的AI ISR系统来加强人道主义组织的安全。这种更好的方式不仅可以提高军事意识和理解，还可以确保各国更好地履行其义务。如果一个人有能力更好地理解冲突地区，从而做出更合乎道德和有效的决定，那么他就有义务对人类采取行动

简介