一篇又一篇文章哀叹新的军事技术——包括地雷、无人驾驶无人机、网络作战、自主武器系统和人工智能（AI）——如何在武装冲突中制造新的“问责缺口”。当然，通过在人类的决策及其影响之间引入地理、时间和机构距离，这些技术扩大了人们熟悉的错误来源，并使因果分析复杂化，使追究个人或国家对非法有害行为的责任变得更加困难

但除了提出这些新的问责问题外，新的军事技术也使国际人道主义法（IHL）核心已经存在的问责鸿沟更加突出：对意外、“可怕但合法”的平民伤害相对缺乏法律问责

扩大附带民事伤害

国际人道主义法在试图协调尽量减少不必要的民事伤害和促成必要的国家行动时，明确允许许多助长附带伤害的行为。例如，虽然禁止故意以平民为目标，但偶然造成平民伤害（甚至可预见和广泛的平民伤害）的攻击可能是合法的。如果授权攻击的指挥官合理地确定“附带损害”（预期的平民死亡、平民受伤、民用物体的破坏以及相关的影响）与预期的军事利益相比不会过度，则攻击符合相称性要求。出于法律目的，该行动仍然是“比例”的，无论在执行时有多少平民实际受伤或受伤程度如何

新的武器技术加剧了这种紧张局势。首先，新技术缩小了受保护民用物体的范围。技术不仅促进了向城市作战空间的转变（Schmitt 2006），网络和链接军事系统的激励措施也导致了民用物体，如电网、电信系统和互联网服务日益成为军民两用的，因此可能成为目标基础设施（Shue和Wipman 2002）

其次，这种法律结构鼓励开发和使用利用允许附带伤害的灰色地带的武器。例如，在没有已知违反国际武器法规的情况下，一直以来最有效的国际武器法规之一是禁止设计用于永久失明的激光器（Crootof 2015a）²该条约的明显成功导致一些人认为，它是监管其他技术的有益先例，例如自主武器系统（人权观察和国际人权诊所2015）。然而，该条约之所以“成功”，是因为它对受监管技术的定义过于狭隘（Crootof 2015b）。在禁止使用“专门设计的激光武器，作为其唯一的作战功能或作为其作战功能之一，造成对未增强视力的永久失明”时，该条约不适用于暂时失明的激光的使用（例如在伊拉克使用的令人眼花缭乱的美国部队，据称使美国服役人员失明）（Hambling 2009）或导致永久失明（如用于其他目的的激光武器）的非预期副作用（Hecht 2002）

第三，虽然越来越精确的武器以同时最小化对军队和平民的风险而闻名，但它们也制造了一个精确的悖论，考虑到“进行更精确打击的能力可能意味着军队可以合法地进行更多的总体打击，因为一次可能会对平民造成太大伤害并因此未能达到相称性要求的行动可能会成为新的合法行动”（Crootof 2022）。袭击次数越多，允许的平民伤害就越多——无论是预期的附带伤害还是意外伤害

扩大意外平民伤害

战争迷雾中总是会发生意外，但新的军事技术都引入了熟悉的有害错误来源的新表现，并放大了其潜在的损害

携带武器错误。正如每个物理系统都会受到设计和制造缺陷的影响一样，每个基于代码的系统也会受到错误的影响——编程错误会导致意想不到的结果。在武装冲突中，这些错误可能是致命的。例如，在2007年南非的一次军事演习中，据称一个软件故障导致了防空大炮故障，导致9名士兵死亡，14人受伤（Shachtman 2007）。最近，印度向巴基斯坦境内“一次技术故障导致导弹意外发射”（BBC News 2022）。基于AI系统是复杂的，根据正常事故理论，系统越复杂，发生事故的可能性越大（Perrow 1984）。随着军队将AI和其他算法纳入其系统，他们正在引入该技术特有的其他错误（Scharre和Horowitz 2018），以及可能被黑客攻击、玩游戏或被对手利用的新漏洞（Brundage等人，2018）

或者考虑新的军事技术如何加剧某些类型的用户错误。虽然一些技术可能会扩展用户的能力，例如，通过更深思熟虑或更明智的决策，但许多技术也可能会让用户的工作更加困难。“自动化的讽刺”之一是，混合系统的自动化程度越高，人在系统中的角色就越重要和困难（Bainbridge 1983；Jones 2015）。随着“更容易”的任务被委托给机器智能，人类不仅需要更频繁地处理更艰巨或更困难的任务——而不需要处理更容易的任务所带来的休息——他们必须这样做，同时监督一个引入自动化错误和新漏洞的系统。一些自动化程度最高的系统需要最细心、技术最熟练的操作员，而不是减轻回路中人员的负担

建立网络和链接军事系统的激励措施导致民用物体……日益成为军民两用的基础设施，因此可能成为目标

此外，即使是混合系统中训练有素、能力最强的人员，也会出现该角色特有的错误，包括自动化偏差（其中，人员会过多地推迟机器评估），恶化的情境意识（在特定情境中利用特定知识的能力降低）和技能衰退（由于缺乏实践而丧失技能）。有很多算法决策者过度信任的例子助长了意外。人们如此忠实地遵循GPS导航方向，以至于他们开车进入池塘、湖泊或海湾（Kircher 2018），甚至进入海洋（Fujita 2012）；不幸的是，至少有一起事件是致命的（Conklin 2022）。在武装冲突中，过度信任会产生致命后果。2003年，美国的爱国者防御系统曾三次将友机误列为弹道导弹。在每一种情况下，操作员都命令系统应对感知到的威胁，尽管有与系统评估相矛盾的可用信息，导致了痛苦可避免的自相残杀（Lewis 2018）。正如爱国者系统性能的最终报告所总结的那样，该系统“与条件不匹配”，部分原因是“协议基本上是自动的，并且操作员接受了信任系统软件的培训”（国防科学委员会2005，2）

培训用户不信任系统的提议也不是一颗灵丹妙药（郝2021）。如果用户过度信任系统，我们就有可能过度投资于无用甚至有害的基础设施。约翰·S·麦凯恩号（John S.McCain）的舰长很快学会了不信任故障的新导航系统，因此他经常在备用手动模式下使用它。不幸的是，这种不足造成了新的风险，因为手动模式禁用了内置安全措施，从而导致了2017年的一次碰撞，导致10名船员死亡，48人受伤，这是美国海军过去40年来最严重的海上事故（Miller等人，2019）

网络冲突中的民用数据src=https://www.cigionline.org/static/images/Civilian_Data_in_Cyberconflict_fbf.2e16d0ba.fill-377x246.pngwidth=377

建议

网络冲突中的民用数据：法律和地缘战略考虑

>

新的军事技术不仅引入了新的错误来源，还可能放大事故的有害影响，因为它们有助于以超人的速度和前所未有的规模采取行动。例如，集成算法决策助手将加速OODA（观察、定向、决策、行动）循环的可能性经常被吹捧为一种好处。当然，在防御机动、反弹道和格斗中，更快的决策提供了战略优势。然而，在许多其他情况下，如城市冲突，更慢但更好的决策是可取的（Koch和Schoonhoven 2022）

与此同时，核武器、化学武器、生物武器和其他大规模杀伤性武器增加了发生大规模毁灭性事故的可能性，而已经发生的无数灾难和紧急呼叫提醒人们可能性是（美国核管理委员会2018年；Schaper 2020年；Bennetts 2017年）。除了增加大规模毁灭的风险外，新技术还可以扩大错误的危害：网络化系统可能会使孤立的事件在整个系统中传播，同时将监督机会降至最低

内在的责任差距

尽管这是一系列可怕的问题，但这不是一种新技术正在制造新问题的情况。在扩大非预期的平民伤害（包括意外伤害和意外伤害）方面，新技术使一个老问题更加突出。也就是说，这些例子都突出了这样一个事实，即武装冲突中大多数意外的平民伤害都没有国际问责机制

有一些法律问责机制，但它们不足以解决意外的、因而合法的平民伤害。故意以平民为目标或以其他方式严重违反国际人道主义法的个人可能会被追究战争罪的刑事责任，但正如自主武器系统和人工智能系统所强调的那样，一个系统可能会采取有害行动，而任何人都没有必要的犯罪意图。从事国际不法行为的国家可以根据国家责任法承担责任，但如果一项行为是合法的（附带损害和意外伤害通常是合法的），它就不是国际不法行为，国家责任法也不受牵连

武装冲突法旨在最大限度地减少而不是防止造成不必要的平民伤害的可能性。它仍然允许大量的附带平民伤害。根据国际法，任何实体都不对武装冲突中合法行为的有害后果承担法律责任

这应该再说一遍

根据国际法，任何实体都不对武装冲突中合法行为的有害后果承担法律责任

相反，意外的平民伤害发生在无辜平民身上。而且，由于未能建立威慑，国际人道主义法可以说促进了意外的平民伤害（Lieblich 2019）

新的问责机制

通过将这一问责差距进一步缩小，技术支持的行为凸显了新问责机制的必要性

为了回应对人工智能潜在意外伤害和国际人道主义法责任差距的担忧，一些人提出了相对技术性的法规和政策指导。例如，美国国防部（DoD）最近通过了一套使用人工智能的道德原则，其中强调，国防部人员必须继续“负责人工智能能力的开发、部署和使用”（DoD 2020a）

其他人则专注于修改法律制度本身。军事人员、军事顾问和平民倡导者为自愿向受伤害的平民提供赔偿提出了道德和战略论点（DoD 2020b；冲突中的平民中心和哥伦比亚法学院人权研究所2020；Kolenda等人，2016，32–33；Lewis 2013）。一些法律学者讨论了如何改进赔偿程序（Wexler和Robnnolt 2017）；其他人建议重新解释或修订现有规则，以扩大国家责任（Ronen 2009）、个人刑事责任（Bo 2021）、指挥责任（Ohlin 2016；Krupiy 2018）和武装冲突中平民伤害的国内民事诉讼理由（Abraham 2019）

该作者主张建立一个新的责任追究“战争侵权”制度，该制度将要求国家在武装冲突中对造成平民伤害的合法和非法行为进行赔偿，无论是在使用自主武器系统时（克罗地亚共和国，2016年），还是在更广泛的情况下（克罗地亚共和共和国，2022年）。这种制度可以被构造为一个对抗性法庭，各国对其在武装冲突中的行为的有害后果承担严格责任；作为一种无过错制度，各州将向受害者的基金支付款项，然后分配给索赔人；或者作为两者的某种混合，这将试图结合两者的最佳方面（Crootof，即将于2023年出版）

技术发展往往会使较旧、不常见或报告不足的问题变得更加突出、普遍或严重。虽然许多提案侧重于监管特定的武器技术，以解决对意外伤害增加或事故增加的担忧，但这并非法律未能跟上技术发展的情况。相反，技术发展引起了人们对国际人道主义法结构中存在的问责差距的关注。在这样做的过程中，人工智能和其他新的军事技术突出了对所有平民伤害的问责机制的必要性

//section>

简介