简介

“全球反恐战争”的杀伤链理念虽然存在问题，但它是基于“分析-反思-行动”的原则（Brose 2020）。它允许并需要新的定点清除做法，这些做法在道德上被视为合理 (Statman 2004) 并且更准确。然而，随着时间的推移，许多学者已经揭穿了新兴技术辅助定点清除的准确性和客观性的神话（Fereidooni 和 Heidt 2024），以及Yet, the myth of accuracy and objectivity of emerging technology-assisted targeted killing has been debunked by many scholars over time (Fereidooni and Heidt 2024), and the这些“杀戮名单”的做法使得“混乱的目标确定过程更加不透明，更难追踪”（韦伯2016，第 107 页）。另一方面，“杀伤云”则加剧了这种不透明性和混乱性，因为它依赖大量数据、机器的自主性增强以及机器学习技术。杀伤云的概念最初由 Lisa Ling 和 Cian Westmoreland 提出，用来表示一种快速增长的全球网络基础设施，其主要目标是在“包括太空、网络空间和电磁频谱”在内的所有战争领域占据主导地位（Bazzichelli，2021 年；Ling 和 Westmoreland 2021）。

本评论总结了 2024 年 11 月 29 日至 12 月 1 日在德国柏林的 Kunstquartier Bethanien 举行的“调查杀戮云：信息战、自主武器和人工智能”会议上的讨论。为庆祝中断网络实验室成立十周年，中断网络实验室与“有意义的人类控制：监管与反思之间的自主武器系统”（MEHUCO）研究网络合作，将举报人、艺术家、民间社会和来自法律研究、科学和技术研究等各个学科的学者聚集在一起（STS）、国际关系（IR）、政治理论、媒体和传播研究、社会学、计算机科学等。此次会议由 Tatiana Bazzichelli 与 Jutta Weber 合作策划，旨在为分享Disruption Network Institute 附属研究员对人工智能 (AI) 对战争新技术、自动化武器和网络战争的影响的研究结果提供空间。这些研究研究员（图1）分别是 Lisa Ling（举报人，前技术中士，美国空军无人机监视项目，美国）、Jack Poulson（执行董事—Tech Inquiry，美国）、Naomi Colvin（项目总监—未来语音蓝图，英国）和 Joana Moll（艺术家兼研究员，ES）。为期三天的活动还包括圆桌讨论，旨在促进各个学科专家之间的讨论、知识共享和合作。

由帕德博恩大学领导的 MEHUCO 研究网络由五所高等教育机构组成（波恩大学、汉诺威莱布尼茨大学、汉堡大学、奥斯特法利亚应用技术大学和帕德博恩大学）。“调查杀伤云”会议由中断网络实验室与帕德博恩大学主办的 MEHUCO 子项目“群体技术 - 复杂武器系统的控制和自主性”共同组织。尽管讨论和论文数量众多、范围广泛且专业性强，但本文对这些不同的演讲进行了综合报告。它重点介绍了会议上提出的几个主题，同时提出了进一步研究的领域。所有演讲和表演均可在在线上观看，以便读者更详细地了解。

人工智能、杀戮云和告密

当代战争和相关军事信息实践依赖于保密和机密数据。然而，随着战争自动化程度的提高，这种保密也与有罪不罚、战争罪行和远距离任意杀害无辜民众密切相关。解密数据在“穿透战争迷雾”中的作用已变得紧迫且不可或缺（O’Loughlin 等人。2010）。正是在这种背景下，杰西琳·拉达克认为“在无人机战争的背景下，举报至关重要，因为我们不知道最秘密、最致命的政府机构里发生了什么”¹ 拉达克指出，如果没有告密者，就不可能知道政府如何低估平民死亡人数，将数千人的生命视为抵押品。因此，切尔西·曼宁、朱利安·阿桑奇、布兰登·布莱恩特、丹尼尔·黑尔、克里斯托弗·亚伦等人的揭露工作对揭露远程战争的丑陋真相起到了重要作用。杰克·波尔森的演讲是关于西方情报和特种作战数据库调查方法的，他指出，数据中心战争的一个主要问题是政府（在他看来是美国政府）倾向于删除公众的证据，同时有法律理由隐瞒任何可能揭露军方不公正行为的数据。 ²

除了揭露已经发生的事情外，托马斯·德雷克（图2）还认为，举报有助于警告公众数据中心战争的威胁。³对德雷克来说，举报人付出了极高的代价，冒着一切风险揭露不公正，以造福公众。在数据中心战争中，“以人工智能为镜”（同上）至关重要。揭露人工智能的危险至关重要，因为它扩大了杀戮场，增加了“谋杀率”，并成为远距离非人道战争手段的可容忍叙事。举报对于揭露公众对“净化战争”的错误观念至关重要，而“净化战争”被吹捧为数据中心战争的优势（Lisa Ling）。⁴

实验性的、基于商业的战争

对于 STS 学者来说，他们是恰如其名的“解除杀伤云”⁵ 小组 (图 1) 的一部分。 3）数据中心战争以依赖相关性原理的“马虎的军事数据科学”（Jutta Weber）为基础，算法强化程度不断提高，与实地生活的现实情况不符（Lucy Suchman）。萨奇曼批评了军事数据实践中的“地面实况”概念，他认为地面实况连同构建它的数据集一起，预设并要求进行数据化操作——将感兴趣的世界呈现为数字（另见萨奇曼2020）。对于 Eric Reichborn-Kjennerud 来说，以数据为中心的战争代表的是军事逻辑，而不是物理世界的现实。对于 Elke Schwartz 来说，这种军事商业逻辑的基础是试错逻辑，这是一种高风险高回报的商业模式，鼓励资本主义思维“快速行动，打破常规”和“完成比完美更好”。这种军事哲学要求犯错，并为了追求高额的经济回报而重视错误。Marijn Hoijtink 在本小组的工作扩展了这些想法，包括“平台”的概念（参见 Hoijtink 2022; Hoijtink 和 Planqué-van Hardeveld 2022)，其中嵌入了完美知识的理念，即链接的能力一切皆一切，系统化、自然化目标逻辑，例如美国国防部（DoD）的联合全域指挥与控制（JADC2），它通过数据传感器、平台和其他通信技术连接所有美国军种。Hoijtink 的演讲证明了平台所有者在当代战争中的影响，它改变了战争的逻辑和实践。 Naomi Colvin 的演讲展示了英国在人工智能安全和风险方面的政策立场如何与人工智能实验室和硅谷的想法紧密相关 (Colvin 2024)。

Joana Moll 的著作提出了超越数字广告（Ad Tech）技术经济商业模式的观点，展示了 Ad Tech 的机制如何植根于“与身体、情感和认知、自然资源、战争、意识形态以及过去和现在的政治的关键关系”（Moll 2024，第 5 页）。因此，Moll 的表演和演示展示了这些错综复杂的关系，同时揭示了广告技术如何成为危险监视形式的主要推动者，而这些监视已融入杀戮云的机制。

<图>

图 3

<图片><来源srcset="//media.springernature.com/lw685/springer-static/image/art%3A10.1057%2Fs42984-025-00101-x/MediaObjects/42984_2025_101_Fig3_HTML.jpg?as=webp" type="image/webp"/> 图 3

“解除杀戮云”小组会议正在进行中。从左到右依次为 Lucy Suchman、Marijn Hoijtink、Eric Reichborn-Kjennerud、ElkeSchwarz 和 Jutta Weber（主持人）。图片来源：Disruption Network Lab

全尺寸图像

算法暴力的殖民性

算法战争和自主武器系统的研究主要集中在合法性、国家立场和叙述、想象、治理、道德和有意义的人类控制问题上。然而，权力、历史背景和殖民暴力是这些系统的实践、治理和概念化的核心。在一次联合演讲中，Shona Illingworth 和 Anthony Downey 介绍了他们与空域法庭合作的情况，空域法庭是一个正在进行的项目，旨在制定一项新的人权来对抗天空殖民化， Shona Illingworth 和 Anthony Downey 的演讲将“算法战争的病态”描述为新殖民主义的一个分支和核心。会议上的许多演讲都揭示了算法暴力的殖民性——即一套价值观、态度、认识论和权力结构，为殖民形式的暴力和统治提供合理化和正当化（参见 Quijano 2007）。对于 Donatella Della Ratta（讨论贡献）来说，人工智能只是提供了一种叙事，通过这种叙事，机器可以对人类行为者实施的殖民暴力负责。相反，算法战争主要针对的是无关紧要的生命（参见 Butler 2009）。对于 Khalil Dewan 来说，算法暴力是死亡政治——它赋予那些生命被视为可失去和可抛弃的人死亡的权利（Mbembe 2019）。 ⁶ Shona Illingworth 借鉴了空域法庭制定拟议的新人权所收集的证据，以保护不受来自上空身体或心理威胁的生存自由，这些证据强调了天空，特别是对于后殖民主体而言（参见 Jabri 2012 关于后殖民主体），与监禁和死亡有关（穆罕默德2024），造成长期心理创伤和生理伤害（Illingworth 等人。2024）。

现有的法律辩论未能充分处理算法战争的现实问题。对于安东尼·唐尼来说，有必要质疑人工智能的历史功能/背景、其在战争中的运作逻辑及其系统功能。人工智能被用来为算法暴力提供理由，并实现其被创建时所预测的威胁（唐尼2024），这对现实生活产生了真正的影响。这些影响对全球南方的人口来说更具威胁性。例如，西方人哀叹的对隐私的侵犯与生活在外国监控行为最暴力的地方（如加沙、阿富汗等）的人们的隐私侵犯相比微不足道（Lisa Ling）。 ⁷ 因此，必须质疑和批判性地分析人工智能和相关技术在战争中造成的认识论基础、权力结构和殖民不公正。

加沙的自动监视和定点清除

加沙战争的爆发，被国际法院 (ICJ) 定性为种族灭绝，⁸ 联合国 (UN) 和其他几个人权组织定性为种族灭绝，暴露了与战争有关的几个方面算法战争。首先，它让公众注意到算法和人工智能在战争中的现实。其次，它迫使有关自主武器系统的讨论从人工智能和机器学习技术如何影响战争的理论想象转向人工智能如何在实践中促进种族灭绝的讨论（大赦国际2024）。第三，战争改变了人们的讨论重点，从主要关注自主武器系统，到现在涵盖信息战的其他方面，如同样存在问题的决策支持系统。“自动监视和加沙的定点清除”小组（图4），⁹由 Matt Mahmoudi、Sophia Goodfriend 和 Khalil Dewan 组成，由 Matthias Monroy 主持，探讨了加沙的监视技术和定点清除实践如何运作。

对于小组成员来说，用于控制和杀戮加沙的技术被用来为持续的不公正行为辩护。索菲亚·古德弗兰德认为，加沙发生的算法暴力很大程度上是基于三个关键的政治决定：（1）故意针对平民住宅，（2）提高平民伤亡的门槛，以及（3）鼓励士兵过度依赖人工智能决策（即自动化偏见）。对于 Khalil Dewan 来说，在加沙有意识和蓄意地走向暴力自动化的政治举措由来已久，以色列是 2000 年第一个制定针对性政策的国家。

在实践中，这种有针对性的杀戮依赖于庞大的监视技术基础设施，包括红狼面部识别技术、蓝狼（Goodfriend 2023)、MABAT 2000、Checkpoint 56 等，导致了 Matt Mahmoudi 所称的“自动化种族隔离”（另见 Aizeki 等人）。 2024 上的监视、控制和暴力）。这种自动化暴力行为可以肆无忌惮地进行，特别是许多行为者和基础设施都在战区之外运作，包括卫星、开发商等（Dewan）。对于 Khalil Dewan 来说，武装战斗法 (LAC) 在加沙案件中面临一个关键问题，因为暴力肇事者不能受到反击。此外，Dewan 认为，对加沙受害者“敌对意图”的法律理解是错误的，因为整个人口都被贴上了敌对的标签。加沙事件向我们表明，我们需要新的批判性方法，质疑战争法对全球南方人口的不公正性。

结论

随着网络中心战的影响越来越真实，随着下落不明的受害者人数不断增加，扩大对算法战的研究和限制其过度行为的行动变得至关重要。正如“调查杀戮云”会议所表明的那样，举报人在揭露这些过度行为方面的作用怎么强调也不为过。其次，正如安东尼·唐尼在会议上所建议的那样，迫切需要开发适合用途的跨学科方法，以“从内部”思考算法战争的机制，而不仅仅是代表或反思它们（另见 Bazzichelli，2021 年关于从内部颠覆的想法）。杰克·波尔森 (Jack Poulson) 的作品从举报人的角度迈出了一大步，而本报告中代表的大多数学者对算法暴力持批评态度。第三，算法战争的思维框架在范围上在很大程度上受到限制，导致大多数现有学术研究无法质疑治理和实践层面的不公正和权力状况。因此，颠覆性理论化，包括全球南方和后殖民框架，可以帮助解决新兴战争技术所必然和鼓励的现有系统性不公正。这种颠覆性思维可以为性别敏感、脆弱性和环保意识等质疑开辟空间，这些质疑有可能颠覆系统性暴力和主流。暗示。到目前为止，我自己的工作一直在质疑治理层面的这些不公正和殖民主义（Bhila 2024a, 2024b）。阻止杀手机器人运动和志同道合的组织的工作揭露了算法战争和定点清除的谬误，但仍然需要各个层面以及各种实践和思想社区共同努力批判“杀戮云”。

注释

1.
Jesselyn Radack，调查杀戮云会议，2024 年 11 月 29 日。可访问 https://www.disruptionlab.org/investigating-the-kill-cloud
2.
Jack Poulson，调查杀戮云会议，2024 年 11 月 29 日。可访问 https://www.disruptionlab.org/investigating-the-kill-cloud
3.
Thomas Drake，调查杀戮云会议，2024 年 11 月 29 日。可访问 https://www.disruptionlab.org/investigating-the-kill-cloud
4.
Lisa Ling，调查杀戮云会议，2024 年 11 月 29 日。可访问 https://www.disruptionlab.org/investigating-the-kill-cloud
5.
小组讨论——“解除杀伤云”在调查杀伤云会议上，与 Lucy Suchman、Erik Reichborn-Kjennerud、Marijn Hoijtink 和 Elke Schwarz 一起，由 Jutta Weber 主持。https://www.disruptionlab.org/investigating-the-kill-cloud
6.
Khalil Dewan 在“自动监视和加沙定点清除”，调查杀戮云会议，2024 年 11 月 30 日。可访问 https://www.disruptionlab.org/investigating-the-kill-cloud
7.
Lisa Ling，调查杀戮云会议，2024 年 11 月 29 日。可访问 https://www.disruptionlab.org/investigating-the-kill-cloud
8.
2024 年 1 月 26 日命令摘要 |国际法院，2024 年）。

9.
小组讨论——“加沙的自动监视和定点清除”在“调查杀戮云”会议上，与 Matt Mahmoudi、Sophia Goodfriend 和 Khalil Dewan 一起。由 Matthias Monroy 主持。