Shutterstock

在一篇新论文中，Asser研究所研究员Marta Bo研究了程序员何时可能对自动驾驶汽车和自动驾驶武器造成的伤害承担刑事责任

据美国安全监管机构称，去年，部分自动驾驶辅助系统引发了数百起车祸。除此之外，联合国关于利比亚内战的一份报告表明，自主武器已经在使用。在这份报告中，一个专家小组发现，STM Kargu无人机系统可能参与了一次袭击，32名学生死亡

随着自动系统事件的日益频繁，审查谁可能对此类事件承担刑事责任变得越来越紧迫

多手问题是刑事责任归属的挑战

开发自主技术是一个复杂的过程，需要许多具有专业技能的人员。例如，当谷歌致力于自动驾驶技术时，大约有170人组成了一个团队，拥有从外观设计到制造的专业知识。它使追究刑事责任变得复杂，因为事件可能是由发展链上的许多不同问题和失败造成的。这些通常是相互关联的，可能包括技术故障、通信错误，甚至最终用户错误。事实上，一些制造商倾向于将责任推卸给最终操作系统的最终用户

然而，最终用户真的是唯一的控制者吗？最终用户可能无法真正充分理解、预见和预测使用自动驾驶车辆和自动驾驶武器所涉及的风险和可能的故障。它们不一定具有有意义的人类控制（MCH）

正如Marta Bo在她的论文中所指出的，“有意义的人为控制”的概念在这些复杂的事件中可能有用，以确定何时将个人刑事责任归咎于程序员

程序员是否掌握了控制权

Marta认为，关于自动驾驶车辆和自动武器的行为和效果的某些关键决策是在编程阶段做出的，在这些系统的整个使用过程中都是相关的。毕竟，是程序员在一定程度上决定了交通法规如何嵌入自动驾驶汽车系统。此外，是程序员部分决定了国际人道主义法（IHL）如何在自主武器中实施，以及这些系统如何与其环境交互。因此，程序员可能会对系统施加有意义的控制，即使系统由最终用户操作，该控制仍会继续

这种控制形式可以使程序员在能够理解和预见使用自主系统技术犯罪风险的情况下承担刑事责任

万不得已

Marta Bo警告称，“刑事责任是万不得已的措施，由严重伤害和应受惩罚的精神状态引发”。虽然刑事责任具有威慑价值，但过度强调刑事化可能会阻碍一项有可能减少道路交通事故和战场（平民）伤亡的技术。薄熙来认为，通常另一种方法可能更适合解决自主系统中的责任问题，例如民事责任、产品责任、违反国际人道主义法的国家责任，以及（在某些法律系统中）公司刑事责任

阅读Marta Bo的全文《程序员是在控制还是失控？自动武器和自动驾驶汽车程序员的个人刑事责任；Whalen Bridge，H.（编辑），《法律中的人机互动及其叙事：法律责任、刑法和程序》，剑桥大学出版社，2022年。

阅读更多

《国际刑事法院规约》中攻击平民战争罪中的自主武器和责任差距》，2021，《人类对自主武器的有意义控制：一个（国际）刑法账户》，Opinio Juris，2020年12月18日

此外，请收听Marta关于AWS和《法律与战争的未来》责任的访谈播客

简介