快速的技术变革给现代战场和公共话语带来了无数新的不确定性和可变性来源。几千年来，军队已经将新兴技术整合到越来越实用和有影响力的武器中。自主武器系统（AWS）的扩散——通常被错误地标记为“杀手机器人”——是一个新隐患

AWS承诺增强战场决策，具有低成本和可扩展性，减少附带损害，并更好地保护服务人员和平民。与此同时，这些制度具有破坏国际安全与稳定的巨大潜力。政府面临的一个关键问题是，AWS的开发和部署是否符合道德规范

人们普遍认为，无论涉及何种武器，算法都不能完全控制杀害或伤害人类的决策。在2023年11月联合国大会讨论后，联合国第一委员会（裁军和国际安全）听说，“即使一种算法能够确定国际人道主义法（IHL）下什么是合法的，它也永远无法确定什么是道德的”。在对条款进行11次投票后，委员会批准了一项关于AWS的决议草案。12月22日，联合国以152票赞成、4票反对（白俄罗斯、印度、马里和俄罗斯联邦）通过了第78/241号决议。11票弃权（中国、朝鲜、伊朗、以色列、马达加斯加、尼日尔、沙特阿拉伯、南苏丹、叙利亚、土耳其和阿拉伯联合酋长国）

该决议的通过确认《联合国宪章》、《国际人道主义法》和国际人权法适用于AWS事务

在其他多边讨论中，包括关于《联合国某些常规武器公约》的讨论中，澳大利亚和包括美国、英国和俄罗斯在内的其他10个国家反对先发制人地禁止致命的AWS。29个国家支持这项禁令，而中国则故意保持模棱两可的立场，支持禁止使用而不支持开发。这些立场得到了对AWS维护国际人道主义法歧视、必要性和相称性原则能力的不同信念的支持。这需要一个系统能够区分非战斗人员和战斗人员，在实现军事目标时使用最少的武力，并以权衡特定行动的成本和效益与根据效益比较做出决定的替代方案的方式运作

澳大利亚——与加拿大、日本、韩国、英国和美国一起——支持致命使用自动武器系统，前提是这些系统的设计和开发不是针对平民或在没有有意义的人类干预的情况下部署的。如果澳大利亚及其主要盟友和合作伙伴要向国际社会保证，在冲突中可以充分预见和控制AWS，就必须保证遵守这些规则或限制

正在进行的全球讨论探讨了AWS是否与国际人道主义法根本不兼容，或者在光谱的另一端，如果它们代表了军事用途的“道德义务”。无论立场如何，彻底禁止AWS的前景越来越不现实，因为世界各地的许多军队已经在使用AWS来实现战场目标和战略优势。例如，2020年3月，据称在利比亚内战期间，自主Kargu-2旋转翼攻击无人机被用来“追捕”撤退的哈夫塔尔附属士兵。据报道，最近在乌克兰，无人监督的情况下，自主Saker Scout四旋翼机被用于对俄罗斯军队的有限打击

由于自主能力被定位为AUKUS协议支柱2的核心组成部分，澳大利亚显然需要制定一个专门的框架，指导国防背景下道德人工智能的发展。正如兰德公司最近的一份报告所指出的那样，AUKUS合作伙伴在其人工智能政策中的更大一致性是确保负责任地使用军事人工智能的关键。虽然合作伙伴在各自人工智能战略中概述的道德原则（如注重可靠性、问责制、可解释性和人为控制）上普遍一致，但英国和澳大利亚在更广泛的原则和系统责任指定方面与美国不同。围绕执行这些原则的任何歧义都会使协调更加困难，并可能影响我们实现共同战略目标的能力

澳大利亚有机会在未来AWS能力的开发和部署讨论中发挥主导作用。即将由美国召集的关于负责任地使用军事人工智能和自主性为各国就新规则和规范达成共识提供了一个及时的论坛。国防部作战和国际法局将于2024年4月16日至18日在澳大利亚悉尼主办第二次AWS法律审查专家会议，届时将分享未来的发展情况。上一次专家会议得出结论，提高透明度和信息共享是普及法律审查和在各国之间建立信任的关键，即将举行的会议旨在正式制定一份指导做法清单，以协助各国进行国家AWS法律审查

在努力解决围绕AWS开发和部署的道德问题时，澳大利亚必须首先为人工智能能力制定自己的专门防御政策，而不是依赖为民用人工智能制定的道德原则。这与AUKUS合作伙伴之间的持续讨论相结合，以消除围绕人工智能原则的模糊性，更多地参与多边讨论，并为专家组提供便利，可以确保澳大利亚的人工智能军事能力保持负责任，并根据国际义务行事

澳大利亚可以而且应该继续倡导下一波AWS。随着AWS技术在自主范围内的发展——成为半自主和完全自主——澳大利亚可以通过定期修订和加强治理框架，帮助围绕AWS战争的未来形成一场知情和成熟的辩论。这一点很重要，因为联合国决议的非约束性无助于劝阻威权国家在战争中滥用AWS

为了防范这种明显的可能性，澳大利亚官员必须在多边机构和民间社会中积极合作——哪怕只是为一个不对称的AWS能力可能主导威胁格局的世界制定规则

Samara Paradine是ASPI专业发展中心的协调员，Marcus Schultz是ASP的研究员

本文由澳大利亚战略政策研究所首次发表

简介