新技术的出现总是会引发有关其合法性的问题，对于自主技术，包括使用不同程度人工智能（AI）的技术，这一点当然是正确的。随着自主解决方案的开发和应用，各国需要确保其使用符合既定的道德和伦理原则，这些原则通常被载入国内和国际立法。有关任何新技术的基本法律困境是确定现有法律是否能够按照这些原则对其进行监管，如果不能，则需要哪些新的法律文书来实现这一目标。本文将在自主技术的背景下探讨这个问题

自治创新同时受到民事和国家安全（包括军事）需求的驱动。民用商业自主技术主要受国内法律监管，尽管国际法可以而且可能在其治理中发挥一定作用。自主军事技术主要是为武装冲突期间在国际环境中就业而开发的；在这种情况下，国际法是突出的。本文首先讨论了自主民用技术的国际法律监管前景。然后，它转向了在国家安全和国防领域，包括在战场上使用自治权所带来的与国际法有关的某些挑战

《民用法规》

全球立法机构应准备修改其法律，并可能采用新的法律，管理自主技术。一些应用程序，如飞机自动驾驶系统和工业机器人，已经被使用了几十年，尽管在严格控制的环境中，有强大的安全控制。未来，具有不同程度自主性的技术将在许多社会普及。无人驾驶公共交通系统、自动驾驶汽车和医疗诊断中的人工智能算法正引领着这一创新，无数其他用例也将接踵而至。不可避免的是，国内法律将需要一定程度的修订，以确保对此类系统进行适当的监管

目前，这些新技术主要受到行业自律的约束，几家大型公司已就其产品和服务中的自动化使用采取了内部政策（例如，见红十字国际委员会2019，25-26）。各州在当前数字技术方面的经验提供了这方面的宝贵经验；如果让私营部门自行监管，公司和政府之间的摩擦很可能会产生。针对推特（Twitter）和脸书（Facebook）的国家对其处理网络内容（如假新闻和暴力事件直播）的批评，或其算法易受操纵和偏见的影响，都是例证。因此，这些公司呼吁政府通过监管规定预期采取的行动种类并不令人惊讶（Press Association 2019；Rudgard and Cook 2019）

行业自律可以在多大程度上管理更先进的自主技术，使政府、民间社会和公众满意。谷歌本身，已经承认，“在绝大多数情况下，在特定行业监管规定的范围内，自我监管和共同监管方法仍然是解决和预防人工智能相关问题的最有效的实用方法”，但“在某些情况下，附加规则会有益处”“仅仅依靠公司来制定标准是不合适的”（谷歌，n.d.，29；Evans 2020）。因此，政府与私营部门接触并共同努力实现最佳治理制度是明智的，而不是只有在这种新技术的不必要后果开始显现时才进行干预

全球立法机构应准备修改其法律，并可能采用新的法律，管理自主技术

可能会出现监管规则，而不是立法解决方案首先，其他新技术也是如此。例如，在纳米技术领域，一些欧洲国家已通过法规，对制造、进口或分销纳米材料的公司提出报告要求，无论是通过修改现有法律还是通过新法律（这不妨碍通过所谓的授权立法，即授予某个人或实体（如政府部长）通过法规的权力的立法），就民用商业自主解决方案而言，将在很大程度上扮演旁观者的角色。然而，国际社会可能会在某一时刻感到有必要协调各国的国内法律，以确保这些商业技术的国内法律法规跨国界一致。统一的法律机制将是通过一项所谓的统一法律条约，该条约规定文书缔约国有义务就其刑事、民事或行政法律在国内立法。例如，这样的条约可以规定统一的安全标准、责任规则、认证计划、数据管理流程、对技术使用的人的监督要求、要建立的故障安全机制、操作限制、关于偏见的规则以及涉及自主技术的刑事犯罪

按照这些原则进行国际法律监管的最可能起点是欧盟，因为它是唯一具有机构能力的国际组织，一项预先存在的授权，以及通过这种具有深远约束力的规则的政治意愿（事实上，它已经采取了初步步骤，在社区内监管人工智能；见欧盟委员会2020年）。尽管欧盟在形式上只有权对其成员国进行立法，但由此产生的任何法规的影响都将超出该组织的边界。这种情况可能类似于欧盟的《通用数据保护条例》——如果在自动化领域提供产品和服务的外国公司希望在欧盟市场上运营，它们将必须遵守适用的欧盟规则。这为欧洲联盟提供了一个战略机遇，因为它在这一领域具有独特的优势，可以成为先锋，从而形成关于自主技术的适当法律和监管制度的对话

国家安全和国防相关自主技术法规

人们普遍认为，自主，尤其是人工智能，将彻底改变战争。自主性现在和将来使用的背景包括信息处理，特别是情报分析；无人武器系统；现实军事训练；心理战；以及军事指挥和控制。因此，军事自主技术和人工智能领域的霸主地位的大国竞争正在进行，这不足为奇

由于战争是由一个密集的国际法律框架管理的，因此已经存在许多规则来规范在战争中使用自主技术。这些规则构成了一种国际法制度，称为国际人道主义法（IHL），也被称为武装冲突法

关于这些新技术与国际人道主义法之间相互作用的奖学金主要集中于致命自主武器的使用（Schmitt和Thurnher 2013；O'Connell 2014；

Sassòli

2014；Geiss 2015）。在国家一级，在联合国保护伞下召集的一组政府专家确认，“国际人道主义法继续充分适用于所有武器系统，包括致命自主武器系统的潜在开发和使用”（政府专家组，2017年，第16（b）段），这在逻辑上导致了这样的结论，即自主技术的其他军事用途同样受国际法这一子领域的管辖，在国际社会未禁止特定手段或战争方法。目前，尚未禁止任何自动化或自主技术，尽管自“禁止杀手机器人”运动发起以来，各国一直受到政治、学术和民间社会的压力，要求禁止完全自主的致命武器。例如，2018年，欧洲议会通过了一项决议，敦促欧盟委员会、个别成员国和欧洲理事会“努力启动关于禁止致命自主武器系统的具有法律约束力的文书的国际谈判”（2018年欧洲议会，第3段）。在没有此类条约的情况下，现有的国际人道主义法规则对其使用进行管理

撇开致命自主武器系统的问题不谈，显然自主技术将越来越多地用于军事用途。同样清楚的是，将国际人道主义法的预自动化、预自治规则应用于这些技术并非毫无挑战。关于如何适用国际人道主义法规则的许多现有辩论将同样适用于自主系统，例如关于针对民用物体进行非破坏性军事行动的允许性或人道主义法适用的地理边界的问题⁴

建议

AI技术和安全的公共和私人维度

然而，自治特有的问题也必然会出现。例如，国际人道主义法以及国际刑法等国际法相关领域的一个交叉问题涉及问责制。例如，如果自主网络能力意外地对平民造成伤害或对民用物体造成损害，责任问题就随之而来。根据国际人道主义法，各国有责任确保其武器系统的使用符合敌对行为规则。这一义务引出了自动操作的武器系统的问题，甚至可能使用人工智能来选择目标。如果使用系统的武装部队无法评估具有必要可靠性的自主系统可能对平民或民用物体造成的伤害，无论正确的可能性标准是什么，这些武装部队都在战场上滥用武器。这将构成使用自主武器系统的国家违反国际人道主义法<此外，国际刑法对战争罪规定了个人刑事责任，包括以“意图”和“知情”的方式对民用物体进行袭击。“⁶关于刑事法庭如何应用这些概念来涵盖在上述情况下由自治系统造成的民事损害的问题，在任何刑事诉讼中都会显得很重要

自治也被用于战场之外的国家安全目的，无论是善意的还是恶意的。随着恶意使用的暴露，它们往往会敲响法律和道德警钟。政府利用这些技术监视和识别个人的最引人注目的案例是中国政府对维吾尔穆斯林少数民族的持续监控（Taddonio 2019），这为其他威权政府将先进技术用于非法目的开创了先例。商业机会主义加剧了形势的复杂性。Clearview AI是一家面部识别软件公司，它自动从互联网上抓取图像，形成一个包含数十亿个文件的数据库，从而实现面部识别（Hill 2020），这是一个很好的例子，说明如果任由私营部门自我规管，为国家安全和公共秩序目的合法使用他们的服务可能会带来社会危害。这些案例和其他案例表明了自治和自动化的潜在负面影响，包括对人权（如隐私权、新闻自由和集会自由）的侵蚀。他们还强调，面对技术发展，需要更加重视维护和维护法治以及基本道德和伦理价值观

结论

新技术对国内法和国际法提出了规范性挑战，特别是在现有规则的适用性方面。某些特定技术问题不可避免地会出现，需要监管和立法行动。由此产生的规范演变将首先发生在国内环境中，因为国际法的制定是一个相对缓慢的过程，特别是在与国家安全相关的领域

在这个过程中，各州将面临许多挑战。一个根本的困难源于自主解决方案的双重用途性质。因此，国内监管机构和立法机构，以及参与解释和采纳国际法的国家，都需要谨慎行事，一方面确保它们采用的规则和解释立场不会扼杀创新，另一方面保证它们有效防止恶意使用技术。明智的规范框架必须是协作的；因此，各国政府应与行业和民间社会合作，采用符合目的的治理机制，而各国应共同制定促进共同价值观的规则

一个更实际的挑战是，很难监管人们不完全理解的东西。自主技术正处于起步阶段，预测这一领域的科学发展即使在短期内也是困难的，甚至是不可能的。任何新的法律和法规都需要具有足够的通用性，以免很快过时，但也不能过于模糊，以至于无法提供有意义的指导。这项工作的困难不可避免地意味着，在不久的将来，将不会通过任何针对特定领域的总体规则集——既没有关于自主技术的国内法律法案，也没有关于自主的国际条约。相反，我们可能期望管理自主技术相对特定方面的离散规则

简介