人工智能的最新进展有可能以重大和广泛的方式影响我们生活的许多方面。某些类型的机器学习系统——最近人工智能发展的主要焦点——已经无处不在，例如天气预报、社交媒体服务和搜索引擎结果、在线推荐系统。机器学习也被应用于复杂的应用程序，包括执法中的预测性警务和在刑事司法中判刑时为法官提供“建议”。与此同时，越来越多的资源被用于开发其他人工智能应用程序以下专家的观点和随后的博客系列中存在的问题是数据驱动的机器学习算法，这些算法正在出现，或可能出现，作为在武装冲突期间“建议”甚至取代人类执行某些任务和决策的工具

不仅是私人公司和学术界，国家也是推动开发和采用这些技术以推进其目标的一部分。几位专家预测，人工智能技术可能会对敌对行动和保护平民以及武装冲突的其他方面产生不同的深远影响。当各国政府，尤其是军队，试图将人工智能纳入其决策过程和行动中，以加强、加快和转变其决策过程与行动时，人工智能在冲突环境中的使用，特别是对国际人道主义法（IHL）的潜在影响是什么

正是这个问题领导了哈佛法学院国际法与武装冲突项目、红十字会美国和加拿大地区代表团国际委员会和美国海军战争学院斯托克顿国际法中心，2018年12月，在哈佛法学院组织并共同赞助了一场关于国际法前沿武装冲突人工智能的研讨会，组织者召集了一组来自学术界、政府机构、国际组织和非政府组织的人工智能和国际人道主义法专家和从业人员，根据查塔姆宫规则讨论和分析这些问题

我们请一些专家用300字以下的篇幅提炼出一些关键问题和担忧，他们认为，当谈到人工智能和武装冲突的未来时，我们现在还没有充分考虑这些问题和担忧

专家观点

阅读以下内容，获取以下观点的简短摘录：帕特·休斯顿准将，弗吉尼亚州夏洛茨维尔美国陆军法律中心和学校指挥官；泰斯·布里奇曼, 斯坦福大学；尤瓦尔·沙尼, 耶路撒冷希伯来大学国际法教授Hersch Lauterpacht；Suresh Venkatasubramanian, 犹他大学；Naz K.Modirzadeh&；达斯汀·A·刘易斯，哈佛法学院国际法与武装冲突项目；尼尔·戴维森&；Netta Goussac，红十字国际委员会法律司武器股; 和James Kraska、Michael N.Schmitt&；中尉。杰弗里·比尔上校，美国海军战争学院斯托克顿国际法中心.

即将到来的博客系列
在接下来的几周里，我们还将发布这些参与者中的一些人和研讨会中的其他专家的更长的博客文章。即将发布的帖子包括：
Netta Goussac，安全网或纠结网：武器和战争中人工智能的法律审查
达斯汀·刘易斯，武器、人工智能作战手段和方法的法律审查：需要考虑的16个要素
Ashley Deeks，在军事环境中需要明确的预测算法治理框架
Tess Bridgeman，武装冲突拘留中依赖数据的预测系统的可行性>
Suresh Venkatasubramanian，<算法决策与法律之间的结构性脱节
李强和谢丹， 国际人道主义法对人工智能武器的法律监管：中国视角；达斯汀·A·刘易斯
Naz K.Modirzadeh，创始董事；Dustin A.Lewis，哈佛法学院国际法与武装冲突项目高级研究员>
展望人工智能和武装冲突的未来，我们关心关于国际法的知识应该优先考虑（除其他外）深入培养我们自己对快速变化的技术的知识。我们应该使这成为持续的承诺

关于主题专门知识和武装冲突法，存在一个长期存在的问题；考虑网络作战、武器装备和核技术。当涉及到越来越具有影响力和多样性的一套被称为“AI”的技术和技术时，关注的程度和紧迫性不同。这在很大程度上是因为评论员评估人工智能有潜力改变武装冲突，而不仅仅是敌对行动

然而，目前大量的国际人道主义法学者和从业者似乎对人工智能缺乏足够的理解。此外，许多人不知道他们不知道的是什么。这是一个危险的前景。为了更好地把握所谓的战争算法的前景和危险，更不用说寻求通过国际法对其进行有意义的监管，我们必须坦诚面对自己的技术盲点

2018年12月，我们与红十字委员会和斯托克顿中心共同举办了一次研讨会，这次研讨会让我们更加了解情况，更加好奇，更加谦逊。从我们的角度来看，仅仅有一名技术专家参加未来的国际人道主义法活动是不够的（如果真的有）。事实上，作为半天的学生，有力地提醒我们，国际人道主义法的学者和从业者必须愿意学习他们所渴望的知识
Suresh Venkatasubramanian教授
Suresh Venkatasubramanian, 犹他大学教授，研究机器学习在决策中的应用
在会议上，我们讨论了在军事背景下应用刑事司法方法（目标和风险评估工具）。考虑到我们在民用环境中部署这些方法时遇到的无数问题，我对在没有对社会和文化深入了解的情况下将其应用于战区的想法感到有点不安，因为这仍然无法产生公平的风险评估工具

从根本上讲，我感觉到一种根深蒂固的抵制，即不将人工智能视为“我们撒在问题上以解决问题的神奇精灵灰尘”。讨论的大多数人工智能方法实际上都是从数据中训练出来的模型。但对于数据可能来自何处、数据可能存在哪些偏差以及这些偏差如何影响模型的有效性，没有进行真正的讨论

这是一个真正的问题，不能在“极客们会解决问题”的标题下挥之不去。如果说我们对机器学习在社会环境中的部署有什么了解的话，那就是关于数据表示和模型训练的看似无关紧要的选择，以不透明和未经检验的方式，在关于被建模世界的强烈规范性声明中烘托了出来。理解编码的隐含规范和政策的唯一方法是打开黑匣子并进行政策讨论。而且，我们必须准备好认识到，有时，也许，人工智能不是正确的答案

Pat Huston准将
Pat Hu斯顿准将，弗吉尼亚州夏洛茨维尔陆军法律中心和学校指挥官
人工智能无处不在。谷歌搜索、亚马逊和Netflix的推荐，以及Siri和Alexa的回应都利用了人工智能。人工智能在军事应用中也很常见，从卡车的良性“智能维护”到自动武器的使用

将人工智能用于攻击性自主武器需要仔细分析。我提出了三个建议和几个问题，以确保这一不可避免的发展在法律和道德上得以实现：
（1）人类判断：我们必须确保自主武器允许指挥官行使适当水平的人类判断。换言之，人类应该做出关键决定，不能释放自主武器，否则将失去有效控制

（2）责任：武器的使用必须始终遵守国际人道主义法，指挥官必须对其使用的所有武器负责。这些是基本原则

（3）政府与工业界的合作：最优秀和最聪明的人工智能研究人员应坚持军事人工智能使用的法律和道德行为，然后应为此与合规政府合作。如果他们抵制军事项目，这一空白将由能力较差、道德水平较低或两者兼而有之的研究人员填补，这将是灾难的根源。
我将以一些问题结束，特别是那些关注自主武器的人。如果AI增强使自主武器比传统武器更好，会怎么样？如果自主武器更精确，造成的附带损害更少，会怎么样？如果可以，我们是否有法律义务使用它们？我们是否有道德义务去追求它们

本博客中的观点是他自己的，不一定表达美国陆军、国防部或美国政府的观点, 斯坦福大学讲师、斯坦福大学国际安全与合作中心附属机构、纽约大学法学院法律与安全中心高级研究员、前奥巴马总统特别助理和国家安全委员会副法律顾问
随着机器学习和其他形式的人工智能的发展，在武装冲突背景下构建和使用这些工具的人应该注意在能力超过人类能力的情况下使用这些技术的区别，例如快速对大量视觉内容进行基本感知判断，细微的判断将继续需要深入的人类专业知识。
鉴于算法编码偏差的危险以及构建复杂人工智能系统所需的巨大人力、财力和数据资源，我们应该提出两个相关问题。
首先，我们如何将人工智能驱动的工具作为人类决策的一个组成部分，而我们目前面临的障碍是由于人类能力的限制，而这些限制是通过使用人工智能工具可测量和可靠地改善的

第二，考虑到国际人道主义法的目的，我们如何利用人工智能更好地了解复杂的冲突环境，以促进最终以人为中心的决策？例如，人工智能什么时候可以帮助提供一个更完整的画面，描述攻击的预期军事优势或平民或民用物体的预期损害

这些类型的输入可以为最终的人类决策者提供有用的信息，但不会取代律师、攻击策划者或战斗人员在应用国际人道主义法中的角色或责任，Hersch Lauterpacht耶路撒冷希伯来大学法学院国际法教授，以色列民主研究所研究副院长，联合国人权委员会主席，希伯来本科网络安全研究中心网络法项目学术主任
使用AI的责任
围绕在战场上使用人工智能的大部分讨论都围绕着引入能够参与复杂决策过程而无需有意义的人为控制的系统的合法性展开。缺乏人类的判断力和同情心可能会使基于人工智能的战争手段和方法受到人道主义利益的保护，不那么人道。因此，在人工智能技术发展的当前阶段，他们无法在战场上担任完全自主的决策者（例如，见2018年人权委员会，第36号一般性意见，第65段）。尽管如此，就其在短时间内处理大量数据的能力而言，人工智能系统变得越来越先进，什么构成有意义的人类控制的问题变得更加困难，并且存在这样的控制将逐渐变成仅控制形式的风险。
此外，关于使用人工智能进行战场决策（和非战场决策）的任何规范性立场，最终都应以关于人类和机器决策者的比较优势和劣势的经验科学数据为依据。如果在未来的某个时间点，后一个决策者系统地比人类更不容易出错（例如，误报更少），也不太可能有偏见（例如，受到恐惧或仇恨的影响），那么作为最低限度，军队将需要在决策中使用人工智能，以减少对平民或民用物体的伤害（由于错误识别战斗人员或可能的附带损害）。未使用此类技术可被视为未应用合理的预防措施。
这并不意味着人类决策者是多余的。与其他“双重锁定”系统一样，即使是信息较少（但可能更富有同情心和上下文敏感）的人类决策者也应该保持在循环中，能够干预并发布“任务中止”命令，以纠正他或她认为的人工智能错误。然而，这种方法并没有从另一个方向切入：如果更知情的人工智能将目标识别为平民或指出平民受到过度伤害，那么不知情的人类决策者不应推翻人工智能不攻击的决定。
总之，在机器和人类的数据收集和分析能力之间存在巨大差距的情况下，人类控制不可避免地没有那么大意义。而且，这种差距很可能最终将人类从某些战场环境中的主要决策者推到人工智能决策权的制衡者；Netta Goussac公司
Neil Davison，科学和政策顾问；Netta Goussac, 红十字国际委员会法律司武器股法律顾问武器股
决策
人工智能和机器学习在武装冲突中最重要的影响将是决策；数字系统，处理数据并为人类提供分析、预测或建议；人工智能发起的网络攻击；或者是一个制造“假”信息的机器学习系统，最重要的问题是人类在做出决策时对机器的依赖。
在武装冲突中，这些决定中的许多将是“安全关键”的，这意味着该决定可能导致死亡或重伤、财产损坏或毁坏，或者可能限制个人自由。保持人类在这些决定中的基本作用和对这些决定的控制对于避免对平民和战斗人员造成不可预测的后果至关重要。事实上，人类参与决策是必要的，以确保遵守关于战争中人类行为的国际人道主义规则，并在冲突中保持一定程度的人性。
这意味着调整技术和约束它们的规则，以适应人类，而不是相反。需要采取保障措施，让“循环”中的人履行其法律和道德决策责任。如果这意味着放慢速度，让人类能够有意义地发挥自己的作用，那就顺其自然吧。使用人工智能阻止人类履行职责的替代方法不会有好结果。
詹姆斯·克拉斯卡教授、迈克尔·N·施密特教授；Jeffrey Biller中校，Charles H.Stockton国际海事法教授，Michael N.Schmitt，Howard S.Levie法律与武装冲突教授。杰弗里·比尔上校，美国海军战争学院斯托克顿国际法中心军事教授
关于人工智能（AI）军事用途的法律研究往往侧重于与自主瞄准相关的困难问题。尽管将人类与决策过程分离的法律和伦理担忧是合理的，但它们并不能反映利用AI的技术的更直接现实。这些技术使用AI来帮助人类决策过程，尽管人工智能的这些使用没有受到与其目标对等方相同的审查，但仍存在重大的法律和政策问题。
在哈佛法学院最近的人工智能研讨会上，讨论了人工智能在拘留决定中的应用。这些技术目前存在，并用于协助法官作出判刑决定等目的，在军事拘留行动中可能有用。例如，如果人工智能技术能够帮助伊拉克2007年的联军，他们处理的26000多名被拘留者可能会以更少的人力资源和更少的错误得到更高效的处理。如果人工智能可以被用来立即解雇大量没有有效拘留理由的人，可用的人力可以集中在可能需要继续拘留的少数更困难的案件上。
然而，可能存在一些问题。正如人工智能专家在研讨会期间所述决策的好坏取决于算法建议所依据的数据。如果有偏见的数据最初被输入到系统中，它不仅会被印在未来的建议中，而且会随着这些有偏见的建议被反馈到系统中而扩大范围

这一领域的更多法律研究和政策讨论将有助于确保在军事行动中首次使用人工智能的方式符合国际人道主义法的总体目标

本博客中的观点是他们自己的，不一定表达美国海军战争学院、国防部或美国政府的观点
研讨会参与者以前的帖子
Merel Ekelhof，《自主武器：有意义的人类控制的操作》，2018年8月15日
Eric Talbot Jensen，《国际人道主义法的人性》，2018月23日
另见
红十字国际委员会，《武装冲突中的人工智能和机器学习：以人为本的方法》，2019年6月6日；政策博客不得被解释为以任何方式定位红十字国际委员会，博客的内容也不等于正式的政策或理论，除非特别指出
>

简介