2017年10月16日，墨西哥常驻联合国代表团与国际机器人武器控制委员会、人权观察、，Seguridad Humana en Latinoamérica y el Caribe和制止杀人机器人运动主办了一场题为“禁止完全自主武器的途径”的小组讨论会，作为第72届大会第一委员会会外活动系列的一部分。墨西哥常驻联合国副代表胡安·桑多瓦尔·门迪奥利亚大使在介绍讨论时指出，墨西哥已与其他国家一道呼吁禁止致命自主武器系统，也称为完全自主武器。门迪奥利亚大使提到了对2030年可持续发展议程的可能影响，强调了继续研究和教育这些武器系统及其可能的危险的重要性高度=225尺寸=（最大宽度：300px）100vw，300px
女士。制止杀手机器人运动的全球协调员、该小组的主持人玛丽·沃勒姆（Mary Wareham）将自主武器描述为一种选择目标并使用武力的系统，而无需进行有意义的人类控制。她表示，会外活动将考虑禁止致命自主武器系统的理由，以及缔结一项新的国际条约禁止这些系统的途径。来自国际机器人武器控制委员会的诺埃尔·沙基教授继续讨论了这类系统中的技术。他提到了制定自主武器精确定义的困难，并指出美国国防部提到需要对这些系统进行“适当的人类判断”。沙基教授敦促国际社会进一步讨论对完全自主武器的控制。各国将这些武器视为维护主导地位的一种方式，因此，如果采用不同算法的系统相遇，结果将是不确定的。沙基教授认为，这是不鼓励使用此类系统的充分理由
他补充道，自20世纪80年代以来，大规模的人工智能（AI）竞赛一直在进行，最近计算速度的提高促进了解释“大数据”的技术，如统计模式识别。有了这些新的人工智能能力，许多系统都产生了偏见，主要是关于性别和种族的偏见。在预测性警务、抵押贷款和就业申请等领域，可以亲眼目睹这些系统的偏见。谈到未来的战争，沙基教授提出了一个问题，“我们如何区分平民和叛乱分子？”他说，这些机器与人类的推理方式不同，人类开始在战场上使用它们是不明智的
高度=300尺寸=（最大宽度：225px）100vw，225px 女士。人权观察组织武器司高级研究员邦妮·多尔蒂（Bonnie Docherty）指出，需要将讨论重点放在完全自主的武器上。一些州认为，如果没有明确的定义，对潜在禁令的讨论就无法取得进展。根据多尔蒂女士的说法，完全自主的武器可以独立攻击目标。她说，这些武器是人类“脱离圈子”的武器，并指出目前的武装无人机不符合这一定义。她主张反对这种完全自主，指出人类不仅应该在设计阶段，而且应该在武器可能使用武力的特定时刻进行控制。她补充说，一些国家和主要专家预见到可能与国际人道主义法发生冲突，包括如果自动机器在未能识别不适当目标的行为或面部迹象后造成死亡。这种情况将产生一个问责问题。部署完全自主武器的人会被认为对他们的行为负责吗？最后，她注意到这些机器在道德上对人类尊严做出生死决定的担忧。Docherty女士在结束发言时重申，需要集中讨论这一技术，因为这些武器系统应该先发制人被禁止。
先生。卡米洛·塞尔纳（Camilo Serna）是拉丁美洲和加勒比地区人类协会（Seguridad Humana en Latinoamérica y el Caribe）的成员，她总结了过去几年在制止杀人机器人方面取得的进展，结束了小组讨论。他向小组成员提出了一些问题，包括“有哪些技术有助于完全自主的武器系统？”“自主系统是最好的机器人还是机器？”还有，“国际社会会决定电脑是否可以成为武器吗？”塞尔纳指出，五年来，如果没有法律明确的正确定义，很难解决这个问题
这场会外活动探讨了关于完全自主武器的技术、法律、道德、操作和其他方面的一些问题，并解释了为什么需要一项国际禁止条约，以及需要什么才能实现这一目标

Gillian Linden的文字和照片

简介