随着五角大楼迅速构建和采用人工智能工具，国防部副部长凯瑟琳·希克斯表示，军方领导人越来越担心一个二手问题：人工智能安全

AI安全广义上指的是确保人工智能程序不会导致问题，无论它们是基于损坏或不完整的数据，设计不当，还是被攻击者入侵。

随着公司急于构建、销售和采用机器学习工具，人工智能安全通常被视为一种事后考虑。但希克斯周一在国防一技术峰会上表示，国防部有义务对这一问题给予更多关注。

“当你查看测试评估、验证和验证方法时，我们可以在这些领域了解你是在商业部门还是政府部门，当然，如果你看看国外，在安全方面并没有发生什么变化，”她说。“在这里，我认为国防部可以成为一个领导者。我们在[采用人工智能伦理]原则方面一直处于领先地位，我认为我们可以通过证明我们有一种适合我们的方法来继续在人工智能方面发挥领导作用。”

虽然多家私营公司已经采用了人工智能伦理原则，但国防部在2020年采用的原则更加严格和详细。

尽管Ai安全尚未成为头条新闻，但新机器学习程序和流程的广泛实施为对手提供了丰富的攻击面，创始人兼首席执行官Neil Serebryany表示；AI安全公司CalypsoAI首席执行官。他的公司扫描学术研究论文、黑暗网络和其他来源，以发现对部署的人工智能程序的威胁。其客户包括空军和国土安全部

“在过去五年中，我们发现的新攻击和破坏系统的新方法的数量增加了5000多个百分点，”Serebryany说。其中许多攻击都集中在人工智能算法的大数据源上。“对于一个数据从业者来说，很难知道他们是否被入侵。”

乔治敦安全与新兴技术中心本月发布的一份报告指出，目前，很难验证机器学习是否没有恶意干扰。事实上，我们有充分的理由感到担忧。攻击者可以毒害油井的三种主要资源——机器学习工具、预训练机器学习模型和训练数据集，其方式极其难以检测

国防部正在努力解决人工智能安全问题，因为它急于以新的方式采用工具。希克斯说，在未来三个月内，军方将在其作战司令部派遣几个小组，以确定如何将其数据与国防部其他部门整合，加快人工智能部署，并为美国部队研究“如何将人工智能和数据带到战术边缘”。

“我认为我们必须进行文化变革，我们考虑所有组件的安全性。我们制定了[验证、验证、测试和实验]方法，能够真正确保实现最安全的功能，”她说。

她表示，国防部将不仅仅关注安全问题上的技术人员教育，还将接触“整个部门的每个人”。

>

简介