知情官员告诉DefenseOne，国防部将很快采用一套详细的规则来管理其如何开发和使用人工智能。

10月，国防创新委员会（DIB）发布了一份规则草案，称为“关于人工智能道德使用的建议”。消息人士表示，国防部的政策将密切关注该草案。五角大楼联合人工智能中心发言人Arlo Abrahamson中校说：“国防部正在最后阶段采用人工智能原则，这些原则将在美国军队中实施。不久将发布一项公告，并提供更多细节。”

建议草案强调人工智能系统的人为控制。文章写道：“人类应该行使适当的判断能力，并对国防部人工智能系统的开发、部署、使用和结果负责。”

DIB指南和随附的实施文档，远远超出了谷歌、Facebook和微软等科技巨头发布的关于人工智能的简短且基本上肤浅的愿景声明。例如，这些建议描述了人工智能开发中的关键危险和陷阱，比如数据集中的偏见，而商业参与者才刚刚开始努力应对。由于国防部现在正在采用这些原则，在将人工智能引入更多活动的过程开始时，希望良好的实践和设计将成为美国军方使用人工智能的规范，而不是事后想到国防部必须改进现有的做事方式。

DIB还建议国防部依赖透明的工具，这意味着，与某些所谓的“黑盒”神经网络不同，技术专家（经许可）可以描述软件做出特定决策或行动的过程。

委员会还建议，此类工具只能在“明确、明确定义的使用范围”内使用，这是一份附录，旨在防止为非战斗活动开发的软件进入致命行动

帮助起草DIB建议的Heather Roff表示：“我很高兴看到[国防部长马克·埃斯珀]采纳了这些原则，并在整个部门实施这些原则，通过人工智能领域负责任的研究和创新确保我们的国家安全。“

其他人工智能和武器领域的伦理学家和学者对国防部采用人工智能的消息表示欢迎，但补充道，还有很多工作要做，人工智能军事应用的风险和担忧依然存在

里士满大学法学院（University of Richmond School of law）专门研究技术与武装冲突的法学教授丽贝卡·克罗托夫（Rebecca Crootof）表示， “我毫不怀疑，努力实现这些原则的过程在国防部内部是有影响力的。在了解人工智能带来的各种风险、研究它们在各种军事场景中的表现方式，以及思考哪些政策可以将其表现或影响降到最低时，参与这一过程的人无疑会内化为什么拥有并坚持这些原则g遵循人工智能的伦理原则至关重要。”但克罗托夫表示，国防部仍需遵循提供的路线图来实际实施这些原则

她还表示，她希望国防部的榜样将有助于建立人工智能军事应用的国际规范。

“虽然DIB原则肯定了国际法的重要性，但仍有一些领域尚不清楚国际法对具有越来越自主能力的人工智能系统或武器系统的要求，”她说

克罗托夫补充道，国防部官员可以通过发布标准或指南，让个人对人工智能武器造成的事故负责，从而使国防部对公众更加负责，并提高军队中人工智能的安全性。她建议国防部公布信息，说明它如何审查具有人工智能功能的武器标准。此外，国防部或白宫可以声明“美国承诺对具有人工智能和自主能力的武器系统引起的事故承担国际国家责任”。国际自主武器管制小组和国际机器人军备控制委员会的成员弗兰克·绍尔称，国防部通过原则是一个良好的步骤，但他表示，在战争中增加自动化可能会产生不稳定的影响。他说：“DIB报告是一份经过深思熟虑的文件。但像我这样的人和整个军控界都非常担心的是，伴随着全自动杀戮链而来的无法控制的升级风险。”军方收集目标信息、派遣武器进行攻击并最终杀死目标的过程。宾夕法尼亚大学（University of Pennsylvania）政治学教授迈克尔·C·霍洛维茨（Michael C.Horowitz）表示，最终影响不仅取决于这些原则实际上如何塑造国防部对人工智能的投资，还取决于更广泛的人工智能社区如何看待国防部的行动。然而，他表示，认真对待人工智能伦理可能会增加更广泛的人工智能社区中的一些怀疑者愿意与国防部合作的可能性，同时也可能提高算法军事应用的可靠性和有效性

相关播客：

简介