简介

伦理研究人员的普遍共识强调，随着基于人工智能（AI）的技术影响着我们日常生活的许多方面，技术开发中需要采取的必要步骤应包括风险评估和保障原则的实施（Floridi等人，2018；Taebi等人，2019）。人工智能是一种具有多种应用的通用技术（Agrawal等人，2018），被认为是新兴安全相关技术的驱动因素（Favaro，2021）。此外，中国和美国已经加入了“全球人工智能军备竞赛”（Pecotic，2019），这表明他们准备利用人工智能实现军事优势。自主武器系统扩散的前景不仅说服了中国和美国，也促使其他国家重新评估其军事优势（Riebe等人，2020）。这些创新通常由私营部门开发，越来越渗透到社会领域，并具有很高的两用潜力（Meunier&；Bellais，2019）。

准确评估两用新兴技术的风险具有挑战性。这项技术可能会以前所未有的方式发展，可能会被敌对行为体使用或意外造成伤害。因此，了解创新的扩散是制定量身定制的风险评估、治理措施以及针对新兴技术的意外和意外结果的干预机会的决定性因素（Tucker，2012；Winfield&；Jirotka，2018）。关于人工智能，与国防部门的参与者相比，民间参与者似乎更多地参与商业最终用途的研发（R&；D）。这表明，技术扩散的方向和中心可能已经发生了变化，国防公司更积极地利用商业创新（Acosta等人，2019；Reppy，2006；Shields，2018）。探讨人工智能在欧洲民用和国防工业中的扩散及其对负责任研发的影响；D、我们提出了以下问题：人工智能扩散在欧盟发生的程度如何，它遵循什么模式

我们根据经验将人工智能视为一种两用技术，并在最近的研发中捕捉到预期可信度的迹象；D也一样。我们不仅研究了AI扩散的程度，这可能已经意味着（ir）负责任的R&；D、而且还包括在民用和军事领域传播的规范，以及人工智能研发的规范模式；D可以由特定于应用领域的价值观来表示（例如，军事应用的稳健性与民用应用的可解释性）。

军事和民用领域之间的扩散意味着道德指南，如欧盟的值得信赖的人工智能应考虑军事和民用人工智能的价值观。基于AI（G06N）专利的武器专利数量是衡量领域间扩散以及公司间知识转移的指标。责任研发；D的特点是对技术发展的意识，以及对意外发展的识别和监管。我们的混合方法方法结合了专利引文网络分析和定性内容分析。人工智能扩散的定量分析基于欧盟成员国的专利，因此通常研究这些专利以实现创新和知识转移（Lupu等人，2011）。定性内容分析捕捉了转化为军事和民用人工智能应用的特定价值，重点关注德国一家致力于两用研究的研究机构的项目（Fraunhofer IOSB，2020）。在介绍了相关工作以及我们的方法方法之后，我们继续概述我们的发现。随后讨论了两用评估，并参考了代表负责任研发方法的值得信赖的人工智能；AI的D，然后是结论。

相关工作和理论背景

负责研发；两用技术的发展

商业两用技术已作为安全事项和风险评估问题进行了讨论（Harris，2016；Tucker，2012）。研究考察了国防创新对民用和商用终端的影响，如互联网的发明（Mowery&；Simcoe，2002）。通过强调不影响军事行为体而是影响平民行为体的高风险场景，两用技术的概念最近已转向基于其社会“有益”或“有害”（Brundage等人，2018；Oltmann，2015）或“有益”和“恶意”目的（Floridi等人，2018）的框架。最近的理解主要集中在这些目的和（非国家与国家）行为者。因此，Forge（2010）只关注物品的特性，区分了特制武器或简易武器。这些考虑引发了关于双重用途以及如何评估新兴技术风险的规范性辩论，而研究人员和开发人员缺乏关于技术未来使用和部署的知识（Grunwald，2020）。我们捕获AI R&；D考虑了这些不同的理解，并旨在为对关注的两用研究进行负责任的评估奠定基础（Evans，2014；Riebe&；Reuter，2019）

欧洲人工智能发明专利网络主要考虑此类发明是否属于武器专利分类（F41、F42）。然而，由于这一分类没有考虑到此类发明可能被开发的背景，我们特别考虑了行为体在国防工业中的经济活动，以确定民用或军用。在对研究机构的知识生产进行定性分析时，我们也遵循这一更广泛的观点，即双重用途技术（由各自的行为体）出于国防和民用原因而应用。因此，我们寻找值得信赖的人工智能的价值，这些价值在军事和民用应用中可能明显，也可能不明显，从而将两用技术的评估与最近的一般道德要求相结合。在研发过程早期确定军民两用的技术特性；D是技术评估（TA）迭代过程的一部分，以进一步制定措施并平衡“风险和收益”（Tucker，2012）

EU值得信赖的人工智能原则

信任和可信度之前已经讨论过，重点是自主和人工智能之间的相互作用（Taddeo，2010；Wagner&；Arkin，2011）。诚信被理解为“委托人要求的保证，即受托人将在没有任何监督的情况下按预期行事”（Taddeo，2010）。此外，信托的定义如下：

如果委托人选择通过受托人的行为来实现其目标，并且如果委托人认为受托人是可信赖的代理人，那么这种关系具有对委托人有利的性质。这种财产[…]被称为信托（Taddeo，2010）

关于人工智能保护系统免受网络攻击的潜力，Taddeo等人（2019）认为，由于存在漏洞，信任是不必要的，而对人工智能的依赖表明“对特定任务执行的某种形式的控制”。Tavani（2018）强调，关系方法更关注技术对人类的外观，而不是其属性，可以考虑定义信任的多样和分散的关系。人们可能会忘记，他们正在处理人工智能（Taddeo，2017），这只会在“发生（严重）错误时”被记住。在这方面，人们提出了一个问题，包括军用无人机在内的人工智能是否应该模仿人类的共情或内疚感等特征（Arkin等人，2012）。Grodzinsky等人（2011）批评了模仿人类和人类行为的研究，因为准确识别代理人可能会决定信任。他们进一步强调，人工制剂的自我修饰对公共安全构成了高风险。因此，对委托人来说，在与模仿众所周知的人类行为的人工智能交互中失去人类控制可能带来更多的风险而不是优势

公众信任可以通过建立道德规范、负责任的做法和程序来实现，以确保技术的道德治理（Winfield&；Jirotka，2018）。Nissenbaum（2001）通过引用Luhmann（1979）对信任作为“降低复杂性的机制”的理解，认为信任对于技术的接受至关重要。因此，Nissenbaum（2001）认为，信任允许“创造性的、政治性的、不寻常的、可能亵渎的、危险的模式和活动”在安全松散的网络空间中蓬勃发展。因此，她强调了信任的生产性，这允许在各个应用领域采用人工智能（同上）。虽然信任可以促进程序，但制定要求的实质性指南（如值得信赖的AI）并不能简化人类参与。相反，它们可能表明监管（和证券化）努力首先允许建立信任

尽管值得信赖的人工智能是欧盟在这方面最重要的文件之一，但机构指南概述与常用词汇和最近指南的方向相呼应。Roberts等人（2021）调查2017年“新一代人工智能发展计划”，并强调可能影响中国人工智能战略的社会政治条件。尽管中国是一个重要的行动者，但起初中国很少参与人工智能的伦理辩论，但现在正在宣传人工智能研发的共同价值观；D、例如人类福祉、公平和透明度（Roberts等人，2021）。与人工智能创新的其他相关参与者类似，它已经开始提出关于人工智能研发的伦理问题；D、 Thiebes等人（2020）比较了当前可信人工智能的方法，强调了稳健性、合法性以及各种原则（例如，慈善）等要求，这些原则概括了人工智能不同伦理框架的核心价值（Hagendorff，2020；Thiebe等人，2020）。我们的工作通过将人工智能视为一种两用技术，将其视为传播人工智能的视角，该技术应符合规范性（尽管定义不同）的可信标准。

《可信人工智能伦理指南》（欧盟委员会，2019年）于2019年发布，包括法律、伦理和技术支柱。虽然专家组强调了三大支柱的重要性，但该指南本身主要关注第二和第三方面（欧盟委员会，2019年）。确定的价值（见表1“附录”）可反映在制度和技术层面（欧盟委员会，2019年）。作为规范，该文件还为开发商和最终用户提供了一套TA标准（欧盟委员会，2019）。在我们的研究中，我们包括了最相关的价值观，并按主题对其中的一些价值观进行了总结。为了进行分析，我们采用了价值敏感设计（VSD）方法，该方法对从人类技术交互中获得价值感兴趣（Cummings，2006）。欧盟指南偏离了对双重用途的传统理解，强调了有益和恶意使用的区别（欧盟委员会，2019），参考了Brundage等人的一份出版物。（2018）。这与最近的R&；欧盟的D政策，旨在实现民用和军事知识生产和应用之间的协同作用（Edler&；James，2015；欧盟委员会，2015；Uttley，2019）。

人工智能的知识扩散

为了捕捉人工智能的发展，政治行为体根据不同的衡量标准进行了分析。这包括对专利和科学文献的引用和关键词的关注，以及对开源软件的分析。深入了解R&；D已成为资助AI创新的政府的关键（Baruffaldi等人，2020）。专利数据是应用知识或技术创新的指标（Lupu等人，2011；Meunier&；Bellais，2019），因为专利证明了发明的知识产权，而引文网络表明了有目的的、编码的知识的传播（Liu等人，2019；Pereira&，Quoniam，2017）。还应注意的是，人工智能是一个有争议的术语，描述了不同的技术（Cady，2017；Goodfellow等人，2016；Klinger等人，2018）。

我们对人工智能在欧盟民用和国防领域的扩散感兴趣，我们的工作受到了大量专利分析的启发，因此，作为第一步，我们采用了相对经典的创新研究方法。Zambetti等人（2018）进行了一项专利网络分析，重点关注机器学习（ML）和人工智能相关技术，以检查相关行业参与者。他们展示了与ML相关的技术是如何主要由软件公司推动的，但也传播到其他行业。这导致了第四次工业革命，因为公司可以投资于利用其数据和分析能力（同上）。然而，这些贡献并不区分国防工业和民用工业，而忽略或不完全考虑人工智能扩散的伦理问题。

其他对国防经济学或军备控制感兴趣的专利分析特别关注战争技术，如无人机、弹药或雷达技术，并研究了扩散的程度或检验了对国防研发影响的解释性假设；D资助（Acosta等人，2011、2013、2017、2019；Meunier&；Bellais，2019；Schmid，2017）。我们对人工智能扩散的研究与现有的两用技术研究相结合，包括专利分析。然而，由于还需要考虑知识转移的其他领域，我们参考欧盟指南值得信赖的人工智能，对这种方法进行了知识扩散的定性分析是计算机实现的发明的一部分（Okakita，2019），因此属于可申请专利的主题，可以通过其“技术特性”与发现、科学理论、数学方法和“心理过程”区分开来。这意味着“进一步的技术效果”，超越了程序（软件）和计算机（硬件）之间的“正常”“物理”交互”（欧洲专利局，2021b；Okakita，2019）。这种理解在专利局中很普遍，如欧洲专利组织（EPO）和美国专利商标局（USTPO）（Okakita，2019）。此外，发明必须新颖且适用于特定工业领域（WIPO，2019）。这包括，例如，“在心脏监测设备中使用神经网络以识别不规则心跳”或新的分类系统（Okakita，2019）。专利资格标准也可能因人工智能的兴起而改变，以及需要对其进行专利监管。2018年，欧洲专利局发布了一项关于人工智能和人工智能的新指南，该指南受到批评，因为它没有像加密等其他高度抽象的领域那样承认人工智能和机器智能（欧洲专利局，2021a；Korenberg&；Hamer，2018）。在军事应用的背景下，由于其保密性质，创新可能并不总是作为专利公布，而经济劣势也可能占上风（Schmid，2017；Urquhart&；Sullivan，2020）

在我们的研究设计中，我们遵循了现有的研究，这些研究关注人工智能的专利性和创造性（Okakita，2019）。因此，我们关注“基于特殊计算模型的系统”的CPC类G06N^脚注2，以“人工生命”或“基于生物模型的计算机系统”（CPC，2019）等子类为基础，并以先前的工作为基础，该工作在无人机（UAV）创新溢出调查中更广泛地关注G06专利（Kim等人，2016）。这里，专利信息，包括发布日期、国家、前后引用、申请人和主题分类，为跨国知识扩散的定量调查提供了基础。专利分析还包括对公司网络的探索。它专注于德国专利，德国是人工智能和武器的重要市场，这体现在德国在欧洲样本中所占的很大份额上。因此，我们将重点放在欧盟人口最多、经济最强的国家。虽然欧盟是一个重要的规范制定者，但德国作为一个平民大国在欧盟中扮演着重要角色（Cath，2018；Koenig，2020）

研究机构：知识扩散的竞技场
由于我们的定量分析的重点在于德国的公司网络和德国专利，并且考虑到扩散也可能在没有发明专利的情况下发生，我们的定性分析侧重于德国弗劳恩霍夫光电、系统技术和图像开发研究所IOSB研究项目中人工智能扩散的规范模式。该研究所隶属于著名的弗劳恩霍夫研究所集团，是德国军事应用研究的主要科学参与者之一（弗劳恩霍夫IOSB，2020；德国联邦国防部，2017）。Fraunhofer IOSB包括民用和军用业务部门（Fraunhoffer IOSB，2020），其中产生了人工智能应用的相关知识。为本分析选择的文本文件意味着弗劳恩霍夫IOSB、德国国防部和武装部队之间的组织间知识转移。它们反映了特定军事人工智能应用的知识，与军事行为体密切合作生产，有时在组织内转移（Fraunhofer IOSB，2018）。这允许对人工智能的民用和军事应用项目进行比较

数据收集
为了进行分析的统计部分，我们从欧盟专利数据库Espacnet检索了数据。对扩散的最新发展感兴趣，我们从2008年1月1日至2018年6月1日将搜索范围限制在专利上。我们根据欧盟成员国的所有国家代码和AI（G06N）以及弹药和武器（F41、F42）的专利分类收集了数据。这导致一组数据泄露了5365项专利，武器相关专利代表军事专利，人工智能专利构成民用发明。然后将样本减少到引用其他专利的专利，将样本减少至724个专利，共引用2438个专利（见图1）。分析的第二步侧重于AI扩散的具体类型，并允许深入研究R&；人工智能应用程序的开发。我们选择了13份文件，所有这些文件都可以通过弗劳恩霍夫IOSB主页在线免费访问。不同类型文件的语料库反映了军事和民用应用，以及不同的概念和技术细节水平，从带有项目描述的网页、传单到所有业务领域的科学出版物（见表2“附录”）。它们允许对R&；人工智能应用程序的D。
图。1
混合方法研究设计，数据和观察
全尺寸图像
数据分析
对于数据分析，我们选择了混合方法方法（见图1）。这两步分析可以揭示AI扩散的各个部分，包括其所遵循的模式。我们在Microsoft Excel中进行了描述性统计。此外，我们在RStudio中构建了两个网络，这两个网络都基于我们的数据集，一个关注专利分类之间的联系，另一个关注德国专利申请人之间的联系。我们的工作遵循专利网络分析的逻辑，其中相关实体形成由专利引用连接的节点。对于定性分析，我们进行了内容分析（Flick，2014；Gray等人，2007），并依赖于RQDA（Ronggui，2019）。代码类别和（子）代码是受欧盟制定的值得信赖的AI和相关学术著作的启发，以及基于弗劳恩霍夫IOSB的经验材料而开发的。通过文本挖掘检查单词的频率（参见补充材料图A，表A）。虽然我们工作的这一定性部分并不构成一项代表性研究，只是具体参考了一些文件，我们使用所有选定的文件对结果进行量化。

分析

定量分析：专利引用网络
我们对专利信息的研究包括基于武器和人工智能专利组的专利引用网络分析，以及随后的重点德国专利和相关公司之间的关系。
基于专利类别的欧洲网络
我们假设CPC类别^脚注3构成节点，而边缘由专利引用确定。我们的数据集包含2438个专利引用，其中24个来源不明。人工智能专利引用了524项专利，武器专利引用了1890项专利。大多数专利涉及同一CPC类别的专利（参见补充材料图B）。由于我们对代表武器弹药（F41、F42）和特殊计算系统（G06N）领域知识转移的联系特别感兴趣，我们注意到没有此类转移代表性专利引用。然而，在人工智能专利中，14.6%的专利引用了其他G06N专利，构成了相对最大的群体。从武器专利来看，引用与其他武器弹药技术的联系经常存在。例如，引用其他F42B专利的F42B在武器专利及其引用中所占份额最大（23.6%）；D如欧盟指南值得信赖的人工智能所示，我们的结果并没有指向通过其技术在民用和国防行动者之间进行频繁和广泛的知识转让的方向。因此，我们无法找到证据支持人工智能等新兴技术主要用于民用目的，随后用于军事目的的假设（Verbruggen，2019）。专注于德国专利可以深入研究代表国家网络内知识转移的公司联系。
德国公司网络
仔细研究德国专利，国防和民用工业之间的知识转移可以不仅仅依靠CPC系统。我们假设作为专利申请人的公司是发明的推动者。因此，我们重新配置了一个基于公司作为节点的网络，而一家公司通过引用各自申请人的至少一项专利与另一家公司链接。为了精确起见，我们重点关注德国专利及其引用的专利，这些专利来自样本中不止一次出现的公司

一种不太受分类指导的操作化方法假设，尽管没有正式考虑提交专利申请，但某些公司可能仍在国防工业中非常活跃。根据斯德哥尔摩国际和平研究所（SIPRI）的前100名军售公司名单，这些公司可以被归类为国防工业部门的一部分（Acosta等人，2017；Fleurant等人，2017）。尽管许多公司主要活跃于航空和航天等其他工业领域，但其收入超过8.4亿美元。每年在国防部门，这些公司可以专门从事研发；因此在这方面与其他参与者竞争（Riebe等人，2021）。如果其他公司的军售份额占总销售额的50%以上，则被贴上军事公司的标签。如果没有数据可用，则应用定性分析来确定大部分生产的^脚注4货物的业务领域是否属于国防工业。这允许以网络的形式重新说明德国公司的关系（参见补充材料图C）

对专利引用的分析表明，民用和军用公司之间几乎没有扩散。大多数人工智能专利都是基于民用实体之间的相互作用，国防公司中只有一个引用对（空客引用洛克希德·马丁公司）。此外，还有三个与民间行为者的专利对引用了国防公司的专利。另外72对引用和引用的武器专利来自通常为民用市场生产的公司（见图2，“附录”）。国防行动者的普遍性在大量武器专利中表现得很明显。最积极的申请者依靠同类型的演员，或者主要依靠自己。例如，莱茵金属公司引用了231项自己的专利（见图3，“附录”）。值得信赖的人工智能的概念通常强调了企业道德要求的重要性和潜在的意外后果（欧盟委员会，2019）。然而，它忽视了工业与民用国防部门的联系或公司的两用活动的相关性。此外，我们还阐明了需要在民用和国防领域传播人工智能的研究项目。与定量方法相比，定性方法使我们能够更具体地了解人工智能扩散的过程，说明哪些值得信赖的价值观被纳入到技术中，并在人类与人工智能的互动中得到体现

定性分析
军事人工智能应用的可信度
在考虑军事目的时，鲁棒性、准确性和信息质量似乎是支持可信人工智能的明显价值。这并不意味着当涉及到民用人工智能应用时，这些规范完全不存在。相反，我们的分析表明，它们在军事环境中相对更普遍（见补充材料表A）。因此，作为一个值，鲁棒性在军事（D11）应用中相对更为重要，包括弹性作为一个重要标准（D10）。此外，精度在军事应用中尤其重要，包括不精确性问题的透明度：
尽管建筑物重建的RMS[均方根；作者注]误差[…]表明我们的方法提供了合理的几何精度（如果视差精度约为一个图像像素，则高度误差与单点的高度误差相同），但建筑物检测的结果不太精确 （D12.；自有企业）
同样，欧盟指南强调了稳健性和准确性的技术价值的重要性。这些关系到安全和安保，这在战争场景中至关重要。军事人工智能应用程序可能支持值得信赖的人工智能标准，在更关键的情况下，特别注意鲁棒性和准确性（欧盟委员会，2019）。这反映了欧盟准则（欧盟委员会，2019年）提出的确保安全的潜力，同时也表明了该技术在一般人类和环境福祉方面可能存在的规范模糊性 信息质量对于军事（D1）应用也相对更重要。鉴于军事行动的重大风险，由于信息质量低而导致的错误可能会对人们产生更大的影响，例如，将民用基础设施误认为军事基地，或将平民误认为战斗人员。
民用人工智能应用程序的可信度
同时，民用项目对意识的兴趣相对更强，这表明了捕捉所有复杂环境的重要性。例如，SPARC，一个关于城市交通中自动驾驶的项目，在移动和引导周围物体的背景下，很大程度上依赖于方向，选择“整体表示”（D3），同时训练数据侧重于“事件[…]和[…]独特情况”（D13）。无论是在空间、时间还是速度方面，都强烈提到了环境信息。这令人惊讶，因为态势感知不仅受到欧盟的重视（欧盟委员会，2019年），而且在军事环境中表现得最为明显

总体而言，民用应用强调可解释性的相关性，被称为“保留了变分轨迹优化方法的许多优点，尤其是表现力”（D11；自身强调）。其他人强调，“人类理解推理过程的能力对所提出的案例研究至关重要”（D13）。这突出了可解释性作为一个规范概念的矛盾性。虽然可以将其定义为解释能力，但可解释性，即提供解释（理由）的能力，通常与可解释性概念相关，《值得信赖的人工智能指南》（欧盟委员会，2019年）也是如此。如果对更广泛、更多样化的最终用户群体给予特别关注，对民用应用的这一要求可能是合理的。考虑到城市自动驾驶项目（D11）最强调可解释性（或表达性），这一点尤为明显

应该注意的是，安全性和安全性也都是关于军事应用的定性推导，表明了以人为中心的方法，尽管用的术语不同。人的尊严，意味着以人为中心的方法，代表了值得信赖的人工智能的核心价值之一（欧盟委员会，2019年）。此类声明在民事申请中更为常见；因为他们应用的人工智能应用程序侧重于人类推理、手势或人体（见补充材料表A）。因此，军事应用反映出对社会或亲密环境的精确分析的兴趣较少。然而，强烈关注人们的运动或行为并不一定意味着在人类尊严或个人权利方面实施以人为中心的人工智能

在民用和军事应用中的价值扩散
无论应用领域如何，科学出版物的作者对程序问题都是透明的。相比之下，人工智能在项目或产品传单的在线演示中被描绘得相对完美。这可能是由于学术辩论的性质，支持诸如（问题的）透明度等价值观。在较短、更容易获取的在线投稿中，问题问题没有变得透明，而这些文件中更直接地提到了经济效益。欧洲专家组的指南建议向更广泛的受众呈现复杂、不便的事实，并允许独立于个人背景的可理解性（欧盟委员会，2019）。此外，人工智能与动物行为之间的形象关联变得明显。人工智能项目面向自然界中的现象，例如开发无人机“蜂群”或在“蚁群”中进行处理（D10）。人工智能也是为了模仿人类的本质而设计的。这反映在关于人工智能自身及其能力的概念中（见补充材料表A） 值得信赖的人工智能指的是设计价值等方法，意味着一定程度的技术代理（欧盟委员会，2019）。然而，弗劳恩霍夫项目并没有反映出这种互动方式或非人类机构的意识。虽然项目表明人工智能和仿生模型的拟人化，但它们不能保证基于环境意识的可信度

讨论

两用评估的含义
专利引用网络分析未表明人工智能直接扩散到武器弹药专利中（F41、F42）。这与假设相矛盾，即人工智能由于其创新性和无形性，相对容易从民用行业扩散到军事行业（Acosta等人，2019；Gill，2019年；Reppy，2006年；Shields，2018年）。虽然武器的发明主要依赖于同一领域的其他专利，但它们也受益于过去的然而，大多数引用和交叉引用都属于同一专利类别

正如在接受莱茵美茵专利和品牌中心采访时指出的那样，总是有分类专利的选择（2019年，个人通信）。纵观专利网络，人工智能在国防和民用领域的扩散很低，只能在单个组织内观察到。基于此，TA旨在为负责任的R&；D、应将重点放在企业和研究机构之间的其他知识转移领域，而不是专利制度。一般来说，通过公布专利进行监管可能会产生信任。虽然我们不认同不受监管的信任关系与高度受监管的关系的二分法观点（Nissenbaum，2001），但我们遵循信任允许“风险”行为模式的理念。为了建立基于信任的关系，首先可能需要监管努力，如TA，专注于研究基础知识的传播。在这种背景下，欧洲的情况非常有趣，因为欧盟试图激励国防和民用工业之间的协同作用，以提高国防和安全部门的竞争力（Edler&；James，2015；欧盟委员会，2013；Uttley，2019）。与此同时，欧盟促进了研究，以监测两用创新的扩散，了解网络和技术发展<脚注5关注的两用研究为个体研究人员和组织提供了风险评估方法（Evans，2014；Tucker，2012），如提高意识、定义规范和支持公众对技术相关风险和社会技术系统未来可能发展的讨论（Grunwald，2020）。Coeckelbergh（2020）通过讨论关系框架，使人工智能专家负责风险沟通，进一步发展了分布式责任的讨论。Winfield和Jirotka（2018）展示了人工智能和机器人公司的道德治理框架，其中监管机构、监管机构和验证网络共同建立公众信任。然而，关于有效但灵活的规章和规范的讨论仍在进行。在下文中，我们考虑了值得信赖的人工智能对两用研究的影响

对值得信赖的人工智能的影响
关于人工智能的科学出版物的平行增加（WIPO，2019）使得人们更加关注通过应用研究中的知识转移进行的创新扩散。在这方面，反映负责任R&；D、也就是说，值得信赖的AI可以根据特定的应用领域来识别，也可以通过技术来传播。尽管区分人工智能的有益和恶意使用在评估应用程序的社会影响方面可能很有价值（Brundage等人，2018），但将人工智能作为一种适用于民用和国防用途的两用技术进行更深入的关注，可以考虑对人类生活有决定性影响的应用程序。此类应用包括对人员进行自动监视和分析以获取情报信息，以及武装系统中的自动功能以与选定目标交战

欧盟指南和其他研究（欧盟委员会，2019；Umbrello&；De Bellis，2018）中提到的设计方法为适当实施提供了可能性。作为研究机构的伞式组织，弗劳恩霍夫将跨学科工作纳入其中（Marzi等人，2018）。然而，关于所研究的研究小组，这些文件没有提出支持值得信赖的人工智能的多样化讨论的空间，这将促进关于信任、人工智能的拟人化（Ryan，2020）和人工智能技术的普遍接受（Winfield&；Jirotka，2018）的进一步讨论（欧盟委员会，2019）。正如Winfield和Jirotka（2018）所建议的，透明度报告可以包括一份可能难以解释的结果声明，以及对实施的制度背景和不同社会影响的反思。此外，人工智能对信任和道德决策的不同方法（Arkin等人，2012）可能会成为TA越来越重要的问题 值得信赖的人工智能可能会受益于鼓励讨论富有成效的跨学科工作的具体程序，并澄清背景条件，如伦理应用中的经济竞争力。解释民用和军用人工智能应用程序的不同价值表明，当环境的多样性包括在内时，值得信赖的人工智能更加一致。由于值得信赖的AI被视为“横向基础”为促进可信赖创新的发展，欧盟建议增加“部门”视角，以适应人工智能系统的特定环境（欧盟委员会，2019）。为了评估创新的扩散，需要考虑背景，同时扩大对相关部门的关注。根据应用程序的上下文，值的优先级不同。这会影响创新的扩散，因为必须对其他要求进行调整，但更重要的是，技术中包含了价值观。虽然我们说明了价值观在不同应用领域的流行程度如何不同，但我们并不认为这些价值观只适用于特定行业。相反，我们的研究为未来规范出现的研究提出了一个有利的观点，例如以双重用途为重点的TA，可能包括利益相关者分析

最后，我们的研究表明，一些价值观密切相关，如可解释性和可解释性或幸福感、安全性和安全性。Thiebes等人（2020）提出了值得信赖的人工智能的五项原则，提供了相关价值观或伦理框架要求的综合，如欧盟指南（欧盟委员会，2019）。虽然在影响信任关系的相关价值观方面确实存在共同点，但我们的分析强调了找到一种共同语言并澄清不同国家框架中可能存在的不同理解的重要性，尽管这些不同理解涉及相同的标签（Roberts等人，2021）

限制
由于我们特别关注人工智能专利，我们不包括B64G 2001类（USPTO，2019）或其他商业领域（如航空和航天）的先进机器人专利，因此将样本限制在G06N专利。此外，我们的样本仅包括引用了至少一项其他专利的专利，出于清晰的原因，这进一步受到了对德国专利的关注。尽管欧盟在申请专利方面是最活跃的地区之一，尤其是在人工智能领域，但在日本、美国和中国申请了更多的专利（Baruffaldi et al.，2020），从而限制了本研究的范围及其对欧盟的影响，重点是德国的研发和创新；D、此外，某些创新可能受到秘密专利的保护，而其他创新可能受到商业秘密或版权的保护，或者由于复杂的地域资格分析而不进行专利注册（Tiedrich等人，2020）。公司可能会保持竞争力，将机器学习作为一种服务，而不是开发自己的应用程序（Guthrie，2019）

结论

AI被视为一种通用技术，对民用和国防应用之间创新扩散模式的研究不仅与TA相关，而且与影响R&；人工智能的D，如值得信赖的人工智能。作为一种混合方法，我们在第一步进行了专利引用网络分析。考虑到欧盟成员国以及国防和民用应用背景，这项工作研究了人工智能和武器专利之间的创新转移，并考虑了公司关系。虽然专利引用网络没有显示武器专利和人工智能之间的任何扩散，但德国公司网络的特写显示，一些国防公司同时发布人工智能和武器专利，这可能也是由于他们的两用产品。作为第二部分，对民用和国防研发的技术描述进行了定性分析；弗劳恩霍夫IOSB的D项目允许重新评估技术扩散的既定测量和操场。可信赖的人工智能规范在国防和民用研发之间的扩散；D项目揭示了某些值得信赖的AI规范的分层上下文特定应用，如国防项目的鲁棒性和准确性以及民用项目的可解释性。当人们关注R&；人工智能的发展，无论在经济上还是政治上，都有助于深入了解这一发展，并为其量身定制的两用和风险评估及意识措施制定方法，以防止意外结果（Tucker，2012；Winfield&；Jirotka，2018）。先进和进一步的工作可能会解决值得信赖的人工智能的政治背景，并伴随欧盟促进两用技术发展的战略，重点是经济协同效应（Edler&；James，2015）