简介

人工智能在我们的日常生活中发挥着越来越重要的作用，并影响了从在线广告到销售，从军事到医疗保健的各个领域。随着俄乌战争中人工智能军备竞赛的持续，预计人工智能驱动的致命武器系统将在战争中变得普遍¹。尽管人工智能在许多成功的应用中显示出了前景，但仍迫切需要解决与这些应用相关的道德问题。如果人工智能系统选择了一个错误的目标，可能会导致非战斗人员或友军死亡，这将带来可怕的后果。看到人工智能的迅速出现及其在军事中的应用，美国国防部在2020年披露了人工智能的伦理原则²。该文件强调了五项核心原则，旨在实现负责任、公平、可追踪、可靠和可治理的人工智能²。此外，北大西洋公约组织（NATO）还发布了在军事中使用人工智能的原则，包括合法性、责任和问责制、可解释性和可追溯性、可靠性、可治理性和偏见缓解³。考虑到人工智能的潜在危险，这些伦理原则的成功也通过它们有意识地采用和嵌入人工智能的能力得到了证明，五角大楼决心避免这些危险。显然，知名军事组织对采用人工智能表现出谨慎的态度，并正在积极实施措施，以减轻其潜在恶意使用和应用的风险

另一方面，人工智能对医疗保健行业产生了直接影响，讨论范围从使用人工智能作为医务人员的助手^5,6,7到人工智能取代整个临床部门^8,9。在电子健康记录（EHR）的背景下，人工智能在临床自然语言处理（NLP）中的使用和影响是深远的。与军事组织类似，世界卫生组织（世界卫生组织）也发布了一份文件，讨论人工智能促进健康的伦理和治理¹⁴

顾名思义，生成人工智能是指可用于创建或生成各种类型的新内容的人工智能技术，包括文本、图像、音频和视频。生成人工智能的发展速度惊人，许多行业和研究人员发现它在金融¹⁵、协作写作¹⁶，电子邮件通信¹⁷和网络威胁情报¹⁸等领域都有应用。生成人工智能也已成为医疗保健领域的一个活跃研究领域，其应用如临床文献²¹和循证医学综述²²

尽管有许多成功且有前景的人工智能应用，但伦理一直是人工智能界讨论的更具争议的主题之一，有不同的观点和过多的意见^23，24。伦理学涉及如何决定道德上的对与错，这是我们作为人工智能研究界必须仔细考虑的关键方面之一。鉴于最近出现的生成性人工智能模型及其对医疗保健的最初热情，我们的社区在将这些技术融入实际应用之前，必须认真考虑伦理原则。军队和医疗保健在许多方面都非常相似，例如组织结构、高压力和高风险、决策过程、对协议的依赖以及对生死的掌控。鉴于这些相似之处，军事应用中伦理原则的成功实施，以及医疗保健中生成人工智能伦理缺乏具体解决方案，我们建议采用并扩展从军事到医疗保健的伦理原则，以管理生成人工智能在医疗保健应用中的应用

什么是生成人工智能

Generative AI指的是主要用于生成数据的AI，通常以音频、文本和图像的形式。然而，在这份手稿中，我们选择不遵循这样一个笼统的定义，而是专注于一种特定类型的生成人工智能。在本节中，我们描述了“现代”生成人工智能，讨论了它为什么重要，并将其与广受欢迎的术语“人工智能”进行了比较。

现代人工智能主要由机器学习（ML）方法主导，该方法利用统计算法和大量数据逐步提高模型性能。ML方法大致可以分为有监督、无监督和强化学习（图1）。监督ML依赖于标记输入（监督），而无监督学习不需要人工监督。强化学习采用了一种不同的方法，相反，它试图通过奖励想要的行为和惩罚不想要的行为来设计智能主体。流行的生成人工智能模型通常以无监督的方式进行预训练

图。1：一般ML与现代生成AI之间的关系。

该图提供了ML子字段的概述，建立了这些子字段之间的关系，并显示了生成人工智能的路径。

全尺寸图像

>预训练的生成人工智能模型可以生成新颖多样的输出，包括但不限于文本、图像、音频或视频。最近，最流行的语言生成人工智能模型是ChatGPT²⁵，据报道，该模型在2023年1月估计有1亿月活跃用户²⁶。ChatGPT的模型架构，以前称为GPT-3.5²⁷，以及最近的GPT-4²⁸是基于其GPT²⁹（生成预训练变压器）前身GPT-2³⁰和GPT-3³¹的设计原理构建的。许多最先进的生成人工智能模型，也称为大型语言模型（LLM），共享类似的基于转换器的架构³²

用于从文本提示生成图像的众所周知的生成AI模型，如稳定扩散³³和DALL-E 2³⁴，采用了扩散过程³⁵与类似于GPT模型中使用的基于转换器的架构的组合。所有模型的特征都是在非常大的数据集上进行无监督训练³⁶。生成视频的模型也是如此

这些生成人工智能模型中的大多数还依赖于一种称为提示的方法³⁷，该方法允许用户输入任务的自然语言描述，并将其用作生成有用信息的上下文。这个过程有时也被称为上下文学习

当提到“现代”生成人工智能或简单的生成人工智能时，我们描述的是一种基于转换器的机器学习模型，该模型在广泛的数据集上以无监督的方式进行训练，并专门针对通过提示生成有价值的数据进行优化。这一描述也与现有的研究一致^38，39，40

虽然生成人工智能显示出有希望的结果，但医疗保健中的危险结果可能由许多问题引起，包括：

算法偏差^41，42
幻觉^43，44

常识推理差^44，45

缺乏公认的模型评估指标^46，47

⁴⁸

⁴⁹

⁵⁰

⁵¹

⁵²

⁵³

这种担忧也可能存在于其他形式的人工智能中，但考虑到生成人工智能中存在的实际差异，风险会增加。首先，由于生成人工智能的互动性，通常与保持类人对话的能力（例如，ChatGPT）相结合，它可以使错误信息听起来令人信服。其次，由于生成人工智能模型结合了大规模数据的各种来源³⁶，在有偏见的数据来源上进行训练的风险增加。第三，标准评估指标，如精确度、召回率和F1分数，变得难以使用，也不太可能反映人类判断⁴⁷。最后，由于其易用性，生成人工智能可以广泛应用于医疗保健的许多领域和领域⁴⁹，这自然会增加上述风险

总体而言，医疗保健中生成性人工智能的伦理考虑的重要性不容低估。从以人为本的角度来看，生成人工智能的最终目标是增强和增强人类的创造力、生产力和解决问题的能力，这与医疗保健在改善患者护理方面的目标非常一致。如果生成性人工智能系统的使用不合乎道德，也不反映我们的价值观，那么它作为改善人们生活的工具的作用将大大削弱

人工智能在军事与医疗保健中的应用

随着人工智能的日益普及，理解人工智能并将其整合到作战和战略中，以在冲突或紧急情况下处于安全和技术的前沿，这符合军事组织的最大利益。还开发了各种用于生成目的的军事人工智能技术，包括智能决策支持系统（IDSS）和辅助目标识别（AiTC），它们有助于战场上的决策、目标识别和伤亡护理。人工智能在军事行动中的每一种使用都减少了现场操作员的心理负担，并帮助他们更快地采取行动。正如人工智能的军事用途可以在战场上拯救生命一样，人工智能也可以通过帮助临床医生诊断疾病和降低患者安全风险来帮助拯救生命。在医疗保健中使用生成人工智能有助于提高专业人员照顾患者的效率。生成人工智能在医疗保健中的应用包括医疗聊天机器人、疾病预测、CT图像重建和临床决策支持工具^{60，61，62，63}。这种用途的好处有两方面，即可以帮助医疗专业人员为患者提供更高水平的护理，并改善诊所和医院的工作量

人们可能会质疑，为军事和医疗保健目的开发人工智能模型取决于反映独特优先事项的独特意识形态基础。在军事背景下，人工智能模型主要用于提高防御和进攻行动的效率、精度和战略能力。重点是监视、目标识别、网络防御、自主武器和战场分析等应用。人工智能未来可能用于协调无人机攻击等进攻行动，这可能会反对任何医疗保健原则，但对军事战略至关重要。这里的基本意识形态观点是保护国家安全利益、增加兵力和最大限度地减少冲突地区的人类风险

另一方面，人工智能在医疗保健中的使用是由加强患者护理、改善健康结果和优化医疗保健系统效率的原则驱动的。该领域人工智能模型的开发旨在个性化治疗、提高诊断准确性、预测疾病进展和简化管理任务等用途。中心思想是改善人类健康和福祉。虽然我们承认，由于目标的不同，军事和医疗保健领域的意识形态基础不同，但我们认为，军事和卫生保健部门都表明了人工智能应用的优先事项的惊人趋同，以人为中心的方法的优先次序已成为显著的共性。首先，关于应用程序的有效性，这两个领域都认识到稳健、可靠的人工智能系统的至关重要性。无论是识别复杂战场中的潜在安全威胁，还是检测医学图像中的细微异常，这些系统都需要在不同的、往往具有挑战性的条件下准确快速地发挥作用，以完成其指定的任务。第二，明显强调执行。除了人工智能模型的理论发展之外，这两个领域的关键问题都围绕着如何将这些模型有效地纳入现实世界的系统，通常涉及多个人类和技术利益相关者。最后，以人为本的观点至关重要。这意味着确保人工智能技术增强而不是取代人类的决策能力，并以最大限度地减少潜在危害的方式使用。在医疗保健领域，这涉及到开发人工智能应用程序，可以改善患者的结果和体验，同时支持医疗保健提供者的工作。因此，这三个因素代表了在军事和医疗环境中利用人工智能的关键共同优先事项

几十年来，人工智能已无缝融入军队的技术结构，成为从自主无人机武器到智能巡航等各种进步的支柱导弹^64,65。在复杂和高风险的环境中取得稳健结果和可靠结果的记录隐含着基本的伦理原则。从军事人工智能实施中建立的道德准则为将人工智能纳入医疗场景提供了路线图。然而，人工智能的整合对医疗保健部门来说相对较新，更不用说生成性人工智能了，伦理原则既没有得到广泛实施，也没有专门为生成性人工智慧设计。虽然医疗保健最近开始采用生成性人工智能技术⁶⁶，这一领域有巨大的机会从军事应用的历史中收集伦理见解

确定伦理问题和风险

兰德公司的一项研究提出了对人工智能在战争中使用的各种担忧，如研究报告⁶⁷的图2.3所示。这些担忧分为以下几类：战争风险增加、错误增加和对人工智能的错误信念。尽管人工智能可以让人员更快地做出决策和战略，但一些专家认为这是一个不利因素，因为未经适当考虑而采取的行动可能会产生严重影响，如增加战争风险⁶⁷。《武装冲突法》和《日内瓦公约》等国际战争标准制定了目标识别指南，规定在采取行动将对平民的伤害降至最低之前，袭击必须首先区分战斗目标和非战斗目标。由于战斗人员在视觉上并不总是可以识别的，一些人声称，阅读肢体语言以区分平民和战斗人员需要一个“循环中的人”（HITL）决策过程⁷⁰

为生成人工智能技术的用户维护数据隐私至关重要，因为患者数据和军事数据都是高度敏感的，如果泄露会造成损害⁷¹。如果人工智能实施收集了PHI，它应该是安全的，不会被泄露，并且对这些受保护数据的任何披露都必须符合《健康保险便携性和责任法案》（HIPAA）指南⁷²。这些实施必须很少遇到错误，因为医疗保健是一个安全关键领域，患者的伤害是不可接受的⁷³，并且这些系统或算法中的错误可能会造成比任何医生所能造成的伤害更大的伤害，因为许多医院和诊所将使用相同的系统并经历相同的错误⁷⁴

军事和医疗保健领域存在的其他问题是人类与人工智能之间的信任以及缺乏问责制。当存在人类和人工智能协作来执行任务时，信任必须是最优的，如图2所示。当人工智能不符合患者或操作员的最佳利益时，对人工智能系统的过多信任会导致人工智能的过度使用⁷⁵，而当最好使用⁷⁶时，过少信任会导致系统使用不足。在这两种情况下，根本原因是操作员不知道他们与⁷⁷交互的系统的能力和限制。滥用会导致非典型的错误，如军队中的自相残杀或医院中的患者伤害^78,79。虽然人工智能的决策必须透明，但在使用人工智能的同时，必须对人工智能系统的使用和限制进行充分的教育，这样操作员就不太可能犯下危险的错误。在军事或医疗保健使用生成人工智能时，可能会出现缺乏问责制的情况，因为军事操作员或临床医生无法直接控制人工智能确定的行动。2：AI中信任的优化。

该图描述了信任和能力之间的关系。当人工智能不符合患者或操作员的最佳利益时，对人工智能系统的过多信任会导致人工智能的过度使用，而当最好使用人工智能时，过少信任会导致系统使用不足，作者表明（报告中的图7.8和7.9），公众对在人类授权的情况下采取军事行动的自主系统持好感同时强烈反对未经人类授权的作战行动。这可以与医疗保健相提并论，在医疗保健中，患者对在没有人类（如医生、护士等）参与的情况下将人工智能用于医疗目的表示担忧⁸⁰。这些结果可能是由于人们认为缺乏问责制，这被认为可能完全否定人工智能的价值，因为作为一个完全自主的系统，它自己做出决定，使军事操作员或临床医生远离系统行动的责任⁸¹。在医疗保健领域，至关重要的是，由于这些系统接近人类生活，因此要透明，并且患者要了解临床医生如何使用这些建议。医疗保健部门的责任负担落在临床医生和人工智能系统的开发人员身上，因为所做的决策是算法的产物，而这些建议的使用落在临床医生身上⁸²

最后，还必须考虑有关生成人工智能使用的公平、自主和隐私的伦理问题。在医疗保健环境中，有偏见的算法或有偏见的做法可能导致某些患者群体获得较低水平的护理⁸³。有偏见的结果可能是由于有偏见的算法、糟糕的数据收集或缺乏多样性⁸⁴。在医疗保健领域开发人工智能系统时，无论是在算法还是用于训练的数据方面，都必须尽量减少偏见。此外，如果已知，还必须披露偏见的来源，以确保透明度并防止不当使用。开发生成性人工智能时的人类自主性问题在医疗保健中尤其重要，因为必须尊重患者和临床医生的自主性⁸⁵。至关重要的是，要接受一个框架，以防止任何数据泄露，并确保安全措施是最新的和稳健的

在军事和医疗保健应用中，围绕生成人工智能的这些风险和伦理问题需要人工智能的伦理使用原则。最早发布的一套负责任开发和使用人工智能的原则来自谷歌，他们这样做是为了回应员工向首席执行官请愿，因为他们不同意谷歌在2018年与国防部合作开展Maven项目，以帮助识别无人机图像中的物体^86,87。这些原则概述了谷歌将如何负责任地开发人工智能，并说明他们不会创造什么技术，比如那些造成伤害或伤害的技术，提供违反国际政策的监控，以及任何违反国际法和人权的技术。通过研究生成人工智能在军事和医疗保健应用中的风险和伦理问题之间的异同，我们可以为在医疗保健中负责任地开发和使用生成人工智能建立指导原则

医疗保健中生成性人工智能的伟大伦理原则

随着人工智能的使用在军事和其他领域的普及，许多组织已经认识到阐明其伦理原则并概述将人工智能应用于其行动的相关责任的必要性。多个组织发布了人工智能的几个伦理原则，包括美国国防部²、北约³⁸⁹，世界卫生组织（世界卫生组织）¹⁴和卫生人工智能联盟（CHAI）⁹⁰。国防部和北约的人工智能伦理原则相似，北约更加注重遵守国际法。对于医疗保健人工智能的发展，世界卫生组织发表了自己的道德原则，包括保护人类自主、人类福祉和安全、透明度和可解释性、责任和问责制、包容性和响应性发展。同样，美国医学协会提倡以用户为中心、透明、可复制的人工智能系统，避免加剧医疗保健差距，并保护患者和其他个人的隐私利益。最后，美国科学技术政策办公室（OSTP）发布了《人工智能权利法案蓝图》⁹¹，其中规定人工智能系统安全有效，免受算法歧视，保护用户数据，拥有可访问的文档，并提供人类替代品

在各种原则中，我们看到了共同的主题，如问责制和人的存在。国防部和北约都强调将人类责任融入人工智能系统的开发和生命周期的重要性，并确保这些系统能够管理，以解决使用过程中可能出现的错误。这个AMA和世界卫生组织的政策都强调了以人为中心的设计理念，保护人类自主性，并明确提到了在医疗保健中使用人工智能以防止护理差异的包容性和公平性。这些原则都为开发用于医疗保健的人工智能提供了独特的视角。然而，没有一套原则涵盖医疗保健提供者或患者可能存在的所有伦理问题⁹²。采用国防部和北约的原则是有利的，因为每项原则都有实际的定义。概述了这些原则，重点是开发人工智能系统的人员可以采取什么行动，以及最终用户将如何与系统互动

现有原则为人工智能在医疗保健中的伦理发展和利用奠定了良好的基础。然而，必须采取行动，为生成人工智能量身定制这些原则。通过研究医疗保健中使用生成人工智能的风险和担忧，将其与军事中使用生成AI的风险和关注进行比较，并通过扩展这些原则，我们可以有一套满足我们需求的原则⁹³。因此，我们将国防部和北约的指导方针作为一套道德原则的起点，并将其扩展以满足医疗保健的需求。扩张是通过纳入支持人类进步的原则而不是击败对手来实现的

图3显示了我们用于采用和扩展由各种组织建立的人工智能医疗保健应用的伦理原则的框架。当生成人工智能的军事和医疗保健使用之间存在相似之处时，可以采用使用原则，如可追溯性、可靠性、合法性、问责制、可治理性，和公平。在医疗保健有特殊情况或需要额外细微差别的情况下，必须扩大与这些问题相关的原则，以适应医学世界，如同理心、自主性和隐私。有许多特定于军队的问题不适合在医疗保健中形成道德原则，如国家安全和国防、任务有效性、作战安全、对抗性人工智能⁹⁴、人机团队、交战规则、快速部署和适应以及扩散和军备竞赛。图3还显示了其中一些关切（非详尽清单），我们将其包括在内，以强调通过或扩大原则必须基于共同关切。此外，我们想强调的是，需要有保障措施和方法来检测和减轻医疗环境中部署的人工智能的军事特性，包括可管理性、问责制和可追溯性

图。3：采用和扩大现有的伦理原则，从军事到医疗保健

该图说明了军事和医疗保健之间道德原则的共性和差异。在我们的评估中，可追溯性、可靠性、合法性、问责制、可治理性和公平性是这两个领域的共同道德原则。与此同时，在医疗保健中强调同理心和隐私等伦理原则，而在军队中强调国家安全和国防等伦理原则

全尺寸图像

建议的道德原则与国防部、北约和世界卫生组织指南使用的道德原则的详细映射如表1所示。如表所示，除隐私、同理心和自主性外，所有原则都直接符合国防部或北约的指导方针。在该原理与我们提出的原理间接一致的情况下，表1使用星号（^*）前缀。至于隐私、同理心和自主，尽管与军事组织（即国防部和北约）的道德原则无关，但世界卫生组织的指导方针直接或间接与这三者一致。他们的加入也是由于改善人类的质量和减轻医疗保健方面的具体问题

表1大人民道德原则与国防部、北约和世界卫生组织指南的一致性

全尺寸表

总之，我们提出了“伟大的PLEA”医疗保健中生成性人工智能的伦理原则，即G可治理性、R可靠性、E公平性、A会计性、T竞争性、P私密性、L可怕性、

ECompathy和A自治性。伟大的PLEA伦理原则表明，我们强烈呼吁社区在实际医疗环境中实施和利用生成人工智能时，优先考虑这些伦理原则。图4显示了伟大PLEA伦理原则的总结卡。在下文中，我们将深入研究每一个单独原则的全面解释

图。4：伟大的PLEA卡的道德原则

我们提出了医疗保健中生成人工智能的“伟大的PLEA”伦理原则，即G可管理性、R可靠性、E公平性，A可会计性，T竞争性，p私密性，L可怕性，E兼容性，以及A自治性。伟大的PLEA伦理原则表明，我们强烈呼吁社区在实际医疗环境中实施和利用生成人工智能时，优先考虑这些伦理原则

全尺寸图像

可管理性

可管理性是系统集成过程和工具的能力，这些过程和工具可以提高和保持其能力，并确保有意义的人工控制⁹⁵。国防部和北约制定的人工智能系统可管理性标准强调了确保人工智能系统在实现其预期功能的同时，人类必须保持识别和防止意外后果的能力的重要性。在发生任何意外行为的情况下，应可以通过人工干预来解除或停用已部署的人工智能系统。这些标准可用于在医疗保健中使用生成人工智能。由于生成人工智能系统的广泛实施潜力，许多医院可能使用相同的系统，因此必须考虑⁷⁴这些标准。假设一个跨多个诊所部署的生成性人工智能系统对患者造成伤害的风险。在这种情况下，至关重要的是要认识到，诊所中的许多患者可能容易受到同样错误的影响。随着医疗保健扩展到拥有远程患者监测或诊所外在线工具的患者之家，患者面临的风险加大。理想情况下，人类，无论是开发还是实施该系统，都应该具备在不干扰诊所常规患者护理活动的情况下使其失效的能力。必须有明确的指导方针来监测生成人工智能系统的潜在错误，在错误发生时停用以防止更多损坏，纠正错误，以及互动以减少操作员错误。有了这些指导方针，系统负责人可以迅速收到任何意外行为的通知，并做出快速适当的反应

可靠性

可靠性是指系统或部件在规定条件下运行一段特定时间的能力⁹⁶。生成人工智能与患者幸福感的接近性需要可靠性标准，以最大限度地减少可能导致事故的潜在错误⁴³。生成人工智能模型应具有明确定义的临床用例。为疾病预测设计的生成人工智能模型需要对使用情况和患者标准有明确的定义。此外，这种生成性人工智能模型在其整个生命周期中都应该是安全、可靠和有效的。应证明生成的人工智能模型至少与人类单独决策一样安全，不会造成不应有的伤害。现有的生成人工智能模型存在幻觉和输出变化，削弱了它们产生可靠输出的能力。这些缺点会对医生和生成人工智能系统之间的信任产生不利影响。采用国防部的可靠性原则可以为人工智能应用程序建立用例，并在开发和部署过程中对其进行监控，以修复系统故障和恶化。针对特定用例进行彻底的评估和测试协议将确保开发出具有弹性和鲁棒性的人工智能系统，并有助于最大限度地减少系统故障以及响应这些错误所需的时间

股权

股权是每个人都有获得最高健康水平的公平和公正的机会⁹⁷。由于健康公平的重要性以及医疗保健中算法偏见的影响，我们呼吁对这一原则进行调整。医疗保健领域已经存在不公平现象。由于在大规模数据集上进行预训练，生成性人工智能模型自然会增加数据偏见的风险，不应加剧边缘化、代表性不足、社会经济弱势、低教育或低健康素养群体的这种不平等⁹⁸，而应将其独特的社会状况纳入未来的人工智能模型中，以确保公平。开发生成型人工智能必须努力通过考虑现有的健康差异来减轻偏见。如果不考虑这一点，生成人工智能系统可能会错误地为不同的患者推荐治疗方法⁹⁹。公平原则的扩展必须为算法公平性的评估指标设定标准，这样部署的人工智能系统就不会加剧医疗保健差距

问责制

问责制是能够将系统上的活动追踪到个人的属性，然后这些个人可能会对自己的行为负责¹⁰⁰。为了确保人工智能在医疗保健中的问责制和人类参与，北约³概述的责任和问责制原则规定，他们将认真开发人工智能应用程序，并整合人类责任，以建立人类对应用程序所采取或与应用程序一起采取的行动的问责制。一项关于患者对人工智能态度的研究表明，在医疗保健中使用人工智能时，问责制在获得患者信任方面的重要性¹⁰¹。当临床医生使用生成人工智能来帮助治疗患者时，这种问责制的保证是至关重要的，因为如果没有适当的人类问责制措施，患者可能会觉得临床医生没有投入到他们提供的护理中。我们可以将这一原则用于医疗保健中生成人工智能的道德使用，并确保在患者护理中使用更强大的生成人工智能系统，如ChatGPT或基于生成人工智能临床决策支持系统时，保持人类的参与

可追溯性

可追溯性是跟踪和记录与透明开发的系统或模型相关的数据、过程和工件¹⁰³。通过采用可追溯性原则，可以解决医疗保健专业人员与他们互动的人工智能之间优化信任的问题。这样，人工智能工作人员将了解其能力、开发过程、方法、数据源和文档。此外，让工作人员了解人工智能系统的能力及其操作背后的过程，也将提高系统的可重复性，从而实现跨医疗系统的无缝部署 This对于医疗保健中的生成人工智能系统很重要，因为它们本质上是一个黑匣子系统。这种高层次的理解将有助于优化信任，因为操作员将意识到他们所使用的人工智能系统的能力和局限性，并知道使用¹⁰⁴的适当设置。随着生成型人工智能在医疗保健中越来越普遍，需要适当的文档来确保所有最终用户都能正确地了解他们交互系统的功能和局限性。生成人工智能模型的生成过程应该是透明的。参考文献或事实应与答案和建议一起提供给临床医生和患者。用于训练这些模型的数据源以及这些模型的设计程序也应该是透明的。此外，这些模型的实施、部署和操作需要在医疗保健环境中的利益相关者的控制下进行审计

隐私

隐私是对有关实体的某些信息的保密性和访问权受到保护的保证¹⁰⁵。由于保密性质，在大多数军事和医疗保健应用中，隐私是必要的。医疗保健中的生成型人工智能系统必须符合HIPAA的数据披露要求，并确保安全以防止违规，应向开发人员建议医疗保健数据应如何训练系统进行部署。HIPAA合规性要求定期进行风险评估，以确定患者数据的脆弱性。¹⁰⁶因此，在医疗保健中使用生成人工智能系统的诊所必须确定这些系统是否是其技术网络中的薄弱环节。例如，使用生成人工智能模型会带来潜在的隐私泄露风险，包括即时注入¹⁰⁷，其中恶意行为可以通过覆盖原始提示来进行，以及越狱¹⁰⁸，其中训练数据可以通过引发生成的内容来泄露。此外，生成人工智能处理个人数据和生成敏感信息的能力使这些系统能够安全抵御数据泄露和网络攻击至关重要。确保这些系统在开发时考虑到数据隐私和安全，将有助于保持受保护的患者信息的安全。采取这些强有力的措施来维护人工智能系统收集和制作的敏感数据的隐私，对患者的健康和与患者建立信任至关重要

合法性

合法性是指遵守国家和国际法，包括适用的国际人道主义法和人权法¹⁰⁹。这可以用于在医疗保健中使用生成人工智能。必须遵守的法律不是冲突法律，而是与医疗保健相关的法律。美国不同的州可能会为人工智能系统制定不同的法律，在这些地区部署时必须注意这些法律。医疗保健领域的世代人工智能系统还面临着围绕安全性和有效性、责任、数据隐私、网络安全和知识产权法的法律挑战⁹²。必须为这些系统所采取和建议的行动的责任建立法律基础，并考虑它们如何与医疗保健提供者的网络安全和数据隐私要求互动。开发用于医疗保健的世代人工智能时必须考虑到这些法律挑战，以保护患者、临床医生和人工智能开发人员免受任何意外后果的影响

同理心

同理心是一种理解他人个人经历和情绪的能力，而不需要广泛的联系¹¹¹。国防部或北约在任何指导方针中都没有直接引用同理心原则。然而，通过强调人类参与患者治疗的必要性，有可能创建一个人类参与生成性人工智能应用的框架，以防止问责制方面的差距，并确保患者得到富有同情心和有帮助的护理。人们对聊天机器人（如ChatGPT）的人工同理心有着显著的担忧，这加强了对医疗保健中生成性人工智能同理心定义原则的需求。提供者和患者之间的移情关系为患者和治疗他们的诊所带来了一些好处，例如更好的患者结果、更少的与医疗保健提供者的纠纷、更高的患者满意度和更高的报销¹¹¹

自主性

自主性是对自我的控制，需要不受控制影响的自由和保持自我的行动能力。人工智能系统越强大，人们就越担心人类无法控制医疗保健系统和护理决策³²。在过去几年中，生成人工智能取得了惊人的进步，因此，在医疗保健中使用生成人工智能时，需要确保对自主性的保护。保护人类自主性意味着患者根据自己的偏好和价值观接受治疗，临床医生可以按照自己想要的方式提供治疗，而不会被生成的人工智能系统侵犯。如果决策的自主性不以患者为中心，那么不良事件和不良临床结果的可能性肯定会随之而来。通过纳入保护在医疗保健中使用生成人工智能的自主权的条款，医患关系得到改善，护理质量最终得到改善¹¹⁷

结论

Generative AI在增强和使所有人都能获得高质量医疗保健方面具有巨大潜力，从而实现其交付的根本性转变。人工智能在医疗保健领域带来的挑战往往与军事领域遇到的挑战如出一辙。我们提出了GREAT PLEA伦理原则，包括九项伦理原则，希望解决医疗保健中生成性人工智能的伦理问题，以及生成性人工和“一般”人工智能之间的区别。这将通过解决论文中提到的高风险来实现。生成人工智能需要考虑错误信息的风险、偏见的后果以及使用一般评估指标的困难的指导方针。考虑到生成性人工智能的广泛性及其风险，这些伦理原则可以保护患者和临床医生免受不可预见的后果。遵循这些原则，可以不断评估生成性人工智能的错误、偏见和患者或护理人员可能关心的其他问题了解他们在各自领域与人工智能的关系。当前时刻敦促我们接受这些原则，促进人类与技术之间更紧密的合作，并从根本上加强医疗系统

这些原则可以通过与立法者合作、为开发者和用户制定标准，以及与世界卫生组织或美国医学协会等医疗保健部门公认的管理机构建立伙伴关系来实施

我们注意到，无论是通过评估方法（如Likert量表、提示或基于语义相似性的移情方法）还是通过其他方式，执行拟议的伦理原则都不在这项工作的范围内。因此，我们承认缺乏详细的执行程序是工作的局限性。同时，实施人工智能指标或GREAT PLEA伦理原则的执行方法也可能是未来潜在的探索途径