人工智能（AI）不再是科幻小说中的幻想，但人工智能系统的好坏取决于用于创建它们的代码、训练数据和算法。随着人工智能不断改变行业，了解和解决其固有风险至关重要。现在需要的是一个强大的框架来管理人工智能漏洞。网络安全比人工智能领先数光年。通过应用从网络安全中吸取的经验教训，可以制定有效的策略，以确保人工智能技术的负责任和值得信赖的发展

人工智能系统的好坏取决于它们的输入，因此会造成巨大的破坏，这是无可争议的。例如，考虑一种情况，即设计用于监测水质的人工智能系统由于有缺陷的训练数据而无意中少报污染物。这可能会导致整个社区消耗不安全的水，导致公共卫生危机和对技术和政府的信任丧失

麻省理工学院最近推出的人工智能风险库为分类和分析这些威胁提供了一个有前景的工具。存储库是一种宝贵的资源。在各种环境中汇总数百种与人工智能相关的威胁，并根据其原因和性质对这些风险进行分类——无论是与隐私、安全、虚假信息还是其他问题有关——都能提高风险缓解的可能性

这种全面的视角对于旨在理解和缓解人工智能带来的复杂挑战的组织至关重要。人工智能故障的影响不仅限于水质监测。在医疗保健领域，错误的算法可能会导致误诊。在金融领域，错误的模型可能会导致欺诈和重大财务损失。鉴于人工智能的巨大潜力，确保这些系统值得信赖、负责和透明至关重要

网络安全——它借鉴了数十年来开发有效框架和工具以应对复杂威胁的经验——为管理人工智能风险提供了宝贵的见解。网络安全领域的一个关键工具是国家漏洞数据库（NVD），它维护着已知软件漏洞的全面目录。每个漏洞都被分配了一个通用漏洞和暴露（CVE）ID，这是一个唯一的标识符，规范了漏洞的跟踪和报告方式。CVE系统具有重要意义，因为它为网络安全专业人员、研究人员和供应商提供了一种通用语言，以一致有效地讨论和解决安全漏洞

该系统有助于优先考虑风险管理工作，使开发人员和安全团队能够专注于最关键的漏洞。CVE系统还促进了软件开发的透明度和问责制，确保已知的缺陷不仅被跟踪，而且作为保护不断发展的软件环境的持续努力的一部分得到缓解

这种网络安全的结构化方法，以NVD和CVE系统为例，可以作为管理人工智能风险的模型。随着人工智能系统变得越来越广泛和复杂，创建一个类似的框架来分类和解决人工智能特有的漏洞——无论是在代码、数据还是算法中——将有助于确保人工智能技术保持安全、透明和可问责

目前，人工智能缺乏一个可比的框架。人工智能特有的风险在很大程度上仍未得到跟踪和结构化。即使人工智能系统的“代码”是完美无瑕的，真正的风险往往在于数据。例如，一个专门基于北美数据训练的人工智能系统可能会错误地认为7月是全球最热的月份，因为它从未受过训练，知道在这段时间里南半球是冬天。

这种偏见可能会产生重大后果，无论是无意的还是故意对抗性干扰的结果。此外，人工智能的非确定性特性——输出取决于概率、训练数据和现实世界条件——增加了进一步的不可预测性。与在相同输入下产生一致输出的传统软件不同，人工智能系统可以根据其数据和概率模型表现出不同的行为。如果训练数据有缺陷或有偏见，这种不可预测性会增加意外后果的风险

为了应对这些挑战，需要一个类似于NVD的人工智能框架。这将涉及创建一个结构化系统，以系统地识别和解决人工智能系统使用的代码和数据引起的漏洞。这样的框架将有助于避免黑箱问题，即人工智能决策不透明，难以理解或纠正

麻省理工学院风险库代表了解决人工智能风险的重大进展。然而，为了全面管理这些风险，需要对人工智能风险的分类和应对方式进行标准化。建立一个类似于网络安全中CVE系统的人工智能风险分类系统，将使研究人员、政策制定者和行业能够有效地沟通和协调他们的努力。这种分类将涵盖有意和无意的风险，为理解各种因素如何破坏人工智能的可信度提供了一个框架

通过利用麻省理工学院的风险库，我们可以开发一个类似于MITRE ATT的知识库；CK框架专为AI可信度而设计。MITRE ATT&；CK框架是一个全面且广泛认可的网络安全知识库，用于编目和描述威胁行为者采用的各种战术、技术和程序。它提供了一种结构化的方法来理解和分析网络对手的运作方式，使安全专业人员能够更有效地检测、响应和减轻攻击

同样，人工智能可信度的结构化框架将分析与人工智能系统相关的有意和无意风险。这将涉及识别影响人工智能可靠性的策略和技术，例如数据中毒等蓄意攻击以及数据漂移和模型偏差等无意问题。该框架将通过对这些风险进行分类并提供详细的描述、缓解策略和检测方法，加深对各种因素如何危害人工智能系统的理解

这种方法将使研究人员、开发人员和政策制定者能够系统地解决人工智能系统中的漏洞，确保其开发更加可靠、透明和负责

另一个相关的网络安全实践是软件物料清单（SBOM）。SBOM列出了软件产品的所有组件，提高了透明度，并允许用户识别代码特定部分的漏洞。对于人工智能，可以开发一个类似的人工智能物料清单（AI BOM）来详细说明人工智能系统是如何创建的，包括数据源、算法和测试过程。人工智能BOM将提高透明度，促进错误或偏差的跟踪，并使开发人员对其系统负责

网络安全中的供应链安全原则也为人工智能提供了宝贵的见解。通过结合严格的测试和透明度实践，人工智能技术的开发和测试可以与网络安全一样严格。这将降低漏洞风险，提高整体可信度

随着人工智能不断发展并越来越融入日常生活，解决其风险至关重要。从网络安全中吸取的经验教训为管理这些风险提供了明确的路线图。我们可以通过采用NVD和SBOM等框架，以及为AI特定漏洞开发结构化分类，来构建更可靠、更透明的AI系统。跨部门的合作至关重要，因为人工智能风险跨越了各个行业，零敲碎打的方法是不够的。必须促进政府、学术界和私营部门之间的合作，以创建统一的人工智能安全方法。投资于正在进行的人工智能伦理和风险管理研究，将进一步确保人工智能的好处得以实现，同时最大限度地减少其潜在的危害

最终，人工智能的未来取决于有效管理风险的能力。通过借鉴成功的网络安全战略，我们可以开发一个有弹性的框架，促进人工智能技术的负责任发展，确保它们积极服务于社会，同时防范其固有的危险

Georgianna Shea博士是民主防御基金会网络与技术创新中心（CCTI）的首席技术专家

Zachary Daher曾于2024年夏天在FDD实习。Daher先生是美国西点军校的网络科学专业学生

图片来源：Anggalih Prasetya/Shutterstock.com.

简介