简介

如何管理人工智能（AI）的问题理所当然地成为美国立法者和政策制定者的首要考虑。ChatGPT/GPT-4o、Claude、Gemini和Microsoft Copilot等高性能大型语言模型的开发进展表明，人工智能可能对充满机遇和风险的社会产生潜在的变革性影响。与此同时，欧洲的国际合作伙伴和中国等竞争对手正在朝着人工智能治理迈出自己的步伐¹在美国和国外，公众对人工智能潜在影响的分析和猜测通常包括一系列内容，从一端的乌托邦——人工智能对社会极为有益——到另一端的反乌托邦——一种可能导致人类终结的生存风险——以及两者之间的许多微妙立场

LLM在2023年引起了公众的关注，并引发了人们对存在的人工智能风险的担忧，但其他模型和应用，如预测模型、自然语言处理（NLP）工具和自主导航系统，也可能导致今天的无数危害。挑战包括基于糟糕或扭曲输入数据的歧视性模型输出、人工智能军事武器系统的风险，以及人工智能自主系统的事故

鉴于人工智能的多方面潜力，在美国，灵活的人工智能治理方法提供了最有可能取得成功的途径。各种人工智能系统的不同发展轨迹、风险和危害使得一刀切的监管方法的前景即使不是不可能，也令人难以置信。监管机构应该开始通过应对当今挑战的重任来增强实力。即使早期的监管工作需要定期修订，重复和反馈的循环也会改善肌肉记忆，这对管理风险尚不清楚的更先进的未来系统至关重要

2023年10月，拜登总统关于人工智能的安全、可靠和值得信赖的开发和使用的行政命令，以及拟议的两党人工智能监管框架，为在美国建立全面的人工智能治理方法提供了有用的起点²这些都是美国司法部、联邦贸易委员会以及美国平等就业机会委员会等联邦机构现有声明和政策的基础³

为了使未来的人工智能治理工作证明最有效，我们为美国决策者提供了三条原则。我们从CSET广泛的原创深入研究中得出了这些主题原则——安全与新兴技术中心|2，以及我们在本报告中引用的关于人工智能不同方面的精细发现和具体建议。它们是：

了解人工智能风险和危害的地形：使用行业、学术界和政府的事件跟踪和地平线扫描来了解人工智能的风险和危害程度；收集支持数据，为治理工作和管理风险提供信息
让人类做好利用人工智能的准备：在政策制定者和公众中培养人工智能知识，以意识到人工智能的机会、风险和危害，同时有效、负责任、合法地使用人工智能应用程序
保持适应性和灵活性：制定可以随着人工智能的发展而更新和调整的政策，避免繁琐的法规或随着技术进步而过时的法规；确保立法不允许现有的人工智能公司通过监管捕获来排挤新的竞争对手

这些原则是相互关联和自我强化的：不断更新对人工智能领域的理解将有助于立法者保持敏捷和对最新进展的反应，并为不断发展的风险计算和共识提供信息

人工智能治理的启用原则

对欧洲来说，《欧盟人工智能法案》是人工智能监管的重要组成部分。参见：Adam Satariano，“欧盟同意里程碑式的人工智能规则”，《纽约时报》，2023年12月8日，https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html; Mia Hoffmann，“欧盟人工智能法案：初级读本”，安全与新兴技术中心，2023年9月26日，https://cset.georgetown.edu/article/the-eu-ai-act-a-primer/.另见“欧盟人工智能法案：欧盟人工智能法的最新发展和分析”。《欧盟人工智能法令》，2024年，https://artificialintelligenceact.eu/.例如，对于中国，请参阅CSET翻译的《上海市人工智能产业发展促进条例》，上海市第十五届人民代表大会常务委员会，最初于2022年9月23日发布，https://cset.georgetown.edu/publication/regulations-for-the-promotion-of-the-development-of-the-artificial-intelligence-industry-in-shanghai-municipality/.
白宫，“关于人工智能的安全、可靠和值得信赖的开发和使用的行政命令”，2023年10月30日，https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/; 管理和预算办公室，总统办公厅，OMB备忘录M-24-10，“推进人工智能机构使用的治理、创新和风险管理”（2024），https://www.whitehouse.gov/wp-content/uploads/2024/03/M-24-10-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-Artificial-Intelligence.pdf.2023年9月，美国参议员Richard Blumenthal（D-CT）和美国参议院隐私、技术和法律小组委员会主席兼高级成员Josh Hawley（RMO）提出了《美国人工智能法案两党框架》。该框架要求建立一个由独立监督机构管理的许可证制度；确保对人工智能造成的伤害追究法律责任；促进透明度；保护消费者和儿童；以及在国际竞争中捍卫国家安全。参见参议员Richard Blumenthal和参议员Josh Hawley，“美国人工智能法案的两党框架”，参议院隐私、技术和法律小组委员会，2023年9月7日，https://www.blumenthal.senate.gov/imo/media/doc/09072023bipartisanaiframework.pdf.参议员查克·舒默（D-NY）介绍了一个围绕人工智能的高级SAFE创新框架。参议员舒默框架中的首字母缩写SAFE代表安全、问责、基础（民主价值观中）和解释（即“确定联邦政府需要人工智能开发人员和部署人员提供哪些信息，以更好地管理公共利益，以及公众需要了解哪些关于人工智能系统、数据或内容的信息。参见参议员查克·舒默，“安全创新框架”，2023，https://www.democrats.senate.gov/imo/media/doc/schumer_ai_framework.pdf.
劳工部，“关于在自动化系统中执行民权、公平竞争、消费者保护和平等机会法的联合声明”，2024年4月，https://www.dol.gov/sites/dolgov/files/OFCCP/pdf/Joint-Statement-on-AI.pdf.