今年3月，包括埃隆·马斯克在内的数千位科技领袖签署了一封公开信，要求人工智能实验室停止开发下一代培训系统至少六个月。在其他研究领域也有这种暂时暂停的先例：例如，2019年，科学家们成功地呼吁暂停任何将可遗传DNA传递给转基因儿童的人类基因编辑

虽然人工智能领域的停顿不太可能发生，但至少这意味着美国终于开始意识到监管人工智能系统的重要性

人工智能不会暂停的原因是多方面的，而且不仅仅是研究本身。暂停提议的批评者认为，监管或限制人工智能将有助于中国在人工智能发展方面取得领先，导致美国失去军事和经济优势。可以肯定的是，美国必须保障其公民的安全。但在符合美国利益的情况下，如果不监管人工智能或与中国协调，将危及美国公民

历史告诉我们，这种担忧不仅仅是理论上的。作为总统候选人，约翰·F·肯尼迪发明了“导弹缺口”的说法，让德怀特·D·艾森豪威尔总统在国防方面显得软弱，声称苏联在核导弹部署方面正在超越美国。肯尼迪的言论可能在政治上帮助了他，但也阻碍了与苏联领导层的合作。从历史上看，军备竞赛往往更多地由国内经济和政治驱动，而不是由对外部威胁的理性反应驱动

中国对人工智能的监管实际上比美国甚至欧盟严格得多，而且在未来几年可能会受到美国半导体出口管制的阻碍，在人工智能发展方面远远落后于美国。就像冷战时期的核军备竞赛一样，今天的美中人工智能竞争在很大程度上受到国内力量的影响，如私人利益集团、官僚内讧、选举政治和公众舆论。通过更好地了解这些国内力量，美国的政策制定者可以将美国、中国和世界面临的风险降至最低

私人利益。在美中人工智能竞争中，开发人工智能系统并促进自身利益的公司可能会游说反对国内或国际人工智能监管。这是有历史先例的。2001年，美国拒绝了一项加强《生物武器公约》的议定书，部分原因是美国化学和制药行业的压力，他们希望限制对其设施的检查

美国人工智能公司似乎意识到使用其产品的风险。OpenAI宣称的使命是“确保通用人工智能造福全人类”。DeepMind的运营原则包括承诺“在人工智能领域充当负责任的先驱”。Deep Mind的创始人承诺不会研究致命的人工智能，谷歌的人工智能原则表示，谷歌不会为伤害人类的武器部署或设计人工智能，或违反国际规范的监视

然而，已经有令人担忧的迹象表明，商业竞争可能会破坏这些承诺。谷歌担心OpenAI的ChatGPT可能会取代其搜索引擎，并告诉员工，在部署新的人工智能系统时，它将“重新校准”准备接受的风险。虽然与国际协议没有严格关系，但此举表明，科技公司愿意在人工智能安全问题上妥协，以回应商业激励

另一个潜在的令人担忧的发展是在人工智能初创公司和大型科技公司之间建立联系。OpenAI于1月与微软合作，谷歌于2014年收购了DeepMind。收购和合作可能会限制人工智能初创公司以降低风险的方式行事的能力。例如，DeepMind和谷歌自合并以来就在DeepMind项目的治理问题上发生了冲突

游说也可能增加风险。大型科技公司都是经验丰富的游说者：亚马逊在2022年花费了2140万美元进行游说，成为第六大支出者；Meta（Facebook、Instagram和WhatsApp的母公司）以1920万美元位居第十；Alphabet（谷歌母公司）以1320万美元位居第19位。去年，大型科技公司增加了对美国外交政策智库的捐款，以推动更严格的规则将损害其与中国竞争的能力

未来，军事人工智能系统的供应商可能会通过游说开发更先进的武器系统，或通过反对限制其未来销售的军备控制协议，增加人工智能军备竞赛的机会。这可能还有很长的路要走。非营利公共政策组织布鲁金斯学会的分析发现，在过去五年中，95%的联邦合同中都有“人工智能”，用于专业、科学和技术服务（基本上是用于研发的外部资金）。同一项分析发现，共有307家不同的供应商和474份合同

综合来看，这一分析表明市场不成熟，许多较小的供应商专注于开发人工智能系统，而不是更大的硬件或软件供应合同，这在军事采购中更为典型。然而，在未来，更大的军事人工智能合同和更集中的供应商基础可能意味着军事人工智能供应商的游说力度加大，军事人工智能军备竞赛的可能性也会增加

官僚政治官僚政治曾多次加剧冷战时期的核军备竞赛。正如Slate专栏作家、几本关于军事战略的书的作者弗雷德·卡普兰所描述的那样，空军和海军一再提出新的核战略和理论，为他们提供更多的核武器预算。例如，海军的智囊团提出了“有限威慑”，这表明美国可以通过在潜艇上部署相对少量的核导弹来威慑苏联，从而消除对大量核轰炸机和导弹（由空军操作）的需求

官僚激励往往会导致组织试图积累比从国家角度来看最佳的更多的资源和影响力。尽管目前最前沿的人工智能开发是在私营部门进行的，但这种情况可能会改变。历史表明，随着一项技术的战略重要性和成本的增长，国家对其开发和部署施加控制的倾向和能力也将增长

尽管目前私营部门占据主导地位，但人们对公共部门开发的人工智能的担忧还有另一个原因，尤其是国防部门。正如美国前海军部长理查德·丹泽所写的那样，技术的军事开发和使用往往风险特别大，原因有几个：保密使监督和监管更加困难；战争环境的不可预测性；以及军事行动的对抗性和不受约束的性质。军方已经在美国政府的人工智能支出中占了很大比例。

无论军方如何使用人工智能，任何人工智能军备控制举措都可能受到抵制。军备控制协议几乎总是干扰国防机构内一个或多个团体的利益。军事支持对批准特别重要，这就是为什么面对参谋长联席会议的抵制，肯尼迪总统不得不放弃推动全面禁试的努力

选举政治和公众舆论外交政策和选举政治之间的关系并不简单。2005年发表的一篇有影响力的论文发现美国的外交政策“最受国际商业领袖的影响，其次是专家”，对有组织的劳工团体的影响较小，公众舆论的影响非常微弱或根本没有。（然而，需要注意的是，并非所有研究人员都同意这一发现：许多案例研究和实验发现，在某些情况下，公众舆论确实会影响决策者。）

研究表明，公众舆论对高度突出的问题更为重要，即被视为特别显著或重要的问题。对于那些（正确或错误的）感觉不那么相关的问题，公众舆论并没有发挥那么大的作用。例如，选民通常不太关心贸易政策：他们不知道政治代表的贸易政策立场，因此贸易政策不会影响他们的投票行为。“秘密国会”理论认为，就更隐蔽、因此在政治上不突出的主题通过立法要容易得多，如果人工智能政策问题在政治上突出，各方在这些问题上存在分歧，那么通过减少人工智能风险的法规和条约就要困难得多。

目前，人工智能太深奥了，在政治上不突出，尽管这种情况正在开始改变。人工智能政策的选举政治被对与中国战略竞争的更广泛担忧所掩盖。在美国，精英舆论、商业舆论和公众舆论已经转向与中国的接触已经失败，现在需要采取更具对抗性的方法。美国目前的对华政策——包括加速美国人工智能发展和限制中国人工智能进步——得到了两党的支持

然而，如果一方在与中国有关的政策问题上变得更加鹰派，那么公众对人工智能的看法可能会相应分裂，鹰派政党的支持者对在人工智能政策上的合作不太看好。核武器可能在过去就发生过这种情况。有证据表明，奥巴马2009年在布拉格的演讲中宣布“美国致力于寻求一个没有核武器的世界的和平与安全”，这导致裁军与奥巴马个人有关。这使军备控制和裁军问题沿着党派路线两极分化，使未来的政策制定更加困难

如果人工智能政策问题确实在政治上变得突出，历史和政治学文献表明，选举政治可能会在许多方面阻碍军备控制。例如，如果军备控制政策陷入党派政治，制定和实施就会变得更加困难，特别是考虑到批准条约需要参议院三分之二多数票

过去，政治团体在一些核问题上持鸽派立场，而在另一些问题上持鹰派立场。例如，纳恩-卢格合作减少威胁计划与前苏联各州合作，拆除并保护冷战遗产，该计划得到了两党的大力支持，尽管军备控制协议面临许多共和党人的抵制。某些核问题是特殊的。例如，由于与以色列安全的联系，伊朗问题以不同于其他核问题的方式被政治化：许多原本是犹太人或代表犹太人占多数的地区的自由民主党人对伊朗持鹰派态度。人工智能可能是相似的，在人工智能政策的某些方面进行政治合作，在其他方面则出现党派僵局

最后，值得注意的是，人工智能的大量潜在用途意味着人工智能将以显著的方式频繁地影响人们的生活。然而，这些应用程序不太可能统一为支持或反对人工智能的观点。公众对人工智能外交政策的看法可能会类似于其他与技术相关的外交政策问题——两个主要政党根据其鹰派程度而分裂

美国需要达成一个棘手的平衡。一方面，促进人工智能发展可以创造经济和社会效益，政府有责任通过保持技术优势来保障美国公民的安全。另一方面，如果人工智能监管不够完善，美国和中国不能在必要时进行合作，整个世界都可能面临风险

达到这种平衡就像走钢丝。国内力量有可能使美国失去平衡

简介