本文是《转向人工智能》专题的一部分。要查看此特殊主题中所有文章的完整列表，请单击此处：https://journals.sagepub.com/page/bds/collections/theturntoai

简介

自媒体和各类专家宣布全面的“人工智能革命”开始以来，已经过去了几年，这是新开发的机器学习技术的显著兴起以及许多公司迫切需要将其更智能的创新融入日常生活的结果。事实上，在这方面，人工智能（AI）领域已经取得了惊人的进步，不仅在平台的数字领域，而且在我们的物质、即时环境中，这些环境越来越受到同样令人沮丧的归纳和分类矩阵的影响。相反，社会科学和人文学科则明显落后于该党。对这些正在进行的变革反应缓慢，但在很大程度上，它们仍可能被描绘为杂乱无章，对等待的一切毫无准备。那么问题是，需要什么来发展更好、更具包容性和纲领性的观点？第一组这样的条件涉及我们的学科和他们要评估的技术的背景化。互联网、网络和新媒体研究等领域已将重点从在线社交和大数据转移到算法和算法文化（Roberge等人，2019；Roberge和Seyfert，2018）。今天的人工神经网络和其他机器学习变体都借鉴了上述研究对象；然而，他们做得不均衡，而且有一种令人不安的习惯，即创建灵活的（如果不是的话）临时组合，很难确定。反向传播、递归循环和其他此类微妙之处正在从内到外塑造新的数据架构，同时也在与来自外部社会-世界的数据进行交互和处理（L'Heureux等人，2017），从而再次证明了决不忽视这些系统运行的环境是多么重要翻译的概念将是第一种情况。由Callon和Latour等人开发（Akrich等人，2002a，2002b；Callon，1984；Latour，2005），传统上，它被用于描述当一个科学对象从一个状态或情况转移到另一个状态时发生的事情——一个相关的例子是正式数学融合到当今深度学习的进步中（Mackenzie，2017）。从计算机科学的测试项目到商业化产品的大规模发行，不仅创新已根据外部世界的要求进行了微调，而且外部世界本身也已根据即将到来的新颖性进行了微调。当人工智能在社会各个角落传播时，正是通过这样的翻译，关于它所做（或可能很快会做）的解释被建立为主流知识。第一节将更详细地讨论这一点，但现在足以说明，翻译的概念可以解释整个范围的炒作、神话、预测和象征性歧义，正如在更多的诠释学和批判传统中一样（Roberge，20112016）。然而，翻译永远不应被认为是在以太中进行的无实体过程；如果译者没有适当的注意，这种意义的位移就不能准确地表达出来。谁说话？通过哪些渠道，取得了多少成功？回到翻译社会学的一个核心概念，我们如何管理问题化的艺术，即预先确定要解决的问题，从而对所有相关行为者的角色提出某种理解（Callon，1984）？在这篇文章中，我们想指出（i） 翻译-译者问题化问题化问题允许对人工智能进入公共领域的方式进行新的理解，显示出译者是多么的根本不平等，以及目前部署的问题化过程实际上是其自身非常局部和区域性的解决方案。对于译者、支持者等来说，对人工智能的局限性和可接受性提出问题的行为构成了一种语境化、表演性和研究不足的努力的答案和时都会出现并结合起来，而形式的批评本身就是语境和表演性的。通过调动最近各种类型和利害关系的例子，我们想论证（ii）与日益密集和融合的理由相比，机器学习系统的当前发展得益于一种分散的（如果不是潜在的）批评。在这一点上，第一节将继续，进一步发展当今大规模部署人工智能技术的潜在动力，即在控制的合理性和逻辑方面产生的影响。这种部署应该被理解为生成性的或执行性的，因为它围绕着模棱两可的、但更有效、更自我实现的预测。同时，这代表了我们要提出的第三个主要论点，即：（iii）今天将见证的是一种高度控制论形式的力量的崛起，通过、通过并支持一系列被模糊地称为“AI”的技术发展，接下来是三个更小、更具实证性的部分，每个部分都介绍了代表研究、经济和政治领域当前发展的具体案例研究。因此，我们打算响应著名学者关于开展更多原位调查的重要性的呼吁（Kitchin，2014；Mackenzie，2017）。将这一经验焦点与米歇尔·德·切托（Michel de Certeau）在《多元文化》（1974年）中提出的“i”非多重概念相结合，我们的目标是强调这三个案例中的每一个都是如何说明人工智能在本体论和认识论上作为其自己的群岛出现的方式：其每一个部署都可以被显示为同时是多重的、不同的、，而且是可公度和相互关联的。在第二节中，我们分析了《蒙特利尔人工智能负责任发展宣言》，将其作为利益相关者如何通过宣扬道德人工智能的福音，同时避免实质性承诺，来确立辩论的条件的主要例子。第三节重点介绍了马克·扎克伯格2018年的国会听证会，因为这些听证会展示了该公司利用机器学习解决诸多问题的方式。扎克伯格几乎不是最有魅力的演说家，但他还是设法给出了足够模糊的、完美的、表演性的回答，从而绕过了对审讯者的拙劣批评。最后，第四节重点介绍了人工智能参与者参与各种问题化努力的方式，这些努力旨在重新定义自主武器系统周围的规范环境，以及解释2018年停止杀人机器人运动失败原因的不同要素

理论架构：翻译、正当性和控制论

描述卡隆和拉图尔的翻译社会学的所有细节和分支可能既不可能也没有帮助。最简单地说，翻译指的是桥接和连接的行为，即“通过将以前不同的事物联系起来，创造趋同和同源性”（Callon，1981:211）。在语篇领域，翻译通过传播通用和易于使用的语言参与意义的产生。在行动领域，翻译允许行动者之间的联系和双向影响，无论他们是非人类的“行动者”；类人，如大型组织；或“真正”的人，如体现更广泛群体的领导者或发言人。这就是Callon及其同事的“网络”质量STS方法，因为它可以解释下伏流的准构造位移以及发生的更个性化的动力学。“创新的命运，”他们说，“完全取决于代表或发言人的选择，他们将进行互动、谈判以塑造项目”（Akrich等人，2002b:217）

所谓的“AI教父”和2018年图灵奖的最新获奖者，即杰弗里·欣顿（Geoffrey Hinton）、Yann LeCun和Yoshua Bengio，可以作为翻译者概念的主要例子（Metz，2019）。他们“共同工作”的想法尤其重要，因为他们象征性地相互依赖，传播他们关于连接主义机器、通过归纳法进行预测等的核心价值观和观点（见Cardon等人，2018）。然而，这一共同努力仍然转化为处理问题化任务的截然不同的方式，每一种方式都对应于所说的研究人员打算让社会参与人工智能实施带来的各种问题的不同程度。毫无疑问，在这三家公司中，Bengio是对社会和政治事务投资最多的公司。他在围绕《蒙特利尔宣言》动员政治和民间社会行动者方面发挥了重要作用，他是反对所谓“杀人机器人”运动的重要人物，这两个议题我们将很快讨论。现在，让我们简单地强调一下，这两个项目如何显著提高了知名度，并显著提升了Bengio作为人工智能领域的中间人和问题人物的角色

“采用创新就是适应创新”应被视为翻译社会学中的一句口头禅（Akrich等人，2002b:209）。因此，核心是这个问题化的过程，其中涉及到谁、发生了什么、何时发生以及为什么发生等问题，至少应该被默认地解决。翻译者是那些在确定相关行为者、动员他们所做的事情以及确定他们能够贡献什么从而参与更广泛的合法化努力方面取得一定成功的人。这种努力是否具有战略意义？它是否高度情境化？这是肯定的；如Akrich等人。观察到，“正如在所有谈判中一样，可能的战略是无限多样的。为了达成妥协，需要动员的手段是环境问题”（2002b:210；增加了重点）。当前的人工智能部署是这种动态的一个主要例子。一方面，它表明了如今仍然只有少数翻译人员具有实际影响力：著名科学家，以及谷歌或Facebook等大型企业，通常在国家机构的支持下，投入资金和/或象征性资源，以提高人工智能的社会可接受性<另一方面，必须特别注意使案件独特的“地区”情况。举魁北克省为例，该省依靠四个支柱计划：由政府资助的产业集群、蒙特利尔的Citéde l'IA、人工智能社会影响国际观察站，以及与本吉奥相关的道德宣言（Roberge等人，2019）。此外，战略和背景元素都有能力表明，在人工智能部署的情况下，问题化本身就是一种特殊的“解决方案”（Morozov，2013）。陷阱、风险和危险几乎没有被陈述出来，当它们被陈述出来时，主要是表示一种模糊的意识

翻译是表演性的，因为它们被陈述给观众听和理解。更广泛的回应和解读是最重要的，因为它们可以为卡隆理论的更“文化主义”的后续行动提供依据。“（我）认为，如果没有某种共享的、尽管解释灵活的指导性愿景，很难想象技术发展和创新的形成，”Borup等人。（2006:289）注。投机、欲望、期望等在强大且往往充满感情的言辞的激励下，向四面八方涌来。作为一个整体，这些故事为更广泛的想象和叙事提供了信息，这些想象和叙事在本质上是真实的神话（Elish和boyd，2018）。人工智能目前享有深刻而多方面的宣传，这可能源于不确定和偶然的未来带来的那种模糊性<炒作、歧义和效率齐头并进。Guice写道：“Hype对信息内容的关注度很低，但它直接说明了信息与社会背景的相关性”（1999:85）和时构造的。然而，这并不等同于提出他们是平等的论点。这对于理解人工智能部署的当前状况来说无疑是至关重要的。评论的译者是谁？他们在哪里工作？他们使用了哪些实际和象征性的影响模式？通过将反对人工智能技术部署的批评声音与LeCun或Bengio等明星研究人员、Facebook或亚马逊等强大公司以及国家行为者的声音进行比较，人们很快得出结论，他们根本无法进行比较。然而，这并不是说批评已经消失。这意味着，它要么以一种潜伏的形式存在，比如说，对奇点或天网的遥远恐惧，要么以分散的、零散的模式存在，在这种模式下，争论和/或参与者很难联系和协调。我们在第二节、第三节和第四节中讨论的不同案例说明了这一语境但又包含的逻辑，即批评或多或少地被辩护性话语所中和，如果不是循环利用的话。更明显的是，在这场决定性的两人行中，辩解最终只会给批评留下很小的余地

通过性能实现的合法性、问题化成为实际解决方案，以及由正当理由支持的批评，所有这些都将为一个由人工智能驱动的勇敢的新世界提供信息，人工智能是一个临时、不断变化和自适应的世界。简言之：这种部署以一种高度令人联想到罗伯特·默顿（Robert Merton）（1948年）“自我实现预言”的观点的方式完成了一个完整的循环。本文以这一关键概念为基础，同时通过源自控制论的理论改进。，控制通过沟通和反馈来产生环境变化的广义概念。例如，Halpern描述了一种在系统中运行的理性，“既可以承认也可以否认自己的历史，这体现在加快投机速度的同时加强数据收集和存储的基础设施”（2014:236）。人工神经网络为这一逻辑提供了有力的例证。他们的整个架构和操作方式依赖于反向传播机制，即能够将模型初始输出中的误差解释为信号，从而允许不断调整后续过程中使用的参数（Mackenzie，2017）。这些强大的工具导致了一个实质上合理化和规范化的组合的出现，将其呈现为一个由博客、简报和宣传套件组成的整个家庭产业：“人工智能软件可以接收看起来像是一堆无法管理的、嘈杂的数据，”Gagné（2017）写道，“把它变成有用的东西：信号。噪音正在成为可管理的信息，有很多噪音可以利用”。这样一种旋转和循环的动态因此通知了AI进展的每一步和每一个方面。作为一门独特的技术科学、一个行业、一个参与者和意义的领域，人工智能及其统治被最好地描述为完全控制论。由于可扩展性和开放性在一个逐渐被a/B测试治理所主导的世界中处于重要地位，因此重点强调了依赖于数据驱动决策的闪电般快速和灵活的迭代生产过程。在越来越广泛的背景下，一种类似的风气开始占据主导地位，越来越多地决定了开展业务的方式，以及进入和接近世界的方式

译者和道德AI的自我调节视野

现在有一个由声明、框架、路线图、董事会、，以及致力于处理人工智能道德问题的类似机构：蒙特利尔和多伦多等城市已为《负责任发展人工智能宣言》和《保护机器学习系统中的平等和不歧视权利宣言》命名；由埃隆·马斯克（Elon Musk）赞助的开放式人工智能（Open AI）目前致力于安全的人工智能；亚马逊（Amazon）、苹果（Apple）、谷歌（Google）、脸书（Facebook）、IBM等正在推动“人工智能造福人类和社会的伙伴关系”（Partnership on AI to Benefit People and Society）。那么，问题是如何理解这些努力，也就是说，它们的共同点是什么，使它们能够在这个时代占据如此重要的地位？根据第一节中提出的理论考虑，我们可以肯定地认为，我们所看到的是翻译转化为问题，然后发展为理由。恐惧需要解决，解读需要缓和，敏感性需要找到一种可以沟通的语言。正如Greene等人。注意，“为道德设计建立道德背景部分是为了塑造公众认知”（2019:8）。然而，正是所使用语言的概念性和表达性，也标志着这些伦理话语的局限性，它们的结构本身就是“言语行为”，既显示了又隐藏了（Ricłur，1998）。当今合乎道德的人工智能家庭手工业的一个显著特点就是所提出的术语的模糊性：幸福感、透明度等等。模糊性有助于思想的流动，从这个意义上说，模糊性既具有表现力，又具有适应性。此外，正是这种模糊性允许在特定环境中参与。如下文所示，当地的道德人工智能倡议很受关注，因为它们通常指向他们几乎无法控制的全球发展。例如，他们处理在当地生态系统中使公共投资合法化的特定约束条件的方式是，运营一种“蒙特恩-盖恩-德”（montée en généralié），这本身就是为了避免批评开发和部署创建道德框架AI”；“引导数字转型，使每个人都能从这场技术革命中受益”；以及“为国家和国际对话打开空间”（IA Responsible，2018；我们的重点）。在这里，人工智能技术的发展被认为是不可避免的，就像技术革命是被视为目的论确定性一样。有问题的是，这些指导原则没有提及或计划质疑这些技术是否安全、是否应该开发，或者某些监控技术是否应该被视为非法。此外，他们所指的国家和国际对话指出了当前人工智能技术的部署并非仅在当地政治背景下才能处理的问题，矛盾地揭示了他们自身努力的极限

在《宣言》中进行更深入的挖掘，以及它混淆了认识论问题。这种方法被称为“共同创造”和“共同建设”，这是一个如今越来越流行的概念，尽管它尚未在文献中找到坚实的理论基础。相反，这样一种方法使社会科学家所能提供的工作和专业知识短路，而不是简单地被警告或被认为患有“象牙塔”综合症。这些讨论仍然可能富有成效，但它们面临着从历史、法律、社会或经济分析中获得的信息较少的风险。事实上，规避社会科学专家——即那些愿意采取激烈姿态的学者（Crawford，2016）——意味着绕过了强有力的制衡机制。就其自身而言，《蒙特利尔宣言》有意避开这种潜在威胁。虽然它倾向于建立在应该的基础上，但很少有精力致力于目前已知的人工智能部署。因此，合法性被外包给一个抽象的集体，因为软共识似乎是来自魁北克的解决方案远距离治理：要驾驭当前的复杂性，最好瞄准一个尽可能遥远的地平线，并希望达到最好的效果。例如，魁北克省政府没有计划进行数据隐私改革，对面部识别技术只字不提，对人工智能对就业市场和高等教育的影响只有模糊的理解。因此，它的观望态度在很大程度上对实际问题保持沉默，主要取决于欧洲和美国的政治和经济情况（例如，关于欧盟《通用数据保护条例》（GDPR）的演变）。在这种据称去文本化和高度控制论的背景下，《蒙特利尔宣言》似乎介于瓦格纳（2018）所称的“道德清洗”和“道德购物”之间。选择性原则和慈善原则构成了一种拼凑，以某种方式保护自己免受任何制衡、法规、约束或反对。但这些在防止偏见方面不是至关重要的吗，偏见和AI中的道德丑闻？到目前为止，正如《蒙特利尔宣言》以及谷歌最近因其短暂的人工智能道德外部咨询委员会（包括一家无人机公司的首席执行官和一家右翼智库的总裁）而遭遇的失败一样，这种自我管理的药物似乎更加危险（Levin，2019）

机器学习的解决方案和正当的表现：扎克伯格的证词

2018年4月初，Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）出现在美国国会举行的公开听证会上，这是该公司历史上的决定性时刻之一。事件的中心是关于剑桥分析公司在特朗普2016年总统竞选期间利用超过8700万Facebook用户的个人数据创建所谓的个人选民“心理”档案的指控（Rosenberg等人，2018）。大多数媒体都报道了听证会的悲喜剧方面，因为扎克伯格的不安和明显缺乏虚张声势被一些当选官员透露的近乎滑稽的技术无知所抵消（Newton，2018）。然而，一项更为关键和有力的调查会发现，整个崩溃的责任被两次推迟。首先，民选官员似乎更倾向于听取扎克伯格在监管问题上的意见，而不是在谈判中实际发挥主导作用。第二，这位不太有魅力的首席执行官本人一再回避有关问责制的问题，转而将机器学习的内容节制系统推广为解决整个崩溃的解决方案。人工智能守门的技术局限性被已经在酝酿中的技术进步所淡化。总之，扎克伯格的证词高度象征着一种象征性的、技术官僚的、控制论的“权力仪式”，它融合了预测和预言，从而使其主要对手——译者——获得了代理权，即有时间实施承诺的拯救性变革，并有相应的政治空间

在长达两天的证词中，扎克伯格（2018b）非常强调他明确设想的他最喜欢的解决方案，即越来越多地使用机器学习系统，先发制人地根除有害内容：“Facebook上的大量内容使得我们所能雇佣的（再多的）人也不足以审查所有内容。我们需要依靠并建立先进的人工智能工具，帮助我们标记某些内容。”，许多专家认为，文本和图像处理仍然缺乏正确解读上下文和含义的能力（Gillespie，2017）。扎克伯格（2018b）在证词中承认了这些技术上的反对意见——“有些问题比其他问题更容易获得人工智能解决方案。因此仇恨言论是最困难的问题之一，因为确定某件事是否是仇恨言论在语言上非常微妙，对吧？”-尽管如此，Elish和boyd称之为“大数据和人工智能的魔力”的纯粹承诺价值还是被规避了：“通过呼吁一个迫在眉睫但总是遥不可及的未来，技术目前能做的事情不如他们未来可能做的事情重要”（2018:10）。举个例子，扎克伯格（2018a）的言论无法更好地描述为：“我乐观地认为，在5到10年的时间里，我们将拥有人工智能工具，可以了解不同类型内容的语言细微差别。”，因此，这位Facebook首席执行官设法避免了任何针对他的审问或攻击

但对于Facebook、YouTube或任何其他数字平台来说，真正开发和实施有效的内容适度机器学习系统意味着什么？当考虑到Gillespie（2010）所称的平台“甜蜜点”时，人工智能守门人必须被解释为相当的战略调整。“面对数字平台现在要承担责任的重大事件，缅甸军方最近在针对罗兴亚人的行动中使用Facebook就是一个很好的例子。偏离他们的正当性Facebook的代表们现在必须在他们即将离开的免责立场和他们仍在积极努力避免的全部责任之间达成新的平衡。这种重新定位是通过一种双管齐下的合法性主张来实现的：进行“大规模民主进程”，旨在确定文化-以及特定国家的温和准则-“扎克伯格说，这个想法是让社区中的每个人都可以选择如何为自己制定内容政策”-然后通过机器学习工具（扎克伯格，2017）。这一过程的民主知情、自动化，因此具有中立性和代表性，这为Facebook提供了必要的空间，以支持其新的、模糊的、非政治化的修辞姿态。人工智能把关被描绘为有效、可扩展的解决方案，是对有害或非有害内容的公正仲裁者，因此允许编辑企业的非政治化，并使Facebook与其所追求的“在线中介”地位和由此产生的相对党派豁免权相协调

因此，扎克伯格对人工智能内容节制系统的显著强调必须被理解为更大计划的主动组成部分。反过来，这一努力旨在将有关数字平台“监管”的持续讨论集中在道德和治理方面，即在避免与控制更直接相关的社会问题（即谁拥有执行决策的权力）的同时，可能或应该做什么。事实上，当被问及扎克伯格平台的主导地位时，我们在一些场合看到了他明显的不适。也许这种不安的最好表达发生在一位民选官员询问时：“如果我买了一辆福特，但它不好用，我不喜欢它，我可以买一辆雪佛兰。如果我对Facebook感到不满，我可以去注册什么样的同等产品？”？ … 你不觉得自己垄断了吗？”-对此，首席执行官简洁地回答道：“我肯定不会这么想”（引用于《大研》，2018年）。此外，一张泄露的扎克伯格准备笔记的照片显示，如果在这个问题上受到压力，他准备为强大的美国数字玩家的重要性辩护，以抗衡中国企业日益增长的影响力（Cadwalladr，2018）。因此，首席执行官在处理这一系列问题时犹豫不决，暗示了Facebook打算利用人工智能解决方案的推理手法——即，如何将其解释为对遇到的任何问题进行修复，以消除任何其他批评。作为对假新闻、恐怖宣传和日益增长的中国经济实力的回应，“未来5到10年的人工智能工具 “年”将（从修辞上）扩大规模，以对抗任何进一步的指控正确规则是什么？”（引用于Ward，2018；添加了强调）。在整个证词中，他表示支持提高透明度，甚至模糊地承认欧盟GDPR原则的价值。那是什么呢？“正确”是什么意思，知道它很可能是有史以来最模糊的术语之一？一方面，这肯定与Facebook和扎克伯格在这里是务实的行动者这一事实产生了共鸣；他们明白，他们别无选择，只能与当局合作。诚然，现实政治是控制论。另一方面，与这种实用主义一致，同意监管似乎可以被视为在其制定过程中拥有发言权的最佳方式。扎克伯格的证词确实让一家公司的首席执行官得以被移交，这被称为民主危机，正是因为他在这场危机中所扮演的角色，他在即将到来的监管框架的定义中扮演着主导角色，该框架的任务是找出解决这场危机的方法

非法领土；或者如何应对杀手机器人

《蒙特利尔宣言》和扎克伯格的听证会展示了人工智能的参与者来处理它们经常引起人们注意的许多歧义，以及它们如何最终规避管理实体制定的监管措施。对致命自主武器系统（LAWS）及其目前争论和问题化的方式的调查揭示了一个更加模糊的图景，其中冲突既有内部冲突，也有外部冲突，而未解决的问题仍然是：有问题。在整个2010年代，LAWS一直是一个越来越有争议的话题，它被视为具有不同程度自主性的机器学习系统，可以实现上下文感知、目标定位以及（潜在的）致命开火决策的自动化。截至2018年4月，“至少381个部分自主的武器和军事系统”已在12个国家部署或正在开发中（Busby，2018）；这一发展要求人工智能领域全面重新考虑公认的责任和责任划分。值得注意的是，这种对道德景观的重新定义不仅涉及“谁开枪”的问题，而且还涉及到这种系统的开发者应该承担的责任，即“谁首先允许开发这种能力？”当前人工智能发展的两个方面使最后一个问题更加复杂。一方面，机器学习系统具有“操作通用性”；例如，计算机视觉工具可以像在作战任务中一样容易地用于灾难恢复工作。另一方面，人工智能科学家对应用开放科学原则的众所周知的重视（LeCun，2018）导致了相关技术的流通大幅增强，使得任何控制LAWS传播的尝试都变得更加困难

面对关于战场和实验室中发生的事情所引起的责任的广泛问题，人工智能领域一直并目前仍在经历一场相当严重的危机。与《法律与社会保障法》相关的活动理应合理接近的规范性环境正在不断变化，很少有参与者能够置身于辩论之外。我们的论点是，如此大规模的道德重新解释已经产生了各种规模和配置的大量问题化的承诺，所有这些都旨在重新划定道德和法律责任的界限。这种兴奋最终是由于人们普遍担心自己并不是一个在阻止许多人所期待的惨淡结局方面做得不够的演员是可以接受的。就微软而言，它在一份现已广为人知的宣言中，以爱国主义的美德，断然拒绝了其工人对道德高地的主张：“我们不会拒绝民主国家为保护我们享有的自由而选举的机构提供技术”（Finley，2019）

因此，这两个广为人知的案例培养了人工智能工作者在某种程度上反对与军方合作的叙事，但这种理解不应推广到整个科技行业。正如负责Maven项目的国防部副安全部长在该项目结束后所说，“该部门担心谷歌可能是煤矿里的金丝雀，但事实并非如此”（Simonite，2019年引用的作品）。事实上，科技与军方之间的合作正在快速增长，后者似乎非常了解如何调整与这一新人才库的互动。当被问及空军为促进与科技初创公司的合作所做的努力时，一位官员解释说，“灵活”的道德成本是他们方法的一个必要组成部分：“如果你不想与我们一起研究武器系统，但你确实想研究医学、绿色能源或数据分析，我们应该有一个适合合作需要的开放式大门”（Roper在Thompson，2019年）。这很好地表达了当前正在展开的问题化活动和边界绘制的一般模式。许多人工智能专家似乎有意与军事行为者合作只要这不意味着在明确致命系统上工作。因此，一位像Bengio一样与道德人工智能密切相关的人物表示，“没有什么可以阻止我们建立防御技术。杀死无人机的防御武器和针对人类的攻击性武器之间有很大的区别”（Knight，2018）。根据“防御”和“进攻”系统之间似是而非的区别，开发自动瞄准和射击系统是间接合法的，这以一种重要的方式改变了法律体系中仍在涌现和不断变化的规范景观的地形

尽管这场大规模的辩护和边界设定的企业主要在科技公司和人工智能工人之间展开，但这些非常相同的参与者中的一些人正在参与另一个独特的、如果交叉的问题解决领域。事实上，公司、他们大多是匿名的普通员工，以及人工智能领域更受认可的人物，都参与了一个可以被称为“山寨产业”的行业，包括声明、请愿书和公开信，声明他们原则上拒绝法律。简单地通过它们的标题，我们可以观察到随着时间的推移，这些拒绝的严重程度不断加剧，从《稳健和有益人工智能研究优先事项》（Russell et al.，2015）到《呼吁国际禁止人工智能武器化》（Kerr et al.，2017），致命自主武器承诺（生命未来研究所，2018年）。在大多数情况下，相同的名字再次出现，本吉奥和斯图尔特·拉塞尔是两位主要人物；但也应该注意的是，谷歌、微软和其他一些对军事合同并不陌生的人工智能开发人员的工作人员的大量签名。这些公开声明应反过来被联系起来，并被视为参与和整合了最新和知名的“制止杀人机器人运动”（2019）。当科技工作者和人工智能科学家正在应对伦理挑战时，在哪里划定界限不可跨越，例如，该运动旨在获得国家和民间社会实体的充分支持，以制定一项国际强制执行且具有法律约束力的禁止使用法律法规的决议（Motoyama，2018）。这一外交途径目前基本上失败了。当面临如上所述，至少有十几个国家已经在部署法律援助系统的事实时，该倡议似乎越来越晚。很简单，与许多人称之为“战争中的第三次革命”相关的战略利益太诱人了，主要地缘政治参与者无法避免开发这些系统

那么，当我们说了所有的话并做了所有的事情之后，我们可以从这些翻译中得到什么结果呢？许多来自计算机和社会科学的专家一致认为，某种法律最终成为军事行动的持久组成部分是必然的（Teffer，2018）——如果它们还没有成为的话。在这方面，还有待确定的是我们将在这些机器中发现的自主程度。即使按照这些标准，全自动防御系统（如Bengio等人物支持的防御系统）也很容易促成美国和中国等行为者之间的升级，从而导致全自动进攻系统的严峻后果。阻止杀人机器人运动以及许许多多的请愿书、承诺书和其他宣言，让签署这些宣言的人工智能科学家和工人将自己定位为反对LAWS部署的抵抗者，这可能只会减缓这一结果，同时将他们全部载入史册，作为某种程度上等同于在制造了第一枚核弹后在道义上抵制冷战升级的物理学家。这并不意味着这一结果是预期的结果，也不意味着该运动或其他举措是为此目的而专门利用的。相反，通过对法律提出问题并界定其合法性界限的多次尝试，这种对话最终占据了本可以用来质疑这种军事化技术发展最初出现的深层次结构性原因的空间。可以提出的问题与社会经济和社会政治背景有关，而不是关注应该赋予致命机器的自主程度，这些背景导致我们认为这些创新是不可避免的，包括开放科学对LAWS的影响，以及该领域最受尊敬的科学家对这一模型的接受始终存在问题

结论

这篇文章提出的第一个问题是与人工智能推动社会科学更新的不同方式有关的问题。特别重要的是STS学者面临的挑战，以及他们如何在确保追求更精确、更具经验依据的研究的同时扩大其批判范围。我们的论点是，上述问题的关键在于关键人工智能研究（CAIS）的可能性。这需要什么？具体而言，这样的智力努力是否能够应对人工智能技术在社会生活的各个方面的快速发展和高度可扩展的部署所带来的诸多挑战？毫无疑问，人工智能的实施是一种全面的社会现象àla毛斯；尽管其广泛的实用方面具有深远的影响，但当它们聚集在一起，形成一种文化丰富、神话般的语言时，其象征效应也可以说是如此。对于CAIS本身，这提出了与我们开发的三个主要概念相同的问题：（i）翻译，（ii）批评，和（iii）控制论适应。源自社会科学和人文科学的话语是二阶话语：它们重构，即翻译不同语境中的内容。然后，知道CAIS必然是一种翻译（不是绝对的，而是解释性的），这就创造了一种条件，在这种条件下，可以实现公平分析并找到动机。反过来，这使我们能够更好地理解CAIS的批判能力，同时也澄清了它在反身性方面的表现以及它对正当性话语的理解能力。继波兰斯基等人之后，上面经常出现的一个论点是，批评和辩护同时进行，这表明了持续需要提出稳健而精细的分析，这将我们带到适应问题，或者说需要在科学和社会上都具有相关性。由于与围绕人工智能部署的辩论太过相关或距离太远都存在风险，因此适当距离的问题仍然存在。

从前面开始，现在认识到自我怀疑很可能是CAIS的组成部分，但仍然可以得出一些肯定的结论。其中一个讨论的是过去的理论争论，这些争论被驳回，因为它们本身没有帮助，也没有反映人工智能部署的各种偶然现实。相反，我们试图强调翻译理念、发言人、问题化、正当性、合法性建设和适应性之间存在的连续性和富有成效的讨论，这是一种理性和务实的权力动态。这些概念与人工智能技术的社会、文化、经济和政治演变产生了共鸣，从而传达了许多意义，这确实为关于原位调查重要性的其他结论提供了信息。可以肯定，《蒙特利尔宣言》、扎克伯格的听证会以及围绕法律的问题化浪潮是三个截然不同的控制论领域。尽管它们的利害关系、范围和操作方式在许多方面都有所不同，但被解释为德塞托的不同但可通约且相互关联的多重，它们使我们能够更充分地理解人工智能的神话是如何作为社会工程的一种手段的，就像人工智能社会工程的前景似乎是一个正在展开的神话一样。这三个人工智能部署实例的共同点是，它们如何将模糊性和模糊性揭示为高度可执行性，情境化如何被显示为既不恰当的局部性也不恰当的全局性，以及“治理”和“伦理”等概念如何被视为工具性的空能指。此外，只有在一起，他们才能检验整篇文章中所做的更广泛的假设，从而回过头来为提出的理论提供信息。

这些假设中的第一个是双重的：人工智能翻译者基本上是不平等的，当前的问题化状态最好被描述为其自身的解决方案。当然，很难比较Bengio或Zuckerberg这样的人物的魅力，但也很难比较企业家。当谈到美好明天的承诺时，他们两人都处于最佳状态。在各自具有问题的事业中，他们调动象征性的以及财政和政治资源，以规避他们最初几乎没有意识到的问题。因此，适应意味着对当前正在发生的事情相当模糊。《蒙特利尔宣言》和Facebook国会听证会在这方面显示出惊人的相似之处，而关于法律的更复杂和悬而未决的争议对于这些动态来说仍然过于模糊和晦涩公开在这里，细粒度分析使我们能够处理这种模糊性的潜在成本。对于不是明星的演员来说，Bengio或Zuckerberg的议程设置和追求更高的原则面临许多障碍，这篇文章中的另一个关键假设与对人工智能的批评与其理由之间的根本差异有关，即人工智能如何从不停止从前者的许多弱点中获益。尽管上下文存在明显差异，但这三个案例研究在这里证明是非常一致的。针对魁北克省人工智能部署的不同声音很分散，仍然无法与明星翻译人员的“官方”话语竞争，即使不是全部，也无法与该省的大多数主要机构竞争。美国官员负责就Facebook的诸多缺点向其施压，最终让扎克伯格将其平台定位为任何可能出现的监管企业的主要参与者。即使在围绕法律的辩论中，对风险、威胁和危险进行概念化的努力仍然是模糊的，但这一次是非形成性和低效的，并且很容易被人工智能领域的大多数参与者所表现出的现实政治态度所忽视。

最后，我们已经证明了当前人工智能技术的部署是如何表明控制论的一种增强形式的，其中控制代表着不断适应的需要而加入通信。再次，《蒙特利尔宣言》、扎克伯格的证词以及围绕法律的辩论都清楚地说明了这一动态。当行动者根据他们认为来自其环境的约束来调整他们的话语时，他们也同样打算调整和管理由此产生的期望。这是一个规模和速度的问题。目前正在部署的人工智能系统的各种载体正在改变日常生活的许多实际方面，部分原因是它们与更具象征意义的载体交织在一起。正是这种更广泛的影响，反过来将促使我们加快CAIS的发展，将其作为翻译、批判和适应当今世界的一种替代和持续手段。

利益冲突声明
作者声明，
资助
作者在本文的研究、作者和/或出版方面未获得任何资金支持。
orcid id
Marius Sennevillehttps://orcid.org/0000-0003-1482-1136
//section>