简介

人工智能对文明产生了重大影响，无论是以算法和机器学习模型的形式，还是机器人和自主系统的形式。加强监视和监控是人工智能最重要的用途之一。根据全球监测指数（GSI），全球176个国家中，至少有75个国家正在积极投资和部署人工智能（AI）进行监测，主要用于智能城市、面部识别和智能警察[17]。各国政府已与科技公司合作，将人工智能集成到相机、视频管理软件和手机中[35]，并在控制大流行（如当前的全球COVID大流行[4]，Saheb等人，2021c）中实现生物特征监测的常态化。根据GS指数，中国和美国科技公司是全球领先的人工智能（AI）监控技术提供商（图1）。然而，结合基于人工智能的监控技术已经改变了各种行业的游戏规则，包括医疗、交通和制造业。另一方面，其他人则谴责基于人工智能的监控技术，因为其意想不到的或有意的有害影响，尤其是对公民生活的影响，以及其支持反民主政策和侵犯隐私和人权原则的潜力[25，48]。这些研究对各国政府利用监测技术进行流行病管理侵犯人权表示愤怒[48，52]

图。1

各国使用美国（左）和中国（右）科技公司提供其AI监控技术[17]

全尺寸图像

随着全球对数字威权主义和自由民主之间的斗争的担忧日益高涨[67]，来自不同背景的学术研究人员致力于研究人工智能的各个方面；因为对于人工智能监控的后果，存在着相互矛盾和令人困惑的观点。虽然一些研究只关注人工智能对监控的良好影响，但其他研究则强调人工智能对监视的负面影响

截至2022年3月10日，Scopus数据库中检索了约3556篇学术论文，其中关键词为人工智能和监控。如图2所示，自2017年以来，该学科的学术研究数量急剧增加，并在2021达到峰值。如图所示，该学科是一门跨学科学科，吸引了来自多个领域的科学家的兴趣，包括计算机科学、工程、数学、医学、物理和天文学以及社会科学。另一方面，本文旨在将社会科学家和人文学者在人工智能和监控方面的学术努力映射到关于监控和人工智能的非技术性讨论中，并区分人工智能用于监控的冲突观点。最近，人们对道德人工智能的兴趣高涨，强调人工智能的透明度和问责制，这加强了社会科学家的学术努力[33]，以强调政府、行业和企业对人工智能监控的利弊。这项研究旨在绘制社会科学和人文学者的新学术努力，以理解最常被提及的问题，从而发现被忽视和忽视的研究流。从理论上讲，这项研究将有助于增加有关技术和人工智能伦理的社会科学研究的知识。实际上，这项研究将为政策制定者和科技公司提供指导，帮助他们更好地了解使用人工智能技术和技术进行监控的社会后果

图。2

图2高度=237src=//media.springernature.com/lw685/springer

基于Scopus数据库中索引的论文，人工智能监控跨学科主题的学术发展

全尺寸图像

<本研究将试图解决以下研究问题：从社会科学和人文科学角度看人工智能监控的知识结构？围绕人工智能用于不道德监控的争议性应用，存在哪些科学论述

随着时间的推移，人工智能和监控的社会科学研究是如何发展的

在人工智能和监控的社会科学研究中，有哪些研究不足和边缘化的领域，以及潜在的研究领域

方法

2022年3月9日，我们从SCOPUS数据库中提取了数据。我们在摘要、标题和关键词中搜索了人工智能和监视等术语。我们将研究局限于社会科学和人文学科，并省略了评论文章。只包括英文文章、会议论文、书籍和书籍章节。我们没有施加进一步的限制。这次搜索检索了293份文件。在筛选了论文的标题和摘要后，我们确定有14篇是无关的。最后，我们对279篇论文进行了主题建模分析

我们采用关键词同现分析作为一种文献计量技术，以确定最具影响力的学术主题。接下来，我们对每个主题的相关出版物进行了内容分析，以补充文献计量分析结果。我们对279份出版物进行了内容分析。共现分析是一种广泛使用的定量技术，用于确定研究结构及其可能的学术相关性[29，44]。我们使用VOSviewer软件分析和可视化网络。该软件是一种广泛使用的工具，用于分析和可视化科学文献，以及跟踪科学主题的演变和知识结构[62，64]。我们以两种方式展示了分析：一种是描述标准化基于模块化的主题，另一种是使用叠加可视化来描述关键词的演变。这些项目根据其总链接强度或TLS得分来表示。模块化算法提供了显著更强的相关关键词，并揭示了网络的强度[46]。此外，TLS评分考虑了对象与其他对象的连接数以及这些连接的强度[48]

结果

由于关键词的共现分析，确定了七个主要的学术主题，如图所示。3。根据分析，第一个高度关注的主题是公共卫生监测和流行病期间接触追踪应用程序的隐私，特别是新冠肺炎。第二个主题讨论视频监控和面部识别技术，主要是在运输行业。专题3涉及军事监视和物理形式的人工智能研究，如无人机、机器人和自动驾驶汽车。专题4涉及监测资本主义和疾病监测的研究。主题五是关于智慧城市，而主题六是关于计算监控。此外，最后一个主题讨论安全监控。值得注意的是，基本上，大多数主题都有重叠的讨论，但它们的主要焦点是不同的。例如，虽然公共卫生监督和疾病监督有许多有争议的伦理问题，但它们的主要关注点是不同的。举例来说，疾病监测的中心重点是国家和公民监测，而公共卫生监测的主要重点是隐私问题

图。3

年发表论文的共现分析关于人工智能和监控的七个有影响力的学术主题

全尺寸图像

主题建模和内容分析

主题1：公共卫生监控；在大流行期间的隐私

尖端技术促进了侵犯人权的行为，这使政府能够在公共卫生保护的前提下收集生物特征和其他个人数据，并使基于人工智能的跟踪系统合法化[19]。在大流行期间，尤其是新冠肺炎，跟踪系统已被用于对高危人群进行流行病学监测[65]。然而，人们越来越担心，出于检测新的新冠肺炎病例或从健康和重病患者收集数据等原因的人工智能监测被用于公共卫生管理以外的目的，从而侵犯了个人隐私[53]，降低了公民对这些技术的信任和自愿采用[65]。在一些研究中，基于人工智能的监控被描述为一种生物政策，并被描述为加强政府监控和控制的工具[60]。学者们提出了技术解决方案，以减轻基于人工智能的监控系统的伦理影响，如数据的去身份化和匿名化以及差异隐私[21，48]，2021c）。相反，其他学者认为，应在数据隐私和公共健康之间取得平衡[34]，应采用更广泛的隐私法，如欧盟通用数据保护条例（GDPR）、加州消费者隐私法（CCPA）或1996年美国健康保险便携性和责任法案（HIPAA）隐私规则[26，53]。更准确地说，研究表明，应谨慎实施对弱势和边缘化人群的人工智能监测。此外，他们主张开展协作和多学科努力[22]。由于各国政府正在与科技公司合作开发人工智能监控系统，先前的研究强调了开发治理框架、控制各种行为体以及提高科技公司社会和政治责任的重要性[7]

人工智能监控除了大流行之外，还充满了隐私问题。随着监视社会的出现[50]，一系列关于隐私和人机交互界限模糊的担忧浮出水面[22]，新形式的政府控制和战争也同样如此[32]。研究人员表示担心，自动收集个人数据加剧了公民、政府和科技公司之间的权力失衡[41]，以及公司的保密性和透明度不足[13]。这些担忧导致了技术解决方案的发展，如设计隐私、默认隐私[26]和差异隐私[8]，以及新的治理框架[7]

生物特征面部识别已被确定为一个重大问题，因为它在用于公民监控、犯罪控制、活动监控和面部表情评估时会产生隐私问题[8]，并通过自动对面部图像等个人数据进行未经授权的访问而构成威胁[57]。人工智能技术令人担忧的第二个重要领域是健康可穿戴设备和应用程序的使用。在这些情况下，个人数据的收集和处理必须经过授权、透明、持续时间和范围有限[26]

主题2：视频监控系统；交通中的面部识别

人工智能监控的第二个问题是视频监控系统（VSM）和面部识别在公共交通中的应用。大多数研究集中于人工智能在交通监控中的应用；很少有人讨论此类应用的道德和法律后果。研究表明，在交通中使用人工智能监控主要是为了减少侵入频率和死亡[71]，监控恐怖活动和可疑行为[42]，提高公共安全和打击犯罪能力[14]，以及开发智能交通监控系统[30]。尽管人工智能在交通中的监控具有有效性，但它引发了道德问题，尤其是当警察和政府合作在公共交通区域执行基于人工智能的监控系统时[14]。研究表明，人类和计算机权威之间错综复杂的相互关系[56]、侵犯人权行为[1]以及对公民自由和自由的威胁[14]。其他研究表明，面部没有普遍适用的人权框架或监管标准识别和视频监控技术[1]。鉴于公共空间（如交通系统）的智能警务举措，当少数族裔、非裔美国人和儿童参与进来时，侵犯人权的行为会严重加剧[68]。在某些情况下，这些努力可能导致对违宪行为和种族歧视的补救[40]。有一些研究表明，围绕面部识别技术的伦理问题应该超越隐私和透明度，包括平等、多样性和包容性问题[1]

主题3：军事监视

第三类最重要的研究集中在军事中的物理人工智能、机器人和基于人工智能的设备以及军事监视，因为这些技术已经超越了科幻电影[15]。这些技术可能带来巨大的好处，包括提高精度和准确性，以及军事措施和反恐计划的自动化；然而，一些研究人员强调了人们的担忧，即基于自主人工智能的无人机和军事技术将在政治和法律层面上加剧歧视行为和不负责任的军事活动[58]。此外，研究表明，无人驾驶飞行器（UAV）和无人机的应用构成了由多种技术增强的复杂技术[69]，因此有必要制定专门的法律框架来解决公民自由和隐私问题[18]。非战斗人员平民正被军用无人机杀害，引发了许多争议[6]。先前的研究已经引起了人们对武装和自主机器人准确区分战斗人员和非战斗人员，或区分危险和非威胁行为的能力的担忧[28]。围绕基于人工智能的自主军事技术，存在着各种伦理问题，包括对谁负责以及这些技术是否有能力进行不道德或非法行为的模糊性[55]

主题4：疾病监测

人工智能监测的第四个关键主题是资本主义背景下的疾病监测和监测资本主义的出现。新冠肺炎和政府与大型科技公司的合作导致了人们的担忧[48]。Shoshana Zuboff在2007年首次提出了监视资本主义的概念，声称Facebook和谷歌这两家科技公司通过销售算法驱动的、针对个人的微观特征来获得财务成功，并帮助政府进行政治广告宣传[26，66]。新冠肺炎为科技公司提供了通过立法的机会，在提高其商业利益的同时限制公民的行动自由和获取其个人信息的机会[11]。关于人工智能在医疗保健中的应用，人们提出了许多伦理问题。学者们对人工智能及其应用（如追踪系统）是否适合民主国家和独裁国家的公民间谍或疾病监测存在争议[16]。去人格化和非人化，以及歧视和惩戒，都是这些伦理问题中的一个[43]。基于人工智能的疾病监测的进一步道德风险包括护理政治化、反民主和社会异化做法以及侵犯人权[48]

主题5：城市监控和智慧城市

人工智能监控的第五个讨论最多的主题是智慧城市和为城市规划收集个人数据。研究指出，人们对个人信息的泄露[54]、完全自动化和无人[10]、城市设施的控制以及对公民生活的影响[70]感到焦虑。研究表明，在智能城市中，最敏感和最有道德问题的个人数据形式包括客户档案、时空旅行和自动集市收集[9]。智能城市监控在多个层面上损害了人类隐私，包括身份隐私、查询隐私、位置隐私、足迹隐私和所有者隐私[31]。公民隐私问题主要是由于他们对城市数据的认知及其使用理由[63]，以及非法获取机密数据和破坏城市服务提供的网络攻击引发的。[61]. 根据[72]开展的研究，智慧城市面临的其他伦理问题包括控制和数据所有权、公共和私营部门之间的摩擦、社会包容和公民参与以及随后的差异和偏见

主题6：计算监视

第六个主题探讨了计算监视、软计算、，以及计算智能发展时面临的安全挑战。根据[12]，计算智能可以定义为生物和语言驱动的计算范式的设计、应用和开发，包括自然语言处理、自然语言理解和自然语言生成模型。随着计算智能的发展，人们开始关注计算伦理，从而将其与机器伦理和机器人伦理区分开来[51]。学者们经常使用软计算技术，如自然语言处理（NLP），以促进文明并监控仇恨言论、网络欺凌、有毒评论和辱骂语言[49]。此外，计算智能已被用于检测宣传、假新闻和操纵新闻[36]。在新冠肺炎疫情期间，计算智能被广泛用于疾病监测[39]。在对计算智能应用程序的网络攻击之后[23]，支持安全的设计技术和算法，以及安全软件的构建和软件开发过程中威胁建模的加强，都被付诸实践[2，38]

此外，计算智能也被纳入了政治领域，目的是编造宣传、假新闻和仇恨言论。鉴于这一趋势，人们对个人、政党、机构和社区的脆弱性以及出于破坏性原因操纵他们的可能性表示担忧[27]。在deepfake时代的黎明[20]，深度学习算法和生成对抗网络（GAN）通过改变现有照片和视频中人类对象的外观，使其看起来像其他人，从而加剧了这种情况[59]

主题7：安全和数据监控

第七个主题涉及安全和数据监视。在最近的研究中，对人工智能系统自动决策能力的担忧引发了公民对安全和数据监控的担忧，这阻碍了他们采用这些技术[37]。日益兴起的数据化和数据驱动的监视浪潮导致了充满不确定性的生活，民间社会担心应对监视、数据利用和易受网络攻击的脆弱系统带来的威胁[24]。大数据的日益可用性和使用已经侵入了日常生活，威胁着公民在智能环境中的隐私和安全，智能环境中充斥着提取个人信息的技术[3]。由于大数据渗透到人类生活的各个方面，公民的数字足迹丰富，现在可以想象对公民行为、意图和偏好进行秘密监控。据《福布斯》杂志报道，美国政府秘密命令谷歌提供有关键入特定搜索短语的客户的信息[5]；强调政府非法获取消费者数字数据

监控概念的历史演变

本文的这一部分考察了监控概念随时间的演变。如图4所示，在2012年之前，诸如车辆跟踪、计算机视觉、预测模型、边境监视和军事应用等主题是科学研究中联系最紧密的概念之一。这意味着专家们强调了人工智能对军事和边境监视的重要性。从2012年到2014年，统计模型和机器学习技术的发展引人注目。2014年至2016年间，人们主要关注人工智能监控的社会影响，尤其是在电子商务、犯罪、医疗保健和环境方面。在2016年至2018年期间，安全系统、网络安全和国家安全等安全概念得到了普及，视频监控、无人机和无人机（UAV）用于物体检测也是如此。在2018年至2020年期间，人们的注意力集中在大数据、物联网、无人机、数据隐私、立法和监管以及公民对技术的接受。2020年后，流行病、新冠肺炎、接触者追踪、人权、资本主义和交通监测成为热门话题（图5）

图。4

图4高度=535src=//media.springernature.com/lw685/springer-static/image/art%3A10.1007%2Fs43681-022-00196-y/MediaObjects/43681_2022_196_Fig4_HTML.png

人工智能监控概念的历史演变

全尺寸图像

医疗保健、公共交通、军事、流行病管理、城市规划、通信、，和大数据

全尺寸图像

讨论和文献空白

我们对社会科学和人文专家撰写的279篇关于人工智能和监控的科学论文进行了同现分析和内容分析。我们的调查发现七个重要的学术主题受到了科学界的高度关注。这些主题表明了两种监督形式之间的模糊界限：公共卫生监督与国家监督；交通监控与国家安全监控；和平监视与军事监视；疾病监测与监测资本主义；城市监控与公民无处不在的监控；计算监控与虚假监控；以及数据监控与侵入性监控。

人工智能监控中最令人痛心的话题是公共卫生监控和COVID追踪应用程序的部署，这模糊了公民和公共卫生监控之间的界限。随着2019年新冠肺炎疫情在全球蔓延，各国开发了基于移动的接触者追踪应用程序，以追踪和阻止病毒传播。由于这些应用程序能够自主访问其用户位置和联系人[45，47]，2021c），对隐私和监控的担忧浮现出来，这加剧了公众对这些应用程序是公民监控工具的怀疑。在要求公民接受申请的国家，道德考虑得到了加强。由于强制安装、缺乏适当的规则以及与科技公司的合作，个人缺乏信任，并怀有阴谋论，认为这些应用程序被用于公民监督和资本赋权，而不是公共卫生监督。这些关于人工智能用于公共卫生监测的研究的重大缺陷在于，缺乏研究来考察环境因素对采用基于人工智能的公共卫生监测系统的间接影响。应探索多种社会、经济和政治因素及其间接和复杂的相互关系，以制定更可行的解决方案、政策和战略，缓解监控漏洞。此外，对移动应用程序的设计和用户体验的额外研究可能有助于为用户提供更大程度的权力和对其隐私偏好的控制。为了取代基于文本、冗长和复杂的用户协议，需要交互式和简化的隐私协议。此外，应为基于人工智能的监测制定适当的治理框架、道德规范和规则，以减轻偏见和社会经济不平等。尽管大多数政府坚持与私营技术公司合作，但仍应制定其他战略，以促进民间社会的参与，

社会科学家和人文学者提出的第二个重大担忧是面部识别和视频监控技术在交通部门的突出地位，以及该技术与国家安全之间的模糊界限。由于运输业与警察和国家安全机构合作，以侦查可疑和恐怖活动，这一问题变得越来越重要。文献缺陷之一是缺乏关于交通中面部识别和视频监控系统伦理的公民视角的研究，执法和国家安全。为了解决人脸识别算法中的种族偏见和不准确问题，需要更精确的道德规范，因为这些算法可能会导致偏见和歧视性的判断，以及对少数民族和有色人种的严重影响。此外，还需要考虑知情同意的问题。一些政府在公共场所和街道上部署了视频监控摄像头。由于这些相机目前自动捕捉个人面部数据，因此必须设计额外的方法，以获得公民对收集和使用生物特征数据的明确和知情同意

军事监视是社会科学家和人文学者广泛讨论的第三个话题。学者们高度重视军事武器的自主性、其避免以非战斗人员为目标的准确性和精确性以及其法律和政治责任。然而，很少有研究研究过军用无人机引起的国际法规和外交紧张局势。此外，与现有研究侧重于对基于人工智能的机器编程的算法的透明度相比，需要对算法的合理性进行更多研究，以更好地理解无人机如何决定谁是非战斗人员的原因。军事武器工程化的特点和原因应进一步研究。应该明确由谁决定和批准导致无人驾驶飞机自主行动的算法特征和原因。工程师是否设计了非战斗平民的特征，并将其应用于无人机？军事利益相关者是否开发这些功能并将其交付给工程团队，以用于开发算法和无人机？利益相关者如何确定平民的特征？如果出现错误，谁负责？这是人为错误的结果吗？这是由于机器故障造成的吗？进行进一步研究，了解军用无人机的特征和原因工程治理，以及在此过程中使用的流程和程序，将是有益的。虽然更多的人工智能研究侧重于特征的开发，但更多的研究应该强调原因的开发，以更好地回答诸如为什么某些特征被选为非战斗人员平民的特征等问题。此外，应就军事机构与生产先进材料和制造技术的技术公司以及下一代天线的合作关系进行更多研究，这将提高无人机的自主性，减少对人工操作员的需求，并允许无人机之间的协作自主信息共享。区分无人机用于和平民用目的与无人机用于军事和战时目的非常重要

其中一个最突出的主题是疾病监测、政府与科技公司的合作关系，以及监测资本主义的出现，即公司通过跟踪公民的运动和行为来将收集的数据货币化。由于开发了嵌入人工智能和其他数字技术的移动健康应用程序，该主题表达了对降低公民对其行动和个人数据的自主性和控制的担忧。这些研究主要关注这些应用程序对用户生活的规范和社会影响。应开展研究，以了解科技公司利用的策略和联盟，将私人用户体验转化为基于不确定人类未来的数据驱动和预测市场。在这种情况下，公共卫生初创公司或Theranos等公司和假冒专利应该如何考虑？随着政府增加对大流行危机的资助，出现了大量的创业公司和专利，声称他们的创新和专利将提供有效的补救措施。必须对基于人工智能的医疗专利和创新的功能进行更多研究，以确定创新的可靠性和有效性，并将其与假货和欺诈产品区分开来，以减少欺诈带来的金钱利益和对人类安全的威胁

第五个备受关注的话题是关于智慧城市以及城市监控和自治城市环境中公民无处不在的监控之间模糊的界限。在与人工智能、物联网和无处不在的计算系统相结合的城市环境中，与公民数据的自主收集相关的争议很高。在极权政体和民主政体中从公民到一个实体的不同和大量的城市数据来源引发了人们对全景主义和持续监视公民的担忧。为了更好地理解在没有公民意识和控制的情况下将无处不在的计算嵌入环境和上下文感知服务的道德含义，需要对知情同意、自治和隐私进行更多研究。大多数公民都不知道他们的个人信息被捕获的是什么，何时被捕获，以及被捕获的信息被存储和共享的对象和目的。此外，人机交互（HCI）学者应该进行更多以设计为中心的研究，以便上下文感知服务的界面在与自主环境交互时为公民提供更大的自主感和控制感，可以通过软计算策略生成的伪造品。计算智能已被广泛用于监控在线通信中的文明程度。然而，它也被用来宣传假货，例如deepfakes。最近deepfake的过剩使得有必要对deepfakes的伦理挑战以及限制基于算法的捏造和操纵的监管框架进行更多研究。数据监控和侵入性监控是最后一个高度讨论的话题。本主题讨论大数据时代侵犯隐私和安全的问题。尽管如此，在大数据时代，很少有研究研究过监视和入侵的话题。此外重要的是进行更多的研究，以分析公民日常生活数据源授权的侵入性和隐蔽性监视的各个方面人工智能然而，人工智能并非完全容易受到负面监测机制的影响。因此，未来的研究可能会比较人工智能监控的有害和有益后果。此外，在我们的研究中，我们只考虑了人工智能监控中最常讨论的有争议的方面。未来的研究可能会进行系统的文学评论或文本挖掘，以确定关于人工智能监控的其他学术话语。在这项研究中，我们集中讨论了AI有争议的监测影响的学术讨论。未来的研究可以调查人工智能生态系统中其他利益相关者的观点，如决策者和公民，以了解他们对人工智能监控的看法，例如通过进行政策分析、推特分析或调查分析