在2019年冠状病毒病（新冠肺炎）大流行期间，外国国家行为体一直在社交媒体上传播有关该病和导致该病的病毒的虚假信息（Bright等人，2020年；Molter 2020年）。涵盖了各种主题——从起源到潜在的治疗方法，或其对西方社会的影响——新冠肺炎网络虚假信息的创造和传播已经变得广泛

>俄罗斯和中国等国家已利用Facebook、Twitter和YouTube创建和放大阴谋内容，旨在破坏对卫生官员和政府管理人员的信任，这可能最终恶化病毒在西方社会的影响（Barnes and Sanger 2020）

>一个例子是阴谋论，即艾滋病（获得性免疫缺陷综合征）是美国政府进行的生物武器实验的结果。历史学家记录了苏联特工如何向外国机构和媒体泄露“证据”，质疑病毒的起源（Boghardt 2009）。由于美国政府对艾滋病疫情反应迟缓，艾滋病对男同性恋和有色人种造成了不成比例的影响，有关艾滋病起源的阴谋论加剧了这些社区对美国政府负有责任的怀疑（邱2017）。几十年后，公共卫生研究表明，许多人仍然对导致艾滋病的人类免疫缺陷病毒（HIV）抱有阴谋论信念，这对该疾病的治疗产生了负面影响

艾滋病毒/艾滋病阴谋被有效灌输到日常人的信仰体系中的部分原因是，它涉及到识别和利用社会中预先存在的分歧，然后利用虚假信息来制造进一步的不和谐和不信任。如今，国家行为体已将冷战期间使用的相同剧本作为当代外国影响力行动的一部分：例如，在2016年美国总统大选之前，向社交媒体和主流媒体注入的虚假信息和阴谋论被用来加剧美国的种族紧张局势，特别是围绕黑人生命攸关运动（DiResta等人，2018；Howard等人，2018），但也围绕宗教（Hindman和Barash 2018）和性别差异（Bradshaw 2019）

>从冷战时期的信息战到当代的影响力行动，发生了变化的是可以传播虚假信息的信息和媒体环境。技术创新改变了现代冲突和外国影响行动的方式。在过去二十年中，国家和非国家行为者越来越多地利用互联网来追求政治和军事议程，将传统军事行动与网络攻击和网络宣传活动相结合（北大西洋公约组织2016）。这些“混合方法”通常利用虚假信息的传播来侵蚀真相，破坏国际机构和自由世界秩序的信誉（加拿大国防部2017）

>今天，与过去不同，在过去，虚假信息活动缓慢、昂贵且数据贫乏，社交媒体为过多的参与者提供了快速、廉价且丰富的数据用于向公民对话中注入虚假信息的媒介。选择、管理和控制我们的信息环境的算法可能会基于信息的病毒性潜力，而不是基于信息的准确性。在匿名的面纱背后，国家赞助的巨魔可以在网上欺负、骚扰和掠夺个人或社区，从而阻碍一些激进主义和新闻界最重要的声音的表达。有时，这些账户背后的人甚至不是真实的，而是自动化的代码脚本，旨在放大网上的宣传、阴谋和虚假信息。社交媒体技术的设计本身可以提高宣传和虚假信息的速度、规模和范围，在网络上产生新的国际安全担忧。

平台社会中的外国影响力运营>

从公共卫生阴谋到政治虚假信息，社交媒体越来越成为国家干预他人事务的媒介（Bradshaw和Howard 2018；2019）。从中国将香港民主抗议者描绘成暴力和不受欢迎的持不同政见者的虚假信息运动（Wong、Shepherd和Liu 2019），到伊朗支持的针对海湾政治对手的虚假信息活动（Elswah、Howard和Narayanan 2019），国家行为者正转向社交媒体，将其作为地缘政治影响力的工具。而且，不仅仅是国家行为者转向社交媒体平台传播虚假信息和宣传。民粹主义政党、极右翼媒体影响力者、可疑的战略传播公司和科学虚假信息的骗子都在社交媒体上找到了阴谋、仇恨和恐惧的归宿（Campbell Smith和Bradshaw 2019；Evangelista和Bruno 2019；Numerato等人2019）。是什么让社交媒体成为一个如此受欢迎且可以说是强大的虚假信息平台

推荐

人工智能和保持人类“循环”

社交媒体平台已成为人类互动的几乎所有方面，从人际关系到全球经济。但他们也履行着重要的公民职能。这些平台越来越成为世界各地公民的重要新闻和信息来源（Newman等人，2020）。它们是政治讨论和辩论的场所，也是动员政治行动的场所（Benkler 2007；Castells 2007；Conover等人2013）。政客们还依靠社交媒体进行政治竞选，激发支持，并与选民建立联系（Hemsley 2019；Howard 2006；Kreiss 2016）。但社交媒体平台并非中立平台（Gillespie 2010）。学者们描述了他们的技术设计和治理政策（如服务条款、社区标准或广告政策）如何嵌入广泛的公共政策关注，从言论自由和审查到知识产权、合理使用或隐私与在线监控之间的紧张关系（DeNardis和Hackl 2015；Gillespie 2019；Hussain和Howard 2013；MacKinnon 2012）。平台设计和治理也影响平台的民主功能，包括虚假信息和宣传的传播方式。虽然重要的是要认识到所有技术都在不同程度上具有社会政治影响，社交媒体平台的几个特点为虚假信息和宣传的传播带来了一系列特殊的担忧。

聚集

关于个人及其社会行为的汇总数据量。我们在与技术和内容交互时留下的大量数据被一些学者称为“数据耗尽”（Deibert 2015）。我们的排气-或我们与在线内容互动的副产品-被平台用来创建详细的图片，展示我们不仅是作为人和消费者，还是作为民主国家的公民或潜在选民（Tufekci 2014）数据的收集、聚合和使用允许外国对手在选举期间通过政治广告对用户进行微目标。与所有政治广告一样，这些信息可能会推动对某一候选人的支持和动员，或抑制某些人群的政治参与（鲍德温·菲利普2017；切斯特和蒙哥马利2019；克雷斯2017）。我们已经看到外国代理人购买政治广告，以宣传动员和镇压信息的个人或社区（Mueller 2019）。尽管平台已经采取了一些措施来限制其平台上的外国广告，例如货币限制或账户验证措施，外国行为者已经找到了颠覆这些措施的方法（Satariano 2018）。算法>>>平台应用算法或自动规则或指令集将数据转换为期望的数据输出使用数学公式，算法根据个人用户的数据和个人偏好等因素对内容进行评级、排序、排序和交付（Bennett 2012），类似用户的兴趣和行为的总趋势（Nahon和Hemsley 2013），和评估信息质量的声誉系统（van Dijck、Poell和de Waal 2018）。内容的算法管理——无论是个性化、病毒性和趋势的结果，还是声誉评分——都会影响新闻和信息的优先级和传递给用户的方式，包括算法是呈现不同观点还是强化单一观点（Borgesius等人，2016年；Dubois和Blank 2018年；Flaxman、Goel和Rao 2016年；Fletcher和Nielsen 2017年），推动用户走向极端或两极分化的信息（Horta Ribeiro等人，2019年；Tufekci 2018年）或强调耸人听闻，新闻和其他权威信息来源上的小报或垃圾内容（Bradshaw等人，2020年；Neudert，Howard和Kollanyi 2019年）

匿名>

>平台为用户提供不同级别的匿名性。用户是否必须使用自己的真实姓名，对机器人、巨魔甚至外国国家行为者是否使用匿名来掩盖自己的身份，以骚扰或威胁政治活动家和记者，或扭曲有关政治的真实对话有影响（Nyst and Monaco 2018）。由于匿名，信息来源缺乏透明度，新闻、评论或辩论是否来自真实声音或试图扭曲公共领域的声音。与匿名问题相关的是数据披露问题，以及如果肆无忌惮的公司或外国国家行为者能够使用心理特征来压制选民投票率，如何使用向第三方披露的个人数据（Wylie 2020）

自动化

平台提供自动化功能，客户可以自动发布、共享或参与在线内容或用户。与人类用户不同，自动化账户（有时被称为“政治机器人”或“放大器账户”）可以比任何人类用户更频繁、更一致地发布（McKelvey和Dubois 2017）。尽管有许多方法可以对自动化账户及其执行的活动进行分类（Gorwa和Guilbeault 2020），但在涉及外国影响运营时，它们通常执行两种功能。首先，通过点赞、分享、转发或发布内容，自动账户会产生一种虚假的流行感、势头或与特定人或想法相关的感觉。机器人网络可以通过获取虚假信息或宣传趋势来扭曲在线对话（Woolley 2016）。第二，自动化在针对和骚扰记者和活动人士方面是一个非常强大的工具个人充斥着威胁和仇恨，甚至不是真实的账户（Nyst and Monaco 2018）

总之，网络上虚假信息和宣传的传播越来越引起国际安全未来的关注。平台的显著特征——聚合、算法、匿名和自动化——是当代技术可能导致有害内容在线传播的一些方式，外国国家行为者越来越多地利用这些工具扭曲在线公共领域。将社交媒体用于“混合”战争方法，是对技术创新如何改变冲突性质的更广泛反思。事实上，技术一直被认为是推动社会和政治变革的力量（Nye 2010）。同样，我们当代信息和通信环境的独特特点为国家行为者利用非传统战争方法实现其目标提供了新的机会

当我们看到技术创新时，我们也会看到宣传和虚假信息在线传播方式的创新。物联网已经在改变我们的生活方式，它创造了更多关于我们个人和公民的数据。在一个我们可以通过可穿戴技术测量某人对宣传的生理反应的世界里，会发生什么？我们每天都与Alexa和Siri等“聊天机器人”互动。当聊天机器人技术的日益成熟应用于Facebook或Twitter上的政治机器人时，会发生什么？平台将如何区分真正的人类对话和自动化交互

迄今为止，打击虚假信息和宣传一直是一场持续不断的打人游戏。私人回应侧重于第三方事实核查或标记可能不可信、误导或完全虚假的信息。以法律和法规的形式，政府给平台增加了移除某些有害内容的负担，但往往没有定义什么是有害内容。但宣传和虚假信息也是系统问题。公共和私人回应往往集中在内容上。然而，这些回应忽视了平台在塑造、管理和调节我们的信息生态系统方面的技术作用。我们不应该只关注内容，而应该关注更深层次的系统性问题，这些问题首先会让虚假信息和宣传传播开来。这意味着要考虑平台的特点，这些特点会增强或加剧有害内容的在线传播

简介