我们这个专题的主题是人工智能与伦理，因此我想在这次会议中从更普适的角度对人工智能伦理进行更广泛的讨论，并关注负责任的人工智能如何赋能世界和平及可持续共生社会。

目前全球大约发布了100多个不同的人工智能伦理准则，此外还有其他的一些准则可能面向的是自动驾驶或者数据伦理这些特定领域的原则，虽然不能说是我们通常讨论的对人工智能整体的伦理设计，但是也可以从相关领域的视角形成非常互补的理解。在人工智能发展的总体愿景方面，人们寻求构建以人类为中心的人工智能，或者可信赖的人工智能、友好的人工智能、面向可持续发展目标的人工智能、有益的人工智能。许多人选择了负责任的人工智能、有益的人工智能这种提法，这些不同的视角并不是彼此对立的，而是互为补充、互为完善的。

2019年，我们制定中国《新一代人工智能治理原则》，强调和谐友好、公平公正、包容共享、尊重隐私、安全可控（我认为这与我们今天讨论的非常相关），还包括共担责任、开放协作以及敏捷治理。

2021年，我们制定的《新一代人工智能伦理规范》则体现了如何将上述原则落实到人工智能全生命周期中去，贯穿管理、研发、供应和使用的每个环节。其中有不同的侧重点来实施这些伦理原则，并提到了在研究和开发人工智能时，我们应该真正致力于加强安全、避免偏见和歧视（这与今天的主题有关）；在管理方面，我们应该加强风险防范；在使用方面，我们强调避免误用和滥用，禁止恶意使用。这就是为什么我们要在整个生命周期中讨论这个问题，而不仅仅是列出一个检查清单——我们必须在人工智能的研究、应用和使用的整个生命周期中嵌入这些伦理原则。

因此，中国在国家新一代人工智能治理原则方面进行尝试的总体愿景是，我们认为人工智能应赋能推进联合国可持续发展目标的实现。

通过我们的研究发现，计算机科学和人工智能学界已经开始着手对联合国可持续发展目标的不同方面做出贡献。而目前绝大多数努力集中在人工智能促进健康和人工智能促进教育相关的研究。只有极小部分与可持续发展目标16（和平、正义与强大制度）有关，这其实很糟糕。不过也可以看到对于该目标的相关研究的占比正在缓慢增长。

另一方面，尽管对于一些可持续发展目标来说，许多人无法直接从中获取很多经济利益，但这些目标对于世界来说仍是不可或缺的。比如说，陆地生命和水下生命的保护。这就是为什么我认为，从政府和社会基础设施来看，我们必须加强努力来实现这些目标。

我认为今天会议的愿景与我将要谈论的人工智能与我们的下一代有关。我们必须以谨慎的方式影响我们下一代所生存的世界——我们希望能够为我们的下一代创造一个和平的未来。

因此，这就是为什么中国会积极参与制定像《联合国教科文组织人工智能伦理建议书》这样的倡议，我们需要通过对人工智能的战略政策和技术研究，确保它用来保护我们的下一代，并为大家建立一个可信任的、包容的、更好的世界。

在这里我想举的一个例子是，有时虽然你可能想使用人工智能为可持续发展目标服务，以促进这些目标的实现，但你可能采取了错误的方式。

例如，使用人工智能来保护那些弱势群体免受网络和校园欺凌，我认为这是好的想法。但是我们是否可以做到通过人工智能的自动检测与识别技术，既有效检测到校园霸凌，同时又很好的保护了学生和教师的隐私，是一个值得深入研究和实践的议题。

人工智能中的伦理规范如何真正融入到我们的设计和开发中，这就是我所说的关于负责任人工智能的包含政府、媒体、民间团体、使用者和服务提供商的多方利益相关者在内的人工智能治理实践。利益相关者必须非常积极地与人工智能的整个生命周期互动，并将伦理嵌入其中。

我的第二个例子是，尽管你希望以一种良好的方式使用人工智能，比方说你想为很多人提供良好的服务，于是你建立了大型的机器学习模型。而另一方面，它们非常耗能，效率不高，在这方面成本很高。他们真的是以一种好的方式做出贡献的吗？为此，我们为人工智能创建碳能效观测站，以分析所有大型人工智能机器学习模型的碳能效，在人工智能提供必要服务的前提下，尽可能降低其对气候行动的负面影响。

对于可持续发展目标16（和平、正义与强大制度），需要指出，有关自主武器的伦理讨论和设计十分必要。我们应当在目标16在框架和指导下开展对人工智能与和平的研讨，我认为应当用人工智能来减少误解，增进互信——以这种方式来做出贡献。

我认为这将真正避免许多以往通过武力解决的问题，并且我认为人工智能能够使文化交流成为和平与和谐生活的桥梁。我认为这才是我们应该采取的方式，避免误解并相互学习，以此来清除阻碍我们相互理解的许多障碍。

致命性自主武器系统（LAWS）与自主决策有关。我认为问题不仅局限在致命性自主武器系统本身，而是人们在使用基于人工智能的自主决策技术。因此我们应该讨论的是人工智能自主决策的伦理问题，而不仅仅是把致命性自主武器系统作为焦点，这样就可以看到这种应用带来的整体风险。

当你把人工智能应用到军事领域的方方面面时，我认为现在所有的军事人工智能可能并不足够安全和可靠。比如现在普遍使用的对神经网络模型的对抗性攻击技术。在大多数军事人工智能应用中可能会受到这些对抗方法的攻击，这意味着没有一个军事人工智能应用足够安全。这也是我们为推动可持续发展目标16必须共同应对的问题。

我想也许我没有时间去展开讨论我们应该如何应用人工智能来促进跨文化交流，但我仍然愿意提及，我们基于人工智能构建了一个文化交互引擎以链接世界各地的文化遗产。联合国教科文组织的世界遗产名录能够帮助我们看到不同社会文化的共通和差异，使我们真正地通过文化的共性所关联，又因为文化的差异而相互好奇，从而相互理解和相互借鉴。

最后我想强调，不仅我们人类应该促进世界和平与和谐共处，我们还应该考虑到通过人工智能赋能生物多样性保护，在人工智能的帮助下实现人类与地球上的其他生物共享未来，实现真正意义的可持续和谐共生社会。

本文英文版可通过以下地址访问：

https://long-term-ai.center/research/f/responsible-ai-to-promote-world-peace-and-sustainable-development

简介