人工智能（AI）和超级智能机器是人类可能遇到的最好或最坏的事情吗？自20世纪40年代以来，这一直是一个存在的问题，当时计算机科学家艾伦·图灵（Alan Turing）怀疑并开始相信，机器会通过模仿进化的过程对人类产生无限的影响

牛津大学教授尼克·博斯特罗姆的《纽约时报》畅销书《超级智能：路径、危险、策略》于2014年首次出版时，它把焦点放在了所有可能出错的事情上，这场辩论的核心触动了神经。然而，在我最近与博斯特罗姆的谈话中，他也承认人工智能技术有巨大的优势

您可以在这里看到我们谈话的完整视频：

自2014年博斯特罗姆的书出版以来，人工智能、机器和深度学习的进展非常迅速。人工智能已成为公众讨论的话题，大多数政府都有某种应对人工智能的战略或路线图。在他的书中，他谈到人工智能有点像孩子们玩随时可能爆炸的炸弹

Bostrom解释道，“我们的成熟程度与我们的智慧、我们作为一个物种的合作能力，以及我们利用技术在世界上做出重大改变的工具性能力之间存在着不匹配。似乎我们变得比我们变得更聪明更快。”

有各种令人兴奋的人工智能工具和应用程序开始在许多方面影响经济。在假设的未来点上，人工智能具有与人类以及超级智能机器相同的一般学习和规划能力，这一点不应被过度描述所掩盖。这是需要注意的两种不同情况

今天，更迫在眉睫的威胁不是来自超级智能，而是人工智能目前用于的有用但潜在危险的应用

人工智能如何危险

如果我们关注当今人工智能的可能，以下是我们应该考虑和计划的人工智能的一些潜在负面影响：

改变人类所做的工作/工作自动化：人工智能将改变工作场所和人类所从事的工作。一些工作将被人工智能技术所取代，因此人类将需要接受这种变化，并找到新的活动，为他们提供工作所提供的社会和精神利益

政治、法律和社会影响：正如博斯特罗姆所建议的，与其避免追求人工智能创新，“我们的重点应该放在把自己放在尽可能好的位置上，这样当所有的事情都到位时，我们就做好了功课。我们开发了可扩展的人工智能控制方法，我们认真思考了道德和政府等问题。然后继续前进，希望从中获得非常好的结果。”如果我们的政府和商业机构现在不花时间制定规则、法规和责任，随着人工智能的不断成熟，可能会产生严重的负面影响

人工智能支持的恐怖主义：人工智能将改变自动无人机、机器人群以及远程和纳米机器人攻击的冲突方式。除了关注核军备竞赛，我们还需要监测全球自主武器竞赛

社会操纵和人工智能偏见：到目前为止，人工智能仍有被构建人工智能的人类所偏见的风险。如果人工智能训练的数据集存在偏见，这种偏见将影响人工智能的行动。在坏人手中，人工智能可以被用来进行社会操纵和放大错误信息，就像在2016年美国总统大选中一样

人工智能监控：人工智能的人脸识别功能为我们提供了便利，比如可以解锁手机，无需钥匙就可以进入建筑物，但它也启动了许多公民自由团体认为令人担忧的公众监控。在中国和其他国家，警察和政府正在入侵使用人脸识别技术实现公共隐私。博斯特罗姆解释说，人工智能从监控数据、摄像头和挖掘社交网络通信中监控全球信息系统的能力无论好坏都有很大的潜力

Deepfakes:人工智能技术使制作真人“假”视频变得非常容易。这些信息可以在未经个人许可的情况下传播假新闻，以一个人的形象制作色情作品，但实际上并没有参与其中，而且不仅会损害个人的声誉，还会损害个人的生计。技术变得如此之好，人们被它欺骗的可能性很高

正如尼克·博斯特罗姆所解释的，“最大的威胁是长期存在的问题，它引入了一些超级智能的激进事物，并未能使其与人类的价值观和意图保持一致。这是一个巨大的技术问题。在成功解决安全和对齐问题之前，我们会成功解决能力问题。”

今天，尼克将自己描述为一个“可怕的乐观主义者”，他对人工智能如果做对了会做什么感到非常兴奋。他说：“近期的影响是非常积极的。长期的影响更是一个悬而未决的问题，而且很难预测。如果我们做足功课，我们在任何可用的时间里，作为一个世界和一个物种，越是团结一致，我们对此准备得越充分，取得有利结果的可能性就越大。在这种情况下，这可能是非常有利的。”

简介