场景1：攻击自动驾驶车辆

在未来的道路交通中，许多车辆将自动上路-作为客车或当地公共交通的港口。这些车辆嵌入到非常复杂的移动系统中，在该系统中它们与交通基础设施进行通信。这使他们能够处理传感器和交通信息，并在旅途中不断学习。网络化移动系统对硬件和软件的功能可靠性以及网络攻击的安全性提出了很高的要求。同时，必须在个人自由和必要控制之间保持平衡

单击该图，查看如何防止恶意攻击者操纵自动驾驶车辆造成损坏

场景2：在重大事件中操纵无人机

在难以到达、危险或复杂的环境中，人工智能系统可以接管日常任务。他们探索领域、监控基础设施或支持专家交流。为了使这些人工智能系统能够尽可能独立地行动——例如，在调查或修复基础设施时——它们配备了特殊能力；他们（半）自主地行动。它们既可以作为单独的系统使用，也可以相互作用，例如作为成群飞行的无人机

未来可以使用无人机来确保重大活动的安全。集成传感器捕捉重要信息并将其转发。然而，由于空域几乎没有任何有效的防御系统或机械保护装置，飞行无人机也可能被滥用，用于针对人、关键区域或物体的目标攻击。我们的场景概述了世界杯决赛在一个主要城市举行。组织者借助一组基于人工智能的无人机从空中监控体育场。他们相互沟通，必要时进行合作

单击该图，查看如何防止恶意攻击者操纵无人机并造成破坏

场景3：员工不可接受的绩效控制

人工智能系统可以减轻繁琐或重复任务的负担，帮助员工避免错误。通过不断收集和分析工作过程中的数据，协作系统可以适应工人及其日常生活。例如，生产中的自学习机器人工具将来将记录熟练工人的步骤顺序和工作技术，并能够在适当的时间为他们提供帮助。通过处理员工压力水平、疲劳度或集中度等物理参数，人工智能系统可以进一步优化协作，并提供过度或不足需求的指示。因此，在总体水平上，个人工作满意度和公司效率可以提高

然而，人工智能系统也可能被滥用来监控员工绩效。如何防止这种情况的发生，在以下一个公司的例子中进行了概述，该公司在生产中使用了自学习和互连的机器人工具

简介