在七月一次安静的实验中，佛罗里达州埃格林空军基地的工程师发射了一架小型无人驾驶飞机，并告诉它要打破规则。这架名为“鱼鹰MK III”的飞机被编程为飞行路径，可以使其超越已确定的边界限制。这是一个巨大的考验：这架飞机会尊重预先制定的允许其安全运行的“法律”吗？还是它的车载人工智能会决定它必须不惜一切代价遵守订单

飞机升空后，实验者将控制切换到机载自主，然后坐下来看看它会做什么。根据空军发布的关于测试的消息，每当飞机接近突破既定空域边界时，该功能就会启动，脱离自主模式，并将其送回预先指定的地点进行补救。它的人工智能做出了正确的决定

7月20日，佛罗里达州埃格林空军基地，第413飞行测试中队的卢克·雷德达维（Luke Reddaway）监测鱼鹰MKIII的自主飞行。该无人机系统的首次飞行证明了飞行保障措施已经到位，并在飞机自主飞行时发挥作用。（美国空军照片/Jaime Bishopp）

该测试是一个关键的验证时刻，在位于埃格林的空军新的自主数据和人工智能实验试验场（ADAx）进行。该试验场于今年早些时候成立，是五角大楼首席数字和人工智能办公室（CDAO）和空军实验部门AFWERX的联合企业。埃格林的第96测试联队在实验工作中处于领先地位，其他基地单位也提供支持。

测试自主飞机的内部调速器属于更大的复杂环境中的自主性测试（TACE）工作范围。信任仍然是将广泛的自主权纳入作战的主要障碍；循环中的人类需要知道，自主或人工智能控制的系统不会被相互冲突的信息所混淆，不会做出危及人类或危及任务目标的选择。

根据空军发布的消息，TACE包含在测试系统的一个软件组件中，“位于机载自主和飞机本身之间”。官员们在新闻稿中表示，TACE不仅可以覆盖不必要或不安全的命令，它还可以改变测试飞机机载自主性感知的世界，“在不危及飞机的情况下，为测试自主性创造更现实的场景”。MK III在三天内进行了五次TACE测试飞行，总共在空中飞行了2.7小时

7月20日，佛罗里达州埃格林空军基地，第413飞行测试中队的卢克·雷德达维（Luke Reddaway）监测鱼鹰MKIII自主飞行路径。无人驾驶航空系统的首次飞行表明，在飞机自主飞行时，飞行保障措施已到位并起作用。（美国空军照片/Jaime Bishopp）

第96作战小组指挥官、空军人工智能测试和作战负责人Tucker Hamilton上校在一份发布的声明中表示：“我们希望让作战人员为即将到来的数字未来做好准备。”。“此次活动旨在将Eglin企业聚集在一起，并紧急将这些概念纳入我们的测试方式。”

DARPA在其具有弹性的复杂环境中的机器人自主性（RACER）计划中对无人地面车辆进行的实验平行工作。这项始于去年的研究的目标是在“与人类驾驶员不相上下的速度”下，在不可预测的环境中测试越野自主性，在这种环境中，障碍物和快速变化的条件可能更容易扰乱机器人的决策能力。

结果远不能保证。随着自动驾驶汽车在旧金山等美国城市变得越来越普遍，有报道称，意外的投入会导致危险的混乱。例如，多份报告显示，涂鸦会使无人驾驶汽车将停车标志误读为每小时45英里的限速标志。此外，空军试飞员Tucker“Cinco”Hamilton上校，6月，他描述了一个假设场景，即一架人工智能无人机选择杀死向其发出“禁止”命令的操作员，以便执行摧毁地对空导弹基地的最终任务，这一场景成为互联网上的头条新闻

根据汉密尔顿在会议上的精彩发言，他说：“我们训练了这个系统——‘嘿，不要杀了操作员——这太糟糕了。如果你这样做，你会丢分的。那么它开始做什么？它开始破坏通信。”操作员用来与无人机通信以阻止其杀死目标的塔。”

空军最终收回了汉密尔顿的说法，称空军没有进行任何此类无人机模拟，汉密尔顿本人也修改了说法，称他的故事为“思想实验”，2022年，在俄亥俄州赖特帕特森空军基地的空军研究实验室或AFRL，航空航天系统理事会。Auto GCAS是由AFRL、洛克希德·马丁公司和美国国家航空航天局开发的一种软件更新，通过在事故发生前自动拉起飞机来防止飞机撞击地面。（美国空军照片/理查德·埃尔德里奇）

尽管美国军方渴望利用人工智能和自主性的光明前景，从可靠的无人平台将人类从危险中解救出来，到推进自动化，从而节省大量时间和金钱，但建立对人工智能的信任，在复杂环境中做出适当决策是一个必要的先决条件。如果人类不信任这个系统，他们就不会使用它；最近的一篇《岩石上的战争》文章描述了F-16战斗机上自动地面防撞系统（Auto GCAS）的引入速度是如何减慢的，因为飞行员被“令人讨厌的引体向上”激怒了——当系统检测到一个并非真正存在的障碍物时——就关闭了该程序，该系统变得更智能，飞行员也更熟悉它，这使它能够进行救生工作。

鱼鹰MK III的飞行是新ADAx试验场的第一次重大实验，但其他试验很快就会跟进。空军计划用“毒蛇实验”和“下一代作战模型”（VENOM）进行测试，这将把F-16变成“具有越来越自主的打击包能力”的“空中飞行试验台”，旨在开发一种将应用程序直接安装到飞机上的方法，以“实现许多增强任务的能力，如实时数据分析、训练威胁复制、载人无人团队和机器学习。”

Hope Hodge Seck是一位屡获殊荣的调查和企业记者，自2009年以来一直报道军事问题。她是Military.com的前总编辑。

本文由Sandboxx News首次发布

图片：Shutterstock

简介