【知远导读】本文编译自美海军学会会刊《Proceedings》 2022年第 9期。美海军作战部长迈克尔· 吉尔戴指出，美海军应加速开发无人平台，利用和集成“全部传感器、任意发射器”的杀伤链作战概念。支撑杀伤链作战概念的无人系统，要求在执行作战和其他空中任务时具有高度自主权。尽管技术可行，但当前仍然存在一个重大挑战：如何在有人机驾驶者与其使用的自主系统间建立信任。文章从性能、操纵、道德三个维度对信任人工智能进行了解读，认为当前应扩大人 -机之间信任的基础，在机组人员和自主系统间建立可靠的信任感，这样才能充分发挥无人平台的杀伤力。文章最后向美海军提出了三点建议。

　　2021年 6月，美海军宣布 MQ-25A“黄貂鱼”无人加油机与F/A-18F“超级大黄蜂”战斗机成功完成空中加油试飞。这是“黄貂鱼”项目的里程碑节点，也是将自主无人平台更广泛集成到航母舰载机联队迈出的重要一步。在 2020年 10月的备忘录中，美海军作战部长迈克尔·吉尔戴指出，美海军应加速开发无人平台，利用和集成“全部传感器、任意发射器”的杀伤链作战概念。

　　支撑杀伤链作战概念的无人系统，要求在执行作战和其他空中任务时具有高度自主权。尽管技术可行性能够在“黄貂鱼”等实例中进行测量与报告，但当前仍然存在一个重大挑战：如何在有人驾驶飞机飞行员与其随行的自主系统(AI)间建立信任感?

　　安稳而模糊的关系

　　目前有两种主要的信任关系，这两种关系都能够提高作战效率：机组间人与人的信任、机组与飞机间的人机信任。这两种关系都依赖于持续的评估，是给机组人员一种“安稳而模糊”的感觉，即飞行伙伴与飞行平台都以一种可预测、一致、有效的方式进行工作。

　　对于飞行员和海军飞行军官(NFO)而言，这两种信任关系都始于飞行学校，在那里，空勤人员进入一种充实、严格、有完整记录、经过验证的训练模式，为获得他们梦寐以求的金翼徽章而努力。飞行学员与海军飞行军官需经过数百小时的学术、模拟器和飞行训练，并证明其已达到舰队替换中队( FRS)和更高级别训练所需的基本知识和能力水平。徽章象征着机构对个人飞行能力的信任，证明其已达到既定标准。

　　飞行员与飞机间的人机信任，依赖于平台系统健康状况和持续诊断的透明度。飞行前，机组人员都会进行各种飞行前检查和测试，以建立该架机能够按预期飞行的信心。这些广泛、有充分证据的检查，依靠人与人之间的信任来建立人 -机信任。飞行数千小时后，飞行员对飞机变得熟悉，而机长飞行前的检查签字则会增强人 -机间的信任。

　　如何理解人工智能中的信任

　　信任自主僚机的基础在于海军航空兵业已存在的、经过验证的人 -人、人 -机信任建立的过程。 2022年 6月，美国防部副部长凯瑟琳·希克斯签署并发布《“负责任的人工智能”( RAI)战略与实施路径》。该备忘录包括 6项基本原则，其中之一便是特别关注 人与机器间的信任。

　　作战人员信任人工智能，对于海军航空兵推进有人 -无人编队尤为重要。要让作战人员对无人僚机建立信任，主要依赖对控制自主系统的 AI的信任。尽管人工智能模型和决策可以用各种技术指标来衡量，但 对人工智能系统的信任不是一种指标型衡量，而是人与机器间形成的一种关系。就像飞行员与其战友或战机的关系一样，信任是不会预先包装在硬件中的，它是一种必须通过反复交互、增加透明度和持续评估而逐步构建的关系。

　　对人工智能的信任可以分为三个维度： 性能、操纵和道德。

　　性能。对AI性能的信任源于系统的预期行为。高性能人工智能必须在面对前所未有的情况时做出一致的决策，并能够适应不断变化的数据，这就如同人类飞行员的安全护栏，能够确保有人驾驶飞机的安全。它还必须以作战人员的速度运行，那种通信延迟、行动迟缓、行为过激的无人系统在战场上几乎是毫无用处的。

　　操作。海军飞行员也必须信任人工智能操作。需要考虑的因素包括理解和批准系统的合规性(例如，无人系统是否满足作战人员所熟悉的海军航空认证与要求)，以及网络和数据安全。对人工智能操作的信任还有两个重要组成部分：第一，人工智能的“谦逊与服从”，这可以让飞行员了解哪些条件可能会强调人工智能的决策能力;第二，动态理解人工智能将如何应对这种不确定性。

　　道德。海军飞行员在操作与决策时，要牢记军事道德的最高标准，他们必须知道，他的无人僚机伙伴在执行任务时也要遵循同样标准。道德的另一基本方面是隐私，这是海军必须考虑的。例如，飞行员与自主系统间的语言交流和交互是否会被存储记录，用于训练升级下一个版本的AI系统?只有政府官员、承包商或外国合作伙伴才能接触到这种交互吗?人工智能如何、为何做出决策的透明度，对于通过道德建立信任感也至关重要。

　　扩大信任的基础

　　海军航空兵可以利用丰富的经验，在性能、操作和道德等方面建立飞行员与自主系统间的信任。人 -人信任与人 -机信任应建立同样要求，以适应海军航空兵未来所需的信任建立措施。

　　自主系统应该经历(目前正在经历)多年的训练和认证过程。例如，美海军从 2006年开始设想舰载无人机，而 MQ-25“黄貂鱼”无人机的性能较弱，直到 2024年才能达到作战能力。自主系统的开发和部署必须符合单个组件的能力标准，如硬件和软件包，以及整体任务能力，如人类飞行员或单架飞机的能力。尽管像 MQ-25这样的初始迭代将在加油、远程侦察、情报收集等任务领域受到极大限制，但随着时间推移，自主系统将能够通过越来越困难的评估来提高其能力。MQ-25无人机第一次为“超级大黄蜂”加油时，因为新奇而成为头条热闻。而在第 100次给“超级大黄蜂”加油时，这将只是例行公事。

　　随着美海军越来越多地使用自主平台，海军需要调整训练时间表以适应人机认证。随着更成熟的自主平台不断入列，这些平台可能最适合用于舰队替换中队或舰队环境。使用自主飞机可能会提高训练效率或节约成本。在初级飞行训练中，海军飞行学员首先在T-6“德克萨斯人”II教练机上作为僚机飞行。在编队训练的最初阶段，重点是在其他飞机附近的安全操作和建立基本的“视线”基础。飞行作为学员练习的稳定平台，可通过预定航线的自主飞行或由后座飞行教员指挥来增强这一作用。除了节省人力时间和飞行时间外，早期接触自动驾驶飞机可以积累经验和信任，这些经验和信任将在学员今后的职业生涯中持续发展。

　　自主僚机系统必须具备向人类飞行员传达系统健康和平台问题的能力，就像人与人之间一样。自主系统是一种复杂系统，包括软件和硬件，由传感器、效应器、工程操作、任务管理控制、通信、机动设备等组件组成。将缺陷告知人类飞行员，是建立和保持对无人系统信任的先决条件。

　　如同人类飞行员对自己和飞机进行飞行前检查一样，无人系统也必须对各个功能组件的软硬件进行飞行前检查。如同经验丰富的机长必须签署飞机的飞行前检查，人类的机器人和自主系统专家是对自主系统进行此类检查并建立信任的理想人选。

　　给海军的几点建议

　　为满足美国防部、海军部制定的自主指导方针，实现美海军航空兵有人 -无人机编队，美海军应采取如下措施：

　　为自主系统的机器人硬件和人工智能软件建立稳健易懂的认证流程。就像F/A-18飞行员没有资格驾驶P-8一样，人工智能应该有紧密耦合的软件、平台和任务，这些都是根据具体情况而定。美海军可通过与人类飞行员和飞机一样的严格训练完成这一任务，包括初始航空训练、后续高等教育以及即时飞行前检查。获得金翼徽章是美国海军航空兵的文化基石，所有飞行员，无论是有人驾驶机还是无人驾驶机操纵者，都应该遵守这个标准。

　　将人机团队训练纳入飞行学校、舰队替换中队和部队训练大纲。有人机组适应性强，可以集成新的武器系统，海军航空兵可以通过与自主系统的早期和重复交互来加速建立信任。为使海军航空兵充分发挥自主作战系统的全部潜力，飞行员在进入敌对环境前，必须已经与人工智能建立起信任，并具有经验。就像海军飞行员在结构化的训练环境中学会与僚机和中队一起工作一样，他们也必须学会与AI僚机一起飞行。为改善海军飞行员培养效率低的问题，美海军航空训练司令部(CNATRA)于 2020年 9月启动了“复仇者计划( ProjectAvenger)”飞行员训练计划。以上训练内容可能已包括在“复仇者计划”中，该计划使用虚拟现实和混合现实训练器、人工智能等新兴技术来改进飞行员训练。未来几年，在无人机大规模投入使用前，该教学计划应该已经进行了测试和完善。

　　在飞行中队和航空联队设置其他专业，这些专业对于“代表”无人系统并建立信任十分必要。美国人工智能国家安全委员会(NSCAI)、《美国国防部人工智能战略》以及《美海军智能自主系统战略》都强调了对人工智能劳动力的需求。这些专业舰员、准尉和军官将成为无人驾驶航空领域的机器人和人工智能专家，并成为人机之间的人工翻译。海军航空兵正在朝着这个方向迈进，最近宣布为MQ-25中队设立准尉飞行器操作员(AVO)。飞行器操作员将通过一个简短的飞行学校教学大纲，成为无限制航线准尉，最终获得金翼徽章。但与海军飞行员不同，他们不需要通过竞争晋升，因此可以成为自主系统操作的专家。使飞行器操作员成为无限制航线操作员的决定尤其值得称赞，因为这是在组织层面让自主系统在作战任务中发挥作用的一个信号。

　　在私营行业人工智能框架基础上，海军航空兵应确保飞行器操作员围绕三个一般职责构建。AI培训师将扮演前沿部署的数据科学家和AI工程师的角色，管理、清理和修改数据，监测数据和算法性能的变化，并在软件出现错误时纠正错误。AI解释人员将与AI合作，了解其为何做出如此决策，解释这些决策以供人类理解，并监控其一致性与合规性。人工智能维护者将确保自主系统在符合所有道德、法律和政策要求的情况下继续工作。这些人员可能会处于更高梯队，如航空联队，他们能够识别并推翻预先建立的AI围栏之外的决策，审查和批准数据和输出质量，在部署前审查和批准更新的AI版本，标记机器判断中的错误，并最终确保AI按照指挥官和海军飞行员的要求正常工作。

　　杀伤力第一

　　从自动瞄准到数字飞行控制，再到当前的精确着陆，自动化水平的提高不断改变着机组人员与作战平台之间的关系。技术的不断进步意味着飞行员必须不断学习新方法，以充分发挥平台的杀伤力。始终不变的是，必须以任何必要的手段在空战中飞行、作战并最终取得胜利。

　　美国一战王牌飞行员埃迪·瑞肯贝克直言不讳地说，“空战不是一项运动，而是科学谋杀。”在提高美海军航空兵杀伤力、更有效高效地执行航空任务、制空以支持美国和盟国利益方面，自主僚机具有巨大潜力。为实现这一潜力，美国海军航空兵必须采取以人为本的方法集成自主系统。海军航空兵必须共同努力，在机组人员和自主系统之间建立信任。这样，随着 21世纪作战样式的逐渐成熟，美国海军航空兵才能赢得胜利。