摘要

本文介绍了一种基于大型语言模型（LLM）的实时异常检测与反应规划框架，旨在提高机器人系统在面对分布外（out-of-distribution, OOD）故障模式时的检测和缓解能力。该框架面临两大挑战：一是如何减少这些模型的计算开销，使其能够在线应用；二是如何将它们的判断整合到安全的控制框架中。为此，本文提出了一种两阶段推理框架：首先是一个快速的二元异常分类器，它在LLM嵌入空间中分析观测数据，可能会触发一个较慢的回退选择阶段，利用生成式LLM的推理能力。这些阶段对应于模型预测控制策略中的分支点，确保在检测到异常时，各种回退计划的联合可行性，从而保证安全。实验表明，我们的快速异常分类器在资源和时间限制下，能够提升动态机器人系统（如四旋翼或自动驾驶车辆）的可信度。

原理

该框架的核心在于利用LLM的零样本泛化能力，通过两阶段推理机制实现实时异常检测和反应规划。第一阶段是快速异常检测，通过在LLM的嵌入空间中查询与先前记录观测的相似度，快速识别偏离正常条件的异常情况。第二阶段是较慢的生成式推理，一旦检测到异常，系统会利用LLM的生成能力，细致地推理如何应对异常场景。这两个阶段通过模型预测控制（MPC）策略结合，该策略维护多个轨迹计划，每个计划对应一个安全保持干预措施，确保在LLM推理完成前，这些计划的可行性，从而保证系统的安全性。

流程

1. 快速异常检测阶段：系统接收实时观测数据，通过LLM嵌入空间中的相似度查询，快速判断是否存在异常。
2. 触发慢速推理阶段：如果检测到异常，系统进入回退安全状态，同时启动LLM进行更深入的生成式推理，以确定异常的潜在危害。
3. MPC策略执行：在LLM推理期间，MPC策略维护多个可行轨迹，每个轨迹对应一个高级别干预策略，确保系统在等待LLM决策时保持闭环安全。
4. 执行回退计划：LLM输出决策后，系统根据决策执行相应的回退计划，确保机器人能够安全地应对异常情况。

应用

该框架适用于需要高度可靠性和安全性的动态机器人系统，如自动驾驶车辆、无人机等。通过实时监控和智能反应规划，可以显著提高这些系统在面对未知和异常情况时的鲁棒性和安全性。未来，该技术有望进一步集成到更广泛的机器人操作系统中，成为确保机器人系统安全运行的关键技术之一。