摘要

本文介绍了一种名为LYNX的先进开源幻觉评估模型，旨在解决大型语言模型（LLM）在生成信息时可能出现的不支持或与检索内容相矛盾的问题。LYNX模型通过高级推理能力，在复杂的现实世界幻觉场景中进行检测。为了评估LYNX，研究团队提出了HaluBench，一个包含15k样本的综合幻觉评估基准，涵盖多个真实世界领域。实验结果显示，LYNX在HaluBench上优于GPT-4o、Claude-3-Sonnet以及其他开源和闭源LLM-as-a-judge模型。此外，LYNX和HaluBench及其评估代码已公开发布，供公众访问。

原理

LYNX模型的核心在于其能够进行高级推理和歧义消除，这是幻觉检测的关键能力。模型通过训练，能够识别生成答案是否忠实于提供的上下文。LYNX的工作原理涉及对问题、上下文和答案的三元组进行分析，判断答案是否与上下文一致。此外，LYNX还采用了链式思维（Chain of Thought, CoT）方法，通过GPT-4o生成推理链，进一步提高了模型的零样本性能。

流程

LYNX的工作流程包括两个主要步骤：首先，从查询中检索相关上下文；然后，使用LLM根据检索到的上下文生成答案。模型通过分析生成的答案是否忠实于上下文（内在幻觉）或是否与事实相符（外在幻觉）来判断是否存在幻觉。例如，在HaluBench中的一个示例中，LYNX能够识别出尽管答案做出了正确的陈述，但它并未被文档和问题适当上下文化，从而判断为幻觉。

应用

LYNX模型的应用前景广泛，特别是在需要自动评估生成内容忠实度的领域，如金融问答系统和医疗AI助手。通过提供一个无需参考的自动评估指标，LYNX有助于确保RAG系统在大规模部署时的安全性。此外，LYNX的开源性质使其易于集成到现有的RAG系统中，为开发者提供有价值的洞察，尤其是在缺乏真实标注的情况下。