摘要

本文探讨了大型语言模型（LLMs）在遵循规则方面的能力，特别是在实际应用中确保安全性和准确性的重要性。文章提出了一个名为RuleBench的综合基准，用于评估LLMs在多种规则遵循任务中的表现。实验结果显示，尽管LLMs在遵循指令方面表现出色，但在遵循复杂规则方面仍存在局限。文章还分析了LLMs在规则遵循中的错误类型，并提出了改进方向，强调了规则遵循能力对于实现人工通用智能（AGI）的重要性。

原理

本文通过区分指令遵循和规则遵循的概念，强调规则遵循需要模型进行条件判断和动态选择正确规则的能力。RuleBench基准包括多种类型的规则遵循任务，如关系提取、内容审核和常识问答等。模型在处理这些任务时，需要根据提供的规则进行推理和决策，而不是简单地执行指令。这种能力要求模型不仅理解规则的字面意义，还要能够根据上下文正确应用规则。

流程

文章详细描述了RuleBench的构建过程，包括利用现有推理基准进行重新处理和设计，以及如何通过ChatGPT生成相应的推理规则。例如，在构建SALAD基准时，使用ChatGPT根据提供的文本和安全内容类别生成推理规则。工作流程还包括对LLMs在不同规则设置下的测试，如无规则、黄金规则、少数规则和所有规则设置，以评估模型在不同情况下的规则遵循能力。

应用

本文的研究为LLMs在需要严格规则遵循的领域，如法律、医疗和金融等，提供了重要的应用前景。通过提高LLMs的规则遵循能力，可以增强其在这些领域的可靠性和安全性。此外，研究还为未来开发更高级的规则遵循智能代理提供了理论和实践基础，有助于推动AGI的发展。