摘要

本文探讨了链式思维（Chain-of-Thought, CoT）提示对大型语言模型（LLMs）多步骤推理能力的影响。通过详细分析解密移位密码这一符号推理任务，论文揭示了影响CoT推理效果的三个关键因素：任务预期输出的概率、模型预训练期间隐式学习的内容（记忆），以及推理过程中涉及的中间操作数量（噪声推理）。研究发现，这些因素显著影响任务的准确性，例如，改变输出的发生概率可以使准确率从26%跃升至70%。此外，论文强调模型需要明确输出中间步骤，这些步骤可以作为条件来增加正确答案的概率。实验表明，只要模型这样做，提示中的演示的有效性并不重要。总体而言，CoT提示的性能反映了记忆和概率版本的真正推理。

原理

链式思维（CoT）提示通过引导大型语言模型（LLMs）生成一系列中间推理步骤，然后再给出最终答案，从而增强其多步骤推理能力。本文通过解密移位密码的任务，详细分析了CoT提示的工作原理。研究发现，CoT性能受到三个主要因素的影响：

1. 概率：任务预期输出的概率越高，CoT的效果越强。
2. 记忆：模型在预训练期间遇到的不同移位密码变体的频率越高，性能越好。
3. 噪声推理：推理步骤中的错误率随着任务难度的增加而增加，任务难度由隐含推理步骤的数量决定。 此外，论文还发现CoT的效果依赖于生成增加正确答案概率的词序列，即使提示中的演示无效，CoT也能成功。

流程

在解密移位密码的任务中，CoT提示的工作流程如下：

1. 标准提示：仅包含任务描述和演示，没有推理步骤。
2. 基于文本的CoT（Text-CoT）：鼓励模型逐字母解码消息（图2）。
3. 基于数学的CoT（Math-CoT）：鼓励推理流程，涉及将每个字母转换为数字，执行移位操作，然后将结果转换回字母。
4. 基于数字序列的CoT（Number-CoT）：使用与移位密码同构但基于数字域的任务，输入和输出都是数字序列。 通过这些不同的提示方式，GPT-4在解密移位密码任务中的性能得到了显著提升。例如，使用Text-CoT提示时，GPT-4的平均准确率从零提升到32%。

应用

CoT提示技术在提升大型语言模型的推理能力方面展现出巨大潜力，尤其在需要多步骤推理的任务中。未来，这一技术可能被广泛应用于教育辅导、复杂问题解答、编程辅助等领域，帮助用户更有效地解决复杂问题。