摘要

本文探讨了大型语言模型（LLMs）在推理过程中的显著鲁棒性，通过删除和交换相邻层来验证其对模型预测准确性的影响。研究发现，即使在未经微调的情况下，这些干预措施仍能保留原始模型72-95%的预测准确性，且层数越多的模型表现出更高的鲁棒性。基于这些结果，作者提出了四个普遍的推理阶段：去标记化、特征工程、预测集成和残差锐化。这些阶段描述了模型如何从原始标记表示逐步转化为更高层次的上下文表示，最终形成具体的下一个标记预测。

原理

论文通过实验验证了大型语言模型在面对层删除和交换时的鲁棒性。关键在于模型内部的残差连接和迭代推理机制，这些机制允许模型在层级结构发生变化时仍能维持其功能。具体来说，残差连接通过创建多个相对浅的计算子网络的集合，使得模型能够在层级干预下保持稳定。此外，迭代推理假设认为每一层都在逐步更新隐藏状态，以减少损失，这一过程在模型中形成了预测和抑制神经元的集成，进一步增强了模型的鲁棒性。

流程

论文通过一系列实验，包括层删除和相邻层交换，来研究模型的鲁棒性。实验涉及多个模型，如Pythia、GPT-2和Microsoft Phi，这些模型虽然架构不同，但都使用了仅解码器的Transformer。实验结果显示，尽管在模型的第一层和最后一层进行干预会对性能产生较大影响，但中间层的鲁棒性显著增强。这一发现支持了模型中存在四个推理阶段的假设，每个阶段都有其特定的功能和可观察的特征。

应用

本文的研究不仅加深了对大型语言模型内部工作机制的理解，还为模型的设计和优化提供了新的视角。了解模型在不同推理阶段的鲁棒性可以帮助开发更高效和可靠的模型，特别是在需要高度稳定性和准确性的应用场景中，如自动翻译、内容生成和复杂问题解答系统。此外，这一研究也为未来探索更深层次的模型解释性和可控性提供了基础。