摘要

本文探讨了大型语言模型（LLMs）中Transformer块的内部机制，特别是关注了Residual Jacobians的奇异向量对齐现象。通过分析38个公开可用的LLMs，研究发现Residual Jacobians的左上和右上奇异向量的对齐与模型性能正相关。此外，研究还揭示了训练后LLMs中隐藏表示的线性和层间指数增长轨迹的涌现。这些发现不仅增强了LLMs动态系统的解释，也为进一步理解和优化LLM架构铺平了道路。

原理

本文将LLMs视为通过离散、耦合、非线性、高维动力系统转换嵌入的过程。通过追踪单个令牌在Transformer块中的轨迹，并沿这些轨迹通过其Jacobian矩阵线性化系统，研究者发现了Residual Jacobians的奇异向量对齐现象。这种对齐现象在训练后的模型中更为明显，且与模型性能提升相关。此外，研究还观察到隐藏表示的线性和层间指数增长轨迹，这些特性在训练后更为显著。

流程

研究者首先对38个公开可用的LLMs进行了分析，通过计算每个Transformer块的Residual Jacobian矩阵的奇异值分解（SVD），并检查其左上和右上奇异向量的对齐情况。实验中使用了来自多个数据集的1,200个提示，评估了模型在不同任务上的性能。通过这些数据，研究者能够量化奇异向量对齐与模型性能之间的关系，并观察到隐藏表示的线性和指数增长轨迹。

应用

本文的研究发现不仅有助于理解LLMs的内部工作机制，还可能指导未来LLM架构的设计和优化。特别是，增强Residual Jacobians奇异向量的对齐可能会进一步提升模型性能，这对于开发更高效、更强大的语言模型具有重要意义。此外，这些发现还可能应用于其他基于Transformer的模型，推动整个领域的技术进步。