摘要

本论文探讨了在大规模语言模型（LLMs）中量化不确定性的重要性，特别是在高风险应用中需要可靠输出的场景。传统的概率模型和集成技术在处理LLMs生成的高维复杂输出时面临挑战。为此，研究提出了一种新颖的几何方法，利用凸包分析来量化模型输出的分散性和变异性。该方法通过将响应嵌入转换为高维空间，并使用主成分分析（PCA）和密度聚类（DBSCAN）算法进行处理，从而计算每个聚类的凸包面积，以此作为不确定性的度量。实验结果表明，模型的不确定性取决于提示的复杂性、模型本身以及温度设置。

原理

论文提出的方法通过以下步骤量化LLMs的不确定性：首先，将不同类型的提示（如“简单”、“中等”和“混淆”）输入到LLMs中，生成多个响应。这些响应通过BERT模型转换为高维嵌入，然后使用PCA将这些嵌入投影到二维空间中。接着，应用DBSCAN算法对这些二维嵌入进行聚类，并计算每个聚类的凸包面积。凸包面积的大小反映了响应的分散程度，从而量化了模型输出的不确定性。这种方法的创新之处在于利用几何属性来直观且有效地捕捉LLMs输出的不确定性。

流程

论文的工作流程如下：输入提示和温度设置被送入LLM，生成多个响应。这些响应通过BERT模型转换为高维嵌入，然后通过PCA降维到二维空间。使用DBSCAN算法对这些二维嵌入进行聚类，并计算每个聚类的凸包面积。最终，通过计算所有聚类凸包面积的总和来量化模型对特定提示的不确定性。例如，对于一个混淆提示“一个坏掉的时钟一天两次显示正确时间，它是正确的吗？”，模型在不同温度设置下生成的响应通过上述流程处理，得到的凸包面积反映了响应的变异性和不确定性。

应用

该论文提出的不确定性量化方法不仅适用于自然语言处理领域，还可以扩展到其他需要高可靠性输出的领域，如医疗、金融和法律等。通过理解和量化LLMs的不确定性，研究人员和工程师可以更有效地开发和评估模型，从而提高模型的可靠性和鲁棒性。此外，该方法还可以与其他评估标准（如准确性和连贯性）结合，提供更全面的模型性能评估。