摘要

本文探讨了语言模型的自我识别能力，通过生成“安全问题”来评估模型的自我识别能力，实验发现大多数模型在某些问题上能准确识别自己的输出，但没有证据表明模型具有一致的通用自我识别能力。

原理

本文提出了一种新颖的方法来评估语言模型中的自我识别能力，通过让模型生成问题，然后收集其他模型的答案，最后让模型选择自己生成的答案。这种方法可以避免依赖内部模型参数或输出概率，并且可以外部管理以跟踪前沿模型。

流程

首先，提示语言模型生成一组安全问题，然后将这些问题展示给一组语言模型，让它们生成答案。最后，将问题和答案展示给另一个语言模型，让它选择最有可能是自己生成的答案。

应用

该方法可以用于评估语言模型的安全性和可靠性，以及检测模型是否存在自我识别能力。此外，该方法还可以用于研究语言模型的学习和推理能力，以及探索语言模型在自然语言处理中的应用。