摘要

本文介绍了一种名为XDELTA的新型可解释AI工具，旨在解释边缘模型与高精度基础模型在视觉任务中的差异。XDELTA通过引入DELTA网络，一种学习型方法，来表征模型间的差异，并补充边缘网络的特征表示能力。该工具通过几何和概念级别的分析，有效地解释了模型间的差异，并在实际应用中证明了其有效性。

原理

XDELTA的核心在于DELTA网络的构建，该网络旨在捕捉基础模型与边缘模型之间的差异，并通过稀疏优化框架确保其紧凑性和足够的特征表示能力。DELTA网络通过负相关学习方法确保与边缘模型的互补性。在实际应用中，DELTA网络通过分析特征图的差异，提供几何和语义级别的解释，从而帮助理解边缘模型为何在某些情况下表现不佳。

流程

XDELTA的工作流程包括两个主要任务：构建DELTA模型和生成可解释的模型差异总结。DELTA模型的构建涉及从基础网络中提取结构化子图，以构建DELTA特征提取器，并通过训练确保DELTA网络与边缘网络的互补性。在实际应用中，XDELTA通过分析输入图像的激活图，识别边缘模型未能正确分类但基础模型成功的情况，并提供详细的解释。

应用

XDELTA的应用前景广泛，特别是在资源受限的边缘设备上。通过理解边缘模型与基础模型之间的差异，XDELTA不仅有助于提高边缘设备的性能，还能在模型部署和优化过程中提供重要的洞察。此外，XDELTA的解释能力可以应用于模型验证、调试和用户教育等多个领域。