"揭秘深度学习的黑匣子:集成特征分析引领模型解释新纪元"
摘要
本文介绍了一种名为“集成特征分析”(Integrated Feature Analysis, IFA)的新方法,旨在提高深度学习(DL)模型的解释性和可接受性,特别是在风险敏感的应用领域,如安全系统、工业异常检测和医学影像。传统的类激活映射(CAM)方法虽然提供了模型决策的部分视图,但缺乏对数据集和模型中间特征的深入分析,限制了其解释能力。IFA通过特征分布分析和特征分解,提供了关于模型过拟合、数据集混淆因素、异常值、模型冗余和主要特征的详细信息,从而增强了CAM的解释性和一致性。该方法在八个不同领域的数据集上进行了验证,显著提高了CAM与模型输出的一致性,证明了其有效性和先进性。
Read more...








