摘要

本文介绍了一种名为“Visual Evaluative AI”的假设驱动决策辅助工具，该工具能够从图像数据中提供支持或反驳特定假设的证据。通过识别图像中的高级人类概念，并生成每个假设的证据权重（Weight of Evidence, WoE），该工具在决策过程中提供了有力的支持。论文特别在皮肤癌诊断领域应用了这一工具，构建了一个基于网络的应用程序，允许用户上传皮肤镜图像，选择假设，并通过提供的证据进行决策分析。此外，论文还展示了不同基于概念的解释方法的有效性。

原理

Visual Evaluative AI的核心工作原理是结合基于概念的解释模型和证据权重模型（WoE）。基于概念的模型通过人类定义的概念来提供解释，这些概念与图像的某些部分相关。这些解释通过图像的分割来可视化，代表特定的概念。WoE模型通过贝叶斯规则，以证据似然的对数比率来量化每个概念（或特征）对特定假设的支持或反对程度。通过将基于概念的解释模型（如可逆概念基础解释（ICE）和后验概念瓶颈模型（PCBM））与WoE模型结合，论文提出了两种生成证据的模型：ICE+WoE和PCBM+WoE。这两种模型通过替换传统分类器层，实现了对图像中概念的量化评估，从而为决策提供科学依据。

流程

论文中的工作流程首先涉及用户上传皮肤镜图像，然后选择一个假设（如皮肤癌的特定类型）。应用程序随后生成支持或反对该假设的证据。具体来说，应用程序通过分析图像中的特征（概念），并使用WoE模型计算每个特征对所选假设的支持程度。用户界面展示了四个主要组件：上传图像、示例测试图像、候选假设以及支持/反对所选假设的证据。用户可以根据这些证据，结合自己的专业知识，做出最终的诊断决策。

应用

Visual Evaluative AI的应用前景广泛，特别是在医疗领域，如皮肤癌诊断。该工具不仅提高了诊断的准确性，还通过提供透明和可解释的决策支持，增强了医生和患者对AI系统的信任。此外，该工具的开放性和可扩展性意味着它可以应用于其他类型的图像分析和决策支持场景，如病理学、放射学等。