MStar:扩展知识图谱推理范围的新型归纳模型

Expanding the Scope: Inductive Knowledge Graph Reasoning with Multi-Starting Progressive Propagation

摘要

本文介绍了一种名为MStar的新型归纳知识图谱推理模型,该模型通过利用条件消息传递神经网络(C-MPNNs)来扩展渐进传播的范围,从而预测新实体的缺失事实。MStar的关键创新在于选择多个查询特定的起始实体,以扩大渐进传播的范围,并通过设计的高速公路层将查询相关消息传播到更远的区域。此外,本文还引入了一种名为LinkVerify的训练策略,以减轻噪声训练样本的影响。实验结果表明,MStar在处理远距离实体的查询时,性能优于现有的最先进模型。

原理

MStar模型的核心在于其能够选择多个查询特定的起始实体,并通过高速公路层创建这些实体与头部实体之间的快捷路径,从而有效地将条件信息传递到远距离的实体。这种设计使得模型能够在有限的步骤内访问更多的查询相关远距离实体,并提供更多的条件信息给这些实体,从而提高推理性能。

流程

MStar的工作流程包括以下几个关键步骤:首先,使用预嵌入的图神经网络(GNN)对所有实体进行预编码;然后,通过起始实体选择(SES)模块根据预嵌入选择查询依赖的起始实体;接着,高速公路层根据头部实体与其他起始实体之间的相关性,将起始实体分类为不同类型,并为每种类型创建新的关系类型和快捷边;最后,基于这些快捷边的消息传递,使用多条件GNN进行渐进传播,生成每个实体的成对嵌入。整个流程通过LinkVerify策略进行训练样本的过滤,以减少噪声样本的影响。

应用

MStar模型在知识图谱推理领域具有广泛的应用前景,特别是在需要处理大量新实体和事实的动态知识图谱中。其高效的渐进传播机制和噪声样本过滤策略使其在实际应用中能够提供更准确和可靠的推理结果,适用于各种下游AI应用,如语义搜索、问答系统和逻辑推理等。