摘要

本文探讨了在关系图学习中，传统的暴力扩展训练数据集和可学习参数的策略（即缩放法则）并不总是能产生更强大的模型，主要原因在于架构不兼容和表示瓶颈。为了解决这一挑战，作者提出了一种新颖的框架——知识感知简约学习（Knowledge-Aware Parsimony Learning），该框架从关系图中提取知识（如符号逻辑和物理定律），并通过组合泛化应用于具体任务，从而实现多功能、样本高效和可解释的学习。实验结果表明，该框架在多个任务上超越了传统缩放方法，强调了在开发下一代学习技术时整合知识的重要性。

原理

知识感知简约学习框架的核心在于利用关系图中数据与知识的双重性。首先，框架在训练过程中提取知识，这些知识作为“构建块”用于实现简约学习。通过将这一理念应用于架构、参数和推理，框架能够有效地实现多功能、样本高效和可解释的学习。具体来说，框架通过以下步骤实现其功能：

1. 知识提取：从关系图中提取符号逻辑和物理定律等知识。
2. 组合泛化：将提取的知识应用于具体任务，通过组合这些知识块来解决任务。
3. 简约学习：在架构、参数和推理过程中应用简约原则，确保模型的效率和可解释性。

流程

框架的工作流程包括以下几个关键步骤：

1. 数据准备：准备关系图数据，这些数据包含了丰富的知识和结构信息。
2. 知识提取：使用特定的算法从关系图中提取有用的知识，如逻辑规则和物理定律。
3. 模型训练：利用提取的知识训练模型，通过组合泛化技术优化模型参数。
4. 任务应用：将训练好的模型应用于具体任务，如分子属性预测、知识图谱推理等。
5. 结果评估：评估模型在各个任务上的性能，确保其多功能性、样本效率和可解释性。

应用

知识感知简约学习框架在多个领域具有广泛的应用前景，特别是在需要处理复杂关系数据的场景中，如：

1. 药物发现：通过预测分子间的相互作用，加速新药的研发过程。
2. 知识图谱推理：提高知识图谱中实体和关系推理的准确性和效率。
3. 推荐系统：利用用户和物品之间的关系图，提供更精准的个性化推荐。
4. 城市网络设计：优化城市交通、通信和能源供应网络的设计和管理。