NeSy-EBMs：结合深度学习和符号推理的统一框架

Posted on 2024-07-12 in CS.AI • 25 words • 1 minute read

摘要

本文介绍了一种名为Neural-Symbolic Energy-Based Models (NeSy-EBMs)的统一数学框架，用于神经符号系统中的判别和生成建模。该框架结合了概率和非概率方法，通过能量函数将神经和符号组件结合在一起。文章还开发了一种建模范式的分类法，重点关注系统的神经符号接口和推理能力，并引入了一套针对NeSy-EBMs的学习技术。此外，文章提出了Neural Probabilistic Soft Logic (NeuPSL)，一个用于构建NeSy-EBMs的开源库，旨在提高可扩展性和表达能力。通过在多个数据集上的广泛实证分析，文章展示了NeSy-EBMs在图像分类、图节点标记、自动驾驶车辆情境意识和问答等任务中的实际优势。

加速化学反应模型推理：投机解码技术在工业应用中的突破

Posted on 2024-07-12 in CS.AI • 14 words • 1 minute read

摘要

本文介绍了一种加速基于字符串生成化学反应模型的推理方法，特别适用于工业应用中的计算机辅助合成规划系统。该方法通过投机解码技术，将查询字符串的子序列复制到目标字符串中，从而加速自回归SMILES生成器的推理速度。研究团队在Pytorch Lightning中重新实现了分子变换器，并在反应预测和单步逆合成中实现了超过3倍的推理加速，且未损失准确性。

探索优先经验回放在强化学习中的效能与局限

Posted on 2024-07-12 in CS.AI • 8 words • 1 minute read

摘要

本文探讨了在强化学习中广泛使用的经验回放技术，特别是优先经验回放（PER）的效能和适用性。通过一系列精心设计的实验，研究了PER在预测任务和控制任务中的表现，特别是在结合神经网络进行函数近似时的行为。研究发现，尽管PER在表格设置中能有效提升价值传播，但在与神经网络结合时，其性能通常不优于均匀回放。此外，本文还引入了基于梯度TD方法的预期PER算法，该算法在某些情况下表现更为稳定，但总体上仍未显示出对均匀回放的明显优势。

探索新型超表达激活函数PEUAF：在工业与图像数据集中的应用与性能验证

Posted on 2024-07-12 in CS.AI • 40 words • 1 minute read

摘要

本文提出了一种名为参数化基本通用激活函数（PEUAF）的新型超表达激活函数，并通过在多个工业和图像数据集（包括CIFAR10、Tiny-ImageNet和ImageNet）上进行的系统性和综合性实验，展示了其有效性。此外，本文还显著扩展了超表达激活函数系列，证明了任何连续函数都可以通过具有特定超表达激活函数的固定大小网络以任意期望的精度进行近似。具体而言，本文解决了阻碍超表达激活函数发展的两个主要瓶颈：超表达函数的有限识别，这引发了对其广泛适用性的怀疑；以及它们通常奇特的形式，这导致了对其在实际应用中的可扩展性和实用性的怀疑。

诊断与重学习：平衡多模态学习的新策略

Posted on 2024-07-12 in CS.AI • 13 words • 1 minute read

摘要

本文由Yake Wei等人在中国人民大学高岭人工智能学院提出，针对多模态学习中的不平衡问题，即模型倾向于特定模态的训练，提出了一种名为“诊断与重学习”的方法。该方法通过评估每个模态的单模态表示空间的可分离性来估计学习状态，并据此软重初始化相应的单模态编码器，从而避免了对信息量少的模态的过度强调，同时增强了较差学习的模态的编码器，有效地平衡和增强了多模态学习。实验结果显示，该方法在多种模态和多模态框架中表现出色，源代码和数据集已公开。

"AI驱动的新型仓库布局生成框架：提升效率与生产力的未来解决方案"

Posted on 2024-07-11 in CS.AI • 18 words • 1 minute read

摘要

本文介绍了一种新颖的自动化仓库布局生成框架，该框架由Alberta Machine Intelligence Institute（Amii）和Routeique Inc的研究人员共同开发。该框架采用约束束搜索算法，旨在优化仓库布局，以提高效率和生产力。通过考虑空间参数、功能需求和布局可行性，该框架能够生成符合多种仓库尺寸、形状和门位置的优化布局。此外，通过使用评分函数评估布局的存储位置数量、访问点和可达性成本，该框架能够帮助仓库设计师快速探索和确认选项，从而选择最适合其使用场景的布局。

"ALISE：开创性的卫星图像时间序列编码器，推动地球监测技术的进步"

Posted on 2024-07-11 in CS.AI • 9 words • 1 minute read

摘要

本文介绍了一种名为ALISE的新型卫星图像时间序列（SITS）编码器，旨在解决实际应用中卫星遥感图像处理的主要挑战。ALISE通过利用SITS的空间、光谱和时间维度，生成对齐的潜在表示，这些表示在时间上是固定的，不需要进一步训练即可用于下游任务。与现有的自监督学习（SSL）模型不同，ALISE采用了一种灵活的查询机制，将SITS投影到一个共同的学习时间投影空间中。此外，通过多视图框架，ALISE结合了实例判别和掩码自编码任务，以探索SITS的集成。评估结果显示，使用对齐表示比以前的SSL方法在分割任务中更有效，并且ALISE表示也适用于变化检测。

"Attritable MCTS：应对智能体频繁失败的分散式多智能体规划新算法"

Posted on 2024-07-11 in CS.AI • 20 words • 1 minute read

摘要

本文提出了一种名为Attritable MCTS (A-MCTS)的新型分散式多智能体规划算法，旨在解决在智能体频繁失败的真实大规模部署场景中，现有的分散式规划方法表现不佳的问题。A-MCTS通过使用全局奖励函数来估计每个智能体的局部贡献，并利用后悔匹配（Regret Matching, RM）进行协调，能够及时且高效地适应活动智能体集合的变化。本文通过在不同的信息收集问题场景中评估其有效性，展示了A-MCTS在智能体高失败率下仍能实现高效适应的理论和实验结果。结果表明，在频繁失败的情况下，我们的解决方案在全局效用和可扩展性方面显著优于现有最佳方法。

"DenseFusion-1M：引领多模态感知新纪元"

Posted on 2024-07-11 in CS.AI • 11 words • 1 minute read

摘要

本文介绍了一种名为DenseFusion-1M的新型数据集，该数据集通过整合视觉专家的见解和采用低成本但高效的标题引擎，为图像生成全面且准确的描述。DenseFusion-1M数据集包含100万张高代表性的未筛选LAION数据集图像，通过Perceptual Fusion技术生成密集描述。实验验证表明，该数据集显著提升了现有MLLMs在多种视觉语言基准测试中的感知和认知能力，特别是在高分辨率图像输入方面。

"Gradient Boosting Reinforcement Learning: 强化学习的新前沿"

Posted on 2024-07-11 in CS.AI • 23 words • 1 minute read

摘要

本文介绍了一种名为Gradient Boosting Reinforcement Learning (GBRL)的新框架，该框架将梯度提升树（GBT）的优势扩展到强化学习（RL）领域。GBT在监督学习任务中因其解释性、对分类特征的支持以及适用于边缘设备的轻量级实现而广受欢迎。然而，GBT在在线学习场景中的应用，特别是在强化学习中，一直受到限制。GBRL框架通过实现多种actor-critic算法并与其神经网络（NN）对应算法进行性能比较，展示了GBT在RL中的可行性和潜力。此外，本文还引入了一种树共享方法，用于策略和价值函数，通过不同的学习率增强了学习效率。GBRL在具有结构化或分类特征的领域中表现出色，并提供了一个高性能的GPU加速实现，与广泛使用的RL库无缝集成。

Previous Page 16 of 156 Next Page