本文介绍了一种名为PDiscoFormer的新型人工智能模型，该模型利用视觉变换器（ViT）来放松传统计算机视觉方法中对物体部分检测的严格几何约束。传统的部分发现方法通常假设发现的部分应该是小而紧凑的，这在某些情况下是有用的，但在处理具有复杂形状或多个实例的对象时可能不适用。PDiscoFormer通过使用自监督的DINOv2 ViT模型，引入了一种总变差（TV）先验，允许部分具有多个连接组件的任意大小，从而在三个细粒度分类基准（CUB、PartImageNet和Oxford Flowers）上显著优于先前的方法。该模型不仅在部分发现指标上取得了显著改进，而且在下游分类任务上也表现出色，显示出自监督ViT模型中强大的归纳偏差需要重新考虑用于无监督部分发现的形状先验。
Read more...
本文介绍了一种名为VETE（Variational and Explanatory Transcriptomics Encoder）的新型神经网络框架，旨在通过整合变分组件和可追踪的基因本体（Gene Ontology, GO）来编码癌症转录组数据，从而预测抗癌药物反应。VETE的关键创新包括一种局部可解释性引导的方法来识别本体路径，一个可视化工具来阐明药物反应的生物机制，以及应用集中式大规模超参数优化。VETE在癌症细胞系分类和药物反应预测方面展示了强大的准确性，并提供了可追踪的生物学解释，为癌症研究中AI驱动的预测与生物学意义的洞察之间架起了桥梁。
Read more...
本文通过系统性综述方法，深入探讨了专家系统（ESs）在制造业中提高能源效率的应用。文章背景设定在欧盟致力于2050年实现气候中和的目标下，制造业因其高能耗和技能工人短缺问题而成为提高能源效率的关键领域。文章通过分析1987年至2023年间发表的54篇相关文献，分类讨论了ESs在不同制造类型、应用视角、应用目的和ES类型中的应用情况，并指出了未来研究的方向和潜在的研究空白。
Read more...
本文介绍了一种创新的多模态掩蔽孪生网络（Multi-modal Masked Siamese Network, MSN），用于改善胸部X射线（CXR）图像的表示学习。该方法通过在自监督预训练阶段整合电子健康记录（EHR）数据，特别是包括人口统计、扫描元数据和住院信息等三种类型的EHR数据，来提升CXR图像的特征表示质量。研究在三个公开的CXR数据集（MIMIC-CXR, CheXpert, 和 NIH-14）上进行了评估，使用了两种视觉变换器（ViT-Tiny 和 ViT-Small）作为骨干网络。实验结果显示，与传统的MSN及最新的自监督学习基线相比，该方法在通过线性评估测量的表示质量上有显著提升。此外，该研究还强调了EHR数据增强的自监督预训练在医学影像领域的潜在应用前景。
Read more...
本文探讨了大型语言模型（LLMs）在风险投资（VC）决策中的应用，特别是预测初创公司成功与否的创始人特征。通过使用LLM提示技术，如思维链（chain-of-thought），从有限的数据中生成特征，并通过统计和机器学习提取洞察。研究结果揭示了某些创始人特征与成功之间的潜在关系，并展示了这些特征在预测中的有效性。该框架结合了机器学习技术和LLMs，具有改善初创公司成功预测的巨大潜力，对寻求优化投资策略的VC公司具有重要意义。
Read more...
本文介绍了一种基于生成式人工智能的集合后处理方法，旨在提高美国连续地区（CONUS）极端降水事件的概率预报。该方法结合了3D Vision Transformer（ViT）进行偏差校正和Latent Diffusion Model（LDM）进行后处理，生成包含时空一致性降水轨迹的扩展生成集合。这些轨迹有望改善极端降水事件的特征描述，并提供有技巧的多日累积和6小时降水指导。该方法使用全球集合预报系统（GEFS）的降水预报进行测试，并与气候校准降水分析（CCPA）数据进行验证。验证结果表明，该方法生成的集合成员在连续排名概率技巧评分（CRPSS）和Brier技巧评分（BSS）上均优于原始的GEFS操作集合和多元统计后处理基线。此外，还进行了可解释性研究，揭示了该方法的决策过程，并确认了其在集合成员生成中的有效性。这项工作引入了一种新颖的基于生成式AI的方法，以解决小规模数值集合的局限性，并满足识别极端降水事件对更大集合的需求。
Read more...
本文由法国勃艮第大学的研究人员提出，旨在通过知识工程和符号人工智能技术改进法国国家警察在毒品样本比较中的工作流程。当前的毒品样本比较主要依赖于法医专家的手动操作。本文介绍了一种新的方法，通过获取、形式化和具体化专家知识，利用本体和逻辑规则来模拟底层知识，从而提高现有流程的效率。该方法的各个步骤设计为可重用于其他应用领域，并且其结果具有可解释性，使得不同领域的专家能够使用。
Read more...
本文介绍了一种名为“同构剪枝”（Isomorphic Pruning）的新方法，旨在通过移除深度神经网络中的冗余子结构来减少计算开销。该方法特别针对具有自注意力、深度卷积或残差连接等新颖机制和架构的先进视觉模型。同构剪枝通过在预定义的重要性标准下评估不同类型的子结构，进行孤立的排序和比较，从而实现更可靠的剪枝。实验结果表明，该方法在ImageNet-1K数据集上超越了多个专门为Transformer或CNN设计的剪枝基线。例如，通过剪枝一个现成的DeiT-Base模型，将DeiT-Tiny的准确率从74.52%提高到77.50%。此外，对于ConvNext-Tiny，性能从82.06%提升到82.18%，同时减少了参数数量和内存使用。该方法的代码已在GitHub上公开。
Read more...
本文介绍了一种基于强化学习和自监督学习的无监督视频摘要生成方法。该方法旨在解决现有无监督方法中存在的训练不稳定和依赖手工奖励函数的问题。提出的方法通过一个训练有素的视频生成器来评估视频摘要的质量，该生成器能够从部分遮蔽的视频中重建完整视频。通过强化学习训练视频摘要器，使其生成能够提高重建质量的摘要。实验结果表明，该方法在TVSum和SumMe数据集上分别达到了62.3和54.5的F-分数，显著优于现有方法。
Read more...
本文提出了一种基于几何启发的核机器的协作学习新数学框架，包括泛化和逼近误差界的陈述，以及样本复杂性。对于分类问题，该方法允许我们在给定数据点周围学习有界几何结构，从而通过利用相关优化问题在再生核希尔伯特空间（RKHS）中的凸性，有效地解决全局模型学习问题。这样，我们可以将分类问题简化为确定与给定数据点最接近的有界几何结构。此外，我们的方法不需要客户端使用随机梯度下降进行多轮局部优化，也不需要客户端/服务器之间进行多轮通信来优化全局模型。我们强调，大量实验表明，该方法是最先进方法的有竞争力的替代方案。
Read more...