本文探讨了在文本到图像（T2I）生成模型中使用多样性干预措施时，如何保持历史人物的种族和性别分布的真实性。文章提出了DemOgraphic FActualIty Representation（DoFaiR）基准，用于评估多样性干预与保持历史真实性之间的权衡。研究发现，尽管多样性干预增加了图像中不同性别和种族群体的数量，但同时也导致了历史人口分布的不准确。为了解决这一问题，文章提出了Fact-Augmented Intervention（FAI）方法，该方法通过引导大型语言模型（LLM）反思和整合历史事实信息，从而在保持多样性的同时提高生成图像的真实性。
Read more...
本文提出了一种基于通用状态空间模型（General State Space Models, GSSMs）的时间序列聚类新方法，通过混合状态空间模型（Mixtures of State Space Models, MSSMs）实现。每个MSSM组件与一个聚类相关联，该方法的优势在于能够使用适合特定时间序列的模型，从而提高聚类和预测的准确性，并增强参数估计的可解释性。参数估计采用随机变分推断（Stochastic Variational Inference, SVI），通过神经网络和归一化流作为变分估计器来估计任意状态空间模型的潜在变量。此外，使用贝叶斯信息准则（Bayesian Information Criterion, BIC）来估计聚类数量，并提出熵退火等优化技巧以防止MSSMs收敛到局部最优。实验结果表明，该方法在模拟数据集上对聚类、参数估计和聚类数量估计均有效。
Read more...
本文由Markus Grotz、Mohit Shridhar、Tamim Asfour和Dieter Fox等人共同撰写，题为“PerAct2: Benchmarking and Learning for Robotic Bimanual Manipulation Tasks”。论文主要针对双臂机器人操作任务中的空间和时间协调问题，提出了一种新的模拟基准测试和学习方法。该研究通过扩展RLBench基准，引入了13个新的双臂操作任务和23种独特的任务变体，每个任务都需要高度的协调和适应性。此外，论文还提出了一种基于语言条件的行为克隆代理——PerAct2，该方法能够学习和执行双臂6自由度操作任务。PerAct2的创新网络架构有效地整合了语言处理与动作预测，使机器人能够根据用户指定的目标理解和执行复杂的双臂任务。
Read more...
本文由武汉大学的Linjiang Zhou、Xiaochuan Shi、Chao Ma和Zepeng Wang共同撰写，提出了一种基于函数磨光和蒙特卡洛积分的神经网络梯度平滑理论框架。该框架不仅内在地规范化了梯度平滑过程，还揭示了现有方法的基本原理，并提供了一种设计新型平滑方法的途径。通过实验验证，作者展示了其框架的研究潜力，并探讨了梯度平滑方法的应用前景。
Read more...
本文探讨了在缺失数据情况下机器学习模型的可解释性问题。缺失数据是普遍存在的问题，可能严重影响模型的性能和解释性。文章通过实验研究了不同插补方法对Shapley值计算的影响，Shapley值是一种流行的解释复杂机器学习模型的技术。研究比较了不同的插补策略，并评估了它们对特征重要性和交互作用的影响。研究发现，插补方法的选择可能会引入偏差，从而改变Shapley值，影响模型的解释性。此外，测试预测的均方误差（MSE）较低并不一定意味着Shapley值的MSE较低。文章还指出，尽管Xgboost可以直接处理缺失数据，但在训练Xgboost之前插补数据可以更严重地影响解释性。本研究为在模型解释的背景下选择合适的插补技术提供了实际指导，强调了考虑插补效果以确保从机器学习模型中获得稳健和可靠洞察的重要性。
Read more...
本文介绍了一种名为KHNNs的库，该库通过Keras集成，支持在TensorFlow和PyTorch框架中进行超复数神经网络计算。超复数神经网络使用比实数更高级的代数进行计算，在某些应用中表现更优。然而，目前缺乏一个通用的框架来构建超复数神经网络。KHNNs库提供了密集层和卷积层（1D、2D和3D）的架构，可以广泛应用于研究实验、数据分析和工业应用。
Read more...
本文介绍了一种全新的超复数神经网络理论，其核心在于将代数乘法表示为三阶张量。这种全张量方法不仅适用于超复数神经网络，还能推广到更一般的代数结构中。论文通过详细阐述张量操作和代数理论，展示了如何在神经网络库中高效实现这些操作，特别是在图像处理和时间序列分析等领域的应用。
Read more...
本文介绍了一种名为Universal Mesh Movement Network (UM2N)的创新框架，该框架旨在解决复杂偏微分方程(PDEs)的精确高效求解问题。UM2N通过学习基于Monge-Ampère方程的最优传输方法，能够在不需要重新训练的情况下，对不同大小和结构的网格进行移动，适用于不同类型的PDE和边界几何形状。该方法在多个实际应用中展示了其优越性，包括对流和Navier-Stokes方程的求解，以及真实世界中的海啸模拟案例。UM2N不仅显著加速了网格移动过程，而且在传统方法失败的场景中证明了其有效性。
Read more...
本文由Omer Goldman等人撰写，探讨了大型语言模型（LLMs）在处理长上下文自然语言处理（NLP）任务时的挑战。文章指出，当前研究往往将不同难度的长上下文任务混为一谈，仅根据输入长度来定义“长上下文”，这种方法未能充分考虑任务的复杂性。为此，作者提出了一种新的分类法，通过两个维度——信息扩散（Diffusion）和信息范围（Scope）——来区分长上下文任务的难度，强调了在设计长上下文任务和基准测试时，应更细致地考虑这些因素，以推动该领域的深入研究。
Read more...
本文探讨了使用预训练语音模型进行自动语音评估在声音障碍检测中的应用。研究团队训练并比较了两种音频频谱图变换器（Audio Spectrogram Transformer, AST）配置，并应用注意力展开方法（attention rollout method）生成模型相关性图，以分析模型在不同条件下的预测行为。文章强调了深度学习模型在自动语音评估中的潜力，特别是在远程健康监测和早期疾病识别方面。然而，这些模型的解释性不足，限制了它们在医疗领域的应用。本文通过分析模型决策过程，提供了一种增强模型透明度和可解释性的方法。
Read more...