本文探讨了大型语言模型评估中的一个基本问题，即“测试任务训练”（training on the test task）。与训练测试数据、数据泄露或数据污染等不当行为不同，测试任务训练是指在语言模型的预训练阶段包含与任务相关的数据的一系列技术。文章通过实验证明，测试任务训练会混淆相对模型评估和关于模型涌现能力的声明。为了解决这一问题，作者提出了一种有效的方法，即在评估前对每个模型进行相同的任务相关数据微调。实验结果显示，一旦调整了测试任务训练的影响，模型间的性能差异和涌现行为实例大多消失。这一研究对大型语言模型的基准测试和涌现能力研究具有广泛的影响。
Read more...
本文由University College London的Romy Williamson和Niloy J. Mitra共同撰写，提出了一种基于球面神经表面的新型几何处理方法。该方法通过将输入的零亏格（genus-0）表面编码为过拟合的神经网络，并在此基础上定义了一系列几何操作符，如几何雅可比矩阵、第一和第二基本形式，从而计算曲率。此外，文章还定义了一个直接使用神经表示的Laplace-Beltrami算子，使得能够在表面上的标量（或向量）场上进行处理和光谱分析，避免了传统表面表示（如多边形网格）中常见的非必要离散化。
Read more...
本文由Matthew E. H. Petering和Marshall Khamechian撰写，针对COVID-19大流行期间大学课程调度面临的挑战，提出了一种高精度、公平的课程调度框架。该框架通过引入扩展的课程交付模式分类、整数规划模型和课程调度算法，确保在教室容量因社交距离要求减少的情况下，所有课程都能在教室内进行一定比例的教学活动。文章详细介绍了该框架的工作原理、流程及其在正常和疫情时期的应用前景，展示了其在实际大学中的应用效果和管理意义。
Read more...
本文介绍了一种利用眼动注视点数据进行医学图像分割的新方法，该方法通过收集密集的弱监督信息来减少传统像素级标注的高成本。研究团队提出了一种多层次框架，通过模拟人类注意力生成伪掩模，并利用交叉层次一致性来减少注视点数据的噪声影响。该方法在结肠息肉和前列腺分割任务上进行了验证，并展示了其在性能和标注时间上的优势。
Read more...
本文探讨了深度学习模型中反事实解释（CFX）的鲁棒性问题，特别是在模型参数变化（称为“合理模型偏移”PMS）的情况下。文章首次证明了计算CFX对PMS的鲁棒性是NP完全问题，因此提出了一个新的概率框架来提供紧密的鲁棒性估计，同时保持可扩展性。与现有方法不同，该框架不要求分析的网络有任何特定条件，从而能够对更广泛的架构进行鲁棒性分析。实验结果表明，该方法在生成鲁棒解释方面优于现有方法，并在多个指标上取得了最先进的结果。
Read more...
本文针对物联网（IoT）网络中的异常检测问题，提出了一种基于Grassmann流形的联邦主成分分析（FedPCA）框架。随着IoT设备的普及和互联性的增强，网络安全性面临重大挑战，特别是异常活动的检测。传统的机器学习入侵检测系统（ML-IDS）虽然有效，但存在依赖标记数据和高维度处理的局限性。本文提出的FedPCA框架利用主成分分析（PCA）和交替方向乘子法（ADMM），在保护隐私的同时，实现了高效的分布式非独立同分布（non-i.i.d.）数据集的异常检测。实验结果表明，FedPCA在UNSW-NB15和TON-IoT数据集上的性能与非线性基线相当，同时在通信和内存效率上有显著提升，显示出在保障IoT网络安全方面的巨大潜力。
Read more...
本文提出了一种名为PGPSNet-v2的神经符号模型，用于解决平面几何问题（PGPS）。该模型通过三个关键步骤：模态融合、推理过程和知识验证，有效地融合了文本和几何图形的结构与语义信息，生成可解释的解决方案，并通过多级定理验证器确保解决方案的正确性。此外，研究还构建了一个大规模的几何问题数据集PGPS9K，包含详细的文本条款和解决方案程序注释，以及相应的几何定理知识库。实验结果表明，PGPSNet-v2在几何问题解决性能上优于现有的符号和神经求解器，同时保持了良好的解释性和可靠性。
Read more...
本文由Li Wang等人撰写，探讨了在物联网（IoT）系统中使用生成式人工智能（GenAI）进行射频（RF）感知的技术。传统的RF感知方法面临噪声、干扰、数据不完整和高部署成本等挑战，限制了其在IoT系统中的应用。论文提出利用GenAI技术，如生成对抗网络（GANs）、变分自编码器（VAEs）和扩散模型（DMs），来生成高质量的合成数据，提高信号质量，并整合多模态数据，以解决RF感知中的问题。通过案例研究，论文展示了GenAI在RF环境重建、定位和成像等方面的有效性，预示着其在智能和可扩展IoT系统中的广阔应用前景。
Read more...
本文针对医学图像合成中的对齐噪声问题，提出了一种基于注册引导一致性和解耦学习的方法。传统的医学图像合成方法在处理不同模态图像间的对齐问题时，往往忽视了合成模块和注册模块之间的任务特定约束，导致合成图像在训练过程中仍然存在空间对齐问题。本文提出的注册引导一致性架构通过在合成前后应用相同的变形场，并引入对齐损失来强制输出一致性，从而促进了合成模块和注册模块的任务特定性。此外，合成模块通过解耦学习能够分离解剖结构和特定风格，并通过解剖一致性损失进一步在潜在空间中保持几何完整性。实验结果表明，该方法在腹部CECT-CT和公开的骨盆MR-CT数据集上均显示出优越的性能。
Read more...
本文介绍了一种名为H-FCBFormer的层次全卷积分支Transformer模型，用于通过咬合纸检测咬合接触区域。咬合接触检测在牙科领域，特别是在修复牙科和正畸治疗中至关重要。传统方法如咬合纸虽然常用，但存在误报和漏报问题。H-FCBFormer模型通过结合多类Vision Transformer和全卷积网络，以及一种新的层次损失函数，显著提高了咬合接触检测的准确性，甚至在某些方面超过了牙科专家的判断。该模型通过自动生成医学真阳性语义分割掩码，有效解决了传统方法的不准确性问题，为牙科诊断和治疗提供了新的技术支持。
Read more...