本文介绍了一种名为“自监督时空常态学习（STEN）”的新型时间序列异常检测方法。该方法的核心在于同时从时间和空间维度学习时间序列数据的正常模式，从而更有效地识别异常。传统的异常检测方法主要关注时间维度上的数据模式，而忽略了空间维度上的语义信息。STEN通过结合序列顺序预测的时间常态学习模块（OTN）和距离预测的空间常态学习模块（DSN），能够捕捉时间序列数据中的空间-时间常态，从而在多个基准测试中显著优于现有方法。
Read more...
本文由Sion Yoon、Tae Eun Kim和Yoo Jung Oh共同撰写，探讨了在多聊天机器人环境下的人机交互动态，特别是在劝说情境中的应用。研究聚焦于如何设计和评估一个多聊天机器人界面，以促进人类与多个聊天机器人之间的有效沟通。论文通过开发一个在线环境，允许用户与基于GPT的聊天机器人（如Save the Children和UNICEF聊天机器人）进行互动，来推广慈善捐款。研究展示了多聊天机器人界面的开发过程，并提供了初步实验结果，分析了定性和定量反馈，并讨论了研究的局限性。
Read more...
本文介绍了一种名为渐进低秩分解（PLRD）的新方法，专门用于压缩大型语言模型（LLMs）。该方法利用预训练模型，通过逐步降低秩的方式进行增量分解，从而生成更小规模的模型。这种方法不仅显著减少了计算开销和能源消耗，还避免了从头开始重新训练模型的需求。实验证明，使用PLRD方法训练的模型在仅使用10亿个标记的情况下，性能与传统训练的模型相当，同时大幅减少了所需的标记数量。PLRD的灵活性在于能够从一个基础模型生成多种规模的模型，适应不同的计算和内存预算，预示着在高效扩展LLMs方面的新标准。
Read more...
本文介绍了一种名为“外部模型激励代理”（EMMA）的框架，旨在通过强化学习（RL）代理在不断变化的环境中提高外部模型的适应效率。该框架通过两个模块——兴趣场和兴趣场行为塑造，实现对代理行为的激励，从而在不改变代理奖励的情况下，增强环境采样以促进外部模型的学习。实验结果表明，该方法在外部模型适应环境变化方面优于传统方法，提高了效率和性能。
Read more...
本文介绍了一种针对新环境生成高质量合成数据的大规模增强方法，用于解决Rendezvous（RVS）导航任务中在新环境中性能显著下降的问题。该方法利用现成的地理空间数据构建了一个基于实体关系的接地知识图谱，并通过上下文无关文法（CFG）和大型语言模型（LLM）生成导航指令。实验结果显示，该方法在未见环境中的100米精度提高了45.83%，并证明CFG增强方法在未见和已见环境中均优于LLM增强方法。这些发现表明，显式结构化空间信息对于基于文本的地理空间推理在先前未知的环境中具有潜在优势，能够解锁数据稀缺场景。
Read more...
本文探讨了在高级空中机动性（AAM）操作中使用深度强化学习（DRL）进行应急管理（CM）的权衡。随着AAM操作中车辆能力和密度的增加，提高自动化水平对于实现操作安全和效率目标至关重要。文章提出了一种基于DRL的框架，用于训练能够监测和响应相关风险的代理，并在模拟环境中进行评估。通过比较学习型代理和传统技术，文章展示了DRL在复杂和高维度环境中的潜在性能。此外，文章还介绍了AAM-Gym测试平台，这是一个用于快速原型设计、模拟和分析新型AI/ML安全管理解决方案的框架。
Read more...
本文探讨了利用图神经网络（GNNs）分析肠道微生物组元基因组数据的初步工作。肠道微生物组对人类健康至关重要，但其复杂的数据分析面临高维度和稀疏性的挑战。传统方法难以捕捉微生物物种间的复杂关系。本文提出了一种基于GNNs的方法，通过利用物种间的系统发育关系，学习微生物网络的通用编码器，进而用于预测如炎症性肠病（IBD）等表型。
Read more...
本文介绍了一种利用BrainPy进行多尺度可微脑建模的工作流程，BrainPy是一种独特的可微脑模拟器，结合了精确的脑模拟和基于梯度的优化。该方法在不同脑尺度上利用BrainPy的能力，从单个神经元水平到网络水平，再到行为水平，通过基于梯度的优化算法来训练模型，以复现动物行为。实验表明，该方法在拟合广义漏积分-放电和Hodgkin-Huxley单神经元模型方面表现出色，并且在工作记忆任务中训练生物学启发的兴奋性和抑制性尖峰神经网络成功复现了观察到的神经活动和突触权重分布。总体而言，这种可微的多尺度模拟方法为跨越电生理、解剖和行为尺度的神经科学数据提供了一个有前景的工具。
Read more...
本文由上海交通大学和密歇根大学的研究人员共同撰写，探讨了蛋白质表示学习中序列信息嵌入的必要性及其对性能的影响。论文通过结构对齐任务发现，在某些情况下，嵌入氨基酸类型可能不会帮助深度学习模型学习更好的表示。为此，研究团队提出了PROTLOCA，一种仅基于氨基酸结构表示的局部几何对齐方法。该方法在全局结构匹配任务中，通过使用CATH标签的独立测试数据集，证明了其比现有的基于序列和结构的表示学习方法更快更准确地匹配结构一致的蛋白质域。此外，在局部结构配对任务中，PROTLOCA首次提供了一种有效解决方案，突出显示具有不同整体结构但具有相同功能的蛋白质之间的共同局部结构。这为使用深度学习方法分析蛋白质结构以推断功能提供了新的可能性。
Read more...
本文介绍了一项关于语音信号分类的研究，特别关注于通过分析语音模式和表达方式来识别不当行为。研究中，参与者被要求以两种不同的方式回答12个心理学问题：一种是严厉的声音，被归类为“不当行为”；另一种是礼貌的方式，被归类为“正常”。这些分类对于理解不同的语音行为如何影响语音信号的解释和分类至关重要。研究强调了语音语调和表达在自动化机器学习系统中对语音分析和识别的重要性，并通过对人类行为对语音信号感知和分类影响的阐释，促进了更准确和上下文感知的语音识别技术的发展。
Read more...