摘要

本文由Sota Kaneko和Seiji Yamada共同撰写，探讨了在人机合作中预测信任动态的重要性。文章提出了一种使用动态结构方程建模（DSEM）的方法来预测人类对人工智能的信任动态，特别是在自动驾驶系统和无人机模拟任务中的应用。该方法通过处理时间序列数据，能够有效地预测过度信任或不足信任的情况，准确率高达90%以上。文章还讨论了信任动态预测在优化人机协作中的潜在应用前景。

原理

本文的核心在于利用动态结构方程建模（DSEM）来预测和建模人类对AI的信任动态。DSEM是结构方程建模（SEM）的扩展，专门用于处理时间序列数据，能够估计变量间的因果关系，并处理可观测变量和不可观测的潜变量。通过DSEM，研究者能够将信任这一人类内部状态作为变量进行处理，并预测其在时间序列中的变化。这种方法的先进性在于其能够直接预测过度信任和不足信任，而无需监控人类的理性行为执行，从而提前预防信任问题的发生。

流程

文章提出的工作流程包括两个主要步骤：首先，通过探索性设计构建一个静态路径图，该图基于领域知识和先前研究的设计师知识；其次，对基于静态路径图的动态路径图进行自动优化，使用约束暴力搜索算法来寻找最有效的路径结构。在实验中，研究者通过无人机模拟任务和自动驾驶模拟任务验证了该方法的有效性，展示了如何通过路径图分析和预测信任动态。

应用

该论文提出的方法不仅在自动驾驶和无人机操作中有广泛应用，还可以扩展到其他需要人机协作的领域，如机器人交互和自动化系统。通过准确预测和调整信任动态，可以显著提高系统的安全性和效率，增强用户对AI系统的信任和依赖。