摘要

本文介绍了一种名为TieBot的创新系统，该系统通过视觉演示学习如何打领带，采用了一种从真实到模拟再到真实的（Real-to-Sim-to-Real）学习框架。TieBot通过层次特征匹配方法从演示视频中估计领带的网格序列，并利用这些估计的网格作为子目标，通过教师-学生训练范式学习从点云观察中抓取和放置领带的位置。最后，该系统在实际应用中学习残差策略，以弥合模拟与真实世界之间的差距。实验证明，TieBot在模拟和真实环境中均有效，双臂机器人在10次试验中成功打领带的成功率达到50%。

原理

TieBot的核心在于其层次特征匹配（Hierarchical Feature Matching, HFM）方法和教师-学生训练范式。HFM方法通过结合局部特征匹配和关键点检测，从演示视频中迭代估计领带的网格状态，确保了即使在遮挡情况下也能准确估计领带的状态。教师-学生训练范式则通过先在模拟环境中使用特权信息训练教师策略，然后让学生策略模仿教师策略，从而有效地从高维点云数据中学习抓取和放置动作。此外，系统还引入了残差策略学习，以适应真实世界中的细微差异，进一步提高了策略的鲁棒性。

流程

TieBot的工作流程分为三个主要阶段：Real2Sim、Learn@Sim和Sim2Real。在Real2Sim阶段，系统使用HFM方法从演示视频中估计领带的网格序列。在Learn@Sim阶段，利用这些网格序列作为子目标，通过教师-学生训练范式在模拟环境中生成机器人动作。最后，在Sim2Real阶段，系统学习残差策略，以适应真实世界中的执行环境，从而实现从模拟到真实的无缝过渡。例如，在实际操作中，机器人能够根据点云数据准确抓取领带并完成打结动作。

应用

TieBot不仅限于打领带任务，其层次特征匹配方法和教师-学生训练范式可以广泛应用于其他复杂的布料操作任务，如折叠毛巾等。随着技术的进一步发展和优化，TieBot有望在服务机器人、家庭辅助机器人等领域发挥重要作用，特别是在帮助老年人或残疾人进行日常生活中的布料操作方面。