探索大型语言模型在进化策略优化中的可解释性应用

Towards Explainable Evolution Strategies with Large Language Models

摘要

本文介绍了一种将自适应进化策略(ES)与大型语言模型(LLM)相结合的方法,旨在提高复杂优化过程的可解释性。通过使用配备重启机制的自适应ES,有效地导航基准函数的挑战性景观,捕获优化旅程的详细日志,包括适应度演变、步长调整和由于停滞引起重启事件。然后利用LLM处理这些日志,生成简洁、用户友好的总结,突出关键方面,如收敛行为、最佳适应度成就和遇到局部最优。案例研究在Rastrigin函数上展示了我们的方法如何使ES优化的复杂性透明且易于理解。研究结果强调了使用LLM来弥合高级优化算法与其可解释性之间差距的潜力。

原理

本文提出的XES框架基于LLM生成的解释,总结和突出ES优化运行。XES采用带有重启机制的自适应ES,动态调整其变异步长,基于进化历史增强探索和利用能力。自适应机制根据算法性能微调变异参数,实现更有效的搜索过程。为应对停滞,算法引入战略重启机制,当检测到适应度长时间无显著改进时触发,重新初始化状态,包括种群和变异参数,从而多样化搜索空间并增加逃脱次优区域的可能性。关键在于实施详细日志系统,记录优化过程的进展,包括适应度值的发展、变异步长的演变、停滞事件和后续重启。LLM被用于将复杂日志数据提炼成简洁、用户友好的叙述,阐明优化过程。LLM根据四种不同的提示策略(Zero-Shot、Few-Shot、Chain-of-Thought和Few-Shot CoT)进行提示,强调ES性能的关键方面。

流程

XES的工作流程包括以下步骤:

  1. 使用带有重启机制的自适应ES进行优化,动态调整变异步长。
  2. 实施详细日志系统,记录适应度值、变异步长、停滞事件和重启。
  3. 利用LLM处理日志数据,根据四种提示策略生成用户友好的总结。
  4. 通过案例研究,如Rastrigin函数,展示XES的有效性和透明度。 例如,对于Rastrigin函数的优化,XES记录了每次迭代的适应度值和步长,以及停滞和重启事件。LLM根据提示策略生成总结,如“算法最初收敛到接近3.98的局部最优,然后重启并收敛到较低的最优接近2,随后再次重启并收敛到最佳观测值0.0106。在优化过程中遇到了多个局部最优。观测到的最低适应度值为0.0106,最高适应度值为3.9852。”

应用

XES框架的应用前景广泛,特别是在需要提高优化算法透明度和可解释性的领域。通过将复杂的优化日志转化为易于理解的叙述,XES有助于非专业用户理解和信任优化过程。此外,XES的见解可以用于智能代理系统的发展,自动执行优化行动,进一步提高效率和用户参与度。未来,通过集成交互分析层,可以根据用户查询定制解释,增强用户理解和参与。