"深度强化学习在2.5D ICs电源分配网络优化中的革命性应用"

Hierarchical Decoupling Capacitor Optimization for Power Distribution Network of 2.5D ICs with Co-Analysis of Frequency and Time Domains Based on Deep Reinforcement Learning

摘要

本文由Yuanyuan Duan等人提出,针对2.5D集成电路(ICs)中的电源分配网络(PDN)优化问题,特别是如何有效减少小信号噪声和同时开关噪声(SSN)。传统的PDN优化主要依赖于频率域分析,通过增加去耦电容器(decaps)来降低阻抗,但这种方法在处理SSN时显得不足。本文引入了一种基于深度强化学习(DRL)的两阶段优化流程,首先在频率域优化阻抗以控制小信号噪声,然后在时间域通过优化电压违规积分(VVI)来减少SSN的影响。这是首次在2.5D系统中同时处理小信号噪声和SSN的双域优化策略,显著提升了PDN设计的鲁棒性。

原理

本文提出的优化方法利用DRL技术,通过一个代理(agent)与环境交互学习,以实现对去耦电容器的智能放置和优化。在频率域,代理通过调整去耦电容器的分布,使PDN的阻抗保持在目标阻抗以下,从而确保电源的有效供应并避免过度设计。在时间域,代理通过模拟瞬态电流并引入VVI概念,优化去耦电容器以最小化电压违规,从而有效减少SSN的影响。这种方法通过同时考虑频率和时间域的分析,实现了对PDN的全面优化。

流程

优化流程分为两个主要步骤:首先,在频率域进行阻抗分析和优化,使用电路模拟器NGSPICE来调整芯片和互连器上的去耦电容器,以满足目标阻抗要求。其次,在时间域进行VVI优化,通过模拟瞬态电流并优化芯片上的去耦电容器放置,以最小化VVI,确保系统在动态操作条件下的性能。整个过程通过DRL代理与环境的交互学习,不断调整和优化去耦电容器的配置,以达到最佳的PDN性能。

应用

该优化方法适用于需要高内存带宽和高计算密度的2.5D集成系统,特别是在数据速率和I/O数量不断增加的背景下。通过有效优化PDN,可以显著提高系统的稳定性和可靠性,减少噪声对系统性能的影响。这种方法的应用前景广泛,包括高性能计算、人工智能系统以及任何需要复杂电源管理的集成电路设计。