摘要

本文聚焦于将网络与对抗训练整合到约束优化问题中，开发了一种用于解决约束优化问题的框架算法。对于这类问题，我们首先使用增广拉格朗日方法将其转化为极小极大问题，然后使用两个（或多个）深度神经网络（DNNs）分别表示原始变量和对偶变量。接着，通过对抗过程训练神经网络中的参数。与基于惩罚的深度学习方法相比，所提出的架构对不同约束的尺度值相对不敏感。通过这种训练方式，约束基于增广拉格朗日乘数得到更好的实施。论文考虑了包括标量约束、非线性约束、偏微分方程约束和不等式约束在内的广泛优化问题示例，展示了所提方法的能力和鲁棒性，应用范围从Ginzburg-Landau能量最小化问题、分区问题、流固拓扑优化到障碍问题。

原理

WANCO（弱对抗网络用于约束优化）的核心在于利用增广拉格朗日形式将约束优化问题转化为极小极大问题。通过两个独立的深度神经网络分别表示决策变量和拉格朗日乘数，问题随后通过对抗过程进行训练。所提出的WANCO对损失函数中不同项的权重相对不敏感，并且可以轻松与其他技术集成以提高训练结果的性能。该方法的关键先进性在于其对抗训练过程，其中拉格朗日乘数网络通过对抗方式调整其值，以确保约束条件的有效实施，同时增广拉格朗日方法确保了问题的收敛性。

流程

WANCO的工作流程包括以下步骤：首先，将一般的约束优化问题转化为极小极大问题；其次，使用两个独立的深度神经网络分别表示决策变量和拉格朗日乘数；然后，通过交替更新网络参数，使用随机梯度下降和上升方法优化损失函数；最后，逐步增加惩罚项的权重，以确保约束条件的满足。算法框架在算法2.1中总结，神经网络结构在图1中展示。通过这种流程，WANCO能够处理包括标量、线性和非线性、PDE以及不等式约束在内的多种约束优化问题。

应用

WANCO的应用前景广泛，特别适用于涉及微分算子在目标函数或约束中的优化问题，如流体力学、材料科学、量子力学、工业设计和拓扑优化等领域。由于其对参数设置的不敏感性和对抗训练的适应性，WANCO有望成为解决高维和复杂约束优化问题的有效工具。此外，该方法的框架性质使其易于与其他先进技术（如自适应方法）结合，进一步扩展其应用范围和提高解决问题的能力。