基于非支配排序的并行加点方法研究及应用.pdf

http:/DOI:10.13700/j.bh.1001-5965.2022.0831基于非支配排序的并行加点方法研究及应用刘睿*，白俊强，邱亚松(西北工业大学航空学院，西安710072)摘要：代理优化方法可以大幅提升高精度数值优化的效率，而加点方法对于优化结果和效率非常重要。并行加点方法一次可以添加多个训练样本，从而可以充分发挥计算资源的利用率，并且提高效率。在包含子优化的紧密式代理优化框架上将预测值、预测方差和期望改善(EI)函数值两两结合作为子优化目标，构建 3 种多目标并行加点方法，提出基于非支配排序的并行加点样本的策略。以 SC(six-humpcamelback)函数和 2 维 GN(Griewank)函数、5 维 Rosenbrock 函数及 10 维HD1(high-dimension1)函数作为无约束优化算例，以 7 维 G9 函数作为约束优化算例，将构建的3 种多目标并行加点方法与混合并行加点方法进行对比分析，结果表明：多目标并行加点方法效果较好。采用多目标并行加点方法、混合并行加点方法及基于计算流体力学(CFD)的遗传算法开展了二维多段翼型起飞状态的升阻比优化。优化结果表明：在升力系数不减小的约束下，多目标并行加点方法经过少量 CFD 评估，得到的优化结果使升阻比提升了 14%，证明多目标并行加点方法在工程问题中的适用性。关键词：非支配排序；Kriging 模型；优化设计；加点方法；多段翼型中图分类号：V221文献标志码：A文章编号：1001-5965（2023）06-1446-14随着计算流体力学(computationalfluiddynamics,CFD)技术的发展，高精度数值模拟在气动外形设计领域得到了广泛的应用1-4。基于智能优化算法的全局优化设计，采用高精度数值模拟直接求解优化目标，这种方式需要对大量个体进行数值模拟，耗费大量的计算资源，优化效率很低甚至不可接受5。代理模型方法是提高优化效率一条很好的途径6。通过代理模型替代真实数值模拟可以节约大量计算耗时，从而大幅提升优化设计效率。典型的代理模型包括响应面模型(responsesurfacemodel,RSM)7、Kriging 模型8、径向基函数(radial-basisfunctions,RBFs)9、神经网络(neuralnetwork,NN)10、支持向量回归(support-vectorregression,SVR)11等。Kriging模型对非线性函数具有良好的近似性能。此外，该模型不仅可以预估目标值还可以对误差进行估计。因此，Kriging 模型是目前最具代表性和应用潜力的代理模型之一，受到越来越多研究者的关注12。对气动优化设计问题，要使代理模型具有良好的全局精度，通常需要大规模的训练样本，并且随着设计变量数的增加，所需的训练样本数量急剧增长13。在工程问题的优化设计中，通常不需要代理模型具有良好的全局精度，只需要代理模型能够引导优化算法朝最优解靠近。因此，在优化的初始阶段可以使用较少的样本建立精度不高的代理模型，在优化过程中逐步加入新样本，对代理模型进行更新，逐步逼近真实最优解14。在此思想下，如何在优化过程中添加新样本点成为代理优化方法的一个关键技术。目前国际上针对 Kriging 模型的代理优化方法已经发展了多种加点准则，包括选取最小的代理模型预测值对应个体作为新样本的最小化代理模型预 测 值（minimizingthesurrogatepredictedobjective收稿日期：2022-10-04；录用日期：2022-12-30；网络出版时间：2023-01-2015：57网络出版地址： J.北京航空航天大学学报，2023，49（6）：1446-1459.LIU R，BAI J Q，QIU Y S.Research and application of parallel infill sampling method based on non-dominated sortingJ.Journal ofBeijing University of Aeronautics and Astronautics，2023，49（6）：1446-1459（in Chinese）.2023年6月北京航空航天大学学报June2023第49卷第6期JournalofBeijingUniversityofAeronauticsandAstronauticsVol.49No.6function,MSP）准则15、选取最大的代理模型预测方差对应个体作为新样本的最大化代理模型预测方差(maximizingthesurrogatemeansquarederror,MSE)准则16、选取期望改善(expectedimprovement,EI)函数最大值对应个体作为新样本的 EI 准则17、选取概率改善(probabilityofimprovement,PI)函数最大值对应个体作为新样本的 PI 准则18、选取置信下界(lowerconfidencebounding,LCB)函数最小值对应个体作为新样本的 LCB 准则19。这些加点准则有着各自的特点，但其存在一个共同点：每次只添加一个新样本。这样的加点方法效率不高，通常需要很多次加点才能获得良好的优化结果。随着计算机并行技术及多核处理器的发展，这种加点方法某种程度上是对计算资源的浪费，因此，亟需发展一类根据计算资源可以每次添加任意数量样本的加点方法，称为并行加点方法。目前国内外很多学者已对并行加点方法开展了研究，提出了一些典型的并行加点方法。主要可以分为 2 大类：第1 类是基于单一加点准则的并行化改进。例如，Chevalier 和 Ginsbourger20基 于 EI 准 则 提 出 了 q-EI 准则，可以一次添加 q 个新样本。但是该方法需要采用蒙特卡罗抽样并且需要对复杂高维积分进行求解，当设计变量较多时，计算效率不高。Sbester等21提出将 EI 准则函数的多个局部最大值对应的样本作为新样本，从而实现并行加点。Ginsbourger等22采用 EI 准则提出了一种并行加点方法：首先通过 EI 准则得到第 1 个新样本，然后将该样本的代理模型预测值作为目标真值来对代理模型进行更新，再次寻找更新后代理模型下 EI 准则函数最大值对应的样本，不断重复该过程直到得到 q 个新样本。该方法需要对 EI 准则函数进行 q 次优化才能获得 q 个样本，当 q 值较大时效率较低。Li 等23引入熵的概念，通过对 Kriging 模型的不确定性进行衡量，发展了一种“EI&MI(mutualinformation)”准则，从而实现并行加点。Feng 等24基于加权 EI 准则的思想，将 EI 准则函数分为 2 部分，将这 2 部分作为优化目标，通过求解这 2 个目标的 Pareto 前沿，从 Pareto 前沿中选取多个样本实现并行加点，由于 Pareto 前沿的样本数量是未知的，因此，该方法不能实现一次添加任意个样本。第 2 类是对多种加点准则进行组合从而实现并行加点。例如，Sekishiro 等25提出将 EI 准则与 MSP 准则得到的样本都加入训练样本，从而实现一次性添加 2 个样本。Chaudhuri 等26提出了将 EI 准则与多点 PI 准则所得到的新样本同时加入训练样本的并行加点方法，并采用该方法开展了扑翼的气动优化设计。Bischl 等27提出将预测值和预测方差视为目标函数，对其进行多目标优化，得到一组个体集。计算该个体集中每个个体与其他个体距离的最小值，及该个体与比自身更好个体的距离最小值，将这 2 个距离最小值中的任意一个也作为目标函数，然后对该样本集进行非支配排序，从中剔除掉最后一层非支配前沿的最后一个个体，重复该过程，直至剩余样本数量等于加点样本数量，从而实现并行加点。Liu 等28提出同时使用 EI、PI、LCB 及 MSP 这 4 种准则的并行加点方法，实现了一次添加 4 个新样本的方法，并将其应用在跨音速机翼的气动外形优化设计中。目前已有多种可供选择的并行加点方法，不难发现，以多种加点准则函数作为目标函数进行多目标优化从而选取加点样本的并行加点方法非常容易实现，只需一次优化即可获取任意数量的加点训练样本，效率较高。EI 准则已被证明在某些假设条件下是“稠密”的29，即只要加入足够的样本，EI 准则就可以找到全局最优解。此外，MSP 准则与 MSE准则的加点函数是代理模型预测函数值及预测方差，这 2 个加点函数是通过 Kriging 代理模型预测结果直接获取的。因此，本文以 EI 准则函数值、代理模型预测值、代理模型预测方差作为选择新样本的目标函数，研究了 3 种基于多目标优化的并行加点方法：基于多目标 MSP+MSE 准则并行加点方法（以下简称多目标 MSP+MSE）、基于多目标 MSP+EI准则并行加点方法（以下简称多目标 MSP+EI）及基于多目标 MSE+EI 准则并行加点方法（以下简称多目标 MSE+EI）。在此基础上，提出了基于非支配排序选择加点样本的策略，以实现一次添加任意数量的训练样本。以 SC（Six-humpCamelback）函数和2 维 GN(Griewank)函数30、5 维 Rosenbrock(RB5)函数31及 10 维 HD1(High-Dimension1)函数30作为无约束优化算例，以 7 维 G9 函数28作为约束算例，将研究的 3 种多目标并行加点方法与对应的 3 种混合并行加点方法进行了对比分析。最后开展了二维多段翼型起飞状态升阻比最大的优化，验证了多目标并行加点方法在实际工程问题中的适用性。1Kriging 代理模型及优化框架1.1Kriging 模型xi Rn,1 i NNxi=xi1,xi2,ximy=y1,y2,yNTiixixKriging 模型是由南非地质学家 Krige 提出的32。Sacks 等33将该理论进行了发展，推广到计算机设计和分析领域。Kriging 模型是一种插值模型。假设为已知个样本的输入变量，其中。中的第 个元素为第 个输入变量对应的响应值。未知变量 处的响应值为已知样本响应值的线性加权，即第6期刘睿，等：基于非支配排序的并行加点方法研究及应用1447y(x)=Ni=1iyi（1）i=1,2,NT式中：为加权系数，组成了加权系数向量。为了计算加权系数向量，Kriging模型将输入变量与响应值之间的关系看成是一个高斯静态随机过程。该关系为Y(x)=0+Z(x)（2）0Z(x)2xZ(x)式中：为未知常数；为一高斯静态随机过程，其均值为 0，方差为，不同的 对应的存在一定的相关性，该相关性用协方差函数，也称核函数，其表达式为CovZ(xi),Z(xj)=2R(xi,xj)xi,xj Rn（3）R(xi,xj)式中：为任意 2 个样本输入变量的相关函数，其满足当输入变量之间距离为 0 时其值为 1，距离无穷大时，其值为 0，相关函数值随着距离的增大而减小。相关函数有多种形式，但其必须使得相关矩阵正定。选取高斯函数作为相关函数，其表达式为R(xi,xj)=exp(d(xi,xj)（4）d(xi,xj)xixj式中：为与之间的距离函数。为了保证各向异性，距离函数采用加权距离，其表达式为d(xi,xj)=nk=1k(xikxjk)2（5）kk=1,2,nT式中：为输入变量第 个参数的距离权重，所有的距离权重组成权重向量。构建Kriging模型的关键就是对权重向量 进行求解。由于Kriging 模型为线性无偏预测，根据无偏预测条件可以得出预测值的期望与真值期望相等，即Ey(x)=EY(x)（6）经过推导可求出 Kriging 模型预测的均方差的表达式为MSEy(x)=2(1+TR2Tr)（7）线性无偏估计要求预测的均方差最小，采用拉格朗日乘数法，经过推导可证明加权系数向量需满足如下线性方程组：R+22F=rFT=1（8）式中：为拉格朗日乘数。将式(8)写成矩阵形式为RFFT0=r1（9）=22F=