基于不确定理论的非线性回归...数的极大似然估计方法的研究_郑佳.pdf

第 43卷第1期辽宁工业大学学报(自然科学版)Vol.43,No.12023 年 2 月Journal of Liaoning University of Technology(Natural Science Edition)Feb.2023收稿日期：2021-11-09作者简介：郑佳(1995-)，女，河北秦皇岛人，硕士生。李树有(1964-)，男，吉林通化人，教授，博士。DOI:10.15916/j.issn1674-3261.2023.01.006基于不确定理论的非线性回归模型参数的极大似然估计方法的研究郑佳，李树有（辽宁工业大学 理学院，辽宁 锦州121001）摘要：利用不确定理论的极大似然估计方法，对非线性回归模型参数给出了估计方法，并进行了数据仿真。在数据仿真中发现，当响应变量数值较大时，误差较大。于是将这个非线性模型转换为线性模型方法做了改进。让误差项与预测值保持相加的形式，使误差范围可以得到减小，数据仿真发现此改进方法有效。关键词：不确定理论；回归分析；极大似然估计；参数估计中图分类号：O212.1文献标识码：A文章编号：1674-3261(2023)01-0024-05Maximum Likelihood Estimation Method in the Parameter ofNonlinear Regression Model Based on uncertain TheoryZHENG Jia,LI Shu-you（College of Science,Liaoning University of Technology,Jinzhou 121001,China）Abstract:This paper uses the uncertain maximum likelihood estimation method to estimate theparameters of the nonlinear regression model,and carried out data simulation.In the data simulation,itis found that when the response variable value is large,the error is large.Therefore,this method wasimproved.The error term and the predicted value are kept in the form of addition,so that the error rangecan be reduced.Finally,its found that this improved method is effective by data simulation.Key words:uncertain theory;regression analysis;maximum likelihood estimation;parameterestimation为了合理处理某事发生的可能性，存在两个公理化的数学系统，一个是概率论1，另一个是不确定理论2。在概率论中，多个事件共同发生的置信度由各事件的概率相乘所得，有一定的局限性，在某些场合并不能完全适用。不确定理论是使用不确定测度来表示对事件的信任程度，用多个事件不确定测度的交集表示这些事件同时为真的置信度，不确定测度的交集以取最小值的方法表示。不确定理论自从 2007 年被刘宝碇教授创立以来，发展出一系列巧妙、便捷的运算法则，已经在科学和工程等诸多领域稳步发展并成功应用3。2020 年，刘宝碇提出了一种新的方法去获取不确定分布中未知参数的值，也就是极大似然估计方法4，同时将极大似然方法应用于不确定性回归分析5。不确定回归分析是不确定统计中的重要组成部分，当不精确的观测值被视为不确定变量时，不确定回归分析用来建模解释变量和响应变量之间的关系。按照解释变量和响应变量之间的关系，回归分析分为线性回归模型和非线性回归模型。本文基于不确定理论中的极大似然方法，提出两种将非线性回归模型转换为线性回归模型的方法，通过数据仿真进行比较。第 1 期郑佳等：基于不确定理论的非线性回归模型参数的极大似然估计方法的研究251不确定理论中的极大似然估计方法在概率论中，极大似然估计6是参数估计的方法之一。是已知某个随机样本满足某种概率分布，但是其中具体的参数未知，计算得到某个参数使得这个样本出现的概率最大，就将这个参数作为估计的真实值。2020 年，刘宝碇4用同样的思想定义了基于不确定理论的极大似然估计方法。在不确定理论中，使用不确定测度来表示对事件的信任程度，同样已知某个随机样本满足某种不确定分布，但是其中具体的参数未知，计算得到某个参数使这个样本出现的信度最大，就将这个参数作为估计的真实值。定义 1设1,2 n是来自不确定分布 F(z)的一个样本，且满足独立同分布。其中是未知参数，观测值为z1,z2 zn，似然函数可表示为：=+-=1201(|)(|)22(|,)limniinzizzF zF zLz zzz定理 1设1,2 n是来自不确定分布 F(z)的一个样本，且满足独立同分布。其中是未知参数，观测值为z1,z2 zn。如果 F(z)在z1,z2 zn处处可微，似然函数可表示为：=121(|,.,)(|)nniiLz zzF z定义 2设1,2 n是来自不确定分布 F(z)的一个样本，且满足独立同分布。其中是未知参数，观测值为z1,z2 zn。找到一组参数使关于的似然函数 L(z1,z2 zn)取最大值。*1212(|,.,)=max(|,.,)nnLz zzLz zz如果极大似然估计是*，将这个参数作为估计的真实值。2不确定回归分析不确定回归分析作为不确定统计学的一个分支，利用不确定理论分析解释变量和响应变量之间的关系。按照解释变量和响应变量之间的关系类型，可分为线性不确定回归分析和非线性不确定回归分析。设(x1,x2 xp)是解释变量，y 是相应变量。假设(x1,x2 xp)与 y 之间的关系用函数 f 表示，则回归模型为pyf x xx=+12(,.,|)式中：是未知参数，是扰动项。定义 3如果不确定变量服从正态不确定性分布，则称其为正态-=+1()()(1exp()3exx用 N(e,)表示，其中0，e、为实数。当 e=0，=1 时为标准不确定性分布。定理 2设(xi1,xi2 xip,y)为一组观测值，回归模型为pyf x xx=+12(,.,|)式中：来自正态不确定性分布 N(e,)，e、为未知参数，使极大似然函数最大可以得到(*,e*,*)，此时极大似然函数为：=-=+-11221exp(|)33(,|,.,)(1exp(|)3niinniiezLez zzez同时，iiiiipzyf xxx=-12(,.,|)26辽宁工业大学学报(自然科学版)第 43 卷3非线性回归模型的线性化在许多实际问题中，回归函数往往是较复杂的非线性回归函数，对这类问题不能直接应用线性回归模型。这时，通常是使用变量替换7的方法将非线性回归函数线性化，然后再按照线性回归的方法进行拟合。(1)模型一bxy=ae e两边取对数可得lnlnlnyabx=+令ln=，lnyy=转换后的函数模型：lnabxy=+-式中：是正态不确定变量 N(e,)，e、为未知参数。根据定理 2 可计算出未知参数 a、b、e、的解。似然函数：exp(|)(,|,.,)(exp(|)niinniiezL a b ez zzez=-=+-112213313式中：(ln)iiizyabx=-+。通过max(,|,.,)min|nniiL a b ez zzez=-121得到*a，*b。令*0e=，通过1021exp(|)33max(1exp(|)3niiniiezez=-+-得到*。(2)模型二函数模型为byax=式中：a 和 b 是与 x 无关的未知参数。极大似然估计方法同模型一。(3)模型三函数模型为2bxyae=式中：a 和 b 是与 x 无关的未知参数。极大似然估计方法同模型一。以上三种模型是不确定回归分析模型中较为常用的三种模型，可以应用在分析某些疾病流行特征，为预测与预防控制提供参考依据；也可以通过模型对异常值进行处理，对样本数据中偏离过大的数据进行舍去，在资源、水利、环境、金融、互联网等领域可以广泛应用。4改进的非线性回归模型线性化在实际建模时我们发现，当响应变量较大时，经过非线性回归模型线性化方法会使误差较大。分析模型发现，产生误差较大的原因是模型的误差项是以乘积的形式与预测值结合在一起，所以即使计算得到的第 1 期郑佳等：基于不确定理论的非线性回归模型参数的极大似然估计方法的研究27数值很小，如果预测值数值较大，也会使误差变大。所以我们将此模型进行改进，将模型的误差项用加和的形式与预测值结合在一起，然后再进行模型线性化的转换。函数模型为+bxyae=式中：a 和 b 是与 x 无关的未知参数。将移动到等式左边，然后取对数ln()lnyabx-=+取a、b使得lniab x+的取值范围属于ln(),ln()iiyy-+，1=min|inbxiiyae=-证明似然函数11221exp(|)33(,|,.,)(1exp(|)3niinniiezL a b ez zzez=-=+-式中：ibxiizyae=-。121max(,|,.,)min|nniiL a b ez zzez=-=ibxiiyzae-ln()=lniiiyzabx-+1=min|inbxiiyae=-使lniab x+的取值范围属于ln(),ln()iiyy-+，即 zi的取值范围属于,-，且服从不确定分布。证毕。计算步骤如下：定义0，初值为一较大的数值。计算 a0、b0，满足00lniab x+的取值范围属于00ln(),ln()iiyy-+。定义1=-+-，得到*。5数据仿真本文使用的数据是中国历年全体居民居住支出统计8，具体数据如表 1 所示。表 1中国历年居民居住支出统计表i1234567891011121314年份19981999200020012002200320042005200620072008200920102011居住支出30733441944852760567479698011761453169819272198假设(xi,yi)，i=1,214 为一组观测值（表 1），回归模型为+bxyae=式中：是正态不确定变量 N(e,)，e、是未知参数。两边取对数：lnlnlnyabx=+为了获得极大似然估计量，通过28辽宁工业大学学报(自然科学版)第 43 卷14,1min|lnln|iia biyabx=-得到(a*,b*)；通过2424*2110maxexp(|lnln|)(1exp(|lnln|)333iiiiiiyab xyab x=-+-得到*，然后得到极大似然估计*(,)(268,0.1432,0,0.1502)a b e=因此，拟合的非线性回归模型为0.1432268xye=。观察到*24*1|208.2ib xiiya e=-=误差较大。使用改进的非线性回归模型线性化，观察一下结果。函数模型为+bxyae=，将移动到等式左边，然后取对数ln()lnyabx-=+，计算a、b使lniab x+的取值范围属于ln(),ln()iiyy-+，且取最小值。得到(,)(266.1,0.15)ab=因此，拟合的非线性回归模型为0.15266.1xye=误差为*14*1|88.189ib xiiya e=-=。通过比较两个非线性回归模型结果可以发现，这 2 个模型的结果有很显著差异，改进后的模型的误差远小于原来模型产生的误差。6结论本文主要研究基于不确定理论的非线性回归模型参数的极大似然估计。采用了数据仿真方法，以模型一为例。首先通过对等式两边取对数的方法将非线性回归模型转换为线性回归模型，再利用刘宝碇提出的不确定理论中的极大似然估计方法，得到参数估计，进而