模糊神经网络资料.ppt

第十一讲 混合智能控制 模糊神经网络 ANN（Artificial Neural Network）和 FLS（Fuzzy Logical Network）的比较：相同之处 1）都是非数值型的非线性函数的逼近器、估计器、和动态系统；2）不需要数学模型进行描述，但都可用 数学工具进行处理；3）都适合于VLSI、光电器件等硬件实现。不同之处：工作机制方面：ANN大量、高度连接，按样本进行学习 FLS 按语言变量、通过隐含、推理和去 模糊获得结果。应用上：ANN偏重于模式识别，分类 FLN 偏重于控制 神经模糊网络把ANN的学习机制和FLN的人类思维和推理结合起来。信息处理基本单元方面：ANN数值点样本，xi yi FLN模糊集合（Ai，Bi）运行模式方面：ANN学习过程透明，不对结构知识编码 FLN不透明，对结构知识进行编码，推理过程外界 可知 结合方式有3种：1）神经模糊系统用神经元网络来实现模糊隶属函数、模糊推理，基本上（本质上）还是FLN。2）模糊神经系统神经网络模糊化，本质上还是ANN。3）模糊-神经混合系统二者有机结合。基于神经网络的模糊逻辑运算 用神经网络实现隶属函数 神经网络驱动模糊推理 神经网络的模糊建模 用神经网络实现隶属函数 )(exp11)(1cgswxwxywc 和 wg 分别确定Sigmoid函数的中心和宽度,S(x),M(x),L(x)组成大、中、小三个论域的隶属函数。逻辑“与”可以用Softmin 来实现：kbkakbkaeebeaebaba),min(soft)（b)Min(a,b)Softmin(a,时，当k函数。是非线性函数，生成 sigmoida神经网络驱动模糊推理（NDF）),z ,:yxfThenBYAXIfRiiii（是是和是rsxxxNNyThenAxxxXIfRnsssns,.,2,1 ),.,(,),.,(:2121是 解决模糊推理中二个问题：缺乏确定的方法选择隶属函数；缺乏学习功能校正推理规则。用神经网络实现TS模型，称为神经网络驱动模糊推理(NDF).网络由二部分组成:r为规则数,As是前提的模糊集合.NNs是模型的函数结构,由BP网络实现.学习的网络和训练的步骤 8 2)将数据聚类.分成r 类.即有r 条规则.TRD的数据有N t 个.3)训练规则的前提部分网络NNm.。4）训练对应于规则R s的后件部分（Then部分）NN s 6 6（加权）或 )()()()()(2121iAisNiiiAsmiAisNiismxxyxExxyEscssc5）简化后件部分 在NN S的输入端，任意消去x p，比较误差：6）最终输出 6 神经网络的模糊建模 有三种模型：后件为恒值：iniiniiiniiiiiiffnifyThenAxAxIfR111*2211/y ),.,2,1(,:21是和是3,2,1,21ii 后件为一阶线性方程 0,1,2)(j ),(),(),(,.,2,1 ),(,:22110212111211*21221121是常数是和是ijiiiiniiiniiniiiiiiiaxaxaaxxfxxfxxfynixxfyThenAxAxIfRniiiiiiixxx1)(/)()(后件为模糊变量)()(2,1 .,.,2,1 ),(:12121211*1221121kBkkkkkkBkRniikRkiiikkkikikykniByThenAxAxIfR是是是和是应用 假定要辨识的系统为 25.13125.01)1(xxxg数据40 对，见表6.1 评判指标:UCEECyyyyUCyyEyyEBAniBBiBAiniAAiABiniBBiBiAniAAiAiABABA2212121212)()()()(常 数 模 型 常 数 模 型 隶属函数的变化 非 线 性 模 型 非线性模型隶属函数的变化 语 言 输 出 模 型 语 言 输 出 模 型 隶属函数的变化 I IIIII 神经网络模糊化 模糊感知器 精确划分的问题：每个分量都有同 样的“重要性”，用在分类时，当分类有 重叠时（如图），得不到很好的结果。模糊感知器的基本思想：给隶属函数以一定的修正量，对隶属度接近0.5的样本,在确定权值向量时,给予较小的影响:是分类的数目。的维数。是向量迭代次数）ixpxxixnjxyyxxWWkipkkiikijkkdkmkkjkjk 1,0)(),(0 .2,1 ,1)(11 ,)()(121211模糊感知器算法的问题:1)如何选择 m?2)如何给向量赋与模糊隶属函数?3)算法的终止判据.回答：1）m 1;如隶属函数接近0.5.m 1；如隶属函数大于0.5.2)给向量赋与模糊隶属函数的规则:)1)()(25.0)1)()(25.0)21/)(212/)(12112kkfffdddfkkkfffdddfkxxeeeexIIxxeeeexI（：对类别（：对类别其中:.5.0 )()(21的速率控制隶属函数下降到是正常数，均值之间的距离；和是类别的距离；相当于离聚类中心均值是属于向量类别的距离；相当于离聚类中心均值是属于向量类别fIIIdIIdId3)算法停止的判据:.5.0 0.02,0 )(21 5.0)5.0)(21附近在（或BetaeeeBetaBetaxBetaxfffkk产生良好的结果.模糊联想存储器（FAM）双向联想存贮器的模糊化。把双向联想存贮器的权矩阵变换 成模糊集合的关系（关联）矩阵。（当分类错误，不确定向量不再产生另一迭代）BAMT6.05.09.06.05.09.05.05.05.02.02.02.06.05.09.00.19.05.02.0BAMTjiijTbamBAM6.05.09.045.045.081.03.025.045.012.01.018.0BAMT模糊关联矩阵M确定有二种方法：1）相关最小编码 m i j=Min（a i,b j）假定A=(0.2 0.5 0.9 1.0),B=(0.9 0.5 0.6),则：2）相关乘积编码 现在看，如果有A能否“回忆”起B？AM=B；BMT=0.2 0.5 0.9 0.9=A A.mkkkBWB1.,.,2,1 )(mkBAAMABkTkkk)(/)(11ipiBiBpiiyyyB现在看，如果有A能否“回忆”起B？如果AT=(0 0 0 1),则ATM=B；如果AT=（1 0 0 0）则 ATM=（0.18 0.1 0.12)只回忆起B的20%。由m个FAM组成的FAM系统。把m个关联（A k，B k）分别存到存贮库中，把m 个记忆向量 叠加起来。即：所记忆的隶属向量，等于各记忆向量的加权和：如在输出论域Y=（y1,y2,y p)需要一个单独的输出，则要去模糊：A并行地加于各联想存贮器上。神经模糊网络神经模糊控制器 对任一节点对任一节点i 输入与输出的关系：输入与输出的关系：输入：kpkkkpkkiwwwuuufnet2121,代表组合代表层次 fk,输出：fanetaoOutputiki 模糊自适应学习控制网络模糊自适应学习控制网络(FALCON)(FALCON)29 第5层：一样，产生隶属函数2）自上至下与第2层 .:5555与第1层一样 上而下由2)权值 输出：隶属函数为钟形 输入：决策、去模糊:由下至上1)ijijijijijijijjjijijijijmwyufaumuwf 学习（训练）目的：1）决定第2层和第4层中的隶属函数中心mij和宽度ij 2）决定第3层和第4层中的规则 自组织学习 a)输入变量输入变量x x1 1空间的划分空间的划分 T(x1)T(x2)T(x n)=T(x)T(y i)b)b)第第4 4层处在自上至下的模式层处在自上至下的模式 clostiiiclostclostclostikiclostmmtmtmtmtxttmtmtmtxtmtx对 ),()1()()()()()1()()(min)()(1的任意一个量代表输入、输出语言变,.,.,)(2121mnyyyxxxtx21221 NiNjijinrmmE3rd)确定连接和模糊规则 e)规则合并,减少规则 1)有完全相同的结果 2)前提一样的规则 3)其它前提的并,组成了某些输入变量的整个术语的集合 监督学习阶段 221tytyEdimE=)5(aEima)5(=-dy(t)-y(t)iiiiuu)5()5(im(t+1)=im(t)+dy(t)-y(t)iiiiiuu)5()5(iE=)5(aEia)5(=-dy(t)-y(t)iiiiiiiiiiiiiuuumuum2)5()5()5()5()5()()()(i(t+1)=i(t)+dy(t)-y(t)iiiiiiiiiiiiiuuumuum2)5()5()5()5()5()()()()(/)5()5(tyyyEaEd神经-模糊网络（控制器）的参数学习（ANFIS）22212120122221122121111011221111 :xaxaafyThenAxAxIfRxaxaafyThenAxAxIfR，是和是，是和是)()(2,1 )()(222121202212111101221121212211*21xaxaaxaxaaffjxxffyjjAAj，相应的ANFIS网络如图示。隶属函数为钟形：111xA 222xA 212xA 121xA)/)(1(1)(2jijibjijiiiAmxx)()(/2121xxjjAAjj)(22110 xaxaafjjjj要调节的参数：a,a,a ,j2j1j0和jijijibm对后件参数，可以用Kalman滤波方法进行计算，此时，把后件 参数排列成向量：222120121110,aaaaaa)()(222)(121202)(212)(111101)2()2(222)2(121202)2(212)2(111101)1()1(222)1(121202)1(212)1(111101)()()()()()(pppppdxaxaaxaxaadxaxaaxaxaadxaxaaxaxaa一组线性方程求解。)()2()1(222120121110)(2)(2)(1)(2)(2)(2)(1)(1)(1)(1)2(2)2(2)1(1)2(2)2(2)2(2)2(1)1(1)2(1)2(1)1(2)1(2)1(1)1(2)1(2)1(2)1(1)1(1)1(1)1(1 pppppppppppdddaaaaaaxxxxxxxxxxxx.,.,2,1),()()(2)(1是样板数目是样本，pkdxxkkkDXXXATT1)(