10第10章
方差分析1
10
方差分析
第10章 方差分析,10.1 方差分析引论 10.2 单因素方差分析10.3 双因素方差分析,第10章 方差分析,学习目标,解释方差分析的概念解释方差分析的基本思想和原理掌握单因素方差分析的方法及应用理解多重比较的意义掌握双因素方差分析的方法及应用,10.1 方差分析引论,10.1.1 方差分析及其有关术语10.1.2 方差分析的基本思想和原理10.1.3 方差分析的基本假定10.1.4 问题的一般提法,方差分析及其有关术语,什么是方差分析(ANOVA)?(analysis of variance),检验多个总体均值是否相等通过分析数据的误差判断各总体均值是否相等研究分类型自变量对数值型因变量的影响 一个或多个分类型自变量两个或多个(k 个)处理水平或分类一个数值型因变量有单因素方差分析和双因素方差分析单因素方差分析:涉及一个分类的自变量双因素方差分析:涉及两个分类的自变量,什么是方差分析?(例题分析),【例】为了对几个行业的服务质量进行评价,消费者协会在4个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共23家企业投诉的次数如下表,什么是方差分析?(例题分析),分析4个行业之间的服务质量是否有显著差异,也就是要判断“行业”对“投诉次数”是否有显著影响作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等若它们的均值相等,则意味着“行业”对投诉次数是没有影响的,即它们之间的服务质量没有显著差异;若均值不全相等,则意味着“行业”对投诉次数是有影响的,它们之间的服务质量有显著差异,方差分析中的有关术语,因素或因子(factor)所要检验的对象分析行业对投诉次数的影响,行业是要检验的因子水平或处理(treatment)因子的不同表现零售业、旅游业、航空公司、家电制造业观察值在每个因素水平下得到的样本数据每个行业被投诉的次数,方差分析中的有关术语,试验这里只涉及一个因素,因此称为单因素4水平的试验总体因素的每一个水平可以看作是一个总体零售业、旅游业、航空公司、家电制造业是4个总体样本数据被投诉次数可以看作是从这4个总体中抽取的样本数据,方差分析的基本思想和原理,方差分析的基本思想和原理(图形分析散点图),从散点图上可以看出不同行业被投诉的次数有明显差异同一个行业,不同企业被投诉的次数也明显不同家电制造被投诉的次数较高,航空公司被投诉的次数较低行业与被投诉次数之间有一定的关系如果行业与被投诉次数之间没有关系,那么它们被投诉的次数应该差不多相同,在散点图上所呈现的模式也就应该很接近,方差分析的基本思想和原理(图形分析),散点图观察不能提供充分的证据证明不同行业被投诉的次数之间有显著差异这种差异可能是由于抽样的随机性所造成的需要有更准确的方法来检验这种差异是否显著,也就是进行方差分析所以叫方差分析,因为虽然我们感兴趣的是均值,但在判断均值之间是否有差异时则需要借助于方差这个名字也表示:它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此,进行方差分析时,需要考察数据误差的来源,方差分析的基本思想和原理,方差分析的基本思想和原理(两类误差),随机误差因素的同一水平(总体)下,样本各观察值之间的差异比如,同一行业下不同企业被投诉次数之间的差异这种差异可以看成是随机因素的影响,称为随机误差 系统误差因素的不同水平(不同总体)之间观察值的差异比如,不同行业之间的被投诉次数之间的差异这种差异可能是由于抽样的随机性所造成的,也可能是由于行业本身所造成的,后者所形成的误差是由系统性因素造成的,称为系统误差,方差分析的基本思想和原理(误差平方和SS),数据的误差用平方和(sum of squares)表示组内平方和(within groups)因素的同一水平下数据误差的平方和比如,零售业被投诉次数的误差平方和只包含随机误差组间平方和(between groups)因素的不同水平之间数据误差的平方和比如,4个行业被投诉次数之间的误差平方和既包括随机误差,也包括系统误差,方差分析的基本思想和原理(均方MS),平方和除以相应的自由度若原假设成立,组间均方与组内均方的数值就应该很接近,它们的比值就会接近1若原假设不成立,组间均方会大于组内均方,它们之间的比值就会大于1当这个比值大到某种程度时,就可以说不同水平之间存在着显著差异,即自变量对因变量有影响判断行业对投诉次数是否有显著影响,也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差,说明不同行业对投诉次数有显著影响,方差分析的基本假定,方差分析的基本假定,每个总体都应服从正态分布对于因素的每一个水平,其观察值是来自服从正态分布总体的简单随机样本比如,每个行业被投诉的次数必须服从正态分布各个总体的方差必须相同各组观察数据是从具有相同方差的总体中抽取的比如,4个行业被投诉次数的方差都相等观察值是独立的比如,每个行业被投诉的次数与其他行业被投诉的次数独立,方差分析中的基本假定,在上述假定条件下,判断行业对投诉次数是否有显著影响,实际上也就是检验具有同方差的4个正态总体的均值是否相等如果4个总体的均值相等,可以期望4个样本的均值也会很接近4个样本的均值越接近,推断4个总体均值相等的证据也就越充分样本均值越不同,推断总体均值不同的证据就越充分,方差分析中基本假定,如果原假设成立,即H0:m1=m2=m3=m44个行业被投诉次数的均值都相等意味着每个样本都来自均值为、方差为 2的同一正态总体,X,f(X),1 2 3 4,方差分析中基本假定,若备择假设成立,即H1:mi(i=1,2,3,4)不全相等至少有一个总体的均值是不同的4个样本分别来自均值不同的4个正态总体,问题的一般提法,问题的一般提法,设因素有k个水平,每个水平的均值分别用1,2,k 表示要检验k个水平(总体)的均值是否相等,需要提出如下假设:H0:1 2 k H1:1,2,,k 不全相等设1为零售业被投诉次数的均值,2为旅游业被投诉次数的均值,3为航空公司被投诉次数的均值,4为家电制造业被投诉次数的均值,提出的假设为H0:1 2 3 4 H1:1,2,3,4 不全相等,10.2 单因素方差分析,10.2.1 数据结构10.2.2 分析步骤10.2.3 关系强度的测量10.2.4 方差分析中的多重比较,单因素方差分析的数据结构(one-way analysis of variance),分析步骤提出假设构造检验统计量统计决策,提出假设,一般提法H0:m1=m2=mk 自变量对因变量没有显著影响 H1:m1,m2,mk不全相等自变量对因变量有显著影响 注意:拒绝原假设,只表明至少有两个总体的均值不相等,并不意味着所有的均值都不相等,构造检验的统计量,构造统计量需要计算水平的均值全部观察值的总均值误差平方和均方(MS),构造检验的统计量(计算水平的均值),假定从第i个总体中抽取一个容量为ni的简单随机样本,第i个总体的样本均值为该样本的全部观察值总和除以观察值的个数计算公式为,式中:ni为第 i 个总体的样本观察值个数 xij 为第 i 个总体的第 j 个观察值,构造检验的统计量(计算全部观察值的总均值),全部观察值的总和除以观察值的总个数计算公式为,构造检验的统计量(例题分析),构造检验的统计量(计算总误差平方和 SST),全部观察值 与总平均值 的离差平方和反映全部观察值的离散状况其计算公式为,前例的计算结果 SST=(57-47.869565)2+(58-47.869565)2=115.9295,构造检验的统计量(计算组间平方和 SSA),各组平均值 与总平均值 的离差平方和反映各总体的样本均值之间的差异程度该平方和既包括随机误差,也包括系统误差计算公式为,前例的计算结果 SSA=1456.608696,构造检验的统计量(计算组内平方和 SSE),每个水平或组的各样本数据与其组平均值的离差平方和反映每个样本各观察值的离散状况该平方和反映的是随机误差的大小计算公式为,前例的计算结果 SSE=2708,构造检验的统计量(三个平方和的关系),总离差平方和(SST)、误差项离差平方和(SSE)、水平项离差平方和(SSA)之间的关系,SST=SSA+SSE,前例的计算结果 4164.608696=1456.608696+2708,构造检验的统计量(计算均方MS),各误差平方和的大小与观察值的多少有关,为消除观察值多少对误差平方和大小的影响,需要将其平均,这就是均方,也称为方差由误差平方和除以相应的自由度求得三个平方和对应的自由度分别是SST 的自由度为n-1,其中n为全部观察值的个数SSA的自由度为k-1,其中k为因素水平(总体)的个数SSE 的自由度为n-k,构造检验的统计量(计算均方 MS),组间方差:SSA的均方,记为MSA,计算公式为,组内方差:SSE的均方,记为MSE,计算公式为,构造检验的统计量(计算检验统计量 F),将MSA和MSE进行对比,即得到所需要的检验统计量F当H0为真时,二者的比值服从分子自由度为k-1、分母自由度为 n-k 的 F 分布,即,构造检验的统计量(F分布与拒绝域),如果均值相等,F=MSA/MSE1,统计决策,将统计量的值F与给定的显著性水平的临界值F进行比较,作出对原假设H0的决策根据给定的显著性水平,在F分布表中查找与第一自由度df1k-1、第二自由度df2=n-k 相应的临界值 F 若FF,则拒绝原假设H0,表明均值之间的差异是显著的,所检验的因素对观察值有显著影响若FF,则不拒绝原假设H0,无证据表明所检验的因素对观察值有显著影响,单因素方差分析表(基本结构),单因素方差分析(例题分析),用Excel进行方差分析(Excel分析步骤),第1步:选择“工具”下拉菜单第2步:选择【数据分析】选项第3步:在分析工具中选择【单因素方差分析】,然后选择【确定】第4步:当对话框出现时 在【输入区域】方框内键入数据单元格区域 在【】方框内键入0.05(可根据需要确定)在【输出选项】中选择输出区域,关系强度的测量,关系强度的测量,拒绝原假设表明因素(自变量)与观测值之间有显著关系组间平方和(SSA)度量了自变量(行业)对因变量(投诉次数)的影响效应只要组间平方和SSA不等于0,就表明两个变量之间有关系(只是是否显著的问题)当组间平方和比组内平方和(SSE)大,而且大到一定程度时,就意味着两个变量之间的关系显著,大得越多,表明它们之间的关系就越强。反之,就意味着两个变量之间的关系不显著,小得越多,表明它们之间的关系就越弱,关系强度的测量,变量间关系的强度用自变量平方和(SSA)占总平方和(SST)的比例大小来反映自变量平方和占总平方和的比例记为R2,即其平方根R就可以用来测量两个变量之间的关系强度,关系强度的测量(例题分析),R=0.591404结论行业(自变量)对投诉次数(因变量)的影响效应占总效应的34.9759%,而残差效应则占65.0241%。即行业对投诉次数差异解释的比例达到近35%,而其他因素(残差变量)所解释的比例近为65%以上 R=0.591404,表明行业与投诉次数之间有中等以上的关系,方差分析中的多重比较(multiple comparison procedures),多重比较的意义,通过对总体均值之间的配对比较来进一步检验到底哪些均值之间存在差异可采用Fisher提出的最小显著差异方法,简写为LSDLSD方法是对检验两个总体均值是否相等的t检验方法的总体方差估计加以修正(用MSE来代替)而得到的,多重比较的步骤,提出假设H0:mi=mj(第i个总体的均值等于第j个总体的均值)H1:mimj(第i个总体的均值不等于第j个总体的均值)计算检验的统计量:计算LSD决策:若,拒绝H0;若,不拒绝H0,多重比较分析(例题分析),第1步:提出假设检验1:检验2:检验3:检验4:检验5:检验6:,方差分析中的多重比较(例题分析),第2步:计算检验统计量检验1:检验2:检验3:检验4:检验5:检验6:,方差分析中的多重比较(例题分析),第3步:计算LSD检验1:检验2:检验3:检验4:检验5:检验6:,方差分析中的多重比较(例题分析),第4步:作出决策,不能认为零售业与旅游业均值之间有显著差异,不能认为零售业与航空公司均值之间有显著差异,不能认为零售业与家电业均值之间有显著差异,不能认为旅游业与航空业均值之间有显著差异,不能认为旅游业与家电业均值之间有显著差异,航空业与家电业均值有显著差异,10.3 双因素方差分析,10.3.1 双因素方差分析及其类型10.3.2 无交互作用的双因素方差分析10.3.3 有交互作用的双因素方差分析,双因素方差分析(two-way analysis of variance),分析两个因素(行因素Row和列因素Column)对试验结果的影响 如果两个因素对试验结果的影响是相互独立的,分别判断行因素和列因素对试验数据的影响,这时的双因素方差分析称为无交互作用的双因素方差分析或无重复双因素方差分析(Two-factor without replication)如果除了行因素和列因素对试验数据的单独影响外,两个因素的搭配还会对结果产生一种新的影响,这时的双因素方差分析称为有交互作用的双因素方差分析或可重复双因素方差分析(Two-factor with replication),双因素方差分析的基本假定,每个总体都服从正态分布对于因素的每一个水平,其观察值是来自正态分布总体的简单随机样本各个总体的方差必须相同对于各组观察数据,是从具有相同方差的总体中抽取的观察值是独立的,无交互作用的双因素方差分析(无重复双因素分析),双因素方差分析(例题分析),【例】有4个品牌的彩电在5个地区销售,为分析彩电的品牌(品牌因素)和销售地区(地区因素)对销售量的影响,对每显著个品牌在各地区的销售量取得以下数据。试分析品牌和销售地区对彩电的销售量是否有显著影响?(=0.05),数据结构,数据结构,