第十二章其他回归方法.ppt

第十二章 其他回归方法,本章讨论加权最小二乘估计，异方差性和自相关一致协方差估计，两阶段最小二乘估计（TSLS），非线性最小二乘估计和广义矩估计（GMM）。这里的大多数方法在第十九章的联立方程系统中也适用。本章中某些估计方法中含有AR和MA误差项，这些概念将在第十三章中深入介绍。,线性回归模型的基本假设,i=1,2,n,在普通最小二乘法中，为保证参数估计量具有良好的性质，通常对模型提出若干基本假设：1解释变量之间互不相关；2随机误差项具有0均值和同方差。即,i=1,2,n,即随机误差项的方差是与观测时点t无关的常数；3不同时点的随机误差项互不相关（序列不相关），即,4随机误差项与解释变量之间互不相关。即,5随机误差项服从0均值、同方差的正态分布。即,当随机误差项满足假定1 4时，将回归模型”称为“标准回归模型”，当随机误差项满足假定1 5时，将回归模型称为“标准正态回归模型”。如果实际模型满足不了这些假定，普通最小二乘法就不再适用，而要发展其他方法来估计模型。,j=1,2,k,i=1,2,n,i=1,2,n,s 0,i=1,2,n,古典线性回归模型的一个重要假设是总体回归方程的随机扰动项 同方差，即他们具有相同的方差。如果随机扰动项的方差随观测值不同而异，即 的方差为，就是异方差。用符号表示异方差为。异方差性在许多应用中都存在，但主要出现在截面数据分析中。例如我们调查不同规模公司的利润，会发现大公司的利润变化幅度要比小公司的利润变化幅度大，即大公司利润的方差比小公司利润的方差大。利润方差的大小取决于公司的规模、产业特点、研究开发支出多少等因素。又如在分析家庭支出模式时，我们会发现高收入家庭通常比低收入家庭对某些商品的支出有更大的方差。,12.1 加权最小二乘估计,表1 中国1998年各地区城镇居民平均每人全年家庭可支配收入及交通和通讯支出 单位：元,我们研究人均家庭交通及通讯支出(CUM)和可支配收入(IN)的关系，考虑如下方程：CUM=B0+B1IN+ui 利用普通最小二乘法，得到如下回归模型：CUM=-56.917+0.05807*IN(1.57)(8.96)R2=0.74 D.W.=2.00,从图形上可以看出，平均而言，城镇居民家庭交通和通讯支出随可支配收入的增加而增加。但是，值得注意的是：随着可支配收入的增加，交通和通讯支出的变动幅度也增大了，可能存在异方差。如果我们把回归方程中得到的残差对各个观测值作图，则可以清楚地看到这一点。异方差的存在并不破坏普通最小二乘法的无偏性，但是估计量却不是有效的，即使对大样本也是如此，因为缺乏有效性，所以通常的假设检验值不可靠。因此怀疑存在异方差或者已经检测到异方差的存在，则采取补救措施就很重要。假设有已知形式的异方差性，并且有序列w，其值与误差标准差的倒数成比例。这时可以采用权数序列为w的加权最小二乘估计来修正异方差性。,对加权自变量和因变量最小化残差平方和得到估计结果:,在矩阵概念下，令权数序列w在权数矩阵W的对角线上，其他地方是零，即W 矩阵是对角矩阵，y和X是因变量和自变量矩阵。则加权最小二乘估计量为：,是k维向量,估计协方差矩阵为：,由于一般不知道异方差的形式，人们通常采用的经验方法是，并不对原模型进行异方差检验，而是直接选择加权最小二乘法，尤其是采用截面数据作样本时。如果确实存在异方差性，则被有效地消除了；如果不存在异方差性，则加权最小二乘法等价于普通最小二乘法。具体步骤是：1选择普通最小二乘法估计原模型，得到随机误差项的近似估计量；2建立 的数据序列；3选择加权最小二乘法，以 序列作为权，进行估计得到参数估计量。实际上是以 乘原模型的两边，得到一个新模型，采用普通最小二乘法估计新模型。EViews 的加权最小二乘估计方法为，首先把权数序列用均值除，然后与对应的每个观测值相乘，权数序列已被标准化故对参数结果没有影响同时使加权残差比未加权残差更具可比性。然而，标准化意味着EViews的加权最小二乘在残差序列相关时不适用。,使用加权最小二乘法估计方程，首先到主菜单中选Quick/Estimate Equation,然后选择LS-Least Squares(NLS and ARMA)。在对话框中输入方程说明和样本，然后按Options钮,出现如下对话框：,单击Weighted LS/TSLS选项在Weighted 项后填写权数序列名，单击OK。例子：12-1工作文件中eq01。,EViews会打开结果窗口显示标准系数结果（如上图），包括加权统计量和未加权统计量。加权统计结果是用加权数据计算得到的：,未加权结果是基于原始数据计算的残差得到的：,估计后，未加权残差存放在RESID序列中。如果残差方差假设正确，则加权残差不应具有异方差性。如果方差假设正确的话，未加权残差应具有异方差性，残差标准差的倒数在每个时刻t与w成比例。在包含ARMA项方程中加权选项将被忽略。也要注意对于二元的，计数等离散和受限因变量模型加权选项也不适用。,12.2 异方差性和自相关一致协方差（HAC）Heteroskedasticity and Autocorrelation Consistent Covariances,当异方差性形式未知时，使用加权最小二乘法不能得到参数的有效估计。OLS提供在异方差存在时的一致参数估计，但通常的OLS标准差将不正确。在描述HAC协方差估计技术之前，应注意：使用White异方差一致协方差或Newey-West异方差一致协方差估计不会改变参数的点估计，只改变参数的估计标准差。可以结合几种方法来计算异方差和序列相关。如把加权最小二乘估计与White 或Newey-West协方差矩阵估计相结合。,12.2.1 异方差一致协方差估计（White）Heteroskedasticity Consistent Covariances（White）,White(1980)得出在存在未知形式的异方差时，对系数协方差进行正确估计的异方差一致协方差估计量。White 协方差矩阵公式为：,其中T是观测值数，k是回归变量数，是最小二乘残差。EViews在标准OLS公式中提供White协方差估计选项。打开方程对话框，说明方程，然后按Options钮。接着，单击异方差一致协方差(Heteroskedasticity Consistent Covariance)，选择White 钮，接受选项估计方程。,在输出结果中，EViews会包含一行文字说明表明使用了White估计量。,12.2.2 HAC一致协方差（Newey-West）,前面描述的White协方差矩阵假设被估计方程的残差是序列不相关的。Newey和West(1987)提出了一个更一般的估计量，在有未知形式的异方差和自相关存在时仍保持一致。Newey-West估计量为：,其中,q是滞后截尾，一个用于评价OLS残差 的动态的自相关数目的参数。根据Newey-West 假设，EViews中令q为：要使用Newey-West 方法，在估计对话框中按Options钮。在异方差一致协方差项中选Newey-West钮。,12.3 二阶段最小二乘法,回归分析的一个基本假设是方程右边变量，即解释变量与随机扰动项不相关。如果违背了这一假设，OLS和加权LS都是有偏的和不一致的。有几种情况使右边某些解释变量与扰动项相关。如：在方程右边有内生决定变量，右边变量具有测量误差。为简化起见，我们称与残差相关的变量为内生变量，与残差不相关的变量为外生变量或前定变量。解决方程右边解释变量与残差相关的方法是使用工具变量回归。就是要找到一组变量满足下面两个条件：（1）与方程解释变量相关；（2）与扰动项不相关；这些变量就可成为工具变量。用这些工具变量来消除右边解释变量与扰动项之间的相关性。,