加权最小二乘法(WLS)

如果模型被检验证明存在异方差性，则需要发展新的方法估计模型，最经常使用的方法是加权最小二乘法。

加权最小二乘法是对原模型加权，使之酿成一个新的不存在异方差性的模型，然后采取普通最小二乘法估计其参数。下面先看一个例子。

原模型：yi01x1i2x2ikxkiui， 如果在检验过程中已经知道：

2i1,2,,nD(ui)E(ui)i2f(x2i)u, 2即随机误差项的方差与解释变量x2之间存在相关性，模型存在异方差。那么可以用f(x2)去除原模型，使之酿成如下形式的新模型：

在该模型中，存在

D(11122ui)E(ui)2E(ui)uf(x2i)f(x2i)f(x2i) (4.2.1)

即同方差性。于是可以用普通最小二乘法估计其参数，得到关于参数0,1,,k的无偏的、有效的估计量。这就是加权最小二乘1法，在这里权就是f(x2i)。

一般情况下，对于模型

YX

(4.2.2) 若存在：

w1Ww2wn

(4.2.3)

则原模型存在异方差性。设

w1D1w2w111Dwn, w211wn 用D左乘(.2)两边，得到一个新的模型：

D1YD1XD1 (4.2.4)

即

该模型具有同方差性。因为

于是，可以用普通最小二乘法估计模型(4.2.4)，得到参数估计量为：

(XTD1D1X)1XTD1D1Y(XTW1X)1XTW1Y(4.2.5)

这就是原模型(2.6.2)的加权最小二乘估计量，是无偏的、有效的估计量。

如何得到权矩阵W？仍然是对原模型首先采取普通最小二乘法，得到随机误差项的近似估计量，以此构成权矩阵的估计量，即

TT

e12ˆW2e22en

(4.2.6)

当我们应用计量经济学软件包时，只要选择加权最小二乘法，将上述权矩阵输入，估计过程即告完成。这样，就引出了人们通常采取的经验方法，即其实分歧错误原模型进行异方差性检验，而是直接选择加权最小二乘法，尤其是采取截面数据作样本时。如果确实存在异方差性，则被有效地消除了；如果不存在异方差性，则加权最小二乘法等价于普通最小二乘法。